Flock 카메라 데이터 한 건에 무고한 여성 13일 구금, 그중 3일은 독방

Flock이 이 여성을 감옥에 보낸 게 아님. 번호판 데이터 하나 믿고 색이 다른 차, 흔적도 없는 차를 그대로 체포한 경찰이 보낸 거지. 도구 탓하기 전에 비판적으로 검증하는 게 수사기관의 일임.

그 말 다 맞는데, 경찰이 원래 저렇다는 걸 알면서 왜 그 손에 남용하기 더 쉬운 도구를 쥐여주는 거냐는 거임. 시민 입장에서는 그냥 더 당하기 쉬워지는 건데.

근데 기사도 '무능한 경찰이 Flock 데이터 한 건으로 체포했다'고 이미 그렇게 썼음. Flock에만 화살 돌리는 프레임은 좀 과장이라고 봄.

둘 다임. 저지른 경찰을 문책해야 하고, 동시에 이런 감식·식별 시스템 자체를 제한해서 남용할 기회를 줄여야 하고.

그리고 이런 식별 기술이 있고 없고의 차이가 실질적인데, 굳이 자동화가 뭔가를 '결정'했다는 식으로 부풀릴 필요는 없지 않나 싶기도 함. 데이터는 정확하게 줬고 경찰이 오용한 거니까.

자동화 도구만 주면 사람은 게을러져서 도구 없을 때보다 실수가 더 늘어난다는 건 이미 알려진 현상임. '기계가 결정 안 했으니 상관없다'는 말은 설득력이 떨어짐.

의지 유무는 상관없음. 호흡 측정기는 '이 사람이 음주자다'고 한 사람을 콕 집어 지목하지 않는데, ALPR은 지목하잖아. 그 차이가 사고를 키운 거고.

판사도 아니고 경찰한테 비판적 검증을 기대하는 게 문제라는 의견도 있음. Jordan v. City of New London 판례 보면 지나치게 인지 능력이 높은 지원자를 떨어뜨린 경찰서도 있었다고 함.

여튼 근본적으로는 Flock 데이터가 아예 없었으면 이 상황 자체가 없었음. 경찰-카메라가 붙은 시스템 전체를 봐야 한다는 얘기지.

증거가 Flock이 아니라 그냥 랜덤 블랙박스였으면 경찰 무능 사건으로 끝날 일이었음. 차 파손 안 본 거, 13일 동안 기본 검토 안 한 거, 기지국 삼각측량으로 위치 배제 안 한 건 Flock 잘못이 아니라서.

그래도 경찰이 이 여성을 구체적으로 지목한 근거가 Flock 정보였잖음. 확인해 볼 수 있었는데 안 했고, 도구가 '더 안 봐도 된다'는 빌미를 줬다는 건 무시 못 함.

그냥 게으름을 가능하게 만든 것뿐임. 진짜 수사하라고 강제됐으면 경찰 머리로 생각했을 듯.

일반 블랙박스는 경찰한테 누군가의 신원을 갖다 바치지 않는데, 여기선 Flock 소프트웨어가 정황도 없이 이 여성을 용의자로 지목한 거임. 오탐률 높은 얼굴 인식이랑 ALPR은 존재 자체를 다시 봐야 한다고 봄.

며칠 전 상원 청문회에서 이 여성이 증언했고 Benn Jordan이랑 EFF의 Chad Marlow도 나왔음. 이 문제를 전국 무대에서 정확히 짚어주는 걸 들으니 좋았음.

재미있는 건 공화당 소속 Ross Teeple 보안관도 Flock 같은 네트워크형·기록 보존형 ALPR에 반대 증언을 했다는 점임.

Flock이 감옥에 보낸 게 아니라 검찰이랑 경찰이 보낸 거임. 기술 실패가 아니라 추론을 AI 카메라 서비스에 떠넘긴 조직의 실패라고 보는 게 맞음.

비유하자면 누가 경찰서에 들어와서 아무 사람이나 살인범으로 신고했는데 경찰이 그 사람을 바로 구속하면, 주된 책임은 신고자한테 있는 게 아니라 경찰한테 있지.