디트로이트 — 2020년 1월, 로버트 윌리엄스는 얼굴 인식 기술이 그가 범죄자임을 시사했기 때문에 디트로이트 교도소에서 30시간을 보냈습니다. 매칭이 틀렸고, 윌리엄스는 소송을 제기했습니다.
금요일, 윌리엄스는 잘못된 체포에 대한 법적 합의의 일환으로 디트로이트 경찰서로부터 더 나은 조치를 취하겠다는 약속을 받았습니다. 이 도시는 윌리엄스를 대리한 American Civil Liberties Union이 새로운 국가적 표준이 되어야 한다고 말하는 얼굴 인식 기술에 대한 경찰의 사용에 대한 새로운 규칙을 채택했습니다.
윌리엄스는 “우리는 이것이 올바른 방향으로 나아가기를 바랍니다.”라고 말했습니다.
윌리엄스는 얼굴 인식 오류로 인해 부당하게 체포된 첫 번째 사람이었습니다. 하지만 그는 마지막이 아니었습니다. 디트로이트 경찰은 얼굴 인식 검색이 잘못되어 최소 두 명을 체포했는데, 여기에는 임신 8개월 때 자동차 강탈 혐의로 기소된 여성도 포함됩니다.
전국의 법 집행 기관은 얼굴 인식 기술을 사용하여 카메라에 잡힌 범죄를 식별하려고 합니다. 미시간에서 이 소프트웨어는 알려지지 않은 얼굴을 머그샷이나 운전면허증 사진 데이터베이스에 있는 얼굴과 비교합니다. 다른 관할권에서는 경찰이 Clearview AI와 같은 도구를 사용하여 소셜 미디어 사이트와 공개 인터넷에서 스크랩한 사진을 검색합니다.
디트로이트에서 채택된 가장 중요한 새 규칙 중 하나는 얼굴 인식 기술을 통해 식별된 사람들의 이미지를 범죄와 연결시키는 다른 증거가 없는 한 더 이상 목격자에게 보여줄 수 없다는 것입니다.
“사진을 찍고, 줄을 서게 하는 파이프라인은 끝날 것입니다.” ACLU 미시간 지부의 변호사인 필 메이어가 말했습니다. “이 합의로 디트로이트 경찰청은 얼굴 인식 기술을 가장 잘 오용한 것으로 입증된 곳에서 사용에 대한 보호책을 갖춘 전국적인 선두 주자로 변모했습니다.”
경찰은 얼굴 인식 기술이 범죄 해결에 도움이 되는 강력한 도구라고 말하지만, 샌프란시스코, 텍사스 오스틴, 오리건 포틀랜드를 포함한 일부 도시와 주에서는 프라이버시와 인종적 편견에 대한 우려로 일시적으로 사용을 금지했습니다. 디트로이트 범죄 정보부의 정보학 책임자인 스티븐 라모로는 경찰서가 “대중의 안전을 위해 의미 있는 방식으로 기술을 사용하고 싶어한다”고 말했습니다. 그는 디트로이트가 “현재 미국에서 가장 강력한 정책을 가지고 있다”고 주장했습니다.
어떻게 잘못되는가
윌리엄스는 2018년에 일어난 범죄로 체포되었습니다. 한 남자가 디트로이트 도심의 부티크에서 시계 5개를 훔쳐 감시 카메라에 찍혔습니다. 손실 방지 회사가 디트로이트 경찰서에 영상을 제공했습니다.
윌리엄스의 소송의 일부로 공개된 문서에 따르면, 운전면허증 사진과 머그샷에서 남자의 얼굴을 검색한 결과 243장의 사진이 나왔으며, 이는 감시 영상에서 같은 사람이라는 시스템의 확신도 순으로 정렬되었습니다. 윌리엄스의 오래된 운전면허증 사진은 목록에서 9위였습니다. 검색을 담당한 사람은 그를 가장 잘 맞는 사람으로 간주하여 디트로이트 경찰 형사에게 보고서를 보냈습니다.
형사는 윌리엄스의 사진을 “6팩 사진 라인업”에 포함시켰습니다. 격자 안에 6명이 있는 사진입니다. 그는 매장의 감시 영상을 제공한 경비 계약자에게 그것을 보여주었습니다. 그녀는 윌리엄스가 부티크에 있는 남자와 가장 가깝다는 데 동의했고, 이는 그를 체포하기 위한 영장으로 이어졌습니다. 시계가 도난당했을 때 자동차 공급 회사에서 책상에 앉아 있던 윌리엄스는 감옥에서 밤을 보냈고 지문과 DNA가 수집되었습니다. 그는 소매 사기 혐의로 기소되었고 자신을 변호하기 위해 변호사를 고용해야 했습니다. 검찰은 결국 사건을 기각했습니다.
그는 2021년에 디트로이트를 고소하여 다른 사람들이 자신의 운명을 겪지 않도록 이 기술에 대한 금지를 강제하고자 했습니다. 그는 작년에 디트로이트 경찰이 얼굴 인식 매칭이 제대로 되지 않아 포차 우드러프를 카잭킹과 강도 혐의로 기소했다는 사실을 알게 되어 화가 났다고 말했습니다. 경찰은 우드러프가 아이들을 학교에 보내던 중 그녀를 체포했습니다. 그녀는 또한 도시를 고소했으며 소송은 진행 중입니다.
윌리엄스는 얼굴 인식 기술을 언급하며 “너무 위험해요.”라고 말했다. “저는 그 안에 긍정적인 이점이 보이지 않아요.”
새로운 규칙
디트로이트 경찰은 얼굴 인식으로 인해 잘못된 체포가 이루어진 알려진 7건 중 3건을 담당하고 있습니다. (나머지는 루이지애나, 뉴저지, 메릴랜드, 텍사스에 있었습니다.) 하지만 디트로이트 관리들은 새로운 통제로 더 많은 남용을 막을 수 있을 것이라고 말했습니다. 그리고 그들은 이 기술의 범죄 해결 잠재력에 대해 낙관적인 입장을 고수하고 있으며, 현재는 폭행, 살인, 주거 침입 등 심각한 범죄의 경우에만 이 기술을 사용하고 있습니다.
디트로이트 경찰서장인 제임스 화이트는 잘못된 체포의 원인을 “인간의 실수”로 돌렸습니다. 그는 그의 경찰들이 기술이 만들어낸 단서에 너무 많이 의존했다고 말했습니다. 결함이 있는 것은 기계가 아니라 그들의 판단이었습니다.
이번 달부터 시행되는 새로운 정책은 이를 도울 것으로 기대됩니다. 새로운 규칙에 따라 경찰은 얼굴 인식 일치만으로 목격자에게 얼굴을 보여줄 수 없습니다. 디트로이트 범죄 정보부의 라모록스는 “정리대로 가기에 충분한 정당성이 생기기 전에 관련성이 없는 2차적 뒷받침 증거가 있어야 합니다.”라고 말했습니다. 경찰은 사람의 휴대전화에서 위치 정보나 DNA 증거, 즉 물리적 유사성 이상의 것이 필요합니다.
이 부서는 또한 사진 라인업을 수행하는 방식을 변경하고 있습니다. 더블 블라인드 시퀀셜이라고 하는 것을 채택하고 있는데, 이는 누군가를 식별하는 더 공정한 방법으로 간주됩니다. 목격자에게 “식스팩”을 제시하는 대신, 주요 용의자가 누구인지 모르는 경찰관이 사진을 한 번에 하나씩 제시합니다. 그리고 라인업에는 얼굴 인식 시스템이 표면화한 사진과는 다른 사람의 사진이 포함됩니다.
경찰은 또한 얼굴 검색이 있었다는 사실과 검색된 얼굴 이미지의 품질(감시 카메라의 흐릿함은 어느 정도였는가? 용의자의 얼굴은 얼마나 잘 보이는가?)을 공개해야 합니다. 품질이 낮은 이미지는 신뢰할 수 있는 결과를 낼 가능성이 낮기 때문입니다. 또한 자동화된 시스템에서 검색된 사진의 나이와 데이터베이스에 일치하지 않는 다른 사진이 있었는지도 공개해야 합니다.
디트로이트 경찰 부국장 프랭클린 헤이스는 새로운 관행을 통해 앞으로 잘못된 신원 확인이 방지될 것이라고 확신한다고 말했습니다.
“아직 실수할 수 있는 몇 가지가 있습니다. 예를 들어, 일란성 쌍둥이가 있습니다.” Hayes가 말했습니다. “절대 안 된다고 말할 수는 없지만, 이것이 지금까지의 최선의 정책이라고 생각합니다.”
얼굴 인식 기술 전문가이자 미시간 주립 대학의 컴퓨터 과학 교수인 아룬 로스는 디트로이트의 정책이 좋은 시작점이며 다른 기관에서도 이를 채택해야 한다고 말했습니다.
로스는 “우리는 개인의 권리와 사생활을 짓밟고 싶지 않지만, 범죄가 만연하는 것도 원하지 않습니다.”라고 말했습니다.
얼마나 도움이 되나요?
목격자 식별은 위험한 작업이며, 경찰은 인간의 기억보다 카메라와 얼굴 인식을 더 신뢰할 수 있는 도구로 받아들였습니다.
화이트는 작년에 지역 의원들에게 얼굴 인식 기술이 “16명의 살인범을 거리에서 몰아내는 데 도움이 되었다”고 말했습니다. 더 많은 정보를 요청했을 때, 경찰서 관계자들은 그 사건들에 대한 자세한 내용을 제공하지 않았습니다.
대신, 경찰 관계자들은 이 기술로 부서의 성공을 보여주기 위해 주유소에 연료를 뿌리고 불을 지르는 남자의 감시 영상을 재생했습니다. 그들은 그가 얼굴 인식 기술로 식별되었고 그날 밤 체포되었다고 말했습니다. 그는 나중에 유죄를 인정했습니다.
디트로이트 경찰서는 얼굴 인식 검색을 주시하는 몇 안 되는 경찰서 중 하나로, 감독 위원회에 사용에 대한 주간 보고서를 제출합니다. 지난 몇 년 동안, 연간 평균 100건 이상의 검색을 수행했으며, 그 중 약 절반의 검색에서 잠재적 일치 항목이 발견되었습니다.
이 부서는 단서가 나오는 빈도만 추적할 뿐, 단서가 나오는지 여부는 추적하지 않습니다. 하지만 경찰 대변인에 따르면 윌리엄스(30만 달러도 받음)와의 합의의 일환으로 2017년 처음 이 기술을 사용하기 시작한 이후의 얼굴 인식 검색에 대한 감사를 실시해야 합니다. 얼굴 일치 외에 다른 증거가 거의 없거나 전혀 없이 사람들이 체포된 다른 사례를 발견하면 부서는 관련 검사에게 알려야 합니다.
미시간 대학 기술 연구 센터 소장인 몰리 클라인먼은 새로운 보호 조치가 유망해 보이지만 여전히 회의적이라고 말했습니다.
“디트로이트는 엄청나게 감시받는 도시입니다. 어디에나 카메라가 있습니다.” 그녀는 말했다. “이 모든 감시 기술이 실제로 주장하는 대로 된다면, 디트로이트는 미국에서 가장 안전한 도시 중 하나가 될 것입니다.”
새로운 정책을 승인한 감독 그룹인 경찰위원회 위원인 윌리 버튼은 이를 “올바른 방향으로 나아가는 한 걸음”이라고 설명했지만 여전히 경찰이 얼굴 인식 기술을 사용하는 것에는 반대했습니다.
버튼은 “기술이 아직 준비되지 않았습니다.”라고 말했습니다. “한 번의 허위 체포는 너무 많은 일이며, 디트로이트에서 세 건이 발생했다는 것은 중단하라는 경종을 울려야 합니다.”
본 기사는 원래 뉴욕 타임스에 게재되었습니다.
Economy Now 뉴스레터에 가입하면 더 많은 비즈니스 뉴스를 받아볼 수 있습니다.
