ワシントン・ポスト紙の調査で、顔認識ソフトが犯罪に関係しているとされ、何百人ものアメリカ人が逮捕されたが、警察がこの物議を醸す技術の使用をめったに公表しないため、多くの人はそれに気付いていないことがわかった。
15州の警察署は、過去4年間の1,000件以上の犯罪捜査で顔認識技術を使用したことを示す、めったに見られない記録をワシントンポスト紙に提供した。これらの事件の逮捕報告書や逮捕された人々へのインタビューによると、当局は被告人にこのソフトウェアの使用について知らせないことが常態化しており、特に有色人種の身元確認において誤りが生じやすい新興技術の結果に異議を唱える機会を被告人に与えていなかった。
実際、記録によれば、警察官は一般向けの報告書の中で、ソフトウェアに依存していることをしばしば隠蔽し、「捜査手段を通じて」容疑者を特定した、あるいは目撃者や警察官などの人間が最初の特定を行ったと述べている。
例えばインディアナ州エバンズビルでは、警察は腕にタトゥー、長髪、過去に刑務所に収監された写真から、路上で見知らぬ人を殴った男を特定したと発表した。またテキサス州フラッガービルでは、警察は「捜査データベースを利用して」アルタ・ビューティーから1万2500ドル相当の商品を盗むのを手伝った男の名前を突き止めたと発表した。
警察内部の記録によると、容疑者2人は顔認識技術によって身元が特定されたが、容疑者やその弁護士によると、その情報は容疑者には提供されなかったという。プルガービル警察の広報担当者は、この事件に関する質問への回答を控えた。エバンズビル警察はコメント要請に応じなかった。
ワシントン・ポスト紙は、顔認識技術の使用を公に認めている100以上の警察署に記録を要求したが、このソフトウェアを使用した事件の逮捕記録を提供したのはわずか30署だった。大半の警察署は、この技術の使用に関する質問には回答しなかった。数署は、潜在的な手がかりを特定するためにこの技術を使用しているが、コンピューターによる照合のみに基づいて逮捕することは決してないので、逮捕された人々に開示する必要はないと述べた。
南フロリダのコーラルスプリングス警察署は、書面による報告書で顔認識技術の使用を明らかにしないよう警官に指示していると、ライアン・ギャラガー副署長は述べた。同氏は、捜査手法はフロリダ州の公開法の適用外であると述べた。
「この捜査の手がかりを記録しないでください」と、各写真検索結果に警察のメッセージが添えられている。
ギャラガー氏は、刑事訴訟で求められれば捜査の手がかりの情報源を明らかにするだろうと付け加えた。
被告側弁護士と公民権団体は、犯罪捜査の一環として個人を特定するソフトウェア、特に誤認逮捕につながる技術について知る権利が人々にはあると主張している。このツールの信頼性は、全国で最近行われたいくつかの裁判で異議が申し立てられ、一部の被告側弁護士は、警察と検察が意図的にこの技術を法廷の調査から隠そうとしていると主張している。
警察はおそらく「この技術の信頼性をめぐる訴訟を避けたい」と、ミネソタ州の公選弁護人補佐、キャシー・グラノス氏は言う。今年、彼女の同僚の一人は、顔認識の結果を州の窃盗容疑者に対する訴訟から除外するよう裁判官を説得するのに協力した。裁判官は、このソフトウェアは「常に正確な結果を出すわけではない」との判決を下した。
ワシントン・ポスト紙が調べた警察と裁判の記録や他の報道機関の報道によると、この種のソフトウェアによる誤認は、少なくとも7人の無実のアメリカ人の不当逮捕に関与しており、そのうち6人は黒人だった。その後、彼ら全員に対する告訴は取り下げられた。一部の容疑者は、尋問中や刑事弁護士に提出された文書で、AIによって身元が特定されたと告げられた。他の容疑者は、警官が「コンピューター」が自分を見つけたとか、「一致した」と何気なく言った後で初めて、ソフトウェアの使用について知った。
その中には、盗んだクレジットカードを使ってルイジアナ州で高級ハンドバッグを購入した疑いで2022年に6日間刑務所に収監されたコーラン・リードもいた。リードは同州を訪れたことはないという。ジェファーソン郡保安官事務所の刑事は宣誓供述書の中で、当時28歳でアトランタに住んでいたリードを調査するよう「信頼できる情報源から助言を受けた」と記している。実際、犯罪現場の写真を入力した顔認識ソフトウェアによってリードの身元が特定された。
宣誓供述書にはこの技術の使用については何も書かれていない。リード氏は弁護士時代から投獄されてからこの技術について知っていた。
「なぜ私なの？なぜ他の人たちの中で私を選んだの？」とリード氏は逮捕されたとき思ったことを思い出した。「それがどこから来ているのかさえ分からない」と同氏はワシントン・ポスト紙のインタビューで語った。
リードの弁護士が、犯人の画像にはなかった顔のほくろを指摘したことで、訴訟は却下された。リードはその後、保安官と刑事を訴えた。保安官局はコメントの要請に応じず、リードが逮捕された強盗事件が解決したかどうかは不明だ。
顔認識ソフトウェアは、犯罪現場の映像（監視カメラで撮影されることが多い）を写真データベース（顔写真や運転免許証など）に送信することで機能します。ソフトウェアは人工知能を使用して、「調査画像」に写っている人物の顔をデータベース内の顔と比較します。次に、外見が似ていると特定した人物の写真を返します。一致を構成する要素について科学的なコンセンサスがないため、ソフトウェア メーカーによって、表示される結果の数や、各結果が調査写真にどの程度似ているかが大きく異なります。
警察向けの顔認識ソフトウェアで有名なメーカー、クリアビューAIは、捜査画像をソーシャルメディアや公共ウェブサイトから収集した数十億枚の画像データベースと比較している。つまり、ウェブ上のどこにでも写真がある人は、犯人に似ていれば刑事捜査に巻き込まれる可能性があるということだ。オハイオ州カイヤホガ郡の暴行事件で証拠として提出されたクリアビューの検索結果には、バスケットボール界の伝説的人物マイケル・ジョーダンの写真と黒人男性の漫画が含まれていた。
クリアビューの最高法務責任者ジャック・マルカイア氏は電子メールで送った声明で、このソフトウェアによる検索で最初に表示された2件の犯人の容疑者について言及した。犯人は後に有罪を認めた。同社は自社の技術に関するその他の質問には回答を控えた。
ワシントンにある国立標準技術研究所で生体認証テストを監督するパトリック・グロザー氏によると、連邦政府がトップの顔認識ソフトをテストした結果、アルゴリズムのトレーニングに使用したデータに顔があまり登場しない傾向があるため、これらのソフトは有色人種、女性、高齢者を誤認する可能性が高いことが判明した。連邦政府のデータによると、米国では毎年およそ200万人の有色人種と200万人の女性が逮捕されている。
ワシントン・ポスト紙が入手した、クリアビュー社が複数の警察署と結んだ契約書には、同プログラムは「個人の身元を確認するための単一ソースのシステムとして」設計されたものではなく、「クリアビュー・アプリによって生成された検索結果は、法廷や裁判所への提出書類において証拠として認められるものとして使用されることを意図しておらず、また許可もされていない」と記されている。
検察官は、被告人の無罪を証明するのに役立つ情報、刑期を短縮する情報、被告人に不利な証言をする証人の信頼性を損なう情報があれば、被告人に知らせる義務がある。検察官がそのような情報を開示しない場合（1963年の最高裁判決で義務付けられた「ブレイディ違反」と呼ばれる）、裁判所は裁判の無効を宣告したり、有罪判決を覆したり、さらには検察官に制裁を科したりすることができる。
連邦法では顔認識を規制しておらず、裁判所も ethan belchetz spurs vs timberwolves saleh mamman AI による識別がブレイディ規則の対象となるかどうかについて合意していない。一部の州や都市ではこの技術に関する透明性の向上を義務付け始めているが、インタビューや公的記録の請求によると、これらの場所でもこの技術はあまり使用されていないか、開示されていない。
2023年6月、ニュージャージー州の3人の裁判官からなる控訴審委員会は、被告には顔認識技術の使用に関する情報を得る権利があるとの判決を下し、同ソフトウェアの「真実性はニュージャージー州のどの裁判所でも証拠に基づいて検証されておらず、信頼できるとも認められていない」と述べた。この技術は、2019年にニュージャージー州ウェストニューヨークで起きた武装強盗事件の犯人としてフランシスコ・アルテアガを特定するために使用されていた。
下級裁判所は、アルゴリズムのエラー率、一致する可能性のある人物の完全なリスト、アルテアガ氏を最も一致する人物として選んだ人物の資格など、この技術に関する情報を求めるアルテアガ氏の弁護士の要求を却下した。
この判決はその州では前例となったが、他の州はそれに従う必要はない。
ワシントン・ポストの調査結果について報告を受けたコリー・ブッカー上院議員（民主党、ジャージー州選出）は、「刑事告発につながる法執行機関によるAIの使用は、憲法上の権利を守り、公正な裁判を保証するために開示されるべきだ」と述べた。ブッカー議員は、「人々の自由は文字通り危うい状況にある」と指摘し、開示を義務付ける法律が可決されることを望んでいると述べた。
ワシントン・ポスト紙が内部ソフトウェアのログと対応する裁判記録を分析したところ、マイアミでは警察が2020年以来、顔認識捜査の結果に関する詳細なデータを保管しているが、その情報を被告人に共有することはほとんどなかったという。
マイアミ警察は過去4年間で、少なくとも186人の逮捕と50人以上の有罪判決につながった捜査で2,500件の顔認識捜索を行った。ワシントン・ポスト紙が公開報告書や逮捕者やその弁護士へのインタビューを調査したところ、逮捕者のうち、この技術の使用について知らされたのはわずか16人に1人、つまり7%未満だった。警察は、これらの事件の一部では、容疑者のソーシャルメディアの投稿を見つけるなど、身元確認以外の目的でこの技術が使用されたと述べたが、それが何件あったかは明らかにしなかった。
同郡の主任公選弁護人カルロス・J・マルティネス氏は、ワシントン・ポスト紙がリストを提示するまで、マイアミの依頼人のうち何人が顔認識技術で特定されているか全く知らなかったと語った。
「我が国の司法制度の基本原則の一つは適正手続きであり、自分に不利な証拠が何であるかを知ること、そして自分に不利な証拠に異議を唱えることができることです」とマルティネス氏は語った。「それが隠されると、それは我々を踏みにじることができる全能の政府となります。」
マイアミ警察と地元検察はワシントン・ポスト紙の調査結果を検討した後、顔認識に関わるすべての事件でより明確な開示を求めるよう方針を改訂する計画を発表した。
1月、マイアミ警察のアルマンド・アギラール副署長は、法執行におけるAIに関する議会委員会に対し、同署は顔認識の使用について「完全に透明性を確保した最初の警察署」であると述べた。しかし7月、ワシントン・ポストの調査結果を確認した後、アギラール副署長は、警官が顔認識の使用について地元検察官に必ずしも知らせていなかった可能性があることを認めた。アギラール副署長は、過去および将来の事件における顔認識の使用に関するすべての情報を検察官に提供するが、被告に何を開示するかは検察官の判断に委ねると述べた。また、事件報告書で顔認識の使用を常に開示するよう警官を訓練し始めると述べた。
マイアミ・デイド郡の州検事キャサリン・フェルナンデス・ランドル氏はインタビューで、ワシントン・ポスト紙が連絡を取るまで、マイアミ警察は大部分の事件で顔
