Flock Safetyは、警察官による悪用への対策と自治体との契約喪失を軽減するため、全米のナンバープレート読み取りネットワークに対して強制的な制限を導入しています。プライバシーへの懸念が高まる中、この警察技術の巨人は、オプションの安全策の提供から、厳格な運用要件の強制へと舵を切っています。

警察官の不正行為とストーキングへの対処

これらの変更の主な要因は、法執行機関によるFlockの12万台のカメラネットワークの文書化された悪用です。ワシントン・ポストによる最近の調査では、警察官が交際相手のストーキングを含む、許可されていない目的で技術を使用したとされる46の事例が浮き彫りになりました。

これに対抗するため、Flockはこれまでオプションだった機能を必須化します。警察官は今後、検索を行う前に刑事事件番号を入力しなければなりません。これは、すべての照会を正当な捜査に結びつけるデジタルな証跡（ペーパー・トレイル）を提供することを目的としています。しかし、批判的な人々は重大な技術的抜け穴を指摘しています。Flockは現在、これらの事件番号を検証していないため、警察官が偽の番号や任意の番号を入力することで、このルールを回避できる可能性があるのです。

強制的な監査とデータ保持期間の変更

新しいルールを回避しようとする悪意のある行為者を捕まえるため、Flockは自動監査システムも義務付けています。このツールは検索パターンを分析し、不審な活動を管理者に通知します。同社はこのツールが説明責任を強化すると主張していますが、具体的な精度指標は共有しておらず、監査ツールを独立した第三者評価機関にも開放していません。

保存される監視データの膨大な量を削減するため、Flockは現在、各機関に対してデータ保持期間を30日間からわずか7日間に短縮することを推奨しています。さらに、各部門はきめ細かな検索権限を実装できるようになり、「誘拐」捜査などの特定のカテゴリーへの部門間アクセスを制限する一方で、「移民執行」目的のアクセスをブロックすることが可能になります。

高まる不信感と市場競争の危機

これらのガードレールの導入は、Flockが法的および政治的な両面から存亡の危機に直面している中で行われています。報告によると、過去1年間で少なくとも30の都市がFlockとの契約を打ち切っており、一部の自治体はAxonやMotorolaといった競合他社へ移行したり、ナンバープレート読み取り装置の全面的な禁止を可決したりしています。

対立の核心は、この技術の性質に関する根本的な意見の相違にあります。FlockのCEOであるGarrett Langleyは、この反発は「誤情報」によるものだと述べ、同社は顔認識を行っておらず、データを商業的な買い手に販売することもないと主張しています。対照的に、ACLU（アメリカ自由人権協会）などの市民自由団体は、問題は監視の規模そのものであると主張しています。彼らは、令状なしに膨大な位置データの蓄積を検索できる能力が、確立された疑いがない状態での捜査を可能にし、アメリカのプライバシーの基準を根本的に変えてしまうと論じています。

なぜこれがAIおよび監視業界にとって重要なのか

Flockの転換は、「GovTech」セクターにとって重要な局面を意味しています。AI主導の監視がより遍在するようになるにつれ、企業はもはや「オプション」の倫理的ガードレールを提供することだけに頼ることはできなくなります。業界は、ソフトウェア設計に悪用を防ぐための「組み込みの摩擦（built-in friction）」を含めなければならない、強制的な説明責任の時代へと向かっています。これらの漸進的な変化が公衆の信頼を取り戻すのに十分なのか、あるいは単に避けられない規制強化を先延ばしにするだけなのかは、まだ分かりません。

主なポイント

  • 刑事事件番号の義務化: 正当な捜査目的であることを確実にするため、警察官はすべての検索に対して刑事事件番号を提供しなければなりません。
  • 自動監査: Flockは、不審な検索行動を管理者に通知するための強制的な監査ツールを導入しています。
  • データフットプリントの削減: 大規模監視への懸念に対処するため、同社はデータ保持期間を30日間から7日間に変更することを推奨しています。