Flock Safety กำลังเริ่มใช้ข้อจำกัดแบบบังคับในเครือข่ายเครื่องอ่านป้ายทะเบียนรถทั่วประเทศ เพื่อต่อสู้กับการรายงานเรื่องการใช้อำนาจในทางที่ผิดของเจ้าหน้าที่ และเพื่อลดการสูญเสียสัญญาจ้างจากเทศบาลต่างๆ ในขณะที่ความกังวลด้านความเป็นส่วนตัวเพิ่มสูงขึ้น ยักษ์ใหญ่ด้านเทคโนโลยีตำรวจรายนี้กำลังเปลี่ยนจากการเสนอมาตรการป้องกันแบบเลือกได้ มาเป็นการบังคับใช้ข้อกำหนดในการปฏิบัติงานที่เข้มงวด

การจัดการกับการประพฤติมิชอบของเจ้าหน้าที่และการสะกดรอยตาม

แรงขับเคลื่อนหลักของการเปลี่ยนแปลงเหล่านี้คือการนำเครือข่ายกล้อง 120,000 ตัวของ Flock ไปใช้ในทางที่ผิดโดยเจ้าหน้าที่บังคับใช้กฎหมายตามที่มีหลักฐานปรากฏ การสืบสวนล่าสุดโดย Washington Post ได้ชี้ให้เห็นถึง 46 กรณีที่เจ้าหน้าที่ถูกกล่าวหาว่าใช้เทคโนโลยีนี้เพื่อวัตถุประสงค์ที่ไม่ได้รับอนุญาต ซึ่งรวมถึงการสะกดรอยตามคู่รัก

เพื่อตอบโต้เรื่องนี้ Flock กำลังเปลี่ยนฟีเจอร์ที่เคยเป็นทางเลือกให้กลายเป็นข้อบังคับ: เจ้าหน้าที่ต้องระบุหมายเลขคดีอาญาก่อนทำการค้นหา ซึ่งมีวัตถุประสงค์เพื่อสร้างร่องรอยหลักฐานดิจิทัลที่เชื่อมโยงทุกการสืบค้นเข้ากับการสืบสวนที่ชอบด้วยกฎหมาย อย่างไรก็ตาม นักวิจารณ์ชี้ให้เห็นถึงช่องโหว่ทางเทคนิคที่สำคัญ นั่นคือปัจจุบัน Flock ยังไม่ได้ตรวจสอบหมายเลขคดีเหล่านี้ ซึ่งหมายความว่าเจ้าหน้าที่อาจเลี่ยงกฎได้โดยการกรอกหมายเลขปลอมหรือหมายเลขที่ตั้งขึ้นมาเอง

การตรวจสอบแบบบังคับและการเปลี่ยนแปลงการจัดเก็บข้อมูล

เพื่อดักจับผู้ไม่หวังดีที่พยายามหลบเลี่ยงกฎใหม่ Flock ยังได้กำหนดให้มีระบบตรวจสอบอัตโนมัติ เครื่องมือนี้จะวิเคราะห์รูปแบบการค้นหาและแจ้งเตือนกิจกรรมที่น่าสงสัยไปยังผู้ดูแลระบบ แม้บริษัทจะอ้างว่าสิ่งนี้จะช่วยเพิ่มความรับผิดรับชอบ แต่ก็ยังไม่ได้เปิดเผยตัวชี้วัดความแม่นยำที่เฉพาะเจาะจง หรือเปิดให้ผู้ประเมินอิสระจากภายนอกเข้ามาตรวจสอบเครื่องมือนี้

ในความพยายามที่จะลดปริมาณข้อมูลการเฝ้าระวังที่จัดเก็บไว้ Flock กำลังแนะนำให้หน่วยงานต่างๆ ลดระยะเวลาการจัดเก็บข้อมูลจาก 30 วัน เหลือเพียง 7 วัน นอกจากนี้ หน่วยงานต่างๆ ยังสามารถกำหนดสิทธิ์การค้นหาแบบละเอียดได้ ซึ่งช่วยให้สามารถจำกัดการเข้าถึงระหว่างแผนกเฉพาะในหมวดหมู่ที่กำหนด เช่น การสืบสวนคดี "การลักพาตัว" ในขณะที่ปิดกั้นการเข้าถึงเพื่อวัตถุประสงค์ด้าน "การบังคับใช้กฎหมายตรวจคนเข้าเมือง"

วิกฤตความเชื่อมั่นที่เพิ่มขึ้นและการแข่งขันในตลาด

การนำมาตรการป้องกันเหล่านี้มาใช้เกิดขึ้นในขณะที่ Flock กำลังเผชิญกับภัยคุกคามต่อการดำรงอยู่จากทั้งแง่กฎหมายและการเมือง มีรายงานว่าอย่างน้อย 30 เมืองได้ยกเลิกสัญญาจ้างกับ Flock ในปีที่ผ่านมา โดยบางเทศบาลได้เปลี่ยนไปใช้คู่แข่งอย่าง Axon และ Motorola หรือมีการออกกฎสั่งห้ามใช้เครื่องอ่านป้ายทะเบียนรถโดยสิ้นเชิง

ความขัดแย้งนี้มีศูนย์กลางอยู่ที่ความเห็นที่ไม่ตรงกันอย่างสิ้นเชิงเกี่ยวกับลักษณะของเทคโนโลยี Garrett Langley ซีอีโอของ Flock ระบุว่ากระแสต่อต้านเกิดจาก "ข้อมูลที่ผิด" โดยยืนยันว่าบริษัทไม่ได้ทำการจดจำใบหน้าหรือขายข้อมูลให้กับผู้ซื้อเชิงพาณิชย์ ในทางกลับกัน กลุ่มสิทธิพลเมืองอย่าง ACLU โต้แย้งว่าปัญหาคือขนาดของการเฝ้าระวังเอง โดยพวกเขายืนยันว่าความสามารถในการค้นหาข้อมูลตำแหน่งที่ตั้งจำนวนมหาศาลโดยไม่มีหมายศาล ช่วยให้สามารถทำการสืบสวนได้โดยไม่มีเหตุอันควรสงสัย ซึ่งเป็นการเปลี่ยนแปลงมาตรฐานความเป็นส่วนตัวของอเมริกาอย่างสิ้นเชิง

ทำไมเรื่องนี้จึงสำคัญต่ออุตสาหกรรม AI และการเฝ้าระวัง

การปรับเปลี่ยนทิศทางของ Flock ถือเป็นช่วงเวลาสำคัญสำหรับภาคส่วน "GovTech" เมื่อการเฝ้าระวังที่ขับเคลื่อนด้วย AI กลายเป็นเรื่องแพร่หลายมากขึ้น บริษัทต่างๆ ไม่สามารถพึ่งพาเพียงการเสนอมาตรการป้องกันทางจริยธรรมแบบ "เลือกได้" อีกต่อไป อุตสาหกรรมกำลังเคลื่อนเข้าสู่ยุคแห่งความรับผิดชอบแบบบังคับ ซึ่งการออกแบบซอฟต์แวร์จะต้องรวมกลไกป้องกันการใช้งานในทางที่ผิดไว้ในตัว ว่าการเปลี่ยนแปลงทีละน้อยเหล่านี้จะเพียงพอที่จะเรียกความเชื่อมั่นจากสาธารณชนกลับคืนมา หรือจะเป็นเพียงการประวิงเวลาการปราบปรามโดยหน่วยงานกำกับดูแลที่หลีกเลี่ยงไม่ได้นั้น ยังคงต้องติดตามกันต่อไป

สรุปประเด็นสำคัญ

  • การระบุหมายเลขคดีแบบบังคับ: เจ้าหน้าที่ต้องระบุหมายเลขคดีอาญาสำหรับการค้นหาทุกครั้ง เพื่อให้มั่นใจว่าเป็นการสืบสวนที่มีวัตถุประสงค์ที่ชอบด้วยกฎหมาย
  • การตรวจสอบอัตโนมัติ: Flock กำลังบังคับใช้เครื่องมือตรวจสอบเพื่อแจ้งเตือนพฤติกรรมการค้นหาที่น่าสงสัยไปยังผู้ดูแลระบบ
  • การลดปริมาณข้อมูลที่จัดเก็บ: บริษัทแนะนำให้เปลี่ยนระยะเวลาการจัดเก็บข้อมูลจาก 30 วัน เป็น 7 วัน เพื่อตอบสนองต่อความกังวลเรื่องการเฝ้าระวังมวลชน