Một học sinh trung học đã xông vào một lớp học tại Đại học Ateneo de Zamboanga vào thứ Ba, lăm lăm hai khẩu súng, giết chết một bạn học rồi tự sát – tất cả diễn ra trong khi một camera gắn trên người đang phát trực tiếp cảnh tượng kinh hoàng. Hai người khác đã bị thương. Sự việc này buộc chúng ta phải nhìn nhận nghiêm túc về việc các nền tảng trực tuyến có thể — hoặc không thể — phát hiện và ngăn chặn một buổi phát sóng bạo lực nhanh đến mức nào.
Tại sao buổi phát trực tiếp lại quan trọng
Bằng cách phát sóng cuộc tấn công trong thời gian thực, kẻ xả súng đã biến một bi kịch địa phương thành một màn trình diễn kỹ thuật số có thể được xem lại, chia sẻ và lan truyền mạnh mẽ chỉ trong vài phút. Các nền tảng video trực tiếp dựa vào báo cáo của người dùng và tính năng phát hiện tự động để gắn cờ nội dung độc hại. Trong trường hợp này, buổi phát trực tiếp đã kéo dài đủ lâu để các cơ quan chức năng xác nhận có người tử vong trước khi bất kỳ sự can thiệp nào được thực hiện, làm lộ ra lỗ hổng trong việc kiểm duyệt thời gian thực mà các công cụ hiện nay vẫn chưa thể lấp đầy.
Một mô hình đang hình thành tại Đông Nam Á
Vụ xả súng ở Zamboanga nằm trong chuỗi các vụ tấn công bằng súng liên quan đến trường học trên khắp khu vực. Chưa đầy hai tuần trước đó, một thiếu niên 14 tuổi ở tỉnh Nonthaburi, Thái Lan, đã giết chết ông bà mình, năm nhân viên trường học và một bé gái 12 tuổi. Tỷ lệ sở hữu súng của Thái Lan — chỉ đứng sau Pakistan ở châu Á — đã khiến thủ tướng nước này phải cân nhắc các biện pháp kiểm soát chặt chẽ hơn. Trường hợp tại Philippines đã thêm một khía cạnh kỹ thuật số vào cùng một vấn đề cốt lõi: khả năng tiếp cận súng đạn dễ dàng và khao khát sự nổi tiếng trực tuyến ngày càng tăng.
Điểm mù về mặt kỹ thuật
Các nền tảng livestream thường triển khai các mô hình AI để quét các khung hình nhằm tìm kiếm vũ khí, máu hoặc các chuyển động nhanh. Những mô hình này được huấn luyện trên các tập dữ liệu thường bỏ lỡ những sắc thái của môi trường học đường, nơi mà bàn giáo viên hoặc một chiếc túi thể thao có thể trông giống như vũ khí. Các yêu cầu về độ trễ buộc thuật toán phải đưa ra quyết định trong tích tắc, một hạn chế làm tăng tỷ lệ âm tính giả (false-negative). Tại Zamboanga, camera gắn trên người của kẻ xả súng có khả năng đã sử dụng một nền tảng dành cho người tiêu dùng thông thường, vốn bỏ qua các bước xác minh nghiêm ngặt dành cho các nhà phát sóng chuyên nghiệp.
Việc không thể ngắt luồng phát trước khi phát súng chí mạng đã làm nổi bật ba thiếu sót về mặt kỹ thuật:
- Dữ liệu huấn luyện không đủ cho các kịch bản môi trường học đường.
- Băng thông hạn chế để cập nhật mô hình nhanh chóng khi một mô hình đe dọa mới xuất hiện.
- Phụ thuộc vào việc con người xem xét sau sự việc thay vì chủ động ngắt kết nối.
Thách thức đối với chính phủ và các nền tảng
Nếu một buổi livestream có thể tồn tại đủ lâu để ghi lại một vụ giết người, các vụ tấn công bắt chước sẽ trở nên dễ xảy ra hơn. Người xem trẻ tuổi có thể coi "sự nổi tiếng kỹ thuật số" là một phần thưởng, trong khi các nhóm cực đoan có thể thu thập các cảnh quay thô để làm tuyên truyền. Các chính phủ cảm thấy áp lực phải yêu cầu gỡ bỏ nhanh hơn, nhưng việc lọc quá mức có nguy cơ chặn nhầm các nội dung hợp pháp và xâm phạm quyền tự do ngôn luận.
Các nền tảng đối mặt với rủi ro tổn hại danh tiếng và các hình phạt pháp lý có thể xảy ra. Việc triển khai AI tinh vi hơn — các mô hình lớn hơn, đội ngũ kiểm duyệt chuyên trách, sự giám sát của con người trong thời gian thực — tiêu tốn rất nhiều chi phí, đặc biệt là đối với các dịch vụ hoạt động với biên lợi nhuận thấp. Tuy nhiên, sự phẫn nộ của công chúng sau các sự kiện như ở Zamboanga có thể dẫn đến các yêu cầu tuân thủ nghiêm ngặt hơn, thúc đẩy các công ty phải đầu tư sớm hơn thay vì trì hoãn.
Lập luận phản bác: những lo ngại về quyền riêng tư và độ chính xác
Các nhà phê bình cảnh báo rằng việc mở rộng kiểm duyệt livestream bằng AI có thể làm xói mòn quyền riêng tư của người dùng. Nhận dạng khuôn mặt hoặc phân tích âm thanh trong thời gian thực, dù khả thi về mặt kỹ thuật, sẽ thu thập dữ liệu sinh trắc học của hàng triệu người xem không hề hay biết. Ngoài ra còn có rủi ro về dương tính giả (false positives): một video hướng dẫn sơ cứu có thể bị gắn cờ nhầm là bạo lực, làm mất đi những nội dung hữu ích. Việc cân bằng giữa an toàn và các quyền tự do dân sự sẽ là chủ đề chính trong các cuộc tranh luận khi các cơ quan quản lý xem xét các quy định mới.
Hướng đi tiếp theo: Các công cụ AI học hỏi nhanh chóng
Trường hợp Zamboanga gợi ý một cách tiếp cận hai hướng:
- Huấn luyện mô hình chuyên biệt – Xây dựng các tập dữ liệu bao gồm nội thất trường học, trang phục học sinh và các vật dụng lớp học thông thường để cải thiện độ chính xác của việc phát hiện mà không làm tăng các cảnh báo giả.
- Kiểm duyệt hỗn hợp – Kết hợp AI với một đội ngũ nhỏ các kiểm duyệt viên là con người hoạt động liên tục, những người có thể can thiệp trong vòng vài giây khi hệ thống gắn cờ các luồng phát sóng có rủi ro cao. Điều này giúp giảm sự phụ thuộc vào việc phân tích sau sự việc và tạo ra một vòng lặp phản hồi để tinh chỉnh thuật toán.
Đầu tư vào điện toán biên (edge-computing) — xử lý video cục bộ trên thiết bị của người dùng trước khi nó đến máy chủ — cũng có thể cắt giảm độ trễ, cho phép mô hình chặn hoặc làm mờ nội dung trước khi nó được phát trực tiếp.
Những điều cần theo dõi tiếp theo
- Các đề xuất quy định tại Philippines và các quốc gia lân cận có thể bắt buộc thời gian phản hồi tối thiểu đối với việc gỡ bỏ các luồng phát trực tiếp.
- Việc triển khai của các nền tảng về các bộ công cụ kiểm duyệt bằng AI đã được nâng cấp nhằm vào các nội dung liên quan đến trường học.
- Nghiên cứu học thuật về tác động tâm lý của bạo lực phát trực tiếp đối với khán giả là thanh thiếu niên, điều này có thể định hình các chính sách trong tương lai.
Bi kịch tại Ateneo de Zamboanga cho thấy bạo lực súng đạn và sự cực đoan hóa kỹ thuật số đang hội tụ nhanh hơn mức mà các mạng lưới an toàn hiện tại có thể xử lý. Việc thu hẹp khoảng cách kiểm duyệt thời gian thực sẽ đòi hỏi AI nhanh hơn, thông minh hơn và sự sẵn lòng đối mặt với những đánh đổi về quyền riêng tư mà nó kéo theo. Cái giá của việc không hành động không chỉ được đo bằng những sinh mạng đã mất, mà còn bằng tốc độ mà những kẻ tấn công trong tương lai có thể phát sóng tội ác của chúng tới khán giả toàn cầu.