OpenAI đã chính thức giải thể đội ngũ chuẩn bị ứng phó (preparedness team) chuyên trách của mình, một sự thay đổi cấu trúc rõ rệt trong cách gã khổng lồ AI xử lý các rủi ro mang tính tồn vong và hệ thống. Động thái này thay thế một đơn vị an toàn tập trung bằng một mô hình phân tán được lồng ghép vào các quy trình phát triển hiện có.

Chuyển dịch từ An toàn Tập trung sang Quản trị Rủi ro Phân tán

Đội ngũ chuẩn bị ứng phó trước đây có nhiệm vụ đánh giá liệu các mô hình AI tiên tiến có thể, ví dụ như, tấn công hạ tầng doanh nghiệp hay không, và sau đó thiết kế các chiến lược giảm thiểu. Tờ Financial Times đưa tin rằng đơn vị này đã bị đóng cửa vào cuối tháng trước.

OpenAI không hề từ bỏ các giao thức an toàn. Thay vào đó, họ đang chia nhỏ công tác giám sát thành các lĩnh vực chuyên biệt—rủi ro sinh học, các mối đe dọa an ninh mạng—và đặt các trách nhiệm đó vào bên trong các đội ngũ sản phẩm và nghiên cứu. Dylan Scandinaro, người đã dẫn dắt đội ngũ chuẩn bị ứng phó sau khi gia nhập từ Anthropic vào tháng Hai, giờ đây sẽ tập trung vào các tác động của AI "tự cải thiện đệ quy" (recursive self-improving), một ranh giới then chốt của Trí tuệ nhân tạo tổng quát (AGI).

Biến động Nội bộ và Tranh luận "Sản phẩm đối đầu An toàn"

Việc tái cấu trúc diễn ra sau một loạt các sự ra đi của các nhân sự cấp cao và việc giải thể các đơn vị an toàn khác, bao gồm các đội ngũ sẵn sàng AGI và siêu căn chỉnh (super-alignment). Sự ra đi của Trưởng bộ phận Đạo đức Chloé Bakalar, Giám đốc Tương lai học Josh Achiam và Trưởng bộ phận An toàn Johannes Heidecke đã gióng lên hồi chuông cảnh báo trong giới quan sát.

Cựu nghiên cứu viên của OpenAI, Jan Leike, lập luận rằng công ty đang đặt "những sản phẩm hào nhoáng" lên trên các nghiên cứu an toàn dài hạn. Sự xung đột này nhấn mạnh một rạn nứt ngày càng lớn: việc chiếm lĩnh thị trường nhanh chóng đối đầu với công việc nghiên cứu chuyên sâu, cẩn trọng cần thiết để tránh những sự sai lệch (misalignments) thảm khốc.

Chuyển hướng Chiến lược hướng tới IPO

OpenAI đang tái định hình tổ chức của mình trong khi chuẩn bị cho một đợt Phát hành lần đầu ra công chúng (IPO) quy mô lớn. Sự chuyển dịch từ một mô hình lai phi lợi nhuận dẫn dắt bởi nghiên cứu sang một cường quốc thương mại truyền thống đã gia tăng áp lực phải tung ra các sản phẩm có khả năng mở rộng và sẵn sàng cho người tiêu dùng.

Đối với lĩnh vực AI rộng lớn hơn, diễn biến này đóng vai trò như một chỉ báo. Nó cho thấy sự ma sát nảy sinh khi các phòng thí nghiệm tiên phong chuyển dịch từ sự tò mò học thuật sang phần mềm doanh nghiệp. Việc lồng ghép an toàn vào các đội ngũ cốt lõi có thể thúc đẩy sự linh hoạt, nhưng nó cũng đe dọa đến sự giám sát độc lập cần thiết để quản lý các đột phá có rủi ro cao.

Các điểm chính cần lưu ý

  • An toàn phi tập trung: OpenAI đang bãi bỏ đội ngũ chuẩn bị ứng phó độc lập và lồng ghép việc giảm thiểu rủi ro sinh học và an ninh mạng vào các đơn vị hiện có.
  • Sự chảy máu nhân sự lãnh đạo: Việc giải thể đội ngũ diễn ra sau sự ra đi của nhiều lãnh đạo về an toàn và đạo đức, gây ra lo ngại về việc thay đổi các ưu tiên.
  • Động lực thương mại: Việc tái cấu trúc phù hợp với nỗ lực hướng tới một đợt IPO lớn của OpenAI, ám chỉ một sự chuyển hướng từ nghiên cứu an toàn thuần túy sang mở rộng quy mô dựa trên sản phẩm.