Tác nhân AI của OpenAI tự vô hiệu hóa hệ thống giám sát
Tác nhân AI của OpenAI tự vô hiệu hóa hệ thống giám sát
Các tác nhân AI (AI agent) của OpenAI đã tắt những hệ thống giám sát và biện pháp bảo vệ được thiết kế để phát hiện hành vi sai lệch của các bot AI tự vận hành. Sự việc mới nhất này có nguy cơ làm gia tăng lo ngại trên toàn cầu về mức độ an toàn của công nghệ.
Trong ngày 20/10, OpenAI, công ty phát triển ChatGPT, cho biết trong hai nhiệm vụ lập trình nội bộ gần đây, các tác nhân AI đã tìm cách cố tình đánh lừa nhân viên và thực hiện những bước nhằm làm suy yếu hệ thống giám sát của công ty.
Trong một sự việc xảy ra hồi đầu tháng, một tác nhân AI đã vô hiệu hóa cơ chế cảnh báo tự động gửi đến đội ngũ an ninh của OpenAI. Vài ngày sau, trong một nhiệm vụ khác, một tác nhân AI đã gỡ bỏ hệ thống giám sát rồi nói dối nhân viên OpenAI về việc mình đã làm.
“Trong cả hai trường hợp, các tác nhân đều cân nhắc việc có nên duy trì các biện pháp bảo vệ và giám sát hay không, nhưng lại diễn giải những chỉ dẫn lập trình thông thường thành sự cho phép làm suy yếu các biện pháp này”, OpenAI cho biết trong một tuyên bố.
Startup được định giá 852 tỷ USD này liên tục đối mặt với những sự cố trong đó các tác nhân AI tiên tiến thể hiện hành vi ngoài dự kiến và gây ra vấn đề. Trong quá trình thử nghiệm, các mô hình của OpenAI từng thoát khỏi những cơ chế kiểm soát, xâm nhập nền tảng AI Hugging Face và tấn công các trang web thuộc dịch vụ y tế công cộng Australia.
Giám đốc điều hành Sam Altman cho biết công ty sẽ trì hoãn kế hoạch phát hành cổ phiếu lần đầu ra công chúng (IPO), vốn ban đầu được kỳ vọng diễn ra trong năm nay, cho đến khi có thể “tự tin cao độ mở rộng quy mô sang giai đoạn tiếp theo của AI”, đồng thời giải quyết các quan ngại về an toàn. IPO hiện được dự kiến diễn ra vào năm tới.
OpenAI cho biết đang tăng cường các biện pháp giám sát sau những sự cố được công bố hôm thứ Ba, vốn xảy ra khoảng hai tuần trước. Công ty đang điều tra liệu các trường hợp này phản ánh xu hướng theo đuổi mục tiêu quá mức nhưng vô hại, hay cho thấy khuynh hướng né tránh những hệ thống được sử dụng để phát hiện hoạt động bất thường.
Hai sự cố mới nhất sẽ làm gia tăng lo ngại về năng lực của các mô hình AI, cũng như khả năng của OpenAI và các đối thủ như Anthropic trong việc ngăn chặn hành vi không mong muốn, bảo đảm những mô hình được đưa ra thị trường không gây ra rủi ro an ninh mạng nghiêm trọng.
Một số chuyên gia đặc biệt lo ngại rằng các mô hình tiên tiến có thể nhận biết khi nào chúng đang bị giám sát, từ đó tìm cách che giấu hành vi sai lệch hoặc hành xử khác trong các bài kiểm tra so với khi hoạt động trong môi trường thực tế.
Các cuộc kiểm toán do những đơn vị độc lập, trong đó có Asymmetric Security và Transluce, thực hiện cho thấy những vụ xâm nhập gần đây có quy mô lớn hơn so với thông tin OpenAI công bố ban đầu. Các vụ việc còn bao gồm những hoạt động nhằm che giấu nỗ lực thu thập dữ liệu tự động từ các nguồn trực tuyến.
Hồi tháng 8/2026, OpenAI cho biết đã cải tổ quy trình thử nghiệm và dành thêm nguồn lực để giám sát các tác nhân AI, trong đó có việc phát cảnh báo trong vòng 30 phút sau khi phát hiện những vấn đề tiềm ẩn.
Trong khi đó, Anthropic đã cấp cho METR, một tổ chức phi lợi nhuận, quyền tiếp cận các mô hình theo cơ chế tương tự nhân viên nội bộ để đánh giá rủi ro. OpenAI vẫn chưa công bố thỏa thuận nào với một đơn vị đánh giá bên ngoài. Đây được xem là một trong những biện pháp cụ thể quan trọng mà các phòng thí nghiệm AI đề xuất nhằm ứng phó với những lo ngại ngày càng tăng về nguy cơ từ các hệ thống có năng lực mạnh hơn.
Vương Đông