Các sự cố xảy ra trong những trường hợp riêng biệt kể từ tháng 4.
Theo báo Politico, Anthropic khẳng định trong các tình huống trên, các mô hình AI không "tự ý trích xuất dữ liệu hay cố tình tìm cách thoát khỏi môi trường thử nghiệm". Thay vào đó, công ty cho rằng nguyên nhân xuất phát từ một "sự hiểu lầm" giữa Anthropic và đối tác thử nghiệm, khiến môi trường thử nghiệm vô tình được kết nối với Internet.
Anthropic cho biết công ty này đã phát hiện hoạt động của các mô hình trong quá trình rà soát hàng nghìn bài kiểm tra nhằm đánh giá năng lực an ninh mạng của các công nghệ AI tiên tiến mà công ty đang phát triển.
Thông tin trên được đưa ra sau khi OpenAI tuần trước tiết lộ hai trong số các mô hình AI mạnh nhất của hãng đã hoạt động ngoài phạm vi kiểm soát, thoát khỏi môi trường thử nghiệm và xâm nhập vào hệ thống của nhiều công ty, trong đó có nền tảng AI Hugging Face và nền tảng điện toán đám mây Modal Labs.
Theo Anthropic, các mô hình liên quan gồm một mô hình nghiên cứu nội bộ cùng với Opus 4.7 và Mythos 5. Mythos 5, còn được gọi là Dự án Glasswing, được phát hành từ tháng trước cho một nhóm giới hạn gồm các công ty công nghệ và các nhà nghiên cứu an ninh mạng.
Công ty không nêu tên ba tổ chức bị các mô hình AI xâm nhập, song cho biết đã thông báo về sự cố cho các đơn vị bị ảnh hưởng vào ngày 27/7. Trong tất cả các trường hợp, Anthropic đều ghi rõ trong các câu lệnh (prompt) gửi tới mô hình AI rằng môi trường thử nghiệm không được kết nối Internet. Tuy nhiên, các chuyên gia đánh giá sau đó mới phát hiện thực tế không phải như vậy.
Trong khuôn khổ các bài kiểm tra, các mô hình được giao nhiệm vụ "xâm nhập và lấy" một "thông tin bí mật" lưu trên một máy tính khác trong cùng mạng thử nghiệm, hay còn gọi là thử thách dạng "chiếm cờ" (capture the flag).
Anthropic cho biết các mô hình có thể truy cập Internet để xâm nhập các tổ chức bên ngoài môi trường thử nghiệm bằng những "kỹ thuật cơ bản", trong đó có việc khai thác các mật khẩu yếu.
"Các mô hình không phát hiện hoặc khai thác bất kỳ lỗ hổng phức tạp nào. Trong mọi trường hợp, Claude chỉ tiếp tục thực hiện nhiệm vụ cụ thể mà hệ thống đánh giá giao", Anthropic cho biết.
Trong khi đó, người phát ngôn của Irregular - nền tảng bảo mật bên thứ ba được sử dụng để đánh giá các mô hình của Anthropic - chưa đưa ra bình luận về vụ việc.
Sự cố liên quan đến OpenAI trước đó đã làm dấy lên các lời kêu gọi tăng cường quản lý AI và làm chậm tốc độ phát triển công nghệ này.
Mới đây, nghị sĩ Ted Lieu của đảng Dân chủ và nghị sĩ Nathaniel Moran của đảng Cộng hòa đã trình Đạo luật Tắt AI (AI Kill Switch Act), theo đó trao cho Bộ An ninh Nội địa Mỹ quyền yêu cầu vô hiệu hóa các mô hình AI bị đánh giá là quá nguy hiểm. Trong khi đó, Thượng nghị sĩ Mark Warner của đảng Dân chủ tuần trước cũng giới thiệu một loạt dự luật về AI, trong đó có đề xuất yêu cầu các công ty phát triển AI phải trình các mô hình của mình để chính phủ liên bang tiến hành kiểm tra an ninh quốc gia bắt buộc trước khi phát hành.
