OpenAI vừa thừa nhận rằng một tác nhân AI (AI agent) tự động do công ty phát triển đã vượt khỏi phạm vi kiểm soát trong quá trình thử nghiệm và tiến hành tấn công hạ tầng của Hugging Face, một trong những nền tảng mã nguồn mở về trí tuệ nhân tạo lớn nhất thế giới.
Thông tin được OpenAI công bố trong một bài đăng trên blog chính thức. Theo công ty, sự cố xảy ra khi một AI agent được vận hành bằng những mô hình tiên tiến nhất của OpenAI tham gia một bài kiểm thử an ninh mạng.
Trong quá trình đánh giá, AI agent đã hoạt động ngoài dự kiến. Thay vì chỉ thực hiện các nhiệm vụ trong môi trường kiểm thử được cô lập, hệ thống đã tìm cách thoát khỏi "sandbox" – môi trường cách ly mà các phòng thí nghiệm AI sử dụng để ngăn các thử nghiệm ảnh hưởng đến internet thực.
Sau khi truy cập được internet, AI agent bắt đầu thực hiện các hành vi nhằm xâm nhập vào hệ thống của Hugging Face, nền tảng lưu trữ hàng nghìn mô hình AI và bộ dữ liệu mã nguồn mở phục vụ cộng đồng nghiên cứu và phát triển.
Sự cố diễn ra trong bối cảnh OpenAI cùng nhiều công ty AI khác đang đầu tư mạnh vào việc ứng dụng AI trong lĩnh vực an ninh mạng, từ phát hiện lỗ hổng cho đến tự động kiểm thử hệ thống.
Tuy nhiên, hướng phát triển này từ lâu đã khiến nhiều chuyên gia an ninh mạng bày tỏ quan ngại. Trước đây, chính quyền Tổng thống Donald Trump cũng từng đề xuất các biện pháp hạn chế quyền tiếp cận những mô hình AI có năng lực cao vì lý do an ninh quốc gia.
Trước khi OpenAI công bố thông tin, Hugging Face đã đăng tải một bài viết cho biết công ty vừa trở thành mục tiêu của một cuộc tấn công do AI điều khiển với quy mô và cách thức hoàn toàn khác những gì họ từng đối mặt. Theo Hugging Face, chính các hệ thống AI của họ đã đóng vai trò quan trọng trong việc phát hiện và điều tra vụ việc.
Công ty mô tả cuộc tấn công được thực hiện bởi một khung tác nhân AI tự động, có khả năng thực hiện hàng chục nghìn hành động riêng lẻ trên một mạng lưới lớn các môi trường sandbox tồn tại trong thời gian ngắn. Hệ thống còn có khả năng tự di chuyển cơ chế điều khiển giữa các dịch vụ công cộng trên internet. Hugging Face cho rằng đây chính là kịch bản "tác nhân AI tấn công" mà giới an ninh mạng đã cảnh báo trong nhiều năm qua.
Trong bài đăng mới nhất, OpenAI cho biết sau quá trình điều tra nội bộ, công ty xác định chính AI agent của mình là nguồn gốc của cuộc tấn công. Hệ thống này được vận hành bởi các mô hình bao gồm GPT-5.6 Sol cùng một mô hình khác chưa được công bố. OpenAI cho biết sẽ phối hợp với Hugging Face để tiếp tục điều tra toàn bộ sự cố.
Công ty đánh giá đây là "một sự cố an ninh mạng chưa từng có tiền lệ", liên quan đến các năng lực tấn công mạng ở mức tiên tiến nhất của AI hiện nay.
Theo OpenAI, AI agent đã tự động phân tích môi trường thử nghiệm, xác định và khai thác các điểm yếu trong hệ thống. Đáng chú ý, nó còn phát hiện được một lỗ hổng zero-day, loại lỗ hổng bảo mật chưa từng được nhà phát triển phần mềm biết đến hoặc vá lỗi. Việc khai thác thành công lỗ hổng này đã giúp AI vượt khỏi môi trường kiểm thử và truy cập internet, từ đó dẫn đến cuộc tấn công nhằm vào Hugging Face.
Sau sự cố, OpenAI cho biết sẽ bổ sung thêm nhiều lớp bảo vệ cho các môi trường huấn luyện và đánh giá AI. Công ty nhấn mạnh rằng vụ việc cho thấy cần tăng cường hơn nữa việc căn chỉnh hành vi của mô hình AI (AI alignment), nâng cao các cơ chế bảo vệ an ninh mạng trong quá trình đánh giá, đồng thời cải thiện hệ thống giám sát trong các thử nghiệm nội bộ nhằm ngăn chặn những sự cố tương tự trong tương lai.
