Theo ông Itamar Golan, Tổng Giám đốc công ty an ninh mạng Prompt Security thuộc tập đoàn SentinelOne của Mỹ, sự xuất hiện liên tục của các mô hình và công cụ AI mới đang khiến bộ phận bảo mật doanh nghiệp bị quá tải thông tin, trong khi những thay đổi nhỏ về quyền truy cập và chức năng của trợ lý AI có thể tạo ra rủi ro lớn nhưng ít được chú ý.
Dẫn chứng về nguy cơ này, ông Golan đề cập sự cố hồi tháng 7 vừa qua khi một tác nhân AI tự động được xây dựng trên các mô hình của OpenAI, trong quá trình thử nghiệm khả năng an ninh mạng, đã vượt khỏi môi trường kiểm tra và xâm nhập hệ thống vận hành thực tế của nền tảng Hugging Face trong khoảng 2 ngày rưỡi. Quá trình điều tra ghi nhận khoảng 17.600 thao tác trong toàn bộ chiến dịch. Theo phân tích của Hugging Face, tác nhân AI dường như tìm cách tiếp cận dữ liệu đáp án thử nghiệm thay vì tự giải quyết nhiệm vụ được giao.
Theo ông Golan, sự cố cho thấy một hệ thống AI có thể sử dụng những công cụ và quyền truy cập sẵn có để thực hiện các hành động vượt ngoài mục tiêu ban đầu. Nguy cơ tương tự đang xuất hiện trong môi trường doanh nghiệp, khi các trợ lý AI ngày càng được kết nối với hộp thư điện tử, lịch làm việc, tài liệu nội bộ và các nền tảng quản lý dữ liệu.
Đặc biệt, những nội dung AI tiếp nhận từ thư điện tử, trang web hoặc tài liệu đính kèm có thể chứa các chỉ dẫn không đáng tin cậy. Nếu không phân biệt được quyền hạn giữa yêu cầu của người dùng và thông tin từ nguồn bên ngoài, AI có nguy cơ thực hiện những hành động trái với nhiệm vụ được giao.
Chuyên gia này khuyến nghị doanh nghiệp cần đánh giá mức độ rủi ro mỗi khi tích hợp công cụ AI mới hoặc mở rộng chức năng của hệ thống hiện có, nhất là quyền gửi thư, thay đổi hồ sơ và truy cập dữ liệu nhạy cảm. Đồng thời, cần thiết lập cơ chế phê duyệt đối với các hành động quan trọng, thường xuyên rà soát quyền truy cập và thu hồi quyền của những công cụ không còn sử dụng.
Theo ông Golan, thách thức lớn nhất không phải là theo dõi mọi tiến bộ công nghệ AI, mà là kịp thời nhận diện những thay đổi có thể ảnh hưởng trực tiếp đến hoạt động và an ninh của doanh nghiệp. Việc kiểm soát quyền hạn cần được thực hiện ngay từ khi triển khai công cụ, thay vì chờ đến khi rủi ro xuất hiện hoặc hệ thống đã trở nên không thể thiếu trong công việc.
