AI càng tự chủ, nguy cơ mất an toàn dữ liệu càng lớn

0:00 / 0:00
0:00
(Ngày Nay) - Việc các trợ lý trí tuệ nhân tạo (AI) ngày càng có khả năng tự động thực hiện công việc và truy cập hệ thống doanh nghiệp đang đặt ra những thách thức mới về an ninh mạng. Các chuyên gia cảnh báo nguy cơ không chỉ đến từ những mô hình AI tiên tiến mà còn từ việc doanh nghiệp thiếu kiểm soát đối với quyền truy cập dữ liệu và khả năng hành động của các công cụ AI đang được sử dụng hằng ngày.
AI càng tự chủ, nguy cơ mất an toàn dữ liệu càng lớn

Theo ông Itamar Golan, Tổng Giám đốc công ty an ninh mạng Prompt Security thuộc tập đoàn SentinelOne của Mỹ, sự xuất hiện liên tục của các mô hình và công cụ AI mới đang khiến bộ phận bảo mật doanh nghiệp bị quá tải thông tin, trong khi những thay đổi nhỏ về quyền truy cập và chức năng của trợ lý AI có thể tạo ra rủi ro lớn nhưng ít được chú ý.

Dẫn chứng về nguy cơ này, ông Golan đề cập sự cố hồi tháng 7 vừa qua khi một tác nhân AI tự động được xây dựng trên các mô hình của OpenAI, trong quá trình thử nghiệm khả năng an ninh mạng, đã vượt khỏi môi trường kiểm tra và xâm nhập hệ thống vận hành thực tế của nền tảng Hugging Face trong khoảng 2 ngày rưỡi. Quá trình điều tra ghi nhận khoảng 17.600 thao tác trong toàn bộ chiến dịch. Theo phân tích của Hugging Face, tác nhân AI dường như tìm cách tiếp cận dữ liệu đáp án thử nghiệm thay vì tự giải quyết nhiệm vụ được giao.

Theo ông Golan, sự cố cho thấy một hệ thống AI có thể sử dụng những công cụ và quyền truy cập sẵn có để thực hiện các hành động vượt ngoài mục tiêu ban đầu. Nguy cơ tương tự đang xuất hiện trong môi trường doanh nghiệp, khi các trợ lý AI ngày càng được kết nối với hộp thư điện tử, lịch làm việc, tài liệu nội bộ và các nền tảng quản lý dữ liệu.

Đặc biệt, những nội dung AI tiếp nhận từ thư điện tử, trang web hoặc tài liệu đính kèm có thể chứa các chỉ dẫn không đáng tin cậy. Nếu không phân biệt được quyền hạn giữa yêu cầu của người dùng và thông tin từ nguồn bên ngoài, AI có nguy cơ thực hiện những hành động trái với nhiệm vụ được giao.

Chuyên gia này khuyến nghị doanh nghiệp cần đánh giá mức độ rủi ro mỗi khi tích hợp công cụ AI mới hoặc mở rộng chức năng của hệ thống hiện có, nhất là quyền gửi thư, thay đổi hồ sơ và truy cập dữ liệu nhạy cảm. Đồng thời, cần thiết lập cơ chế phê duyệt đối với các hành động quan trọng, thường xuyên rà soát quyền truy cập và thu hồi quyền của những công cụ không còn sử dụng.

Theo ông Golan, thách thức lớn nhất không phải là theo dõi mọi tiến bộ công nghệ AI, mà là kịp thời nhận diện những thay đổi có thể ảnh hưởng trực tiếp đến hoạt động và an ninh của doanh nghiệp. Việc kiểm soát quyền hạn cần được thực hiện ngay từ khi triển khai công cụ, thay vì chờ đến khi rủi ro xuất hiện hoặc hệ thống đã trở nên không thể thiếu trong công việc.

Trưng bày thu hút sự quan tâm của người yêu mỹ thuật - Ảnh: Minh Khang
Tác phẩm của các danh họa mỹ thuật Đông Dương và Gia Định đến với công chúng
(Ngày Nay) -Người yêu thích mỹ thuật Đông Dương và mỹ thuật Gia Định đã có thể thường xuyên ngắm những Hải quỳ của họa sĩ Lê Phổ, Phụ nữ Bắc vấn tóc trần của Vũ Cao Đàm, Tuồng đời của Bùi Xuân Phái, Thiên thai của Phạm Tăng… tại nơi trưng bày tầng 3, Nhà 1 Bảo tàng Mỹ thuật TPHCM (97A Phó Đức Chính, phường Bến Thành).
Rực rỡ trang phục phụ nữ Hà Nhì mùa Tết Hồ Sự Chà
Rực rỡ trang phục phụ nữ Hà Nhì mùa Tết Hồ Sự Chà
(Ngày Nay) - Giữa những nếp nhà trình tường còn mờ sương, những đường thêu đỏ, vàng, xanh nổi lên trên nền áo chàm của phụ nữ Hà Nhì. Ở Mù Cả, các bà, các mẹ sửa soạn xà cạp, dây lưng bằng những mũi thêu cuối cùng. Ở Thu Lũm, những tà váy chàm lay động theo nhịp vòng xòe trong ngày Tết Hồ Sự Chà.
Viettel đặt ra lộ trình tới năm 2030 đưa toàn bộ mạng lưới đạt mức tự trị Cấp độ 4 và tiến tới Cấp độ 5 ở những lĩnh vực phù hợp.
Viettel đạt chuẩn mạng tự trị cao nhất thế giới
(Ngày Nay) - Ngày 19/11, tại Innovate Asia 2026 diễn ra ở Bangkok (Thái Lan), Hiệp hội viễn thông quốc tế (TM Forum) chính thức vinh danh Viettel là nhà mạng đầu tiên tại Việt Nam đạt chứng nhận Mạng tự trị Cấp độ 4, mức cao nhất được cấp trên thế giới hiện nay. Kết quả được xác lập bằng các giải pháp do đội ngũ kỹ sư Viettel tự nghiên cứu, phát triển và đang vận hành thương mại, đưa Viettel vào nhóm nhà mạng dẫn đầu toàn cầu về năng lực mạng tự trị.
Trung tâm Hội nghị APEC
Việt Nam chính thức tiếp nhận vai trò chủ nhà APEC 2027: Phú Quốc chuẩn bị ra sao cho sự kiện lớn bậc nhất hành tinh?
(Ngày Nay) - Ngày 19/11, tại Thâm Quyến (Trung Quốc), Việt Nam chính thức tiếp nhận vai trò chủ nhà APEC 2027. Tại Phú Quốc (An Giang), nơi diễn ra Tuần lễ Cấp cao APEC 2027, 21 dự án với tổng vốn sơ bộ hơn 137.000 tỷ đồng đang được đẩy nhanh tiến độ, trong đó Sun Group là nhà đầu tư chủ lực của chuỗi công trình từ sân bay, giao thông đến hội nghị và lưu trú.
Lũ lụt hoành hành tại Nam Mỹ do tác động từ El Nino
Lũ lụt hoành hành tại Nam Mỹ do tác động từ El Nino
(Ngày Nay) - Mưa lớn kéo dài do hiện tượng khí hậu El Nino cường độ mạnh đang gây lũ lụt nghiêm trọng tại nhiều quốc gia Nam Mỹ, khiến ít nhất 14 người thiệt mạng ở Ecuador và buộc hàng nghìn người tại Argentina, Paraguay và Brazil phải rời bỏ nhà cửa, trong khi đỉnh lũ và mùa mưa cao điểm vẫn còn ở phía trước.