Theo thông báo được Anthropic công bố trong tuần này, các mô hình AI có từ 30 tỷ tham số trở xuống hiện đã có thể thực hiện nhiều bước cần thiết để tự nhân bản, dù vẫn mắc lỗi khi kết hợp toàn bộ quy trình. Nếu tiếp tục cải thiện với tốc độ như những năm qua, các mô hình này có thể hoàn thiện năng lực trên vào cuối năm nay.
Hiện nay, các mô hình AI chủ yếu vận hành trong những trung tâm dữ liệu, nơi đơn vị quản lý có thể ngắt hệ thống khi phát sinh sự cố. Tuy nhiên, nếu một mô hình tự sao chép và phân tán trên hàng nghìn thiết bị có mức bảo mật yếu tại nhà ở và văn phòng, việc ngăn chặn sẽ phức tạp hơn nhiều. Khi đó, các chuyên gia có thể phải xác định vị trí và xử lý từng thiết bị bị lây nhiễm.
Anthropic cho rằng AI tự nhân bản có thể gây ra nhiều dạng rủi ro, từ một mô hình chuyên thực hiện các cuộc tấn công mạng nhằm xâm nhập trung tâm dữ liệu với tốc độ cao đến các hệ thống lừa đảo người dùng để chiếm đoạt tài nguyên tính toán. Công ty thừa nhận chưa thể xác định chính xác hình thức mà khả năng tự nhân bản tự động sẽ phát triển.
Theo Anthropic, đây là hệ quả ngoài dự kiến của quá trình nâng cao năng lực AI trong các lĩnh vực khác. Khả năng lập trình ngày càng mạnh cũng giúp các mô hình thực hiện những nhiệm vụ an ninh mạng, trong đó có tự sao chép và phát tán.
Các chương trình có khả năng tự sao chép giữa các máy tính không phải hiện tượng mới. Năm 2010, mã độc Stuxnet, được cho là do Mỹ và Israel phát triển, đã phá hoại các máy ly tâm tại cơ sở làm giàu urani Natanz của Iran. Năm 2017, mã độc tống tiền WannaCry lây lan trên toàn cầu, khóa quyền truy cập các tệp dữ liệu và đòi tiền chuộc bằng Bitcoin.
Tuy nhiên, khác với các loại mã độc truyền thống, những mô hình AI và tác tử AI (AI agent) có thể tự tìm hiểu các thiết bị chưa từng gặp, qua đó mở rộng khả năng phát tán từ máy tính sang nhiều loại phần cứng khác. Anthropic cảnh báo tương lai có thể xuất hiện ngày càng nhiều tác tử AI hoạt động trên các thiết bị không nằm dưới sự kiểm soát của con người.
