Trong cuộc phỏng vấn với NBC News ngày 24/9, ông Gates cho rằng nhân loại chưa từng có thứ vũ khí nào khủng khiếp như "sự kết hợp giữa những kẻ có ý đồ xấu với các công cụ AI tiên tiến nhất". Ông khẳng định “AI chắc chắn đủ mạnh để thúc đẩy những sự kiện gây ra cái chết của 1 tỷ người”. Theo ông Gates, những rủi ro này cho thấy sự cần thiết phải có các quy định pháp luật nhằm kiểm soát việc sử dụng AI, trong bối cảnh công nghệ đang phát triển nhanh hơn khả năng xây dựng các cơ chế quản lý và bảo đảm an toàn.
Cảnh báo của ông Gates được đưa ra trong bối cảnh ngày càng có nhiều ý kiến lo ngại về nguy cơ từ cuộc đua phát triển các mô hình AI mạnh hơn giữa các công ty công nghệ. Đầu tháng 9, nhà nghiên cứu Jacob Steinhardt của công ty Anthropic (Mỹ) tuyên bố rời ngành công nghiệp AI vì lo ngại cuộc cạnh tranh giữa các tập đoàn công nghệ đang đẩy thế giới tới “điểm không thể quay lại” và có thể dẫn đến một kịch bản thảm họa ngay từ cuối năm 2027. Sau đó, ông Evan Hubinger - người đứng đầu nhóm kiểm thử khả năng căn chỉnh AI (AI alignment) của Anthropic - cho rằng có 10% khả năng AI sẽ hủy diệt nhân loại trong vòng 10 năm tới. Đây là đánh giá cá nhân của ông Hubinger, không phải dự báo chính thức của Anthropic.
Ngày 12/9, Giám đốc điều hành (CEO) Anthropic Dario Amodei cũng kêu gọi toàn cầu giảm tốc độ phát triển các mô hình AI, viện dẫn những lo ngại về an toàn. Tỷ phú Mỹ Elon Musk và CEO OpenAI Sam Altman bày tỏ ủng hộ đề xuất này.
Các cảnh báo được đưa ra trong lúc AI tiếp tục được ứng dụng rộng rãi trong nhiều lĩnh vực, từ nghiên cứu khoa học, y tế đến sản xuất và dịch vụ. Cùng với những lợi ích tiềm năng, giới công nghệ và các nhà quản lý đang phải đối mặt với bài toán kiểm soát các rủi ro có thể phát sinh từ việc sử dụng những hệ thống AI ngày càng mạnh.
