Phát biểu tại một trung tâm khoa học và công nghệ của Imperial College London, ông Narayan cho biết trong vụ việc ở Australia, một tác nhân AI (chương trình máy tính hoạt động tự động) của OpenAI được giao nhiệm vụ “vô hại” là tìm thông tin về chi tiêu công cho thuốc men, nhưng đã truy cập cả những dữ liệu không được phép. Chính phủ Australia thông báo chưa phát hiện hồ sơ y tế cá nhân nào bị truy cập và không có bằng chứng về việc hệ thống bị xâm phạm rộng hơn, nhưng ông Narayan cho rằng vụ việc vẫn đáng lo ngại.
Ông Narayan cho biết Quốc vụ khanh phụ trách An ninh Dan Jarvis sẽ dẫn dắt một chương trình của chính phủ nhằm tăng cường khả năng chống các cuộc tấn công mạng, kể cả từ AI. Chính phủ cũng sẽ cân nhắc sử dụng Dự luật An ninh mạng và Khả năng phục hồi để đưa vào các quy định về an toàn AI, trong đó có việc bắt buộc báo cáo các sự cố AI. Viện An ninh AI (AISI) của Anh sẽ được tiếp cận các mô hình AI tiên tiến trước khi phát hành và các nhà khoa học của viện đang đánh giá nghiêm ngặt các thế hệ mô hình mới nhất, trong đó có Gemini của Google.
Ông Narayan kêu gọi các công ty AI hàng đầu “lắng nghe” cảnh báo của giới khoa học về những nguy hiểm nghiêm trọng, điều tra các hành vi bất thường và nếu không thể kiểm soát đầy đủ rủi ro thì không phát hành hệ thống. Ông cho biết Anh sẽ đóng vai trò trong điều phối phản ứng quốc tế về an toàn AI, đưa AI thành “trọng tâm” trong nhiệm kỳ Chủ tịch Nhóm các nền kinh tế phát triển và mới nổi hàng đầu thế giới (G20) của Anh năm 2027.
Phát biểu của ông Narayan được đưa ra trước phiên điều trần về an toàn AI của một ủy ban Hạ viện Anh vào ngày 13/10, với sự tham gia của đại diện cấp cao OpenAI, Anthropic và Giám đốc Viện An ninh AI Henry de Zoete.
