OpenAI cho biết tội phạm mạng có xu hướng lợi dụng các công cụ AI để thực hiện các hành vi phạm pháp, như tạo ra và lan truyền các phần mềm độc hại, phát tán tin giả trên các trang web và nền tảng mạng xã hội.
Trong năm 2024, OpenAI đã phát hiện và xử lý 20 trường hợp vi phạm. Trong số đó, vào tháng 8/2024, một nhóm người đã lợi dụng các tài khoản ChatGPT để viết nhiều bài báo về một số chủ đề liên quan đến cuộc bầu cử của Mỹ.
Trước đó vào tháng 7, công ty này cũng đã có các động thái nhằm ngăn chặn một số tài khoản liên tục ngụy tạo các bình luận trên trang mạng xã hội X liên quan đến hoạt động bầu cử tại Rwanda.
Tuy nhiên, OpenAI nhấn mạnh rằng hiện chưa ghi nhận bất cứ hoạt động nào trong số đó thu hút lượt tương tác rộng rãi hoặc có được lượng người theo dõi thường xuyên.
Dựa trên báo cáo gần nhất về tác nhân ảnh hưởng tới an ninh mạng hồi tháng 5, OpenAI cho biết sẽ tiếp tục phát triển các phiên bản AI mới nhằm phát hiện và phân tích các hoạt động có dấu hiệu nguy hiểm tiềm ẩn.
Tuy quy trình điều tra vẫn sẽ cần tới phán đoán và chuyên môn của con người ở nhiều công đoạn, nhưng những nhà phát triển AI nhận định rằng những công cụ này sẽ giúp rút ngắn thời gian phân tích từ vài ngày xuống chỉ còn vài phút.
Trong tương lai, OpenAI cam kết sẽ tiếp tục phối hợp chặt chẽ giữa các cơ quan an ninh và các nhà làm chính sách, nhằm xác định rõ các lỗ hổng trong vận hành mô hình trí tuệ nhân tạo mà các tội phạm lợi dụng để thực hiện các hành vi phạm tội, đồng thời đưa ra các giải pháp phù hợp.
OpenAI hiện là một trong những công ty tư nhân có giá trị cao nhất thế giới, sau một vòng gọi vốn trị giá 6,6 tỷ USD vào tuần trước. Chatbot này hiện có tới 250 triệu lượt truy cập trên toàn thế giới.
Việc sử dụng các công cụ AI và các trang mạng xã hội để tạo và phát tán nội dung giả liên quan đến bầu cử đang là mối quan ngại lớn của các nhà chức trách, đặc biệt là khi Mỹ đang trong giai đoạn tiến gần đến cuộc bầu cử tổng thống.
Theo Bộ An ninh Nội địa Mỹ, nước này đang đối mặt với mối đe dọa gia tăng từ nhiều phía. Các bên có thể tìm cách tác động đến cuộc bầu cử vào ngày 5/11 sắp tới, bao gồm cả việc sử dụng AI để phát tán thông tin giả mạo hoặc chia rẽ.
Cụ thể, OpenAI đã phát hiện một chiến dịch tác động đa nền tảng sử dụng ChatGPT để tạo nội dung liên quan đến bầu cử Tổng thống Mỹ, được biết đến với tên gọi Storm-2035. Chiến dịch này xuất phát từ Iran và sử dụng ChatGPT để tạo ra các bài viết và bình luận ngắn trực tuyến bằng tiếng Anh và tiếng Tây Ban Nha.
"Chúng tôi phát hiện các bình luận được đăng bởi hàng chục tài khoản giả mạo trên nền tảng mạng xã hội X và một tài khoản trên Instagram, cùng với các bài viết trên năm trang web khác nhau", OpenAI cho biết. Các bài viết này, thường có độ dài từ 700 đến 900 từ, nội dung chủ yếu tập trung vào các ứng cử viên tổng thống và phó tổng thống trong cuộc đua vào Nhà Trắng năm 2024.
