Kênh CNN (Mỹ) dẫn thông báo từ cảnh sát tỉnh Cam Túc cho biết đã bắt một người đàn ông nghi ngờ sử dụng ChatGPT để tạo tin giả về tai nạn tàu hỏa sau đó đăng thông tin lên mạng. Theo cảnh sát địa phương ngày 7/5, bài đăng tin giả này nhận được 15.000 lượt xem.
Giới chức Cam Túc cho biết nghi phạm có tên Hong đã bị thẩm vấn tại thành phố Đông Quản, tỉnh Quảng Đông vào hôm 5/5.
Cảnh sát Cam Túc nêu rõ: "Hong sử dụng công nghệ hiện đại để tạo tin giả, lan truyền nó lên internet. Hành vi của anh ta gây bất ổn và thổi bùng rắc rối".
Đài CGTN (Trung Quốc) cho biết đây là vụ bắt giữ đầu tiên tại nước này liên quan đến việc sử dụng ChatGPT để tạo và lan truyền tin giả.
Trung Quốc cấm ChatGPT do công ty Mỹ có tên Open AI phát triển. Tuy nhiên, người sử dụng internet có thể tận dụng mạng riêng ảo (VPN) để tiếp cận ChatGPT tại Trung Quốc.
Cơ quan quản lý không gian mạng Trung Quốc vào tháng 1 đã ban hành quy định mới để kiểm soát việc sử dụng công nghệ deep fake. Quy định nghiêm cấm người sử dụng tạo nội dung deep fake trong các vấn đề vốn bị cấm bởi luật hiện hành. Nó cũng nhấn mạnh đến quy trình gỡ các nội dung giả và có hại.
Trong một dự thảo hướng dẫn được đưa ra vào tháng 4 để nhận phản hồi từ công chúng, cơ quan an ninh mạng Trung Quốc cho biết cần phải duyệt dịch vụ AI tạo sinh trước khi nó được vận hành. Các nhà cung cấp dịch vụ cũng phải xác minh danh tính thật của người sử dụng cũng như cung cấp chi tiết về quy mô và loại dữ liệu mà họ dùng, các thuật toán cơ bản và thông tin kỹ thuật khác.
Vụ bắt giữ diễn ra trong bối cảnh Bộ Công An Trung Quốc tiến hành chiến dịch 100 ngày, bắt đầu từ tháng 3, để xử lý lan truyền tin giả trên internet.
Vào tháng 3, Tập đoàn Baidu của Trung Quốc đã ra mắt dự án tương tự ChatGPT có tên là "Ernie Bot" hay “Wenxin Yiyan”. Hai tháng sau đó, Alibaba cũng ra mắt “Tongyi Qianwen” - mô hình ngôn ngữ lớn AI tương tự GPT.