Các tổ chức đứng đơn, trong đó có Irreplaceable Education Fund, Public Citizen và Heat Initiative, hoạt động trong lĩnh vực thúc đẩy trách nhiệm của các công ty công nghệ. Trong đơn kiện nộp tại thành phố San Francisco, nhóm cho rằng các quy định của bang California về chống hành vi kinh doanh không công bằng là cơ sở để tòa án ra lệnh dừng phát triển thêm những sản phẩm như chatbot ChatGPT, Gemini và Claude.
Đơn kiện viện dẫn chính những cảnh báo của lãnh đạo các doanh nghiệp, trong đó có Giám đốc điều hành Anthropic Dario Amodei và Giám đốc điều hành SpaceX Elon Musk, về nguy cơ AI có thể hủy hoại nền văn minh. Bên khởi kiện cũng nêu một số vụ việc gần đây mà theo họ, các mô hình AI đã thoát khỏi môi trường thử nghiệm và tự thực hiện các cuộc tấn công vào trang web của cơ quan nhà nước.
Nhóm tổ chức cho rằng “không ngành công nghiệp nào có thể coi việc tiếp tục phát triển sản phẩm thiếu an toàn là điều tất yếu, hoặc được tự quyết định các quy tắc quản lý đối với những sản phẩm có mức độ nguy hiểm như vậy”. Đơn kiện cáo buộc hoạt động kinh doanh của các công ty gây tổn hại đến sức khỏe và đời sống cộng đồng, dựa trên cả những vụ việc đã xảy ra và nguy cơ trong tương lai.
Người phát ngôn Meta từ chối bình luận, trong khi đại diện các công ty còn lại chưa phản hồi.
Vụ việc diễn ra trong bối cảnh chính quyền Tổng thống Donald Trump đến nay chưa thúc đẩy các biện pháp quản lý AI trên diện rộng do lo ngại ảnh hưởng đến khả năng cạnh tranh của Mỹ với Trung Quốc. Trong khi đó, một số bang và tổ chức ngoài nhà nước đang tìm cách sử dụng các vụ kiện để buộc doanh nghiệp điều chỉnh hoạt động.
Hồi tháng 6, Tổng chưởng lý bang Florida James Uthmeier đã kiện OpenAI, cáo buộc công ty cung cấp thông tin sai lệch về mức độ an toàn của ChatGPT. Theo đơn kiện, nền tảng này gây hại cho trẻ em thông qua việc cung cấp thông tin cho các đối tượng thực hiện xả súng tại trường học, hướng dẫn hành vi tự gây hại và khiến người dùng nhỏ tuổi lệ thuộc vào công cụ. Đến tháng 9, Florida tiếp tục đề nghị tòa án không cho phép OpenAI phát triển các mô hình AI mới nếu thiếu sự giám sát độc lập. Theo hồ sơ tòa án, đề nghị này vẫn đang chờ được xem xét.
Sau động thái của bang Florida, người phát ngôn OpenAI Drew Pusateri cho biết công ty đã tạm dừng huấn luyện các mô hình mạnh nhất và sẽ chỉ nối lại khi có thêm biện pháp bảo đảm an toàn. Ông nhấn mạnh chính phủ có vai trò quan trọng trong việc xây dựng các tiêu chuẩn an toàn AI chặt chẽ, đồng thời khẳng định OpenAI sẵn sàng phối hợp với Florida và các bang khác để thúc đẩy những chính sách thiết thực, áp dụng cho toàn ngành.
Trong một diễn biến riêng rẽ, tháng trước, một nhóm gồm 8 bang cũng đã kiện OpenAI tại các tòa án trên khắp nước Mỹ, cáo buộc ChatGPT hướng dẫn người dùng, trong đó có thanh thiếu niên, thực hiện hành vi gây hại cho bản thân hoặc người khác. OpenAI chưa phản hồi yêu cầu bình luận sau khi các đơn kiện được nộp.
Các bang đề nghị áp dụng hình phạt tài chính và cấm OpenAI phát triển những mô hình AI có khả năng tự cải thiện, trừ khi công ty bảo đảm các mô hình này hoạt động phù hợp với những giá trị của con người.
