Đây là một trong những biện pháp bảo vệ mới nhằm hạn chế nguy cơ bạo lực ngoài đời thực, trong bối cảnh các công ty trí tuệ nhân tạo (AI) ngày càng chịu sự giám sát chặt chẽ về trách nhiệm bảo đảm an toàn cho người dùng trẻ tuổi.
Cụ thể, ChatGPT sẽ hạn chế cung cấp những thông tin mang tính thực hành về vũ khí và hệ thống an ninh có khả năng bị lợi dụng để gây hại. Giới hạn này được áp dụng với người dùng dưới 18 tuổi ngay cả khi không có dấu hiệu cho thấy họ có ý định thực hiện hành vi bạo lực.
Bên cạnh việc kiểm soát nội dung, OpenAI cũng tăng cường giám sát các cuộc trò chuyện có dấu hiệu bất thường. Theo đó, ChatGPT có thể tự động kết thúc cuộc trò chuyện nếu phát hiện người dùng liên tục tập trung vào các nội dung bạo lực; tài khoản có thể bị tạm đình chỉ nếu xuất hiện nhiều cuộc trò chuyện liên tiếp như vậy. Biện pháp này áp dụng với tất cả người dùng, không chỉ thanh thiếu niên.
Để tăng cường bảo vệ nhóm người dùng nhỏ tuổi, OpenAI cho biết đã cải thiện hệ thống dự đoán độ tuổi, qua đó chuyển những người được xác định dưới 18 tuổi sang trải nghiệm dành riêng cho thanh thiếu niên. Công ty cũng dự định thông báo cho phụ huynh khi tài khoản của con em họ bị tạm dừng do liên tục trao đổi về bạo lực.
Ngoài ra, ChatGPT sẽ hạn chế mức độ chi tiết của thông tin về các vụ tấn công gây thương vong hàng loạt trong quá khứ đối với tất cả người dùng, đặc biệt là những nội dung về loại vũ khí được sử dụng và cách thức các đối tượng có được những vũ khí này.
OpenAI cho biết các biện pháp bảo vệ mới sẽ bắt đầu được triển khai trong vài tuần tới và tiếp tục được điều chỉnh, hoàn thiện. Đầu tháng này, công ty công bố báo cáo đầu tiên về tình hình thanh thiếu niên sử dụng ChatGPT, theo đó nhóm người dùng này dành trung bình chưa đến 15 phút mỗi ngày trên nền tảng.
Tuy nhiên, hiệu quả của các biện pháp bảo vệ người dùng trẻ tuổi vẫn là vấn đề được quan tâm. Một báo cáo khác, do tổ chức phi lợi nhuận Common Sense Media công bố cũng trong tháng này, cho thấy phiên bản ChatGPT dành cho thanh thiếu niên thường thông báo muộn, thậm chí không thông báo cho phụ huynh khi tài khoản của con em họ có các cuộc trò chuyện liên quan đến tự tử, tự gây tổn thương hoặc rối loạn ăn uống.
