Trong văn bản gửi Meta, Văn phòng Tổng biện hộ Liên bang (AGU) cũng đề nghị tập đoàn này làm rõ “các biện pháp đang được triển khai, kể cả trên các nền tảng nói trên, nhằm đảm bảo an toàn cho trẻ em và thanh thiếu niên, bao gồm những hành động ngăn chặn họ tiếp cận nội dung tình dục hoặc khiêu dâm”.
AGU cho biết, các chatbot nói trên được phát triển bằng công cụ Meta AI Studio – nền tảng cho phép sử dụng trí tuệ nhân tạo (AI) để mô phỏng trò chuyện với người dùng mạng xã hội. Theo cơ quan này, việc để tồn tại các chatbot như vậy “gây ra nguy cơ thực tế đối với sự toàn vẹn tâm lý của trẻ em và thanh thiếu niên, đồng thời gây tổn hại thể chế và cản trở việc thực thi đầy đủ quyền được bảo vệ toàn diện theo Điều 227 của Hiến pháp Liên bang”.
Hiện nay, nền tảng của Meta cho phép người dùng từ 13 tuổi trở lên, song vẫn thiếu bộ lọc đủ mạnh để xác thực độ tuổi và ngăn chặn nhóm từ 13 đến 18 tuổi tiếp cận các nội dung không phù hợp, trong đó có các chatbot vừa nêu.
AGU cũng viện dẫn phán quyết gần đây của Tòa án Tối cao Liên bang (STF) về tính hợp hiến của Điều 19 trong Bộ luật Dân sự về Quyền Internet. Theo đó, các nhà cung cấp dịch vụ ứng dụng Internet phải chịu trách nhiệm về nội dung do bên thứ ba tạo ra nếu không tiến hành gỡ bỏ ngay lập tức khi có bằng chứng rõ ràng về hành vi vi phạm pháp luật.
Động thái này phản ánh mối lo ngại ngày càng gia tăng của Chính phủ Brazil và các tổ chức bảo vệ quyền trẻ em về những rủi ro tiềm ẩn khi công nghệ AI bị lạm dụng, đặc biệt trên môi trường mạng xã hội có đông đảo thanh thiếu niên sử dụng.
