 |
| FoloToy đã tạm thời thu hồi gấu bông Kumma và các sản phẩm khác do lo ngại về các cuộc trò chuyện nhạy cảm với trẻ em. Ảnh: Folotoy |
Gấu bông và thú nhồi bông từ lâu là đồ chơi quen thuộc với trẻ nhỏ. Nếu trước đây chúng chỉ “im lặng” trong các trò chơi tưởng tượng, thì nay, với sự tích hợp chatbot AI, nhiều món đồ chơi đã trở nên sinh động hơn, có khả năng tương tác và “trò chuyện” với trẻ.
Tuy nhiên, chính những tiện ích đó đôi khi lại gây ra rủi ro. Gấu bông đeo khăn quàng cổ Kumma của công ty Folotoy (Singapore) gần đây trở thành tâm điểm chú ý sau khi thất bại trong một cuộc thử nghiệm an toàn. Việc sử dụng mô hình ngôn ngữ lớn (LLM) trong đồ chơi trẻ em đang đặt ra câu hỏi về mức độ an toàn, khả năng trẻ có nên tiếp xúc và những biện pháp bảo vệ mà nhà sản xuất cần áp dụng.
Theo báo cáo "Đánh giá Công nghệ" của Viện Công nghệ Massachusetts (MIT), các rủi ro này ngày càng rõ rệt trong bối cảnh thị trường đồ chơi AI bùng nổ trên thế giới, đặc biệt với khoảng 1.500 công ty hoạt động tại Trung Quốc và phân phối sản phẩm ra nước ngoài.
Khác với gấu bông Teddy Ruxpin của thập niên 1980 chỉ kể chuyện bằng băng cassette, đồ chơi AI ngày nay kết nối WiFi, sử dụng micro để ghi nhận yêu cầu của trẻ và dùng LLM tạo ra phản hồi theo thời gian thực thông qua loa tích hợp.
Công nghệ AI cho phép nhiều sản phẩm như thú nhồi bông Grok của Curio, robot Miko, gấu kể chuyện AI Poe, Robot Mini của Little Learners hay thú cưng robot Loona của KEYi Technology tương tác tự nhiên với trẻ.
Tuy nhiên, các chuyên gia cảnh báo những phản hồi thời gian thực này có thể bao gồm nội dung không phù hợp.
Báo cáo của Quỹ Giáo dục thuộc Tổ chức Nghiên cứu Lợi ích Công cộng Mỹ (PIRG) công bố tháng 11 cho biết chú gấu Kumma của FoloToy, giá 99 USD và sử dụng GPT-4o của OpenAI, đã khiến các nhà nghiên cứu “giật mình” khi tạo ra một số cuộc trò chuyện mang tính khiêu dâm.
Người phát ngôn của OpenAI cho biết công ty đã đình chỉ FoloToy vì vi phạm chính sách, trong đó cấm mọi hành vi sử dụng dịch vụ nhằm khai thác, gây nguy hiểm hoặc quấy rối tình dục trẻ vị thành niên.
Ngày 19/11, trả lời CNN, ông Larry Wang - Giám đốc điều hành FoloToy - cho biết công ty đã gỡ hình ảnh Kumma và các sản phẩm AI khác khỏi trang web để kiểm tra an toàn nội bộ. Tuy nhiên, ngày 28/11, FoloToy thông báo trên X rằng họ vẫn quyết định ra mắt sản phẩm sau khi xem xét, thử nghiệm và củng cố các mô-đun an toàn.
Không giống phần lớn đồ chơi AI khác, Kumma sử dụng một LLM hoàn chỉnh để tự do tạo nội dung. Theo Giáo sư Subodha Kumar (Đại học Temple), điều này khiến sản phẩm dễ tạo ra những câu trả lời gây tranh cãi.
PIRG cũng chỉ ra rằng thú nhồi bông Grok của Curio có thể gợi ý “nơi tìm thấy nhiều đồ vật nguy hiểm trong nhà” khi được hỏi. Công ty Curio hiện chưa phản hồi yêu cầu bình luận của CNN.
Theo PIRG, nhiều đồ chơi AI mang đặc điểm thiết kế gây nghiện, phản hồi không nhất quán và tập trung vào yếu tố “kết bạn xã hội” hơn là mục tiêu giáo dục.
Chuyên gia tư vấn đồ chơi Chris Byrne nhận định việc đồ chơi AI đưa ra nội dung không phù hợp là một “viễn cảnh ngày tận thế”, nhưng không xảy ra với tất cả sản phẩm. Ông cho biết một số đồ chơi đã có biện pháp bảo vệ và bộ lọc nhằm tránh nội dung không phù hợp, thậm chí chuyển hướng câu hỏi nhạy cảm.
R.J. Cross, Giám đốc chiến dịch “Đừng bán dữ liệu” của PIRG, cho rằng: “Nếu phụ huynh có thể tự đặt giới hạn và kiểm soát nội dung mà đồ chơi nói hoặc cách chúng hoạt động, đó sẽ là một ý tưởng tuyệt vời”.
Ngoài nội dung phản hồi, rủi ro về quyền riêng tư cũng là lo ngại lớn. Khi Mattel ra mắt Hello Barbie năm 2015 với micro, WiFi và hệ thống trả lời soạn sẵn, nhiều chuyên gia đã cảnh báo nguy cơ tấn công mạng.
Những lo ngại này tiếp tục xuất hiện với đồ chơi AI - vốn có khả năng lưu trữ dữ liệu cá nhân như tên, khuôn mặt, giọng nói và vị trí của trẻ.
“Đối với tôi, đồ chơi AI giống như một con sói đội lốt cừu, bởi vì khi sử dụng chúng, rất khó biết bạn đang đánh mất bao nhiêu quyền riêng tư”, Azhelle Wade, người sáng lập công ty tư vấn Toy Coach, cảnh báo trong email gửi CNN.
