Liên hợp quốc: AI bị lợi dụng để xâm hại trẻ em, biện pháp bảo vệ chưa theo kịp

0:00 / 0:00
0:00
(Ngày Nay) - Đại diện đặc biệt của Tổng Thư ký LHQ về chống bạo lực đối với trẻ em, cho rằng phần lớn các vụ xâm hại trẻ em có sử dụng AI vẫn chưa được trình báo hoặc chưa được xử lý thích đáng.
Ảnh minh họa có sử dụng Trí tuệ nhân tạo.
Ảnh minh họa có sử dụng Trí tuệ nhân tạo.

Ngày 19/11, các quan chức cấp cao của Liên hợp quốc cảnh báo trí tuệ nhân tạo (AI) đang bị các đối tượng xâm hại tình dục và các nhóm tội phạm lợi dụng để dụ dỗ, tống tiền và bóc lột trẻ em, trong khi các biện pháp bảo vệ trẻ em trên môi trường số chưa theo kịp tốc độ phát triển của công nghệ.

Tại sự kiện cấp cao của Đại hội đồng Liên hợp quốc ở New York về những rủi ro và cơ hội của AI trong phòng, chống bạo lực đối với trẻ em, bà Najat Maalla M’jid, Đại diện đặc biệt của Tổng Thư ký Liên hợp quốc về chống bạo lực đối với trẻ em, cho rằng sự chậm trễ trong ứng phó từng khiến các nỗ lực bảo vệ trẻ em trên mạng xã hội rơi vào thế bị động. Bà nhấn mạnh tình trạng này đang lặp lại với AI.

Theo bà M’jid, các đối tượng có thể lợi dụng chatbot để lấy lòng tin của trẻ em, thu thập thông tin cá nhân và ép buộc các em chia sẻ hình ảnh nhạy cảm. Hình ảnh giả mạo do các ứng dụng chỉnh sửa ảnh tạo ra cũng bị sử dụng để đe dọa và bóc lột trẻ em.

Các công cụ phân tích dữ liệu cá nhân còn có thể giúp các đối tượng xâm hại, buôn người và các nhóm tội phạm dễ dàng tiếp cận những trẻ em dễ bị tổn thương.

Dẫn số liệu của Trung tâm Quốc gia về trẻ em mất tích và bị bóc lột của Mỹ, bà M’jid cho biết số báo cáo về tài liệu xâm hại tình dục trẻ em có liên quan đến AI tạo sinh đã tăng 1.325% trong giai đoạn 2023-2024.

Bà lưu ý phần lớn các vụ xâm hại trẻ em có sử dụng AI vẫn chưa được trình báo hoặc chưa được xử lý thích đáng. Trong khi đó, Phó Tổng Thư ký Liên hợp quốc Amina Mohammed dẫn một nghiên cứu gần đây của Quỹ Nhi đồng Liên hợp quốc (UNICEF) cho biết trong năm qua, hình ảnh của ít nhất 1,2 triệu trẻ em tại 11 quốc gia đã bị sử dụng để tạo nội dung giả mạo (deepfake) mang tính tình dục.

Ông John Trenary, người có hơn 25 năm kinh nghiệm điều tra các vụ bóc lột trẻ em, nhận định khả năng tự động hóa của AI giúp các đối tượng mở rộng quy mô xâm hại, trong khi các thủ đoạn mới liên tục xuất hiện khiến công tác điều tra khó theo kịp.

Bà Kay Chau, đại diện Liên minh Công nghệ (Tech Coalition), cho biết các đối tượng có thể lợi dụng chatbot để mô phỏng tình huống xâm hại hoặc soạn kịch bản dụ dỗ trẻ em, trong khi các hệ thống AI có khả năng tự thực hiện nhiệm vụ (agentic AI) làm phát sinh thêm rủi ro. Mức độ tin tưởng của trẻ em đối với trợ lý AI cũng là vấn đề được nêu tại sự kiện.

Bà Mariana Rozo-Paz thuộc tổ chức Datasphere Initiative dẫn trường hợp một nhóm nữ sinh ở vùng nông thôn Colombia xem trợ lý AI Lucia như một người bạn, khi các em trò chuyện với Lucia hằng ngày và tìm đến trợ lý này để hỏi những điều người lớn không muốn trả lời.

Trường hợp này cho thấy cần tăng cường giám sát các công cụ AI mà trẻ em thường xuyên sử dụng, trong bối cảnh đây có thể là cửa ngõ để các đối tượng xấu lợi dụng tiếp cận.

Tháng Bảy vừa qua, Tổng Thư ký Liên hợp quốc António Guterres đã phát động Cam kết Bảo vệ trẻ em trước AI, kêu gọi chứng nhận an toàn đối với các hệ thống AI trước khi trẻ em tiếp cận, đồng thời áp dụng chính sách không khoan nhượng đối với tài liệu xâm hại tình dục trẻ em do AI tạo ra.

Bà M’jid đề nghị xây dựng các tiêu chuẩn toàn cầu về quản trị AI, trong đó yêu cầu tích hợp các biện pháp bảo đảm an toàn và bảo vệ quyền riêng tư của trẻ em ngay từ khâu thiết kế.

Bà Mohammed cũng lưu ý AI có thể hỗ trợ phát hiện nội dung xâm hại, xác định danh tính nạn nhân và nhận biết sớm dấu hiệu dụ dỗ trẻ em. Dẫn một nghiên cứu của Quỹ Tuổi thơ Thế giới, Tổng Thư ký quỹ Paula Guillet de Monthoux cho biết chính những người trẻ cũng nhận thấy công tác giám sát chưa theo kịp sự phát triển của công nghệ.

Bà nhấn mạnh trách nhiệm của người lớn là chứng minh bằng hành động rằng họ có thể bảo vệ trẻ em trên môi trường số.

Trưng bày thu hút sự quan tâm của người yêu mỹ thuật - Ảnh: Minh Khang
Tác phẩm của các danh họa mỹ thuật Đông Dương và Gia Định đến với công chúng
(Ngày Nay) -Người yêu thích mỹ thuật Đông Dương và mỹ thuật Gia Định đã có thể thường xuyên ngắm những Hải quỳ của họa sĩ Lê Phổ, Phụ nữ Bắc vấn tóc trần của Vũ Cao Đàm, Tuồng đời của Bùi Xuân Phái, Thiên thai của Phạm Tăng… tại nơi trưng bày tầng 3, Nhà 1 Bảo tàng Mỹ thuật TPHCM (97A Phó Đức Chính, phường Bến Thành).
Rực rỡ trang phục phụ nữ Hà Nhì mùa Tết Hồ Sự Chà
Rực rỡ trang phục phụ nữ Hà Nhì mùa Tết Hồ Sự Chà
(Ngày Nay) - Giữa những nếp nhà trình tường còn mờ sương, những đường thêu đỏ, vàng, xanh nổi lên trên nền áo chàm của phụ nữ Hà Nhì. Ở Mù Cả, các bà, các mẹ sửa soạn xà cạp, dây lưng bằng những mũi thêu cuối cùng. Ở Thu Lũm, những tà váy chàm lay động theo nhịp vòng xòe trong ngày Tết Hồ Sự Chà.
Viettel đặt ra lộ trình tới năm 2030 đưa toàn bộ mạng lưới đạt mức tự trị Cấp độ 4 và tiến tới Cấp độ 5 ở những lĩnh vực phù hợp.
Viettel đạt chuẩn mạng tự trị cao nhất thế giới
(Ngày Nay) - Ngày 19/11, tại Innovate Asia 2026 diễn ra ở Bangkok (Thái Lan), Hiệp hội viễn thông quốc tế (TM Forum) chính thức vinh danh Viettel là nhà mạng đầu tiên tại Việt Nam đạt chứng nhận Mạng tự trị Cấp độ 4, mức cao nhất được cấp trên thế giới hiện nay. Kết quả được xác lập bằng các giải pháp do đội ngũ kỹ sư Viettel tự nghiên cứu, phát triển và đang vận hành thương mại, đưa Viettel vào nhóm nhà mạng dẫn đầu toàn cầu về năng lực mạng tự trị.
Trung tâm Hội nghị APEC
Việt Nam chính thức tiếp nhận vai trò chủ nhà APEC 2027: Phú Quốc chuẩn bị ra sao cho sự kiện lớn bậc nhất hành tinh?
(Ngày Nay) - Ngày 19/11, tại Thâm Quyến (Trung Quốc), Việt Nam chính thức tiếp nhận vai trò chủ nhà APEC 2027. Tại Phú Quốc (An Giang), nơi diễn ra Tuần lễ Cấp cao APEC 2027, 21 dự án với tổng vốn sơ bộ hơn 137.000 tỷ đồng đang được đẩy nhanh tiến độ, trong đó Sun Group là nhà đầu tư chủ lực của chuỗi công trình từ sân bay, giao thông đến hội nghị và lưu trú.
Lũ lụt hoành hành tại Nam Mỹ do tác động từ El Nino
Lũ lụt hoành hành tại Nam Mỹ do tác động từ El Nino
(Ngày Nay) - Mưa lớn kéo dài do hiện tượng khí hậu El Nino cường độ mạnh đang gây lũ lụt nghiêm trọng tại nhiều quốc gia Nam Mỹ, khiến ít nhất 14 người thiệt mạng ở Ecuador và buộc hàng nghìn người tại Argentina, Paraguay và Brazil phải rời bỏ nhà cửa, trong khi đỉnh lũ và mùa mưa cao điểm vẫn còn ở phía trước.
Nhóm Bộ tứ tái khẳng định ủng hộ vai trò trung tâm của ASEAN
Nhóm Bộ tứ tái khẳng định ủng hộ vai trò trung tâm của ASEAN
(Ngày Nay) - Ngày 17/11, các nhà lãnh đạo Nhóm Bộ tứ (Quad) gồm Tổng thống Mỹ Donald Trump, Thủ tướng Australia Anthony Albanese, Thủ tướng Ấn Độ Narendra Modi và Thủ tướng Nhật Bản Takaichi Sanae đã tái khẳng định sự ủng hộ kiên định đối với vai trò trung tâm và sự đoàn kết của ASEAN, đồng thời cam kết duy trì một khu vực Ấn Độ Dương – Thái Bình Dương tự do và rộng mở.
Cảng hàng không Quảng Trị tăng tốc về đích, đợt tuyển dụng đầu tiên thu hút hàng trăm ứng viên
Cảng hàng không Quảng Trị tăng tốc về đích, đợt tuyển dụng đầu tiên thu hút hàng trăm ứng viên
(Ngày Nay) - Đợt tuyển dụng nhân sự đầu tiên của Cảng hàng không Quảng Trị đã thu hút gần 300 hồ sơ ứng tuyển, mở ra cơ hội nghề nghiệp mới cho người lao động địa phương. Đây cũng là bước chuẩn bị quan trọng về nguồn nhân lực, hướng tới mục tiêu đưa sân bay vào khai thác thương mại trong tháng 3/2027.
Kiểm soát nhiễm khuẩn, sử dụng kháng sinh hợp lý để bảo vệ người bệnh
Kiểm soát nhiễm khuẩn, sử dụng kháng sinh hợp lý để bảo vệ người bệnh
(Ngày Nay) - Sáng 18/11, tại Hà Nội, Bộ Y tế phối hợp với Tổ chức Y tế Thế giới (WHO) và các cơ quan, đơn vị tổ chức Mít tinh hưởng ứng Tuần lễ Thế giới nâng cao nhận thức về kháng thuốc (18-24/11) và sơ kết thực hiện Kế hoạch hành động phòng, chống kháng thuốc trong y tế giai đoạn 2026-2030.