Tổ chức được Chính phủ Đức tài trợ này cho biết giới trẻ hiện gần như “không có khả năng tự vệ” trước các nội dung thù hận, bạo lực và xâm hại trên Internet. Báo cáo ghi nhận số lượng lớn các vụ việc liên quan đến hình ảnh lạm dụng trẻ em, quấy rối trực tuyến và nội dung cực đoan xuất hiện trên nhiều nền tảng mạng xã hội phổ biến.
Jugendschutz.net nhấn mạnh rằng dù Đức và Liên minh châu Âu (EU) đã tăng cường các quy định quản lý nền tảng số trong những năm gần đây, các công ty công nghệ vẫn chưa kiểm soát hiệu quả việc lan truyền nội dung độc hại. Những thuật toán đề xuất nội dung bị cho là góp phần đẩy trẻ vị thành niên tiếp cận nhanh hơn với các hình ảnh bạo lực, kích động thù hận hoặc nội dung tình dục không phù hợp.
Theo tổ chức này, các vụ việc được phát hiện trong năm qua đạt mức cao nhất từ trước tới nay. Đáng lo ngại hơn, nhiều đối tượng lợi dụng các ứng dụng trò chuyện, nền tảng video ngắn và diễn đàn trực tuyến để tiếp cận trẻ em, thao túng tâm lý hoặc phát tán tài liệu lạm dụng tình dục trẻ vị thành niên.
Báo cáo cũng cảnh báo rằng trí tuệ nhân tạo đang tạo thêm thách thức mới cho công tác bảo vệ trẻ em trên môi trường số. Công nghệ AI có thể bị lạm dụng để tạo hình ảnh giả mạo, phát tán nội dung độc hại hoặc che giấu danh tính tội phạm mạng, khiến việc điều tra trở nên khó khăn hơn.
Jugendschutz.net kêu gọi Chính phủ Đức và EU áp dụng các biện pháp mạnh tay hơn đối với các nền tảng công nghệ, bao gồm tăng cường giám sát nội dung, xử phạt nghiêm các công ty vi phạm và nâng cao cơ chế bảo vệ người dùng nhỏ tuổi.
Các chuyên gia cũng cho rằng giáo dục kỹ năng số cho phụ huynh và trẻ em cần được coi là ưu tiên cấp bách. Trong bối cảnh trẻ em tiếp xúc Internet ngày càng sớm, việc trang bị kỹ năng nhận diện nguy cơ và tự bảo vệ trên mạng được xem là yếu tố then chốt nhằm hạn chế các hành vi xâm hại trực tuyến đang ngày càng tinh vi.
