Hiểm họa phim khiêu dâm từ công nghệ AI

0:00 / 0:00
0:00
(Ngày Nay) - Việc mạng xã hội toàn cầu xôn xao về các bức ảnh khiêu dâm của siêu sao Taylor Swift do AI tạo ra mới chỉ là phần nổi của tảng băng chìm. Các nội dung khiêu dâm do AI tạo ra đang nhắm mục tiêu đến phụ nữ và trẻ em trên toàn thế giới.
Hiểm họa phim khiêu dâm từ công nghệ AI

Trong tuần qua, mạng xã hội X đã lan truyền bức ảnh có nội dung khiêu dâm liên quan tới nữ danh ca Taylor Swift đã khiến cộng đồng gây sốc. Bức ảnh dù bị xóa không lâu sau đó, nhưng đã làm sáng tỏ khả năng của trí tuệ nhân tạo trong việc tạo ra những hình ảnh chân thực, gây tổn hại và giả mạo một cách đầy thuyết phục.

Với sự mở rộng khả năng tiếp cận các công cụ AI, các chuyên gia bày tỏ quan ngại tình trạng sản xuất các nội dung khiêu dâm bằng AI sẽ còn nở rộ.

Đã có không ít trường hợp học sinh trung học tại Mỹ và Tây Ban Nha báo cáo tình trạng nhân dạng của mình đã bị bạn bè đưa lên mạng.

Một nữ streamer game nổi tiếng tại Pháp mới đây đã tá hỏa nhận ra chân dung của cô xuất hiện trong một bộ phim khiêu dâm và được chia sẻ nhiệt tình bởi cộng đồng mạng.

Giáo sư Danielle Citron từ Trường Luật Đại học Virginia (Mỹ), cho biết: “Không chỉ những người nổi tiếng bị xâm phạm, mà còn cả những người bình thường. Họ là y tá, sinh viên, giáo viên và phóng viên. Tình trạng này ảnh hưởng đến tất cả mọi người".

Dù Taylor Swift chỉ là nạn nhân tiếp theo của AI, nhưng nhiều chuyên gia cho rằng việc một siêu sao toàn cầu bị nhắm mục tiêu sẽ có tác dụng giúp cộng đồng thay đổi quan điểm về vấn nạn khiêu dâm AI.

Tuần qua, cộng đồng người hâm mộ Swift đã chia sẻ nhiều quan điểm phản đối vấn nạn giả mạo nhân dạng người nổi tiếng và phụ nữ cho mục đích khiêu dâm. Dù vậy, không phải ai cũng may mắn như Taylor Swift khi có một cộng đồng lớn bảo vệ mình.

Theo giáo sư Citron, có rất nhiều nạn nhân cố gắng xóa bỏ hình ảnh bị giả mạo của họ trên mạng, "nhưng hầu hết nạn nhân chỉ có một mình”.

Theo Ben Decker, người điều hành Memetica, một cơ quan điều tra kỹ thuật số, các công ty truyền thông xã hội “không thực sự có sẵn kế hoạch hiệu quả để giám sát nội dung”.

Giống như hầu hết các nền tảng truyền thông xã hội lớn, chính sách của X cấm chia sẻ “phương tiện truyền thông tổng hợp, bị thao túng hoặc ngoài ngữ cảnh có thể đánh lừa hoặc khiến mọi người nhầm lẫn và dẫn đến tổn hại”.

Nhưng đồng thời, X đã loại bỏ phần lớn nhóm kiểm duyệt nội dung của mình và dựa vào hệ thống tự động và báo cáo của người dùng.

Các công ty truyền thông xã hội khác cũng đã giảm bớt đội ngũ kiểm duyệt nội dung của họ. Meta, công ty mẹ của Facebook, đã cắt giảm các nhóm giải quyết thông tin sai lệch cũng như điều phối các chiến dịch quấy rối trên nền tảng của mình.

Xu hướng đáng báo động

Bình luận về sự việc của Taylor Swift, thư ký báo chí Nhà Trắng Karine Jean-Pierre nói: “Thật đáng báo động. Chúng tôi rất lo lắng trước những báo cáo về việc lưu hành những những hình ảnh sai lệch".

Năm ngoái, Francesca Mani, nữ sinh trung học ở bang New Jersey (Mỹ) đã phát động một chiến dịch xây dựng luật liên bang nhằm giải quyết các hình ảnh khiêu dâm do AI tạo ra sau khi nhân dạng của chính nữ sinh này và 30 bạn học khác đã bị đưa lên mạng.

Mani đã bày tỏ sự thất vọng trước việc thiếu cơ sở pháp lý để bảo vệ nạn nhân của nội dung khiêu dâm do AI tạo ra.

“Tất cả các trường học đang phải vật lộn với những thách thức và tác động của trí tuệ nhân tạo và công nghệ khác dành cho học sinh mọi lúc, mọi nơi", Tiến sĩ Raymond González, Giám đốc Học khu Westfield (New Jersey), cho biết.

Theo chuyên gia Decker, khả năng tiếp cận dễ dàng các công nghệ AI có mã nguồn mở đang tạo ra những lỗ hổng cho những kẻ xấu lợi dụng.

Hiện 9 tiểu bang của Mỹ đã ban hành luật cấm sáng tạo hoặc chia sẻ ảnh sử dụng công nghệ deepfake mà không có sự đồng thuận của chủ nhân dạng, nhưng chưa có luật nào tồn tại ở cấp liên bang.

“Không thể trừng phạt hành vi đó theo luật khiêu dâm trẻ em vì nó khác ở chỗ không có hành vi lạm dụng tình dục trẻ em nào xảy ra”, giáo sư Citron chỉ ra. “Nhưng cảm giác bị sỉ nhục và cảm giác bị biến thành một đồ vật thực sự gây tổn hại khủng khiếp đến lòng tự trọng xã hội của các nạn nhân”.

Theo CNN
Miễn vé tham quan Thành nhà Hồ trong Ngày Di sản văn hóa Việt Nam
Miễn vé tham quan Thành nhà Hồ trong Ngày Di sản văn hóa Việt Nam
(Ngày Nay) - Ngày 22/11, Trung tâm Bảo tồn Di sản Thành nhà Hồ (huyện Vĩnh Lộc, Thanh Hóa) cho biết, nhân kỷ niệm Ngày Di sản văn hóa Việt Nam (23/11/2005 - 23/11/2024), Trung tâm sẽ miễn vé cho du khách trong nước và quốc tế đến tham quan, trải nghiệm tại di sản Thành nhà Hồ.
Kháng thuốc tăng nguy cơ lây lan bệnh, bệnh nặng và tử vong
Kháng thuốc tăng nguy cơ lây lan bệnh, bệnh nặng và tử vong
(Ngày Nay) - Ngày 22/11, tại Hà Nội, Bộ Y tế phối hợp với Tổ chức Y tế Thế giới (WHO) và các đối tác quốc tế tổ chức mít tinh hưởng ứng “Tuần lễ Thế giới nâng cao nhận thức về kháng thuốc” từ ngày 18-24/11/2024 và Hội nghị triển khai Kế hoạch hành động phòng, chống kháng thuốc lĩnh vực y tế giai đoạn 2024 – 2025.
Thứ trưởng Bộ VH,TT&DL Hồ An Phong.
Hội nghị triển khai Chỉ thị 30/CT-TTg: Bước ngoặt quan trọng cho ngành công nghiệp văn hóa Việt Nam
(Ngày Nay) - Ngày 21 và 22/11/2024, Bộ VH,TT&DL đã tổ chức Hội nghị triển khai Chỉ thị số 30/CT-TTg ngày 29/8/2024 của Thủ tướng Chính phủ về phát triển các ngành công nghiệp văn hóa Việt Nam. Hội nghị được kỳ vọng trở thành bước đột phá, đặt nền tảng cho sự phát triển mạnh mẽ và bền vững của ngành công nghiệp văn hóa. Liên hiệp các Hội UNESCO Việt Nam cũng cử đại diện tham dự hội nghị nhằm học hỏi kinh nghiệm thực tiễn để thúc đẩy công nghiệp văn hóa gắn liền với hợp tác toàn cầu.
Bước tiến đột phá trong dự án xây dựng Bản đồ Tế bào con người
Bước tiến đột phá trong dự án xây dựng Bản đồ Tế bào con người
(Ngày Nay) - Các nhà khoa học quốc tế ngày 20/11 đã công bố bản thiết kế đầu tiên về sự phát triển của hệ xương người, đánh dấu bước tiến quan trọng trong dự án Bản đồ Tế bào con người (Human Cell Atlas), một nỗ lực lớn nhằm tạo ra bản đồ sinh học chi tiết của mọi loại tế bào trong cơ thể người.
Gia Lai : Ngôi cổ tự duy nhất được phong sắc tứ
Gia Lai : Ngôi cổ tự duy nhất được phong sắc tứ
(Ngày Nay) - Gia Lai hiện có hàng trăm ngôi chùa, trong đó có nhiều chùa đã qua trăm năm lịch sử. Nhưng chỉ duy nhất chùa Tân An (đường Nguyễn Thiếp, phường Tây Sơn, thị xã An Khê) được sự công nhận và ban tặng của hoàng gia nhà Nguyễn, gọi là sắc tứ.
Đặc sắc chương trình giao lưu "Sắc màu di sản"
Đặc sắc chương trình giao lưu "Sắc màu di sản"
(Ngày Nay) - Tối 21/11, tại hồ Nguyên Phi Ỷ Lan (thành phố Bắc Ninh), Sở Văn hóa, Thể thao và Du lịch tỉnh Bắc Ninh tổ chức Chương trình nghệ thuật dân ca trên thuyền và giao lưu các miền di sản chủ đề "Sắc màu di sản".
Phật dạy 5 điều thân kính với làng xóm
Phật dạy 5 điều thân kính với làng xóm
(Ngày Nay) - Mối quan hệ làng xóm cũng có những nhiêu khê và phức tạp, nếu không khéo thì từ thâm tình lại hóa ra giận ghét, thậm chí là oán thù. Cho nên Đức Phật rất tinh tế khi dạy phải thân kính với bà con.
Học cách trân quý từng phút giây còn sống
Học cách trân quý từng phút giây còn sống
(Ngày Nay) - Khi tôi nghe thấy tin có người nào đó vừa mất đi, tin ấy với tôi như tiếng chuông thức tỉnh. Tiếng chuông đó là một lời nhắc nhở sâu sắc về sự mong manh của kiếp người.
Oai nghi của người tu hành
Oai nghi của người tu hành
(Ngày Nay) - Oai nghi cùng với chánh kiến và tịnh giới là ba yếu tố làm nên đạo hạnh - phẩm chất của tu sĩ Phật giáo, như cố Trưởng lão Hòa thượng Thích Thiện Siêu, bậc am tường kinh luật luận đã từng nhấn mạnh.
Tác phẩm có tên “Comedian” của nghệ sĩ người Italy Maurizio Cattelan ra mắt lần đầu năm 2019 tại triển lãm Art Basel ở Miami Beach, đã gây tranh cãi về việc có thể được coi là nghệ thuật hay không. Ảnh: AP
6,2 triệu USD cho quả chuối dán tường
(Ngày Nay) - 6,2 triệu USD là mức giá vừa được trả cho một tác phẩm nghệ thuật gây tranh cãi, một quả chuối tươi dán lên tường bằng băng dính bạc. Tác phẩm được đưa ra trong một cuộc bán đấu giá của Sotheby’s ở New York, Mỹ.