Những hình ảnh giả mạo trong tư thế khêu gợi của Taylor Swift đã được lan truyền trên mạng xã hội X với hàng chục triệu lượt tiếp cận trước khi bị xóa khỏi nền tảng này.
Giống như hầu hết các nền tảng truyền thông xã hội lớn, chính sách của X cấm chia sẻ “phương tiện truyền thông tổng hợp, bị thao túng hoặc ngoài ngữ cảnh có thể đánh lừa hoặc khiến mọi người nhầm lẫn và dẫn đến tổn hại”.
Vụ việc xảy ra khi Mỹ bước vào năm bầu cử tổng thống và mối lo ngại ngày càng gia tăng về cách các hình ảnh và video gây hiểu lầm do AI tạo ra có thể được sử dụng để thúc đẩy các nỗ lực đưa thông tin sai lệch và cuối cùng làm gián đoạn cuộc bỏ phiếu.
Ben Decker, người điều hành Memetica, một cơ quan điều tra kỹ thuật số, cho biết: “Đây là một ví dụ điển hình về cách AI được tung ra vì nhiều lý do bất chính mà không có đủ rào chắn để bảo vệ cộng đồng”.
Ông Decker cho biết hành vi khai thác các công cụ AI tạo sinh để tấn công hàng loạt nhân vật nổi tiếng đang gia tăng nhanh chóng và lan truyền nhanh hơn bao giờ hết trên mạng xã hội.
“Các công ty truyền thông xã hội không thực sự có kế hoạch hiệu quả để giám sát nội dung một cách nhất thiết”, vị chuyên gia chỉ ra.
Nền tảng X đã loại bỏ phần lớn nhóm kiểm duyệt nội dung của mình và dựa vào hệ thống tự động và báo cáo của người dùng.
Meta cũng đã cắt giảm các nhóm giải quyết thông tin sai lệch cũng như điều phối các chiến dịch quấy rối trên các nền tảng của mình như Facebook và Instagram, làm dấy lên mối lo ngại trước cuộc bầu cử quan trọng năm 2024 ở Mỹ và trên toàn thế giới.
Không rõ những hình ảnh liên quan đến Taylor Swift bắt nguồn từ đâu. Mặc dù một số hình ảnh đã được tìm thấy trên các trang như Instagram và Reddit, nhưng chúng đặc biệt phổ biến trên X.
Tuy nhiên, ông Decker cho biết việc Swift trở thành nạn nhân của AI có thể thu hút nhiều sự chú ý hơn đến các vấn đề đang gia tăng xung quanh hình ảnh do công nghệ này gây ra.
Được coi là ngôi sao số một toàn cầu hiện tại, Taylor Swift có sức ảnh hưởng cực lớn trên mạng xã hội nhờ lực lượng người hâm mộ hùng hậu và sẵn sàng đứng ra bảo vệ thần tượng của mình.
Vào năm 2022, một cuộc khủng hoảng của Ticketmaster trước buổi hòa nhạc Eras Tour của Taylor Swift đã làm dấy lên cơn thịnh nộ trên mạng, dẫn đến một số nỗ lực lập pháp nhằm trấn áp các chính sách bán vé không thân thiện với người tiêu dùng.
Decker gợi ý rằng có lẽ điều tương tự cũng có thể xảy ra đối với các công cụ AI một khi "dây dưa" với Taylor Swift.
“Khi bạn có những nhân vật như Taylor Swift bị nhắm làm mục tiêu lớn, có thể đây là điều thúc đẩy các nhà lập pháp và các công ty công nghệ phải hành động vì họ không đủ khả năng để ngôi sao của nước Mỹ tham gia một chiến dịch công khai chống lại mình”, ông Decker nói. “Tôi cho rằng họ cần làm cho cô ấy cảm thấy dễ chịu hơn vì cô ấy có lẽ có nhiều ảnh hưởng hơn hầu hết bất kỳ ai khác trên Internet".
