Nền tảng chia sẻ video do Google sở hữu từ lâu đã cấm nội dung bị thao túng về mặt kỹ thuật có thể gây hiểu lầm cho người xem và “có nguy cơ gây tổn hại nghiêm trọng”. Nhưng với bản cập nhật chính sách mới được công bố hôm thứ Ba, YouTube hiện sẽ yêu cầu người sáng tạo dán nhãn với những video có “nội dung bị thao túng hoặc tổng hợp mang tính thực tế, bao gồm cả việc sử dụng các công cụ AI”.
Chính sách này nhằm giúp người dùng không bị nhầm lẫn bởi nội dung tổng hợp trong bối cảnh ngày càng phổ biến các công cụ AI tổng hợp mới, hướng tới người tiêu dùng, giúp tạo văn bản, hình ảnh, video và âm thanh hấp dẫn mà thường khó phân biệt được một cách nhanh chóng và dễ dàng.
Các nhãn dán sẽ chỉ được yêu cầu trên nội dung do AI tạo ra hoặc nội dung tổng hợp “thực tế”. Ví dụ, các video “mô tả thực tế một sự kiện chưa từng xảy ra hoặc nội dung hiển thị ai đó nói hoặc làm điều gì đó mà họ không thực sự làm”, Phó Chủ tịch Quản lý Sản phẩm của YouTube Jennifer Flannery O'Connor và Emily Moxley cho biết trong một báo cáo.
Flannery O'Connor và Moxley cho biết: “Điều này đặc biệt quan trọng trong trường hợp nội dung liên quan tới các chủ đề nhạy cảm, chẳng hạn như bầu cử, xung đột đang diễn ra và khủng hoảng sức khỏe cộng đồng hoặc các quan chức”.
Các chuyên gia công nghệ từ lâu đã bày tỏ lo ngại rằng sự phát triển của các công cụ AI tổng hợp có thể dẫn đến sự bùng nổ về nội dung gây hiểu lầm được chia sẻ trên mạng xã hội. Công nghệ này có thể gây ra mối đe dọa đặc biệt trước cuộc bầu cử ở Mỹ và các nơi khác vào năm 2024.
YouTube chỉ là nền tảng mới nhất đưa ra các quy tắc nhằm làm minh bạch hóa nội dung do AI tạo ra. TikTok đã dán nhãn cho nội dung do AI tạo ra vào đầu năm nay và cho biết người dùng phải tiết lộ thời điểm nội dung mô tả “cảnh thực tế” được tạo hoặc chỉnh sửa bằng AI.
Meta, công ty mẹ của Facebook và Instagram, tuần trước cho biết các nhà sáng tạo nội dung chính trị sẽ được yêu cầu tiết lộ bất kỳ việc sử dụng AI nào trong quảng cáo của họ.
Trước đó vào tháng 9, YouTube đã tung ra một loạt công cụ hỗ trợ AI mới để giúp các chủ kênh sản xuất video và tiếp cận nhiều đối tượng hơn trên nền tảng. Ví dụ, YouTube đã giới thiệu một tính năng cho phép người sáng tạo thêm hình nền hoặc video do AI tạo vào video dọc và các công cụ để giúp người sáng tạo soạn thảo dàn ý cho video.
YouTube cho biết những người dùng không tuân thủ các yêu cầu mới sẽ phải chịu trách nhiệm. Các chủ kênh nếu vi phạm quy định dán nhãn nội dung AI có thể phải đối mặt với các hình phạt như xóa nội dung hoặc bị đình chỉ khỏi Chương trình đối tác của YouTube.
