Mô hình AI này có tên "Aegis", đặt theo tên chiếc khiên được thần Zeus sử dụng trong thần thoại Hy Lạp. Aegis sẽ được NEC sử dụng để phát hiện các video deepfake tinh vi do AI tạo ra và khó có thể nhận dạng bằng mắt thường.
Aegis được NFS và Viện Công nghệ Điện tử Hàn Quốc (KETI) phối hợp phát triển. NFS tiến hành nghiên cứu từ tháng 4 năm ngoái theo dự án do KETI tổ chức và Viện Kế hoạch & Đánh giá Công nghệ Thông tin & Truyền thông tài trợ. Dự án mang tên "Công nghệ phát hiện deepfake tự tiến hóa để ngăn chặn các tác động phụ về mặt xã hội do AI tạo ra".
Aegis được phát triển vào năm thứ 2 của dự án với sự tham gia của cả Đại học Cảnh sát Quốc gia Hàn Quốc, KAIST, Cleon (công ty tạo khuôn mặt và giọng nói bằng AI) và Wysiwyg Studios (công ty sản xuất phim). Aegis được tối ưu hóa để phát hiện các video deepfake khó nhất..
Theo Đạo luật Bầu cử Công chức sửa đổi của Hàn Quốc, có hiệu lực từ tháng 1/2024, việc sản xuất hoặc lan truyền các video deepfake do AI tạo ra cho mục đích vận động tranh cử là bất hợp pháp. Tuy nhiên, trong thời gian qua, trên không gian mạng vẫn xuất hiện tràn lan các video deepfake nhắm vào các ứng cử viên tổng thống hàng đầu và phần lớn là những video có nội dung bôi nhọ hay phỉ báng. Đơn cử, video deepfake về ứng cử viên đảng Dân chủ (DP) Lee Jae Myung mặc trang phục tù nhân hay ứng cử viên đảng Quyền lực Quốc dân (PPP) Han Dong Hoon tháo tóc giả.
Hôm 9/4 vừa qua, NEC đã điều hành lực lượng đặc nhiệm về deepfake AI giả mạo, sử dụng quy trình phát hiện 3 giai đoạn. Theo đó lúc đầu, người giám sát sẽ kiểm tra các video bằng trực quan. Nếu thấy khó phân biệt một video nào đó thì sẽ dùng mô hình AI như Aegis để tiến hành phân tích và cuối cùng là phần đánh giá của các chuyên gia AI. "Chúng tôi chủ yếu sử dụng Aegis của NFS vì có độ phát hiện chính xác cao nhưng đồng thời chúng tôi cũng xác minh chéo với các mô hình khác", một quan chức NEC cho biết.
Aegis được thiết kế để phát hiện đầu ra được tạo ra thông qua phương pháp khuếch tán, một trong những phương pháp mới nhất để tạo hình ảnh AI. Có 2 phương pháp tạo hình ảnh AI chính, gồm mạng đối nghịch tạo sinh (GAN) và mô hình khuếch tán. GAN liên quan đến 2 mạng nơ-ron cạnh tranh để tạo hình ảnh nhanh chóng nhưng hình ảnh thu được thường bị biến dạng khiến chúng dễ bị phát hiện hơn.
Ngược lại, các trình tạo hình ảnh gần đây như Midjourney và DALL-E từ OpenAI sử dụng phương pháp khuếch tán (thêm nhiễu nhân tạo vào hình ảnh rồi sau đó mới loại bỏ nhiễu để tạo ra hình ảnh có độ phân giải cao và chất lượng cao). Vì thế, hình ảnh được tạo ra bằng phương pháp khuếch tán khó phân biệt hơn nhiều so với hình ảnh thực tế, nếu như chỉ sử dụng các kỹ thuật phát hiện thông thường.
Aegis được cải tiến để phát hiện ngay cả video deepfake được tạo ra bằng phương pháp khuếch tán. Một viên chức của NFS nói: "Chúng tôi trang bị Aegis không chỉ để phát hiện deepfake và giọng nói sâu, mà còn để phân tích xem nội dung được tạo ra có phải nhằm mục đích xấu hay không".
