Chúng ta đang đứng ở đâu trong cuộc chiến chống lại định kiến giới trong trợ lý AI
Theo ông Mark West, Cán bộ Dự án tại UNESCO và là một trong những người biên soạn của báo cáo, nhận thức về vấn đề này đã cao hơn nhiều so với khi nhóm nghiên cứu công bố báo cáo cách đây 2 năm. “Khi trợ lý giọng nói AI lần đầu tiên được ra mắt, thế giới đã say mê với sự mới lạ của việc nói chuyện cùng máy tính, đến nỗi quên đi vấn đề quan trọng này.”
Nhưng sau đó, từ kinh nghiệm cá nhân, nhóm nghiên cứu của UNESCO nhận ra những hệ thống này không hoàn hảo. Các khía cạnh liên quan đến ‘phân biệt chủng tộc’, ‘phân biệt giai cấp’, ‘phân biệt giới tính’ và các vấn đề khác về AI được đưa ra bàn luận.
Chừng nào con người còn nắm quyền điều hành AI, các quyết định, ý kiến và khuyến nghị do công nghệ đưa ra sẽ phản ánh các giả định và thế giới quan của nhóm những người xây dựng hệ thống AI, và nam giới chiếm phần lớn trong nhóm này. Ông Mark cho rằng cần những nỗ lực có ý thức và quyết tâm để loại bỏ các định kiến đã và có thể sẽ xuất hiện trong lĩnh vực này. Thu hút nhiều phụ nữ tham gia việc phát khuyếnkhuyến AI được xem là một phần quan trọng của giải pháp.
“Có một số dấu hiệu đáng khích lệ cho thấy lĩnh vực này đã ghi nhận nhiều sự tham gia của nữ giới hơn so với thời điểm chúng tôi viết báo cáo. Tuy nhiên, vẫn còn một chặng đường dài phía trước. Và cũng có rủi ro mọi chuyện sẽ trượt lùi. Ví dụ, ở một số quốc gia, tỷ lệ phụ nữ có bằng cử nhân về khoa học máy tính ngày nay thấp hơn so với cuối những năm 1990.”
Trong báo cáo, nhóm nghiên cứu kêu gọi các công ty công nghệ “chấm dứt việc mặc định để giọng nói trợ lý ảo là giọng nữ”. Mới đây, Apple đã tuyên bố sẽ thực hiện khuyến nghị này. Theo đó, người dùng iOS sẽ chọn giọng nói mà họ muốn Siri sử dụng. Trước đây, Apple cho rằng mọi người thích giọng nữ hơn nên đã sử dụng mặc định trong việc hẹn đặt lịch hẹn và đọc email cùng nhiều tác vụ khác. Theo ông Mark, đôi lúc người dùng Siri nói những “trò đùa giới tính” chỉ để nghe cách “cô ấy” phản ứng, và cho đó là việc hài hước.
Hiện tại, các chính phủ đang cân nhắc về vấn đề giọng nói AI trong cả các lĩnh vực khác, như trợ giúp khai thuế điện tử, hay hệ thống điều hướng phương tiện giao thông công cộng. Trước đây, hầu hết các giọng nói mang ngữ điệu yêu cầu/ra lệnh (như “Hãy ra khỏi xe buýt”) là nam, trong khi hầu hết các giọng đề nghị hỗ trợ (“Tôi có thể giúp gì cho bạn?”) là nữ. Kể từ khi báo cáo của UNESCO được công bố vào năm 2019, ông Mark nhận thấy đã có sự đa dạng hơn về giọng nói, giọng nam và giọng nữ được sử dụng hài hòa cho cả câu mệnh lệnh lẫn đề nghị hỗ trợ.
Vậy còn trợ lý giọng nói Alexa, vẫn chỉ có giọng nữ thì sao?
Gần đây, Amazon đã phát hành "Hướng dẫn giao tiếp cho Alexa", trong đó có một phần mang tiêu đề 'Alexa và Giới tính', phần này có vẻ giống như một phản hồi trực tiếp cho báo cáo của UNESCO. Các nguyên tắc khẳng định rằng Alexa 'không có giới tính' và không được gắn nhãn bằng các từ như 'cô ấy' (she/her). Nhưng trong cùng một tài liệu, Amazon đề cập đến Alexa là 'she' và 'her' và nói rằng công nghệ này có "tính cách nữ".
Nếu một công nghệ AI nói giọng nữ và có "tính cách nữ", mọi người sẽ dễ tạo ra mối liên hệ giữa công nghệ này và phụ nữ trong thực tế. Điều đầu tiên mà nhiều trợ lý thoại nói khi người dùng bắt đầu mở ứng dụng là "Tôi có thể giúp gì cho bạn?".
Ông Mark đặt ra câu hỏi rằng liệu điều này có ảnh hưởng đến giả định phụ nữ luôn vâng lời và phục tùng mọi yêu cầu hay không. Ông cho rằng Amazon nên cho phép người dùng chọn xem họ muốn trợ lý giọng nói là giọng nam hay nữ, hoặc thậm chí có thể sử dụng giọng nói phi giới tính như C-3P0 trong Star Wars.
UNESCO đang làm gì?
UNESCO hiện vẫn đang đẩy mạnh nhiệm vụ đảm bảo bình đẳng giới các cấp, đặc biệt là trong các lĩnh vực như công nghệ và kỹ thuật, nơi phụ nữ vẫn bị giới hạn trong chuyên môn. UNESCO cũng đặc biệt chú trọng đến giáo dục bình đẳng giới — một trong những con đường thẳng nhất dẫn đến thay đổi lâu dài.
"Lực lượng lao động liên quan đến công nghệ AI hiện nay chủ yếu là nam giới. Cần sự tham gia của cả phụ nữ cũng như nam giới để thúc đẩy sự phát triển công nghệ đang từng ngày thay đổi thế giới của chúng ta. Để làm được điều này, chúng ta cần thêm nhiều lực lượng cán bộ, lao động nữ giới tham gia các nghiên cứu về khoa học máy tính và các lĩnh vực công nghệ khác." - Ông Mark West nhìn nhận.
UNESCO đang xây dựng Khuyến nghị về Đạo đức của Trí tuệ Nhân tạo AI. Công cụ thiết lập tiêu chuẩn toàn cầu toàn diện này sẽ được Đại hội đồng UNESCO đệ trình lên các Quốc gia thành viên để thông qua tại phiên họp thứ 41 vào tháng 11/2021. Nếu được thông qua, Khuyến nghị sẽ là công cụ quy chuẩn toàn cầu đầu tiên trong lĩnh vực cực kỳ quan trọng này.
