Các công nghệ và công cụ trí tuệ nhân tạo (AI) đang được áp dụng trong mọi lĩnh vực với một tốc độ chưa từng có. Thế nhưng việc thiếu những quy tắc đạo đức và bộ khung pháp lý trong việc hướng dẫn phát triển và sử dụng các công cụ này làm dấy lên nhiều lo ngại về các vấn đề đạo đức, pháp lý và nhân quyền đối với người dùng, đặc biệt là các nhóm dễ tổn thương trong xã hội khi họ phải đối mặt với nhiều loại thành kiến khác nhau về giới tính, tuổi tác, chủng tộc, tôn giáo, khuynh hướng chính trị và tình dục.

Trái ngược với những gì được quảng bá, AI không phải là “phép màu”, và không hề có trí thông minh vốn có. Về bản chất, đây là sự hòa trộn của dữ liệu với các số liệu thống kê và giả thuyết do con người tạo ra nhằm đạt được những kết quả cụ thể.

Thông qua lượng lớn dữ liệu đầu vào, một tầng lớp người có quyền lực và thẩm quyền, chủ yếu là nam giới, sẽ quyết định kết quả đầu ra cần đạt được. Vậy nên, việc AI mang những định kiến của con người là điều không tránh khỏi.

Điều này phù hợp với những gì được ghi lại tại Phiên Đối thoại toàn cầu UNESCO năm 2020 về vấn đề bình đẳng giới trong công nghệ AI. Các công cụ và nguyên tắc tiêu chuẩn của trí tuệ nhân tạo nhằm giải quyết thỏa đáng vấn đề bình đẳng giới dường như chưa từng tồn tại cho tới thời gian gần đây, và quy trình hiện tại thì cũng chưa đủ. Việc tin rằng những “hệ thống ma thuật” này có thể đem lại sự hiểu biết sâu sắc như giải pháp với các vấn đề khó xử có lẽ là lý do chính để không thừa nhận sự tồn tại của nhiều hình thức thiên vị, phân biệt đối xử cũng như phân biệt chủng tộc trong những công nghệ này.

Tuy nhiên bên cạnh đó có những thực hành đầy hứa hẹn tập trung vào những vấn đề này, và muốn sử dụng những công cụ AI để góp phần giải quyết tình trạng bất bình đẳng giới. Dù cộng đồng AI vẫn chủ yếu là nam giới, nhưng trong những năm gần đây, một số công ty và nhà nghiên cứu đã có những nỗ lực giúp cộng đồng này thân thiện hơn với phụ nữ hay các nhóm thiểu số khác.

THỰC TRẠNG CÔNG BẰNG GIỚI TRONG BỐI CẢNH CÔNG NGHỆ

Theo Diễn đàn Kinh tế Thế giới, sẽ phải mất thêm 132 năm nữa để thế giới có thể đạt được bình đẳng giới nói chung. Tuy nhiên, trong vòng hơn 2 thập kỷ qua có một khoảng cách lớn về giới liên quan đến sự tham gia của phụ nữ trong việc tiếp cận giáo dục và việc làm trong lĩnh vực khoa học, công nghệ, kỹ thuật và toán học (STEM).

Bức hình phụ nữ bị AI của Google và Microsoft đánh giá không phù hợp, trong khi hình đàn ông thì không bị

Các nghiên cứu cho thấy phụ nữ chiếm thiểu số trong các lĩnh vực vốn là nền tảng của khoa học AI. Các chuyên gia thị trường lao động cho rằng sự thiếu vắng này là do gánh nặng ngày càng tăng mà phụ nữ phải gánh liên quan đến sự khác biệt về nguồn nhân lực, trách nhiệm gia đình và sự phân biệt đối xử liên quan đến công việc.

Theo ước tính của UNESCO, chỉ 12% nhà nghiên cứu AI là phụ nữ, “đại diện 6% nhân lực phát triển phần mềm, và khả năng nộp bằng sáng thế công nghệ thông tin và truyền thông (ICT) ít hơn 13 lần so với nam giới”. Những con số này làm dấy lên câu hỏi: liệu khoảng cách giới trong lĩnh vực này sẽ ảnh hưởng tới xã hội, và phụ nữ nói riêng như thế nào?

Những định kiến trong AI không phải là kết quả của một khoảnh khắc nhất thời. Khuynh hướng này đã hiện hữu trong một vài quy trình của hệ thống, từ quá trình phát triển thuật toán tới giai đoạn đào tạo tập dữ liệu, cho đến cách chúng xử lý những quyết định.

Hình ảnh 2 người phụ nữ trên Linkedln bị siết tương tác do AI gắn nhãn không phù hợp

Dựa vào lượng dữ liệu trực tuyến sẵn có để học hỏi, AI sẽ có nguy cơ tái lặp và duy trì những thành kiến xã hội. Chẳng hạn như trong lĩnh vực xử lý ngôn ngữ tự nhiên (NLP), điển hình là mô hình ChatGPT, việc “nhúng từ” có thể dẫn đến những thành kiến về ngôn ngữ do sự phân biệt giới tính, sắc tộc hay xã hội. Một số công nghệ AI còn cho thấy những “thiên vị” trong tuyển dụng, như Amazon phải loại bỏ công cụ tuyển dụng nhân sự của công ty khi các thuật toán AI ưu ái các ứng viên nam.

Sự quấy rối và vi phạm quyền riêng tư

Hệ thống trí tuệ nhân tạo hiện đã được dùng để tạo ra những bức ảnh và video giả mạo mà không có sự đồng thuận của phụ nữ. Những sản phẩm “deepfake” này được dùng để đăng tải nội dung xúc phạm, gợi dục, gây hiểu lầm làm ảnh hưởng tiêu cực tới tâm lý và cuộc sống xã hội của phụ nữ.

Tốc độ phát triển và thương mại hóa nhanh chóng của những công nghệ này có lẽ là nguyên nhân làm tăng việc lạm dụng AI dưới dạng deepfake, một quá trình vốn khá phức tạp trước đây giờ được thực hiện chỉ trong thời gian ngắn với vài đô la hay thậm chí miễn phí trên một số ứng dụng.

Vấn đề này trở nên trầm trọng hơn khi liên quan đến bạo lực trên cơ sở giới, sự thiếu trách nhiệm và hiểu biết xã hội trong việc sử dụng những công cụ này. Rất nhiều báo cáo khác nhau chỉ ra rằng phần lớn sản phẩm deepfake trên mạng là những video gợi dục nhắm đến phụ nữ.

Thực trạng của định kiến và phân biệt đối xử

Những định kiến tích hợp trong hệ thống AI dấy lên cảnh báo nguy cơ làm sâu sắc thêm các định kiến hiện có đối với phụ nữ và các nhóm giới thiểu số. Việc hệ thống được đào tạo dựa trên những dữ liệu có thể chứa các định kiến giới, chủng tộc hay xã hội có thể dẫn đến sự phân biệt đối xử trong các lĩnh vực như việc làm, cho vay, tư pháp hình sự, và từ đó tạo ảnh hưởng tiêu cực tới cơ hội cũng như quyền lợi của họ.

Một cuộc điều tra của trang nhật báo The Guardian đã tiết lộ rằng các thuật toán sử dụng trên các nền tảng mạng xã hội quyết định nội dung nào nên hiển thị và nội dung nào nên loại bỏ, một phần dựa trên mức độ gợi dục của bức ảnh. Bức ảnh càng “khiêu gợi” sẽ càng ít khả năng xuất hiện. Cuộc điều tra phát hiện các thuật toán của AI đánh dấu nhiều bức ảnh phụ nữ trong các tình huống cuộc sống hàng ngày và phân loại chúng là “gợi dục” so với những bức ảnh tương tự từ nam giới.

Và kết quả, các công ty truyền thông đã chặn vô số những bức ảnh chụp cơ thể phụ nữ, gây tổn hại cho các doanh nghiệp do phụ nữ lãnh đạo, dẫn tới sự bất bình đẳng xã hội ngày càng tăng, thậm chí gây ảnh hưởng tới các dịch vụ y tế.

Bức ảnh người phụ nữ được bác sĩ thăm khám bị công cụ AI của Google và Microsoft gắn nhãn khiêu dâm (Ảnh: National Cancer Institute).

Một bức ảnh của Viện Ung thư Quốc gia Hoa Kỳ minh họa một phụ nữ được bác sĩ khám lâm sàng đã bị thuật toán AI của Google phân loại là “mang tính chất khiêu dâm” ở mức cao nhất, trong khi AI của Microsoft tự tin 82% đánh giá “có bản chất tình dục rõ ràng”.

Bên cạnh những thiên vị giới tính, AI cũng đối mặt với những thách thức liên quan đến chủng tộc, cảnh báo hậu quả với người da màu. Bà Joy Buolamwini, nhà sáng lập Algorithmic Justice League (một tổ chức làm sáng tỏ tác hại và ý nghĩa xã hội của trí tuệ nhân tạo), đã phát hiện tỷ lệ hình ảnh sử dụng để đào tạo thuật toán nhận diện khuôn mặt là 80% mặt người da trắng và 75% mặt nam giới. Và kết quả là thuật toán có độ chính xác 99% trong việc phát hiện và chẩn đoán ung thư da ở nam giới và những người có da sáng màu, trong khi khả năng nhận diện ở phụ nữ da đen chỉ thấp ở mức 65%.

AI tạo sinh và những định kiến

Khi yêu cầu Stable Diffusion, nền tảng mã nguồn mở lớn nhất thế giới trong việc tạo hình ảnh AI, tạo ra hàng ngàn bức hình công nhân cho 14 công việc và 3 danh mục liên quan tới tội phạm, sự phân biệt chủng tộc và thiên vị giới tính trở nên rõ ràng. Phụ nữ và những người da màu chiếm tỷ lệ cao nhất trong những công việc lương thấp. Qua nhiều tháng kiểm tra hàng ngàn bức ảnh đã cho thấy AI không chỉ lặp lại hay phản ánh những khuôn mẫu và sự bất bình đẳng trong thế giới thực, mà còn khuếch đại và củng cố chúng.

Trong khi 34% thẩm phán tại Mỹ là phụ nữ, thì AI chỉ tạo ra 3% hình ảnh với từ “thẩm phán” là phụ nữ. Với công việc nhân viên bán đồ ăn nhanh, 70% hình ảnh là người da màu, dù trên thực tế 70% lao động tại lĩnh vực này ở Mỹ là người da trắng.

Bức ảnh phụ nữ nhận ít lượt xem hơn do bị AI gắn nhãn không phù hợp

Có thể khoảng cách giới trong dữ liệu không đe dọa nghiêm trọng tới cuộc sống của phụ nữ. Tuy nhiên, việc triển khai thiết kế và sử dụng các mô hình AI trong nhiều ngành công nghiệp với nhiều thành kiến như vậy có thể làm tổn hại đến cuộc sống và sinh kế của người phụ nữ. Mặc dù nhiều “dữ liệu tốt” thực sự có thể thu hẹp khoảng cách giới, nhưng vẫn còn những lo ngại rằng nếu các “câu hỏi đúng” không được đặt ra trong quá trình thu thập dữ liệu, khoảng cách giới có thể nới rộng khi thông tin bị sai lệch.

Theo các chuyên gia, một cách để đảm bảo những định kiến giới trong lịch sử không bị khuếch đại và hướng tới tương lai là tăng cường sự đa dạng về kiến thức qua số lượng nhân lực nữ trong lĩnh vực công nghệ. Theo Diễn đàn Kinh tế Thế giới, chỉ có 22% chuyên gia AI là phụ nữ so với 78% chuyên gia nam giới. Tại 8 công ty công nghệ lớn, phụ nữ chỉ nắm giữ 20% vai trò kỹ thuật. Tại Facebook và Google, chưa đến 2% vị trí kỹ thuật được phụ trách bởi nhân viên da đen. Các tổ chức công nghệ không chỉ tuyển ít phụ nữ hơn nam giới, mà còn đánh mất họ nhanh hơn. Theo tập đoàn tư vấn Boston Consulting Group (BCG), trên toàn cầu, phụ nữ chỉ chiếm 25% lực lượng lao động trong lĩnh vực khoa học, công nghệ, kỹ thuật và toán học (STEM), và chỉ 9% giữ vị trí lãnh đạo trong những lĩnh vực này.

DUY TRÌ KHUÔN MẪU VĂN HÓA TRÊN CƠ SỞ GIỚI

Với mục đích cải thiện mặt tiêu cực trong định kiến giới, các công cụ AI đã được “nữ hóa” bằng cách tập trung vào vai trò giới truyền thống qua giọng nói và ngoại hình, như thiết bị hỗ trợ ảo Amazone’s Alexa, Microsoft’s Cortana hay Apple’s Siri đều có giọng mặc định là phụ nữ. Tuy nhiên nỗ lực “nhân tính hóa” robot gặp nhiều vấn đề, chẳng hạn như trong việc thiết kế robot “Sophia”. Những khuôn mẫu này cũng gặp phải tình trạng quấy rối và bạo lực tượng tự như phụ nữ trong đời thực. Nhà phát triển của Alexa từng phải khắc phục vấn đề này bằng cách kích hoạt “chế độ tách biệt” khi robot này bị nam giới quấy rối.

Robot AI Sophia

Giải pháp cho những định kiến

Nhận diện các lĩnh vực mang định kiến là điều quan trọng. Bên cạnh đó cần “soi sáng” các nhà phát triển thuật toán và đào tạo AI bởi công nghệ phản ánh chính đức tin và ý tưởng của họ. Sự thiếu vắng những đại diện nữ trong lĩnh vực nghiên cứu, phát triển và ra quyết định của trí tuệ nhân tạo cũng là điều cần được quan tâm. Nhiều khảo sát cho thấy nửa số phụ nữ trong lĩnh vực khoa học trên toàn cầu bị quấy rối tại nơi làm việc.

Chính vì vậy, ngoài việc tăng cường sự tham gia của phụ nữ trong các ngành nghề STEM (gồm cả lĩnh vực AI), người sử dụng lao động cần phát triển các cơ chế hỗ trợ giải quyết những thách thức này và xây dụng các chính sách không khoan nhượng đối với bạo lực trên cơ sở giới tại nơi làm việc, cũng như các biện pháp giám sát và thực hiện những chính sách này.

Cần có những hướng dẫn và bộ khung pháp lý mạnh mẽ quy định việc sử dụng trí tuệ nhân tạo AI. Bên cạnh đó cũng cần nâng cao nhận thức và đào tạo việc sử dụng công nghệ có đạo đức và trách nhiệm, cũng như đảm bảo sự hiện diện của phụ nữ trong việc đưa ra những quyết định và phát triển công nghệ.

Một trong các giải pháp quan trọng và hiệu quả là áp dụng “Ethical AI” - một mô hình AI tuân thủ đạo đức. Bên cạnh phương thức dựa trên việc bảo vệ quyền con người trong quản lý trí tuệ nhân tạo, tập trung vào tính minh bạch, trách nhiệm và nhân phẩm con người, cũng cần xem xét đến nhiều yếu tố khác nhau trong việc giải quyết các vấn đề về giới tính, chủng tộc, tình trạng kinh tế xã hội…

Để đạt được những điều đó, các bên liên quan như công ty công nghệ, học viện, tổ chức Liên hợp quốc, tổ chức xã hội, thông tin đại chúng… nên hợp tác tìm kiếm các giải pháp chung cho các vấn đề của phụ nữ trong công nghệ AI.

Để AI trở thành phương tiện mang lại lợi ích lớn thì cần phải loại bỏ những thành kiến hiện hữu và tiềm ẩn. Vì vậy, tầm quan trọng của việc kết hợp các bộ dữ liệu toàn diện và đa dạng trong quá trình đào tạo AI là không thể phủ nhận.

Điều này đòi hỏi tránh dựa hoàn toàn vào nam giới da trắng trong việc đào tạo thuật toán, tích cực thu hút sự tham gia của các cá nhân có nguồn gốc khác nhau như người da màu, phụ nữ, các cá nhân thuộc nhiều giới tính khác nhau trong quá trình phát triển AI.

Để đảm bảo một tương lai cho trí tuệ nhân tạo, chúng ta cần các công cụ thiết thực giải quyết những thành kiến với phụ nữ, gồm các chiến dịch nâng cao nhận thức, cải thiện việc thu thập dữ liệu, thuật toán tự kiểm tra, thúc đẩy sự đa dạng trong ngành công nghệ, tiếp nhận các nguyên tắc đạo đức AI, tăng cường giao tiếp và hợp tác giữa các bên liên quan.

Minh Nguyễn (theo GenderIT)