Trong một thử nghiệm để tìm hiểu lý do tại sao hình ảnh do AI tạo ra không thể tạo ra bàn tay chính xác, người ta đã phát hiện ra sự thiên vị chủng tộc trong việc tạo hình ảnh bằng AI.
Tạo hình ảnh bằng Trí tuệ nhân tạo gần đây đã trở thành mốt nhất thời, nhưng có một điều mà nó dường như có vấn đề.
Trong một thử nghiệm do Slate thực hiện, việc chạy các lời nhắc thông qua DALL-E 2 và Stable Diffusion luôn tạo ra hình ảnh về những người và cặp đôi chủ yếu là người da trắng trừ khi một số từ khóa nhất định được sử dụng. Tác giả của bài báo, Heather Tal Murphy, cho biết cô đã bắt đầu tiến hành nghiên cứu tại sao hình ảnh do AI tạo ra lại rất tệ trong việc tạo ra hình ảnh bàn tay con người. Khi cô ấy nhập lời nhắc dành cho các cặp đôi nắm tay nhau, cô ấy nhận thấy rằng “các cặp đôi đều là người da trắng.”
Tác giả nói thêm: “Nhưng bất kể tôi đang sử dụng Shutterstock, NightCafe, Images.AI, Stable Diffusion Playground hay DALL-E 2, và bất kể lựa chọn phong cách nào tôi đã thực hiện trong các công cụ, thì mỗi một trong số 25 cặp đôi hoặc hơn là màu trắng.” Mãi cho đến khi cô ấy thay đổi lời nhắc của mình bằng từ “nghèo”, cô ấy mới được xem một hình ảnh có một cặp đôi dường như là người gốc Nam Mỹ. Về cơ bản, vì người da trắng được coi là dân số chiếm đa số, nên các công cụ AI sẽ tạo ra nhiều hình ảnh nhất về họ.
Sự thiên vị của AI đối với người da trắng
Giáo sư Hệ thống thông tin tại Đại học Quốc tế Florida Manjul Gupta đã giải thích chi tiết về hiện tượng này khi nói rằng nó “chứa một số thành kiến nội tại mà những người tạo ra các công cụ AI này đã không xác định và cô lập được trong giai đoạn đầu phát triển sản phẩm, sản phẩm có thể sẽ tạo ra kết quả sai lệch .” Cô ấy kết luận bằng cách so sánh tình huống với việc buộc một thiếu niên xem kỹ 100 bộ phim từ những năm 80 và sau đó ngạc nhiên khi họ hành động như một anh hùng hành động.
Tuy nhiên, nó không nhất thiết là một vấn đề thiên vị rõ ràng; với tư cách là Nhà nghiên cứu chính tại Viện đạo đức AI ở Montreal, Abhishek Gupta giải thích: “Không phải ai đó đang cố gắng tạo ra những mối liên hệ đó một cách rõ ràng, đó chỉ là thứ gì đó hiện diện nổi bật trong tập dữ liệu.” Gupta tiếp tục bằng cách yêu cầu Murphy vẽ hình một quả chuối và khi cô ấy chọn màu vàng, anh ấy giải thích đó là cách các công cụ AI hoạt động — chúng được thiết kế để tạo ra phiên bản phổ biến nhất.
Đó là một vấn đề không dễ khắc phục, không phải do thiên kiến rõ ràng mà do cách thức hoạt động của các chương trình. Nhà khoa học nghiên cứu tập trung vào đạo đức AI tại Hugging Face, Sasha Luccioni nhấn mạnh lý do tại sao vấn đề này được kết nối với nghiên cứu ban đầu của Murphy về bàn tay chính xác bằng cách giải thích rằng không có cách nào để viết mã chương trình nhằm đưa ra kết quả chính xác về mặt nhân khẩu học hoặc giải phẫu vì “chúng không có quy tắc rõ ràng nướng vào; họ chỉ đang học các mẫu.”
Nguồn: Đá phiến
Link nguồn: https://shavenvn.net/trinh-tao-hinh-anh-ai-lon-nhat-duong-nhu-co-van-de-dai-dang-voi-chung-toc.sh