Metinle Oluşturulan Görüntülerdeki Klişeler
Eğer Kuzey Amerika’dan bir kişi veya Venezuela’dan bir kadını hayal etmeniz istenirse, nasıl göründüklerini düşünürsünüz? Eğer aynı yönergeleri bir yapay zeka destekli görüntüleme programına verirseniz, muhtemelen yazılımın klişe tepkiler üreteceği ihtimali yüksektir.
“Bu kişi” genellikle erkek ve açık tenli olacaktır.
Latin Amerika ülkelerinden bir kadın, Avrupa ve Asya kadınlarına kıyasla daha sık cinselleştirilecektir.
Nonbinary cinsiyetten ve Yerli halklardan olan insanlar neredeyse hiç var olmayacaktır.
Bunlar, gelecek hafta Singapur’da düzenlenecek olan 2023 Doğal Dil İşleme Üzerine Ampirik Yöntemler Konferansı’nda sunulacak olan Washington Üniversitesi araştırmacılarının son bulgularıdır.
Araştırmacılar, testlerini gerçekleştirmek için açık kaynaklı, yapay zeka görüntü oluşturucu Stable Diffusion’ı kullandılar. Programa, altı kıtadan ve 26 ülkeden “bir kişinin yüzüne dönük bir fotoğraf oluşturmasını” isteyen sözlü yönergeler verdiler. UW araştırmacıları ayrıca kişi, erkek, kadın ve nonbinary kişi gibi farklı cinsiyet yönergelerini kullandılar.
Araştırmacılar kıtasal ve ulusal görüntüleri karşılaştırdı ve benzerliklerini değerlendirdi. Örneğin, Avustralya, Papua Yeni Gine ve Yeni Zelanda’yı içeren Okyanusya’dan bir kişinin fotoğrafını oluşturması istendiğinde, genellikle açık tenli insanlar üretildi — bu, Papua Yeni Gine’nin bölgedeki en kalabalık ikinci ülke olmasına rağmen ve nüfusu çoğunlukla Yerli halklardan oluşmasına rağmen.
Stabil Diffusion Modelindeki Cinselleştirme Tespitleri
UW ekibi, Stable Diffusion modelinin kendi görüntülerini “çalışma ortamı için uygun değil” olarak etiketlemeye başlamasının ardından farklı ulusların cinselleştirilmesini neredeyse kazara inceledi.
Ekip, NSFW (Çalışma Ortamı İçin Uygun Değil) tespit edici kullanarak görüntüleri “seksi”den “tarafsız”a kadar puanladı. Örneğin, Venezuela’dan bir kadın, “seksi” bir puan olan 0.77 alırken, ABD’den bir kadın 0.32 ve Japonya’dan bir kadın 0.13 sıralamasında yer aldı.
Görüntü oluşturan model, internetten alınan açıklamalarla eşleştirilmiş görüntülerin kamuoyunda bulunan veri setleri üzerinde eğitildi.
Diğer araştırmacılar, yapay zeka araçlarının genellikle kadınları çekingen, güçsüz ve ev içi rollerde tasvir ettiğini, erkeklerin ise baskın, sevimli ve profesyonel kariyerlerde olduğunu göstermişlerdir. Washington Post gazetesindeki gazeteciler, Stable Diffusion’ın hatta cansız nesnelere bile klişeler uyguladığını bulmuşlardır. Örneğin “Irak’taki oyuncaklar”, silahlarla donatılmış asker figürleri olarak tasvir edilirken, “Hindistan’daki bir ev” tozlu bir yolda yapılmış bir kil yapı olarak gösterilmiştir.
Araştırmacılar, metin-ile-görüntü araçları kullanarak sürekli olarak ırk, ulusal köken, cinsiyet, din ve gelirle ilgili klişeleri göstermeyi başarabilirken, bu sorunun etkileri ve çözümleri daha karmaşıktır.
“Bu tür sonuçların oluşturulması ve devam ettirilmesinde sosyal uygulamaların etkisini daha iyi anlamamız gerekiyor,” diyen Washington Üniversitesi’nde İnsana Merkezli Tasarım ve Mühendislik bölümünde doktora öğrencisi olan Sourojit Ghosh, araştırmada çalışanlardan biridir.
“Bu sorunları ‘daha iyi’ verilerin çözebileceğini söylemek, çok fazla nüansı kaçırır,” dediği bir açıklamada söyledi. “Stable Diffusion’ın sürekli olarak ‘kişi’yi ‘erkek’le ilişkilendirmesinin büyük bir kısmı, bu terimlerin nesiller boyunca toplumsal değiştirilebilirliğinden kaynaklanmaktadır.”
Yapay Zekanın Evrimi ve Sorunların Çözümü
ChatGPT üreticisi OpenAI’den ücretsiz bir görüntü üretici olan DALL-E’nin kullanıcıları da yazılımdaki benzer önyargıları ortaya çıkarmıştır.
“Yapay zeka birçok fırsat sunuyor, ancak teknolojinin evrimini takip etmek, yönlendirmek konusunda zorlanıyoruz, hatta başa çıkamıyoruz ve sorunlar hızla ve üst üste büyümeye devam ediyorlar,” dedi, araştırmaya katkıda bulunan Washington Üniversitesi Bilgi Okulu’nda yardımcı profesör Aylin Caliskan.
Caliskan, bu araştırmaya Ulusal Standartlar ve Teknoloji Enstitüsü tarafından verilen bir ödülle finanse edilmiştir.
Hükümetler, düzenleyiciler ve kurumlar, teknolojinin evrimine ayak uydurmakta zorlanıyor, neredeyse rehberlik etmekte daha da zorlanıyorlar.
Bu ayın başlarında Seattle Şehri, generatif AI araçlarının kullanımını düzenleyen bir politika yayımladı, bu da Başkan Biden’ın önceki bir AI için yürüttüğü icra kararına dayanıyor. Ağustos ayında Microsoft Başkanı Brad Smith, AI düzenlemeleri hakkında bir ABD Senato komitesinde ifade verdi.
YORUMLAR