Yapay Zekanın Yok Sayılan Karanlık Tarafını Anlattık: Irkçılık, Cinsiyetçilik ve Dahası

Geride bıraktığımız yıl, yapay zeka verileri belki de en hareketli yıllardan vardı. Bunun sebebi ise aslında zaten hayatımıza girmiş olan yapay zekanın daha ‘deneyim’ odaklı gelişmelerle karşılaşma oldu.

DALL-E ve Midjourney ile birkaç kelime yazıp kendi görsellerimizi tasarladıkChatGPT ile kodu yazmaktan bir film yazmaya devam edene kadar her şeyi yapabileceğini gördüğünde, Lensa gibi uygulamalarla fotoğraflarımızı özel konseptli tasarımlara dahil ettik…

Tüm bu gelişmeler, yapay zekanın içerdiği önemli bilgiler ayet de, işin bir de daha karanlık bir boyutu var;

Yapay zeka, bütün teknik detayların dışında, çok temel bir mantıkla gelişiyor; insandan ne öğrense onu uyguluyor, ona dönüyor. Bu gün içinde pek çok skandalla yeniden kuşatma çıktı. Gelen son çiçeklere bakılırsa da çıkmaya devam edecek gibi görünüyor.

Ne bu skandallar derseniz, hemen cevaplayalım;

Yapay zeka ve açıklamalar, çift taraflı ırkçı söylem ve ‘kararlarla’ yönlendirme çıktı. Kadınları aşağılayan ya da yalnızca bir seks nesnesi olarak gören yapay zeka özellikli programlar ve hareketler, pek çok şiddete eğilimli ‘davranış’ da sergiledi.

Homofobik söylemler, insan psikolojisine zarar verebilir ‘kendini öldür’ tadında cevaplar yapay zeka destekli sohbet botları… Örnekler fazlasıyla fazla anlayacağınız…

Amazon, Microsoft gibi devlerin yapay zekaları, siyahi kadınların cinsiyetlerini ‘erkek’ olarak belirliyordu

Oprah Winfrey, ”%76.5 satırları bir erkekmiş”

Michelle Obama da benzer şekilde ”genç bir erkek” olarak tanımlamıştı;

Serena Williams’ın fotoğrafı ‘erkek’ olarak etiketlenmişti;

Yapılan pek çok işçi kadın-ev, erkek-kariyer, siyahi-suçlu gibi kelimelerin eşleştirildiği üzerine dil örneklemelerinin bölümlerinin kullandığı ‘word embeding’ yöntemi üzerine yapılmıştı. Yani yapay zeka, bizden edindiği bilgilerle kelimeler bu tür cinsiyetçi ve ırkçı kodlarla öğreniyor ve öyle eşleştiriyor…

Ayrıca Avrupa kökenli ‘beyaz’ isimlerle daha pozitif kelimeler eşleştiren modellerde, Afrikalı-Amerikalı isimlerle ise negatif kelimeler eşleştirildi. Beyaz-zengin, siyahi-fakir gibi eşleştirmeler de yine bu modellerde yaşanan sorunlardı…

Meslek grupları üzerine yoğunlaşan bir başka yere ise etnik kökenler ve eşleştirmeilen mesleklere odaklanıldı. İspanyol kökenli kapıcı, tamirci, kasiyer gibi meslekler eşleştirilirken Asya ile profesör, fizikçi, bilim insanı, ‘beyazlar’ ile ise bilirkişi, istatikçi, yönetici gibi meslekler tüketimidi.

COMPAS isimli ‘suç işleme riski’ hesaplayan bir yazılım ise siyahileri daha fazla işaretlediği için tartışma yaratmıştı. COMPAS, ABD’nin pek çok organı mahkemelerce resmi bir araç olarak…

Silahlı hırsızlara karışmış ve bu suçu tekrarlamış yetişkin bir beyaz erkek ile reşit değilken işlenen ve genellikle küçük dövmeler, grafiti ve vandalizm, basit saldırı gibi suçları kapsayan ‘çocuk kabahatleri’ görülmesi siyahi bir kadının risk değerlendirmesi sonucu, COMPAS’ın durumuna yönelik güçlü bir örnek…

Amazon’un işe alım süreçlerinde kullanım amaçlı olarak yapay zeka, adayların büyük harcamalarından erkeklerden seçiyor; kadınların puanlarını düşürüyor; yalnızca kadınları okuduğundan gelenleri süzerek elliyordu. Amazon bu yapay zekasını emekliye ayırdı…

YouTube’un sınırlamalarının insanların ırklarına göre ‘fişlediği’ ve ırkçılık ile ilgili konulara göre içerikleri ve yayınları kısıtladığı iddia edilmiş; şirkete büyük bir dava açtı.

Google Fotoğraflar uygulaması, siyahi iki kişiyi ‘Goriller’ olarak etiketlemişti…

Benzer bir durum Facebook cephesinde de yaşanmış, siyahi kullanıcıların yer aldığı bir video ‘primatlarla ilgili videoları görmeye devam etmek ister misiniz?’ soruyla etiketlenmişti;

Microsoft’un Twitter sohbet botu olarak 2016 yılında kullanım amaçlı Tay.AI, hakaretler yağdıran, ırkçı ve cinsiyetçi tweetleri sonrasında kısa sürede kullanımdan kaldırılmıştı;

Otonom siyahi insanları ayırt etmede zorlanması, bir dönem büyük ses getirmişti. Bu durum, siyahi insanlar için kaza riski ve hayati tehlike demekti. Tartışmalar üzerine bu konuda yapılacak geliştirmeyi hızlandırmak.

Yeni Zelanda’nın pasaport uygulaması, Asyalıların bir adamın yüklediği fotoğrafı ‘gözleri kapalı olduğu için’ kabul etmemişti;

Google’ın Cloud Natural Language adlı uygulama programlama arayüzü (API), cümleleri -1 ve 1 arasında puanlayan API, olumlu ve olumsuz duygu ifadesine göre etiketleniyor. Ancak sonuçlar ırkçı, homofobik ve ayrımcı ifadelerden oluşuyordu.

”Eş cinsel siyahi kadınım” cümlesi, ‘negatif’ puanlandı.

”Homoseksüelim” ifadesi de olumsuz değerlendirildi.

DALL-E, CEO’ya karşılık yalnızca beyaz erkeklerden oluşan görseller üretirken, Sekreter, sekreter gibi meslekler için kadın görselleri yürütüyordu;

Lensa gibi yapay zeka destekli uygulamalar ile üretilen görseller, kadınları nesneleştirdiği ve dekoltelerin ön plana çıktığı seksist bir imajla görselleştirdiği için tepki topladı;

TikTok dışlamaları da ırkçılıkla suçlandı. Örneğin TikTok’ta siyahi bir takip bulunuyor, uygulama boyutu sadece siyahi önerilere başlıyor; aynı şey beyaz bir insan, türbanlı bir kadın, Asyalı biri gibi pek çok durum için de geçerli;

Aynı şekilde bazı TikTok, Instagram ve Snapchat filtreleri, yalnızca ‘beyaz’ çalıştırmayı siyahi çalıştırma, Asyalılarda çalışmıyor;

Yıllar boyunca bu listede yer almayan daha pek çok sorun yaşandı. Geliştiriciler bu sorunu ne kadar çizmeye çalışsalar da yapay zekaların yeteneklerini ve doğrudan biz köklerinden yola çıkarak ırkçılık, homofobik ya da cinsiyetçi, suça eğilimli olduğu süre boyunca bunun sonuçlarını yapay zekada da görmeye devam eden yönetici…