Emma Watson, Kendisi Gibi Konuşan Bir Yapay Zekanın Kurbanı Oldu!

Yavaş yavaş elden her alanda hissettiren yapay zeka, her zaman faydalı işler için kullanılmıyor. Bunun en net örneklerinden bir tanesi derin sahte. Bir kişiye ait görüntü ve seslerin istendiği gibi değiştirilebilmesine olanak sağlayan teknoloji, özellikle de ünlü isimlerin taklit görüntülerini oluşturmak için oynanır.

Yaşayan son gelişmeler, suç olarak bile kabul edilmeye başlayarak deepfake teknolojinin değişerek elde edilmeye devam ediyor devam edecek Önüne seriyor. Zira Türkiye’de erişime kapalı olan 4chan isimli platform kullanıcıları, dünyaca ünlü isimlerin seslerini kullanarak sahte içerikler üretmeye alma. Oluşturulan sahte içeriklerde, ElevenLabs adlı bir ekip tarafından bulma ses klonlama yapay zekasından yararlanmıştık…

Emma Watson ve Joe Rogan gibi isimlerin sahte konuşmaları yayınlandı!

4chan kullanıcılarının hedef aldıkları isimler, dünyaca ünlü oyuncu Emma Watson, ünlü komedyen Joe Rogan ve ABD’de ünlü bir köşe yazarı olan Ben Shapiro idi. Kim oldukları bilinmeyen anonim kullanıcılar, Emma Watson’a Adolf Hitler tarafından kaleme alınan “Kavgam” adlı romandan bir bölüm okuturken, Ben Sharpio ise ABD’li politikacılar Alexandria Ocasio-Cortez hakkında ırkçı cezalar kurdurmuşlardı. Üstelik sahte seslendirmeler bunlardan ibaret değildi. Homofobik, transofobik ve şiddet ile ilgili açıklamalar da paylaşılmıştı.

Beta aşamasında olan ElevenLabs, kullanıma ilişkin açıklamayı henüz yapmadı!

4chan’deki paylaşımlardan haberdar olan ElevenLabs ekibi, kararlı beta aşamalarında olan yapay zeka ile ilgili konumda bulundu. Ses klonlamaya yarayan yapay zekaya gösterilen ilgiden dolayı memnun olunduğunu ifade eden yönetimler, ev eşyası kullanımlarının mülkiyeti muhafaza etmek ve bununla ilgili yeni güvenlik özellikleri üzerinde çalışacaklarını açıkladılar. Ancak bu çalışmalarda ne kadar etkili olacağı henüz kısıtlamalar.

Deepfake teknolojisi, Birleşik Krallık’ta suç kabul ediliyor!