18 Nisan 2024 tarihinde yayımlanan ‘Yapay Zeka araçları Hindistan Seçimlerini Nasıl Değiştirebilir?’ isimli Suhasini Raj’ın yazmış olduğu yazıda, Hindistan’da dezenformasyonun zaten çok büyük bir problem olduğundan bahsediliyor. Bununla birlikte 19 Nisan 2024’te oy kullanacak olan seçmenlere Başbakan Narendra MODİ’nin yapay zeka tarafından oluşturulmuş bir dizi seçmene doğrudan seçmenlerin isimleriyle hitap eden bir videosunun yayınlandığı, fakat bunun ‘Gerçek’ bir videodan çeşitli farklarının bulunduğu da ekleniyor. Teknolojinin gelişmesiyle birlikte bu farkların da ortadan kalkabilecek olması dezenformasyon açısından büyük tehlike oluşturuyor. Bir yandan da insanların artık bu kişiselleştirilmiş videoların yapay zeka ürünü olduğunu anlamaya başladığı ve yapay zeka ile tanışıklıklarını ileri seviyeye taşıdığı çok da uzak olmayan bir gelecek söz konusu. Hindistan’da ‘The Indİan Deepfaker’ yapay zeka start-up’ının işleticisi 31 Yaşındaki Diyvendra Singh Jadoun, Bollywood yıldızlarından sahte videolar oluşturuyor. Bu videoların gördüğü talep siyasilerin de dikkatini çekiyor ve Jadoun siyasilerin de kendileri için bu şekilde videolar oluşturması taleplerinin olduğunu belirtiyor. Bu taleplerden 14’ünü kabul eden Jadoun; Başbakan Mondri İçin 33 yaşındaki BJP üyesi Shakti Singh Rathore ile bir hiperkişiselleştirilmiş videolar serisi üretmek için işbirliği yapıyor. Rathore kamera karşısına geçerek yapay zekanın kendi yüzünü ve sesini mükemmel bir şekilde kullanabileceği pozları veriyor. Bu pozları kullanarak seçmenlere ismiyle hitap eden hükümet yardımları ile ilgili videolar oluşturulduktan sonra bunlar seçmenlerle paylaşılıyor. Videoların ulaştığı kişilerden birisi olan Rajasthan’daki tatil köylerinin sahibi 28 yaşındaki Narendra Singh Bhati, durumu bilmesine rağmen Rathore’ye videonun sonunda veda bile ettiğini belirtiyor. Bay Jadoun ve Hindistan’daki diğer iki yapay zeka start-up’ının temsilcileri, veri gizliliğini koruma ve seçim bütünlüğünü koruma sözü veren ” Yapay Zeka koalisyon manifestosu ” adını verdikleri bir şey oluşturduklarını ve bu sayede üretilen videoların “Yapay zeka tarafından oluşturuldu” olarak etiketlendiğini ve sohbet robotlarının bunların yapay zeka tarafından oluşturulduğunu duyuruyorlar.
Jadoun ve ekibi şimdilik günde 10.000’ e kadar video üretebiliyor. Ayrıca ürettikleri videolarda herhangi bir dil engeli bulunmuyor, yapay zeka Hindistan’daki dil çeşitliliğine rağmen bölgesel dilleri de içeren bir altyapı ile videolarını oluşturabiliyor. Bu durum, ilerleyen zamanlarda bireylerin yapay zeka ile oluşturulan videoların yapay zekaya ait olduğunu bilseler bile, özellikle Hindistan bazında güçlü etkileri olabileceğini gösteriyor. Hindistan’daki dijital medyayı ele alan MediaNama’nın editörü Nikhil Pahwa da Hindistan halkının sosyolojisini göz önünde bulundurarak yapay zekayla oluşturulan videoların halk üzerinde güçlü etkilerinin olabileceğini doğruluyor.
Gerçekleştirilen ve yayınlanan Başbakan Narendra MODİ’nin videoları ve Shakti Singh Rathore’nin videoları Hindistan’da bu yıl gerçekleşen seçimleri büyük oranda etkileyemese bile, diğer seçimlerde teknolojinin de gelişmesiyle birlikte bu tür kişiselleştirilmiş ve bireye özgü mesajların kişileri doğrudan etkisi altına aldığı için bireylerin karar alma mekanizmaları üzerinde etkili olabileceği düşünülüyor. Özellikle insanın çeşitli etmenlerle giderek yalnızlaştığı bir dünyada direkt kendisini muhatap alan içeriklerle karşılaşması, psikolojik olarak önemli bir unsur olarak karşımıza çıkıyor. Anlaşılan o ki insanın psikolojik yapısı bu içerikleri üreten taraflarca da önemli bir ölçüt olarak kabul ediliyor. Çünkü her ne kadar bu iletişim ağında iletici; yapay zeka, ileti; yapay zeka ile oluşturulmuş yapay bir video olsa da, alıcı; insan. Alıcının insan olduğu bir bağlamda insanı oluşturan faktörler düşünülerek bu faktörlerin etkileme aracı olarak kullanılması da gayet olağan bir durum.
Burada sormamız gereken sorular şunlar olabilir: Teknoloji ilerledikçe ve Yapay Zeka geliştirildikçe üretilen videolar, ses kayıtları, görseller ve çeşitli envanterler arasından iyi bir sosyal medya okuryazarı olan insanlar dahi ‘Sentetik’ ve ‘Gerçek’ arasındaki farkı nasıl ayırt edecekler? Bu ayrımın yapılması insanlar, şirketler ve devletler için ciddi bir önem arz etmeye başladığında sadece bu alan için yeni bir sektör oluşturulabilir mi? Bu sektörün başlangıcını ‘Teyit.org’ gibi sitelerde minimal düzeyde gözlemlemiş olmamıza rağmen Yapay Zeka çeşitli şekillerde kodlandığında kendisine ‘Bu senin ürünün mü?’ şeklinde yöneltilen sorulara ‘Yalan’ söyleyerek cevap verebilecek mi? Bu durum sadece ‘Gerçek’ ve ‘Yapay’ ayrımını hangi boyutlara ve çatışma noktalarına taşıyabilir? ‘Gerçek’ ve ‘Yapay’ ayrımını ayırt edememek siyasi arenada ne gibi sonuçlara evrilebilir? Bu sonuçların halk arasındaki karşılığı neler olabilir? Bu husustaki hukuki boşluklar yeni bir küresel anlaşmayı mı gerektiriyor? Hukuki boşluklardan doğan küresel anlaşmaya kimler nasıl bir taraf tutabilir? Bu tarafların anlaşma masasındaki ağırlığı teknolojik güçlere göre mi yoksa ‘Etik’ kavramına göre mi şekillenir? Gerçek ve yapay arasındaki ayrımın insanları etkilemek için kullanılabilir hale gelmesi başka hangi sosyolojik, hukuki, psikolojik tartışmaları doğurabilir? Bu soruları şimdiden sorabiliyor olmakla teknolojinin gelişme ve değişme hızı da dikkate alındığında ‘bazı öngörülen tehlikelerin gerçekleşmesi ve bu konuyu takip eden taraflarca bazı öngörülen faydaların oluşturulması’ çok uzak bir ihtimal olarak görünmüyor.
KAYNAKÇA:
Suhasini Raj, “How A.I. Tools Could Change India’s Elections” , 18 Nisan 2024, The New York Times
YAZAN: Meftune KALEMOĞLU
