Ünlü Bollywood yıldızları Aamir Khan ve Ranveer Singh’in yapay zekayla yaratılan sahte görüntüleri Hindistan’daki seçimlere müdahale edileceği kaygısı yaratıyor.
İnternette yayılan sahte videolarda, Hindistan'ın iki ünlü Bollywood oyuncusunun Hindistan Başbakanı Narendra Modi'yi eleştirdiği ve insanlardan ülkede devam eden genel seçimlerde muhalefetteki Kongre Partisi’ne oy vermelerini istedikleri görülüyor.
30 ve 41 saniyelik ayrı videolarda, iki Bollywood oyuncusunun, Modi'nin başbakanlık yaptığı iki dönem boyunca kampanya sözlerini tutamadığını ve kritik ekonomik sorunları çözmede başarısız olduğunu söylediği iddia ediliyor.
Yapay zeka tarafından oluşturulan videoların her ikisi de Kongre Partisi’nin seçim sembolüyle ve partinin "Adalete Oy Verin, Kongre’ye Oy Verin" seçim sloganıyla bitiyor.
Videolarda görünen her iki oyuncu da, içeriğin sahte olduğunu söyledi. Ancak Reuters haber ajansının incelemesine göre, bu iki video geçen haftadan bu yana sosyal medyada yarım milyondan fazla izlendi.
İki videonun hızla yayılması, yapay zeka tarafından üretilen bu tür içeriklerin, Cuma günü başlayan ve Haziran’a kadar devam edecek Hindistan seçimlerinde oynayabileceği potansiyel rolün altını çiziyor.
Yapay zeka tarafından oluşturulan sahte içerikler, ABD, Pakistan ve Endonezya gibi dünyanın çeşitli yerlerindeki seçimlerde giderek daha fazla kullanılıyor.
Hindistan'daki seçim kampanyaları uzun süredir kapı kapı gezilen etkinlikler ve halka açık mitingler ile düzenleniyordu; ancak 2019’dan sonra WhatsApp ve Facebook, yaygın bir şekilde kampanya aracı olarak kullanıldı.
İlgili Haberler Sosyal medya platformu X, deepfake müstehcen görüntüler nedeniyle Taylor Swift aramalarını durdurduParti sözcüsü videoyu silmeye direndi
Modi'nin üçüncü dönemini kazanmasının beklendiği bu yılki genel seçimler, yapay zekanın kullanıldığı ilk seçim oldu.
Kongre Partisi sözcüsü Sujata Paul, aktör Singh'in videosunu 17 Nisan'da X'te 16 bin takipçisiyle paylaşmıştı. Paul’un paylaşımı 20 Nisan’da 2 bin 900 kere yeniden paylaşıldı, 8 bin 700 kere beğenildi ve 438 bin kere görüntülendi.
Paul, Reuters'a telefonla yaptığı açıklamada, videonun X tarafından "manipüle edilmiş medya" olarak işaretlendiğinin farkında olduğunu ancak paylaşımı yaparken videodaki kişinin Singh'e benzediğini ve "kesinlikle yaratıcılığa sahip olduğunu" düşündüğü için paylaşımını silmek istemediğini söyledi.
Ancak 21 Nisan’da gönderi artık X'te görünmüyordu.
Videoları kim hazırladı?
Facebook, X ve teyitleme üzerine çalışan en az sekiz internet sitesi videolardaki görüntülerin değiştirildiğini veya manipüle edildiğini söyledi. Reuters dijital doğrulama birimi de bu açıklamaları doğruladı. Reuters, videoları kimin hazırladığını ise tespit edemedi.
Modi'nin ofisi ve iktidardaki Hindistan Halk Partisi’nin bilgi işlem müdürü Reuters’ın yorum taleplerine yanıt vermedi.
Videoların bazı versiyonları sosyal medyada engellendi ancak en az 14 tanesi 20 Nisan’da X'te hala görülebiliyordu.
Facebook, Reuters'ın raporladığı iki videoyu sildi ancak başka bir paylaşım hala görünür durumdaydı.
Facebook yaptığı açıklamada, politikalarının ihlali nedeniyle "videoları kaldırdığını" söyledi. X, Reuters'ın sorularına yanıt vermedi.
Videolardan sonra Khan, 17 Nisan'da Mumbai'de sahte video oluşturarak hile yapma ve başkasının kimliğine bürünme iddiasıyla şikayette bulundu. Şikayet üzerine polis soruşturması başladı.
Mumbai polisi Reuters’ın yorum talebine yanıt vermedi.
Khan'ın davası üzerinde çalışan ve isimlerini vermeyen iki polis memuru, Facebook ve X'e videoyu kaldırmaları için yazdıklarını ve şirketlerin de bu işlemin yapıldığı cevabını verdiklerini söyledi.
Memurlar, 19 Nisan’da gece 2'ye kadar uyanık olduklarını ve Khan'ın videolarının kaldırılıp kaldırılmadığını kontrol etmek için sayfaları yenilediklerini söyledi. Davadaki ilerlemeyle ilgili soruya içlerinden biri, "Bu tür teknik soruşturmalar zaman alır" dedi.
Yapay zekayla oluşturulan başka videolar
Bu yılki seçimlerde siyasetçiler, yapay zekayı başka şekillerde kullanıyor.
Hindistan'ın güneyinde, Kongre Partisi lideri Vijay Vasanth'ın sözcüsü, ekiplerinin yapay zeka kullanarak 2 dakikalık bir video oluşturduğunu ve bu videonun sosyal medya platformlarında paylaşıldığını söyledi.
Sözcü, videoda, Vasanth’ın artık hayatta olmayan, kendisi gibi siyasetçi ve hatta daha popüler olan babası H. Vasanthakumar'ın oğluna oy isterken görüldüğünü söyledi.
Vasanthakumar’ın videoda, "Bedenim hepinizi terk etse de ruhum hala buralarda" dediği görülüyor.
Hindistan Komünist-Marksist Parti (CPM) tarafından YouTube'da yayınlanan videolarda, geleneksel bir Hint kıyafeti olan sari giymiş ve normal haber kanallarını taklit eden bir tarzda konuşan Samata, Batı Bengal eyaletindeki iktidar partisini eleştiriyor. Samata, aslında yapay zeka tarafından üretilen bir sunucu.
Videolardan birinde Samata, kaçak inşaatların birçok su kaynağının kaybolmasına sebep olduğunu söyleyerek iktidar partisinin çevreye önem vermediğini iddia ediyor.
İktidar partisinden bir sözcü bu iddiayı reddetti ve eyalet hükümetinin böyle bir inşaatın yapılmamasını sağladığını söyledi. CPM yorum taleplerine yanıt vermedi.
12 bin kez izlenen videoda sunucu Samata, "Bunlar, biz bu şehrin vatandaşlarının üzerinde düşünmesi gereken sorular" darken görülüyor.
Hindistan'da yaklaşık 900 milyon kişinin internete erişimi var.
Hindistan’da bir araştırma kuruluşu olan Esya Merkezi ile Hindistan Yönetim Enstitüsü işletme okulu tarafından yürütülen bir anket, ortalama bir Hintli’nin günde üç saatten fazla sosyal medyada vakit geçirdiğini gösterdi. Ülkede yaklaşık bir milyar seçmen var.