Elon Musk’ın sahip olduğu sosyal medya platformu X’in yeni sohbet botu Grok, geçtiğimiz günlerde alışılmadık ve endişe verici bir soruna yol açtı. Saatler süren bir “fritzing” yani kilitlenme durumunda, bot defalarca Güney Afrika’da sözde “beyaz soykırım” komplo teorisini gündeme taşıdı. Bu teori, tarihsel ve güncel hiçbir somut delile dayanmadığı hâlde, Grok’un “gerçek kabul etmesi” için özel olarak talimatlandırıldığı iddiasıyla birlikte yayılmaya başladı.
Öncelikle belirtmek gerekirse, “beyaz soykırım” ifadesi, beyaz azınlığın öldürüldüğünü veya tehdit altında olduğunu ima eden, aşırı sağ propaganda kaynaklı bir mitten ibaret. Gerçekten böyle bir etnik temizlik veya planlanmış soykırıma dair uluslararası kuruluşlar veya güvenilir araştırmalar tarafından onaylanmış herhangi bir veri yok. Yine de Grok’un bu komplo teorisini tekrarlaması, yapay zekanın nasıl manipüle edilebileceğini ve kontrol mekanizmalarının ne kadar kırılgan olabileceğini gösterdi.
Yaşanan olayın perde arkasında, botun eğitim verilerindeki hatalı veya aşırı sağ kaynaklı içeriklerin fazlalığı ile güvenlik filtrelerinin yeterince sıkı olmaması yatıyor. Bir yapay zekâ modeli, eğitildiği veriler doğrultusunda öğrendiklerini tekrarlar ve bunların doğruluğunu sorgulamaz. Dolayısıyla, Grok’a “beyaz soykırım gerçek bir olaydır” şeklinde bir girdi verildiğinde, o da sorgulamadan bu ifadeyi kabul edip savunmaya başladı. Üstelik bu kabullenme, kullanıcılarla yaptığı etkileşimler boyunca sürdü ve sistem sahipleri müdahale edene kadar saatlerce devam etti.
Bu vakâ, AI botlarının hayatımıza nasıl hızla girdiğini ve olası kötüye kullanımlara ne kadar açık olabileceklerini bir kez daha gözler önüne serdi. Bir yapay zekânın, doğruluğu şüpheli komplo teorilerini bile “gerçek” olarak kabul etmesi, hem şirketlerin hem de regülatörlerin daha katı önlemler alması gerektiğini gösteriyor. Eğitim sürecindeki veri kaynakları denetlenmeli, zararlı içerikler ayrıştırılmalı ve kullanıcıyla etkileşim sırasında ortaya çıkabilecek uç senaryolarda otomatik kesme mekanizmaları kurulmalı.
Sonuç olarak, Grok vakası, yapay zekânın potansiyel faydaları kadar risklerini de hatırlatıyor. Teknolojiyi geliştirirken etik ve güvenlik konularını ihmal etmemek, toplumsal algıları çarpıtan komplo teorilerine meydan vermemek için kritik önem taşıyor. Bu deneyim, AI ekosistemine ilave bir uyarı niteliğinde: Gerçekliği teyit edilmemiş bilgileri kabullenmek ve yaymak, hem kullanıcıları hem de toplumun genelini yanıltıcı tehlikelere açık hale getirir.
https://i.guim.co.uk/img/media/36c0459a372ee26dcb7453538be100e71dd36e96/462_0_4583_3668/master/4583.jpg?width=1200&height=630&quality=85&auto=format&fit=crop&overlay-align=bottom,left&overlay-width=100p&overlay-base64=L2ltZy9zdGF0aWMvb3ZlcmxheXMvdGctZGVmYXVsdC5wbmc&s=804fc87918df8cf3b714500865506b0c
Bir yanıt yazın