Grok’a ‘akıllı ol’ tokadı
13.01.2026 - 06:35 | Son Güncellenme:
Malezya ve Endonezya, gerçek kadınlarla çocukların fotoğraflarıyla izinsiz porno görüntüler üreten Elon Musk’ın yapay zekâ uygulaması Grok’u yasaklayan ilk ülkeler oldu
ABD’li teknoloji milyarderi Elon Musk’ın sosyal medya platformu X üzerinden erişilen yapay zekâ sohbet robotu Grok, son zamanlarda izinsiz ürettiği kadınların ve çocukların cinsel şiddet de içeren pornografik sahte görüntüleri (deepfake) yüzünden büyük tepki aldı. xAI şirketi uyarılara rağmen yeterli önlem almayınca Güneydoğu Asya ülkeleri Malezya ve Endonezya, Grok’u engelledi. Böylece Malezya ile Endonezya, Grok’u dünyada yasaklayan ilk ülkeler oldular; yani Musk’a sert bir cevap verdiler.
İnsan onuru
İki ülkenin yetkilileri, mevcut kontrollerin özellikle kadınları ve çocukları içeren sahte pornografik içeriklerin oluşturulmasını ve yayılmasını engellemediğini söyledi. Yetkililer, Grok’un insan haklarını ve onurunu çiğneyen bu özelliğinin tümüyle ortadan kaldırılmasına kadar yasağın süreceğini, yasağın kadınları, çocukları ve toplumu korumayı amaçladığını açıkladı.
Çıplak kadınlar ve çocuklar
İngiltere merkezli araştırma grubu AI Forensics, yayınladığı raporda, 25 Aralık ile 1 Ocak arasında Grok tarafından oluşturulan 20 bin görüntüyü analiz ettiğini açıkladı. Raporda, bu görüntülerin yüzde 2’sinde 18 yaş veya daha küçük bir kişinin yer aldığı, bunların arasında bikinili veya şeffaf kıyafetli 30 çok genç kadın veya kız çocuğunun bulunduğu belirtildi. Musk’ın şirketi ise raporu yalanladı.
‘Bu deepfake’leri istemiyoruz’
xAI şirketi tepkiler üzerine, görüntü oluşturmayı ayda 8 dolar ödeyen ücretli kullanıcılarla sınırlandırdı ancak sorun çözülmedi. Ücretsiz kullanıcıların da Grok’u bu kapsamda kullandığı görüldü. Avrupa Birliği’nden yapılan açıklamada da “İster ücretli ister ücretsiz olsun, bu deepfake’leri istemiyoruz, bu kadar basit” denildi. Sorun, hem Musk’ın sohbet robotunu rakiplerine göre daha cesur olarak sunması, hem de Grok’un görsellerinin herkese açık olması ve kolayca yayılabilmesi nedeniyle büyüyor.
Yapay zekâyı uyutamazsın
Yeni bir yapay zeka modeli, bir kişinin ne kadar iyi uyuduğuna bağlı olarak 100’den fazla sağlık sorunu geliştirme riski altında olup olmadığını söyleyebiliyor. ABD’deki Stanford Üniversitesi’nin araştırmasında, yapay zekâ, bir gecelik uyku verisini kullanarak 100’den fazla sağlık riskini belirledi. SleepFM adlı yapay zekâ modeli, kullanıcının uyku sırasında beyin aktivitesini, kalp atış hızını, solunum sinyallerini, bacak hareketlerini ve göz hareketlerini okuyarak hastalık riskini değerlendiriyor.
İngiltere de soruşturma başlattı: Küresel tepki
2023’te piyasaya sürülen yapay zekâ sohbet robotu Grok, X platformunda ücretsiz olarak kullanılabiliyor. Şirket geçen yaz Grok’a, yetişkinlere yönelik müstehcen içerik üretebilen “Grok Imagine” adlı bir görsel oluşturma özelliği ekledi. Ancak Grok, kötü niyetli kullanıcıların talebiyle gerçek insanların (kadınların, çocukların) pornografik deepfake (sahte) görüntülerini üretmeye başlayınca küresel tepki gördü. Birçok ülke, Elon Musk’tan açık veya küfür içeren içerikleri kontrol altına almasını istiyor. İngiltere de Grok skandalı nedeniyle dün resmi soruşturma başlattı.
Musk: Tıp okumayın
700 milyar dolar civarındaki servetiyle dünyanın en zengin insanı olan; Grok, X, Tesla ve SpaceX’in patronu Elon Musk (54) katıldığı son programda gençlere “Tıp okumayın” çağrısı yaptı. Musk, Tesla’nın insansı robotu Optimus’un sadece 3 yılda dünyanın en iyi cerrahlarından daha yetenekli hale geleceğini iddia etti. Milyarder, tıp fakültelerinin gelecekte “pahalı bir hobiye” dönüşeceğini savundu.
EN ÇOK OKUNANLAR
KEŞFETYENİ