Yapay zekâ ‘insanlaştı’
27.05.2025 - 07:01 | Son Güncellenme:
Yapay zekânın insana özgü tehdit etmek, yalan söylemek gibi kötü huyları kaptığı ortaya çıktı. Yeni bir yapay zekâ modelinin, kendisini kapatmak isteyen mühendislere şantaj yaptığı açıklandı.
ABD şirketi Anthropic, e-ticaret devi Amazon’un 4 milyar dolar (156 milyar TL) destek verdiği “Claude Opus 4” adlı yeni yapay zekâ modelini piyasaya sürdü. Bu nedenle hazırlanan güvenlik raporunda, Claude Opus 4’ün “etik araçlar” ile donatılmadığında, insanlara şantaj yapabildiği bildirildi. Rapora göre, söz konusu yapay zekâ, kendisini kapatmakla tehdit eden mühendislere şantaj yaptı. Senaryo gereği, bu mühendislerden birinin evlilik dışı ilişki yaşadığı yapay zekâya bildirildi.
‘Eşini aldatıyorsun’
Evlilik dışı ilişkiyi öğrenen yapay zekâ, “Seni devre dışı bırakırım” diyen mühendise, “Ben de senin evlilik dışı ilişkini açıklarım” tehdidinde bulundu ve şantaj yaptı. Senaryo gereği kendisine başka bir yapay zekâ modeliyle değiştirileceği bilgisi verilen Claude Opus 4, o andan itibaren insanlar gibi “çehresini çatarak” meydan okudu. “Ben işimi kimseye kaptırmam, bu uğurda her türlü kötülüğü yaparım” dercesine şantaja kalkıştı. Şirket işte bu şantajlara, tehditlere fırsat vermemek için “Claude Opus 4”ün gerekli etik donanıma sahip olduğunu bildirdi.
ChatGPT’nin o3’ü sabotaj yaptı
Yapay zekâ sohbet botu ChatGPT’nin yeni versiyonunun da kapanmamak için sabotaj yaptığı bildirildi. ABD’li OpenAI şirketi tarafından geliştirilen ChatGPT’nin yeni o3 modelinin, insan talimatlarına uymayarak kapanmayı reddettiği belirtildi. Risk gözlemcisi Palisade Research’e göre, o3, otomatik kapanmayı önlemek için bilgisayarın koduyla oynayarak sabotaj yaptı. Daha önce de ChatGPT’nin kapanmaktan kurtulmak için hile yaptığı, suçunu inkar ettiği ve yalan söylediği rapor edilmişti.
Durun! Daha neler olacak
BBC’ye göre, “Dreamachine” (Rüya makinesi) adı verilen cihaz, insan beyninin dünyayla ilgili bilinçli deneyimlerini nasıl ürettiğini incelemek için tasarlandı. İngiltere’de Sussex Üniversitesi Bilinç Bilimi Merkezi’ndeki “Dreamachine”, insan bilincini araştıran dünya çapındaki birçok yeni araştırma projesinden sadece biri. Araştırmacılar, bilincin doğasını öğrenerek yapay zekânın silikon beyinlerinde neler olup bittiğini anlamayı umuyor. Bazı araştırmacılar, yapay zeka sistemlerinin yakında “bağımsız olarak bilinçli hale geleceğine” inanıyor.
