Yapay zekâyı yanılttık

Basit ve şaşırtıcı hatalar

Japon bilim insanları, yapay zekâya dayanan görüntü tanımlama sistemini yanılttı. Kyushu Üniversitesi’nden araştırmacılar, ufak değişiklikler yaptıkları bir dizi fotoğrafı, derin sinir ağları denen bir yapay zekâ çeşidi etrafında kurulu görüntü tanımlama sistemi tarafından analiz etti. Test sonucunda bir fotoğrafın yüzde 74’ünde bir pikseli değiştirmenin, yapay zekânın yanlış algılamasına neden olduğu bulundu. Hataların basit ve şaşırtıcı olduğunu vurgulayan uzmanlar, yapay zekânın kediyi köpekle, hayalet uçağı ise köpekle karıştırdığını aktardı.

‘Saldırı yapmak mümkün’

Üç boyutlu baskılar kullanan Massachusetts Teknoloji Enstitüsü’nden Anish Athalye ve ekibinin deneylerinde ise üç boyutlu bir kaplumbağa, tüfek olarak algılandı. Athalye, “Gerçek dünyada kullanılan sistemler, giderek artan sayıda sinir ağlarını kullanmaya başlıyorlar ve bu sistemlere yanıltıcı örneklerle saldırı düzenlemek mümkün” uyarısında bulundu. Öte yandan Facebook, Amazon ve Google gibi internet devlerinin bir süredir bu tür çarpıtmalarla baş etme yöntemleri üzerinde çalıştıkları ifade edildi.