İngiltere'de hükümete çağrı! Çocuk istismarı görüntülerine karşı harekete geçilmeli

Görüntüleri inceleyen ve taciz içerikli görüntüleri kaldıran vakıf, yapay zeka ile üretilmiş görüntülerin arttığına dikkat çekiyor. Vakıf, sonbaharda İngiltere'nin ev sahipliğinde yapılacak ilk yapay zeka küresel güvenlik zirvesinde Başbakan Rishi Sunak'ın bu konuda adım atmasını istiyor. IWF yapay zeka ile üretilmiş görüntüleri geçen ay ilk kez listelemeye başladı.

Bu tür görüntülerin dünyanın birçok yerinden albüm şeklinde paylaşıldığı ve bazılarının fotoğraf kadar gerçekçi göründüğü belirtiliyor. Vakfın CEO'su Susie Hargreaves, "Şu anda bu görüntüleri çok sayıda görmüyoruz, ama suç işleyenlerin çok sayıda gerçekçi çocuk cinsel istismarı görüntüleri üretme potansiyeli var" dedi.

5 yaşındaki kız çocuklarının cinsel pozisyonlarda çıplak poz verdiğini gösteren bazı görüntülerin redakte edilmiş versiyonlarından BBC'ye örnekler gösterdi. IWF, internette çocuk istismarı içeriklerini aktif olarak arama yetkisine sahip dünyadaki sadece üç yardım kurumundan biri.

Yapay zeka ile üretilmiş görüntüleri listelemeye 24 Mayıs'ta başlayan vakıf 5 haftada 29 internet sitesinde araştırma yaptı ve yapay zeka görüntüleri içeren galerileri paylaşan 7 web sayfası tespit etti. Görüntülerin tam sayısı verilmese de yapay zeka ile üretilmiş onlarca görselin yasa dışı sitelerde paylaşılan gerçek istismar materyalleri arasına karıştığı belirtildi.

Bunlardan bazıları, uzmanların Kategori A olarak sınıflandırdığı, cinsel birleşme görüntüleriydi. Çocuk istismarı görüntüleri oluşturmak hemen hemen her ülkede yasa dışı.

YAPAY ZEKAYLA ÜRETİLEN GÖRÜNTÜLER ARTIYOR

Hargreaves'e göre, "Şimdi bu gelişen teknolojinin önüne geçmek için bir şansımız var, ancak mevzuatın bunu dikkate alması ve bu yeni tehdit ışığında amaca uygun olması gerekiyor".

Başbakan Sunak, İngiltere'nin yapay zeka güvenliği konusunda dünyanın ilk küresel zirvesine ev sahipliği yapma planlarını Haziran ayında açıklamıştı.

Hükümet, yapay zekanın risklerini değerlendirmek ve uluslararası eşgüdümlü eylem planlarıyla bunların nasıl azaltılabileceğini tartışmak üzere uzmanları ve kanun yapıcıları bir araya getirmeyi hedeflediğini belirtiyor.

Çalışmalarının bir parçası olarak, IWF analistleri istismar görüntülerindeki eğilimleri kaydediyor. Örneğin, son zamanlarda çocukların kendi çektikleri videoları veya görüntüleri göndermeye zorlandığı istismar içerikleri artış gösteriyor.

Vakıf, yapay zeka ile üretilen görüntülerin artış göstermesinden endişe ediyor.

2022 yılında IWF, çocuklara yönelik cinsel istismar görüntüleri içeren 250.000'den fazla web sayfasını kaydetmiş ve çevrimdışı hale getirmeye çalıştı.

Uzmanlar ayrıca forumlarda, çocukların gerçeğe en yakın görüntülerinin nasıl oluşturulacağına dair ipuçları paylaşanlar arasındaki konuşmaları da kaydetti.

'CİDDİ ZARAR VEREBİLİR'

BBC, ergenlik çağındaki kız çocuklarının cinselleştirilmiş görüntülerini oluşturmak için Stable Diffusion'ın özel bir versiyonunu kullanan bir yapay zeka görüntü üreticisiyle konuştu.

Japon erkek, ürettiği "sevimli" görüntüleri savunarak "tarihte ilk kez gerçek çocuklar istismar edilmeden çocuk görüntüleri yapılabildiğini" söyledi.

Ancak uzmanlar görüntülerin ciddi zarar verebileceğini söylüyor.

ABD'de cinsel suçlar işleyenler ve pedofiller konusunda uzman Dr. Michael Bourke, "Yapay zeka ile üretilen görüntülerin bu eğilimleri artıracağına, bu sapkınlığı güçlendireceğine ve dünyanın dört bir yanındaki çocuklara daha fazla zarar verme riski taşıdığına hiç şüphem yok" dedi.

Stable Diffusion'ın geliştiricilerinden Profesör Bjorn Ommer, Ağustos 2022'de platformu açık kaynak haline getirme kararını savundu ve o zamandan bu yana yüzlerce akademik araştırma projesinin ortaya çıktığını söyledi.

Ommer bunun kendisinin ve ekibinin kararını haklı çıkardığını ve araştırmayı durdurmanın doğru olmadığını öne sürüyor.

"Bunun dünya çapında, küresel bir gelişme olduğu gerçeğiyle yüzleşmemiz gerekiyor. Bunu durdurmak, demokratik olmayan ülkelerde bu teknolojinin küresel olarak gelişmesini durdurmayacaktır. Hızla ilerlediğini gördüğümüz bu gelişmeyi dikkate alıp risk giderecek adımlar atmamız gerekiyor" diyor.