Geri Dön
Yapay zeka istenmeyen bilgileri de mi veriyor?

Yapay zeka istenmeyen bilgileri de mi veriyor?

Yapay zekayla artık ulaşamayacağımız şey yok. Getirdiği kolaylıklarla birlikte bazı endişeleri de peşine getiriyor. Yapay zekanın kendisinden istenmeden ortaya koyduğu bilgiler araştırmacılarla birlikte bizleri de endişelendirdi. Peki yapay zeka istenmeyen bilgileri de mi veriyor?

Fazilet Şenol
Fazilet Şenol

Irkları biliyor


Yapılan yeni araştırmalara göre, röntgen filmlerini analiz eden yapay zeka, hastaların ırkını şaşırtıcı derecede doğrulukla tanımlayabilmiş. Fakat aynı görüntüyü inceleyen bilim insanlarının bunu yapamayacağı da tespit edilenler arasında. Tıbbi kullanımlar için birçok yazılım algoritması onaylanmışken Al'nın ırksal önyargıların devam etmesine sebep olacağından dolayı endişe duyuyorlar.

Yapay zeka istenmeyen bilgileri de mi veriyor

Bozuk ve düşük olsa bile...


Özellikle, makine öğrenimi modellerinin, aşırı derecede bozuk ve düşük çözünürlüklü görüntülerden bile ırkı nasıl tanımlayabildiğini tam olarak çözememekten endişeli olduklarını söylemişler. Yayınlanan çalışmalarda tıbbi görüntülerden ırkı nasıl tespit edebildiğini araştırdılar. Ekibin ulaştığı sonuca göre; Model bir hastanın ırkını tanımlayabiliyorsa, bu, modellerin doğrudan bu görev için eğitilmemesine rağmen, ırksal bilgileri tanımayı dolaylı olarak öğrendiğine işaret ediyor. Ancak, istenmeden de olsa sağlanan bu ek bilginin olası sorunlar çıkarabileceğine de işaret ediliyor.

Yapay zeka istenmeyen bilgileri de mi veriyor

Araştırmanın yazarları; "Tıbbi görüntü analiziyle ilgilenen tüm geliştiricilerin, düzenleyicilerin ve kullanıcıların derin öğrenme modellerinin kullanımını son derece dikkatli bir şekilde düşünmelerini şiddetle tavsiye ediyoruz" diyor ve ekliyor: "Irk bilgisi özel olarak sağlanmamış olsa bile, makinenin bunu ortaya koyuyor olması, mevcut tıbbi uygulamada var olan ırksal eşitsizliklerin sürdürülmesine veya hatta daha da kötüleştirmek için doğrudan bir mekanizma olarak ortaya çıkmasına neden olabilir" diyerek durumun ciddiyetini ifade etmişler.

Yapay zeka istenmeyen bilgileri de mi veriyor

Dikkat edilmeli


Açıkçası iş gerçekten korkutucu boyutlara varabilir. Sadece ırklar meselesi üzerinden değerlendirmemek gerek. Sonuçta kendi kendini geliştirebilen ve kendi kendi öğrenen bir yazılım sisteminden bahsediyoruz. Ve bu sistem insanların kontrolü altında. Eminim ki ilerleyen zamanlarda daha mühim meselelerde sorun çıkarabilir. Yapay zekanın geleceği son raddeyi çok merak edenlerden biri olsam da insan biraz da korkmuyor değil.


Fazilet.Senol@milliyet.com.tr
twitter.com/SenolFazilet
instagram.com/SenolFazilet

Benzer İçerikler

Metaverse nedir?

Metaverse nedir?

Fazilet Şenol
Sıradaki Haber
Sıradaki Haber
Sıradaki Haber