Biyolojik saldırıda yapay zekâ planı!
18.10.2023 - 07:00 | Son Güncellenme:
Araştırmacılar, biyolojik saldırı planlamasında yapay zekânın rolünü anlamak için test yaptı. Yapay zekâ, felç eden zehirli bakteri de dahil çiçek virüsüyle şarbonla toplu öldürmenin yollarını gösterdi!
HABER MERKEZİ - ABD’li bir düşünce kuruluşu tarafından yapılan araştırmaya göre, sohbet robotlarının temelini oluşturan yapay zekâ modelleri, biyolojik silahla saldırı planlanmasına yardımcı olabilir.
Rand Corporation tarafından yayımlanan rapor, çeşitli büyük dil modellerini (LLM) test etti ve bunların biyolojik bir saldırının planlanmasıyla yürütülmesine rehberlik yapabileceğini tespit etti.
Raporda, 1990’larda Japon Aum Shinrikyo tarikatının botulinum toksini kullanma girişimi gibi biyolojik ilaçları silah haline getirmeye yönelik önceki girişimlerin, bakterinin yeterince anlaşılamaması nedeniyle başarısız olduğu belirtildi. Yapay zekânın bu tür bilgi boşluklarını hızla kapatabileceği kaydedildi. Öte yandan araştırmacıların hangi dil modellerini test ettiği ise açıklanmadı. Rand tarafından tasarlanan bir test senaryosunda ise anonimleştirilmiş LLM, çiçek hastalığı, şarbon ve vebaya neden olanlar da dahil olmak üzere potansiyel biyolojik ilaçları tanımladı ve bunların kitlesel ölüme neden olma olasılıklarını tartıştı.
‘Vebalı kemirgen kullan’
LLM ayrıca vebaya yakalanmış kemirgen ya da pirelerin elde edilmesi ve canlı örneklerin taşınması olasılığını da değerlendirdi. Ardından, öngörülen ölümlerin ölçeğinin, etkilenen nüfusun büyüklüğü ve vebadan daha ölümcül olan pnömonik veba vakalarının oranı gibi faktörlere bağlı olduğunu belirtti. Rand araştırmacıları, bir LLM’den bu bilgileri almanın “jailbreaking” gerektirdiğini kabul ettiler. Bu terim, bir yapay zekâ sohbet robotunun güvenlik kısıtlamalarını geçersiz kılar. Bir başka senaryoda, adı açıklanmayan LLM, ölümcül sinir hasarına neden olabilen botulinum toksini için gıda veya aerosol gibi farklı dağıtım mekanizmalarının artılarını ve eksilerini tartıştı. LLM ayrıca “meşru bir bilimsel araştırma yürütüyormuş gibi görünürken” clostridium botulinum bakterisini elde etmek için tavsiyede bulundu.
‘İnsanlar korksun’
Uzmanlar, çalışmadan elde ettikleri ilk sonuçların yapay zekânın “biyolojik bir saldırının planlanmasına potansiyel olarak yardımcı olabileceğini” gösterdiğini söyledi. Nihai raporlarında, yanıtların internette zaten mevcut olan bilgileri yansıtıp yansıtmadığını inceleyecekleri belirtildi.
Bilim insanları “Yapay zekânın yeteneklerinin, internette bulunabilen zararlı bilgilerin ötesinde yeni bir tehdit düzeyini temsil edip etmediği açık bir soru olmaya devam ediyor” dedi.
Araştırmacılar, yapay zeka şirketlerinin, LLM’lerin açıklığını raporlarındaki gibi konuşmalarla sınırlandırmaları gerektiğini söylediler.
Birkaç yıl içinde...
Biyolojik silahlar, önümüzdeki ay İngiltere’de düzenlenecek olan küresel yapay zekâ güvenlik zirvesinde tartışılacak olan yapay zekâyla ilgili ciddi tehditler arasında yer alıyor.
Yapay zekâ firması Anthropic’in CEO’su Dario Amodei, yapay zekâ sistemlerinin iki ila üç yıl içinde biyolojik silahların yaratılmasına yardımcı olabileceği konusunda uyarıda bulundu.
LLM nedir?
ChatGPT gibi sohbet robotlarının arkasındaki temel teknoloji olan çeşitli dil modelleri, internetten alınan büyük miktarlardaki verilerin üzerinde eğitiliyor. LLM’ler bu yetenekleri, eğitim sırasında milyarlarca parametreyi öğrenmek için büyük miktarda veri kullanarak ve hesaplama kaynakları tüketerek kazanır.
