Yapay zekânın dönüştürücü etkisinin en fazla hissedileceği alanların başında eğitim sistemleri gelmektedir. Eğitim sistemleri bu dönüştürücü etkiye karşı iki önemli sorumluluğa sahiptir. Birincisi, işgücü piyasalarının talep ettiği becerilere sahip bireyler yetiştirmektir. Yapay zekâ sektörleri ve dolayısıyla işgücü piyasalarını hızla dönüştürdükçe yeni koşullara uygun becerilere sahip insan kaynağının yetiştirilmesi meydan okuyucu sorun olarak ortada durmaktadır. Örneğin, Çin şimdiden ilkokul, ortaokul ve lise düzeylerinde yapay zekâ becerilerini kazandırmaya yönelik ön alıcı girişimleri devreye sokmaya başlamıştır. Yükseköğretimde de benzer dönüşümler yaşanmaktadır.
İkincisi ise, bu teknolojilerin eğitim sistemlerine doğrudan etkisi ile ilgilidir. Özellikle üretken yapay zekâ teknolojileri ile eğitim ortamlarını zenginleştirmek ve bireyselleştirilmiş eğitim fırsatları oluşturmak artık çok daha kolay bir hale gelmiştir. Diğer taraftan yabancı dil öğretimi, resim, müzik ve sanat eğitimi alanlarında çok önemli fırsatlar ortaya çıkmaktadır. Ayrıca, metin oluşturma, proje önerileri geliştirme, literatür taramaları yapma, makale yazabilme gibi çoğu görevlerde bu teknolojiler çok önemli destekler sağlayabilmektedir.
Elbette her teknolojik aracın kullanımı sağladığı fırsatlar kadar yol açabildiği risklerle beraber gelmektedir. Yapay zekâ ile ilgili de genellikle risklerinden çok faydaları ön planda tutulmaktadır. Yapay zekânın eğitimde kullanımının veri güvenliği açısından riskleri uzun zamandır bilinmektedir. Diğer taraftan, bu teknolojilerin etik ve sorumlu bir şekilde kullanılmamasının yol açtığı sorunlar da yavaş yavaş tartışılmaya başlanmıştır. Ayrıca, bu uygulamaların toplumda var olan din, dil, kültür, ırk ve cinsiyete dayalı yanlılıkları yeniden üreterek eşitsizlikleri derinleştirebildiği de bilinmektedir. Bu risklerin azaltılması için eğitimde kullanılacak yapay zekâ uygulamalarının öğrenciden öğretmene, yöneticiden velilere kadar ilgili paydaşların katılımıyla şeffaf bir şekilde geliştirilmesi ve uygulanırken de etkilerinin sürekli izlenmesi oldukça kritiktir.
Bu kapsamda yeni bir çalışma Çin ve Pakistan’dan bir grup yükseköğretim öğrencisinin kişisel güvenlik ve mahremiyet kaygılarına, karar verme kayıplarına ve tembelliğe itme etkilerini incelemektedir (Impact of artificial intelligence on human loss in decision making, laziness and safety in education, Humanities and Social Sciences Communications, 10:311, 2023). Çalışmanın bulguları kullandıkları öğrenci örnekleminde yapay zekâ uygulamalarının öğrencilerin karar verme yetisini kaybetmesi ve tembelleşmesi üzerinde önemli bir etkisi olduğunu göstermektedir. Bulgulara göre, örneklemdeki öğrencilerin tembelliğinin %68,9'u, kişisel gizlilik ve güvenlik sorunlarının %68,6’sı ve karar verme yetisinin kaybının %27,7’si yapay zekâ uygulamalarının etkisinden kaynaklanmaktadır.
Güvenlik ve mahremiyet kaygıları sadece eğitimde değil yapay zekânın uygulandığı tüm alanlarda oldukça yaygın bir kaygılardır. Dahası, güvenlik zafiyeti ve mahremiyet ihlalleri ile ilgili medyada sık sık haberlerin çıkması kaygı düzeyini sürekli artırmaktadır. Kaygı ile ilgili bireylerin yapabilecekleri en önemli çözüm, bu teknolojilere yönelik okuryazarlıklarını sürekli artırmalarıdır. Bu konudaki eksiklikler veri sızıntılarını çok daha olası hale getirecektir.
Çalışmanın bulguları, yapay zekâ uygulamalarının işlevleri arttıkça ve eğitimde kullanımı yaygınlaştıkça öğrencilerin çalışmalarında bu uygulamalara yönelik güvenlerinin giderek arttığına ve bunun da öğrencilerin tembelliğini artırdığına işaret etmektedir. Öğrenciler çalışmaları ile ilgili çoğu görevi bu uygulamalara yaptırttıkça üretilen içeriği kontrol etme refleksleri zayıflamakta, böylece öğrenciler içeriğin üretilmesinde analitik düşünme becerilerini ve bilişsel yetilerini giderek daha az kullanmaktadır. Yapay zekâ uygulamalarının içeriğine aşırı güven, bu uygulamalara bağımlılığı da giderek artırmaktadır. Sonuçta bağımlılık davranışı öğrencileri tembelleştirmektedir. Aslında benzer risk öğretmenler için de geçerlidir.
Diğer taraftan, çalışmanın bulguları yapay zekâ uygulamalarının eğitimde bu şekilde kullanımının yaygınlaşması ile öğrencilerin karar verebilme yeteneklerinin zayıfladığına işaret etmektedir. Çünkü kararları kendileri verme yerine yapay zekâ uygulamalarının ürettiği kararları kendi kararları yerine ikame etme alışkanlığı yaygınlaşmaktadır. Dolayısıyla, karar verme sürecindeki gerilimlerle mücadele edebilme yetenekleri de zayıflamaktadır. Bu zafiyet, uzun vadede dolaylı olarak öğrencilerin zorluklara karşı dayanıklılıklarını da olumsuz etkileyebilecektir.
Bu etkilerin ötesinde yukarda da kısmen değindiğimiz gibi yapay zekâ tarafından üretilen içeriklerde iki önemli risk bulunmaktadır. Birincisi, yapay zekâ uygulamalarının din, kültür, cinsiyet, sosyoekonomik seviye, ırka vs dayalı yanlılıklar üretebilmesi ile ilgili risklerdir. Öğrenciler bu içeriklere aşırı güvendiklerinde üretilen içerikleri kontrol etmeyecekler, dolayısıyla mevcut eşitsizlikleri pekiştiren anlayış eğitim sistemi üzerinden yaygınlaşacaktır. İkincisi, yapay zeka uygulamalarının halüsinasyon veya konfabülasyon davranışı ile ilgili risklerdir. Yapay zekâ uygulamaları bu davranışı gösterdiğinde doğru olmayan ancak doğru gibi duran sahte içerikler üretmektedir. Bunlar kontrol edilmediğinde ve ayıklanmadığında eğitim üzerinden gerçekliğe tekabül etmeyen bilgiler daha kolay yaygınlaşabilecektir.
Özetle, öğrencilerin sorumluluklarını gerçekleştirmede ve ürettikleri çalışmaların kalitesini artırmada önemli bir destekçi olarak kullanma yerine, bu uygulamaların öğrencinin kendisi yerine ikame edici şekilde kullanılması uzun vadede davranışsal açısından tembellik, sorumluluk almama, karar verme yetisinin zayıflaması gibi çok olumsuz sonuçlar doğurabilecektir. İşte yapay zekânın sorumlu kullanımının kritik önemi burada ortaya çıkmaktadır. Eğitimde yapay zekânın etik ve sorumlu bir şekilde kullanılması bu olumsuz etkileri azaltacaktır. Bu bağlamda insan yerine ikame edilmesinin insanın becerilerinde yol açabileceği uzun vadeli deformasyonlar konusunda öğrenci ve öğretmenler bilgilendirilmelidir. Eğitimde bu uygulamaların insanı tamamlayacak şekilde nasıl kullanılabileceği ve bunun sınırlarına yönelik farkındalığın artırılması giderek çok daha kritik bir hal almaktadır.