Yapay zekâ eğitimden sağlığa, finans sektöründen hizmet sektörüne, ilaç sanayinden savunma sanayine kadar her alanı dönüştürmeye devam ediyor. Özellikle ChatGPT, DeepSeekgibi üretken yapay zekâ uygulamalarının yayınlaşması ile yayılım ve sonrasında yaşanan dönüşüm daha fazla ivmelendi. Geçmişteki genel amaçlı teknolojik kırılmalardan farklı olarak yeni kırılma çok kısa sürede hayatın tüm alanlarını kapsamına aldı. Artık güçlü bir yapay zekâ ekosisteminin inşasına tanıklık ediyoruz.

Yapay zekânın yayılımı arttıkça işgücü piyasasında ciddi dalgalanmalar da yaşanmaya başlandı. Çoğu meslek ve iş pozisyonundan beklentiler hızla değişmeye başladı. Meslek ve iş pozisyonlarından beceri beklentisi sürekli değişirken istihdama olumsuz etkileri de kaygıları artırmaya başladı. Önceki genel amaçlı teknolojik dönüşümlerde olduğu gibi bu dönüşümde de başlangıçtaki beklenti ortadan kalkacak meslek veya iş pozisyonu kadar yeni meslek veya iş pozisyonunun üretileceği iken yapay zekâ uygulamalarındaki gelişim hızı bu beklentiyi daha karamsar bir boyuta taşıdı. Artık, yapay zekâile otomasyonun çok daha hızlı artması ile çoğu meslek ve iş pozisyonu işlevsiz hale gelirken yeni ortaya çıkacak iş pozisyonlarından beceri beklentileri de oldukça yükselmeyebaşladı. Dahası bu yeni iş pozisyonlarının da zamanla yapay zekâ tarafından doldurulacağı öngörülmektedir. Dolayısıyla, büyük kitleler bir taraftan mevcut işlerini devam ettirebilmek için yeni beceriler kazanmaya zorlanırken yaşı ve müktesebatı nedeniyle bu imkândan yoksun olanlar yavaş yavaş işlerini kaybederek daha düşük becerili ve dolayısıyla daha düşük ücretli işlerde iş aramak zorunda kalmaktadır. Yapay zekâ ile gelen dev dalga çoğu ülkede sürekli mevzi kaybeden orta sınıflar için yeni en güçlü tehdit olarak durmaktadır.

Hal böyleyken bu dalgadan en çok etkilenen elbette eğitim sistemleridir. Eğitim sistemleri artık iki boyutlu bir meydan okumayla karşı karşıyadır. Birincisi, yapay zekânın işgücü piyasasına etkisi nedeniyle mesleklerden beklenen becerilerin değişmesi eğitim sisteminin insan kaynağını bu becerilere uygun bir şekilde yetiştirmesini zorunlu kılmaktadır. Eğitim sistemleri bir taraftan mevcut dönüşüme uygun değişiklikleri hızla yapmaya zorlanırken diğer taraftan mevcut olmayan ancak ortaya çıkabilecek iş pozisyonlarına dayanıklı insan yetiştirme gibi karşılanması oldukça güç bir meydan okumaya cevap üretmek zorundadır. Diğer taraftan, ikinci olarak, yapay zekâ teknolojisi nasıl her alandaki iş süreçlerinde büyük dönüşümlere yol açıyorsa eğitim sistemlerinin de bu yeni duruma nasıl entegre olabileceği ve olası risklerini nasıl hafifletebileceği başka bir sorumluluk olarak ortada durmaktadır.

Bu meydan okuma devam ederken fiili durumda özellikle eğitim sistemlerinin her kademesinden öğrenciler bu uygulamaları aktif bir şekilde kullanmaya başladı. Dahası, çoğu ülkede öğrencilerin bu uygulamaları öğretmenlere göre, yükseköğretimde ise akademisyenlere göre oldukça fazla kullandığı biliniyor. Bazı ülkelerde bu yaygınlık eğitim yöneticilerini tedirgin ettiği için okullarda ve kampüslerde bu uygulamaların kullanımı başlangıçta yasaklandı. Ancak, sağladığı faydalar ve bu dönüşüme karşı koyabilmenin zorluğu göz önüne alındığında yasaklama yerine kullanım faydalarını yükselten, ancak yol açtığı riskleri azaltan bir çerçeve oluşturma çabaları daha baskın hale geldi.

Elbette diğer genel amaçlı teknolojik dönüşümlerde olduğu gibi yapay zekâ dönüşümünde de daha çok öne çıkan sağladığı faydalar oldu. Bu uygulamalarla öğrenci, öğretmen, akademisyen ve eğitim yöneticisi açısından süreçlerin dönüşeceğine, özellikle üretken yapay zekâ uygulamaları ile eğitim ortamlarının çok daha fazla zenginleşeceğine ve kişiselleştirilmiş eğitim seçeneklerinin çok daha yaygınlaşacağına yönelik aşırı beklenti bu uygulamaların hızlayaygınlaşmasına ve bu alanda çoğu ticari müteşebbisin ciddi yatırımlar yapmalarına yol açtı. Bu uygulamaların yol açtığı riskler de faydalarını gündeme taşımadaki heyecana kıyasla daha cılız olsa da artık gündeme gelmeye ve tartışılmaya başlandı. Bu risklerin başında diğer alanlarda olduğu gibi başta veri güvenliği gelmektedir. Eğitim sisteminde bu kadar yaygın kullanılmasıyla oluşan verinin güvenliği sağlanmadığında yaşamdaki diğer uygulamalar üzerinden üretilen kişisel verilerle birlikte bireylerin teknoloji şirketlerine karşı savunmasız, her türlü manipülasyona açık bir ticari nesneye dönüşme riski söz konusudur.

Bu kapsamda bir diğer risk yapay zekâ uygulamalarında algoritmanın geliştirilme aşamasında yapılan yanlı varsayımlardan kaynaklanan yanlılıkların ve/veya yapay zekânın öğrendiği büyük verideki din, kültür, ırka vs dayalı yanlılıkların bu uygulamalar tarafından tekrar üretilmesidir. Yapay zekânın ürettiği içeriklere aşırı güven bu yanlılıkların ayıklanmadan yayılmasına ve toplumsal eşitsizliklerin derinleşmesine yol açmaktadır. Gerçek dünya verisinde gömülü olan avantaj ve dezavantajlar, bu verilerden öğrenen yapay zekâ uygulamaları tarafından yeniden üretilmektedir.

Benzer durum üretilen metinlerde de görülmektedir. Üretken yapay zekâ mevcut büyük veriden öğrenerek yeni metinler üretmekte, dolayısıyla, üretilen yeni bilgilerde mevcut veriler bir şekilde hafıza görevi görmektedir. Bu durum örneğin oryantalizmde için de söz konusudur. Oryantalizm kültürel hegemonya kurarak Batı dışının kendisini ifade etmesine izin vermemekte ve kendi ürettiği temsillere hapsetmektedir. Yaklaşık iki yüz yıllık kapsamlı bir oryantalizm külliyatı oluşturulduğu için üretken yapay zekâ tarafından Batı dışına yönelik oluşturulan yeni içeriklerde aynı hafıza yeniden üretilmektedir. Dolayısıyla, yeni yapay zekâ teknolojileri oryantalist üslubu yaygınlaştırmaktadır.

Kültürel ögelerin doğru şekilde üretilmemesi zaten oryantalizmin genel karakteristiğidir. Dahası böyle bir iddiası da yoktur, çünkü oryantalizm tek taraflı bir okuma ve temsil üretme çabasıdır. Son zamanlarda bu kapsamda yapılan çalışmalarda yapay zekâ uygulamalarında kültürel ögelerin doğru şekilde üretilmediği, genellikle kültürel bağlamdan kopartma ve patchwork yapma yaklaşımının yaygın bir şekilde kullanıldığı gösterilmiştir. Araştırmalarda elde edilen bulgular yapay zekâ içerik üretiminde oryantalist üslubun devam ettiğini, dolayısıyla kültürel varsayılanlar (defaults) olarak Batı’lı ve beyaz bakış açısının baskın olduğuna işaret etmektedir.

Dolayısıyla, yapay zekâ uygulamalarının geliştirilme aşamasında yapılan varsayımlar ve öğrendiği veri dünyası doğrudan bu uygulamaların çıktılarına yansımaktadır. Bu nedenle üretilen içeriklere karşı dikkatli olunması, yanlılıkların ayıklanması ve en önemlisi üretilen her bilginin doğru olmadığı bilinmelidir. Üretilen içeriklere eleştirel gözle bakabilme davranışı tahkim edilmelidir. Oysa bu uygulamalara yönelik aşırı güven eleştirel düşünmeyi zayıflatarak yanlı içeriklerin yaygınlaşmasına yol açmaktadır.

Bu bağlamda yapay zekâ ile ilgili bir diğer risk, yapay zekânınkendisine verilen komutla ilişkisiz ve metin içerinde tutarlı görünmesine rağmen doğru olmayan içerik üretebilmesidir. Bu davranış yapay zekanın halüsinasyon görmesi olarak tanımlanmaktadır. Özellikle öğrendiği verilerde bir konudaki çelişkili bilgiler nedeniyle yapay zekânın cevap üretirken gerginlik yaşayarak bu davranışa sürüklendiği iddia edilmektedir. Kaynağı ne olursa olsun bu davranış, yapay zekâtarafından üretilen içeriklerde, metinlerde doğru olmayan bilgilerin var olabileceğine işaret etmektedir. Dolayısıyla, yukarda ifade edilen yanlı içeriklerde olduğu gibi yapay zekâtarafından üretilen bilgileri olduğu gibi kullanma davranışı yerine bu bilgileri süzgeçten geçirme, değerlendirme, gerekirse ayıklama gibi eleştirel düşünme kapasitesi aktif bir şekilde kullanılmalıdır.

Yapay zekâ eleştirel düşünmeyi zayıflatıyor (mu?)

Son zamanlarda yapılan çalışmalar yapay zekânın yukarda kısaca değinilen risklerinin ötesinde eleştirel düşünme ile ilgili de çok ciddi risklere yol açtığını göstermektedir. Bu uygulamaların öğrenciler tarafından sık kullanılmasıyla gelen yapay zekâya yönelik aşırı güvenin öğrencileri öğrenme süreçlerine aktif katılımdan uzaklaştırdığına, öğrenmeyi yüzeyselleştirerek öğrenilene yönelik hafızayı da zayıflattığına işaret ediyor. Aslında bu sonuç yapay zekânın temel karakteristiğinin bir sonucu olarak değerlendirilebilir. Yapay zekâyı zaten çekici kılan özelliği insanı bilişsel yüklerden kurtararak kendisinin yapacağı işleri devralması ve oldukça makul cevapları hızla üretebilmesidir. Bu kullanım sürecinde insanın bilişsel yükleri azalmaktadır. Teorik olarak beklenen, bu yük azalmasıyla insanın üretilen içerikleri daha fazla kontrol edebileceği veya bu zamanı diğer faydalı işlerde kullanabileceğidir. Oysa gerçekleşen beklenenle oldukça uyumsuzdur. Yapay zekânın bu özelliği öğrencilerin bu uygulamaları daha sık kullanmasına ve giderek aşırı güvenine yol açmaktadır. Nihayetinde aşırı güvenle desteklenen bir bağımlılık ortaya çıkmaktadır.

Böylece bilişsel süreçlerden uzaklaşan öğrenciler giderek tembelleşmekte, karar alma süreçlerinde kendi yerine yapay zekâyı ikame etme davranışı güçlenmekte ve nihayetinde bağımsız problem çözebilme melekesi zayıflamaktadır. Yani, yapay zekâ öğrenmeyi derinleştiren ve kalıcı kılan zorlayıcı bilgi ve deneyimleme süreçlerinden öğrenciyi kurtarıyor gibi görünmesine rağmen süreç böyle devam ederse uzun vadede öğrencilerin bu melekelerinin gelişimini olumsuz etkileyecektir. Dolayısıyla, yapay zekâ uygulamalarının özellikle eğitim sisteminde bilişsel etkileşimi ve karmaşık içeriklerle aktif olarak meşgul olmayı teşvik edecek şekilde kullanılması gerekmektedir. Bir başka deyişle üretken yapay zekâ araçları, sadece sağladığı kolaylıklarla değil, nasıl kullanıldıkları ve ne tür bilişsel süreçleri tetikledikleriylebirlikte değerlendirilmelidir.

Özetle, yapay zekâ uygulamalarına karşı eğitim sistemleri iki sorumlulukla karşı karşıyadır. Bir taraftan bu uygulamaların sağladığı avantajlar nedeniyle eğitim sisteminin öğrenci, öğretmen, akademisyen ve eğitim yöneticisinin faydalanabileceği entegrasyonları yapması beklenmektedir. Diğer taraftan ise işgücü piyasasında yapay zekâ ile dönüşen yeni becerilere sahip insan kaynağı yetiştirmelidir. Her iki sorumluluk da sorunsuz bir şekilde gerçekleştirilebilecek gibi durmamaktadır. Bu yazıda birinci sorumlulukla, yani bu uygulamaların eğitim sitemine entegrasyonuyla ilgili riskler üzerinde durulmuştur. Yazının tamamında vurguladığımız gibi sürecin riskleri oldukça dikkatli olmayı gerektirmektedir. Bu uygulamaların hem eleştirel düşünmeyi destekleyici hem de eleştirel düşünmeyi bastırıcı iki boyutu bulunmaktadır. Kendi haline bırakıldığında eleştirel düşünmeyi bastırıcı boyutunun daha baskın olacağını son zamanda yapılan çalışmalar açık bir şekilde ortaya koymaktadır. Bu nedenle eleştirel düşünmeyi bastırıcı özelliğini ortaya çıkaran bağlamın engellenmesi gerekmektedir.

Bu kapsamda öncelikle gerek öğrencilerin bireysel kullanım yoğunluğu gerekse de eğitim sistemine entegrasyonu ile ortaya çıkabilecek sorunlara karşı öncelikle yapay zekâ okuryazarlığının güçlendirilmesi ve sürekli tahkim edilmesi gerekmektedir. Bu okuryazarlıkta asıl odak, bu uygulamaların etik ve sorumlu bir şekilde nasıl kullanılacağı olmalıdır. Öğrenci, öğretmen ve eğitim yöneticileri veri güvenliği ve üretilen içeriklerin yanlılıklarına, hatta doğru olamayacağına karşı uyarılmalı ve içerikleri eleştirel bir şekilde değerlendirmeleri ve sorgulamaları teşvik edilmelidir. Elbette bu eğitimler tek başına katkı sağlasa da yetersiz kalacaktır. Çünkü bu uygulamalar aşırı kullanım ve aşırı güvenle gelen bağımlılık davranışını teşvik ettiği için eğitimde bu şekilde kullanımın önüne geçecek müdahaleler yapılmalıdır. Bu müdahalelerle yapay zekâ uygulamalarının öğrencilerin yerine ikame edilmesinin önüne geçilmeli, ikame yerine öğrencinin bilişsel süreçlere yoğun katılımını sağlayacak şekilde destekleyici bir mekanizma olarak nasıl kullanılabileceğinin yöntemleri geliştirilmelidir.