“Yapay zeka” söz grubunu duymadan bir gün geçirmek artık neredeyse imkansız hale geldi. Yapay zekayı sosyal medyada, haberlerde, işyerinizde veya belki de okulunuzda sıkça duyuyorsunuz. Adeta yeni bir sanayi devrimi boyutunda etkisi olacağını öngören uzmanlar, günlük hayatımızdaki birçok dinamiğin de yapay zeka ile değişeceğini tahmin ediyor. Peki, yapay zekanın hayatımızdan bir anda kaybolma ihtimali var mı? Gerçekten gittikçe gelişiyor mu? Bu yazımda bu sorulardan yola çıkarak “model collapse” kavramını değerlendireceğim.
ChatGPT, Gemini gibi büyük dil modelleri (LLM) ve günlük hayatımızda birçok farklı fonksiyonu olan tüm yapay zeka modelleri ilk eğitilmeye başlandığında, geliştiriciler için veri bulmak çok da zor olmadı. Ne de olsa insanlık kitaplar yazmış, internette yıllardır milyarlarca yazı yayımlamış ve bilgiyi yazılı veri haline getirmişti. Yapay zeka modelleri de bu veriler üzerinden eğitilecekti. Hatta günümüzde artık kullanılmamasına rağmen bir sürü LLM’in em dash(—) işaretini cevaplarında kullanmasının sebebi veri setindeki eski edebi kitaplar yüzündendir. Günümüzde ne İngilizce’de ne de Türkçe’de bu işaret kullanılmasa da, ChatGPT ve benzeri modellerin veri setinde bulunması sebebiyle cevaplarında bu işareti kullanmaktadır. Yazıdan bağımsız kısa bir tavsiye vermem gerekirse, birinin yapay zeka kullanıp kullanmadığını anlamanın en kolay yöntemlerinden biri de yazısında “—” işaretinin bulunup bulunmadığına bakmaktır.
Em dash örneği de yapay zeka modeli eğitirken verinizin tutarlı, doğru ve yüksek kaliteli olmasının büyük önem taşıdığını göstermekte. Modern bir model için eski edebi eserler yerine güncel verilerin kullanılması da bu yönde bir gereklilik olmakta. Anlayacağınız, veri kalitesi yapay zekanın en temel yapı taşlarındandır. Ne de olsa modeller verilerdeki örüntüleri, bağlamları, dil kullanımını ve pek çok öge üzerinden eğitiliyor ve öğreniyor. Bu nedenle yapay zeka insan tarafından üretilmiş güncel verilere ihtiyaç duyuyor. Peki, yapay zekanın kendi ürettiği cevaplarla ve içeriklerle yapay zekayı tekrardan eğitirsek ne olur? Kısa cevap: model collapse.
Model collapse, yani model çöküşü, günümüzde yapay zekanın olağanüstü hızda gelişmesinin önüne geçebilecek olası bir engeldir. 2024 yılından itibaren yapay zeka artık yalnızca interneti analiz ederek öğrenen bir araç olmaktan çıktı. Artık yapay zeka internette kendisi insanlara bilgiler sağlayan bir araç olmuştu. İnsanlar yapay zeka ile yazdıkları haberleri, yazıları ve hatta kitapları internette yayımlamaya başladı. İşte sorun tam burada başlıyor. Artık yapay zekayı eğitmek için veri aradığınızda karşınıza insanlar tarafından üretilmiş veriler değil, modelin zaten kendisinin ürettiği sentetik veriler çıkmaya başlamıştı. Bu durumdan kaçmak için Anthropic gibi büyük yapay zeka şirketlerinin sahaflardan kitap aldığı dahi iddia ediliyor. İnternet yapay zekanın ürettiği “çöplük”le o kadar dolmuş durumda ki eski kitaplar dahi temiz veri olarak görülebiliyor. Durumun korkutuculuğu 2025’te yapılan bir araştırmada daha iyi anlaşılıyor. Bir araştırmacı Google ve Pinterest gibi platformlarda bulunan görselleri kontrol etti. Ulaştığı sonuca göre bu görsellerin %40’ından fazlası yapay zeka tarafından üretilmiş veya düzenlenmişti. Bu durum sonucunda yeni yapay zeka modelleri bir önceki yapay zeka modelinin hatalarını görüyor ve bu sefer onu doğru olarak öğrenmeye başlıyor. Model collapse döngüsünü şu şekilde göstermek mümkün:
1. Yapay zeka A, internetten öğrenir
2. Yapay zeka A, yazı yazar ve internete yüklenir
3. Yapay zeka B, A'nın yazılarıyla beraber öğrenir
4. B, yazı yazar (bu sefer daha kalitesiz olur)
5. Yapay zeka C, B'nin yazılarıyla öğrenir
6. Sistem giderek daha da kalitesiz olur
MIT’nin bir araştırması bu döngünün aynı hızda devam etmesi halinde 2028 yılında internetin %70’inin yapay zeka tarafından üretilmiş içerikler olacağını tahmin ediyor. Bu durumu fotokopinin fotokopisini çekmek gibi hayal edebilirsiniz. Ne kadar çok fotokopi çekerseniz, orijinal dosyanız o kadar bozulacaktır.
Evet, belki de şu an neredeyse her hafta yapay zeka ile ilgili yeni gelişmeler yaşanıyor ve yapay zekanın potansiyeli gittikçe büyüyor. Fakat yapay zekanın modal collapse ile karşılaşması da göz ardı edilmemesi gereken bir tehlike. Bu tehlikenin göz ardı edilmesi durumunda yapay zekanın hata olarak verdiği yanlış bilgiler daha fazla yayılabilir ve yapay zekanın interneti ele geçirmesi sonucunda ilerleyen yıllarda internette gerçek bilgi bulmak daha zor olabilir. Ayrıca yapay zeka günümüzdekinden bile daha gerileyebilir ve sürekli tekrara düşerek benzer, jenerik cevaplar verme ihtimali artabilir.
Model collapse’e ek olarak yapay zekanın sonunu getirebilecek başka tehditler de bulunmakta. Bu yazımda diğer etkenlerden kısaca bahsedeceğim, ancak konuya merakınız varsa bu problemlere değindiğim önceki yazılarıma göz atabilirsiniz. Bu etkenler arasında yapay zekanın gelişim hızına yetişmekte zorlanan elektrik altyapıları, soğutma sistemleri için gereken su kaynakları ve çip tedarik zincirleri bulunmakta. Yapay zekanın gelişmesi için model collapse’e ek olarak şüphesiz enerji tedariki ve tüketimi konusunda da gelişmeler şart olmakta.
"Medeniyete dair sevdiğimiz her şey zekanın bir ürünüdür. Dolayısıyla insani zekamızı yapay zeka ile güçlendirmek, teknolojiyi faydalı tutabildiğimiz sürece medeniyeti daha önce hiç olmadığı kadar büyütme potansiyeline sahiptir."
-Max Tegmark