Hukuk Alanında Yapay Zeka: Hataların Bedelini Kim Ödeyecek?
Diyelim ki işlemediğiniz bir suç yüzünden 10 yıl hapis cezası aldınız. Ancak bu kararı bir hakim değil yapay zeka ile eğitilmiş bir robot mahkeme salonunda okudu. Bu hatanın sorumluluğu kimde? Ya yapay zekaya da rüşvet kabul eder veya adam kayırma yaparsa ne olacak? Bu hataların sorumluluğunu yapay zekayı geliştirenlere mi yükleyeceğimiz hususundaki tartışmalar hala net bir cevaba ulaşamadı. Hukuk kesin hükümler üzerine kuruluyken yapay zeka ise olasılıklarla çalışır. Bu tezatlığın hukuku geliştirip geliştiremeyeceğini ise yakın gelecekte göreceğiz. Bu yazıda yapay zekanın hukukla nasıl dönüşüme uğrayacağını ve şimdiye kadar hangi aşamaya gelindiğini anlatacağım. Öncelikle yapay zekanın göz ardı edilemeyecek birkaç sorunundan bahsedelim.
Yapay Zeka Kusursuz Değil
ChatGPT ve Gemini gibi günlük hayatta kullandığımız büyük dil modellerinin bir dediği diğerini tutmayabiliyor. Bazen halüsinasyon olarak bilinen, gerçekte olmayan bilgiler sunuyor bazen ise cevapları çelişiyor. Her ne kadar şirketler bu sorunları gidermek için çabalasa ve çalışmalarına devam etse de bu problemler yapay zeka ile şu an özdeşleşmiş durumda. Bu tutarsızlıklar sürerken yapay zekanın hukuk alanında kullanılması ise sorunlara yol açabilir. Kara kutu olarak adlandırılan bir başka sorun ise yapay zekanın mahkemelere hazır olmadığının en büyük göstergesidir. Bu sorun büyük dil modeline aynı istemi veya soruyu yazdığınızda olasılıklar zinciri ile çalışan modelin size farklı cevaplar sunmasıdır. Hukukta kararların gerekçelendirilmesi ve net bağlamlara oturtulması önemlidir. Bu tutarlılık kara kutu sorunu nedeniyle büyük dil modellerinde tam olarak bulunamıyor. Devasa bir veri havuzunda farklı kelime seçimi olasılıklarını birleştirerek çalışan modeller milyarlarca farklı cevap üretebilir. Bu nedenle ChatGPT’ye bir sanığın suçluluğu sorulursa, aynı kanıtlar ve savunmalar sunulsa dahi sonuç farklı olabilir. Bu nedenle yapay zekanın günümüzde bulunduğu aşamada hukukta kesin özne olarak uygulamaya başlaması mümkün görünmüyor.
Evet, günümüzde hukuk alanında yapay zeka kendi başına destek olmadan karar verecek yetkinlikte ve potansiyelde değil. Fakat, bu onun etkili bir araç olabileceği gerçeğini değiştirmiyor. Net bir verinin bulunmaması ile birlikte farklı araştırmalar, ABD’de avukatların %40 ila %70’inin yapay zekayı çalışırken kullandığını öne sürüyor. Bu çalışmalar kanıt aramak veya araştırma yapmak amaçlı olabilir. Ancak yapay zekanın sorunları ile burada da karşılaşmak mümkün. New York’da Mata v. Avianca şirketinin davasını inceleyen iki avukat yapay zekadan yardım alarak kariyerlerinin en büyük hatasını yapmış oldu. Bu avukatlar ChatGPT’nin halüsinasyon cevabına kurban düşerek dilekçelerine gerçek hayatta bulunmayan 6 sahte mahkeme kararı ekledi. Hakim bu emsal kararların gerçek olmadığını tespit edince ise avukatlara yaptırım uygulandı. Bu örnek yapay zekanın yargı sürecini destekleyebileceği gibi bozabileceğini kanıtlıyor. Çoğu durumda olduğu gibi bu dava da bize yapay zekanın insan becerisi ile harmanlanması gerektiğini kanıtlar nitelikte. Birçok büyük hukuk şirketi belgelerin taslaklarının oluşturulmasında veya düzenlenmesinde yapay zekanın kullanılmasını çalışanlarına teşvik ediyor. Fakat aynı zamanda elde edilen çıktının doğrulanmasını ve dikkatlice kontrol edilmesini de şart koşuyor. Yapay zekanın kusursuz olduğunu tartışmış olduk. Peki ya yapay zekanın hatalarının bedelini kim ödeyecek?
Sorumluluk Kimde?
Girişte de bahsettiğim üzere yapay zeka hata yapmaya oldukça yatkın. Yapay zekanın hatalarının veya kötüye kullanımının bedelini kimin ödeyeceği ise muallakta kalmış durumda. Şüphesiz ki suçlu hatadan hataya değişir. Örneğin yapay zeka veriseti sebebiyle belirli bir etnik grubun aleyhine ırkçı kararlar dahi verebilir. Bu tamamen onun veriler ile eğitimini denetleyen yazılımcıların, geliştiricilerin sorumluluğu olarak değerlendirilebilir. Yapay zekanın veri setinde herhangi bir siyasi ideolojinin mesajlarının bulunması da yönlendirici bir başka faktör olabilir. Bu durumlar da taraflı kararlar vermesine yol açabilir. Söz konusu durumda da suçluların geliştiriciler ve çalıştıkları şirket olduğunu iddia edebiliriz. ABD’nin kullandığı ve suçlularının bir daha suç işleme riskini belirlemede yardım alınan COMPAS sisteminin hataları sorumluluğun kimde olduğu sorusunu derinleştiriyor. Araştırmalar algoritmanın siyahi bireyleri daha riskli ve tehlikeli bireyler olarak değerlendiğini iddia etti. Bu olay basında büyük tepki toplamıştı. Şirket ise algoritmanın nasıl çalıştığı ile ilgili detayları açıklamayacağını belirtti. Bu tip durumlar yapay zeka için de geçerli olmakta. Eğer veri, hatta geliştiriciler taraflıysa model de taraflı olabiliyor. Sorumluluğu kimin üstleneceği ise hala net olarak belirlenemiyor. Peki yapay zekayı kullanan avukat, savcı ve hakimler de suçlu konuma düşebilirler mi. Büyük dil modellerini sık kullanıyorsanız fark etmiş olacağınız üzere yapay zeka sürekli bize katılmaktadır. Bizi memnun etme amacı güttüğü için fikrimiz her ne kadar saçma olursa olsun bizi savunmaktadır. Bu da yapay zekanın öngörülemez ve tutarsız olduğunu gösterir. Hukukçular bu açıklığı kullanarak yakın gelecekte yapay zekayı yönlendirmeyi ve istediği cevapları şekillendirmeyi deneyebilir. Böylece suçlulara hukukçular da eklenmiş olur. Şimdi ise biraz daha geniş bir perspektiften bakmayı deneyelim. Zaman zaman hükümetler de yapay zekanın hatalarında sorumluluk sahibi olabilir mi?
Eğer ki gelecekte yapay zeka modelleri mahkemelerde kullanılacak ise devlet modelleri denetlemeli ve testlere tabi tutmalı. Burada şeffaflık çok önemlidir. Veri setinin ve algoritmaların şeffaflıkla açıklanması gerekir. Bunu sağlamak da hükümetlere düşüyor. Ne de olsa finans sektöründe kullanılan algoritmalar sürekli olarak denetleniyor, hukuk sektöründe de bunu sağlamak mümkün. Ben her ne kadar tüm yönleriyle değerlendirmeyi denesem de yapay zekanın hukuk alanında hatalarının sorumluluğu kimin üstleneceği hala belirsiz. Bu duruma net sınırlar koymak ve suçları tanımlamak yeniden hükümetlerin elinde. Örneğin Avrupa Birliği’ndeki EU AI Act bu durumla ilgili belirli sınırlar belirledi. EU AI Act aynı zamanda yapay zeka sistemlerinin risk seviyelerini sınıflandırıyor ve hukuk alanında kontrolsüz yapay zeka kullanımını yüksek risk olarak sınıflandırdı. Bu da yakın gelecekte dahi tamamen otonom hukuk mekanizmalarının görülmesinin zor olacağı anlamına geliyor.
Elbette ki birçok alanda olduğu gibi yapay zeka hukuku da olumlu etkileyecek. Hız ve verimlilik yönünden büyük ilerleme katedilecek. Örneğin binlerce emsal kararın, ifadenin ve belgenin analizi daha efektif gerçekleştirilebilecek. Dilekçelerin düzenlenmesi ve kontrol edilmesi gibi işlerin yapay zekaya bırakılması ile zamandan tasarruf edilecek. Fakat tüm bu yararların yanında yazı boyunca incelediğim riskleri de unutmamak gerek. Sonuç olarak kontrollü kullanıldığı takdirde gün geçtikçe gelişen yapay zeka hukukta da büyük bir dönüşüme yol açacak. Umuyorum ki bu dönüşüm adil ve şeffaf bir şekilde gerçekleşir.
