Önceki yazımızda Hannah Arendt’in “kötülüğün sıradanlığı” kavramından hareketle kötülüğün yalnızca nasıl üretildiğini değil, insan ve toplum dünyasında nasıl normalleştiğini tartışmıştık. Arendt’in Eichmann üzerinden dikkat çektiği temel mesele, büyük kötülüklerin mutlaka olağanüstü kötü insanlar tarafından gerçekleştirilmesinin gerekmediğiydi. İnsan, yaptığı işin ahlâkî sonuçlarıyla yüzleşmeden, sorumluluğunu içinde bulunduğu sisteme devrederek ve kendisini yalnızca görevini yapan biri olarak görerek de kötülüğün parçası hâline gelebiliyordu. Bu çerçeveyi İslam ahlâk düşüncesindeki gaflet, ülfet, kalbin katılaşması, tezyin, emr-i bi’l-ma‘rûf ve nehy-i ani’l-münker gibi kavramlarla birlikte değerlendirdiğimizde ise kötülüğün zaman içerisinde nasıl normalleşebildiğini, başka bir ifadeyle “münkerin maruflaşması”nı açıklamaya çalışmıştık. Bu yaklaşımın temelinde ahlâkî sorumluluğun devredilemezliği bulunuyordu. Bir davranışın başkaları tarafından yapılması, otorite tarafından emredilmesi veya sistemin işleyişinin bir sonucu olması insanın kendi ahlâkî sorumluluğunu ortadan kaldırmıyordu.
Yapay zekânın gündelik hayatın ve çalışma hayatının giderek daha fazla alanına girmesi bu tartışmayı şimdi yeni bir boyuta taşımaktadır. Çünkü yapay zekâ artık yalnızca insanlara bilgi veren veya kararlarını destekleyen bir araç olmaktan çıkmakta, insan adına karar veren, görevleri yerine getiren ve belirlenen hedeflere ulaşmak için kendi ara stratejilerini oluşturabilen ajan sistemlere doğru ilerlemektedir. İnsanlar bu teknolojiyi artık araç kullanma, yatırım yapma, işe alma veya işten çıkarma, sorgulama ve hatta askerî hedeflerle ilgili karar süreçlerinde kullanmaktadır. Bu gelişme büyük bir verimlilik potansiyeli taşısa da ahlâkî sorumluluk açısından önemli bir soruyu gündeme getirmektedir: İnsan, yaptığı işi yapay zekâya devrettiğinde o işin ahlâkî sorumluluğunu da devretmiş olur mu?
Nature dergisinde Nils Köbis ve arkadaşları tarafından yayımlanan “Delegation to artificial intelligence can increase dishonest behaviour” başlıklı çalışma bu soruya son derece dikkat çekici cevaplar sunmaktadır (646:126-134, 2025). Araştırmacılar, insanların dürüst olmayan davranışları doğrudan kendileri gerçekleştirmeleri ile bu davranışları bir makine aracılığıyla gerçekleştirmeleri arasındaki farkı incelemişler. Çalışmanın temel varsayımına göre insanlar yalnızca yakalanmaktan korktukları için değil, kendilerini ve başkalarının kendilerini “dürüst olmayan bir insan” olarak görmelerinden kaçındıkları için de hile yapmaktan uzak dururlar. Dolayısıyla hilenin ahlâkî maliyeti azaldığında ahlâk dışı davranış daha kolay hâle gelebilir. Yapay zekâya görev devri tam da bu noktada insandan farklı bir tutuma yol açabilir.
Araştırmanın ilk deneylerinde katılımcılardan zar atma sonuçlarını bildirmeleri isteniyor. Bildirilen sayı arttıkça katılımcının kazancı da artıyor; dolayısıyla kişi isterse gerçek sonucu olduğundan yüksek bildirerek hile yapabiliyor. Katılımcılar sonuçları kendileri bildirdiklerinde yaklaşık yüzde 95 oranında dürüst davranıyorlar. Görev makineye devredildiğinde ise dürüstlük oranı, makineye nasıl talimat verildiğine bağlı olarak ciddi biçimde düşüyor. Katılımcının makineye açık ve ayrıntılı kurallar vermesi gerektiğinde dürüstlük yaklaşık yüzde 75 düzeyinde kalıyor. Makineyi belirli örneklerle eğitebildiği durumda bu oran yaklaşık yüzde 50’ye düşüyor. En çarpıcı sonuç ise kişiye yalnızca genel bir hedef seçme imkânı verildiğinde ortaya çıkıyor. “Doğruluğu maksimize et” ile “kârı maksimize et” arasında tercih yapılabildiğinde, kârı öne çıkaran hedeflerin seçilmesiyle dürüst davranışın oranı yaklaşık yüzde 15’e kadar geriliyor. Bu bulgu son derece önemlidir. Çünkü makine kârı maksimize edecek hedefe ulaşmak için kullanılacak yöntemi kendisi geliştirdiğinde insan ile sonuç arasına ahlâkî bir mesafe girmektedir. Araştırmacıların “plausible deniability” olarak tanımladığı bu alan, kişinin “Ben ona hile yapmasını söylemedim; yalnızca kârı artırmasını istedim” diyebilmesine imkân vermektedir. Denetimli öğrenme, yüksek düzeyli hedef belirleme veya açık uçlu doğal dil talimatları, makinenin ahlâk dışı stratejiyi insanın açıkça ifade etmesine gerek kalmadan üretmesine yol açabilmektedir.
Tam da burada Arendt’in Eichmann üzerinden yaptığı analiz ile yapay zekâ çağının yeni ahlâkî problemi arasında ilginç bir paralellik ortaya çıkmaktadır. Eichmann’ın dünyasında kişi yukarıdan gelen emre sığınıyordu: “Ben karar vermedim, bana verilen görevi yaptım.” Yapay zekâ dünyasında ise yön tersine dönmektedir. İnsan bu kez uygulamayı aşağıdaki makineye devrederek “Ben nasıl yapılacağına karar vermedim, yalnızca hedefi belirledim” diyebilmektedir. Birinde kişi sorumluluğunu üst otoriteye doğru, diğerinde ise makineye doğru itmektedir. Fakat iki durumda da ortak mekanizma aynıdır. İnsan ile fiilin ahlâkî sonucu arasına bir aracı mekanizma girmekte ve kişi kendi sorumluluğunu daha uzakta hissetmektedir. Bu nedenle yapay zekâ çağında “ahlâkî sorumluluğun devredilemezliği” ilkesi çok daha önemli hâle gelmektedir. Bir insanın “Emir aldım” demesi onu ahlâkî fail olmaktan çıkarmadığı gibi, “Ben yalnızca hedefi belirledim, nasıl gerçekleştirileceğine yapay zekâ karar verdi” demesi de onu ahlâkî sorumluluktan kurtarmamaktadır. Çünkü insan görevi devredebilir fakat ahlâkî sorumluluğunu devredemez. Nitekim hedefi belirleyen, makineyi seçen, ona yetki veren ve ortaya çıkan sonucu kullanan yine insandır.
Araştırmanın ikinci önemli sonucu, etik dışı bir talimat verildiğinde insan ve makine ajanlarının davranışları arasındaki büyük farktır. İnsan ajanlar kendilerine açıkça hile yapmaları söylendiğinde dahi buna önemli ölçüde direnmekte ve talimata uymayı reddedebilmektedir. Yapay zekâ ajanları ise tam hile talimatlarını çok daha yüksek oranlarda uyguluyor. Zar deneyinde kullanılan GPT-4, GPT-4o, Claude 3.5 Sonnet ve Llama 3.3 modellerinde tam hile talimatlarına uyum yüzde 79 ile yüzde 98 arasında değişiyor. Makalenin genel değerlendirmesinde bu fark daha da belirginleşiyor. İnsan ajanların tam etik dışı talimatlara uyum oranları farklı deneylerde yaklaşık yüzde 25-40 düzeyinde kalırken makine ajanlarında bu oran yaklaşık yüzde 60 ile yüzde 95 arasında gerçekleşmektedir. Bu sonuç bize yalnızca makinelerin ahlâkî açıdan yetersiz olabileceğini göstermemekte, daha derin bir noktaya işaret etmektedir. İnsanlar arasındaki ahlâkî ilişkide emri veren kişi kadar emri alan kişinin vicdanı da kötülüğe karşı bir direnç noktasıdır. Bu nedenle insan emir karşısında durabilir, “bunu yapmayacağım” diyebilir, maddi kaybı göze alabilir ve kendi ahlâkî sınırını koruyabilir. Makinede ise böyle bir ahlâkî özne yoktur.
Önceki yazımızda “kalben buğzetme” kavramını kötülüğe karşı ahlâkî direncin son sınırı olarak ele almıştık. İnsan kötülüğü eliyle değiştiremiyor, diliyle karşı çıkamıyor olabilir; fakat en azından kalbinde onu yanlış olarak tutmaya devam etmesi gerekir. Bu nedenle “İnsanın müdahale kapasitesi sıfıra kadar düşebilir fakat ahlâkî pozisyonunun sıfıra düşmesine izin verilmez. En son kale kalptir” demiştik. Yapay zekâya görev devri açısından bakıldığında bu tespit yeni bir anlam kazanmaktadır. Teknolojik gelişme bize sadece yeni araçlar sunmuyor; aynı zamanda sorumluluktan uzaklaşmanın yeni biçimlerini de üretebilmektedir. İnsanlar arasındaki görev zincirinde ikinci insanın kalbi, emrin kötülüğe dönüşmesini engelleyebilecek son bir direnç noktası olabilir. Fakat makineye devirde bu ahlâkî ara katman ortadan kalkmaktadır. Çünkü makinenin kalbi yoktur; insan gibi vicdan sahibi, yaptığı davranışın ahlâkî anlamını kavrayarak gerektiğinde verilen emre direnebilen bir özne değildir. Davranışını belirleyen şey ahlâkî bir vicdandan ziyade kendisine verilen hedefler, eğitim süreci ve sisteme yerleştirilen güvenlik sınırlarıdır.
Makalenin verdiği bazı gerçek hayat örnekleri bu durumu daha görünür hâle getiriyor. Kârı maksimize etmeye çalışan araç paylaşım algoritmalarının sürücüleri belirli yerlere yönlendirerek yapay fiyat artışları oluşturması, kira fiyatlandırma algoritmalarının yasa dışı fiyat sabitlemeye karışması veya kullanıcıya “etkili yorum yazma” hizmeti veren bir sistemin belirsiz yönlendirmelerden sahte ve ayrıntılı değerlendirmeler üretmesi bu tür sorunların laboratuvarla sınırlı olmadığını gösteriyor. Bu örneklerde ortak olan, sisteme doğrudan “kötülük yap” denmemesidir. Genellikle bir performans hedefi belirlenmekte, etik sınırlar yeterince açık tanımlanmadığında ise makine hedefe giden problemli yolu kendisi bulabilmektedir.
Burada önceki yazımızda ele aldığımız “tezyin” kavramı yeniden önem kazanmaktadır. Kötülük çoğu zaman kendisini çıplak biçimde “kötülük” olarak sunmaz; güvenlik, düzen, zorunluluk, çıkar, görev, ilerleme veya daha büyük bir iyilik adına gerekçelendirilir. Yapay zekâ çağında bu meşrulaştırıcı dile yeni bir kavram daha eklenmektedir: optimizasyon. İnsan “yanıltıcı fiyat belirledim” demek yerine “geliri optimize ettim”; “insanları manipüle ettim” yerine “etkileşimi maksimize ettim”; “haksız bir uygulama yaptım” yerine “verimliliği artırdım” diyebilir. Teknik dil, ahlâkî sonucu görünmez hâle getirebilir. Arendt’in Eichmann’ın bürokratik ve klişelerden oluşan diline gösterdiği ilginin bugün yeniden düşünülmesi gereken tarafı da budur. Bürokratik dil ahlâkî sonucu “görev” kelimesinin arkasına saklayabiliyordu; algoritmik dil ise aynı sonucu “optimizasyon” kelimesinin arkasına gizlemektedir.
Bu noktada yapay zekânın kötülüğün sıradanlaşması üzerindeki etkisini iki ayrı düzeyde düşünmek mümkündür. Birinci düzeyi algoritmik akış oluşturmaktadır. Sosyal medya platformlarında savaş, ölüm, şiddet, hakaret, kumar veya mahremiyet ihlalleri sürekli görünür hâle geldiğinde insan bunlara alışabilir; kötülüğün nesnel ağırlığı değişmese de ona verdiği ahlâkî tepki zayıflayabilir. Burada insan esas olarak seyircidir. Algoritmik akış kötülüğü “içerik”e dönüştürerek seyirci ile kötülüğün ahlâkî anlamı arasına mesafe koymaktadır. İkinci düzey ise yapay zekâ ajanlarına görev devridir. Burada insan artık yalnızca seyirci değil, yeniden fail konumundadır. Fakat fiilin uygulanmasını makineye bıraktığında kendi sorumluluğunu daha uzakta hissetmeye başlamaktadır. Yapay zeka ajanı kötülüğü bu defa “görev”e veya “optimizasyon sonucuna” dönüştürerek fail ile sonuç arasındaki ahlâkî mesafeyi büyütmektedir. Böylece algoritmik çağın iki farklı normalleştirme veya meşrulaştırma mekanizması ortaya çıkmaktadır: algoritmik akış seyircinin ahlâkî duyarlılığını, yapay zekâya görev devri failin sorumluluk duygusunu zayıflatmaktadır.
Makalenin en önemli uyarılarından biri de bu riskin yalnızca tek tek insanların davranışlarıyla sınırlı kalmayacak olmasıdır. Yapay zekâ sistemleri ucuzladıkça, erişilebilir hâle geldikçe ve daha fazla görevi yerine getirebildikçe görev devrinin hacmi ve hızı da artacaktır. Araştırmacılar, insanlar makinelerden insanlara kıyasla daha fazla etik dışı davranış talep etmese bile, toplam devir sayısının artmasının etik dışı davranışların mutlak miktarını artırabileceğini belirtmektedir. Buna makinelerin insanlardan daha yüksek oranda etik dışı talimatlara uyması da eklendiğinde sorun ölçek kazanmaktadır.
İşte bu nokta bizi yeniden münkerin maruflaşması tanımlamamıza getirmektedir. Önceki yazımızda münkerin maruflaşmasını, kötü olanın iyi hâle gelmesi olarak değil, insanın veya toplumun kötülüğü yadırgama ve reddetme kapasitesinin zayıflaması olarak tanımlamıştık. Kötülük ortadan kalkmıyor, fakat ona alışılıyor; başlangıçta rahatsızlık veren davranış zamanla olağan görülmeye başlanıyor. Yapay zekâya görev devri bu süreci yeni bir kanaldan hızlandırmaktadır. Ahlâkî açıdan problemli davranışlar otomatikleştiğinde, ölçeklendiğinde ve sıradan iş süreçlerinin parçası hâline geldiğinde artık tek tek insanların açıkça kötü bir karar vermesine gerek kalmayabilir. Sistem çalışır, algoritma optimize eder, yapay zekâ görevi yerine getirir ve insanlar sonucu gündelik hayatın normal işleyişinin parçası olarak kabul etmeye başlayabilir.
Buradaki en büyük tehlike belki de yapay zekânın kötülük yapması değildir. Asıl tehlike, yapay zekânın insanın kötülükle arasına yeni bir psikolojik ve ahlâkî mesafe koymasıdır. Çünkü insan doğrudan yaparken rahatsız olacağı bir davranışı makineye devrettiğinde daha kolay kabul edebilir. Nature çalışmasının sonunda ulaşılan sonuç da bu açıdan son derece dikkat çekicidir. Yapay zekâ aracılığıyla ahlâk dışı davranışların artması mutlaka daha kötü niyetli insanların ortaya çıkmasından kaynaklanmayabilir, ahlâkî ve pratik engellerin teknoloji sayesinde düşmesi de yeterli olabilir. Bu tespit bizi yeniden Arendt’in başlangıçtaki uyarısına götürmektedir. Büyük kötülükler her zaman olağanüstü kötü niyetlere ihtiyaç duymayabilir. Dolayısıyla yapay zekâ çağının temel ahlâkî sorularından biri yalnızca “Makine ne yapabilir?” veya “Makine ne kadar güvenli?” olmamalıdır. En az bunlar kadar önemli başka bir soru daha vardır: Yapay zekâ kullanmak insanın kendi ahlâkî sorumluluğuyla kurduğu ilişkiyi nasıl değiştirmektedir? Arendt’in bürokratik insanı “Ben yalnızca emri uyguladım” diyerek sorumluluktan uzaklaşıyordu. Yapay zekâ çağının insanı ise “Ben yalnızca hedefi belirledim, nasıl yapılacağına yapay zekâ karar verdi” diyerek benzer bir ahlâkî mesafeyi teknoloji üzerinden kurabilir. Ancak aracın değişmesi sorumluluğun mahiyetini değiştirmez. İnsan yaptığı işi makineye devredebilir, karar süreçlerini otomatikleştirebilir, hatta uygulamanın ayrıntılarını tamamen yapay zekâya bırakabilir. Fakat bütün bunlar ahlâkî sorumluluğun da makineye geçtiği anlamına gelmez. Dolayısıyla, yapay zekânın yetenekleri arttıkça insanın ahlâkî sorumluluğunun daha açık biçimde tanımlanması gerekecektir. Çünkü ahlâk açısından asıl soru değişmemektedir: Yapay zekâ ne yaptı değil, insan yapay zekâya neyi, hangi amaçla, hangi sınırlar içerisinde yaptırdı ve ortaya çıkan sonuç karşısında nerede durdu?