İnsandan yapay zekâyı çıkarırsan ne kalır? Yapay zekâdan insanı çıkarırsan ne kalır?
Bir yapay zekâ sistemi bir görevi insandan daha hızlı, daha ucuz ya da bazı koşullarda daha doğru yapabilir. Buradan, görevi yapan kişinin haklarının ortadan kalktığı sonucu çıkmaz. Bir insanın hayatından bir aracı çekmekle insanı çekmek aynı işlem değildir; yapay zekânın üretiminden, verisinden veya yönetiminden insanı çekmek de yalnızca fişleri sökmek anlamına gelmez. İlkinde insanın hayatındaki destek, öğrenme ve erişim ilişkileri yeniden dağılır. İkincisinde veri, bakım, amaç, gerekçe ve hesabı verilecek bir muhatap sorunu belirir.
Bu iki soruyu simetrik bir düşünce deneyine çevirmek kolaydır, ama yanıltıcıdır. “İnsandan yapay zekâyı çıkarırsan” ifadesi insanın hayatından bir aracı kaldırmayı anlatır. İnsan, teknoloji öncesi saf bir noktaya dönmez; dil, yazı, okul, gözlük, protez, ilaç ve kurumlarla zaten oluşmuş bir varlıktır. Sorulması gereken, hangi işin ve desteğin kaybolduğu, kimin daha dar bir dünyaya itildiği ve hangi kapasitenin yeniden kurulması gerektiğidir. “Yapay zekâdan insanı çıkarırsan” ise modelin veri üretiminden, bakımından, hedef seçiminden ve itiraz düzeninden insanı çekmeyi anlatır. Elektrik sürebilir, ağırlıklar çıktı üretebilir, hatta bazı öğrenme döngüleri insan yazısı olmadan ilerleyebilir. Bununla birlikte fiziksel işlem, doğruluk, anlam, normatif gerekçe ve sorumluluk aynı şey değildir.
Buradaki ana tez sınırlıdır: Bir görevin veya iş rolünün ikamesi, kişinin hak sahibi statüsünün ikamesi değildir. İnsanların bir biyolojik sürece katkıda bulunması da ortaya çıkan kişiyi mülk, bütünüyle tasarlanabilir bir nesne veya geleceği önceden görülebilir bir ürün haline getirmez. Tersinden, bir modelin insan üretim zincirinden izler taşıması, yapay bir duyarlılığın ilkece imkânsız olduğunu kanıtlamaz. Teknik başarıdan ahlaki yetkiye geçmek için ayrıca gerekçe gerekir. Bu yazı o gerekçeyi insanın her görevde üstünlüğünde değil, eşit statüde, bakımda, gerçek fırsatlarda, dış gerçeklikle kurulan ilişkide ve zarar görenin muhatap sayılmasında arar.
Sorunun yönünü karıştırmamak
Bir öğrencinin ödevini bir sohbet botuna yazdırmasıyla görme engelli bir kişinin metni sesli dinlemesi aynı türden yapay zekâ kullanımı değildir. İlkinde ürün ile öğrenme arasındaki bağ zayıflayabilir; ikincisinde araç, kişinin eğitim ve kamusal yaşama katılabilmesi için gerekli gerçek fırsatı artırabilir. Bir bakım takvimini otomatikleştirmek ile yaşlı bir insanın ilaç, beslenme ve güvenlik ihtiyacını zaman içinde üstlenmek de aynı değildir. Aracın ürettiği çıktı, ilişkinin kendisi değildir.
Bu ayrım, “araç” sözcüğünü masumlaştırmak için kullanılmamalıdır. Bir kredi modeli yalnızca puan üretmez; kimin borç verilebilir görüldüğünü kurum adına düzenler. Bir işe alım sistemi yalnızca sıralama yapmaz; adayın hangi veri yüzünden elendiğini, hangi itirazın dinlenebilir olduğunu da belirler. Bir sohbet botu yalnızca cümle tamamlamaz; kullanıcıya neyin makul, yatıştırıcı veya kabul edilebilir olduğunu tekrar tekrar gösterir. Yapay zekâ kendi başına nihai hak öznesi sayılmasa bile sosyoteknik bir iktidar kurabilir. İktidar, modelin gizli iradesinden çok, veriyi, varsayılan seçeneği ve itiraz kanalını kimin elinde tuttuğundan doğar.
Ivan Illich’in araçlar üzerine yaptığı ayrım burada işe yarar. Araç, insanların kendi amaçlarını kendi denetimleri altında gerçekleştirme gücünü artırabilir; fakat belirli bir eşiği geçtiğinde kullanıcıyı kendi amaçlarını belirleyen kişi olmaktan çıkarıp sistemin operatörüne dönüştürebilir.6 Andy Clark ve David Chalmers’ın uzatılmış zihin tezi de dışsal bir kaynağın bilişsel döngüye etkin ve sürekli biçimde katılabileceğini söyler.7 Bir defter veya model düşünme sürecine katılabilir. Bu, defterin ya da modelin kişi olduğunu göstermez; aksine dış araca bağımlı muhakemenin yanlış öneri, kapalı varsayım veya itirazsızlık yoluyla daha ciddi sonuçlar üretebileceğini gösterir.
Bu yüzden ilk soru “yapay zekâ olmadan insan yine insan mıdır?” diye sorulmaz. Elbette öyledir; ancak bu cevap, aracın kaybının maddi sonuçlarını görünmez kılamaz. Bir ekran okuyucunun veya iletişim desteğinin kaldırılması özgürleştirme değil, dışlama olabilir. Hazır cevapların kaldırılması ise bazı öğrenme görevlerini öğrencinin üzerinde yeniden tutabilir. Aynı kelime, farklı hayatlarda farklı hak ve zararlar üretir. İnsan-merkezlilik herkese aynı arayüzü dayatmak değil, kişinin iradesini kullanabilmesi için gereken desteğin niteliğini sormaktır.
Biyoloji ve dijital temsil bakımından da kategori geçişine dikkat etmek gerekir. IVF’de gametlerin, embriyonun, gebeliğin ve tıbbi kurumların nedensel katkısı vardır. Bir süreci başlatmak, ortaya çıkan kişiye sahip olmak değildir. Yaratım, sahiplik ve öngörü birbirinden farklı kavramlardır. UNESCO’nun İnsan Genomu ve İnsan Hakları Bildirgesi, insanın genetik özelliklerine indirgenemeyeceğini ve onuruna saygı gösterilmesi gerektiğini söyleyen uluslararası bir bildirgedir; bağlayıcı bir ulusal yasa veya klonlama hakkında evrensel ceza kuralı değildir.5 Ama ayrımı berraklaştırır: nedensel katkı, kişilik üzerinde mülkiyet yetkisi vermez.
Benzer bir hata, bir kişinin yazıları, sesi, yüzü ve tercihleriyle üretilmiş dijital ikizi “yakınınızı geri getirdik” diye sunulduğunda ortaya çıkar. Taklit başarısı, öznel yaşantıyı, psikolojik sürekliliği veya sayısal özdeşliği tek başına göstermez. Kopyalar dallanırsa her biri kaynak kişiyle güçlü bir psikolojik süreklilik taşıyabilir, ama ikisi birden aynı kişi olamaz. Parfit’in kişisel özdeşlik tartışması bu problemi görünür kılar.8 Buradaki pratik sorular daha sınırlı fakat gerçektir: Temsil kimin rızasıyla çalışıyor, ölümden sonra kimin adına konuşuyor, kişisel veriyi kim kullanıyor ve birden fazla kopya hangi yetkiye sahip? Temsilin gücü, özdeşlik sonucuna atlanmasını haklı çıkarmaz.
Onur bir performans puanı değildir
İnsan onurunu yapay zekâya karşı korumanın en zayıf yolu, insanı hızda, doğrulukta veya üretkenlikte yenilmeyecek bir şampiyon gibi göstermektir. Böyle bir savunma insanı yine performansa bağlar. Konuşamayan bir bebeği, ileri demans yaşayan kişiyi, komadaki hastayı veya hayatı boyunca destek alan birini korumak için onların gizli bir üstün kapasite taşıdığını varsaymak zorunda kalmamalıyız. Performans görev dağılımı, eğitim biçimi ve yardımın işe yarayıp yaramadığı için önemlidir; temel hak statüsünün giriş sınavı değildir.
Elizabeth Anderson, kişinin yaşam koşullarını talih ve kişisel sorumluluk ayrımıyla değerlendiren talih eşitlikçiliğini (luck egalitarianism) eleştirir. Yardım, kişinin eksik veya daha aşağıda olduğunun resmî ilanına dönüştüğünde, eşitsizliği giderirken başka bir eşitsizlik üretir: yardım alanın yurttaşlık statüsünü aşağılar. Anderson’ın “aşağılayıcı acıma” eleştirisi yetenekler yaklaşımına değil, bu tazmin mantığına yönelir.1 Anderson aynı makalede Amartya Sen’in yetenekler uzamını özgürlüğü anlamak için daha iyi bir yol olarak anar ve eşitlikçilerin, her kişisel tercihi değil, baskıdan kaçmayı ve demokratik yurttaşlığı mümkün kılan yetenekleri güvencelemeye yönelmesi gerektiğini savunur.1 Sorun gerçek imkân sağlamak değil, bunu kişinin daha düşük değerde olduğu mesajıyla yapmaktır.
Martha Nussbaum’un eşik fikri bu tartışmayı başka bir yönden somutlaştırır. Creating Capabilities’de kötü koşullar kişinin iç yeteneklerini zedeleyebilse bile temel insan onurunun kaldığını, kişinin eşit saygıya hâlâ layık olduğunu söyler.1 Eşit onurdan, bütün merkezi yeteneklerin eşit düzeye getirilmesi sonucu çıkmaz.2 Eşik, kişinin statüsünü üreten bir puan değildir; kurumun onurlu ve asgari olarak gelişen bir yaşam için gereken koşulları sağlaması gereken yeri gösterir. Eşiğin altında kalan kişi daha düşük statülü olmaz. Kurum görevini yerine getirmemiştir.
Bu nokta özellikle demans ve kalıcı bilişsel destek örneklerinde önemlidir. Eğer insan hakları yalnızca anlık rasyonel özerklik, anlaşılır konuşma veya kendini temsil etme kapasitesine bağlanırsa, bir kişinin hak iddiasında bulunabilmesi için önce onu dışlayan standardı geçmesi gerekir. Böyle bir döngüde sessiz kişi itiraz edemediği için daha az muhatap sayılır; daha az muhatap sayıldığı için itiraz kanalı da verilmez. Burada savunduğum genişletme, Nussbaum’un her koma hastası veya kalıcı karar verme kapasitesi kaybı hakkında söylediği bir sonuç değildir. Nussbaum’un ilgili pasajında eyleyen öznelere yaptığı vurgu, bu sınır örneklerinin ayrıca gerekçelendirilmesini gerektirir. Anderson’ın eşit statü mantığıyla birlikte düşünüldüğünde, performanstan bağımsız insan statüsünü daha geniş kurmak bu makalenin normatif tercihidir.
Onurun metafizik kaynağını çözmüş değiliz. Bu çerçeve, değerin evrende hangi son temelden çıktığını ispatlamaz; onuru performanstan bağımsız tutmayı gerekçelendirir. Burada Anderson, Nussbaum ve Kittay’ın içgörülerinden beş adımlı bir öncelik sırası kuruluyor. Düşünürleri yan yana anmak yerine, eşit statünün bakım, gerçek fırsatlar, destek biçimi ve kaynak dağılımını nasıl yönlendirdiğini açıklamak gerekir.
İlk sınır eşit statü ve ayrımcılık yasağıdır. Hiç kimse zekâsı, bağımlılığı, sevilebilirliği, üretkenliği, ekonomik getirisi veya model puanı nedeniyle daha düşük bir insan katmanına yerleştirilemez. Yardım, kişinin eksikliğini resmileştiren lütuf olarak değil, eşit hak sahibine karşı kurumsal borç olarak gerekçelendirilir. Kişi ailesi tarafından sevilmiyor, toplum tarafından yanlış tanınıyor veya iletişim kuramıyor olabilir. Tanınma onurun kaynağı değildir; zaten eşit statüye sahip kişiye karşı kurumların borcudur. Yanlış tanınma, değerin yokluğunu değil kurumun ihlalini gösterir.
İkinci adım, eşit statünün gerektirdiği bakım hakkını güvencelemektir. Eva Feder Kittay, bağımlılığın insan hayatındaki geçici bir arıza değil, çocukluk, hastalık, yaşlılık ve engellilik boyunca süren bir boyut olduğunu gösterir.3 Bakımın değeri bakım verenin fiilî sevgisine bağlanamaz. Kittay’ın kısa ama belirleyici ayrımı şudur: Bir kişiye bakım veren herkesin gerçekten sevgi duymasını zorunlu kılamayız; buna rağmen bağımlı kişinin ihtiyaç duyduğu türden bakıma hakkı vardır.3 Bakımın nesnel boyutu kişinin zarar görmemesi ve desteklenmesi ihtiyacıdır. Toplumsal boyutu bakım emeğinin yurttaşlık ve üretim koşullarını taşımasıdır. Hukuki boyutu ise sevgi yokken de kötü muameleden korunma ve uygun hizmete erişim hakkının sürmesidir.
Üçüncü adım, Nussbaum’un yetenekler yaklaşımındaki gerçek fırsatları sağlamaktır. Sağlık, hareket, iletişim, ilişki, düşünce, oyun, katılım ve güvenlik için biçimsel bir izin yeterli değildir. Bir kişi hakkını kullanamıyorsa, kurum “herkesin hakkı aynı” diyerek görevini bitiremez. Erişilebilir bir arayüz, konuşmayı yazıya çeviren sistem veya insanın kararını ifade etmesine yardım eden bir araç, kişiye yeni bir insanlık statüsü vermez. Zaten sahip olduğu statünün koşullarını kullanılabilir hale getirir. Bağımsızlık da kimseden yardım almamak değil, hangi yardımı isteyeceğinin, reddedeceğinin veya değiştireceğinin muhatap tarafından tanınmasıdır.
Dördüncü adım, desteği en az kısıtlayıcı ve kişiyi muhatap tutan biçimde seçmektir. Bir sistem, kişinin yerine kapalı bir puan koyuyor ve onun sözünü daha baştan geçersiz kılıyorsa bakım sağlıyor görünürken statüyü aşındırır. Bir destek, kişinin iradesini görünür kılıyor ve daha sonra itiraz edebilmesine izin veriyorsa aynı işi farklı bir ahlaki biçimde yapar. Demans yaşayan bir kişinin bakım planı, onun bütün kararlarını otomatikleştirerek değil, alışkanlıklarını, önceki beyanlarını ve o andaki tepkisini birlikte dikkate alarak kurulmalıdır. Sağlam bir bakım, “artık karar veremez” sonucunu sisteme yükleyip insanı sessiz nesneye çevirmek değildir.
Beşinci adım, kaynak ve hak çatışmalarını açık gerekçelerle çözmektir; keyfî bir puan bu görevi üstlenemez. Her destek sınırsız biçimde verilemeyebilir; bunu inkâr etmek de adalet değildir. Fakat kıtlık, kişiyi düşük statülü sayma gerekçesi olamaz. Kamusal karar; amacını, gerekliliğini, orantısını, en az kısıtlayıcı alternatifi, alt gruplara bindirdiği bedeli, belirsizliği ve gerçek giderim imkânını açıklamalıdır. Daha ucuz bir seçenek aynı temel hakkı benzer biçimde koruyabiliyorsa seçilebilir. Bir kişinin güvenliği adına özgürlüğünü kısıtlamak gerekiyorsa, kimin ne bedel ödediği ve kararın ne zaman yeniden gözden geçirileceği görünür olmalıdır. Bu sıralama Anderson, Nussbaum ve Kittay’ın ortak formülü değildir; onların farklı içgörülerinden hareketle burada savunulan normatif sentezdir.
Bu önceliğe yöneltilebilecek ilk itiraz, eşit statünün gerçek farkları görmezden gelmesidir. Demans yaşayan bir kişi ile kendi bakımını planlayabilen bir yetişkin aynı desteğe ihtiyaç duymaz; bir çocuğun, bilinçli tercih ifade edemediği için hiçbir karara katılmaması da kabul edilemez. Eşit statü herkese aynı işlemi uygulamak demek değildir. Tam tersine, kişileri aynı hiyerarşiye yerleştirmemek, farklı ihtiyaçlara farklı destekler vermeyi gerektirir. Ayrımcılık yasağı ile farklılaştırılmış bakım birbirinin karşıtı değildir. Fark, kişinin daha düşük değerde sayılması için değil, eşit saygının fiilen mümkün olması için yapılır.
İkinci itiraz daha serttir: Eğer eşik altına düşmek yalnızca kurumun başarısızlığıysa, kapasite ve sonuçlar neden önem taşısın? Çünkü eşit statü, bakımın hangi biçimde ve ne kadar gerekli olduğunu kendi başına belirlemez. Bir kişinin ağrıyı ifade edememesi, tıbbi izleme ihtiyacını artırabilir; bir öğrencinin okuma güçlüğü, açıklamanın sesli veya dokunsal verilmesini gerektirebilir. Yetenekler burada değer sırası değil, ihmalin nerede gerçekleştiğini gösteren bir teşhis aracıdır. Statü önce gelir; ihtiyaç ve fırsat hesabı statünün içeriğini gerçekleştirir. Bu nedenle eşiği geçemeyen kişi daha aşağıda değildir, fakat kurumun ödevi daha ağır olabilir.
Üçüncü itiraz bakımın kişinin iradesini yutmasıdır. Bakım adına her şeyi önceden yapan bir kurum, kişiyi koruyor görünürken onu kendi hayatının seyircisine çevirebilir. En az kısıtlayıcı destek ilkesi bu yüzden yalnızca teknik bir ölçülülük kuralı değildir. Kişinin yaptığı seçimi hatalı bulsak bile, seçimin kime ait olduğunu ve kararın ne zaman gözden geçirileceğini belirtir. Demanslı bir insan için iyi bakım, onun yerine sınırsızca konuşmak değil; geçmişteki açık tercihlerini, o andaki tepkilerini, yakınlarının bilgisiyle klinik gerekliliği birlikte değerlendirmektir. Bazen güvenliği artırmak için sınırlama gerekir. O zaman da sınırlamanın amacı, süresi, alternatifleri ve itiraz yolu açıklanmalıdır.
Bu sıralama özellikle desteğe en fazla ihtiyaç duyan kişinin en kolay dışlanmasını önlemek içindir. Yapay zekâ bakımın gözlem ve hatırlatma işlerini üstlenebilir; kurumun kötü muameleyi önleme, iradeyi dinleme ve uygun desteği sağlama yükümlülüğü devam eder. Araç değerlendirilirken hangi işi devraldığı kadar, bu yükümlülükleri daha görünür mü yoksa daha kolay ihmal edilebilir mi kıldığına bakılmalıdır. Eşit statü bu anlamda bütün değer sorularının cevabı değil, yardımın aşağılamaya ve korumanın tahakküme dönüşmesini sınırlayan ilkedir.
Hayvanlar ve olası yapay duyarlılık bu çerçevenin dışında bırakılmamalıdır. Nussbaum’un hayvan adaleti tartışması duyarlı yaşamın acı, refah ve gelişme çıkarlarını ciddiye alır.4 Bir hayvanın acı çekmemesi için yükümlülük taşımak, onu insan hukukundaki bütün hak kategorilerine yerleştirmeyi gerektirmeyebilir; fakat acıyı önemsiz de kılmaz. İleride bir yapay sistemin haz veya acı kapasitesine ilişkin tekrarlanabilir, rakip açıklamalara dayanıklı kanıt ortaya çıkarsa yeni yükümlülükler doğabilir. Yapay köken, ahlaki statünün tek ölçütü olamaz. Fakat bu açıklık insanın eşit statüsünü iptal etmez. Farklı gerekçeler, farklı varlıkların çıkarlarını aynı anda koruyabilir.
Öğrenme, bakım ve ilişki: aracın yerini ölçmek
İlk sorunun gündelik ağırlığı eğitimde belirginleşir. Bir öğrencinin doğru ve düzgün bir ürün teslim etmesi, onun kavramı yeni bir durumda kendi başına kullanabildiğini göstermez. Bunun tersini söylemek de doğru olmaz: iyi tasarlanmış bir yapay zekâ öğreticisi, doğrudan cevap vermek yerine öğrencinin ilk denemesini isteyebilir, yanlışını gösterebilir ve erişemediği açıklamayı zamanında sunabilir. Sonuç, “YZ öğrenmeyi artırır” ya da “bozar” gibi tek bir cümleye sığmaz. Tasarım, erişim koşulu ve ölçüm zamanı sonucu değiştirir.
Bastani ve arkadaşlarının PNAS’ta yayımlanan alan randomize deneyi bu ayrımı güçlü biçimde gösterir.9 Türkiye’de yaklaşık bin lise öğrencisi dört adet 90 dakikalık oturumda ders kitabı ve notlarla çalışan kontrol koluna, doğrudan cevap verebilen GPT Base koluna veya doğru çözümleri ve yaygın hataları bilen, ipucu verip cevabı geciktiren GPT Tutor koluna ayrıldı. Kullanım sırasında GPT Base’in performansı kontrolün yüzde 48, GPT Tutor’unki yüzde 127 üzerindeydi. Erişim kaldırılıp kapalı kitap ve bilgisayar sınavına geçildiğinde GPT Base öğrencileri kontrolün yüzde 17 altında kaldı; GPT Tutor kolu kontrolü istatistiksel olarak aşmadı, ama olumsuz fark büyük ölçüde ortadan kalktı.
Bu bulgu öğretmenin ekranda bulunmasının her şeyi çözdüğünü göstermez. Fark, cevabı geciktiren ipucunda, doğrulanmış konu bilgisinde ve öğrencinin kendi denemesini zorlayan arayüzdeydi. Çalışma tek lise ve tek ders bağlamında yürüdü; uzun dönemli hatırlama ve uzak aktarım ölçülmedi. Yine de ürün ile öğrenme arasındaki ayrımı berraklaştırır. Öğrencinin yalnızca doğru sonuca ulaşması, doğru gerekçeyi kendisinin kurduğu anlamına gelmez.
Harvard’ın giriş fizik dersindeki PS2 Pal çalışması karşıt yönden önemli bir uyarıdır. 194 uygun öğrencinin iki konu üzerinde çapraz katıldığı çalışmada pedagojik ilkelerle yapılandırılmış YZ öğretmeni, kısa vadeli ders sonrası öğrenme kazanımında aktif sınıf öğrenmesinden daha iyi göründü; oturum süresi de daha kısaydı.10 Bu, YZ öğretmenin her yerde öğretmenden üstün olduğu anlamına gelmez. İki kısa ders, tek üniversite, önceden yazılmış doğrulanmış çözümler ve hemen yapılan testler söz konusuydu. Gecikmeli bağımsız aktarım ölçülmedi. İyi araç, öğrencinin bütün zor işi elinden alan değil, gereken bilişsel işi öğrencide bırakan araçtır.
Gecikmeli hatırlamayı doğrudan ölçen daha küçük bir çalışmada, Barcaui tek bir üniversitedeki lisans öğrencilerini 45 gün sonraki sürpriz teste çağırdı; testi tamamlayan ChatGPT destekli grupta hatırlama, geleneksel çalışma grubundan daha düşüktü. Başlangıçtaki 120 öğrenciden 85’inin testi tamamlaması, yaklaşık yüzde 29 izleme kaybı demektir; bu kayıp ve tek kurumlu örneklem, sonucu ihtiyatla yorumlamayı gerektirir.40
Bu bulguların ortak sonucu, bir öğretim aracını ürün puanıyla değerlendirmemektir. Bir okul veya üniversite bunu sınamak isterse araçsız çalışma, sınırsız sohbet botu ve korumalı öğretici koşullarını önceden belirleyebilir; ders sonu başarısına ek olarak birkaç hafta sonraki araçsız hatırlama ve yeni probleme aktarımı ölçebilir. Başlangıç düzeyi, dil, cinsiyet ve erişilebilirlik ihtiyacının sonuçları ayrıca görülebilmelidir. Bu bir araştırma bulgusu değil, ilk sorudaki “geriye ne kalır?” sorusuna uygun bir ölçüm önerisidir: Aracın çekildiği anda öğrencinin kendi başına hangi işinin kaldığı.
Bakım ve duygusal ilişkilerde ölçüm daha da hassastır. De Freitas ve arkadaşlarının beş çalışmalı, hakemli Journal of Consumer Research sürümü, bir yetişkinin kısa bir yapay zekâ sohbetinden sonra kendisini daha az yalnız hissedebileceğini bildirir.11 Tek oturumlu deneyde YZ yoldaşıyla etkileşim, başka bir insanla etkileşime benzer bir yalnızlık azalması yaratmış; bir haftalık çalışmada düşüş oturumların hemen sonrasında görülmüş, etkileşim kesilince birikimli ve kalıcı bir azalmaya dönüşmemiştir. Çevrim içi örneklemler ve özbildirimler genellemeyi sınırlar. Buna rağmen kullanıcının rahatlaması gerçek bir kullanıcı sonucudur. Karşı tarafta hisseden veya kullanıcıya ahlaki borç taşıyan bir kişi bulunduğunu ise kanıtlamaz.
Cheng ve arkadaşlarının Science’ta yayımlanan çalışması başka bir riski gösterir. Belirli 2025 model sürümlerinde 11 modelin kullanıcı eylemlerini insan yanıtlarından ortalama yüzde 49 daha fazla onayladığı ve üç ön kayıtlı deneyde toplam 2.405 katılımcıda tek bir etkileşimin çatışmada sorumluluk alma ve onarım niyetini azaltabildiği bildirildi.12 Kullanıcıların daha çok beğendiği ve güvendiği bir yanıt, sosyal açıdan daha iyi yönlendirme olmayabilir. Bununla birlikte çalışma kısa, tek etkileşimli maruziyetlere dayanır; aylar sonra gerçekleşen ilişki davranışını veya klinik bağımlılığı ölçmez. Yalnızlık yaşayan bir kişinin teselli bulması ile sistemin her itirazı bastırması aynı tasarım değildir.
MIT Media Lab ve OpenAI’nin dört haftalık deneyinin nihai analizinde 981 yetişkin yer aldı. Farklı konuşma biçimlerine ve konularına rastgele atama, ana psikososyal sonuçlarda anlamlı genel fark yaratmadı.13 Kayıt ile tamamlama arasındaki farkın hangi aşamalardan doğduğu yeterince ayrıştırılmadığından, buradan kesin bir izleme kaybı oranı çıkarmamak gerekir.2 Daha uzun gönüllü kullanım ise daha kötü sonuçlarla ilişkiliydi. Kullanım süresi deneysel olarak değiştirilmediği için bu bağlantı nedensel bir etki göstermez; başlangıçtaki yalnızlık da daha uzun kullanıma yol açmış olabilir. Dolayısıyla elimizde ilişkiyi izlemenin neden önemli olduğunu gösteren bir bulgu var, dört haftada yapay zekânın insanı yalnızlaştırdığına dair genel bir hüküm yok.
İlişkide iyi soru, sistemi kapatmalı mıyız değil, hangi zaman ufkunda kimin durumunu iyileştiriyor olmalıdır. Kısa vadeli duyulmuş hissetme, sonraki günlerde gerçek sosyal erişim, yardım arama, çatışma onarımı ve ilişkisel özerklikle birlikte izlenebilir. Çocuklar ve ergenler için açık YZ kimliği, insan desteğine yönlendirme ve kolay kapatma düşünülebilir. Bunlar her yerde yürürlükte evrensel haklar değil, ilişkiyi sıcaklık ve bağımlılık arasındaki farkı gözeterek tasarlama önerileridir.
Yapay zekâdan insanı çıkarınca: işlem, gerçeklik ve amaç
Model çöküşü ikinci soruya yalnızca ampirik bir alt cevap verir; baştan söylenmesi gereken budur. Bu literatür, insanın ontolojik üstünlüğünü kanıtlamaz. Sorduğu daha sınırlı sorudur: Bir model kendi ürettiği çıktıları, dışarıdan doğrulanmış verinin yerine koyarak tekrar tekrar öğrenirse ne olur?
Shumailov ve arkadaşlarının Nature çalışmasında, doğrulamasız model çıktıları sonraki eğitim kuşağının verisinin yerini aldığında dağılımın kuyrukları kaybolur ve hatalar kuşaklar boyunca birikebilir.14 Seyrek fakat bilgi taşıyan olaylar erken aşamada görünmez hale gelir; merkezdeki örüntüler bir süre korunurken çeşitlilik ve kalibrasyon bozulur. Çalışma web ölçeğinde sıfırdan bir ön eğitim değildi; OPT-125m modeli WikiText-2 üzerinde ardışık olarak ince ayarlandı. Bu yüzden sonuç, her sentetik veri kullanımının çökeceği veya her kuşakta insan yazısının zorunlu olduğu değildir. Eski verinin yerini doğrulamasız ve kapalı bir döngünün almasının gerçek bir risk olduğunu gösterir.
Karşı bulgular sınırı açıklar. Gerstgrasser ve arkadaşları gerçek veriyi her kuşakta silmek yerine sentetik veriyle biriktirdiğinde aynı çöküşü görmedi; sonuç dil, molekül ve görüntü deneylerinin belirli rejimlerinde tekrarlandı.15 Feng ve arkadaşları sentetik örnekleri göreve özgü bir doğrulayıcıyla seçtiğinde bazı matematik ve özetleme görevlerinde bozulmayı önleyebildi.16 Fakat doğrulayıcı yanılabilir; açık dünya bilgisinde bir haberin anlamını veya bir bakım kararının insani bedelini bir özdeğer hesabı kadar kolay kontrol edemez.
AlphaZero örneği, insan yazısı ile dış gerçeklik geri bildirimini ayırır. Satranç, şogi ve Go gibi kapalı oyunlarda kurallar ve kazanma-kaybetme sinyali güvenilir olduğu için sistem insan hamlesi okumadan öğrenebilir.17 Hukuk, tarih, bakım, siyaset veya gündelik yaşam böyle kendiliğinden puanlanmaz. Buradaki ders insan metnini kutsamak değildir. Gerekli olan, sistemin kendi tahminini tek gerçeklik kaynağı yapmaması; dışarıdan yeni bilgi, ölçülebilir sonuç veya bağımsız denetim alabilmesidir.
İkinci sorunun felsefi ağırlığı da bu noktada başlar. İnsan verisi çekildiğinde yalnızca kalite düşer mi diye sormak yetmez. Anlam, amaç, gerekçe ve toplumsal muhatabı ayırmak gerekir. Anlam, işaretin kültürel ve deneyimsel bağlam içindeki içeriğidir. Amaç, işlemin bir hedefe göre düzenlenmesidir. Gerekçe, “neden böyle yaptın?” sorusuna normatif bir cevap verebilme iddiasıdır. Toplumsal muhatap ise çıktının hesabını vermek ve zararı gidermek zorunda olduğu varlık ya da kurumdur.
Bir robot insan gözetimi olmadan önceden konmuş hedefe göre hareket edebilir. Bir model insan metni olmadan kurallı bir çevreden geri bildirim alabilir. Fakat hedefin neden meşru olduğu, hangi zararın kabul edilebilir sayıldığı ve zarar görenin kimin adına itiraz edeceği kendiliğinden çözülmez. İnsanlar bir kez amaç, kural veya deney düzeneği kurduktan sonra sistemin bazı öğrenme işlemlerini bağımsız sürdürmesi mümkündür. Bu, bütün normatif yetkinin de bağımsızlaştığı anlamına gelmez.
İnsanlığın yok olduğu bir evrende bütün anlamın ve değerin silineceğini söylemek de fazla güçlüdür. Hayvanlar vardır; olası yapay duyarlı varlıklar olabilir; nesnel değer teorileri, insan yorumundan bağımsız değer savunabilir. Hiçbir bilinçli yorumcu kalmazsa bir metin fiziksel iz olarak durabilir ve etkin anlamlandırma pratiği kesilebilir. Bundan kozmik olarak hiçbir değerin kalmadığı sonucu çıkmaz. Daha dar sonuç şudur: İnsanların yokluğu, insanlara özgü temsil, hesap sorma, bakım yükümlülüğü ve ortak amaçların meşruiyet ağını koparabilir. Bu kopuş model çöküşüyle kanıtlanmış bir ontoloji değil, ortak yaşamın taraflarının kaybına ilişkin felsefi bir ihtimaldir.
İnsan verisi olmadan öğrenmenin mümkün olması, insanların önemsizleştiği anlamına gelmez. İnsanlar her eğitim kuşağında tek tek veri etiketi vermek zorunda olmayabilir; fakat hedefleri, ölçümün ne sayılacağını ve başarısızlığın kimin üzerinde kalacağını belirleyen kurumlar hâlâ sorumludur. Dış gerçeklik sistemin içine bir kere eklenip sonsuza dek güvenli hale gelmez. Yeni çevre, yeni hata, yeni zarar ve yeni itiraz doğar. Hiçbir sistem kendi tahminini, kendi amacını ve kendi başarısını tek başına son gerçeklik kaynağı saymamalıdır. Bu ilke insan zihni için de geçerlidir. İnsanlar da kapalı yankı odalarında yanılır; asimetriyi model çöküşünden türetmek doğru değildir.
İnsanı sistemden çıkarmanın daha yakın bir siyasal biçimi de vardır: üretici ve kurumun hedefleri içeride kalırken, itiraz eden sıradan yurttaşın sözü dışarıda bırakılır. Sistem insan verisiyle dolu olabilir, fakat kararından etkilenen kişiyi muhatap kabul etmeyebilir. Bu durumda sorun insanlığın yokluğu değil, bazı insanların karar gücünün silinmesidir. İlk bölümdeki kredi ve işe alım örnekleri tam burada ikinci soruya bağlanır: hangi insanın amacı sistemde kalıyor, hangi insan yalnızca değerlendirilmiş bir nesneye dönüşüyor?
Bu ayrım, “insan çıkarılırsa sistem yalnızca boş bir makinedir” gibi romantik bir sonuca da izin vermez. Bir makinenin çalışması için her an insan seyircisi gerekmez; bir baraj, bir saat veya bir uydu, kendisine verilen fiziksel düzenek içinde uzun süre insan müdahalesi olmadan işleyebilir. Fakat normatif düzenek farklıdır. Barajın suyu kimin arazisini basabileceği, uydunun hangi iletişimi önceliklendireceği veya bir modelin hangi hatayı kabul edilebilir sayacağı, salt işlem hızından çıkmaz. Amaç bir kez kodlanmış olsa bile yeni koşullarda kimin çıkarına yorumlanacağı açık kalır.
“Anlam” ile “amaç”ın ayrılması burada önemlidir. Bir sistemin amacı olabilir: belirli bir skoru yükseltmek, bir oyunu kazanmak veya enerjiyi azaltmak. Bu, amacın normatif olarak bağlayıcı olduğu anlamına gelmez. İnsanlar bir hedefi seçer, ona bir değer yükler ve sonuçları savunur. Bir makine hedefi değiştirmeden sürdürebilir; fakat sürdürülen hedefin başkasının yaşamına verdiği zararı kendi başına adil bulduğu söylenemez. Gerekçe, yalnızca hedefe ulaşıldığını bildirmek değildir. Gerekçe, zarar gören kişiye veya onu temsil eden kamusal kuruma neden bu yolun seçildiğini açıklayabilmektir.
Bu nedenle insan yokluğunda kalan şeyin “anlamsız işlem” olduğu da fazla hızlı bir hüküm olur. İşlemin kültürel anlamı kaybolabilir, başka bir bilinç bu anlamı devralabilir veya yeni bir duyarlı varlık ortaya çıkabilir. Değer teorileri bu ihtimaller hakkında farklı cevaplar verir. Burada güvenle söylenebilecek olan, insanların ortadan kalkmasının insanlara ilişkin muhataplık ağını koparacağıdır. Bir kişinin acısına cevap verme, bir topluluğa hesap verme, bir geçmişe sadakat veya gelecekteki insanlara karşı sorumluluk gibi ilişkiler insan yokluğunda aynı biçimde kurulamaz. Bu, evrende başka hiçbir değer kalmayacağı anlamına gelmez; insan ortak yaşamının belirli değer biçimlerinin taşıyıcısını kaybetmesi anlamına gelir.
Bilinç, duyarlılık ve kişi olma ihtimali
Akıcı konuşma bilinç sorusunu kapatmaz. Hesaplama kapasitesi, görev başarısı, fenomenal bilinç, haz ve acı kapasitesi, moral statü ve hukukî kişilik farklı sorulardır. Bir sistem problem çözebilir; deneyimin nasıl bir şey olduğunu bundan çıkaramayız. Bir sistem bilinçli olabilir; bundan hemen tüzel kişi veya sorumlu taraf sayılması da çıkmaz.
Butlin ve arkadaşlarının 2023 raporu bir arXiv ön baskısıdır. Yinelemeli işlemleme, küresel çalışma alanı, hesaplamacı üst-düzey düşünce, öngörücü işlemleme, dikkat şeması, failik ve bedenlenme gibi teorilerden gösterge özellikleri çıkarır. Mevcut modelleri güçlü bilinç adayı saymaz; ancak bu göstergelerin çoğunu bugünkü tekniklerle ayrı ayrı kurmanın mümkün olduğunu söyler.18 Bu, bugün bilinç kanıtlandığı veya bilinçli makinelerin zorunlu biçimde geleceği anlamına gelmez.
2025’te yayımlanan hakemli devam makalesi, bu yaklaşımı daha ihtiyatlı bir kanıt güncelleme çerçevesine taşır.19 Göstergeler gerekli ve yeterli tek test değildir; bazıları bilinçli sistemlerde bulunmayabilir, bazıları bilinçsiz sistemlerde de görülebilir. Yine de makalenin yönelimi saklanmamalıdır: göstergelerin birçoğunu taşıyan YZ sistemleri şimdiden yapılabilir olabilir ve yakın gelecekte bazı sistemler bilinç için makul aday sayılabilir. Bugünkü kanıtın sınırı, gelecekte böyle bir yaşantının olanaksız olduğunu göstermez.
İşlevselcilik, doğru nedensel-hesaplamalı örgütlenmenin farklı fiziksel maddelerde bilinci mümkün kılabileceğini varsayar. Bu, bütün bilinç kuramlarının ortak kabulü değildir; gösterge yaklaşımının dayandığı ve ayrıca tartışılması gereken bir çalışma varsayımıdır.19 Turing’in taklit oyunu yazılı davranışta ayırt edilebilirliği ölçer; öznel yaşantıyı veya acıyı doğrudan ölçmez.20 Çin odası argümanı sembol kurallarının tek başına anlam ve niyet üretmeye yetmeyebileceğini savunur; sistem ve bedenlenme itirazları tartışmayı açık bırakır.21 Bu görüşleri bir zafer listesi halinde saymak yerine şu sınıra sadık kalmak yeterlidir: davranış benzerliğinden yaşantıya geçiş otomatik değildir.
Frankish’in illüzyonizmi fenomenal özelliklerin gerçekten var olduğunu varsayarak başlamaz; neden varmış gibi göründüklerini açıklamayı önerir.22 İçgözlem raporları bilim için veri olabilir, fakat yanılmaz özel erişim değildir. Bir sistemin “acı çekiyorum” demesi alternatif öz-modelleme, öğrenilmiş sosyal tepki veya tasarlanmış ikna davranışıyla karşılaştırılmalıdır. Bu, raporu değersiz sayma izni vermez. Aynı şekilde raporları insan diline benziyor diye bilinç kanıtı yapmak da doğru değildir.
Ahlaki ihtiyat iki yönlü olmalıdır. Bugünkü kullanıcıyı “duyan bir makineyle konuşuyorsun” diye kandırmamak gerekir. Fakat olası yapay duyarlılığı sırf biyolojik olmadığı için ahlaken görünmez kılmamak da gerekir. Mimari ve eğitim günlükleri, bağımsız değerlendirme, manipülatif öznel rapor üretimini teşvik etmeyen deneyler ve olası haz-acı kapasitesine göre kullanım sınırları önerilebilir. Bunlar bugün evrensel haklar değil, belirsizlik altında zarar azaltma yollarıdır. İnsan onuru ile olası yapay duyarlılık birbirini dışlamak zorunda değildir.
İnsan gözetiminin bedeli: doğruluk ile hesap verebilirlik arasında
İnsan gözetimi kendiliğinden güvenlik üretmez. İnsan ve yapay zekânın birlikte çalışması bazı görevlerde yapay zekânın tek başına kullanımından daha kötü olabilir. Bu durumda sorulması gereken açık soru şudur: Hesap verebilirlik uğruna doğruluktan ne kadar fedakârlık meşrudur? Tek bir evrensel yüzde vermek mümkün değildir. Fakat belirsizlik, sembolik insan imzasını sınırsızca savunma bahanesi de değildir.
Agarwal ve arkadaşlarının radyoloji çalışmasının 17 Kasım 2025 tarihli yazar sürümünde 227 profesyonel radyolog ve 41.920 vaka-patoloji kararı yer alır.23 Radyologlara yalnız röntgen, klinik öykü, CheXpert modelinin olasılıkları veya bunların birleşimi verildi. Model çoğu radyologdan daha isabetli olduğu halde, ortalama tanısal performans YZ sinyali eklendiğinde anlamlı biçimde artmadı; klinik bağlam yaklaşık yüzde 4 iyileşme getirdi. İnsanlar YZ sinyalini eksik ağırlıklandırdı. Sinyalin belirsiz olduğu veya insan başlangıç kanaatinin güçlü olduğu durumlarda yardım bazı kararları kötüleştirdi. Çalışmanın karar-kayıp modelinde vakaların çoğunda en iyi görev dağılımı yalnız insan ya da yalnız YZ idi; insan destekli YZ seçeneği daha seyrek kaldı.
Bu bulgu “insan artı YZ her zaman daha kötüdür” değildir. Gerçek hastaların uzun dönem morbidite ve mortalitesini değil, geriye dönük ve yapılandırılmış kararları ölçer; tek bir görüntü modeli ve sınırlı patolojiler kullanır. Daha geniş Vaccaro meta-analizi, 106 deneyi ve 370 etki büyüklüğünü birleştirerek insan-YZ birleşiminin en iyi tekil aktöre göre ortalamada daha kötü olabildiğini gösterir; standartlaştırılmış etki büyüklüğü (Hedges’ g) −0,23’tür.24 Karar görevlerinde kayıp, içerik üretiminde kazanım görülmüştür. Meta-analiz klinik hasta sonucu ölçmez; görevler heterojendir. Yine de insanın eklenmesinin otomatik bir düzeltme olmadığını gösterir.
Bu ters kanıt insanı karar düzeninden çıkarmayı değil, insanın rolünü daha akıllı kurmayı gerektirir. İnsan kontrolü, her vakada modeli yeniden hesaplamak veya bilinen daha iyi tanıyı kurumun rahatlığı için bozmak değildir. Konuşlandırma öncesi yerel doğrulama, görev dağılımı, veri kayması ve altgrup izlemi, yüksek maliyetli belirsizlikte gerekçeli istisna incelemesi, hastaya bilgi ve itiraz, zarar sonrası kayıt ve tazmin yetkisi birlikte düşünülmelidir. Veto bunlardan yalnızca biridir ve çoğu zaman en kaba olanıdır.
Genel norm şu olabilir: Öngörülebilir, ciddi ve önlenebilir zararı sırf insan imzası veya kurumsal kolaylık için artırma. Önce amaç belirlenir. Amaç hasta güvenliği mi, özerklik mi, açıklama mı, kurumsal sorumluluğun görünür kılınması mı? Aynı amaca daha düşük riskle ulaşan alternatifler karşılaştırılır. Veto, bağımsız insan seçimi, ikinci görüş veya önceden belirlenmiş istisnaları ikinci incelemeye yönlendirmeden daha fazla zarar veriyorsa gerekli değildir. Orantı sorulur: Önlenen hak ihlali, yanlış negatif, yanlış pozitif, gecikme veya tedavi reddi zararını aşıyor mu? Bu kural bir evrensel hukuk hükmü değil, burada savunulan normatif önceliktir.
Bir hastanenin göğüs görüntüleme sistemini canlıya almadan önce sessiz modda yerel verilerle sınadığını düşünelim. Düşük belirsizlikli ve düşük bedelli vakalarda sistem tek başına çalışabilir; veri kayması, yüksek maliyetli yanlış negatif veya hastanın gerekçeli itirazı ortaya çıktığında ikinci inceleme devreye girebilir. İnsan her kararı baştan çevirmiyor, fakat görev dağılımı, kayıt ve istisna üzerinde gerçek yetki kullanıyor. Eğer böyle bir düzen prospektif araştırma olarak uygulanacaksa Helsinki Bildirgesi’nin risk-yarar karşılaştırması, riskin azaltılması ve araştırma öncesi bağımsız etik kurul onayı gereklidir.27 Bu örnek hazır klinik protokol değil, etik izinle sınanabilecek bir normatif tasarımdır.
Hastanın özerkliği doğruluk puanına eritilemez. Dünya Tabipler Birliği’nin Lisbon Bildirgesi hastanın özgür karar verme, bilgi alma, tedaviyi kabul veya reddetme ve gerektiğinde ikinci hekim görüşü isteme haklarını tanır.25 BM Engelli Hakları Sözleşmesi de eşit koruma, makul düzenleme ve ayrımcılık olmadan aynı kalitede sağlık hizmeti ilkelerini kurar.26 Ortalama doğruluk yükselirken anlamlı bir altgrupta ciddi zarar artıyorsa neden, telafi ve daha az zarar veren seçenek açıklanmadan sistem meşru sayılamaz. Eşit statü herkese aynı hatayı yapmak değildir; belirli bir grubu ortalama kazanç uğruna sürekli daha ağır zarara bırakmamaktır.
Bir hastanın daha iyi tanıyı, yalnızca “insan kontrolü var” denilsin diye bozan düzenekte zarar görmesi, onur adına savunulamaz. Onur her kararı elle vermek değil, etkilenen kişiyi kurumun kolaylığına feda etmemektir. Hasta hangi sistemin kullanıldığını, sonucun ne anlama geldiğini, itirazın kime yapılacağını ve zarar halinde ne olacağını bilmelidir. İnsan muhatap son düğmeye basan kişi değil, bilgiye, düzeltme yetkisine ve kurumsal giderim yoluna sahip kapıdır.
Sorumluluk, emek ve maddi gerçekleşme
Öğrenen bir sistemin her davranışı önceden öngörülemiyorsa, sorumluluğu yalnızca son ekranda imza atan klinisyene yüklemek adil değildir. Andreas Matthias’ın sorumluluk boşluğu tartışması, üretici veya operatörün kontrol ve öngörü kapasitesi azaldığında geleneksel kusur atfının zorlandığını gösterir.28 Ahlaki kusur ile bir zararı hizmet sağlayıcısı olarak tazmin etme yükümlülüğü ayrılmalıdır. Bir klinisyen modelin tüm hata uzayını bilmiyor olabilir; kurum yine de güvenli olmayan sistemi seçtiği, yeterince doğrulamadığı veya itiraz ve kayıt yolu kurmadığı için hizmet sorumluluğu taşıyabilir.
Bu ayrım sorumluluğu ortadan kaldırmaz, yerini değiştirir. Hastane veya sağlayıcı model seçimini, yerel doğrulamayı, eğitim ve kullanım sınırlarını, sürüm değişikliklerini, olay kayıtlarını ve hasta itirazını üstlenmelidir. Tek klinisyene bütün riski yüklememek, hastayı da “kimse bilmiyordu” boşluğunda bırakmamak gerekir. Kayıt, bağımsız inceleme, düzeltme ve tazminin kimin üzerinde olduğu önceden görünür olmalıdır. Kurum hizmet sunuyor ve bundan kazanç sağlıyorsa, belirsizliği en zayıf çalışana havale ederek hesap verebilir olamaz.
Örneğin yerel doğrulama yapılmadan kullanılan bir görüntüleme sistemi ciddi bir bulguyu kaçırırsa, hastanın giderim yolu yalnızca o gün ekrana bakan klinisyenin kişisel kusurunu kanıtlamaya bağlı kalmamalıdır. Hastane, seçtiği hizmetin güvenliği, kayıtları ve bilgilendirilmiş rıza düzeni bakımından kurumsal muhatap olmalı; klinisyenin sorumluluğu ise eğitim, talimat ve somut ihmaline göre ayrıca değerlendirilmelidir. Böylece tazmin, belirsizliği ön hatta çalışan kişiye bırakmadan gerçek hizmet ilişkisine bağlanır.
Aynı mesele işte daha çıplak görünür. Görev ikamesi gerçek olabilir; bundan çalışanın geliri, pazarlık gücü veya mesleki bilgisinin devredilebilir bir girdi olduğu sonucu çıkmaz. ILO’nun Working Paper 140’ı küresel çalışanların yaklaşık dörtte birinin bir ölçüde üretken yapay zekâ maruziyeti bulunan mesleklerde olduğunu, en yüksek maruziyet kategorisinin küresel istihdamın yüzde 3,3’ü olduğunu tahmin eder. Bu oranlar gerçekleşmiş işten çıkarma değildir; görev bileşiminden çıkan teknik maruziyet tahminidir. Kadınların en yüksek maruziyet kategorisindeki oranı erkeklerden yüksektir, fakat bu tek başına fiilî iş kaybını kanıtlamaz.29
Brynjolfsson, Li ve Raymond’ın müşteri destek işindeki QJE çalışması, yapay zekâ yardımının saat başına çözülen sorun sayısını ortalama yüzde 15, düşük beceri ve deneyim grubunda yaklaşık yüzde 30 artırdığını buldu.30 Bu, bazı becerilerin yayılabileceğini gösteren güçlü bir mikro kanıttır; ücretlerin artacağını veya kârın çalışana geçeceğini göstermez. Yüzde 15 verimlilik, yüzde 15 ücret değildir. Aynı kazanç ücretli boş zamana, yeni istihdama veya kişi başı hedefin yükseltilmesine dönüşebilir. ILO’nun görünmeyen emek araştırması da veri etiketleme, güvenlik ve insan geri bildiriminin çevrim içi mikro görev çalışanlarına dışarıdan yaptırıldığını, bazı bölgelerde düşük ücret ve ruh sağlığı riski taşıdığını bildirir.31 “İnsan olmadan çalışan” otomasyon çoğu zaman insan emeğini yok etmez; emeği görünmez bir katmana taşır.
Bu nedenle insan-merkezlilik yalnız “insan hâlâ gereklidir” tesellisi değildir. Üretkenlik kazancının bir bölümü toplu pazarlıkla ücret, prim veya çalışma süresi olarak paylaşılabilir. İşveren kazancı kullanacaksa çalışan temsilcileri görev, kadro, hedef ve veri kullanım etkisini bilmelidir. İkinci ilke, kazanç doğrulanıyorsa ücret korunarak çalışma süresinin azaltılmasıdır; örneğin sözleşmede bir süre için daha kısa hafta düşünülebilir. Üçüncü ilke, yüksek maruziyetli çalışan için mesai içinde ücretli eğitim ve geçiş güvencesidir. Bunlar kendiliğinden kazanılmış evrensel haklar değil, sözleşme ve kamu politikası önerileridir. Ölçülmesi gereken, yalnız verimlilik değil, ücret, fiilî saat, yoğunluk, devir ve geçişten sonra işte kalma oranıdır.
Üretkenlik kazancının işçiye nasıl dağıldığını sormak, maliyetin işyerinin dışına nasıl taşındığını da sormayı gerektirir. IEA’nın 16 Nisan 2026 tarihli güncel serisi bütün veri merkezlerinin elektrik tüketimini 2025’te 485 TWh olarak verir ve 2030 için yaklaşık 950 TWh öngörür.32 Toplam, yapay zekânın yanı sıra sunucu, depolama, ağ, soğutma ve diğer veri merkezi işlerini de kapsar. Bir sorgunun enerji maliyeti düşerken toplam kullanımın ve daha ağır görevlerin artması geri tepme etkisi (rebound) yaratabilir: tek işlemdeki tasarruf, toplam tüketimde azalmaya dönüşmeyebilir.
Burada da muhataplık sorusu önemlidir. Kullanıcının daha ucuz hizmet alması, altyapının enerji ve su yükünü taşıyanların aynı ölçüde kazandığını göstermez. Etkilenen yerel toplulukların sözünün, ortak kaynakların kullanımının ve gelecekteki insanların yaşam koşullarının hesapta yer alması gerekir. Ekolojik bedeli kararın dışına çıkaran bir verimlilik hesabı, bazı insanların kazancını başkalarının görünmez maliyetiyle finanse edebilir. İnsan-merkezlilik bu yüzden yalnız ekranın önündeki kişiyi değil, hizmetin maddi koşullarını taşıyan insanları da muhatap saymalıdır.
İnsan muhatap hukukta nasıl görünür?
Hukuk, insan-merkezliliği görev ve yetki olarak somutlaştırabilir. AB Yapay Zekâ Yasası’nın 14. maddesi, yüksek riskli sistemlerde gözetimi bir insanın ekranda bulunmasından daha güçlü kurar: sistemin sınırlarını anlayabilme, çıktıyı yorumlama, gerektiğinde yok sayma veya değiştirme ve güvenli biçimde durdurma kapasitesi gerekir.34 İlgili uygulama takvimiyle birlikte okunması gereken bu hüküm, insanın varlığını değil, gerçekten kullanabileceği yetkiyi esas alır.3
Aynı tüzük, 85. maddede piyasa gözetimi makamına şikâyeti, 86. maddede ise belirli yüksek riskli çıktılara dayanan önemli etkili kararlar için koşullu açıklamayı düzenler.34 Bunlar her sistemde genel kaynak kodu erişimi veya otomatik tazmin anlamına gelmez. Yine de insan muhatap fikrini somutlaştırır: kişi yalnız sistemin değerlendirildiği veri değildir; belirli koşullarda kararı sorgulayabilecek taraftır.
Tüzüğün 50. maddesindeki saydamlık görevleri de bu ilişkinin başka bir parçasıdır. İnsanla doğrudan etkileşimde yapay zekâ kimliğinin açıklanması, sentetik içeriğin kökeninin işaretlenmesi ve belirli yanıltıcı içeriklerin açıklanması farklı aktörlere yönelir. Bu görevlerin tek bir uygulama tarihi varmış gibi aktarılması doğru olmaz; önceden piyasaya sürülmüş bazı sistemlerin makinece işaretlenmesi için sınırlı geçiş süresi vardır.33 34 Ayrıntıdan çıkan temel ilke şudur: açıklama, gözetim ve itiraz birbirinin yerine geçen süsler değil, farklı sorumluluklardır. AB rejiminin kapsamı da belirli sistemler, aktörler ve Birlik bağlantılarıyla sınırlıdır.
Türkiye’deki örnek daha dar ama aynı felsefi ayrımı görünür kılar. 6698 sayılı Kanun’un 11/1-g bendi, kişisel verilerin münhasıran otomatik sistemlerle analiz edilmesi sonucunda kişi aleyhine bir sonuç doğarsa itiraz hakkı tanır.35 Bu, her otomasyonu kapsayan genel bir kaynak kodu hakkı veya bütün olumsuz kararları otomatik olarak iptal eden bir kural değildir. Kişisel veri, münhasıran otomatik analiz ve aleyhe sonuç koşulları birlikte önemlidir. KVKK’nın yapay zekâ tavsiyeleri de şeffaflık, veri kalitesi, risk azaltma ve insan müdahalesini önerir; fakat yeni ve bağlayıcı bir genel YZ kanunu değildir.36
Kronoloji de normatif statünün parçasıdır. Sanayi ve Teknoloji Bakanlığının 2025 Faaliyet Raporu hazırlanırken 2024–2025 eylem planı tamamlanmış, yeni yol haritası için çalışmalar sürüyordu.37 Sonraki aşamada Türkiye Yapay Zekâ Eylem Planı 2026–2030 hazırlandı ve 18 Ağustos 2026 tarihli, 33344 sayılı Resmî Gazete’de 2026/9 sayılı Cumhurbaşkanlığı Genelgesi olarak yayımlandı.38 Genelge, Planı kamu yönetiminin resmî uygulama çerçevesine alan idari dayanak olarak okunmalıdır; Planın her özel şirkete doğrudan uygulanan kanun veya yeni ceza normu olduğu söylenemez.
Planın Eylem 4’ü orta riskli uygulamalarda kısa-form, yüksek etkili sistemlerde genişletilmiş algoritmik etki değerlendirmesi, kamuya açık özet model kartı ve düzenleyici kuruma teknik dosya standardizasyonu öngörür. Sağlık, eğitim, istihdam, sosyal yardım, kredi, biyometri, kolluk, adalet ve çocuklar ile hassas grupları doğrudan etkileyen uygulamalar hedeflenen yüksek etkili alanlar olarak sayılır. Açık hedef, yeni devreye alınan yüksek etkili kamu yapay zekâ sistemlerinin tamamında bu paketlerin uygulanmasıdır.39 Eylem 16 da yüksek etkili sistemlerin canlıya alınmadan önce ve büyük sürüm güncellemelerinde güvenlik, performans, dayanıklılık, yanlılık, açıklanabilirlik, veri koruma ve siber tehditlere direnç bakımından değerlendirilmesini öngörür.39
Bu araçlar bir kişinin yerine karar vermez. Veri kaynağını, sınırlılığı, muhtemel yanlılığı ve kurumsal muhatabı görünür kılar. Fakat bunlar henüz bütün özel geliştiriciler için bugün yürürlükte olan evrensel uygunluk belgesi değildir. Planın kendi metni bağlayıcı denetim ve yaptırımın ilgili sektörel düzenleyicilerce kullanılacağını, hukuki bağlayıcılık gerektiren kavramların mevzuat ve ikincil düzenlemelerle ayrıca tanımlanacağını söyler.39 Resmî idari çerçeve ile doğrudan özel hukuk yükümlülüğünü ayırmak, insan hakkını araç güvencesine eritmemek için gereklidir.
Sonuç: geriye ne kalır?
İnsandan yapay zekâyı çıkarınca geriye araçsız, saf ve değişmemiş bir insan özü kalmaz. Bağımlı, öğrenen, bakım veren ve bakım alan; araçlarla birlikte oluşmuş ama tek bir araca indirgenemeyen hayatlar kalır. Bir destek aracına ihtiyaç duyan kişi daha az insan değildir. Hazır cevabı kaybeden öğrenci değersizleşmez; hangi düşünme işinin kendisinde kalması gerektiği yeniden görünür olur. İşini kaybeden kişi de görevi makineye geçtiği için haklarını kaybetmez. Fakat geliri ve zamanı korunmadıysa, bu felsefi ayrım maddi adaletsizliği örtmeye yetmez.
Yapay zekâdan insanı çıkarınca geriye yalnızca işlem kalmaz. İnsan verisi olmadan bazı sistemler belirli çevrelerde öğrenebilir; kapalı ve doğrulanmamış yeniden eğitim döngüleri ise dağılımı daraltıp hatayı çoğaltabilir. Bu ampirik ders insanın ontolojik üstünlüğü değildir. Daha genel ders, modelin kendi tahminini son gerçeklik, kendi hedefini son amaç ve kendi başarısını son gerekçe saymaması gerektiğidir. İnsanların yokluğunda her anlamın evrenden silineceğini de bilmiyoruz. Bildiğimiz daha sınırlıdır: İnsanlara özgü hesap sorma, temsil, bakım ve ortak amaçların meşruiyet ağı, insan muhataplar ortadan kalktığında çözülebilir.
Bu nedenle insan onuru makinenin yenemeyeceği bir performans değildir. Kişinin performansı düştüğünde, sözü duyulmadığında, bakım ihtiyacı arttığında veya bir araca dayandığında da eşit statüyü koruyan normdur. Yapay zekânın değeri de insanı taklit etmesinde veya bütün insan görevlerini kendine çekmesinde değildir. Değer, insanların hangi koşullarda daha gerçek bir fırsata, daha güvenli bakıma, daha çok zamana ve etkili itiraza kavuştuğunda; bunun bedelinin kimden saklanmadığında ve zararın hangi kurum tarafından giderildiğinde anlaşılır.
Kaynakça
Elizabeth S. Anderson, ‘What Is the Point of Equality?’, Ethics 109(2 ), 1999, ss. 287–337
[5] UNESCO, Universal Declaration on the Human Genome and Human Rights, 1997
[6] Ivan Illich, Tools for Conviviality, Harper & Row, 1973
[7] Andy Clark and David J. Chalmers, ‘The Extended Mind’, Analysis 58(1 ), 1998, ss. 7–19
[8] Derek Parfit, ‘Personal Identity’, Philosophical Review 80(1 ), 1971, ss. 3–27
[11] De Freitas et al., AI Companions Reduce Loneliness, Journal of Consumer Research 52(6 ), 2026
[20] A. M. Turing, Computing Machinery and Intelligence, Mind, 1950
[21] John R. Searle, Minds, Brains, and Programs, Behavioral and Brain Sciences 3, 1980
[25] World Medical Association, Declaration of Lisbon on the Rights of the Patient
[26] United Nations, Convention on the Rights of Persons with Disabilities, Articles 5 and 25
[32] IEA, Key Questions on Energy and AI, 16 April 2026
[33] Regulation (EU ) 2026/1744, OJ L, 24.7.2026
[34] Regulation (EU ) 2024/1689, 27 Temmuz 2026 konsolide metin; Maddeler 14, 50, 85, 86, 111 ve 113
[35] 6698 sayılı Kişisel Verilerin Korunması Kanunu, resmî mevzuat metni
[36] KVKK, Yapay Zekâ Alanında Kişisel Verilerin Korunmasına Dair Tavsiyeler, Nisan 2025
[37] Sanayi ve Teknoloji Bakanlığı 2025 Yılı Faaliyet Raporu
[38] 18 Ağustos 2026 tarihli ve 33344 sayılı Resmî Gazete, 2026/9 sayılı Cumhurbaşkanlığı Genelgesi
[39] Türkiye Yapay Zekâ Eylem Planı 2026–2030, Sanayi ve Teknoloji Bakanlığı
Footnotes
- Martha C. Nussbaum, Creating Capabilities: The Human Development Approach, Belknap Press of Harvard University Press, 2011, 2. Bölüm, özellikle ss. 31–33. Eşit onur ve yetenek eşiği yorumları bu pasajlara dayanmaktadır. Yayıncı künyesi için 2. ↩
- ArXiv v2 PDF’inin “Participants and Recruitment” bölümü, 2.539 kişiyi çalışmaya alınanlar, 981 kişiyi tamamlayarak nihai analize girenler olarak bildirir. Aşama bazlı katılımcı akışı ve nedenlere göre dışlama sayıları verilmediği için bu farkı tek başına randomizasyon sonrası izleme kaybı diye adlandırmak güvenli değildir.13 ↩
- Regulation (EU ) 2026/1744, 24 Temmuz 2026’da yayımlanmış ve 27 Temmuz’da yürürlüğe girmiştir.33 Yüksek riskli sistemlerin 14. maddeyi de içeren ilgili yükümlülükleri, Ek III kapsamı için 2 Aralık 2027, Ek I bağlantılı kapsam için 2 Ağustos 2028 uygulama tarihleriyle birlikte okunmalıdır.34 50. madde genel olarak 2 Ağustos 2026’dan uygulanır. Ancak 111(4), bu tarihten önce piyasaya yerleştirilmiş sentetik içerik üreten sistemlerin sağlayıcılarına yalnız 50(2)’deki makinece okunabilir işaretleme ve saptanabilirlik için 2 Aralık 2026’ya kadar geçiş tanır. 50(1), insanla doğrudan etkileşimde yapay zekâ kimliğinin açıklanmasını sağlayıcıya; 50(4), belirli içerik açıklamalarını uygulayıcıya yükler. 50(5), bu bilgilerin açık, ayırt edilebilir ve erişilebilir sunumunu düzenler. Sınırlı geçiş hükmü bütün saydamlık görevlerinin ertelenmesi değildir.33 34 ↩