İşi yapay zekâya devrederken insan nasıl değişir?

Dünün becerileri, bugünün ortaklığı ve 2036’da insana kalacaklar

Bir öğretmenin yarınki ders için yapay zekâdan problem ve çözüm taslağı aldığını düşünelim. Hazırlık kısa sürer. Asıl karar ders başladığında ortaya çıkar: Öğrenciler çözümü mü teslim edecek, yoksa çözümün hangi varsayımlara dayandığını mı inceleyecek?

Aynı araç iki ayrı dersin parçası olabilir. Birinde öğretmenin hazırlık yükünü azaltır, öğrencinin kendi denemesine daha fazla zaman açar. Diğerinde öğrenci adına bütün ara adımları tamamlar. Öğretmene düzgün görünen bir sonuç gelir. Ekrandaki cevaplar birbirine benzeyebilir; o cevaplara ulaşan öğrenciler aynı şeyi öğrenmiş olmayabilir.

Bu, gerçekleşmiş bir olay değil, soruyu somutlaştıran bir düşünce örneği. İlk yazıda “Yapay zekâdan insanı çıkarırsan ne kalır?” diye sormuştuk. Şimdi soruyu insanın zamanına çevirmek gerekiyor: Bir işi makineye bıraktığımızda, o işin yetiştirdiği insana ne oluyor?

Yapay zekânın ne yapabildiğini öğrenmek önemli. Fakat karşılaştırmanın öbür tarafını da incelemeliyiz. İnsan bazı görevleri artık yapmayınca hangi becerilerini kaybediyor, hangilerini geliştiriyor? Açılan zamanı nasıl kullanıyor? Kendi hayatını etkileyen kararları hâlâ sorgulayabiliyor mu?

Bir işi yapay zekâya devretmenin değeri, yalnızca ortaya çıkan ürünle ölçülemez. Devirden sonra insanın ne öğrenebildiği, neye karar verebildiği ve sonuçlara nasıl müdahale edebildiği de önemlidir. Bu yazının savunduğu ölçüt budur. İnsan bazı görevlerde makineden daha kötü olabilir; buradan daha az hak sahibi olduğu sonucu çıkmaz. Bir yetenek dışarıya verilebilir; o yeteneğin çevresinde oluşan öğrenme ve sorumluluk düzeninin nasıl korunacağı ayrıca düşünülmelidir.

1. Dünün insanı da araçlarla düşünüyordu

Yapay zekâdan önceki insanı, bütün bilgisini ve bütün hesaplarını kendi zihninde tutan bağımsız bir varlık gibi hayal ediyoruz. Oysa yazı, harita, takvim, arşiv ve hesap makinesi zaten bilişsel işleri dışarıya taşıyordu. İnsan bir şeyi hatırlamak kadar nerede bulacağını bilmeyi, işlemi kendi yapmak kadar sonucunu kontrol etmeyi de öğreniyordu.

Clark ve Chalmers’ın genişletilmiş zihin yaklaşımı bu gündelik durumu felsefi bir soruya dönüştürür: Güvenilir biçimde erişilen bir dış araç, uygun koşullarda düşünme sürecinin işlevsel parçası olabilir mi? Makaledeki Otto’nun defteri, belleğin bazı işlerini üstlenen bir düşünce örneğidir. Burada deftere kişilik atfedilmez; düşünmenin sınırının bedenin sınırıyla her zaman aynı olmayabileceği savunulur. 1

Edwin Hutchins’in gemi seyrini inceleyen çalışmasında da bilgi tek bir kaptanın zihninde toplanmaz. Ölçüm araçları, haritalar, görev dağılımı ve insanlar arasındaki koordinasyon birlikte çalışır. Bilginin doğru anda doğru kişiye ulaşmasını sağlayan düzen, işin nasıl bilindiğinin bir parçasıdır. 2

Turing’in 1950’de öğrenen makineleri tartışması, bugünkü modellerle aynı teknolojiyi anlatmaz. Ama insanı değişmez bir üretici, makineyi yalnızca tekrar eden bir nesne olarak ayırmanın daha o tarihte yetersiz olduğunu gösteren önemli bir düşünsel duraktır. Öğreticinin öğrenen makinenin iç işleyişini bütünüyle bilmeden davranışını yönlendirmesi ve öngörmesi tartışmanın içindedir. 3

Bu geçmiş, “Araç kullanan insan artık düşünmez” iddiasını zayıflatır. Fakat bugünkü değişimi sıradanlaştırmak için de kullanılamaz. Yazı ile hesap makinesi farklı işleri dışarıya taşımıştı. Üretken modeller ise aramayı, özetlemeyi, ilk taslağı, kod önerisini ve seçenek sıralamayı aynı konuşma yüzeyinde birleştirebiliyor. Kullanıcı yalnız bir işlem yaptırmıyor; işlemin nasıl sorulacağını ve hangi seçeneklerin görünür olacağını da sistemden öğrenebiliyor.

Üstelik bu yüzey çoğu zaman kullanıcıya ait değil. Modeli işleten kurum, eğitim verisi, güncellemeler ve erişim koşulları üzerinde kullanıcının sahip olmadığı yetkilere sahip olabiliyor. Dolayısıyla bugünkü devir, insan ile aracı arasındaki ilişkinin yanında insan ile başka insanlar arasındaki güç ilişkisini de içeriyor.

Peki yaratıcı insan kendinden neyi aktarıyor? Büyük dil modellerine bir insan zihni bütünüyle kopyalanmıyor. Metinler ve kodlar üzerinden dilsel örüntüler, açıklama biçimleri ve problem çözme örnekleri öğreniliyor. GPT-3 çalışması, birkaç görev örneğinin ağırlıkları yeniden eğitmeden çıktıyı yönlendirebildiğini gösterdi. Bu, basit birebir kopyalamanın ötesinde bir görev uyumudur; bir metnin yazarının yaşantısının modele geçtiğini göstermez. 4

İkinci aktarım, neyin iyi yanıt sayıldığıyla ilgili. InstructGPT araştırmasında insanlar örnek yanıtlar verdi ve çıktıları değerlendirdi. Bu geri bildirimle eğitilen 1,3 milyar parametreli model, çalışmanın belirli istemlerinde 175 milyar parametreli GPT-3’e tercih edildi. Daha büyük model her koşulda daha uygun yanıt demek değildi; değerlendirme biçimi önemliydi. 5

İnsan modele bilgiyle birlikte hedefler ve tercih ölçütleri de veriyor. Ancak bu ölçütler bütün insanlığın ortak iradesi değil. Veriyi sağlayan yazar, yanıtı değerlendiren çalışan, sistemi finanse eden şirket ve sonuçtan etkilenen kişi farklı insanlar. “İnsanlık bilgisini devretti” cümlesi, katkının genişliği ile kontrolün kimde toplandığını aynı anda açıklamıyor.

Dünün insanı da araçlıydı. Bugünün insanı, yalnızca daha güçlü araçlarla değil, daha fazla ara adımı onun adına düzenleyebilen sistemlerle çalışıyor. Bu değişimin sonucunu anlamak için “devir” sözcüğünü açmak gerekiyor.

2. Bugün neyi devrediyoruz?

Bir metni modele yazdırmakla bir kişinin işe alınmasına modelin puanıyla karar vermek aynı türden devir değildir. Bu yazıda dört boyut ayırmayı öneriyorum.

İşlem devrinde taslak, arama, sınıflandırma veya hesap dışarıya verilir. Öğrenme pratiğinin dışarıya kaymasında kişi kendi denemesini, hata açıklamasını veya gerekçe kurmasını artık yapmadan sonuca ulaşır. Karar çerçevesi ve önerisi devrinde sistem hangi verinin önemli olduğunu, seçenekleri ve varsayılan yolu belirler. Fiilî otorite devrinde ise kurum erişimi, yaptırımı veya itirazın sonucunu sistemin değerlendirmesine bağlar.

Bunlar zorunlu olarak birbirini izleyen aşamalar değil; sınırları da bütünüyle ayrık değil. Aynı öğretmen taslağı modele bırakırken öğrencinin öğrenme pratiğini koruyabilir, soru sıralamasında yardım alabilir ve değerlendirmeyi değiştirme yetkisini elinde tutabilir. Ayrımın amacı her kullanımı bir kutuya yerleştirmek değil, hangi işin ve hangi yetkinin yer değiştirdiğini görmek.

İşlem devrinin gerçek kazanımlarını küçümsemek gerekmiyor. Noy ve Zhang’ın 453 profesyonelle yaptığı ön kayıtlı yazma deneyinde ChatGPT erişimine yönlendirilen grupta ortalama süre yaklaşık yüzde 40 azaldı, değerlendirici kalite puanı yüzde 18 yükseldi. Bunlar seçilmiş kısa yazma görevlerindeki göreli değişimler; kalıcı yazma becerisi veya her tür metnin olgusal güvenilirliği ölçülmedi. 6

Yazılımda ise farklı düzenler farklı sonuç verdi. METR’nin erken 2025 araçlarını inceleyen deneyinde, kendi büyük açık kaynak depolarına aşina 16 geliştiricinin 246 görevinde AI kullanımına izin verilmesi, birincil düzeltilmiş tahmine göre süreyi yaklaşık yüzde 19 uzattı. Geliştiriciler buna rağmen hızlandıklarını düşünüyordu. Küçük ve özel bir örneklemdeki bu sonuç, algılanan kolaylıkla ölçülen kazancın ayrışabileceğini gösterir; yazılımın tamamı hakkında hüküm vermez. 7

Bu tarih damgası önemli. METR’nin Şubat 2026 takip yazısında yön daha olumlu görünürken, katılımcı seçimi ve ajanlı çalışmada süre ölçümü sorunları güncel etki büyüklüğünü belirsiz bırakıyor. Eski yavaşlama sonucunu bugünün değişmez gerçeği saymak da yeni takibi kesin hızlanma kanıtı saymak da doğru değil. 8

Daha büyük kurumsal saha deneylerinde olumlu çıktı bulgusu var. Cui ve arkadaşlarının üç şirketteki 4.867 geliştiricilik analizinde, tamamlanan kod değişikliği teslimleri için birleşik benimseme etkisi tahmini yaklaşık yüzde 26 artış verdi. Rastgeleleştirilen şey erişimdi; kullanımın etkisi bu atama üzerinden tahmin edildi. Daha fazla teslim, bütün görevlerin aynı oranda hızlandığı veya kod kalitesinin yükseldiği anlamına gelmiyor. 9

Sağlıkta insanı sisteme eklemek de kendiliğinden üstün ortaklık üretmedi. Ethan Goh ve arkadaşlarının 50 hekimlik 2024 deneyinde AI erişimli grubun tanısal akıl yürütme medyanı yüzde 76, geleneksel kaynak grubununki yüzde 74’tü; düzeltilmiş fark istatistiksel olarak anlamlı değildi. Modelin tek başına daha yüksek puan aldığı karşılaştırma ise ikincil ve keşifseldi. Çalışma gerçek hasta sonuçlarını değil, yazılı klinik vakalara verilen yanıtları ölçüyordu. 10

Buna karşılık Qazi ve arkadaşlarının Pakistan’daki ayrı çalışmasında, bütün hekimler AI okuryazarlığı eğitimi aldıktan sonra AI erişimi bakımından karşılaştırıldı. Düzeltilmiş bileşik vaka puanı farkı AI erişimli grup lehine 27,5 yüzde puandı. Bu, yalnız eğitimin etkisi veya gerçek hastalarda tanı doğruluğu değil; farklı bir örneklem ve görev düzeninde ölçülmüş akıl yürütme sonucuydu. 11

Bu çalışmalar tek bir toplam “AI etkisi” hesabına dönüşmez. Bir olumlu ve bir olumsuz bulgu birbirini matematiksel olarak götürmez. Ama birlikte önemli bir soruyu zorunlu kılarlar: Hangi iş, hangi başlangıç becerisiyle, hangi yardım biçimi ve hata maliyeti altında yapılıyor?

Bugünkü insan–AI karşılaştırması bu yüzden bir kazanan ilanıyla bitmiyor. Çıktı değiştiğinde insanın o çıktıyla kurduğu ilişkiyi de incelemek gerekiyor. En belirgin ayrım öğrenmede ortaya çıkıyor.

3. Devredilen iş, değişen insan

Bir öğrenci için doğru cevaba ulaşmak ile doğru cevabı nasıl bulacağını öğrenmek farklı hedeflerdir. Bir çalışan için de iyi bir rapor teslim etmek ile rapordaki varsayımları anlayan biri olmak aynı süreç değildir. Araçlar bu hedefleri birlikte destekleyebilir; bazen aralarını açabilir.

Türkiye’de tek bir lisede yaklaşık bin öğrenciyle yürütülen matematik deneyi bu ayrımı doğrudan inceledi. Sınıflar farklı yardım koşullarına atandı. Genel GPT arayüzüne erişim, destekli alıştırma puanını kontrol ortalamasına göre yaklaşık yüzde 48 artırırken, hemen sonraki bağımsız sınav puanında yaklaşık yüzde 17 düşüşle ilişkiliydi. Bunlar regresyon tahminlerinden hesaplanan göreli farklar, yüzde puanı değil. 12

Öğretmen çözümleri ve öğrenmeye dönük ipuçlarını içeren GPT Tutor paketinde kontrolle anlamlı bağımsız sınav farkı bulunmadı. Bu, eşdeğerlik veya kalıcı öğrenme artışı kanıtı değildir. Doğrudan müdahaleler arası karşılaştırma da farklı yardım paketlerinin kısa vadeli sonuçlar üretebildiğini destekliyor. Tek okulda, dört oturumda ve hemen sonraki benzer sorularda görülen bu sonuç, bütün Türkiye’ye veya her modele genellenemez. 12

Buradan çıkarılacak ders, öğrenciyi araçtan uzak tutmak değil. Yardımın hangi adımı onun yerine yaptığına bakmak. Bir araç öğrencinin hatasını anlamasını kolaylaştırabilir; aynı araç hatayı görmeden geçmesini de sağlayabilir.

İnsan eğitmene destek veren Tutor CoPilot çalışma kâğıdının Kasım 2025 sürümünde, oturum sonu kısa sınavı geçme olasılığı yaklaşık dört yüzde puanı arttı; başlangıç puanı düşük eğitmenlerin öğrencilerinde fark dokuz puana çıktı. Bu, insan eğitmenin yardım seçeneklerini genişleten tasarımın belirli bir bağlamdaki olumlu bulgusudur. Yıl sonu başarısı veya uzun vadeli araçsız öğrenme ölçümü değildir. 13

İşyerinde öğrenme de bütünüyle kapanmış değil. Brynjolfsson, Li ve Raymond’un müşteri destek çalışmasının 2023 NBER sürümünde, 5.179 çalışan için saatte çözülen sorunlar yaklaşık yüzde 14 arttı; kazanç başlangıç becerisi düşük çalışanlarda daha büyüktü. Sistem kesintilerinde AI önerileri olmadan süren performansı inceleyen analiz de vardı. Bu öğrenmeyle uyumlu bir pencere açar, fakat farklı işlere aktarılabilir uzun vadeli ustalığı kesinleştirmez. 14

Asıl sorun burada geleceğe uzanıyor. Başlangıç görevleri otomatikleştiğinde yeni başlayan kişi nasıl uzman olacak? Dün bir çırağın bilgi kazanmasını sağlayan deneme ve düzeltmeler bugün sistemin içinde gerçekleşiyorsa, kurum aynı öğrenme fırsatını başka bir yolla kuruyor mu?

Bunun cevabı bütün rutin işleri korumak olamaz. Bazı tekrarlar öğretir, bazıları yalnızca zaman tüketir. Eski bir işlemin kaldırılması gerileme sayılmaz; daha açıklayıcı geri bildirim veya daha anlamlı bir problem onun yerini alabilir. İncelenmesi gereken, işlemin eskiliği değil, sağladığı öğrenme fırsatıdır. Bir kurum o fırsatı kaldırıp alternatifini kurmuyorsa, bugünkü uzmanlığını kullanırken yarının uzmanlığını nasıl üreteceğini açıklamalıdır.

Uzmanlığın biçimi de değişebilir. Bilgiye hızlı erişim, her şeyi ezberde tutmanın önemini azaltabilir. Yeni durumdaki hatayı fark etmek, doğru kaynağı seçmek veya iki açıklamayı karşılaştırmak daha önemli hâle gelebilir. Hangi becerinin korunacağı, hata maliyetine ve o becerinin denetim için gerekliliğine bakılarak tartışılmalı. Geçmişin bütün çalışma biçimleri insanlığın özü değildir.

Yaratıcılık da makinenin ulaşamayacağı güvenli bir son sığınak sayılamaz. Doshi ve Hauser’in kısa öykü deneyinde AI fikirlerine erişim, değerlendirilen yenilik ve kullanışlılığı artırırken öykülerin birbirine benzemesini de artırdı. Aynı çalışmanın keşifsel sahiplik analizinde, AI yardımı açıklanan koşullarda yazara atfedilen sahiplik daha düşük puanlandı. Burada hukuki telif veya gelir değil, algılanan katkı ölçülüyordu. 15

Bilimsel fikirlerde de ilk adım ile bütün süreç ayrılmalı. Si ve arkadaşlarının araştırmacılarca değerlendirilen NLP fikirleri çalışmasında AI fikirleri daha özgün puanlandı; yapılabilirlikte daha düşük ortalama ise anlamlı bir fark değildi. Özgün fikir puanı, doğru hipotezin veya başarılı deneyin yerine geçmez. 16

Bu sonuçlar insanın katkısını ortadan kaldırmıyor; katkının yerini tartışmaya açıyor. Bir yazarın emeği cümleyi kurmaktan soruyu seçmeye, bir araştırmacınınki seçenek üretmekten kanıtı sınamaya kayabilir. Fakat bu kaymayı her insan için otomatik bir yükseliş sayamayız. Kurum yalnızca çıkan metni sayıyor, soruyu seçen ve hatayı düzelten emeği görünmez bırakıyorsa, kişinin katkısı ile tanınması arasındaki bağ zayıflayabilir.

Aynı ölçüt zaman için de geçerli. İş daha çabuk bitiyorsa çalışan daha erken mi çıkıyor, yoksa daha fazla iş mi alıyor? Öğretmenin hazırlık yükü azalıyorsa öğrenciye zaman mı açılıyor, yeni raporlama görevleri mi ekleniyor? Bakım veren kişinin tekrarları azalıyorsa karşısındaki insana daha uzun süre eşlik edebiliyor mu? Bunlar tek bir deneyin cevapladığı sorular değil; kazancın hayata nasıl çevrildiğini anlamak için sorulması gerekenler.

İnsanın hayatını yalnızca çalışma üzerinden değerlendirmek de yanlış olur. Bir kişi katkısının tanınmasını isteyebilir; fakat çalışamadığı, öğrenemediği veya tercihlerini alışılmış biçimde ifade edemediği için daha az değerli olmaz. İlişki kurmak, destek almak ve kendi hayatına katılmak, üretimden arta kalan zamanda izin verilen faaliyetler değildir.

Burada çocuk, yaşlı ve ağır desteğe ihtiyaç duyan kişi tartışmanın dışında tutulamaz. İnsanı korumayı “Modeli denetleyebilen uzmanı korumak” diye tanımlarsak, denetleme gücü olmayanları ikinci kez görünmezleştiririz. Öğrenme fırsatlarını savunmakla hak sahipliğini beceri sınavına bağlamak arasında kesin bir ayrım var.

4. Kazanç, maliyet ve karar yetkisi kime kalıyor?

“İnsan işini makineye bıraktı” dediğimizde makinenin arkasındaki insanları gözden kaçırabiliyoruz. Veriyi temizleyen, yanıtı değerlendiren, zararlı içeriği ayıklayan ve veri merkezini işleten insanlar bu işleyişin parçası. Görevin kullanıcının ekranından kaybolması, emeğin sistemden kaybolduğu anlamına gelmiyor.

ILO’nun 2025 endeksi, küresel istihdamın yaklaşık dörtte birinin bir tür üretken AI görev maruziyeti bulunan mesleklerde olduğunu bildiriyor. Bu, işsiz kalanların oranı değil; görevlerin teknik olarak ne ölçüde etkilenebileceğine ilişkin bir değerlendirme. Meslekler birden çok görevden oluştuğu için işlem otomasyonu ile bütün işin ortadan kalkması ayrı sonuçlardır. 17

Fairwork’ün 2025 araştırması, AI veri işlerini de içeren daha geniş çevrimiçi bulut işi örnekleminde ödeme, gelir güvencesi ve itiraz sorunlarını gösteriyor. İncelenen 16 platformdaki 776 yanıtlayıcının yalnızca yüzde 35’i kazancı konusunda her zaman veya çoğu zaman güvende hissetti; yüzde 40’ı itiraz süreçlerinden haberdar değildi. Örneklemin tamamı AI etiketçisi değil ve bu oranlar küresel işgücünü temsil etmiyor. 18

Bu iki kaynak farklı soruları cevaplıyor. Biri hangi görevlerin etkilenebileceğini, diğeri belirli platformlarda çalışanların koşullarını inceliyor. Birlikte düşünmek ise şu soruyu açıyor: Otomasyonun kazancı ile onu mümkün kılan emeğin güvencesi neden aynı yerde oluşsun? Bunun kendiliğinden gerçekleşeceğini varsaymak için nedenimiz yok.

Mülkiyet ve altyapı da kullanım kolaylığından ayrı. UNCTAD’ın 2025 raporu, işletmelerce finanse edilen Ar-Ge yatırımlarının yoğunlaşmasını ve ülkelerin seçilmiş AI yönetişimi girişimlerine eşitsiz katılımını inceliyor. Bu göstergeler bütün bilginin mülkiyetini ölçmez; ama bilgiye erişmekle teknolojinin gelişim yönüne karar vermenin farklı imkânlar olduğunu görünür kılar. 19

Enerjideki ölçek daha somut. IEA, bütün veri merkezlerinin 2024 elektrik tüketimini yaklaşık 415 TWh olarak tahmin ediyor; 2030 temel senaryosu yaklaşık 945 TWh. İlk sayı modellenmiş tarihsel tüketim, ikincisi projeksiyon; ikisi de yalnız AI’yı değil toplam veri merkezi tüketimini kapsıyor. 20 Kullanıcı için görünmez olan elektrik, soğutma ve bakım yükü bir yerde karşılanıyor. Hızlanan yanıtın maliyeti, yalnızca abonelik bedeli değil.

Türkiye’nin 2026–2030 eylem planı da bu ayrımı düşünmek için yerel bir örnek. Plan, 2030’a kadar yapay zekâ/veri merkezi kurulu gücünde en az 1 GW ve özel sektör ağırlıklı en az 10 milyar ABD doları yatırımın mobilize edilmesi gibi hedefler koyuyor. Bunlar kurulmuş kapasite veya ayrılmış aynı büyüklükte bir fon değil. 21 Asıl değerlendirme, hedeflerin gerçekleşmesi kadar oluşacak altyapıya kimin erişeceği ve kararların nasıl denetleneceği üzerinden yapılmalı.

Açık ağırlıklı ve yerel modeller bazı kurumlara daha fazla kontrol sağlayabilir. Ancak ağırlıkları indirebilmek, eğitim verisinin açık olduğu, lisansın sınırsız kullanım sağladığı veya yönetimin demokratikleştiği anlamına gelmez. Yerel kurulum da bakımı, enerji ihtiyacını ve sorumluluğu birilerinin üstlenmesini gerektirir. Erişim ile yetki her durumda ayrıca incelenmeli.

Burada en güçlü itirazı kabul etmek gerekiyor: Yapay zekâ daha isabetli çalışıyorsa, insan onayı neden şart olsun? Onay zaman kaybettirebilir; yeterli bilgisi olmayan insan iyi çalışan sistemi bozabilir. İnsanların kimi işlemleri artık yapmaması pekâlâ daha güvenli olabilir.

Benim savunduğum, her satırın yeniden insan tarafından üretilmesi değil. Düşük riskli, geri alınabilir ve başarı ölçütü açık bir işlem doğrudan otomatikleşebilir. Yüksek etkili süreçte ise amaç, hata eşiği, durdurma ve düzeltme yetkisi belirlenmeli. Denetimin ağırlığı riskle orantılı olmalı; ekrandaki insan sembolik bir güvenlik işareti sayılmamalı.

Genişletilmiş zihin yaklaşımı araçlarla düşünmeyi açıklıyorsa, karar yetkisi de dışarıya genişleyemez mi? Bazı yetkiler devredilebilir. Fakat bilişsel işbirliği, yetkinin kimin tarafından hangi koşullarla verildiği sorusunu ortadan kaldırmaz. Bir araç düşünmenin parçası olabilir; buradan o araç etrafındaki kurumun yetkisinin sınırsız olduğu sonucu çıkmaz.

Mevcut hukuk bu soruların tamamını çözmüyor, ama somut bir başlangıç sunuyor. Türkiye’de KVKK’nın 11/1-g hükmü, kişisel verilerin münhasıran otomatik sistemlerle analizinden kişinin aleyhine sonuç doğduğunda itiraz hakkı tanıyor. Muhatap modelin kendisi değil, veri sorumlusu. Bu, her AI çıktısı için genel kaynak kodu veya kendiliğinden tazminat hakkı değil. 22 GDPR’ın 22. maddesi de yalnız otomatik işleme dayanan, hukuki veya benzer ölçüde önemli etkili kararları belirli koşul ve istisnalarla düzenliyor. 23

İtirazın ilk incelemesini de AI yapabilir. Sorun sırf makine kullanılması değil; aynı kapalı varsayımın yeniden üretilmesi ve kimsenin onu değiştirememesi. Yeni kanıtın dikkate alınabileceği, gerektiğinde bağımsız incelemeye geçilebileceği bir yol bulunmalı. Hak sahibi kişi ile hesap verecek kurum böylece ayrılır: İnsan kararın hakkında verildiği taraftır; kurum gerekçe ve düzeltme borcu taşıyan taraftır.

Bu düzen mutlak doğruluk garantisi vermez. Ama sorumluluğu “Model böyle söyledi” cümlesinde durdurmamayı sağlar. İnsanın kendisi her işi yapmasa da sonuçları değiştirecek etkili bir söz hakkı bulunmalıdır.

5. 2036’da aynı insanın dört olası hayatı

On yıl sonrasını bugünkü test puanlarından doğrudan çıkaramayız. METR’nin uzun görev ölçümleri, insan uzmanların tamamlama süreleriyle tanımlanan görevlerde başarı ufkunun genişlediğini gösteriyor. Ancak görev setleri ve araçlar değişiyor; uzun uçtaki ölçümlerin güvenilirliği sınırlı. Tarihsel eğilimi 2036’ya uzatan düz bir çizgi, teknolojik ve kurumsal engelleri ortadan kaldırmış sayar. 24 25

Geleceği düşünmek için iki soruyu ayırabiliriz: Sistemler ne kadar güvenilir iş yapabilecek? Bu kapasite üzerindeki yetki nasıl paylaşılacak? Bu eksenler gerçek dünyada birbirini etkiler; yine de ayrı düşünmek, aynı teknolojinin farklı toplumsal sonuçlar üretmesini açıklamaya yardımcı olur.

Başlangıçtaki öğretmeni 2036’da yeniden düşünelim. Aşağıdaki dört durum birer koşullu kurmaca. Aynı ülkede, hatta aynı kurumun farklı işlerinde yan yana bulunabilirler.

Güçlü araçlar, paylaşılan yetki

Öğretmen, her öğrencinin önceki çalışmalarını dikkate alan materyal seçenekleri alıyor. Sistem uzun görevlerde daha güvenilir; hazırlık ve kayıt yükünün önemli kısmını üstleniyor. Okul hangi amaçların izleneceğini, hangi verinin kullanılacağını ve hangi sonucun yeniden inceleneceğini öğretmenler ve etkilenen kişilerle birlikte belirliyor.

Burada öğretmenin işi daha az yazmak olabilir; ama sınıfı anlamak ve öğrencinin öğrenme yolunu düzenlemek için daha çok zamanı vardır. Bunun gerçekten olup olmadığını görmek için hız puanına değil, hazırlıktan açılan zamanın nereye gittiğine ve öğrencinin yeni bir problemi nasıl çözdüğüne bakılır. Katılım sözcüğü tek başına yeterli değildir; değerlendirmeyi değiştirme yetkisi kullanılabilir olmalıdır.

Güçlü araçlar, yoğunlaşmış yetki

Aynı sistem bu kez merkezi hedeflere göre ders akışını ve başarı ölçütünü belirliyor. Öğretmen öneriyi değiştirebiliyor gibi görünse de değişiklikler olumsuz performans kaydı yaratıyor; öğrencinin itirazı aynı puanlama mantığına geri dönüyor. Hazırlık kolaylaşmıştır, fakat açılan zamana daha fazla raporlama ve daha yüksek hedef yerleşmiştir.

Model gerçekten daha iyi çalışıyor olabilir. Sorun teknik başarıyı inkâr etmek değil; başarıdan kimin yararlandığını ve hangi kararların tartışılabilir kaldığını sormaktır. Bu durumda izlenecek işaret, seçenek sayısından çok öğretmen ve öğrencinin gerekçeli itirazının kararı değiştirip değiştirebildiğidir.

Sınırlı araçlar, paylaşılan yetki

Sistem hâlâ bazı bağlamları kaçırıyor; öğrenciye uygun materyali zaman zaman yanlış seçiyor. Okul bu sınırları saklamıyor. Araç tekrar ve taslakta kullanılıyor, yüksek etkili değerlendirmede farklı kanıtlar birlikte inceleniyor. Öğretmen, öğrencinin modelde görünmeyen koşullarını anlatabiliyor.

Bu olasılıkta her eski işi insana geri vermek gerekmez. Hangi görevlerin güvenle devredilebildiği sınanır; acemilerin öğrenme yolu ayrıca kurulur. Hata, gizlenen bir maliyet yerine düzeltilebilen bir olay hâline gelir. İzlenecek şey, kusursuzluk iddiası değil, hatanın ne kadar erken fark edildiği ve ne kadar etkili giderildiğidir.

Sınırlı araçlar, yoğunlaşmış yetki

En zararlı sonucu üretmek için sistemin olağanüstü güçlü olması gerekmez. Yanlış öğrenci sınıflandırmaları ve uygun olmayan içerikler ucuz olduğu için kullanılmaya devam edebilir. Öğretmen hatayı görür; fakat bütçe, sözleşme veya kurum politikası yüzünden sistem değiştirilemez. Öğrenci bir kararın kendisine neden uygulandığını öğrenemez.

Burada insanın işini yapan bir sistemden çok, insanın itirazını işlem dışına atan bir düzen vardır. Teknik kapasite düşükken bile fiilî otorite yüksek olabilir. Bu durumun işareti, bilinen hataların kayda girmesine rağmen kullanım koşullarının değişmemesidir.

Dört olasılık arasındaki fark, insanın ne kadar az yazdığı değildir. Öğretmenin öğrenmeye ayırabildiği zaman, öğrencinin destekle ve gerektiğinde bağımsız ilerleyebilmesi, kararın düzeltilebilmesi ve kazancın dağılımıdır. 2036’daki insan–AI karşılaştırması da yalnızca sistem yeteneğini ölçen bir cetvel olmayacak. İnsanların hangi hayatı kurabildiği sorusunu içerecek.

6. İnsanda kalacak olan: bir görev listesi değil, yaşanan hayat

“İnsanda her zaman ne kalacak?” sorusu iki farklı beklenti taşıyor. Biri, makinelerin hiçbir zaman yapamayacağı yetenekleri bulmak. Diğeri, makineler birçok işi yapabilse de insandan alınmaması gereken şeyi belirlemek. İkincisine verdiğimiz cevabı birincinin teknik kanıtı gibi kullanamayız.

Yaratıcılık, dil, planlama veya empatiye benzeyen davranışlar için değişmez bir insan üstünlüğü ilan etmek kırılgan bir savunma. Her yeni teknik başarı bu savunmayı bir adım geriye iter. Üstelik insanın değeri böyle bir yarışa bağlanırsa yarışamayanlar için ne söyleyeceğiz? Bebek, ileri demans yaşayan kişi veya ağır iletişim desteğine ihtiyaç duyan insan, modelden daha yüksek puan alamadığı için daha az hak sahibi değildir.

Kittay’ın bağımlılık düşüncesi burada önemli. Çocukluk, hastalık, engellilik ve kırılgan yaşlılıkta başkasına ihtiyaç duymak insan hayatının olağan bir koşulu. Bakım alan kişinin değeri, bakım verene aynı biçimde karşılık verebilmesine bağlanamaz. 26 Nussbaum da karşılıklı fayda sağlayan yaklaşık eşit yetişkinlerden hareket eden adalet yaklaşımlarının engellilerin eşit yurttaşlık taleplerini açıklamakta zorlandığını tartışır. 27

Bu felsefi dayanakları yapay zekâya uyguladığımda vardığım normatif sonuç şu: Haklar, görev performansından ve aracı denetleme becerisinden önce gelir. Katılım kimi insan için bağımsız karar, kimi insan için erişilebilir iletişim veya destekli temsil gerektirir. Aracı kapatmak, erişilebilirlik desteğini de kapatıyorsa insanı korumaz.

Arendt’in söz ve eylem aracılığıyla başkalarıyla paylaşılan dünyada görünür olma düşüncesi de insanı yalnız çıktı olarak ele almamaya yardımcı olur. 28 Fakat bunu kamusal olarak eyleyemeyenleri dışlayan yeni bir yeterlik testine çeviremeyiz. Bir kişinin hayata katılımı her zaman konuşarak, çalışarak veya bağımsız karar vererek gerçekleşmez.

Bu nedenle işin dışında kalan hayatı da hesaba katmalıyız. Sevdiği biriyle oturmak, yas tutmak, destek almak, bir çocuğun bakımına katılmak veya kendi amaçlarını değiştirmek, üretkenlik hesabının kenarında bulunan artıklar değildir. Teknoloji bu ilişkileri destekleyebilir. Ama insanın daha az işlem yapmasını otomatik olarak daha az insan olmasıyla eşitlemek, hayatı iş tanımına indirger.

Bir insanın ağrısını tarif eden sistemin o ağrıyı onun yerine yaşadığını söyleyemeyiz. Bir yaşam öyküsünü eksiksiz temsil etmek, o kişinin çocukluğunu, kaybını ve sonuçlara maruz kalışını devralmak değildir. Bu ayrım başka insanlar için de geçerlidir; dolayısıyla insanın makineye karşı özel bir teknik üstünlüğünün kanıtı değil, kişinin hayatının tekilliğine ilişkin bir ayrımdır.

Yapay sistemlerin gelecekte deneyim sahibi olup olamayacağı açık bir araştırma sorusu. Seth ve Bayne’ın bilinç teorileri derlemesi, kuramların ilişkilerini ve birbirinden nasıl ayrıştırılabileceklerini tartışıyor. 29 Butlin ve arkadaşlarının 2023 ön baskısı da göstergelere dayalı bir değerlendirme sunuyor; o tarihte incelenen sistemleri bilinçli saymak için güçlü destek bulmuyor, fakat göstergeleri taşıyan sistemlerin kurulmasına açık bir teknik engel saptamıyor. Bu, bilinç garantisi veya bugünkü bütün sistemler için kesin tanı değil. 30

Bu belirsizlik, olası yapay duyarlılığı baştan yok saymayı da akıcı yanıtı kişi olmanın kanıtı saymayı da haklı çıkarmaz. İnsanların bugünkü haklarını korumak için bu sorunun kesin çözümünü beklememiz gerekmiyor.

Bakımda da aynı dikkat gerekli. Bir sohbetten sonra daha az yalnız hisseden kişiyi düşünelim. Yaşadığı rahatlamayı küçümsemek doğru olmaz; fakat bu düşünce örneği karşılıklı deneyim veya kalıcı klinik fayda kanıtı değil. Böyle bir araç kullanılacaksa, kişinin ihtiyaç duyduğunda insan desteğine ulaşabilmesi ve yanlış yönlendirmede sorumlu tarafın bulunması gerekir. Amaç, insan ilişkilerinin pahalı olduğu için terk edilmesi değil, desteğe erişimin genişlemesi olmalı.

İnsanda korunacak pratikler de sabit bir geçmiş listesi değildir. Herkesin zihinden uzun çarpma yapmasını veya her metni araçsız yazmasını insanlığın şartı sayamayız. Korunması gereken, kişinin koşullarına uygun destekle dünyayı anlayabilmesi, kendi görüşünü ifade edebilmesi ve hayatını etkileyen sürece katılabilmesidir. Meslek kurumları bunu uzmanlıkla, okullar öğrenme fırsatlarıyla, bakım kurumları erişilebilir destekle somutlaştırmalıdır.

Bir okul yalnızca teslim edilen cevabı değil, öğrencinin sonraki adımını da önemsemeli. Bir işyeri otomatikleşen başlangıç görevlerinin yerine hangi eğitim yolunu kurduğunu açıklamalı. Kamu ve özel kurumlar yüksek etkili kararın itiraz muhatabını görünür tutmalı. Kazancın paylaşılması ise yalnız şirket beyanına bırakılmamalı; çalışanların örgütlenmesi, sözleşmeler ve kamu politikalarıyla tartışılmalı. Bunlar bu yazının önerileri, bütün bağlamlarda etkisi kanıtlanmış tek bir reçete değil.

2036’da hangi işleri hâlâ kendi ellerimizle yapacağımızı bugünden kesinleştiremeyiz. Ama işleri devretmenin koşullarına bugün karar verebiliriz. Öğrenme yollarını yeniden kurmak, hatayı düzeltilebilir tutmak ve kazancı paylaşmak bu koşullar arasındadır.

İnsan için savunulacak yer, makinelerin henüz yapamadığı görevlerden oluşan geçici bir sığınak değildir. İnsan, becerileri değişse de kendi hayatının nasıl düzenlendiği hakkında söz sahibi olmayı sürdürebilmelidir. Bu söz hakkı, yeterince üretken olmanın ödülü değildir.

İlk yazının sorusu burada tersinden geri dönüyor: Yapay zekâ insanın işini alırken, insanın hayatına katılma imkânını da alıyor mu? Geleceği değerlendireceğimiz yer yalnız modelin çıktısı olmayacak. O çıktının ardından nasıl bir insanın, nasıl ilişkilerin ve nasıl bir ortak hayatın kaldığı olacak.