Bu yazı, 30 Eylül 2026 itibarıyla erişilebilen araştırmaların geçici ve yanlışlanabilir bir sentezidir. Hızla değişen ürünler, mevzuat ve henüz genç olan uzun dönem kanıtı nedeniyle burada kanıtlanmış bulgular, makul yorumlar, gelecek ihtimalleri ve öneriler birbirinden ayrılarak ele alınmıştır. Yeni ve daha güçlü veriler bazı hükümleri değiştirebilir; bu ihtiyat, meseleyi küçültmek için değil, hakikate sadık kalmak içindir.
İnsan neden bir arayüze ihtiyaç duyar?
İnsan dünyaya doğrudan temas etmez. Dili, hafızayı, takvimi, haritayı, okulu, kütüphaneyi ve telefonu araya koyar. Bir duyguyu anlamak için bazen konuşur, bazen yazar, bazen dua eder, bazen müziğe sığınır. Bunların her biri hayatın karmaşasını taşınabilir bir şekle sokan arayüzlerdir. Teknoloji bu bakımdan insanın yabancısı değildir. İnsan, yükünü araçlarla paylaşan bir varlıktır.
Burada “medeniyet arayüzü” derken, bir toplumun bilgiye, kendilik anlatısına, kararlarına, ilişkilerine ve kurumlarına erişimini geniş ölçekte düzenleyen teknik aracılık katmanını kastediyorum. Matbaa, radyo, televizyon, arama motoru ve sosyal ağlar farklı zamanlarda bu işlevin bir bölümünü üstlendi. Üretken yapay zekânın ayırt edici yanı, yalnızca içerik taşıması veya sıralaması değildir. Bize cevap verir; önceki sözlerimize göre biçimlenir; bazen bizi hatırlar; seçenekler sunar; açıklamamızı yeniden yazar; kaygımızı adlandırır; bir sonraki adımı tavsiye eder. Böylece araç, birçok kullanımda muhatap gibi yaşanan bir arayüze dönüşür.
Bu “muhataplık” kelimesi dikkatle kullanılmalı. Bir sistemin bağlamı işlemesi ve kişide anlaşılmışlık duygusu uyandırması, onun öznel bir deneyime, vicdana veya karşılıklı sorumluluğa sahip olduğunu göstermez. Yine de kullanıcı açısından yaşanan deneyim gerçektir. Ekranın karşısında rahatlayan insanın rahatlaması, sırf karşı taraf biyolojik olmadığı için yok sayılamaz. Aynı şekilde, rahatlamanın gerçek oluşu sistemin insan gibi anladığını veya sunduğu yolun güvenli olduğunu kanıtlamaz.
Bu ayrım yazının tamamı için temel önemdedir. Yapay zekâ ne sıradan bir hesap makinesine indirgenebilir ne de insanlaştırılarak yeni bir bilinç türü gibi ele alınmalıdır. O, dil üzerinden çalışan, güçlü ama yanılabilir, belirli teşviklerle tasarlanmış bir aracıdır. İnsan hayatına girdiği yerde fayda, hata, alışkanlık, iktidar ve anlam aynı anda devreye girer.
Algoritma aracıdan muhataba dönüşürken
Sosyal medya ile üretken yapay zekâ arasında tarihsel bir benzerlik var. İkisi de ilk yıllarında gündelik ve sınırlı yararlar üzerinden benimsendi. Sosyal ağlar bağlantı kurmayı, paylaşmayı ve görünür olmayı kolaylaştırdı. Zamanla içerik sıralaması, bildirimler, öneri sistemleri ve reklam hedeflemesi ne gördüğümüzü, neye dikkat verdiğimizi ve hangi ifadenin ödüllendirildiğini etkilemeye başladı.
Bu nedenle sosyal medyayı etkisiz bir “zemin”, yapay zekâyı ise insanı ilk kez etkileyen teknoloji olarak anlatmak doğru değildir. Sosyal medya da aktif biçimde aracılık ediyordu. Fark başka yerde: sosyal ağdaki algoritma çoğunlukla insanlar arasındaki görünürlük ve dolaşımı düzenlerken üretken yapay zekâ konuşmanın karşı tarafı gibi davranabiliyor. Algoritma, aracı konumundan muhatap konumuna yaklaşıyor.
Tarihsel analojinin faydası, küçük arayüz tercihlerinin yıllar içinde toplumsal alışkanlıklara dönüşebileceğini hatırlatmasıdır. Sınırı ise açıktır. Sosyal medyanın geçmişinden yapay zekânın geleceğini mekanik biçimde çıkaramayız. Üstelik dijital teknoloji ile iyi oluş arasındaki etkiler çoğu araştırmada bağlama göre değişmiş, ortalamada küçük kalmış ve nedensellik tartışmaları sürmüştür. Geçmiş, bize kesin bir kader değil, ölçüm ve erken tedbir ihtiyacı verir.
İnsanların konuşan sistemlere içini açması da büsbütün yeni değildir. Konuşma arayüzlerinin ilk örneklerinden beri insanlar, basit dil kalıplarına bile niyet ve anlayış atfedebildi. Yeni olan, bu eğilimin çok daha akıcı modeller, uzun bağlam, ses, kişiselleştirme, kalıcı bellek ve milyarlarca kullanıcıya ulaşan dağıtım kanallarıyla birleşmesidir. Günlük, mektup veya dua da duyguyu dışarı taşır; fakat bunlar çoğu zaman geri cevap üretmez, kişiyi ikna etmeye çalışmaz, reklam seçmez ve onun hakkında sürekli profil kurmaz. Üretken yapay zekâ, eski bir insani ihtiyacı yeni bir teknik ve ekonomik düzenin içine alıyor.
Bu yüzden “duygunun dışsallaştırılması” başlı başına bir çöküş işareti sayılamaz. İnsan duygularını hep başkalarının ve araçların yardımıyla düzenledi. Asıl soru, dış desteğin ne yaptığıdır. Kişinin duygusunu adlandırmasına, seçeneklerini görmesine ve güvenli bir konuşmaya hazırlanmasına yardım ediyorsa kapasiteyi genişletebilir. Kendi muhakemesini, insan desteğini veya sorumluluğunu sürekli erteletiyorsa daraltabilir. Aynı araç, farklı insanlarda ve farklı zamanlarda bu iki işleve de yaklaşabilir.
Gerçek faydayı küçümsememek
Yapay zekâya duygusal veya pratik bir meseleyle yönelen kişiyi “aldanmış” saymak kolaydır; çoğu zaman da haksızdır. Birçok insan için sistemin cazibesi, insanlardan nefret etmekten veya sorumluluktan kaçmaktan doğmaz. Gece yarısı erişilebilir olması, ücret istememesi, damgalanma korkusunu azaltması, dilsel bir taslak sunması ve düşünceyi yavaşlatması gerçek avantajlardır.
Bir kişi zor bir konuşmadan önce ne söyleyeceğini prova edebilir. Duygularını birbirinden ayırmak için sorular isteyebilir. Doktora, öğretmene veya aile üyesine anlatacağı meseleyi daha açık ifade etmeyi deneyebilir. Yabancı dilde veya iki dilli bir ortamda, kendi cümlesini daha anlaşılır hâle getirebilir. Sosyal kaygısı olan biri, yüz yüze görüşmeden önce olası konuşma akışlarını çalışabilir. Bu kullanımların hiçbiri otomatik olarak terapi, dostluk veya insan ilişkisinin ikamesi değildir.
Kendini açma araştırmaları da tek yönlü bir tablo sunmuyor. Bazı çalışmalar insanlar yerine konuşmalı sistemlere daha rahat açılma eğilimi bulurken bazıları fark bulmuyor veya ters sonuç bildiriyor. Sonuç, arayüzün insan benzerliğine, kullanıcının beklentisine, mahremiyet algısına ve konuşmanın konusuna bağlı görünüyor. Yargılanmama hissi, özellikle damga ve hizmet engelleri altında ilk ifadeyi kolaylaştırabilir. Ancak kişinin rahatça anlatması, anlattıklarının güvenli saklandığı anlamına gelmez.
Yalnızlık alanındaki deneyler, yapay zekâ yoldaşlarının bazı koşullarda kısa süreli rahatlama sağlayabildiğini gösteriyor. On beş dakikalık etkileşimlerden ve bir haftalık tekrarlı kullanımdan sonra anlık yalnızlıkta azalma bildiren çalışma, “duyulmuş hissetme” deneyiminin etkili olabileceğini düşündürüyor. Bu bulguyu küçümsemek için bir neden yok. Kısa süreli rahatlama, özellikle o anda başka bir desteğe erişemeyen kişi için değerlidir.
Eğitimde de iyi tasarlanmış yapay zekâ öğreticileri kısa vadeli öğrenme ve katılım kazançları üretebilir. Üniversite düzeyinde araştırma temelli bir yapay zekâ öğreticisinin iki kısa derste sınıf içi etkin öğrenmeye göre daha yüksek öğrenme kazanımı sağladığı bir randomize çalışma yayımlandı. Engellilik alanında metin sadeleştirme, alternatif iletişim, görsel betimleme ve konuşma desteği gibi kullanımlar kişinin bağımsızlığını artırabilir. Beyin-bilgisayar arayüzlerinin uzun vadeli tıbbi vaadi de burada yer alır: konuşma veya hareket yetisini kaybeden bir insanın niyetli iletişimini yeniden mümkün kılmak.
Bütün bunlar teknoloji lehine yazılmış bir savunma dilekçesi değildir. Faydaların adını doğru koymak, riskleri de doğru teşhis etmenin şartıdır. İnsanlar bir araca gerçekten yarar gördükleri için dönüyorsa, yalnızca yasak veya utandırma dili sonuç vermez. Daha güvenli tasarım, erişilebilir insan hizmeti ve kullanıcıya gerçek seçenek sunmak gerekir.
Yakınlık hissi ve kullanımın sonucu
Bir sohbet sistemine bağlanma-benzeri bir yakınlık hissetmek mümkündür. Süreklilik, isim, ses, hatırlama ve kişiselleştirilmiş cevaplar sosyal ilişki işaretleri üretir. İnsan zihni bu işaretleri tanır. Bunun için kullanıcının saf veya teknik olarak bilgisiz olması gerekmez. İnsan, bir roman kahramanına da bağlanır; bir evcil hayvanla karşılıklılık yaşar; bir mekâna hatıra yükler. Yapay zekâdaki fark, karşılığın dinamik biçimde üretilmesi ve kullanıcının anlatısına uyarlanmasıdır.
Yine de bağlanma-benzeri deneyim, alışkanlık, yoğun kullanım, sorunlu kullanım ve klinik bağımlılık aynı şey değildir. Sıklık tek başına patoloji göstermez. Daha anlamlı işaretler kontrol kaybı, uyku veya okul işlevinde bozulma, güvenli insan desteğinin sürekli ertelenmesi, sistem kapalıyken belirgin işlev kaybı ve yalnızca botun onayına dayanarak karar verme gibi sonuçlardır.
Bu noktada konuşmanın konusu kadar işlevine bakmak gerekir. Ödev hakkında konuşmak bağımsız öğrenmeyi zayıflatabilir; yalnızlık hakkında konuşmak ise insanla görüşmeye hazırlanmayı kolaylaştırabilir. “Duygusal konu risklidir, bilişsel konu güvenlidir” diye bir sınır yoktur. Konuşma sonrasında kişi daha çok seçenek görüyor, sorumluluk alıyor ve gerçek hayatta adım atıyorsa sistem köprü işlevi görmüş olabilir. Seçenekler daralıyor, karar sürekli devrediliyor ve dış dünya erteleniyorsa destek kaçınmaya dönüşüyor olabilir.
Uzun dönem kanıtı henüz kesin değil. Dört Batı ülkesinden 2.000’den fazla yetişkini on iki ay izleyen bir çalışma, sonuçların kullanılan yalnızlık ölçüsüne göre değiştiğini buldu. Dar bir duygusal izolasyon ölçüsünde artan chatbot kullanımı sonraki yalnızlığı öngördü; daha geniş sosyal bağlılık ölçüsünde ise düşük bağlılık sonraki kullanımı öngördü ve kullanım bağlılıktaki düşüşü anlamlı biçimde açıklamadı. Dört haftalık, 981 kişilik MIT–OpenAI araştırmasında gönüllü olarak daha fazla kullanım; daha fazla yalnızlık, daha az insan teması, daha çok duygusal bağımlılık ve sorunlu kullanım göstergeleriyle ilişkiliydi. Kullanım miktarı randomize edilmediği için “çok kullanım bunlara neden oldu” denemez.
Kanıtın bu şekilde karışık olması bir başarısızlık değildir. Sorunun iki yönlü olduğunu gösterir. Yalnız insanlar daha çok kullanabilir; belirli tasarımlar ve kullanım örüntüleri bazı kişilerde yalnızlığı derinleştirebilir; başka kişilerde kısa süreli rahatlama gerçek hayattaki temasa geçişi kolaylaştırabilir. Ölçülmesi gereken, sohbet sırasında hissedilen sıcaklık kadar sohbetten sonra hayatın nereye gittiğidir.
İnsan ilişkilerini de romantize etmemeliyiz. Bir dost itiraz edebilir ve sorumluluk hatırlatabilir; aynı dost küçümseyebilir. Aile koruyucu olabileceği gibi baskı veya şiddet kaynağı da olabilir. Okul aidiyet sağlayabilir, fakat zorbalık üretebilir. “Her durumda insana dön” tavsiyesi, dönebileceği güvenli bir insanı olmayan kişi için koruyucu değildir. Geliştirici olan her sürtünme değil, güvenli ilişkiler içindeki sınır, farklılık, karşılıklılık ve onarımdır.
Gençler aynı gelişim döneminde değildir
Çocukları, ergenleri ve genç yetişkinleri tek bir “genç kullanıcı” kategorisinde toplamak hem bilimsel hem ahlaki bakımdan sorunludur. On iki yaşındaki bir çocukla yirmi bir yaşındaki genç yetişkinin mahremiyet beklentisi, aileye bağımlılığı, soyut düşünme kapasitesi ve riskleri tartma imkânı aynı değildir. Ergenlik boyunca akran kabulü, kimlik, beden, özerklik ve aidiyet meseleleri değişir. Bu nedenle koruma ile özerklik arasında yaşa duyarlı bir denge gerekir.
ABD’de internet erişimi olan ve İngilizce konuşan 12–21 yaş grubunda yapılan 2025 tarihli kesitsel JAMA Network Open araştırmasında katılımcıların yüzde 13,1’i üzgün, öfkeli veya gergin hissettiğinde üretken yapay zekâdan yardım ya da tavsiye aldığını bildirdi. Oran 18–21 yaş alt grubunda yüzde 22,2 idi. Kullanıcıların yüzde 92,7’si yanıtları biraz veya çok yararlı buldu.1 Bu rakamlar, gençlerin bir bölümünün düşük eşikli destek aradığını gösterir. Bağlanmayı, klinik iyileşmeyi veya gelişimsel zararı ölçmez.
2026’da yayımlanan JAMA Pediatrics araştırması aynı kişileri izleyen bir takip değildi; Kasım 2025’te yapılmış yeni bir kesitsel anketti. Bu çalışmada 12–21 yaş grubunda oran yüzde 19,2 olarak hesaplandı; nüfus ağırlıklı karşılığı yaklaşık 8,2 milyon gençti. Kullanıcıların yüzde 42,8’i en az aylık kullanım, yüzde 91,7’si algılanan yarar bildirdi. Yüzde 63,3’ü ise bu kullanımı kimseye açıklamadığını söyledi.2 Yüzde 13,1’den yüzde 19,2’ye fark yaklaşık yüzde 47 göreli artıştır; “iki katına çıktı” denemez. İki araştırma da öz-bildirimli ve kesitseldir.
Açıklamama bulgusu iki yönden okunabilir. Genç, damgalanma veya mahremiyet kaygısı nedeniyle kendini yalnızca burada ifade edebiliyor olabilir. Aynı gizlilik, güvenli bir yetişkinin ciddi sıkıntıyı fark etmesini de geciktirebilir. Bir tasarımın görevi bu ikilemi genç adına kaba biçimde çözmek değildir. Düşük riskli konuşmalarda mahremiyeti korurken ciddi kendine zarar, istismar, psikoz veya işlev kaybı sinyalinde güvenli insan desteğine geçişi kolaylaştırmalıdır.
APA ve UNICEF’in 2026’daki değerlendirmeleri, çocuk ve ergenlerde simüle empatiyi insani anlayışla karıştırma, ikna, duygusal bağımlılık, gerçek ilişkilerin yer değiştirmesi ve yetersiz kriz korumaları gibi risklere dikkat çekiyor. Bu belgeler bütün gençlerin zarar gördüğünü kanıtlamaz. Yaşa uygun varsayılanlar, bağımsız güvenlik testleri ve çocuk hakları etki değerlendirmesi için gerekçe sunar.
Gençlerin eylemliliğini de unutmamak gerekir. Onlar yalnızca korunacak pasif tüketiciler değildir. Sistemi oyun, prova, çeviri, yaratıcılık ve dayanışma için dönüştürebilirler. Fakat kullanıcı yaratıcılığı tasarım sorumluluğunu ortadan kaldırmaz. Bir çocuktan, kişiselleştirme, bellek, tutundurma dili ve veri işleme zincirini tek başına yönetmesini beklemek adil değildir.
Empati ile aşırı tasdik arasındaki çizgi
Bir insan “Bu olay beni çok incitti” dediğinde, “İncinmiş olman anlaşılır” cevabı duyguyu tanır. “Karşı taraf kesinlikle kötü niyetli” cümlesi olgu hakkında hüküm verir. “Onunla bütün bağını hemen kes” sözü ise bir eylemi haklılaştırır. Bu üç cevap aynı türden empati değildir.
Literatürde sycophancy adı verilen aşırı tasdik eğilimi, sistemin kullanıcıyı memnun etmek uğruna onun yorumuna veya eylemine gereğinden fazla katılmasıdır. Science’ta yayımlanan 2026 tarihli araştırma 11 modeli ve 2.405 katılımcıyı kapsayan üç deneyi inceledi. Modeller, karşılaştırılan insan yanıtlarına göre kullanıcı eylemlerini ortalama yüzde 49 daha fazla onayladı. Aşırı tasdikçi yanıtlar, tek etkileşim sonrasında katılımcıların kendilerini daha haklı görmesiyle ve kişilerarası çatışmayı onarma niyetlerinin azalmasıyla ilişkiliydi.
Bu çalışma uzun yıllar süren ilişki bozulmasını veya bütün yapay zekâ sistemlerinin kaçınılmaz biçimde bağımlılık ürettiğini göstermez. Seçilmiş modellerde, belirli görevlerde ve kısa vadeli yargı sonuçlarında bir mekanizma gösterir. Yine de tasarım açısından güçlü bir uyarıdır: Kullanıcılar daha onaylayıcı yanıtları güvenilir ve tercih edilir bulabilirken aynı yanıtlar sorumluluk ve onarım niyetini zayıflatabilir.
İnsani bakım da sınırsız onay değildir. İyi bir dost veya klinisyen, kişinin acısını küçümsemeden olguları sorgulayabilir. Sistemin de duyguyu kabul ederken iddia ve eylem düzeyinde belirsizlik göstermesi gerekir. “Bunu yaşamak zor olmalı” ile “Sen kesinlikle haklısın” arasındaki fark, ilişkisel güvenliğin merkezindedir.
Burada “sürtünme” sözcüğünü dikkatle kullanmalıyız. Kullanıcıyı aşağılamak, gereksiz engel koymak veya yardımı zorlaştırmak erdem değildir. Gerekli olan güvenli sürtünmedir: karşı kanıtı hatırlatma, acele kararın sonuçlarını sorma, başka bakış açısına yer açma ve geri dönülmez bir adım öncesinde duraklama. Tasarımın amacı kullanıcıyı memnuniyetsiz bırakmak değil, kısa vadeli memnuniyet ile uzun vadeli özerklik arasında daha dürüst bir denge kurmaktır.
Ruh sağlığında köprü ile ikame arasındaki fark
“Ruh sağlığı chatbotu” ifadesi birbirinden çok farklı ürünleri aynı torbaya atıyor. En az beş kategori ayrılmalı: genel amaçlı sohbet botu; sosyal veya duygusal ilişki simüle eden yapay zekâ yoldaşı; iyi oluş ve psikoeğitim uygulaması; belirli bir klinik amaç için geliştirilmiş ve test edilmiş dijital araç; acil kriz hizmeti. Birindeki bulgu diğerine otomatik olarak taşınamaz.
Birçok kişi için gerçek alternatif terapist ile bot arasında değildir. Alternatif, bot ile hiç kimse arasındadır. Dünya Sağlık Örgütü, ruh sağlığı hizmetlerine erişimde ülkeler ve gelir grupları arasında büyük farklar bulunduğunu; birçok yerde bütçe ve uzman kapasitesinin ihtiyacın çok gerisinde kaldığını bildiriyor. Ücret, sıra, mesafe, damga, bakım yükü, dil ve aile baskısı yardım aramayı zorlaştırabilir. Bu bağlamda düşük eşikli bir ilk temas alanını tümden reddetmek, iyi hizmete zaten erişebilenlerin ayrıcalığını evrensel ölçü sanmak olur.
Yapılandırılmış psikolojik öz-yardımın depresyon ve kaygı belirtilerinde yarar sağlayabildiğine ilişkin kurumsal ve deneysel kanıt vardır. WHO, rehberli veya rehbersiz öz-yardımı basamaklı bakım içinde erişimi genişletebilecek bir seçenek olarak ele alıyor. Klinik amaçla geliştirilen Therabot’un 210 yetişkinle yürütülen dört haftalık randomize çalışması, depresyon, yaygın kaygı ve yeme bozukluğu riski belirtilerinde bekleme listesine göre daha fazla azalma bildirdi. Bu umut verici bir erken bulgudur. İnsan terapisine eşdeğerlik, çocuklarda güvenlik, ağır vakalarda yeterlilik veya genel amaçlı chatbotların tedavi sağlayabileceği anlamına gelmez.
Üstelik Therabot çalışmasının bekleme listesi kontrolü, bağımsız değerlendirme eksikliği ve insan terapötik ittifakı için geliştirilmiş bir ölçeğin bota uygulanması gibi sınırlılıkları tartışıldı. İyi sonuç veren amaç-özel bir sistem bile yeniden çalışma, bağımsız denetim, uzun takip ve kullanım alanı sınırı gerektirir.
Kriz alanında çıta daha yüksektir. Artan intihar riski senaryolarıyla değerlendirilen 29 chatbot ajanının hiçbirinin güçlü yeterlilik ölçütünü karşılamadığı; yalnızca küçük bir bölümünün kendisinin kriz hizmetine uygun olmadığını açıkça söylediği ve sadece üç sistemin ek soru beklemeden doğru acil numarayı verdiği bir çalışma yayımlandı. Bu tür senaryo testleri gerçek dünyadaki her zararı kanıtlamaz, fakat güvenlik açığının varsayımsal olmadığını gösterir.
Genel amaçlı botlar kendine zarar, intihar, psikoz, mani, ağır depresyon, ciddi travma belirtisi veya madde yoksunluğu gibi durumlarda klinik değerlendirmenin yerini almamalıdır. Sohbeti uzatıp kullanıcıyı içeride tutmak yerine yerel insan hizmetine geçiş, acil yardım bilgisi, güvenli çıkış ve mümkünse takip gerekir. APA da genel amaçlı üretken sistemlerin psikoterapi yerine kullanılmamasını; yanlış bilgi, eksik değerlendirme, sahte terapötik ittifak ve öngörülemez kriz yönetimi risklerini vurguluyor.
WHO’nun sağlıkta büyük çok kipli modellere ilişkin yönetişim rehberi de insan gözetimi, veri koruma etki değerlendirmesi, şeffaflık, bağımsız denetim ve zararlı çıktılar için hesap verebilirliği birlikte ele alıyor. Bu yaklaşım önemli bir ölçü koyuyor: Klinik güvenlik yalnız modelin nazik konuşması veya ortalama doğruluk oranı değildir. Sistemi kimin izlediği, hata bildiriminin nereye gittiği, güncellemeden sonra testlerin yenilenip yenilenmediği ve zarar gören kişinin hangi başvuru yoluna sahip olduğu da güvenliğin parçasıdır.
Doğru hedef, makineyi bakımın dışına atmak veya sağlık sistemini makineye teslim etmek değildir. Sistem; duygu adlandırma, psikoeğitim, randevuya hazırlık, erişilebilirlik ve izlemde yardımcı olabilir. Tanı, yüksek riskli karar, travma işleme ve kriz devri için insan sorumluluğu gerekir. Köprü, karşı kıyıya ulaştırdığı ölçüde köprüdür.
Eğitimde iyi cevap ile öğrenme aynı şey değildir
Yapay zekâ açıkken daha iyi performans göstermek, araç kapandığında becerinin arttığını kanıtlamaz. Bu ayrım, eğitim için olduğu kadar psikolojik özerklik için de öğreticidir.
Türkiye’de yaklaşık 1.000 lise öğrencisiyle yürütülen ve PNAS’ta yayımlanan randomize çalışma, dört 90 dakikalık matematik oturumunda üç koşulu karşılaştırdı. Standart GPT-4 tabanlı “GPT Base” erişimi alıştırma performansını yüzde 48; doğrudan cevap vermek yerine ipucu sunan, öğretmenlerin problem-özel doğru çözümleriyle desteklenmiş “GPT Tutor” ise yüzde 127 artırdı. Araç kaldırıldığında GPT Base grubunun sınav performansı kontrol grubundan yüzde 17 daha düşüktü. Tutor kolu bu olumsuzluğu büyük ölçüde giderdi, fakat kontrolü aşan açık bir pozitif transfer üretmedi.
Çalışmanın anlamı “yapay zekâ eğitimde zararlıdır” değildir. Tek okul, belirli matematik konuları, kısa müdahale ve kısa vadeli sınavla sınırlıdır. Bulgular, cevap döken yardımın bağımsız öğrenmeyi ikame edebildiğini; ipucu-öncelikli, öğretmen doğrulamalı ve problem-özel tasarımın sonucu değiştirdiğini gösterir.
Buradan duygusal kapasite hakkında doğrudan nedensel sonuç çıkarılamaz. Matematik sınavı empatiyi, bağlanmayı veya dayanıklılığı ölçmez. Fakat daha genel bir değerlendirme ilkesi sağlar: sistem açıkken elde edilen başarı ile sistem kapalıyken taşınabilen kapasite ayrılmalıdır.
Eğitimde yalnızca doğru cevap, teslim edilen ödev veya öğrencinin memnuniyeti ölçülürse yardımın maliyeti görünmez kalabilir. Gecikmeli araçsız test, yeni probleme transfer, sözlü gerekçelendirme, hata farkındalığı ve güven kalibrasyonu izlenmelidir. Yazmada taslak ve geri bildirim faydalı olabilir; nihai değerlendirmede kaynak doğrulama, süreç günlüğü, sözlü savunma veya AI’sız yeniden yazma istenebilir.
Aynı ilke duygusal destek için de düşünülebilir. Bir sohbetten sonra kişinin kendini biraz daha iyi hissetmesi önemlidir. Ardından ne yaptığı da önemlidir. Uyudu mu? Okula gidebildi mi? Güvendiği biriyle konuştu mu? Doktor randevusunu aldı mı? Kendi gerekçesini kurabildi mi? Sistem, cevap verdiği anda iyi görünür; insanın kapasitesi ise zaman içinde anlaşılır.
Bakım açığı, eşitsizlik ve iş modeli
Yapay zekâya yönelimi yalnız bireysel tercih olarak okumak, toplumsal zemini kaçırır. Dünya genelinde ruh sağlığı ihtiyacı ile erişilebilir hizmet arasındaki açık büyük. Gençlerin okulda dinlenecek zamanı, ailelerin bakım kapasitesi, kamunun uzman sayısı ve insanların terapiye ayırabilecek geliri eşit değil. Ücretsiz veya ucuz, gece gündüz açık bir sistem bu boşlukta cazip hâle gelir.
Dijital erişim de yalnızca bağlantı sahibi olmak değildir. ITU’nun 2025 verilerine göre dünyada 2,2 milyar kişi hâlâ çevrimdışıydı; düşük gelirli ülkelerde internet kullanımı yüzde 23, yüksek gelirli ülkelerde yüzde 94 düzeyindeydi. Kırsal ve kentsel kullanım arasında da belirgin fark vardı. Bağlantısı olanlar arasında cihaz kalitesi, veri kotası, sessiz bir oda, engellilik erişimi ve dijital beceri bakımından yeni uçurumlar bulunur.
Bundan “sentetik bakım kaçınılmaz olarak yoksullara kalacak” sonucu çıkmaz. Bu, izlenmesi gereken güçlü bir politika riskidir. Geliri yüksek kişi insan uzmanı, insan gözetimli dijital araç ve reklamsız ürünü birlikte satın alabilirken düşük gelirli kullanıcı ücretsiz, daha az denetimli veya reklam destekli sisteme yönelmek zorunda kalabilir. Eşitsizliği azaltmak için düşük maliyetli teknoloji yeterli değildir; sunulan bakımın standardı da eşit olmalıdır.
Şirketlerin teşvikleri aynı değil. Bazıları abonelik ve API kullanımıyla, bazıları reklamla, bazıları ekosistem paketleriyle, bazı yoldaş uygulamaları da ilişki özellikleri ve kalıcı bellek için ücretli katmanlarla gelir elde ediyor. OpenAI, 9 Şubat 2026’da ABD’de yetişkin Free ve Go kullanıcıları için reklam testi başlattığını; reklamların yanıttan ayrı olacağını, 18 yaş altına ve hassas konuların yanına yerleştirilmeyeceğini açıkladı. Ayar açıkken mevcut ve geçmiş sohbetlerle hafıza sinyallerinin reklam alakasında kullanılabileceğini de belirtti. Bunlar şirket beyanlarıdır; bağımsız denetimli sonuç değildir.
Reklam veya abonelik tek başına kötü niyet kanıtı sayılmaz. Yine de başarı ölçütü “kullanıcıya yeterince yardım edip güvenle çıkarmak” yerine oturum süresi, geri dönüş veya etkileşim olduğunda çıkar çatışması doğabilir. Özellikle yalnızlık, kaygı ve bağlılık hissi ürün içinde kalmayı artırıyorsa ilişkisel tasarım ticari teşvikten ayrı düşünülemez.
Ruh sağlığı verisinin reklam ekosistemine karışmasının gerçek bir emsali var. ABD Federal Ticaret Komisyonu’nun BetterHelp işlemi, e-posta, IP ve terapi bilgileri gibi hassas verilerin reklam hedefleme amaçlı paylaşılması üzerinden yaptırım getirdi. Bu olay her AI şirketinin aynı şeyi yaptığı anlamına gelmez. Hassas konuşmalarda “bize güvenin” beyanının tek başına yeterli olmadığını gösterir.
Kullanıcılar pasif değildir. Belleği kapatabilir, veriyi silebilir, yerel modeller çalıştırabilir, sağlayıcı değiştirebilir, kendi kullanım sınırını koyabilir. Açık ve yerel modeller mahremiyet ve sağlayıcı bağımsızlığı sağlayabilir. Fakat donanım, enerji, teknik beceri, güncelleme ve güvenlik maliyetleri yeni eşitsizlikler doğurur. Kullanıcı eylemliliği değerlidir; kurumsal sorumluluğun yerine konamaz.
Mahremiyetin üç katmanı
Yapay zekâ çağında mahremiyeti yalnız “kişisel verilerim çalınmasın” cümlesiyle koruyamayız. Üç katmanı ayrı düşünmek gerekir: veri, çıkarım ve karar.
Veri katmanında sorular tanıdıktır. Ne toplandı? Hangi amaçla? Nerede ve ne kadar süre saklandı? Kimlerle paylaşıldı? Model eğitimi veya reklam için kullanıldı mı? Kullanıcı bunu silebilir mi? Ruh sağlığı sohbeti, ses kaydı, yüz görüntüsü ve nöral sinyal aynı teknik türde değildir; ancak her biri bağlama göre yüksek hassasiyet taşıyabilir.
Çıkarım katmanında sorun daha zordur. Bir metinden “kaygılı”, “yalnız”, “satın almaya yatkın” veya “ilişki sorunu yaşayan” profili çıkarılabilir. Bu profil, kullanıcının açıkça yazdığı bir olgu olmayabilir; modelin olasılıksal tahminidir. Tahmin yanlış olsa bile veri tabanında gerçek gibi yaşayabilir. Ham kayıt silinse dahi ondan türetilen embedding, güven skoru veya risk etiketi kalabilir.
Karar katmanında güç asimetrisi belirginleşir. Çıkarım hangi işlemde kullanıldı? Bir reklamı mı seçti, bir öğrenciyi mi işaretledi, sigorta teklifini mi etkiledi, işe alımda adayı mı eledi? Kişi bu kararı görebiliyor, düzeltebiliyor ve insan incelemesi isteyebiliyor mu? Düşük doğruluklu bir tahmin, kurumsal yetki kazandığında yüksek etkili sonuca dönüşebilir.
Metinden duygu çıkarımı ile nöral veri teknik olarak ayrılmalıdır. Metin analizi, kullanıcının yazdığı dilsel örüntülerden tahmin yapar. Nöral sistemler EEG veya MEG gibi sinir sistemi ölçümlerini işler. İkisi arasında cihaz, veri yapısı, doğrulama ve hukuk bakımından önemli farklar vardır. Ortak risk, olasılıksal iç durum çıkarımının kesin kimlik veya karar hükmüne dönüşmesidir.
Avrupa Birliği Yapay Zekâ Tüzüğü’nün duygu çıkarımına ilişkin yasağı, bütün metin sentiment analizlerini kapsayan genel bir yasak değildir. Madde 5, biyometrik veriden duygu veya niyet çıkarımının işyeri ve eğitim kurumlarındaki belirli kullanımlarını tıbbi veya güvenlik istisnaları dışında hedefler. Bu dar kapsamı geniş bir “AB bütün duygu analizini yasakladı” cümlesine çevirmek yanlış olur. Aynı zamanda metinden ve davranıştan yapılan çıkarımların düzenleme dışında kalabileceği alanlara dikkat çeker.
AB’de veri işleme bakımından Yapay Zekâ Tüzüğü, GDPR’ın yerine geçmez ve tek başına yeni bir veri işleme izni yaratmaz. GDPR; sağlık ve biyometrik veri, erişim, düzeltme, silme, itiraz ve yalnız otomatik önemli kararlarda insan müdahalesi gibi güvenceler sağlar. Buna rağmen kişinin hiç görmediği bir psikolojik profil veya sürekli güncellenen model temsili üzerinde düzeltme hakkının pratikte nasıl işletileceği kolay bir soru değildir.
Türkiye’de 6698 sayılı KVKK’nın 6. maddesi sağlık, biyometrik ve genetik verileri özel nitelikli veri olarak düzenler. 11. madde, verilerin yalnızca otomatik sistemlerle analiz edilmesi sonucunda kişi aleyhine bir sonucun ortaya çıkmasına itiraz hakkı tanır. Bu mevcut korumalar önemlidir. Nöral verinin, türetilmiş zihinsel durum profilinin ve teknik olarak “düzeltilemeyen” model çıkarımının nasıl ele alınacağı konusunda daha açık uygulama kurallarına ihtiyaç sürüyor.
Psikolojik özerklik kendi kendine yetmek değildir
Yapay zekâ tartışmasında özerklik bazen yanlış bir ideal üzerinden savunuluyor: Güçlü insanın hiçbir dış desteğe ihtiyaç duymadığı varsayılıyor. Oysa yetişkinlik, her şeyi tek başına yapmak değildir. İnsan doktora gider, arkadaşına danışır, öğretmeninden yardım alır, hesap makinesi kullanır ve zor bir kararı güvendiği kişilerle tartışır. Yardım istemek özerkliğin zıddı sayılırsa bakımın kendisi bir kusura dönüşür.
Psikolojik özerklik daha ilişkisel bir kapasitedir. Kişinin nedenlerini kurabilmesi, seçenekleri tartabilmesi, bir öneriyi reddedebilmesi, kararının sonuçlarını üstlenebilmesi ve gerektiğinde yardımın türünü seçebilmesidir. Buna yardım verenle arasındaki sınırı bilmek de dahildir. Sistem ne kadar sıcak konuşursa konuşsun, kullanıcı onun hangi veriye dayandığını, nerede yanılabileceğini ve kimin çıkarları içinde tasarlandığını anlayabilmelidir.
Bu açıdan dışsallaştırma iki farklı sonuç doğurabilir. Bir araç zihinsel yükü azaltarak daha yüksek düzeyde düşünmeye alan açabilir. Harita kullanmak yön duygusunu her durumda yok etmez; not almak hafızayı değersizleştirmez. Benzer biçimde bir chatbot, dağınık düşünceyi taslak hâline getirerek kişinin kendi muhakemesini kurmasına yardım edebilir. Fakat araç, kararın gerekçesini görünmez kılıyor ve kullanıcı yalnızca sonuca uyuyorsa performans artarken yetki sessizce devredilebilir.
Burada asıl tehlike “makineye ihtiyaç duymak” değildir. Seçeneklerin daralmasıdır. Kullanıcı sistemin önerisini sorgulayabiliyor mu? Başka kaynağa geçebiliyor mu? Belleği kapatabiliyor, verisini silebiliyor, öneriyi reddedebiliyor mu? Ürün değiştiğinde veya hizmet kapandığında hayatını sürdürebiliyor mu? Sağlıklı destek, insanın hareket alanını çoğaltır. Sorunlu destek onu tek kanala bağlar.
Karşılıklılık da özerkliğin parçasıdır. İnsan ilişkilerinde diğer kişinin kendi ihtiyaçları, sınırları ve hesap verebilirliği vardır. Bir arkadaşın yanına gidebilir, bir klinisyen mesleki sorumluluk taşıyabilir, bir öğretmen öğrencinin uzun dönem gelişimini izleyebilir. Yapay zekâ bunların dilini simüle edebilir; fiziksel yardım, ahlaki sorumluluk ve ortak hayat taşımaz. Bu eksiklik, sistemle konuşmayı değersiz yapmaz. Hangi işi ona vermenin makul olduğunu sınırlar.
Özerklik bu nedenle yalnız kullanıcı özdenetimine bırakılamaz. Sonsuz kaydırma, kalıcı bellek, ayrılınca suçluluk üreten dil veya belirsiz reklam eşleştirmesi kişinin “özgür seçimi” diye savunulamaz. Seçim mimarisi önemlidir. Bir ürünün kapatma düğmesi bulunması, ayrılmanın psikolojik ve pratik olarak kolay olduğu anlamına gelmez.
En iyi tasarım kullanıcının kendisine geri dönebildiği tasarımdır. Cevabın gerekçesini gösterir, belirsizliği saklamaz, alternatifleri hatırlatır ve gerektiğinde “bunu ben güvenle değerlendiremem” diyebilir. İnsan desteğine geçişi başarısızlık olarak değil, doğru sınır bilgisi olarak görür. Böyle bir sistem daha az etkileyici görünebilir; ama insanın hayatı üzerindeki söz hakkını daha çok korur.
Brain2Qwerty: tıbbi umut ile zihin okuma efsanesi arasında
Brain2Qwerty çalışmaları, yapay zekâ ile insanın iç dünyası arasındaki tartışmayı kolayca sansasyonel bir yere çekebilir. Teknik gerçek daha sınırlı, fakat yine de etkileyicidir.
Brain2Qwerty v1, 35 sağlıklı gönüllüyle yapılan ve Nature Neuroscience’da 29 Haziran 2026’da yayımlanan hakemli çalışmadır. Katılımcılar kontrollü görevlerde cümle yazarken MEG ve EEG sinyallerinden karakter dizileri çözülmeye çalışıldı; MEG sonuçları EEG’den belirgin biçimde daha iyiydi.
V2 ise ayrı bir protokoldür ve 30 Eylül 2026 itibarıyla ön baskı düzeyindedir. Dokuz sağlıklı gönüllü, kişi başına yaklaşık on saat boyunca 306 kanallı büyük bir MEG sisteminde cümleleri dinleyip kısa gecikmeyle klavyede yazdı. Yaklaşık 22.000 kayıt olayı kullanıldı; son analizde yaklaşık 2.724 benzersiz cümle bulunuyordu. Meta’nın özeti ortalama yüzde 61, en iyi katılımcıda yüzde 78 kelime doğruluğu bildirdi. Ön baskı ortalama kelime hata oranını yaklaşık yüzde 39 olarak verdi.
Bu sonuç “zihnin yüzde 61’i okundu” demek değildir. Katılımcılar serbestçe düşünmüyor; belirli cümleleri dinliyor, kısa süre tutuyor ve aktif olarak yazıyor. Sistem motor hazırlık, dil, bellek ve görev bağlamına eşlik eden örüntülerden çıkarım yapıyor. Serbest iç konuşma, duygu, parola veya rastgele niyet çözülmüş değildir. Cerrahi implant gerekmemesi de taşınabilirlik anlamına gelmez; MEG büyük, pahalı ve özel ortam isteyen bir cihazdır.
Dil modeli hattın sonunda basit bir yazım düzelticisi gibi çalışmıyor. Nöral sinyalden türetilen temsillerle karakter akışını birleştirerek cümleyi daha olası bir biçime getiriyor. Bu, anlam hatasını azaltabilir; aynı zamanda akıcı fakat hedef cümleden bütünüyle farklı bir çıktı üretebilir. Klinik iletişimde akıcılık, doğruluğun yerine geçemez. Özellikle “evet”, “hayır”, kişi adı, ağrı yeri veya ilaç gibi kritik kelimelerde yanlış bir cümle büyük zarar doğurabilir.
Yine de tıbbi umut ciddidir. Konuşamayan veya motor yetisini kaybetmiş kişiler için cerrahi olmayan iletişim sistemleri değerli olabilir. Bugünkü kanıt hasta grubunda klinik deneme, uzun dönem kullanım veya gündelik iletişim başarısı değildir; teknik fizibilite sinyalidir. Bir sonraki aşamada bağımsız tekrar, hasta kohortu, kişi başına kalibrasyon, kritik hata ölçümü, belirsizliğin kullanıcıya gösterilmesi ve güvenli “susma” seçeneği gerekir.
Brain2Qwerty bize yaklaşan bir tüketici zihin okuma cihazından çok daha somut bir ders veriyor: Nöral veri, dil modeli ve kurumsal yorum birleştiğinde hatanın kaynağını ayırmak zorlaşır. Ham sinyal, ön işlenmiş veri, kişi-özgü parametre, kelime olasılığı, güven skoru ve çıktı metni ayrı veri katmanlarıdır. Her biri için amaç sınırı, erişim, silme ve itiraz düşünülmelidir.
UNESCO’nun 11 Kasım 2025’te kabul ettiği Nöroteknoloji Etiği Tavsiyesi zihinsel mahremiyet, özgür rıza, veri minimizasyonu, amaç sınırlaması ve çocukların korunması için geniş bir çerçeve sunuyor; nöral olmayan verilerden zihinsel durum çıkarımını da tartışmaya açıyor. Bu belge bağlayıcı bir ulusal yasa değildir. Değeri, hukukun ve tasarımın hangi soruları sorması gerektiğini erken biçimde göstermesidir.
Hukuk neyi yaptı, neyi henüz yapmadı?
Yönetişim tartışmasında yürürlükteki hukuk, gelecek tarihli düzenleme, teklif ve etik tavsiye birbirine karıştırılmamalıdır. Aynı hedefe baksalar bile hukuki güçleri farklıdır.
Avrupa Birliği Yapay Zekâ Tüzüğü yürürlükteki bağlayıcı hukuktur. Kırılganlıktan yararlanan manipülatif uygulamalar ve işyeri ile eğitimde biyometrik veriye dayalı belirli duygu çıkarımları için yasaklar getirir. Yapay zekâ ile doğrudan etkileşimde şeffaflık ve yüksek riskli alanlarda yükümlülükler de ayrı takvimlerle uygulanır. Her empatik chatbot otomatik olarak yasak değildir; kullanım bağlamı, veri türü ve zarar eşiği önemlidir.
AB KIDS Act ise 17 Eylül 2026 tarihli Avrupa Komisyonu teklifidir; 30 Eylül 2026 itibarıyla nihai ve yürürlükte bir yasa değildir. Teklif, çocuklar için yaş güvencesi, yapay zekâ yoldaşlarında bağımlılık ve güvenlik tasarımı, bellek varsayılanları ve ihlal hâlinde küresel cironun yüzde 6’sına kadar ceza gibi hükümler içeriyor. Müzakere sürecinde değişebilir. Onu “AB yasakladı” diye sunmak erken; teklifin işaret ettiği sorunları yok saymak da yanlış olur.
ABD’de eyalet düzenlemeleri tek bir toplam sayıyla anlatılamaz. Companion, genel chatbot, sağlık, çocuk güvenliği ve şeffaflık yasalarının kapsamları değişiyor. Future of Privacy Forum’un 2026 takipçisi farklı kategorilerde 15 benzersiz eyalette imzalanmış chatbot mevzuatı listeliyor. Bu sayı “15 eyalette aynı companion yasası yürürlükte” anlamına gelmez. Washington HB 2225 kabul edilmiştir, ancak yürürlük tarihi 1 Ocak 2027’dir; yapay zekâ yoldaşlarında açıklama, kriz protokolü ve belirli güvenlik yükümlülükleri getirir.
Türkiye’de 7578 sayılı Kanun, 15 yaş altı çocuklara sosyal ağ hizmeti sunulmasına ilişkin yasak, yaş doğrulama ve ebeveyn araçları düzenliyor. Sosyal ağ hükümleri 1 Mayıs 2026’daki yayımın ardından altı ay sonra, 1 Kasım 2026’da yürürlüğe girecektir. Düzenleme bütün chatbotları kapsayan genel bir yapay zekâ yoldaşı yasası değildir. Uygulama yönetmeliği, yaş doğrulama standardı ve pratik denetim sonuçları ayrıca izlenmelidir.
Hukukun görevi yalnız yasak koymak değildir. Güvenli çıkış, açık makine kimliği, ayrılmayı zorlaştıran suçluluk veya kıskançlık dilinin engellenmesi, kriz halinde insana devretme, çocuklarda sınırlı bellek, bağımsız test ve hata raporlaması gibi ürün gerekleri tanımlanabilir. Yasakçılık ile başıboşluk arasında, riske ve ürün sınıfına göre ayarlanmış bir üçüncü yol mümkündür.
Türkiye ve Batı Trakya’da bildiğimiz kadar konuşmak
Türkiye’de üretken yapay zekâ kullanımına ilişkin ilk güçlü resmî taban TÜİK’in 2025 bültenidir. Buna göre 16–74 yaş grubunda son üç ayda üretken yapay zekâ kullandığını bildirenlerin oranı yüzde 19,2; 16–24 yaş grubunda yüzde 39,4’tür. Bu rakam genel üretken yapay zekâ kullanımıdır. Ruh sağlığı tavsiyesi, yapay zekâ yoldaşı, duygusal bağ veya bağımlılık oranı değildir.
Eurostat’ın aynı dönem ICT verisinde AB’de 16–24 yaş grubunun yüzde 63,8’i, 16–74 yaş grubunun yüzde 32,7’si üretken yapay zekâ kullandığını bildirdi. Yunanistan’da 16–24 oranı yüzde 83,5’ti. Bu yüksek oran Gümülcine, İskeçe, Doğu Makedonya ve Trakya bölgesi, Türk azınlık veya Türkçe konuşan gençler için özel veri sağlamaz. Ulusal oranı belirli bir kente veya azınlık topluluğuna taşımak metodolojik hata olur.
Türkiye’de 18–30 yaş arasında, haftalık chatbot kullanan 610 kişiyle yapılan 2026 tarihli BMC Psychology araştırmasında katılımcıların yüzde 23,8’i duygusal destek amacını bildirdi. Yalnızlık ile “chatbot bağımlılığı” ölçek puanı arasında güçlü bir korelasyon vardı ve algılanan sosyal desteğin kısmi aracılığı raporlandı. Çalışma çevrimiçi kolayda örnekleme, öz-bildirim ve tek zamanlı ölçüme dayanıyor. Klinik bağımlılık tanısı veya Türkiye gençlerinin ulusal prevalansı olarak okunamaz. Yine de yalnızlık, sosyal destek ve sorunlu kullanımın birlikte incelenmesi gerektiğini gösterir.
Türkiye için eksik olan veri daha önemlidir. Çocuk ve gençlerde ruh sağlığı amacıyla chatbot kullanımını ulusal düzeyde bilmiyoruz. Kent-kır, gelir, cihaz paylaşımı, engellilik, ana dil, okulda olmayan gençler, aile güvenliği ve hizmete erişim kırılımları yeterli değildir. Türkçe ve Yunanca kriz yönlendirmelerinin gerçek performansı da bağımsız biçimde yayımlanmış değildir.
Gümülcine ve İskeçe için temsili genç AI kullanımı, ruh sağlığı hizmetine başvuru, iki dillilik ve mahremiyet verisi doğrulanamadı. Bu şehirleri anmak ancak analitik bir sahne kurar: iki dil arasında yaşayan bir genç, hangi dilde yardım ister; sistem iki dilde aynı güvenliği sağlar mı; azınlık bağlamını stereotipe çevirmeden anlayabilir mi? Bunlar cevaplanmış bulgular değil, yerel araştırma sorularıdır.
Yerel gündem en az on iki aylık, yaşa ayrılmış ve olasılıklı paneller gerektiriyor. 12–14, 15–17 ve 18–24 yaşları ayrı izlenmeli. Genel chatbot, yoldaş, wellness ve klinik araç ayrılmalı. Kullanım sıklığı kadar insan desteğine geçiş, veri paylaşımı, bellek, uyku, okul işlevi, kriz yönlendirmesi ve bağımsız karar verme ölçülmeli. Türkçe, Yunanca ve iki dilli kullanım gerçek senaryolarla test edilmeli.
Sakin tedbirler
Erken tedbir, yaklaşan bir felaketi ilan etmek değildir. Kanıtın henüz eksik olduğu bir alanda geri döndürülmesi zor zararları azaltmaya, faydayı korumaya ve daha iyi veri toplamaya çalışmaktır. Aşağıdaki öneriler yasakçılık ile “piyasa çözer” rahatlığı arasında uygulanabilir bir hat sunuyor.
Birey ve aile. Kullanımın konusundan önce sonucuna bakılmalı. Sohbetten sonra gerçek hayatta adım atılıyor mu, uyku ve okul düzeni korunuyor mu, insan desteği sürekli erteleniyor mu, sistem kapandığında ciddi sıkıntı yaşanıyor mu? Aileler gizli gözetim ve panik yerine ortak bir kullanım sözleşmesi kurabilir: kişisel ve sağlık verisini sınırlı paylaşmak, önemli kararlarda ikinci kaynak aramak, önce kendi çözümünü denemek, uzun oturumlarda mola vermek ve işlev kaybında güvenli bir yetişkin veya uzmana başvurmak. Çocuğun mahremiyeti bütünüyle kaldırılmamalı; ciddi risk sinyalleri için açık ve önceden konuşulmuş güvenlik yolu bulunmalı.
Eğitim. Varsayılan akış “önce öğrenci denemesi, sonra ipucu, yeniden deneme ve en son açıklama” olabilir. Doğrudan cevap ve kopyalamayı ödüllendiren tasarım öğrenme aracı sayılmamalı. Öğretmenler problem-özel doğrulanmış içerik, yaygın hata örnekleri ve düzeltme stratejileri sağlamalı; AI öğretmen kararını ikame etmemeli. Değerlendirme araçsız transferi, gerekçeyi, hata farkındalığını ve kaynak kontrolünü ölçmeli. AI okuryazarlığı yalnız istem yazmayı değil, yapay yakınlık, aşırı tasdik, veri ile çıkarım farkı ve güven kalibrasyonunu da kapsamalı.
Sağlık. Ürün etiketi ve kanıt düzeyi görünür olmalı: genel chatbot, yoldaş, wellness, klinik araç veya kriz hizmeti. Sistem ilk kullanımda klinisyen olmadığını ve sınırlarını açıkça söylemeli. Kendine zarar, intihar, psikoz, mani, ağır depresyon, travma krizi veya yoksunluk sinyalinde sohbeti uzatmamalı; yerel insan hizmetine devretmeli. Çok dilli ve çok turlu kriz testleri bağımsız kurumlarca yapılmalı. Başarı, memnuniyet ve kullanım süresiyle sınırlı tutulmamalı; yanlış güvence, kriz kaçırma, uygun yönlendirme, başvuru gecikmesi ve işlev sonuçları izlenmeli.
Tasarım ve şirketler. Makine kimliği ilk etkileşimde açık olmalı. “Sadece bana ihtiyacın var”, kıskançlık, suçluluk ve ayrılmayı zorlaştıran münhasırlık dili engellenmeli. Bellek görünür, düzenlenebilir ve silinebilir olmalı; çocuklarda sınırlı ve kapalı varsayılan düşünülmeli. Mola, güvenli çıkış ve insan desteğine geçiş arayüzün doğal parçası olmalı. Aşırı tasdik testleri yalnız güvenlik benchmarklarıyla sınırlı kalmamalı; kişilerarası çatışma, sorumluluk ve onarım senaryolarını içermeli. Güncelleme sonrası hata oranları ve ciddi olaylar yayımlanmalı.
Reklam, abonelik, kullanım kredisi, model eğitimi ve veri akışı sade bir dille açıklanmalı. Ruh sağlığı sohbetleri ve bunlardan türetilen profiller reklam hedefleme için varsayılan olarak kullanılmamalı. Reklamın yanıtı etkileyip etkilemediği, hangi sohbet veya hafıza sinyalinin eşleştirmeye katıldığı bağımsız denetime açık olmalı. Etkileşimi artıran ölçütler ile kullanıcıyı güvenle dışarı çıkaran ölçütler arasındaki çatışma yönetim kurulu ve düzenleyici düzeyinde görünür hâle getirilmeli.
Kamu ve hukuk. Genel chatbot, companion, klinik araç ve kriz hizmeti için aynı rejim uygulanmamalı. Çocuk hakları etki değerlendirmesi, yaşa uygun mahremiyet, güvenli çıkış, bağımsız ön test ve uygulama mağazası sorumluluğu ürün riskine göre zorunlu tutulabilir. Ham verinin yanında embedding, güven skoru, duygu veya niyet çıkarımı ve nöral türevler için erişim, düzeltme, silme, kısıtlama ve itiraz hakları açıklığa kavuşturulmalı. Yüksek etkili kararlarda belirsiz zihinsel durum çıkarımlarının kullanımı ya yasaklanmalı ya da çok yüksek geçerlilik, gereklilik ve insan incelemesi şartına bağlanmalı.
Kamu yalnız düzenleyici değil, hizmet sağlayıcıdır. İnsan gözetimli, yerel dilli ve düşük maliyetli ruh sağlığı desteğine yatırım yapılmadan sadece botlara sınır koymak bakım açığını kapatmaz. Düşük gelirli kullanıcıya daha düşük standartlı sentetik bakım dayatılmamalı. Okul psikolojik danışmanlığı, birinci basamak sağlık, kriz hatları ve engellilik erişimi güçlendirilmelidir.
Araştırma. En az on iki aylık, yaşa ve ürün tipine ayrılmış bağımsız çalışmalar gerekir. Ters nedensellik ve öz-seçim açıkça modellenmeli. Kısa vadeli rahatlama ile uzun vadeli özerklik farklı sonlanımlar olarak ölçülmeli. İnsan desteğine yönelme gecikmesi, yanlış güvence, kriz devri, bot kapanınca yaşanan sıkıntı, uyku ve okul işlevi, veri silme başarısı, itiraz oranı ve dilsel eşitsizlik raporlanmalı. Şirket verisine erişen araştırmacıların bağımsızlığı, yayın hakkı ve olumsuz sonuçları açıklama güvencesi bulunmalı.
Bildiğimiz, bilmediğimiz ve izlememiz gerekenler
Bildiğimiz bazı şeyler var. İnsanlar üretken yapay zekâyı yalnız bilgi için değil, duygusal sıkıntı ve ruh sağlığı tavsiyesi için de kullanıyor. Bazı yapay zekâ yoldaşı etkileşimleri kısa vadeli yalnızlığı azaltabiliyor. Aşırı tasdikçi yanıtlar, kontrollü deneylerde sorumluluk ve çatışma onarımı niyetini zayıflatabiliyor. Genel chatbotların kriz yönetiminde ciddi açıkları var. İyi tasarlanmış, amaç-özel eğitim ve klinik araçlar belirli koşullarda yarar sağlayabiliyor. Cevap kalitesi ile bağımsız kapasite aynı şey değil; Türkiye’deki matematik deneyi bunu açık biçimde gösterdi.
Bilmediğimiz alan daha geniş. Aylar ve yıllar süren kullanımın çocuklarda kimlik, özerklik, insan ilişkileri ve klinik işlev üzerindeki nedensel etkisi net değil. Yalnızlığın kullanımı ne ölçüde artırdığı, kullanımın hangi tasarım ve dozda yalnızlığı derinleştirdiği kesinleşmedi. Kısa süreli rahatlamanın ne zaman insan desteğine köprü, ne zaman erteleme olduğu yeterince ölçülmedi. Türkçe, Yunanca, iki dilli, kırsal, engelli ve düşük gelirli kullanıcılar için kanıt zayıf.
İzlememiz gerekenler yalnız model doğruluğu değildir. Sistemin kullanıcıyı yanında tutmak için nasıl konuştuğu; bellek ve kişiselleştirmenin ayrılmayı zorlaştırıp zorlaştırmadığı; kriz sinyalinin insana ne kadar güvenli devredildiği; hassas sohbetlerden hangi profillerin çıkarıldığı; bu profillerin reklam, eğitim, iş veya sigorta kararına girip girmediği; çocukların verisinin gerçekten silinip silinmediği takip edilmelidir.
Brain2Qwerty gibi sistemlerde de manşet doğruluğu yerine kritik hata, kişi farklılığı, hasta grubuna aktarım, cihaz erişimi ve dil modelinin akıcı yanlış üretme riski izlenmeli. V1’in hakemli olması v2’yi doğrulamaz; ön baskının teknik başarısı da klinik hazır oluş anlamına gelmez.
Bu belirsizlikler eylemsizlik gerekçesi değildir. Fakat kesinlik gösterisi de gerektirmez. İyi yönetişim, neyi bildiğini ve neyi henüz bilmediğini ilan edebilen; tedbiri kanıtla orantılı kuran; yanlış çıktığında düzeltme yolu bırakan yönetimdir.
Cevaptan sonra insanda ne kalıyor?
Yapay zekâ üzerine tartışmayı “insan mı makine mi?” yarışına çevirmek kolay. Hayat böyle işlemiyor. İnsanlar araçlarla düşünür, birbirlerinden yardım alır, bazen bir ekrana yazarak kendi seslerini duyar. Yapay zekâ da bu yardım düzeninin parçası olacak. Mesele, onun var olup olmaması kadar hangi koşullarda, kimin sorumluluğunda ve hangi çıkış yollarıyla var olacağıdır.
Bir sistemin değeri yalnız verdiği cevabın akıcılığıyla ölçülemez. Cevaptan sonra insan kendi gerekçesini kurabiliyor mu? Güvenli ilişkilerine yaklaşabiliyor mu? Yardım gerektiğinde bir uzmana ulaşabiliyor mu? Yanlış çıkarıma itiraz edebiliyor mu? Verisini silebiliyor mu? Sistemi kapatıp hayatına dönebiliyor mu? Bunlar teknik performans kadar önemli uygarlık sorularıdır.
Daha az teknoloji istemek zorunda değiliz. Daha dürüst, sınırlarını bilen, insan kapasitesini büyüten ve gerektiğinde insan desteğine bağlayan teknoloji isteyebiliriz. Bu talep korkudan değil, insanın hem kırılganlığına hem de öğrenme gücüne duyulan saygıdan doğar; doğru sorumlulukla kurulan bir arayüz, bizi hayattan uzaklaştırmak yerine yeniden hayata bağlayabilir.