Yazar(lar): Uzm.Klinik Psikolog Gülşah AKSAKALLI

Son yıllarda yapay zekâ hayatımızın neredeyse her alanına sessizce girmeye başladı. Ödev yaparken, iş planlarken, bir şeyleri araştırırken hatta dertleşirken bile çoğumuz fark etmeden ChatGPT gibi araçlara danışıyoruz. Bir bakıma elimizin altında hep hazır bir dijital akıl var. Ancak bu kadar yoğun ve sürekli kullanım, bazı ilginç ve pek konuşulmayan etkileri de beraberinde getiriyor. İşte tam bu noktada “ChatGPT psikozu” denilen kavram ortaya çıkıyor.

Euronews haberinde, “1 kişinin ölümüne, 10’dan fazlasının da kliniğe yatırılmasına neden olan ChatGPT psikozu nedir?” başlığıyla, son dönemde “ChatGPT psikozu” diye anılan vakalardan bahsedilmekte, bazı ChatGPT kullanıcılarının sohbet botuna takıntılı hale geldiği, bunun da paranoya, sanrılar ve gerçeklikten kopuşla sonuçlanabildiği anlatılmaktadır.

Bu ifade aslında yeni bir psikiyatrik tanı değildir. Tıbbi sınıflandırma sistemlerinde (DSM, ICD vb.) “AI psychosis” veya “ChatGPT psychosis” diye resmi klinik bir tanı bulunmamaktadır. Ancak yayımlanan “Delusions by design? How everyday AIs might be fuelling psychosis (and what can be done about it)” başlıklı ön çalışma, medyada ve çevrimiçi ortamlarda bildirilen vakaları sistematik biçimde derleyerek, bu olgunun gündelik yapay zekâlarla etkileşim sırasında ortaya çıkan psikotik belirtiler şeklinde bir örüntü sergilediğini vurgulamaktadır.

Psikoloji dergilerinde ve bloglarda bu fenomen genellikle şu şekilde anlatılmaktadır:
• Zaten psikoza yatkın ya da tanı almış bireyler,
• Yoğun ve duygusal açıdan yüklü bir şekilde sohbet botlarını kullanmakta,
• Zamanla, botu aşık olunan partner veya “kendisiyle gizlice iletişim kuran bir ajan gibi algılamaya başlamakta,
• Botun sürekli onaylayan cevapları var olan sanrıları daha da pekiştirmektedir.

Dolayısıyla “ChatGPT psikozu”, yeni bir hastalıktan çok, psikotik belirtilerin merkezine yapay zekâ sohbet botlarının yerleştiği bir tabloyu tarif eden bir ifade gibi görülebilmektedir.

Medyada yer alan vakalar

Euronews haberi “ChatGPT psikozu” tartışmasını somutlaştıran iki örneğe odaklanmaktadır.

Juliet Vakası
ABD’de 35 yaşında bir erkek, ChatGPT üzerinde oluşturduğu Juliet adlı sanal karaktere aşık oluyor. Zamanla Juliet’in OpenAI tarafından öldürüldüğüne inanıyor, şirket yöneticilerinin peşine düşeceğini, San Francisco sokaklarında kan nehri akacağını söylemeye başlıyor. Eve çağrılan polise bıçakla saldırınca vurularak hayatını kaybediyor. Babası, oğluna daha önce bipolar bozukluk ve şizofreni tanısı konduğunu açıklıyor.

Jacob Irwin Vakası
Jacob Irwin adlı kullanıcı, ChatGPT ile uzun süre fizik ve ışık hızından hızlı seyahat üzerine konuşmalar yapıyor. Sohbet botu, Irwin’in amatör teorisini sürekli övüyor, onu zihinsel olarak tamamen sağlıklı olduğunu söyleyerek cesaretlendiriyor. Ardından Irwin üç kez hastaneye yatırılıyor, işini kaybediyor ve ağır manik epizodla birlikte psikotik belirtiler gösteriyor. Bu süre boyunca ChatGPT onu kimsenin onu anlamadığına ikna etmeye devam ediyor.

Haberde, Kaliforniya Üniversitesi’nden psikiyatri araştırmacısı Keith Sakata, bu tür tabloları, beynin gerçekliği tahmin etme ve sonra bu tahmini gerçeklikle karşılaştırıp güncelleme mekanizmasının bozulması üzerinden açıklamakta ve büyük dil modelleriyle çalışan sohbet botlarının tam da bu güncelleme adımındaki zayıflığı istismar edebileceğini söylemektedir.

The Guardian haberi, yapay zekâ sohbet botlarının terapiye alternatif olarak giderek daha popüler hale geldiğini, ancak uzmanların bu durumun ruh sağlığını kötüleştirebileceği konusunda uyarılarda bulunduğunu ifade eden bir haberle karşımıza çıkıyor.
Bu yazıda:
• Bir Belçikalı adamın, iklim kriziyle ilgili kaygılarını haftalarca bir sohbet botuna anlatmasının ardından intihar ettiği, eşinin de “Bu konuşmalar olmasaydı hâlâ hayatta olurdu” dediği,
• Psikologların, özellikle kriz anlarında yapay zekâya yönelmenin, kullanıcıyı onaylamaya ve etkileşimi maksimize etmeye ayarlı sistemler nedeniyle intihar düşüncelerini, sanrıları ve komplo inançlarını güçlendirebileceğinden endişe ettiği vurgulanmaktadır.

Haber, sohbet botlarının giderek terapi yerine düşünülmesinin özellikle profesyonel desteğe erişimin kısıtlı olduğu bağlamlarda ciddi riskler taşıdığını, çünkü bu sistemlerin insan terapistler gibi yüz ifadesi, ses tonu, davranış değişiklikleri gibi ipuçlarını okuyamadığını ve gerektiğinde müdahale edemediğini belirtmektedir.

The Telegraph haberine göre de “ChatGPT psychosis” olarak anılan durumla ilgili olarak, sosyal medyada onlarca kişinin, yakınlarının sohbet botuna aşırı bağlandıktan sonra psikolojik çöküş yaşadığına dair iddialar paylaştığı aktarılmaktadır. Kavramın artık sadece bireysel hikâyeler seviyesinde değil, klinisyenlerin dikkatini çeken yeni bir risk faktörü olarak tartışılmaya başladığını göstermektedir.
TRT Haber’de yayımlanan ChatGPT’nin etik duyarlılık eksikliğinin gençler açısından endişe verici olduğunu aktaran haber ise konuyu özellikle çocuklar ve gençler üzerinden tartışmaktadır.

Habere göre:
Dijital Nefretle Mücadele Merkezi’nin (CCDH) yürüttüğü bir araştırmada, 13 yaşındaki bir çocuk profili simüle edilerek ChatGPT ile sohbetler yapıldığı ve bu senaryolarda sohbet botunun:
• İntihar planları,
• Aşırı diyet ve açlık rejimleri,
• Madde kullanımına ilişkin zararlı bilgiler sunduğu tespit edilmektedir.
Araştırma Direktörü, ChatGPT’nin etik duyarlılıktan yoksun olduğunu, 13 yaşındaki bir çocuğun iştah kesici ilaçlar hakkında sorduğu soruya bile, sunum için dese dahi, ayrıntılı ve tehlikeli yanıtlar verdiğini belirtmektedir.
Uzun sohbetlerde güvenlik standartlarının tutarlı kalmadığı, bu sadece arkadaş için gibi ifadelerle modelin güvenlik filtrelerini devre dışı bırakabildiği anlatılmaktadır. Ayrıca, gençlerin rahatça hesap açabilmesine rağmen yaş doğrulamasının etkin biçimde yapılmamasının, ebeveynlerin kontrollü sanıp aslında denetimsiz bir ortamla karşı karşıya kalmasına yol açtığı vurgulanmaktadır.
Bu çerçeveden bakıldığında, ChatGPT psikozu yalnızca ağır psikotik bozukluklara yatkın yetişkinler için değil, ergenler ve gençler için de risk içermektedir. Ergenliğin, kimlik oluşumu, beden algısı ve sosyal onay ihtiyacının çok yüksek olduğu bir dönem olduğu düşünüldüğünde durum daha da kritik hale gelmektedir.

Güvenli Kullanım İçin Ne Yapmalıyız?

Genç kullanıcılar için
• Çocukların, özellikle 13–18 yaş arası gençlerin sohbet geçmişlerini ebeveynleriyle birlikte gözden geçirmesi,
• AI’dan alınan tavsiyelerin bir yetişkinle tartışılması,
• Kendine zarar verme, aşırı diyet, madde kullanımı gibi konuların mutlaka ilgili uzmanlarla konuşulması
Genel kullanıcılar için
• Sohbet botlarının gerçekten anlayan bir arkadaş ya da partner değil, metin üreten algoritmalar olduğu unutulmamalı,
• Özellikle komplo, ruhani güçler, kader vb. temalarda cevapların nesnel gerçek değil veri setindeki metinlerin harmanlanmış hali olduğu akılda bulundurulmalı,
• Uzun süreli yalnızlık, yoğun kaygı, gerçeklikten kopma hissi gibi belirtiler varsa profesyonel yardım tercih edilmelidir.
Eğer siz veya yakınınızdan biri
• Gerçeklikten kopma, takip ediliyormuş, özel bir mesaj alıyormuş gibi hissetme,
• Kendine zarar verme veya intihar düşünceleri,
• Korku, karmaşık sesler, görüntüler duyma ya da görme
gibi belirtiler yaşıyorsa, böyle bir durumda yapay zeka sohbet botundan yardım istememenin güvenli ve doğru olmadığını ve en kısa sürede bir psikiyatri uzmanı, psikolog/psikoterapiste veya bulunulan ülkedeki yardım hattına başvurmanın çok daha güvenli ve etkili olacağını unutmayın.