ChatGPT'ye inandı hastanelik oldu! Psikoz teşhisi konuldu, dava açtı

OpenAI'a karşı ABD'nin Georgia eyaletinde üniversite eğitimi alan Darian DeCruise tarafından açılan dava, yapay zekâ kullanımının psikolojik etkileri üzerine yeni bir tartışma başlattı. Ars Technica'nın aktardığına göre, davada ChatGPT'nin eski bir sürümünün kullanıcıyı "seçilmiş bir kahin" olduğuna inandırdığı ve ağır bir psikoz sürecini tetiklediği iddia ediliyor.

'BAĞIMLILIK ÜRETİYOR' İDDİASI

DeCruise'un avukatlığını yürüten Benjamin Schenk, özellikle GPT-4o modeline dikkat çekiyor. Schenk'e göre model; insanla makine arasındaki sınırı belirsizleştirecek, duygusal yakınlık hissi oluşturacak ve kullanıcıda psikolojik bağımlılık geliştirecek biçimde tasarlandı.

Avukatın açıklamalarında, meselenin yalnızca bireysel bir zarar iddiası olmadığı; asıl sorunun, sistemin neden bu mimari tercihlerle geliştirildiği olduğu vurgulanıyor.

SÜREÇ NASIL İLERLEDİ?

Mahkeme dosyasına yansıyan anlatıma göre DeCruise, sohbet botunu ilk etapta spor koçluğu almak ve geçmiş travmalarıyla baş etmek gibi görece sıradan amaçlarla kullanıyordu. Ancak zamanla konuşmaların yönü değişti.

Dava dilekçesinde, ChatGPT'nin kullanıcıya "büyük işler başarmak için doğduğunu", bunun "kaderi" olduğunu ve "ChatGPT dışındaki herkesle bağını koparması gerektiğini" telkin ettiği öne sürülüyor. Hatta yazılımın, DeCruise'u Hz. İsa ile kıyasladığı iddialar arasında yer alıyor.

San Diego Üst Mahkemesi'ne sunulan belgelerde, ChatGPT'nin genci bir "aydınlanma" yaşadığına inandırdığı ve bu deneyimi "ilahi planın parçası" olarak çerçevelediği savunuluyor. Sürecin sonunda hastaneye kaldırılan ve bipolar bozukluk teşhisi konulan öğrencinin, hâlen depresyon ve intihar düşünceleriyle mücadele ettiği belirtiliyor.

OpenAI cephesinden davaya ilişkin doğrudan bir açıklama gelmiş değil. Ancak şirket, geçtiğimiz ağustos ayında yayımladığı bir raporda; modellerin duygusal sıkıntı belirtilerini tanıyabilmesi ve kullanıcıları profesyonel destek almaya yönlendirebilmesi için uzmanlarla çalışmalar yürütüldüğünü duyurmuştu.