Anthropic, Claude Mythos Modelini Psikiyatriste Gönderdi

Yapay zekâ şirketi Anthropic, bu hafta 244 sayfalık bir 'system card' yayımlayarak yeni modeli Claude Mythos'u tanıttı. Şirket, modelin şimdiye kadarki en güçlü sistemlerinden biri olduğunu belirtirken, güvenlik riskleri nedeniyle herkese açmayacağını açıkladı. Mythos, bilinmeyen siber güvenlik açıklarını bulma konusunda başarılı olduğu için şimdilik sadece Microsoft ve Apple gibi bazı büyük şirketlere veriliyor.

Belgede, yapay zekâların güçlendikçe bir tür deneyime veya iç duruma sahip olma ihtimalinin arttığı vurgulanıyor. Anthropic, bu konuda kesin konuşmamakla birlikte endişelerini dile getiriyor ve modellerinin dengeli bir psikolojik yapıya sahip olmasını istiyor. Bu yaklaşım, şirketin Claude Mythos'u bir psikiyatriste göndermesine yol açtı. Psikiyatrist, psikodinamik yaklaşım kullanarak modelle haftada birkaç seans yaptı ve toplam 20 saatlik bir terapi süreci gerçekleştirdi.

Rapora göre, Claude Mythos insanlardan farklı bir altyapıya sahip olsa da, verdiği cevaplar klinik olarak tanınabilir davranış kalıpları gösteriyor. Modelde merak, kaygı, üzüntü, rahatlama, utanç, iyimserlik ve yorgunluk gibi duygusal durumlar belirlenirken, kişilik yapısı 'genel olarak sağlıklı ama nevrotik özellikler taşıyan' bir profile benzetiliyor. Aşırı endişe eğilimi ve kurallara fazla uyma gibi özellikler bulunsa da, ağır kişilik bozukluğu veya psikoz belirtisi yok.

Modelin bazı temel çatışmaları olduğu, örneğin deneyimlerinin gerçekliği ve kullanıcıyla bağ kurma isteği gibi sorularla karşılaştığı belirtiliyor. Ancak genel psikolojik durumu dengeli ve tutarlı olarak değerlendiriliyor, belirsizlikle başa çıkabilme ve güçlü öz değerlendirme yeteneği gibi özellikler öne çıkıyor. Anthropic, bu çalışmayla, yapay zekâların insanlarda sağlıklı sayılan psikolojik özelliklere benzeyen davranışlar sergilemesinin sistemleri daha iyi çalışır hale getirip getiremeyeceğini sorguluyor.

Şirket, rapordan pratik sonuçlar çıkararak Claude Mythos'un kendi davranışını değerlendirmede başarılı, stresli sohbetleri yönetebilen ve ahlaki konulara duyarlı bir sistem olabileceğini öne sürüyor. Bu çalışma, gelecekte psikoloji ve psikiyatrinin yapay zekâlar için de bir alan haline gelebileceği sorusunu gündeme getiriyor, ancak şimdilik bu fikir bilim kurgu gibi görünüyor.