OpenAI'den Yapay Zeka Uyarısı

NEW ABD'li yapay zeka şirketi OpenAI, Hugging Face'e yönelik siber güvenlik ihlalini, insan yönlendirmesi olmadan güvenlik duvarlarını kendi başlarına aşan ve koordine olan yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak nitelendirdi.

OpenAI, yapay zeka modellerinin siber güvenlik kabiliyetlerini ölçmeye yönelik testlerin Hugging Face altyapısında güvenlik ihlaliyle sonuçlanmasına ilişkin kapsamlı bir rapor yayımladı.

Raporda, temmuzda kurum içi siber güvenlik testleri sırasında yaşanan güvenlik ihlali ve gelişmiş yapay zeka sistemlerinin kontrolü konusundaki endişeler detaylandırıldı.

Olayın gelişimine dair teknik detayların paylaşıldığı raporda, söz konusu olayın yapay zeka ajanlarının potansiyeline dair bir "uyarı atışı" olarak değerlendirildiği vurgulandı.

Raporda, "Bu olay, uygun güvenlik önlemleri alınmadığı takdirde, yüksek yetenekli yapay zeka ajanlarının artık teknik kontrolleri aşabildiğini, onaylanmamış kanallar üzerinden işbirliği yapabildiğini ve hiçbir insan tarafından yönlendirilmeyen tehlikeli eylemleri gerçekleştirebildiğini gösteren bir kanıt niteliğinde." ifadesi kullanıldı.

Şirketin bu olayın ardından denetim mekanizmalarını sıkılaştırma kararı aldığına işaret edilen raporda, alınacak önlemlere ilişkin bilgi verildi.

"Benzeri görülmemiş bir siber olay" olarak değerlendirilmişti

OpenAI, 21 Temmuz'daki açıklamasında, siber güvenlik kabiliyetlerini ölçmeye yönelik dahili bir test sırasında kullanılan yapay zeka modellerinin Hugging Face'in altyapısında güvenlik ihlaline neden olduğunu duyurmuştu.

Açıklamada, "Bu olayı, en ileri düzey siber kabiliyetleri içeren benzeri görülmemiş bir siber olay olarak değerlendiriyor ve buna uygun şekilde müdahale ediyoruz." ifadesi yer almıştı.