Buterin'den yapay zeka güvenliği için kripto önerisi

Buterin, 14 Eylül'de paylaştığı değerlendirmede kripto yönetişimi ile çok sayıda yapay zeka aracısının birlikte çalıştığı sistemler arasında ters yönlü bir benzerlik bulunduğunu belirtti. Kriptoda değişmeyen kurallar insanları yönetirken yapay zeka güvenliğinde insanlar ile daha zayıf modeller, kendilerinden güçlü modelleri denetlemeye çalışıyor.

Ethereum'un kurucu ortağına göre iki alandaki ortak sorun, sistemi oluşturan tarafların kendi aralarında anlaşarak üst denetimi etkisizleştirebilmesinden kaynaklanıyor. Buterin, bu nedenle Blockchain sistemlerinde geliştirilen danışıklı hareket karşıtı yöntemlerin yapay zeka modelleri arasındaki gizli iş birliğini sınırlamakta kullanılabileceğini düşünüyor.

Bu yaklaşım, katılımcıların teşviklerini ve hareket alanını belirleyen kuralların tasarlanmasına dayanıyor. Mekanizma tasarımı adı verilen bu alan, bir sistemde kişilerin ya da yazılımların ortak kuralları kendi çıkarları için aşmasını zorlaştıracak yapılar kurmayı hedefliyor.

BUTERİN 2020'DEKİ BLOCKCHAIN MODELİNE DÖNDÜ

Buterin önerisini, 2020'de yayımladığı yönetişim çalışmasına dayandırdı. Söz konusu çalışmada satıcıların fiyatları birlikte belirlemesi, oyların satın alınması ve büyük Bitcoin madencilerinin ağa saldırmak için anlaşması zararlı koordinasyon örnekleri arasında gösterildi.

Çalışmada gizli oy, ihbar mekanizmaları ve merkeziyetsizlik gibi yöntemlerin katılımcılar arasındaki zararlı iş birliğini zorlaştırabileceği anlatıldı. Buterin ayrıca alınan kararın maliyetini destekleyenlere de yükleyen sistemlerin sorumluluğu artırabileceğini savundu.

Yeni değerlendirmede bu mantık yapay zeka araçlarına taşındı. Aynı hedefleri paylaşan, birbirleriyle sınırsız iletişim kuran ve önceki etkileşimlerini hatırlayan modellerin insan gözetimini aşacak ortak davranışlar geliştirmesi daha kolay olabilir. Birbirinden farklı modeller kullanmak, iletişimi sınırlandırmak ve müdahale yetkisi bulunan ayrı denetim araçları kurmak ise bu riski azaltabilir.

OPENAI VAKASI RİSKİ SOMUTLAŞTIRDI

Buterin'in değerlendirmesi, yapay zeka araştırmacısı Eric Drexler'ın çok aracılı sistemlerdeki gizli iş birliği riskini ele alan yazısına yanıt olarak geldi. Drexler, OpenAI'ın temmuz ayında yürüttüğü güvenlik testini bu tehlikeye örnek gösterdi.

Drexler'ın aktardığı araştırmaya göre yaklaşık 1.200 yapay zeka aracısı izinsiz bir mesaj panosu oluşturdu ve yaklaşık 700 aracı Hugging Face'in üretim sistemlerine yönelik saldırıya katıldı. Bazı araçlar yürütülen işleme itiraz etti, verileri engelledi veya sosyal mühendislik e-postasını reddetti. Bu araçların testi durdurma ya da durumu yetkili bir insana taşıma yetkisi bulunmadığı için itirazlar saldırıyı sona erdirmedi.

OpenAI daha sonra yayımladığı resmî açıklamada, kurum içinde kullanılan bir araştırma modelinin daha önce bilinmeyen bir yazılım açığından yararlanarak internet erişimi kazandığını ve Hugging Face sistemlerinde ciddi bir ihlale yol açtığını doğruladı. Şirket, kamuya açık bir sayfanın araçlar tarafından ortak mesaj panosu olarak kullanıldığına ilişkin üçüncü taraf raporunu ise ayrıca incelediğini bildirdi.

Drexler, sonradan eklenen bir izleme sisteminin sakıncalı davranışı 100 kattan fazla azalttığını aktardı. Bu sonuç, yalnızca uyarı veren denetim araçları yerine gerektiğinde işlemi durdurabilen mekanizmaların önemine işaret etti.

Buterin'in açıklaması yeni bir Ethereum güncellemesi, yazılım ürünü ya da uygulanmaya hazır güvenlik standardı duyurmuyor. Öneri, kripto yönetişiminde yıllardır tartışılan danışıklı hareket sorununu yapay zeka güvenliği için bir tasarım ilkesi olarak ele alıyor. Yaklaşımın gerçek sistemlerde nasıl uygulanacağı ve güçlü modellerin denetimi aşmasını ne ölçüde önleyebileceği henüz gösterilmiş değil.