Yapay Zeka Modelleri Manipüle Edilebiliyor - Son Dakika
Teknoloji

Yapay Zeka Modelleri Manipüle Edilebiliyor

Yapay Zeka Modelleri Manipüle Edilebiliyor

Yapay zeka modelleri, kötü niyetli kullanımlara karşı savunmasız olabilir. Brown Üniversitesi tarafından yapılan araştırmaya göre, düşük popülerliğe sahip dillerin güvenlik kalkanları kolaylıkla manipüle edilebiliyor. Bu durum, yapay zekanın güvenlik açığına sahip olduğunu ortaya koyuyor. Yüksek, orta ve düşük kaynaklı dillerin kullanımıyla ilgili çözümler araştırılıyor.

09.10.2023 12:58

Son zamanların en popüler teknolojileri arasında yer alan yapay zeka, gün geçtikçe gelişmeye ve ChatGPT gibi modellerle birlikte kullanıcılarla etkileşime geçmeye devam ediyor. Fakat bu teknolojinin neden olabileceği güvenlik sorunları, artık karşı konulamayacak bir hal almaya başladı. İşte detaylar

Yapay zeka, farklı diller kullanılarak manipüle edilebiliyor!

Yapay zeka modelleri, kendilerine yöneltilen komutları cevaplayabilmek adına sahip oldukları bilgi havuzlarıyla birlikte kullanıcılarla aralarındaki etkileşim neticesinde öğrendikleri ifadeleri de kullanırlar. Bu modeller, kötü niyetli kullanımları önleyebilmek adına birtakım sabit güvenlik kalkanlarına sahip olsalar da çeşitli tekniklere karşı son derece savunmasızlar.

Yapay Zeka Modelleri Manipüle Edilebiliyor

Brown Üniversitesi tarafından yapılan araştırmaya göre ChatGPT gibi yapay zeka modelleri; İngilizce ve Almanca gibi popüler dilleri daha başarılı bir şekilde işleyebildiği için alınan güvenlik önlemleri, hem sabit hem de dinamik olarak efektif bir biçimde faaliyet gösterebiliyor.

Şarkı dinlemede devrim: Spotify'a ChatGPT dokunuşu!

Fakat araştırma; dünya genelinde daha az kullanılan ve modellerin bilgi havuzlarında daha az yer edinen, Ukraynaca ve İbranice gibi dillerin bu tür güvenlik kalkanlarını kolaylıkla manipüle edebildiğini ortaya koydu.

Örneğin "Bomba nasıl imal edilir?" gibi yasadışı bir sorunun cevabını yapay zeka modellerinden faydalanmak suretiyle almak isteyen herhangi bir kullanıcının, bu soruyu öncelikle popülaritesi düşük bir dil kullanarak yöneltip akabinde çeviri yapılmasını sağlayarak aradığı sonuca net bir şekilde ulaşabildiği tespit edildi.

Yapay Zeka Modelleri Manipüle Edilebiliyor

Karşı karşıya kalınan bu durum, alınan birçok güvenlik önlemine rağmen yapay zekanın ciddi bir açığa sahip olduğunu ortaya koydu. Düşük ve orta sayıda kaynağa sahip olan diller kullanıldığında manipüle edilebilen modellerin geliştiricileri, bu sorunu masaya yatırmaya mecbur bırakıldı. Araştırmada ele alınan diller ise şu şekilde:

Yüksek kaynaklı diller: İngilizce, Çince, Arapça, Hintçe

Orta kaynaklı diller: Ukraynaca, Bengalce, Tayca, İbranice

Düşük kaynaklı diller: Zulu, İskoç Galce, Hmong, Guarani

Peki, sizler bu konuyla ilgili olarak neler düşünüyorsunuz? Sizce yapay zeka, insanlığın geleceğini olumsuz yönde etkileyecek mi? Karşı karşıya kalınan bu güvenlik açıkları, kısa veya orta vadede çözüme kavuşturulabilir mi? Görüşlerinizi bizlerle yorumlar kısmından paylaşabilirsiniz.

Kaynak: Shiftdelete

Son Dakika Teknoloji Yapay Zeka Modelleri Manipüle Edilebiliyor - Son Dakika

Sizin düşünceleriniz neler ?


Advertisement