Askeri YZ Zirvesi: Etik ve Güvenlik Tehditleri

Savunma analisti Arda Mevlütoğlu, yapay zeka sistemlerinin askeri alandaki dönüşüme etkisini ve bu kapsamda ortaya çıkan tehditler ile gereklilikleri AA Analiz için kaleme aldı.

***

4-5 Şubat tarihlerinde İspanya'nın A Coruna kentinde askeri alanda yapay zekanın sorumlu kullanımına dair REAIM 2026 (Responsible AI in the Military Domain) adlı bir zirve düzenlendi. Daha önce 2023'te Lahey ve 2024'te Seul'de düzenlenen REAIM'e bu yıl 85 ülke katıldı. Zirve sonrasında 20 ana ilkeden oluşan bir bildiri hazırlandı. Katılımcı ülkelerden 35'i bildiriyi imzalarken Çin ve ABD imza atmadılar.

Söz konusu bildiri ile taahhüt edilen ilkeler arasında YZ destekli silahlar üzerinde insan sorumluluğunun korunması, net komuta ve kontrol zincirlerinin oluşturulması ve ulusal denetim mekanizmalarına ilişkin bilgi paylaşımı yer almaktaydı. Ayrıca risk değerlendirmeleri, kapsamlı test süreçleri ile askeri personelin eğitimine vurgu yapıldı.

Önceki REAIM zirvelerinde ABD'nin başını çektiği çok sayıda ülke, daha esnek bir ilke çerçevesini benimsemişti. Bu yıl ise hem ABD ve Çin gibi YZ teknolojilerinde öncü iki ülkenin bildiriye imza atmaması hem de onay veren ülke sayısının sınırlı kalması, uluslararası düzlemde kabul gören norm ve ilkeler seti üretim ve paylaşımının ne kadar sınırlı olduğunu gösterdi. YZ konusunda uluslararası sistemde henüz bir asgari müşterek oluşturulabilmiş değil. YZ teknolojilerinin savaş alanında tetiklediği derin dönüşümün yanında bu durum da bir güvenlik tehdidi olarak değerlendirilebilir.

Güvenlik tehditleri bağlamında askeri yapay zeka

YZ'nin askeri alanda kullanımı komuta-kontrol ve karar destekten elektronik ve siber harbe, füze savunmasından insansız hava, kara ve deniz araçlarına kadar geniş bir yelpazeyi kapsıyor. İnsanın bilişsel kapasitesini aşan ya da büyük boyutlarda karmaşık veri setlerinin yüksek süratte analiz edilmesini gerektiren senaryolarda YZ, ana unsur olarak işlev görüyor. Teknolojideki gelişmeler de zaten modern savaş alanına dair neredeyse tüm ihtiyaçları bu kategoriye sokmakta. Başka bir deyişle YZ, savaşı insanın algı ve tepki kapasitesinin ötesinde bir boyuta taşımakta. Literatürde "hipersavaş" olarak tanımlanan bu yeni savaş türünde karar alma ve icra döngüsü milisaniyeler içinde tamamlanabiliyor.

Bu noktada insanın denetimini, "tetiği çeken parmaktan" çok daha geniş bir perspektifte ele alma gerekliliği ortaya çıkıyor. Bu doğrultuda atılması gereken ilk adım, insan denetimini, YZ'nin kullanıldığı sürecin tüm aşamalarında etkin bir bileşen olarak, anlamlı bir nitelikte kurgulamak olacaktır. Böyle bir yapı, YZ kullanımının etik ve hukuki sorumluluğunun tamamen insan denetim ve uhdesinde olmasını sağlayacaktır. Sonraki adımda ise, doğrudan ya da dolaylı olarak YZ tarafından yönetilen sistem ve süreçlerin birbirlerini "negatif beslemesi", başka bir deyişle birbirleriyle etkileşime girerek çatışmayı tırmandırmalarını önleyecek filtre ve bariyerler geliştirilmelidir. Böyle birçok katmanlı filtre yapısı, yanlış alarm, "YZ halüsinasyonu" ya da istenmeyen angajmanları engelleyebilir.

Askeri YZ'nin iç kaynaklı güvenlik risklerinin yönetilmesinde önemli bir diğer boyut, algoritmaların ve bunların beslendiği veri setlerinin güvenlik ve bütünlüğüdür. Veri setlerinin kirlenmesinin önlenmesi, YZ algoritmalarının hangi koşul ve zamanlarda tam otonom karar veremeyeceğinin tespiti, algoritmalar ile bunların üzerinde çalıştığı donanımların sertifikasyonu ve takibi bu bağlamda önemli tedbir başlıkları arasında sayılabilir.

Bununla birlikte, vurgulamak gerekir ki küresel ölçekte askeri YZ'ye dair asgari bir görüş ve niyet birliğinin bulunmaması, bu alanda etik, hukuki ve normatif yapısal adımların atılmasını en azından kısa vadede imkansız kılmakta. Halihazırda mevcut olan uluslararası stratejik güven eksikliği, askeri YZ'nin sunduğu imkan ve kabiliyetlerin cazibesi nedeniyle daha da artmakta: Zaman zaman çeşitli lobi grupları ve devletlerin, insan hakları, özel hayatın ve kişisel verilerin korunması gibi başlıklar altında ileri sürdükleri endişeler, YZ'nin askeri harekatlardaki etkinliğinin günbegün artması karşısında cılız kalıyor. Ancak öte yandan, bu görüşlerin (sıklıkla bunları savunan grup ve odaklar üzerinden) siyasi kaldıraç olarak kullanılmalarına da tanık olunabiliyor. YZ'nin sadece kendisi değil, kullanımı ya da YZ kabiliyetlerine erişim de siyasi düzleme taşınan bir tartışma ve pazarlık konusu haline gelmiş durumda.

Yapay zekanın denetlenmesi: Sınırlılıklar ve gereklilikler

Bu noktada, bir yazılımın ya da YZ algoritmasının güvenli veya "insancıl" olduğunun nasıl tespit edileceği sorusunu sormak gerekir. Nükleer tesisleri denetleyen Uluslararası Atom Enerjisi Ajansı (UAEA) benzeri bir yapının askeri YZ için kurulması teklif edilmekte. Ancak belirtmek gerekir ki algoritmayı meydana getiren kodlar, radyoaktif elementler gibi bir iz bırakmaz; kodun kaynağını takip etmek nükleer tesisin kuruluş ve işleyişinin denetlenmesinden çok daha zordur.

Buna çözüm olarak, ülkelerin YZ sistemlerinin temel mimari yapılarını ve gizli bileşenlerini ifşa etmeden test ve doğrulamaya sokacakları "Algoritmik Denetim Odaları" kurulabilir. Kurulacak simülasyon ortamlarında gerçekleştirilecek testler sonucunda verilecek sertifika ile ticari ve askeri alanda bir norm inşası mümkün olabilir. Ancak yine de böyle bir test, doğrulama ve sertifikasyon mekanizmasının kurulması ve işlerlik kazanması için uluslararası seviyede kayda değer ölçüde bir görüş ve niyet birliği sağlanması şarttır.

Dolayısıyla esas meselenin, YZ'nin savaş alanında kullanılıp kullanılmayacağı değil; nasıl, kim tarafından ve hangi sınırlar içinde kullanılacağı olduğunu vurgulamak gerekir. REAIM 2026 bildirgesine imza atılmaması tek başına bir "kuralsızlık" ilanı anlamına gelmese de, askeri YZ alanında norm üretiminin büyük güç rekabetinden bağımsız düşünülemeyeceğini açıkça göstermekte. ABD ve Çin gibi teknolojik öncüler masada olmadıkça, küresel bir etik çerçeve oluşturma çabaları kaçınılmaz olarak sınırlı kalacaktır. Ancak bu durum, norm inşa sürecinin ertelenmesini değil, aksine daha gerçekçi ve katmanlı bir yaklaşımın benimsenmesini gerektirir.

Kısa vadede evrensel ve bağlayıcı bir rejim oluşturmak zor görünmekte. Buna karşılık orta vadede, şeffaflık artırıcı önlemler, karşılıklı güven inşa edici teknik diyalog mekanizmaları ve sınırlı alanlarda (örneğin tam otonom ölümcül sistemlerin kullanım eşikleri gibi) dar ama somut mutabakatlar mümkün olabilir. Ulusal düzeyde ise anlamlı insan denetimi, algoritmik güvenlik, veri bütünlüğü ve çok katmanlı filtre mekanizmaları gibi tedbirlerin kurumsallaştırılması ertelenemez bir zorunluluktur. Zira askeri YZ'den kaynaklanan risklerin önemli bir bölümü, niyetli kötüye kullanımdan ziyade tasarım hataları, yanlış veri, öngörülemeyen etkileşimler ve hız baskısından doğmaktadır.

YZ savaşı hızlandırabilir; ancak güvenlik mimarisinin de aynı ölçüde hızlanması ve derinleşmesi, yeni nesil bir kapasite inşa etmesi gerekir. Aksi takdirde, hipersavaşın milisaniyelik karar döngüleri içinde stratejik istikrarın kırılganlığı artacaktır. Askeri YZ alanında asıl sınav, teknolojik üstünlüğü korurken insan sorumluluğunu ve siyasi aklı muhafaza edebilmektir. Normlar geriden gelebilir; fakat insanın nihai sorumluluğu ertelenemez. Bu nedenle bugün atılacak her teknik, hukuki ve etik adım, sadece savaşın doğasını değil, uluslararası düzenin geleceğini de şekillendirecektir.

[Arda Mevlütoğlu, savunma analistidir.]

*Makalelerdeki fikirler yazarına aittir ve Anadolu Ajansının editoryal politikasını yansıtmayabilir.