Facebook, Terör Destekçisi Sayfalar İçin Otomatik Videolar Oluşturuyor

Işid bayrakları, patlama görüntüleri ve aşırılıkçı ifadelerin yer aldığı yazılarla Facebook bir video oluşturur mu? Teoride hayır ama pratikte evet. Facebook'un etkileşimi arttırmak için oluşturduğu videoolar arasında böyle videolar da yer alıyor. Esas soru, aşırılıkçı davranışlara karşı etkin mücadele gösterdiğini söyleyen Facebook'ta bu tür içerikler paylaşan kişiler nasıl engellenmiyor?

Facebook, yaptığı açıklamalarda sık sık gerek insanları gerekse algoritmaları kullanarak aşırılıkçıların bir adım önünde olduğunu söylemeyi sevse de durum bunun aksini gösteriyor. Eski bir şirket çalışanı, Güvenlik ve Gümrük Komisyonu'na verdiği ifadede şirketin kendi başarısını abarttığını söylüyor. Daha da kötüsü, platform bu tarz oluşumlar tarafından organize olmak için kullanılıyor ve otomatik olarak videolar ve sayfalar oluşturuyor.

İtirafçı konumundaki eski Facebook çalışanına göre, geçtiğimiz beş aylık dönemde ABD tarafından terör listesine alınan gruplarla ilişkili kişilerin sayfaları araştırmacılar tarafından incelendi. Bu dönemde, aşırılıkçı semboller içeren gönderilerin %38'i engellendi. Associated Press ise bu ay yaptığı araştırmada, şiddet içerikli, idam ve infaz görüntülerinin ve propaganda görüntülerinin algoritmayı aştığını keşfetti.

Zuckerberg yaptığı açıklamalarda algoritmanın, aşırılıkçı sembollere sahip gönderileri daha kimse görmeden kaldırdığını söylüyordu. Ancak sitede yapılan incelemeler durumun farklı olduğunu gösterdi. Konu üzerinde yapılan araştırmalar net sonuçları veremiyor çünkü Facebook, verilerini kamuya açık olarak paylaşmayı pek sevmiyor ve kısıtlı bilgi veriyor.

Araştırmacılardan Shawnee Eyalet Üniversitesi'nde tarih profesörü olarak görev alan Amr Al Azm, yine de çeşitli aşırılıkçı gruplara ait sayfaları bulabildiklerini ve bu kişilerden bazılarının bugün Suriye'de yaşadığını tespit ettiklerini söyledi. Al Azm, herkesin aklındaki soruyu da dillendiriyor: "Küçük bir araştırmacı grubu bile bu içerikleri bulabiliyorsa devasa bir teknoloji firması nasıl bulamıyor?"

Şirket ise sistemlerinin mükemmel olmadığını kabul ediyor ancak ilerleme kaydettiklerini ifade ediyor. Yine de firmanın çalışmaları oldukça yetersiz görülüyor.

Facebook, 2016 yılındaki seçimlerden bu yana oldukça zor zamanlar geçiriyor. Rusya'nın seçimlere etkisine yönelik iddialar, daha sonrasında gelen güvenlik açıkları ve kullanıcı kaybı Facebook'un canını sıkıyor. Firma, şu anda 30 bin çalışanı güvenlik ve gizlilik çalışmaları için görevlendirdiğini belirtiyor. Bu kişiler zararlı içeriklerin tespit edilip platformdan kaldırılmasından sorumlu.

Uzmanlar ise firmanın yapay zeka sisteminin başarısız olduğunu söylüyor. Yapının en baştan beri hatalı olduğunu söyleyen dijital adli inceleme uzmanı Hany Farid, Facebook ve diğer sosyal medya platformların içeriklerde sorumluluk almak istemediklerini söyledi.

Yeni Aryan İmparatorluğu gibi beyaz ırkın üstünlüğünü savunan gruplarla ilişkili, uyuşturucu ticaretinden ceza almış ve federal hükümet tarafından işaretlenmiş kişiler bile Facebook üzerinde rahatça hareket edebiliyor. Cinayetle, insan kaçırmayla ve görgü tanıklarını tehditle suçlanan grupların sayfaları bile aynı şekilde kullanılmaya devam ediyor. Artık işin trajikomik hale geldiği noktada ise aşırılıkçı grupları destekleyen bazı kişilerin bu örgütleri kendi işvereni olarak siteye kaydetmiş olması.

Farid, Facebook'un altyapısının potansiyel tehlikeler düşünülmeden oluşturulduğunu söylüyor. "Bu platformun amacı her zaman için 'Hızlı hareket et ve bir şeyleri kır' oldu. İlk kez sloganlarının tamamen gerçek olduğunu görüyoruz. Stratejileri büyü, büyü, büyü, kazan, kazan, kazan sonra da geriye dönüp sorunlarla yüzleş şeklinde oldu." diyen uzman Facebook'un kendisini geliştirmesini istiyor.