Yapay zeka, önümüzdeki yıllarda savaşın çehresini değiştirmeyi vaat eden birçok sıcak teknoloji arasında yer alıyor. Olasılıklarını anlatan ve yapay zeka yarışında geride kalanları uyaran makaleler bolca mevcut. Savunma Bakanlığı, yapay zeka savaşını kazanma umuduyla Ortak Yapay Zeka Merkezi’ni usulüne uygun olarak kurdu. YZ’nin otonom sistemlerin görevleri yerine getirmesini, sensör füzyonu sağlamasını, görevleri otomatikleştirmesini ve insanlardan daha iyi, daha hızlı kararlar almasını sağladığına dair vizyonlar mevcuttur. YZ hızla gelişiyor ve gelecekte bir gün bu hedeflere ulaşılabilir. Bu arada, YZ’nin etkisi, ordumuz tarafından tartışmasız ortamlarda gerçekleştirilen daha sıradan, sıkıcı ve monoton görevlerde olacaktır.

Yapay zeka hızla gelişen bir yetenektir. Akademi ve endüstri tarafından yapılan kapsamlı araştırmalar, sistemler için daha kısa eğitim süresi ve giderek daha iyi sonuçlarla sonuçlanmaktadır. Yapay zeka görüntü tanıma, tavsiye sistemleri ve dil çevirisi gibi belirli görevlerde etkilidir. Bu görevler için tasarlanmış birçok sistem bugün sahadadır ve çok iyi sonuçlar üretmektedir. Diğer alanlarda ise YZ, insan düzeyindeki başarının çok gerisindedir. Bu alanlardan bazıları, daha önce YZ tarafından görülmemiş senaryolarla çalışmak; metin bağlamını (örneğin iğnelemeyi anlamak) ve nesneleri anlamak; ve çoklu görev (yani, birden fazla türdeki problemleri çözebilmek). Günümüzde çoğu YZ sistemi tek bir görevi yerine getirmek ve bunu yalnızca çok özel koşullar altında yapmak üzere eğitilmiştir. İnsanların aksine, yeni ortamlara ve yeni görevlere iyi uyum sağlayamazlar.

Yapay zeka modelleri her geçen gün gelişmekte ve birçok uygulamada değerlerini göstermektedir. Bu sistemlerin performansı, onları bir uydu görüntüsündeki T-90 ana muharebe tankını tanımlama, yüz tanıma kullanarak bir kalabalıktaki yüksek değerli hedefleri belirleme, açık kaynaklı istihbarat için metin çevirme ve bilgi operasyonlarında kullanılmak üzere metin oluşturma gibi görevler için çok yararlı hale getirebilir. YZ’nin en başarılı olduğu uygulama alanları, Imagenet, Google Translate ve metin oluşturma gibi büyük miktarlarda etiketlenmiş verinin bulunduğu alanlardır. YZ ayrıca tavsiye sistemleri, anomali tespiti, tahmin sistemleri ve rekabetçi oyunlar gibi alanlarda da çok yeteneklidir. Bu alanlardaki bir YZ sistemi, orduya sözleşme hizmetlerinde dolandırıcılık tespiti, silah sistemlerinin bakım sorunları nedeniyle ne zaman arızalanacağını tahmin etme veya çatışma simülasyonlarında kazanma stratejileri geliştirme konusunda yardımcı olabilir. Tüm bu uygulamalar ve daha fazlası, günlük operasyonlarda ve bir sonraki çatışmada kuvvet çarpanları olabilir.

Askeri Uygulamalar için Yapay Zekanın Eksiklikleri

Ordu, yapay zekanın bu görevlerdeki başarısını kendi sistemlerine dahil etmeye çalışırken, bazı zorlukların kabul edilmesi gerekiyor. Bunlardan ilki, geliştiricilerin verilere erişime ihtiyaç duymasıdır. Birçok YZ sistemi, genellikle bir insan olmak üzere bazı uzman sistemler (örneğin, hava savunma bataryası içeren sahnelerin etiketlenmesi) tarafından etiketlenmiş veriler kullanılarak eğitilir. Büyük veri kümeleri genellikle manuel yöntemler kullanan şirketler tarafından etiketlenir. Bu verileri elde etmek ve paylaşmak, özellikle de verileri sınıflandırmayı ve bunlara erişimi kısıtlamayı tercih eden bir kuruluş için zorlu bir iştir. Örnek bir askeri veri kümesi, termal görüntüleme sistemleri tarafından üretilen ve varsa görüntüde bulunan silah sistemlerini tanımlamak için uzmanlar tarafından etiketlenen görüntüleri içeren bir veri kümesi olabilir. Bunu ön işlemciler ve geliştiricilerle paylaşmadan, bu seti etkili bir şekilde kullanan bir YZ oluşturulamaz. YZ sistemleri ayrıca çok büyük (ve dolayısıyla yavaş) olmaya ve sonuç olarak “boyutluluk sorunlarına” karşı savunmasızdır.

Örneğin, var olan her olası silah sisteminin görüntülerini tanıyacak bir sistemin eğitilmesi binlerce kategori içerecektir. Bu tür sistemler muazzam miktarda bilgi işlem gücü ve bu kaynaklar üzerinde çok fazla zaman harcanmasını gerektirecektir. Ve bir modeli eğittiğimiz için, en iyi modelin tamamen doğru olması için bu görüntülerin sonsuz miktarda olması gerekir. Bu bizim başaramayacağımız bir şey. Dahası, bu yapay zeka sistemlerini eğitirken, genellikle onları dilbilgisi kuralları gibi “insan” kurallarına uymaya zorlamaya çalışırız. Ancak, insanlar genellikle bu kuralları göz ardı eder, bu da duygu analizi ve konuşma tanıma gibi konularda başarılı YZ sistemleri geliştirmeyi zorlaştırır. Son olarak, YZ sistemleri tartışmasız, kontrollü alanlarda iyi çalışabilir. Ancak araştırmalar, düşmanca koşullar altında YZ sistemlerinin kolayca kandırılabileceğini ve bunun da hatalara yol açabileceğini göstermektedir. Kuşkusuz, birçok Savunma Bakanlığı YZ uygulaması siber alan gibi tartışmalı alanlarda çalışacaktır ve bu nedenle sonuçlarına karşı dikkatli olmalıyız.

Düşmanın kullanabileceğimiz YZ sistemlerini yenme çabalarını göz ardı edersek, görünüşte süper insan olan bu modellerin sınırlamaları vardır. Bir YZ’nin görüntü işleme kabiliyeti, eğitim setinden farklı görüntüler verildiğinde çok sağlam değildir – örneğin, aydınlatma koşullarının zayıf olduğu, geniş bir açıda olan veya kısmen gizlenmiş görüntüler. Bu tür görüntüler eğitim setinde yer almadığı sürece, model içeriği doğru bir şekilde tanımlamakta zorlanabilir (veya başarısız olabilir). Bilgi-işlem görevlerimize yardımcı olabilecek sohbet botları yüzlerce kelimeyle sınırlıdır ve bu nedenle bir seferde sayfalarca yazabilen bir insanın yerini tamamen alamaz. IBM’in Watson hava durumu tahmin aracı gibi tahmin sistemleri, modellemeye çalıştıkları sistemlerin karmaşıklığı nedeniyle boyutluluk sorunları ve girdi verilerinin kullanılabilirliği ile mücadele etmektedir. Araştırmalar bu sorunların bazılarını çözebilir, ancak çok azı tahmin edildiği ya da istendiği kadar çabuk çözülecektir.

Yapay zeka sistemlerinin bir diğer basit zayıflığı da çoklu görev yapamamalarıdır. Bir insan bir düşman aracını tanımlayabilir, ona karşı kullanılacak silah sistemine karar verebilir, yolunu tahmin edebilir ve ardından hedefe angaje olabilir. Bu oldukça basit görevler dizisini bir YZ sisteminin başarması şu anda imkansızdır. En iyi ihtimalle, her bir görevin ayrı modellere verildiği bir YZ kombinasyonu oluşturulabilir. Bu tür bir çözüm, uygulanabilir olsa bile, sistemin eğitimi ve test edilmesinden bahsetmeksizin, algılama ve hesaplama gücünde büyük bir maliyet gerektirecektir. Birçok yapay zeka sistemi, öğrendiklerini aynı alan içinde aktarma yeteneğine bile sahip değildir. Örneğin, bir T-90 tankını tanımlamak üzere eğitilmiş bir sistem, her ikisi de tank olmasına ve her iki görev de görüntü tanıma olmasına rağmen, büyük olasılıkla bir Çin Tip 99 tankını tanımlayamayacaktır. Birçok araştırmacı sistemlerin öğrendiklerini aktarabilmeleri için çalışmaktadır, ancak bu tür sistemlerin üretilmesine daha yıllar vardır.

Yapay zeka sistemleri girdileri ve girdiler içindeki bağlamı anlama konusunda da çok zayıftır. Yapay zeka tanıma sistemleri görüntünün ne olduğunu anlamazlar, sadece görüntünün piksellerinin dokularını ve gradyanlarını öğrenirler. Aynı gradyanlara sahip sahneler verildiğinde, YZ’ler resmin bazı kısımlarını kolayca yanlış tanımlar. Bu anlayış eksikliği, göl üzerindeki bir tekneyi BMP olarak tanımlamak gibi insanların yapmayacağı yanlış sınıflandırmalara neden olabilir.

Bu durum, bu sistemlerin bir başka zayıf yönüne, yani kararlarını nasıl verdiklerini açıklayamamalarına yol açmaktadır. Bir YZ sisteminin içinde olup bitenlerin çoğu bir kara kutudur ve bir insanın sistemin kararlarını nasıl aldığını anlamak için yapabileceği çok az şey vardır. Bu, katılım kararları veren veya çıktıları kritik karar alma süreçlerinde kullanılabilecek olanlar gibi yüksek riskli sistemler için kritik bir sorundur. Bir sistemi denetleme ve neden hata yaptığını öğrenme becerisi yasal ve ahlaki açıdan önemlidir. Ayrıca, YZ’nin dahil olduğu durumlarda sorumluluğu nasıl değerlendireceğimize ilişkin konular açık araştırma endişeleridir. Son zamanlarda haberlerde, YZ sistemlerinin kredi onayları ve şartlı tahliye kararları gibi alanlarda gizli önyargılara dayalı olarak kötü kararlar verdiğine dair birçok örnek yer aldı. Ne yazık ki, açıklanabilir YZ üzerine yapılan çalışmaların meyve vermesine daha uzun yıllar var.

Yapay zeka sistemleri korelasyon ve nedensellik arasındaki farkı ayırt etmekte de zorlanmaktadır. Aradaki farkı göstermek için sıklıkla kullanılan meşhur örnek, boğulma ölümleri ile dondurma satışları arasındaki korelasyondur. Bu iki öğeyle ilgili istatistiklerle beslenen bir yapay zeka sistemi, her ikisinin de sıcak havanın bir fonksiyonu olması nedeniyle iki modelin sadece ilişkili olduğunu bilemez ve boğulma ölümlerini önlemek için dondurma satışlarını kısıtlamamız gerektiği sonucuna varabilir. Bu tür bir sorun, aylara göre satın alma verileriyle beslenen bir askeri dolandırıcılık önleme sisteminde de kendini gösterebilir. Böyle bir sistem, aslında sadece yıl sonu harcama alışkanlıklarının bir fonksiyonu olduğu halde, harcamalar arttıkça Eylül ayında dolandırıcılığın da arttığı sonucuna varabilir.

Bu YZ zayıflıkları olmasa bile, ordunun şu anda ilgilenmesi gereken ana alan düşman saldırılarıdır. Potansiyel düşmanların kullandığımız tüm erişilebilir YZ sistemlerini kandırmaya ya da kırmaya çalışacağını varsaymalıyız. Görüntü tanıma motorları ve sensörler kandırılmaya çalışılacak; siber saldırılar izinsiz giriş tespit sistemlerinden kaçmaya çalışacak; ve lojistik sistemler, tedarik hatlarını yanlış gereksinimlerle tıkamak için değiştirilmiş verilerle beslenecektir.

Muhalif saldırılar dört kategoriye ayrılabilir: kaçırma, çıkarım, zehirleme ve çıkarma. Bu tür saldırıların gerçekleştirilmesinin kolay olduğu ve genellikle bilgisayar becerileri gerektirmediği gösterilmiştir. Kaçırma saldırıları genellikle tespit edilmekten kaçınma umuduyla bir yapay zeka motorunu kandırmaya çalışır – örneğin bir siber saldırıyı gizlemek veya bir sensörü bir tankın okul otobüsü olduğuna ikna etmek. Geleceğin birincil hayatta kalma becerisi, YZ sensörlerinden saklanma yeteneği olabilir. Sonuç olarak, ordunun YZ sistemlerini yenmek için yeni bir tür YZ kamuflajı geliştirmesi gerekebilir çünkü stratejik bant yerleştirme gibi basit şaşırtma tekniklerinin YZ’yi kandırabileceği gösterilmiştir. Kaçınma saldırıları genellikle, kaçınma saldırılarını etkinleştirmek için kullanılabilecek YZ sistemi hakkında bilgi edinen çıkarım saldırıları ile devam eder.

Zehirlenme saldırıları, kötü niyetli amaçlarına ulaşmak için eğitim sırasında yapay zeka sistemlerini hedef alır. Burada tehdit, araçlarımızı eğitmek için kullanılan veri kümelerine düşman erişimi olacaktır. Hedefleme sistemlerini kandırmak için araçların yanlış etiketlenmiş görüntüleri veya yakın sistem arızasını normal çalışma olarak sınıflandırmak için tasarlanmış manipüle edilmiş bakım verileri eklenebilir. Tedarik zincirlerimizin güvenlik açıkları göz önüne alındığında, bu hayal bile edilemeyecek bir şey değildir ve tespit edilmesi de zor olacaktır. Çıkarma saldırıları, sistemin paralel bir modelini oluşturmak için YZ’nin çalışması hakkında yeterince bilgi edinmek amacıyla YZ’nin arayüzüne erişimden yararlanır. YZ’lerimiz yetkisiz kullanıcılara karşı güvenli değilse, bu kullanıcılar sistemlerimiz tarafından verilen kararları tahmin edebilir ve bu tahminleri kendi avantajlarına kullanabilirler. Bir rakibin, YZ kontrollü bir insansız sistemin belirli görsel ve elektromanyetik uyaranlara nasıl tepki vereceğini tahmin edebileceği ve böylece rotasını ve davranışını etkileyebileceği düşünülebilir.

Askeri Yapay Zeka Kullanımı için İleriye Giden Yol

Yapay zekanın gelecekteki askeri uygulamalarda kesinlikle bir rolü olacaktır. Üretkenliği artıracağı, kullanıcı iş yükünü azaltacağı ve insanlardan daha hızlı çalışacağı birçok uygulama alanı vardır. Devam eden araştırmalar bu teknolojinin kabiliyetini, açıklanabilirliğini ve esnekliğini geliştirmeye devam edecektir. Ordu bu teknolojiyi görmezden gelemez. Biz benimsemesek bile rakiplerimiz kesinlikle benimseyecektir ve onların yapay zekalarına saldırabilmeli ve onları yenebilmeliyiz. Ancak, bu yeniden canlanan teknolojinin cazibesine direnmeliyiz. Savunmasız YZ sistemlerini tartışmalı alanlara yerleştirmek ve onları kritik kararlardan sorumlu kılmak feci sonuçlara yol açabilir. Şu anda, insanlar kilit kararlardan sorumlu olmaya devam etmelidir.

Açıkta kalan YZ sistemlerimizin saldırıya uğrama olasılığının yüksek olduğu ve YZ teknolojisindeki mevcut esneklik eksikliği göz önüne alındığında, askeri YZ’ye yatırım yapmak için en iyi alanlar, tartışmasız alanlarda faaliyet gösterenlerdir. İnsan uzmanlar tarafından yakından denetlenen veya güvenli girdi ve çıktılara sahip yapay zeka araçları, güvenlik açıklarıyla ilgili endişeleri hafifletirken orduya değer sağlayabilir. Bu tür sistemlere örnek olarak tıbbi görüntüleme tanı araçları, bakım-arıza tahmin uygulamaları ve dolandırıcılık tespit programları verilebilir. Tüm bunlar orduya değer sağlarken, düşmanca saldırılar, önyargılı veriler, bağlamın yanlış anlaşılması ve daha fazlasından kaynaklanan riski sınırlandırabilir. Bunlar dünyanın yapay zeka satıcıları tarafından desteklenen süper araçlar değildir, ancak yakın vadede başarıya ulaşması en muhtemel olanlardır.

Yarbay (E) Paul Maxwell, Birleşik Devletler Askeri Akademisi’ndeki Ordu Siber Enstitüsü’nde Bilgisayar Mühendisliği Siber Araştırmacısıdır. Yirmi dört yıllık hizmeti boyunca siber ve zırh branşlarında subay olarak görev yapmıştır. Colorado Eyalet Üniversitesi’nden elektrik mühendisliği alanında doktora derecesine sahiptir.