ABD, İran savaşında yapay zekayı nasıl kullanıyor, teknolojiyi sunan şirket ne diyor?

BEĞENDİM

ABONE OL

News

Teknoloji devi Palantir, BBC’ye verdiği özel röportajda, yapay zeka platformlarının askeri kullanımının öngörülemeyen risklere yol açabileceğine dair kaygılara karşı çıkarak, teknolojinin nasıl kullanılacağının askeri müşterilerinin sorumluluğunda olduğunu savundu.

Bu açıklama, uzmanların Palantir’in ABD’nin İran‘a yönelik ataklarında kullanıldığı bildirilen yapay zeka dayanaklı savunma platformu Maven Smart System hakkındaki tasalarını lisana getirmesinin akabinde geldi.

Analistler, askeri çalışanın atakları planlamasına yardımcı olan platformun, dataların “anlamlı biçimde doğrulanması” için çok az vakit bıraktığını ve yanlış gayelerin vurulmasına yol açabileceği ikazında bulunuyor.

Şirketin İngiltere ve Avrupa Başkanı Louis Mosley BBC’ye verdiği röportajda, Maven üzere yapay zeka platformlarının ABD’nin İran savaşını yönetmesinde “belirleyici” bir rol oynadığını söyledi.

Ancak bu çıktının nasıl kullanılacağının sorumluluğunun her vakit “askeri kurumda” kalması gerektiğini ekledi.

Mosley, “Her vakit süreçte bir insan var, yani kesin kararı veren bir insan bulunuyor. Mevcut tertip bu” diyor.

Maven Smart System, Pentagon tarafından 2017’de hayata geçirildi. İstihbarat, uydu ve insansız hava aracı (İHA) imajları de dahil olmak üzere çok büyük ölçüde bilgiyi bir ortaya getirerek askeri hedefleme kararlarını hızlandırmak üzere tasarlandı.

Sistem bu dataları tahlil ediyor ve akabinde hedefleme için teklifler sunabiliyor.

Ayrıca, işçi ve uçak üzere askeri teçhizatın mevcudiyetine nazaran kullanılacak güç seviyesini de önerebiliyor.

Ancak bu çeşit araçların savaşta kullanımı giderek daha fazla sorgulanıyor.

Şubat ayında Pentagon, Maven’i destekleyen sistemlerden biri olan Anthropic’in yapay zeka platformu Claude’ı şirketin otonom silahlar ve nezarette kullanımına müsaade vermemesi üzerine evreli olarak kaldırılacağını açıkladı.

Palantir, bunun yerine alternatiflerin devreye alınabileceğini söylüyor.

Şubat ayında İran’la savaşın başlamasından bu yana ABD’nin ülke genelindeki taarruzları planlamak için Maven’i kullandığı bildiriliyor.

BBC’nin Maven’in siviller dahil yanlış maksatlar önerebilme riski konusundaki sorusuna Mosley, platformun sırf askeri işçinin karar alma sürecini hızlandırmak için tasarlanmış bir rehber olduğunu söyleyerek karşılık verdi. Otomatik bir hedefleme sistemi olarak görülmemesi gerektiğini de savundu.

Mosley, “Maven’i bir dayanak aracı olarak düşünebilirsiniz. Daha evvel tek tek elle yapmaları gereken çok büyük ölçüde bilgiyi sentezlemelerini sağlıyor” dedi.

Ancak Mosley, kumandanların vakit baskısı altında çalışanından Maven’in çıktısını onaylanmış bir karar üzere muamele etmesini isteme riskiyle ilgili soruya şu cevabı verdi:

“Bu aslında askeri müşterilerimize sorulması gereken bir soru. Kimlerin hangi kararı vereceğini belirleyen siyaset çerçevesine onlar karar veriyor. Bu bizim rolümüz değil.”

28 Şubat’tan bu yana ABD, İran’a karşı 11 binden fazla akın düzenledi; bunların birçoklarının Maven tarafından belirlendiği bildiriliyor.

ABD’nin Ortadoğu’daki askeri güçlerinin başındaki Amiral Brad Cooper, yapay zeka sistemlerinin subaylara “çok büyük ölçüde bilgiyi saniyeler içinde tarama” imkanı sunduğunu, böylelikle “liderlerin kaba gürültüyü aşarak düşmandan daha süratli kararlar almasını” sağladığını söyledi.

Ancak yapay zekanın misyon planlama süreçlerine dahil olmasının önemli riskler yarattığından tasa duyanlar da var.

İngiltere’deki Queen Mary Üniversitesi’nden Prof Elke Schwarz, “Hız ve ölçeğe öncelik verilmesi ve güç kullanımının buna nazaran şekillenmesi, maksatların manalı biçimde doğrulanması için çok az vakit bırakıyor; bu da ezkaza sivillerin gaye alınmasına yol açabilir” dedi.

Schwarz, “Öldürme riski varsa ve kritik karar alma sürecinin büyük bir kısmını sizin yerinize halledecek yazılıma devrederseniz, o vakit yazılıma bağımlı hale gelirsiniz. Bu da sizi düşüşe götürür” diye ekledi.

Pentagon yetkilileri, İran’ın Minab kasabasındaki bir okula yönelik ölümcül taarruzda Maven üzere yapay zeka araçlarının gaye belirlemek için kullanılıp kullanılmadığı konusunda son haftalarda sorgulandı.

İranlı yetkililer, savaşın birinci gününde gerçekleştirilen bir taarruzda 168 kişinin öldüğünü, bunların yaklaşık 110’unun çocuk olduğunu söyledi.

Kongre’de kimi üst seviye Demokratlar, Maven üzere yapay zeka platformlarının daha fazla denetlenmesi davetinde bulundu.

Temsilciler Meclisi Silahlı Hizmetler Komitesi Üyesi Sara Jacobs, yapay zeka sistemlerinin nasıl ve ne vakit kullanılacağı konusunda açıkça uygulanan kurallar gerektiğini söyledi.

Yapay zeka araçlarının yüzde 100 emniyetli olmadığını savunan Jacobs, bu araçların ince yanılgılar yapabildiğini lakin operatörlerin yeniden de onlara çok güvendiğini söyledi.

Jacobs, “Yanlış karar vermenin bedeli siviller ve bu misyonları gerçekleştiren askerler için yıkıcı olabileceğinden, ordunun yapay zeka kullanımına katı güvenlik hudutları koymak ve ölümcül güç kullanımına ait her kararda kesinlikle bir insanın süreçte olmasını teminat altına almak bizim sorumluluğumuz” dedi.

Ancak Mosley, şirketinin platformunun Pentagon’da karar alma süreçlerini aceleye getirdiği ve potansiyel olarak tehlikeli durumlar yarattığı tarafındaki savları reddetti.

Aksine, kumandanların artık daha süratli harekete geçmesinin Maven’in sağladığı “arttırılmış verimliliğin bir sonucu” olduğunu savundu.

“Operasyonel güvenlik” gerekçesiyle Pentagon, BBC’nin gelecekte Maven üzere yapay zeka sistemlerinin nasıl kullanılacağı yahut aykırılıklarda kimin sorumlu tutulacağı konusundaki sorularına cevap vermedi.

Ancak ABD’li yetkililer, Maven’in sistemlere daha da entegre edilmesine yönelik planları ilerletiyor üzere görünüyor.

Geçen hafta Reuters, Pentagon’un Maven’i “resmi bir kayıt programı” olarak tanımladığını bildirdi. Bu, yazılıma uzun vadede ABD ordusu genelinde entegre edilecek bir teknoloji statüsü verilmesi manasına geliyor.

Reuters tarafından elde edilen bir mektupta Savunma Bakan Yardımcısı Steve Feinberg, platformun kumandanlara “düşmanlarımızı tüm alanlarda tespit etmek, caydırmak ve baskı altına almak için gerekli en son araçları” sağlayacağını söyledi.

Jemimah Herd bu habere katkıda bulundu.

Bu haber, BBC gazetecileri tarafından hazırlandı ve denetim edildi. Bir pilot proje kapsamında çevirisinde yapay zekadan da faydalanıldı.