ABD ile İran arasındaki savaşın sürdüğü ilkbahar aylarında, ABD ordusu Orta Doğu'da bulunan bir Çin gemisi hakkında hazırlanan istihbarat raporu nedeniyle alarma geçti. Raporda geminin nükleer silah programında kullanılan bileşenleri taşıdığı iddia ediliyordu. CNN'e konuşan dört kaynak, raporun ardından gemiyi durdurmak amacıyla operasyon planlandığını aktardı.
Yapay zeka yanlış istihbarat yaptı İki kaynağa göre silahlı ABD askeri personeli gemiye çıkmaya hazırlanırken askeri uçaklar da havalanmıştı. Ancak operasyondan kısa süre önce yetkililer raporu daha ayrıntılı şekilde incelemeye başladı. Yapılan incelemede raporun yapay zeka desteğiyle hazırlandığı ve kullanılan sohbet botunun geminin taşıdığı malzemeyi yanlış tanımladığı ortaya çıktı.
Kaynaklardan biri, istihbarat raporunu tamamen hatalı olduğunu belirtti. Aynı kaynak, olayın iki nükleer güç arasında neredeyse bir savaş başlatabileceğini söyledi. Gemide gerçekte hangi yükün bulunduğu ise şu aşamada belirsiz.
Olayın merkezinde, ABD Özel Operasyonlar Komutanlığı Pasifik (SOCOM Pacific) tarafından elde edilen geminin yük manifestosuna ilişkin istihbarat bilgileri yer alıyordu. Bir analist, geminin taşıdığı malzemeleri değerlendirmek için kimliği açıklanmayan bir sohbet botuna başvurdu. Yapay zeka, istihbarat verilerini değerlendirirken geminin nükleer silah programına ait malzemeler taşıdığı sonucuna ulaştı.
Kullanılan yapay zekanın Claude, ChatGPT veya diğer ticari ürünlerden birisi mi olduğu yoksa ABD hükümeti tarafından kullanılan Maven gibi özel askeri bir ürün mü aldığı açıklanmadı. Hatalı rapor, resmi istihbarata dönüştü CNN'e konuşan ve ordunun yapay zeka sistemleri hakkında bilgi sahibi olan eski bir üst düzey yetkili, hükümet bünyesindeki araçların büyük ölçüde ticari yapay zeka ürünlerinin değiştirilmiş veya çok benzer sürümlerine dayandığını belirtti. Bu sistemlere kamu kurumlarının sahip olduğu istihbarat verileri de entegre edilebiliyor.
Öte andan raporu hazırlayan analistin, yapay zekanın hatalı değerlendirmesini temel alarak yine yapay zekaya standart bir istihbarat raporu oluşturttuğu ve bunun da birimlere dağıtıldığı açıklandı. Böylece hatalı yapay zeka çıktısı, askeri karar alma süreçlerinde kullanılan resmi görünümlü bir istihbarat belgesine dönüştü. Bununla birlikte ABD ordusu, istihbarat analizi, hedef belirleme ve lojistik gibi alanlarda yapay zeka kullanımını yaygınlaştırıyor.
Savunma Bakanı Pete Hegseth, ocak ayında açıkladığı Yapay Zeka Hızlandırma Stratejisi ile bürokratik engellerin kaldırılmasını ve teknolojinin yaklaşık üç milyon sivil ve askeri personele sunulmasını hedefledi. Ancak CNN'in görüştüğü yetkililere göre ordunun farklı birimleri yapay zeka araçlarını farklı güvenlik standartlarıyla kullanıyor ve üretilen bilgileri doğrulamak için ortak bir sistem bulunmuyor. Bu durum, hatalı sonuçların istihbarat raporlarına girerek askeri kararları etkileme riskini artırıyor.
Yapay zeka kaynaklı hatalar artıyor ABD ordusunda yapay zeka, istihbarat analizinin yanı sıra saldırı hedeflerinin belirlenmesinde de giderek daha fazla kullanılıyor. Kaynaklar, insan denetiminin sivil kayıpları ve dost ateşi riskini önlemedeki rolüne ilişkin net kurallar bulunmadığını belirtiyor. Hatalı veya güncelliğini yitirmiş verilerle çalışan sistemler, yanlış hedef seçimine ve ciddi can kayıplarına yol açma potansiyeline sahip.
Hatta Anthropic'in Claude modeli, Ayetullah Ali Hamaney'in ölümüne yol açan operasyon da dahil olmak üzere, İran'a yönelik saldırılarda aktif olarak kullanıldı. Ayrıca yapay zeka destekli hedef analizlerinin, Minab'da çoğunluğu çocuk 168 kişinin öldüğü okul saldırısına katkıda bulunmuş olabileceği öne sürüldü. Saldırı, BM destekli uzmanlar tarafından olası savaş suçu olarak değerlendirildi.
Kaynaklar bu tip yapay zeka kaynaklı hataların arttığını da söylüyor. CNN kaynakları, analistlerin raporları daha hızlı hazırlayıp paylaşmaları yönündeki baskının hata riskini artırdığını, özellikle genç çalışanların yapay zeka çıktılarına daha fazla güvenebildiğini aktardı.
