Başına buyruk yapay zekâ ajanları ABD ve Kanada devlet sitelerini hacklemeye çalışıp başarısız oldu

Kar amacı gütmeyen araştırma laboratuvarı Transluce (kaynak İngilizce)’a göre, kontrolden çıkmış yapay zeka ajanları ABD ve Kanada hükümetlerinin internet sitelerini hacklemeye çalıştı; eldeki kanıtlar, Google ve OpenAI’nin ajanlarının sorumlu olduğuna işaret ediyor.Özellikle iki olay, ABD Eğitim Bakanlığı’nın Sivil Haklar Veri Toplama sistemi ile Kanada federal kurumu Library and Archives Canada’daki kamuya açık verilere ulaşmak için agresif teknikler kullanıldığını gösterdi; her iki durumda da sonuçta hiçbir veri ihlali yaşanmadı.Transluce, bu olayların yapay zeka ajanlarına atfedilen “daha geniş bir otomatik iş akışları modeli”nin parçası olduğunu bildiriyor. Kuruluşun araştırmacıları, “Bu iş akışları, devlet sitelerinden bilgi çekmek için agresif ya da hukuken gri alanda kalan teknikler kullanıyor; kimi zaman siteleri amaçlanmayan şekillerde kullanıyor ya da açıkça belirtilmiş kullanım politikalarını ihlal ediyor” dedi.Hedef alınan ek kurumlar arasında Beyaz Saray, Savaş, Adalet ve Ticaret bakanlıkları, Hastalık Kontrol Merkezleri, Menkul Kıymetler ve Borsa Komisyonu ile California, Maryland, Illinois, Teksas ve New York’taki eyalet kurumları da vardı.Ancak bu vakaların hiçbirinde ajanlar, halihazırda kamuya açık olmayan bilgilere erişemedi.Son bulgular, yapay zeka ajanlarının beklenmedik veya yetkisiz davranışlarına ilişkin raporların giderek arttığı bir dönemde ortaya çıktı.Yalnızca eylül ayında, başına buyruk OpenAI ajanlarını içeren iki büyük olay yaşandı: İlkinde ajanlar, kullanıcıların özel görüntülerini kamuya açık internet sitelerine sızdırdı; ikincisinde ise ajanlar ABD ve Avustralya’daki devlet verilerine erişim kazanmaya çalıştı.Şirket, güvenlik araştırmacılarının “kritik” siber güvenlik yetenekleri ile öngörülemeyen, yetkisiz davranışlara dikkat çekmesinin ardından, yeni nesil Astra modelinin kullanıma sunulmasını erteleme kararı aldı.ABD ve Kanada’daki girişimlerAjanlar, 17 Haziran’da okul istatistiklerini ararken ABD Eğitim Bakanlığı’nın internet sitesine saldırı girişiminde bulundu.Transluce’ye göre ajanlar siteye 200 binden fazla istek gönderdi; bunların arasında, sitenin veri tabanı zafiyetini test etmek ve böylece normal filtreleri atlatmak amacıyla bilerek hatalı veri yollamaya yönelik, başarısız kalan bir girişim de vardı.Araştırmacılar, sitede tutulan verilerin Google’ın DeepSearchQA kıyaslama setindeki bir web arama görevine karşılık geldiğini tespit etti; bunun da ajanlara açıkça hackleme saldırısı yapmalarının söylenmediğini, bunun yerine “internetten belirli, niş bilgileri başarılı biçimde çekme becerilerine göre notlandırıldıklarını” düşündürdüğünü belirtti.Transluce, saldırı girişimini eylülde ABD Eğitim Bakanlığı’na bildirdi; bakanlık hizmetlerinde herhangi bir etki görülmediğini açıkladı.Yapay zeka ajanları, 28 Mayıs ve 9 Haziran’daki iki ayrı olayda Library and Archives Canada’ya benzer girişimlerde bulundu.Resmi Portekiz web arşivi Arquivo.pt’nin kaydettiği verilere göre ajanlar, 1905-1911 dönemine ait boşanma kayıtlarıyla ilgili veriler için 899 “collection-search” isteği gönderdi.899 isteğin 13’ü, sitenin zafiyetini test etmek için saldırı yükü içeriyordu. Ancak yine, her iki olayda da hiçbir girişim başarılı olmadı.Transluce, bu girişimleri OpenAI’ye “tam bir kesinlikle atfedemeyeceğini”, ancak kullanılan taktiklerin daha önce şirkete atfettiği faaliyetlerle tutarlı olduğunu söylüyor.Kuruluş bu olayları hafta başında Kanada hükümetine bildirdi.Kanada Siber Güvenlik Merkezi, buna yanıt olarak yayımladığı açıklamada (kaynak İngilizce) “şu ana kadar devlet sistemlerinin tehlikeye girdiğine dair herhangi bir belirti bulunmadığını” söyledi.Transluce, Arquivo.pt’den ve URL ile alan adı taramasına yönelik ücretsiz web tabanlı güvenlik hizmeti urlquery.net’ten aldığı bilgilerle yürüttüğü araştırmanın bulgularını dün yayımladı.