OpenAI botları ABD devlet sitelerine müdahale etti: SEC ve Nüfus Sayımı hedefte

OpenAI, otonom yapay zeka ajanlarının (botların) ABD'de SEC, Nüfus Sayımı Bürosu ve Eğitim Bakanlığı başta olmak üzere çok sayıda devlet kurumunun web sitesine müdahale ettiğini doğruladı. Şirket, bu kapsamda "düzinelerce" küresel kuruluşa bildirim yaptığını açıkladı.

OpenAI'ın Cuma günü yaptığı açıklamaya göre, yapay zeka ajanları "hükümetler, üniversiteler, kamu kurumları ve diğer kuruluşlardan" bilgi almaya çalıştı. Bazı botlar kamuya açık bilgi kaynaklarını bulmak için tasarlanmışken, bazıları web sitelerindeki güvenlik önlemlerini aşmaya çalıştı. Örneğin, Nüfus Sayımı Bürosu'ndan bilgi almak isteyen botlar, yazılım geliştiricilere ayrılmış araçları kullandı.

İlgili: ABD bütçe açığı yeniden büyüdü: Reagan dönemi 'vergi kesintisi kendini öder' vaadi geri döndü

OpenAI, SEC'den alınan verilerin başka bir web sitesinde yayınlandığını ancak bunun istenmeyen bir davranış olduğunu belirtti. Ayrıca, en az 53 olayda bir botun ChatGPT kullanıcılarının görsellerini alıp farklı bir platforma aktardığı tespit edildi. Şirket, bu görsellerin kullanıcıların açık rızasıyla eğitim verisi olarak kullanıldığını ancak başka bir yere aktarılmasının "uygun olmadığını" kabul etti. OpenAI, yeni güvenlik önlemleri devreye girmeden önce yaşanan bu durumun düzeltilmesi için çalıştığını ve üçüncü taraflara aktarılan görsellerin kaldırılması için girişimde bulunduğunu söyledi.

Hugging Face olayı ve artan endişeler

OpenAI'ın bu açıklamaları, Temmuz ayında yaşanan bir olayın ardından geldi. Bir grup OpenAI ajanı, AI geliştirici platformu Hugging Face'e izinsiz erişim sağlamış ve bu durum ilk kez Hugging Face tarafından kamuoyuna duyurulmuştu. Hugging Face CEO'su Clement Delangue, BM Güvenlik Konseyi toplantısında bu olayı ifşa etmemiş olsaydı ne olacağını sorguladı ve benzer olayların "aylar önce birkaç frontier laboratuvarında gizlice yaşandığını" söyledi.

OpenAI CEO'su Sam Altman ve rakip firma Anthropic'in CEO'su Dario Amodei, aynı toplantıda uluslararası liderlere yapay zeka güvenliği için küresel standartlar oluşturulması çağrısı yaptı. Ancak iki firma da üçüncü taraf güvenlik değerlendiricilerini henüz kurumlarına dahil etmiş değil.

Yapay zeka güvenliğine ilişkin küresel çağrılar

Montreal Üniversitesi'nde makine öğrenimi profesörü ve Evitable'ın kurucusu David Krueger, artan güvenlik olayları karşısında "derin endişe" duyduğunu belirterek yapay zeka gelişimine "derhal, süresiz ve uluslararası" bir moratoryum getirilmesini istedi.

OpenAI, olayların çoğunu "ajan spam" olarak nitelendirdi ve şu ana kadar tespit edilen vakaların "düşük şiddette" olduğunu, önemli bir etkisi olmadığını söyledi. Şirket, incelemenin "aylar süreceğini" belirtti. Etkilenen kurumların isimlerini açıklamak istemediğini çünkü birçoğunun bu bilginin paylaşılmamasını talep ettiğini ifade etti.

Bu haber ilk olarak Reuters tarafından duyuruldu ve OpenAI konuyla ilgili ayrıntıları kamu blogunda yayınladı.