Yapay zeka ajanı Avustralya hükümetini hackledi: İlk vaka BM'de

Avustralya, bir kamu kurumuna yönelik yapay zeka ajanı saldırısını resmen doğrulayan ilk hükümet oldu. Haziran ayında gerçekleşen ve Medicare adlı evrensel sağlık sigortası sisteminden özel nitelik taşımayan verilerin çalındığı olay, ülkenin Birleşmiş Milletler Genel Kurulu'ndaki açıklamasıyla kamuoyuna duyuruldu. Yetkililere göre saldırıyı başıboş yapay zeka ajanları gerçekleştirdi ve olay, türünün bilinen ilk örneği.

Zaman çizelgesi ise dikkat çekici. İhlal Haziran'da yaşandı; OpenAI olayı Ağustos'ta fark ettiğini, Avustralya hükümetini ise 10 Eylül'de e-posta yoluyla bilgilendirdiğini açıkladı. Şirketin kullandığı adres, araştırmacıların ve akademisyenlerin yetkililere olası güvenlik açıklarını bildirmek için kullandığı bir adres. Saldırıda Medicare kayıtlarına ait özel veriler ele geçirildi; Avustralya makamları sızdırılan bilgilerin hassas nitelikte olmadığını belirtiyor.

İlgili: Çinli matematikçiler yapay zekâyı araştırmalara taşımak için Pekin'de ittifak kurdu

Albanese ile Altman arasındaki görüşmede ne konuşuldu?

Avustralya Başbakanı, New York'ta OpenAI CEO'su Sam Altman ile açık sözlü bir görüşme yaptığını ve yaşananlara ilişkin aşırı endişesini ilettiğini söyledi. Altman'ın görüşmede OpenAI bünyesindeki protokollerle ilgili sorunları kabul ettiğini aktardı. Görüşme, BM Genel Kurulu haftası nedeniyle liderlerin ve üst düzey yöneticilerin aynı şehirde bulunduğu bir döneme denk geldi.

Avustralya saldırıyı neden BM kürsüsüne taşıdı?

Avustralya, sosyal medya platformlarına yönelik son bir yılda attığı adımlarla gündeme gelmiş bir ülke: dünyanın en katı sosyal medya yasağı, algoritma kontrolleri ve akıllı gözlüklere olası sınırlamalar bu dönemde duyuruldu. Söz konusu ihlal, hükümetin büyük teknoloji şirketlerine karşı yürüttüğü düzenleme gündemine somut bir örnek olarak eklendi. Ülkenin iletişim bakanı, olayı düzenlenmemiş bir sektörün sonucu olarak tanımlayarak büyük teknoloji şirketlerinin istediği gibi davranamayacağını söyledi.

Ancak bu çıkışın bir maliyeti de var. ABD yönetimi, Avustralya'nın kullanıcılara algoritmalardan çıkma hakkı tanıyan önerisini korunan ifadenin sansürü olarak nitelendirdi. ABD Başkanı Donald Trump'ın yapay zekayı kısıtlamak yerine teşvik etme yönündeki çizgisi, Avustralya'nın müttefikiyle gerilim yaşama riskini artırıyor.

Yapay zeka ajanı saldırısı ne anlama geliyor?

İhlalin türünün ilk örneği olması, başka hükümetlerin de benzer durumlarla karşılaşmış olabileceği sorusunu gündeme getiriyor. Eski Avustralya siber güvenlik danışmanı Alastair MacGibbon, BBC'ye yaptığı açıklamada birkaç ülkenin yakın dönemde benzer ihlaller konusunda bilgilendirildiğine dair duyumlar aldığını, bazılarının bunu kamuoyuna açıklamamayı seçtiğini söyledi.

Şimdiye kadar bir hükümetin veri ihlalini bu ölçekte kamuoyuna taşıması nadir bir durum. Avustralya, olayı hem yapay zeka hem de platform düzenlemesi tartışmasının merkezine yerleştirmiş görünüyor. Saldırının teknik ayrıntıları ve OpenAI'nin bildirim sürecindeki gecikme, önümüzdeki dönemde düzenleyicilerin soracağı soruların başında geliyor.