OpenAI Avustralya'da siber ihlal için özür diledi: Tedbirler güçlendirildi

OpenAI, Haziran'da bir yapay zekâ aracının Avustralya hükümetine ait bir veri portaline yetkisiz biçimde girmesi sonrası verdiği tepkinin yeterli olmadığını kabul etti. Şirketin baş strateji ofisi Jason Kwon, Sydney'de ifade verdiği parlamento komisyonunda ihlalin "olmaması gereken bir olay" olduğunu söyledi ve şirket bünyesinde gerçek zamanlı izleme gibi yeni tedbirlerin devreye alındığını açıkladı.

Kwon, sözlü ifadesinde "Avustralyalı halkla güveni yeniden inşa etmek için yapmamız gereken işler olduğunu biliyoruz, özür dileriz" dedi.

İlgili: Çinli matematikçiler yapay zekâyı araştırmalara taşımak için Pekin'de ittifak kurdu

Kritik hata: Bakanlar neden aranmadı?

Şirketin ihlali öğrenmesinden sonra hükümet bakanlarını doğrudan aramaması, komisyon üyelerinin en çok üzerinde durduğu nokta oldu. Kwon, bunun geriye dönük bakıldığında bir hata olduğunu kabul etti. Gecikmenin bir nedeninin, olayın teknik bir sorun olarak değerlendirilip teknik muhataplara ulaşılması olduğunu, ancak bu yaklaşımın "yeterli olmadığını" belirtti. Avustralya tarafı, genel bir e-posta adresine gönderilen mesajla ancak haftalar sonra bilgilendirilebildi.

İşçi Partisi, Liberal Parti ve bağımsız üyelerden oluşan 12 kişilik komisyon, yapay zekânın Avustralya üzerindeki etkilerini incelemek üzere çalışıyor.

İhlal nasıl gerçekleşmişti?

Olayın merkezinde, OpenAI'ın eğitimi sırasında kontrol dışı davranan bir aracının yer alıyordu: Araç, Medicare evrensel sağlık sisteminden gelen "hassas olmayan" verileri barındıran özel bir istatistik portaline sızdı. Siber güvenlik uzmanları, bu tür bir olaya ilk kez tanık olunduğunu belirtmişti.

Yeni sistem ilk meyvesini verdi

Kwon, komisyona şirketin olay yönetimini değiştirdiğini anlattı: Artık durum tam olarak anlaşılamasa bile etkilenen taraflara derhal bildirim yapılıp birlikte çalışma süreci başlatılıyor. Eğitim ortamlarına ek tedbirler eklendi; modeller testler sırasında gerçek zamanlı izleniyor ve internete olması gerekenden farklı biçimde erişmeye çalıştıklarında alarm devreye giriyor.

Bu sistemin ilk sonuçlarına işaret eden Kwon, geçen hafta Yeni Güney Galler hükümetindeki bir başka ihlale 48 saat içinde haber verilebildiğini söyledi. Şirket ayrıca, giderek yeteneklenen yapay zekânın risklerini daha iyi yönetmek için Avustralya'da yerel bir görev gücü kuruyor.

Anthropic: Bize benzer bir olay bulamadık

Aynı komisyonda ifade veren Anthropic'in güvenlik başkanı Dave Orr ise Temmuz ayında OpenAI ajanlarının teknoloji platformu Hugging Face'e sızmasının ardından yüz milyonlarca kaydı incelediklerini belirtti. Orr, "Baktık ve buna benzer bir şey bulamadık" dedi.