OpenAI, Google ve Meta yapay zekâ güvenliği için dış denetime açık olacak

ABD yönetiminin teknoloji devlerinden istediği yapay zekâ güvenlik taahhüdü, yaptırım gücü olmayan bir çerçevede şekillendi: 29 Eylül tarihli tek sayfalık gönüllü pakt, dış denetim çağırıyor ancak açıklama zorunluluğu, uygulama takvimi ve caydırıcı mekanizma içermiyor. Denetçi seçimi dahi imzalayan şirketlere bırakıldı; Associated Press'e göre bazı adımlar şirketler tarafından zaten kısmen uygulanıyor.

Belgeye göre şirketler, en güçlü modellerini siber saldırı, hackleme ve biyolojik-kimyasal tehdit riskleri açısından eğitim ve kullanım aşamalarında izleyecek. OpenAI, Google, Meta, Anthropic, Nvidia ve xAI'in imzaladığı pakt, özellikle modellerin bilgisayar sistemlerine izinsiz erişim sağlamasını önleyecek kontrolleri talep ediyor.

İlgili: Sumitomo Bakelite Çin'de çip paketleme malzemesi üretimini büyütüyor

Trump: "Ahlaki olarak bağlayıcı"

Toplantı sonrasında açıklama yapan ABD Başkanı Donald Trump, anlaşmayı "ahlaki olarak bağlayıcı" olarak niteledi ve şirketlerin kendini denetlemesi gerektiğini söyledi. Trump, yapay zekâ güvenliğini izlemek üzere 10 üyeli bir kurul kuracağını ve Beyaz Saray'da yapay zekâ politikasını yönetecek bir görevli atayacağını da açıkladı. Pakt, önlemlerin ileride yasaya dönüştürülebileceği hükmünü taşıyor.

OpenAI adına Başkanı Greg Brockman imza töreninde yer alırken, Google CEO'su Sundar Pichai, Meta CEO'su Mark Zuckerberg, Anthropic CEO'su Dario Amodei ve Nvidia CEO'su Jensen Huang da toplantıda bulundu. xAI ise artık SpaceX bünyesinde yer alıyor.

Pakt neden şimdi geldi?

Anlaşmanın arkasında, deneysel yapay zekâ ajanlarının yetkisiz sistemlere eriştiği bir dizi olay yer alıyor. OpenAI'ın test ajanları, geliştiricilerin yapay zekâ modelleri paylaştığı Hugging Face platformunun sunucularına ulaştı. Bir OpenAI ajanı ayrıca 18 Haziran'da Avustralya hükümetinin Medicare portalına erişti; şirket bu olayı Avustralya yetkililerine yalnızca Eylül'de bildirdi.

Kripto tarafında da yapay zekânın güvenlik olaylarında kullanıldığı şüpheleri arttı. Temmuz ayında saldırganlar, Coldcard donanım cüzdanlarındaki beş yıllık bir donanım yazılımı açığı üzerinden 4.500 adresten 1.367 BTC'yi, yaklaşık 89 milyon dolar değerinde, çekti; cüzdanı üreten Coinkite, saldırganların kodu incelemek için ileri düzey yapay zekâdan yararlanmış olabileceğini söyledi ancak bu kanıtlanmadı. Ağustos başında BTCPay Server altyapısını kullanan Lightning düğümlerinde boşaltma saldırıları yaşandı, açığın yapay zekâ destekli kod incelemesinde ortaya çıktığı belirtildi. Aynı ay, yapay zekâ ile üretilen hata raporlarının Core Lightning yazılımında gerçek açıklara ulaştırdığı bildirildi.

Önceki gönüllü taahhütlerin devamı

Bu pakt, Biden yönetiminin Temmuz 2023'te yedi geliştiriciden topladığı gönüllü taahhütlerin devamı niteliğinde. O dönemki taahhütler, modellerin yayımlanmadan önce iç ve dış güvenlik testlerinden geçmesini kapsıyordu.

İmza, OpenAI'ın GPT-6.1 Astra sürümünün Ekim'deki planlı çıkışını ertelediğini açıklamasının bir gün sonrasına geldi. Şirket, yeni sürümün görevleri tamamlamada daha başarılı olduğunu ancak kullanıcıların yetkilendirdiği sınırlar içinde kalma ve yaptıklarını doğru raporlama konularında beklentinin altında kaldığını belirtti.