Büyük yapay zekâ şirketleri beyaz denetim sözü verdi: Peki kim neyi inceleyecek?

Altı büyük yapay zekâ şirketi, Beyaz Saray'a verdikleri sözle ileri düzey modellerini bağımsız dış denetçilere açmayı taahhüt etti. Ancak Decentralization Research Center Araştırma Direktörü Samuel Vance-Law'a göre mutabakatta denetçinin kim seçeceği, neyi inceleyebileceği ve bulguların kamuya açıklanıp açıklanmayacağı belirsizliğini koruyor; sözün hiçbir yaptırımı da bulunmuyor.

29 Eylül'de imzalanan mutabakatı Nvidia, OpenAI, Anthropic, Google, Meta ve xAI imzaladı. ABD Başkanı Donald Trump anlaşmayı "ahlaki bağlayıcılığı olan" diye nitelerken, her şirket bağımsız bir dış denetçiyle çalışmayı ve raporları bağımsız yönetim kurulu üyelerinin inceleyip düzeltmelerin izlemesini kabul etti. Vance-Law'ın bu değerlendirmesi, CoinDesk'te yayımlanan köşe yazısında yer aldı.

İlgili: Çin terörle mücadele forumunda yapay zekâ destekli drone avcılarını tanıttı

Gönüllü sözlerin sicili: 16 şirketten ortalamada yüzde 53

Şüpheye iten en somut veri, sektörün geçmiş taahhütlerinin denetimi. 2023'te öncü şirketlerin Beyaz Saray'a verdikleri gönüllü sözleri Stanford, Harvard ve Brown araştırmacıları inceledi: 16 şirketin ortalama puanı yüzde 53'te kaldı, dış uzmanların sorun bulup bildirmesine dair söz verilen kalemlerde sekiz şirket sıfır aldı. Kâr amacı gütmeyen test kuruluşu METR de OpenAI'ın o3 modelini yalnızca üç hafta, sınırlı bilgi erişimiyle ve modelin adım adım akıl yürütmesini görmeden test edebildiğini belirtmişti.

Enron ve Arthur Andersen'in bıraktığı ders

Yazı, denetçi seçiminin şirketin kendisinde kalmasının riskini Enron örneğiyle anlatıyor. Enerji şirketi, 2000'de Arthur Andersen'a yalnızca denetim için 25 milyon dolar, vergi ve danışmanlık için ayrıca 27 milyon dolar ödemişti. İki yıl içinde iki şirket de çöktü; Kongre'nin yanıtı, denetçi seçimini yönetimden alan, denetçilere müşterilerine ek hizmet satışını kısıtlayan ve denetçileri denetleyen kamusal bir kurul kuran Sarbanes-Oxley yasası oldu. Vance-Law'a göre Andersen uzmanlık eksikliğinden değil, yılda toplam 52 milyon dolar ödeyen bir müşteriye sert bakma isteksizliğinden çöktü.

Mühürlü donanımda çift kör test: yeni bir yol mu

Yüz milyon doları aşabilen maliyetle üretilen model, aslında devasa bir sayı dosyası; kopya verilmesi güvenlik riski doğuruyor. Bu ikileme karşı Google DeepMind, Ağustos'ta Singapur Yapay Zekâ Güvenlik Enstitüsü ve üç başka dış kurumla dünyanın ilk çift kör model testini gerçekleştirdi: Test, tıpta çift kör ilaç denemesi mantığıyla mühürlü bilgisayar donanımında koştu. Dış testçiler modeli hiç görmedi, Google da soruları görmedi; şirket, her iki tarafın gizliliği matematiksel olarak doğrulayabildiğini açıkladı.

Bununla birlikte güven artık donanıma dayanıyor: Geçen yıl araştırmacılar, fiziksel sunucu erişimi gerektirse de bin doların altında ekipmanla bu tür mühürlü donanıma sızabildi. Vance-Law bunun ciddiye alınması gereken ama "modele kimseyi yaklaştırmayız" sorunundan çok daha küçük ve makine kontrolüyle yönetilebilir bir risk olduğunu söylüyor.

Yazar, Kyle Bligen ile kaleme aldığı ve bu hafta Decentralization Research Center tarafından yayımlanan "Alternatives to Concentrated AI" raporu için 36 kişiyle görüşüp yaklaşık 30 çalışan alternatifi haritaladı; temel bulgu, dış aktörlerin modeli veya verisini ele geçirmeden ileri yapay zekâyı inceleyebildiği. Vance-Law'a göre mutabakatın denetimlerinin anlam taşıması için denetçilerin ne test edeceğine kendileri karar vermesi, şirketlerin denetçi kimliğini ve denetim kapsamını açıklaması, raporları okuyan kurul komitelerinin de şirket dışına karşı sorumlu olması gerekiyor; bu işlevi üstlenen bir mekanizmanın olmadığı mutabakattaki boşluğu Kongre'nin doldurması gerektiği görüşünü savunuyor.