OpenAI'da güvenlik krizi: Kovulan üç araştırmacı iddialarını mektupla açıkladı

OpenAI'dan işten çıkarılan üç eski güvenlik araştırmacısı, şirketten ayrılmalarının gerekçesinin bilgi ihlali değil, yapay zekâ güvenliğine ilişkin endişelerini dile getirmeleri olduğunu iddia eden ortak bir açık mektup yayımladı. Şirket tarafı ise iddiaları reddederek, kararın hassas bilgilerin kurumsal prosedürler dışına çıkarılması nedeniyle verildiğini savunuyor. Gelişme, ileri yapay zekâ sistemlerinin topluma taşıyabileceği risklerin tartışıldığı bir dönemde, şirketin güvenlik politikalarına ilişkin eleştirileri yeniden gündeme taşıdı.

Mektubu imzalayan isimler Mikita Balesni, Tomek Korbak ve Jasmine Wang; üçü de son dönemde şirkette güvenlik ya da hizalama (alignment) ekiplerinde görev yaptıklarını belirtiyor. Hizalama, insanların etik ilkelerini ve değerlerini yapay zekâ sistemlerine yerleştirmeyi ve teknolojinin insan değerleriyle uyumlu kalmasını amaçlayan bir çalışma alanı olarak tanımlanıyor.

İlgili: Sumitomo Bakelite Çin'de çip paketleme malzemesi üretimini büyütüyor

Araştırmacıların iddiası: "Güvenliği öncelik sırasına koyduk"

Balesni, X platformundaki paylaşımında "Şirketin kısa vadeli çıkarlarından çok güvenliğe öncelik verdiğimiz için işten çıkarıldığımıza inanıyorum" ifadesini kullandı. Korbak ise aylardır, yapay zekâ ajanlarının ne düşündüğünü izleme kapasitesinin kaybedildiği yönünde endişelerini dile getirdiğini; bu durumun, sistemlerin yanlış davranışlarını yakalamak için en önemli araçlardan biri olduğunu yazdı. Korbak, "Bunun nedeniyle çıkarıldığıma inanıyorum" dedi.

Üç eski çalışan, yaşanan çıkarımların şirket içinde çalışanları "buraya kadar OpenAI'da çalışmanın ayrılmaz bir parçası olan biçimlerde konuşmaktan ve hareket etmekten korkutan" bir atmosfer yarattığını öne sürüyor. Wang, "Bu tür manevralara karşı çalışanlar şimdi bir dur demezse, bunun son olmayacağından endişeliyim" diyerek, kendi ikazlarının son olmayabileceği uyarısında bulundu.

OpenAI'ın yanıtı: Karar konuşmaktan değil, güven ihlalinden

Şirketin araştırma yöneticilerinin imzasını taşıyan açıklamada, "Bu kararların güvenlik endişeleri dile getirmek veya sesli konuşmakla ilgili olmadığını çok net bir şekilde belirtmek istiyoruz" denildi. Açıklamada, iç soruşturmanın, eski çalışanların mektubunda anlatılanların ötesinde ciddi bir güven ihlalini ortaya çıkardığı ve iş sözleşmelerinin sonlandırılması kararının arkasında durulduğu kaydedildi.

Bu açıklama yeni değil: 2 Ekim'de bir şirket sözcüsü de BBC'ye yaptığı açıklamada, soruşturmanın, ilgili kişilerin hassas bilgileri kurumsal prosedürler dışında ele aldığını doğruladığını aktarmıştı. Şirket bu değerlendirmesini cuma günü yayımlanan notta yineledi.

Şirketten güvenlik tarafına ilişkin yeni adım sinyali

Tartışmanın gölgesinde şirket, güvenlik değerlendirmelerine ilişkin çalışmaları sürdürdüğünü duyurdu. Buna göre üçüncü taraf güvenlik değerlendiricileriyle sözleşmeler son aşamaya getiriliyor ve ayrıntıların önümüzdeki haftalarda açıklanması bekleniyor.

Yaşananlar, yapay zekâ şirketlerinde güvenlik uzmanlarının iç eleştiri mekanizmalarının ne ölçüde işlediği sorusunu yeniden gündeme getirdi. OpenAI'ın duyuracağı üçüncü taraf değerlendirme düzeni, bu tartışmanın somut bir sınavı olarak izlenecek.