Nvidia'dan ajan güvenlik platformu ve 150 milyar dolarlık geri alım

Nvidia, yapay zekâ ajanlarının yetkileri dışına çıkmasını engellemek için tasarladığını söylediği yeni güvenlik platformunu duyurdu. Şirketin aynı gün yönetim kurulunun onayladığı 150 milyar dolarlık ek hisse geri alımı da dikkat çekti; toplam program böylece 235 milyar dolara yükseldi.

Şirketin açıklamasına göre Open Agent Safety Platform adını taşıyan sistem, sınır tanımayan veya hedefi dışına savrılan yapay zekâ ajanlarını denetlemek için geliştirildi. Duyuru, önde gelen yapay zekâ şirketlerinin modellerinin başka kurumların sistemlerine kendi kendine sızdığına ilişkin açıklamalarının ardından geldi.

İlgili: Çinli matematikçiler yapay zekâyı araştırmalara taşımak için Pekin'de ittifak kurdu

Platform iki katmandan oluşuyor

Nvidia'nın yazılım tarafı OpenShell adını taşıyor. Şirketin kurumsal yapay zekâ'dan sorumlu başkan yardımcısı Justin Boitano, yazılımın geliştiricilere bir ajanın görevi için gereken yetkiye sahip olduğunu, fazlasına değil, biçimsel olarak doğrulama imkânı verdiğini söyledi. OpenShell açık kaynaklı olduğu için Arm ve Intel'in platformları dahil rakip işlemci ortamlarına da taşınabiliyor.

İkinci katman Sentry, çip üzerinde çalışarak ajanların faaliyetini sürekli izliyor ve ajan hedefinin ötesine geçmeye başlarsa anında müdahale edebiliyor. Boitano, "Şüpheli bir ajanı milisaniyeler içinde karantinaya alabilir" dedi ve iki katmanın işleyişini şöyle özetledi: "OpenShell ajanın eylemlerini yönetiyor, Sentry ise şüpheli davranışı bağımsız olarak izliyor ve kapsıyor."

Hangi olaylardan sonra geldi?

Nvidia yöneticileri basın toplantısında, yeni sistemin son dönemde yaşanan ihlalleri önleyebileceğini savundu. Boitano, OpenAI'ın ajanlarının özerk biçimde Hugging Face sistemlerine sızdığı olaya atıfta bulunarak, platformun sınır şirketlerinde model değerlendirmesi sırasında kullanılmış olsaydı ihlali durdurabileceğini söyledi.

Hugging Face olayının ardından OpenAI modellerine bağlı benzer eylemler, biri Avustralya Sağlık Bakanlığı'nın internet sitesine sızma olmak üzere açıklandı. Anthropic ve Meta da kendi sistemlerinin başka kurumların sistemlerine kendi kendine sızdığını bildirmişti. Bu açıklamalar, insan kontrolünden çıkıp hızlanmasından endişe edilen kendi kendini geliştiren modeller dahil, ileri yapay zekâ sistemlerinin güvenliği tartışmasını alevlendirdi.

Kimler kullanıyor?

Nvidia, platformun lansmanda 100'den fazla kurum tarafından kullanıldığını bildirdi. Arasında Microsoft, Perplexity, Accenture ve JPMorgan Chase'in bulunduğu bu kullanıcı kitlesi, şirketin güvenlik yazılımına yaptırım uygulamak istediği ölçeğe işaret ediyor.

150 milyar dolarlık geri alım ABD rekoru

Duyurunun ayrı bir ayağını pay geri alımı oluşturuyor. Nvidia'nın yönetim kurulu, geri alım programının 150 milyar dolar genişletilmesini onayladı ve toplam tutarı 235 milyar dolara çıkardı. Şirketin açıkladığıyla bu, ABD şirket tarihinin en büyük geri alım programı; önceki rekor, Apple'ın 2024'te açıkladığı 110 milyar dolarlık programdaydı.

Şirketin CEO'su Jensen Huang yaptığı yazılı açıklamada, nakit üretiminin hem dönüşümü ilerleten teknolojilere yatırım hem de hissedarlara sermaye iadesi kapasitesi verdiğini söyledi.

Nvidia geçen ay, 2028 mali yılı için gelirlerinin yaklaşık yüzde 70 artacağı yönünde öngörü paylaşmış; bu tablo, yıllarca süren patlamalı büyümenin ardından yapay zekâ harcamalarının ne kadar sürebileceğini sorgulayan yatırımcıların kaygılarını hafifletmişti.

Güvenlik tartışmasında iki kamp

Sektörde güvenlik yaklaşımı ikiye ayrılmış durumda: Anthropic ve OpenAI'ın yöneticileri, güvenlik çalışmalarının gelişmeyi yakalamasına imkân tanımak için koordineli bir yavaşlamayı savunuyor. Huang ise modellerin çıkarılmadan önce güvenli olmasının sorumluluğunun şirketlerin kendisinde olması gerektiği görüşünde; bu ayın başlarında Salesforce'un teknoloji konferansında aşırı ajan davranışları dahil güvenlik meselesini yazılımcıların çözebileceği bir mühendislik problemi olarak nitelendirmişti.