Eski DeepMind mühendisinden yapay zekâ uyarısı: "Hepimizi öldürebilir

İleri yapay zekâ güvenliği ve hizalama araştırmalarında çalışan eski Google DeepMind araştırma mühendisi Bilal Chughtai, yapay zekânın "hepimizi öldürebileceğini" ve böylesi bir sonucu önlemek için zamanın daralıyor olabileceğini söyledi. Reuters'in haberine göre Google, Chughtai'nin sözlerine ilişkin yorum talebine yayım anında yanıt vermedi. Uyarı, teknoloji devlerinin alana rekor sermaye aktardığı bir dönemde, sektör içindeki güvenlik tartışmasının yeniden alevlenmesine denk geldi.

Bu, alanın dışından gelen bir eleştiri değil. Chughtai'nin sözleri, ileri modellerin geliştirilmesinde doğrudan görev alan araştırmacıların son aylardaki uyarı dizisinin bir parçası. Anthropic araştırmacısı Jacob Coxon, teknolojinin bu on yılın sonuna kadar varoluşsal tehdit oluşturabileceğine inandıklarını söyleyerek görevinden istifa etti. Aynı şirketten Evan Hubinger, önümüzdeki on yılda yapay zekânın insanlığı yok etme olasılığının yüzde 10'un üzerinde olduğunu değerlendirdi.

İlgili: Çinli matematikçiler yapay zekâyı araştırmalara taşımak için Pekin'de ittifak kurdu

Uyarı üst yönetim masasına kadar taşındı

Tartışma artık yalnızca araştırmacı seviyesinde değil. Anthropic CEO'su Dario Amodei, ileri model geliştirmenin yavaşlatılması ve daha güçlü güvenlik önlemleri amacıyla şirketler arasında koordinasyon çağrısı yaptı; OpenAI CEO'su Sam Altman ile Elon Musk bu çağrıya destek verdi. Chughtai de benzer bir çizgiyi savundu: Gelişimin tamamen durdurulmasını istemek yerine, yapay zekâ şirketleri arasındaki kendi ifadesiyle "manik yarış"ın koordinasyonla önlenmesini ve ilerlemenin, yeni risklerin ele alınmasına imkân tanıyacak bir hızda sürdürülmesini önerdi.

Alphabet tarafında stratejide değişiklik sinyali yok

Uyarıların adreslerinden Alphabet (NASDAQ:GOOG), şimdilik izlediği çizgiyi koruyor. Şirket, yıllardır Google DeepMind'ı ileri yapay zekâ araştırmalarının merkezi olarak konumlandırıyor ve bu teknolojiyi Arama ile Cloud dahil geniş ürün portföyüne yaymış durumda. Yapay zekâ ve Cloud ürünlerine yönelik talebi karşılamak için sunuculara, veri merkezlerine ve diğer teknik altyapıya ağır yatırımlar yapıyor. Teknoloji ağırlıklı Nasdaq 100 endeksi 28 Eylül günü içinde yüzde 0,49 gerileirken, güvenlik tartışmasının hisse fiyatına yansıyan bir etkisi görünmüyor.

Siyasi tablo da şimdilik yavaşlama yönünde değil. Reuters'in aktardığına göre ABD Başkanı Trump, yapay zekâ güvenliği uyarılarını düşürerek sektörün düzenleme talebini sosyal medyada bir "sahtekârlık" olarak niteledi. Bu durum, Alphabet'in teknolojiyi ilerletme politikasını sürdürmesine imkân tanıyor.

Yatırımcı için belirleyici soru: Kurallar değişir mi

Alphabet hissedarı açısından asıl konu, Chughtai'nin en karamsar senaryosunun doğru olup olmadığı değil. Chughtai'nin sözleri tek bir kişinin gelecek riskine ilişkin değerlendirmesi; yatırım modellerine konu olabilecek bir veri değil. Belirleyici olan, bu tür çağrıların şirketlerin ya da hükümetlerin modellerin geliştirilme, test edilme ve kullanıma sunulma biçimini değiştirip değiştirmeyeceği. Böylesi bir değişiklik gerçekleşirse, sektörün geliştirme döngüsünün bugüne kadar izlenen yarıştan farklı bir seyre geçmesi gündeme gelebilir; bu da ağır altyapı yatırımlarının ne hızda yeni ürünlere ve gelire dönüşeceğini etkileyebilir.

Şu ana kadar böyle bir adım atılmadı. Ancak uyarıların, Anthropic tarafındaki araştırmacı sesleri ve sektörün önde gelen CEO'larının yavaşlama çağrısıyla aynı dönemde gelmesi, tartışmayı artık görmezden gelinmesi zor bir konuma taşıyor. En agresif biçimde yapay zekâya yatırım yapan şirketlerin, sistemleri geliştiren giderek daha çok sayıda kişinin daha yavaş ilerleme ve daha güçlü güvence istemesiyle aynı tabloda yer alması, bu alana yatırım yapanların izlemesi gereken gerilimin özünü oluşturuyor.