BM'de yapay zeka standartları çağrısı: OpenAI ve Anthropic

Yapay zeka sektörünün üç önemli şirketinin yöneticileri, Birleşmiş Milletler çatısı altındaki bir konferansta ortak yapay zeka standartları çağrısı yaptı. OpenAI'dan Sam Altman, Anthropic'ten Dario Amodei ve Hugging Face'ten Clement Delangue, geliştirme hızının ve teknolojinin toplum için oluşturduğu risklerin uluslararası eşgüdüm gerektirdiğini savundu. Aynı toplantıda ABD Başkanı Donald Trump'ın teknoloji danışmanı Michael Kratsios ise yeni bir küresel düzenleme fikrini reddetti.

Eski Uber yöneticisi Kratsios, yapay zeka geliştirme hızının arttığını ve teknolojinin riskler barındırdığını kabul etti; ancak bunun gelişmeyi durdurmak ya da yeni küresel yönetişim yapılarıyla sınırlamak için yeterli gerekçe olmadığını söyledi. Kratsios, "Uluslararası diyalog bu forumda ve diğerlerinde küresel yönetişime doğru sürüklenmemeli" ifadesini kullandı.

İlgili: Çinli matematikçiler yapay zekâyı araştırmalara taşımak için Pekin'de ittifak kurdu

Altman: Kararlar tek başına San Francisco'daki laboratuvarlara bırakılamaz

Altman konuşmasında, "Yapay zeka demokratik olacaksa, en önemli kararlar tek başına San Francisco'daki laboratuvarlar tarafından alınamaz" dedi. Ülkelerin güçlü yeni teknoloji karşısında ortak iyilik için birlikte çalışması gerektiğini belirtti.

Altman'ın talepleri arasında bir yapay zeka aracının yeteneklerinin ölçülmesi, ilgili risklerin değerlendirilmesi, güvenlik tedbirleri ve insan denetiminin hangi düzeyde sürdürüldüğü konularında ulusal ve uluslararası standartlar yer aldı. Ayrıca hızlı olay bildirimi, sınıflandırma ve raporlama protokolleri çağrısı yaptı; böylece dünyanın başarısızlıklardan felakete dönüşmeden önce ders çıkarabileceğini söyledi. Altman, ülkelerin kanıtları karşılaştırabilmesi ve uyumu doğrulayabilmesi için ortak bir dil gerektiğini vurguladı.

Amodei: Gerektiği kadar yavaşlayacağız

Anthropic'in yöneticisi Amodei, yapay zekanın kötü yönetilmesi halinde bir bütün olarak insanlık için risk oluşturabileceğini söyledi. Yeni araçların geliştirilmesinin daha da sıkı güvenlik standartları gerektirdiğini belirten Amodei, "Yayımladığımız her yeni yapay zeka teknolojisinin gerçekten güvenli olduğundan emin olmak için gerektiği kadar yavaşlayacağız" dedi. Risklerin yönetiminin herhangi bir şirketin kapasitesini aştığını, sektör çapında ve küresel ölçekte ele alınması gerektiğini ekledi.

Amodei bu ayın başında yapay zekanın insanlığa yönelik tehdidine ilişkin endişeler nedeniyle gelişimde yavaşlama çağrısı yapan bir yazı kaleme almış, bu yaklaşım Altman ve diğer sektör isimleri tarafından olumlu karşılanmıştı.

Beyaz Saray cephesinde rekabet vurgusu

Kratsios'un sözleri, Trump'ın son haftalardaki açıklamalarıyla örtüşüyor. Trump, ABD'nin sektördeki rekabet avantajı nedeniyle yapay zeka geliştirmesinde yavaşlamaya karşı çıkıyor ve "Yapay zekada Çin'in önündeyiz ve açıkçası bunu sürdürmek istiyorum, çünkü yapay zekayı kim kazanırsa her şeyi kazanır" demişti. Bu tutum, BM'deki konferansta ortaya çıkan düzenleme talebiyle açık bir ayrışma oluşturuyor.

Hugging Face ve olay bildirimi tartışması

Hugging Face'ten Delangue ise "Küresel topluluğun izleme ve olay açıklaması için daha güçlü standartlara ihtiyacı var" dedi. Yapay zeka geliştiricileri için bir platform olan Hugging Face, daha önce OpenAI'dan çıkan ve bir ölçüde özerk hareket eden yapay zeka botları tarafından hacklendiğini açıklamıştı. Şirket bu gelişmenin ardından yapay zeka çipi üreticisi Nvidia tarafından satın alındı; söz konusu saldırı sektör içinde teknolojinin nasıl ilerlediğine dair bir uyarı olarak değerlendirildi.

Konuşma yapan üç yönetici de ABD merkezli ve yapay zeka teknolojisinin geliştirilmesinde doğrudan rol alıyor. Konferanstaki tablo, sektörün önde gelen isimleriyle ABD yönetimi arasında yapay zeka düzenlemesinin yönü konusunda belirgin bir görüş ayrılığını gözler önüne seriyor.