AB Teknoloji Başkanı Virkkunen: AI Act kontrol dışı yapay zekaya hazır

Avrupa Birliği'nin AI Act düzenlemesi, insan denetiminden çıkabilecek gelişmiş yapay zeka modellerine karşı yeterli yasal kapasiteye sahip. AB Teknoloji Başkanı Henna Virkkunen, Reuters'e verdiği demeçte, "Çok yetenekli modellerin güvenliği uluslararası alanda çok güncel bir konu ve biz Avrupa olarak buna iyi donanımlıyız" ifadesini kullandı.

Açıklama, yapay zeka ajanlarının insan kontrolünden çıkabileceği yönündeki küresel endişelerin yükseldiği bir dönemde geldi. Bu endişenin arkasında OpenAI ve Anthropic çevresinde yaşanan olaylar var; Anthropic cephesinden gelen uyarılar ise tartışmayı daha da keskinleştirdi.

İlgili: Sumitomo Bakelite Çin'de çip paketleme malzemesi üretimini büyütüyor

AI Act modellerin tüm yaşam döngüsünü kapsıyor

Kuralların güncelliğini yitirdiği yönündeki eleştirileri reddeden Virkkunen, "AI Act yerinde ve bu modellerin tüm yaşam döngüsünü kapsıyor" dedi. İki yıl önce kabul edilen ve risk düzeyine dayalı düzenleme modeliyle dünyanın en sıkı yapay zeka kuralları arasında sayılıyor.

Yetkiliye göre düzenleyiciler, şirketlere modellerini nasıl değerlendirecekleri konusunda rehberlik sağlıyor. Bu rehberlik çalışmasında 60 yapay zeka uzmanının önerilerinden yararlanılıyor.

Komisyon 30'dan fazla şirkete bilgi talebi gönderdi

Avrupa Komisyonu, ağustos ayı sonunda kimlikleri açıklanmayan 30'dan fazla yapay zeka şirketinden güvenlik ve güvenlik önlemlerine ilişkin bilgi istedi. Virkkunen, gelen yanıtları şu anda değerlendirdiklerini söyledi. Bu, düzenlemenin kağıt üzerinde kalmanın ötesinde aktif denetim aracı olarak kullanıldığını gösteren somut bir adım.

Anthropic cephesinden yavaşlama uyarısı

Tartışmanın diğer ucunda Anthropic CEO'su Dario Amodei'nin Eylül ayında bir blog yazısında dile getirdiği uyarı var. Amodei, yapay zeka gelişim hızının fazla olduğunu ve kontrol edilmediği takdirde bu hızın, sistemleri anlama ve denetleme kapasitesini geçebileceğini ifade etti.

Amodei'ye göre bu ivmeyi besleyen temel etken, yapay zekanın kendisinin yeni nesil yapay zeka geliştirebilme yeteneği, yani özyinelemeli öz iyileştirme. Sektörün önde gelen isimlerinden gelen bu çağrı, Avrupa tarafında ise yavaşlamayı zorlamak yerine mevcut AI Act düzenlemesinin yeterliliğini vurgulayan yaklaşımı öne çıkardı.

Virkkunen'in değerlendirmesi, Avrupa'nın kontrol dışı model riskine yasal düzenleme kapasitesiyle yanıt vermeye hazır olduğunu ortaya koyuyor; Komisyon'un şirket yanıtlarını değerlendirmesi ise sürecin bir sonraki somut adımını oluşturuyor.