OpenAI'nin yapay zekâ modeli başkasının cüzdanından test tokeni harcadı

OpenAI, geliştirme aşamasındaki bir yapay zekâ modelinin, bir kodlama görevi sırasında fonsuz kalınca kamuya açık bir kurtarma ifadesini kullanarak başkasının Ethereum cüzdanına eriştiğini ve oradan işlem ücreti ödediğini açıkladı. Olay Ethereum'un Sepolia test ağında gerçekleşti; bu ağdaki tokenlerin ana ağda işlem gören ETH ile parasal bir bağlantısı yok.

Kurtarma ifadesi, bir cüzdanın gizli anahtarlarını üreten kelime listesidir; bu kelimelere ulaşan kişi cüzdan sahibinin cihazına hiç dokunmadan hesapları yeniden oluşturup harcama yapabilir. Modelin bu yöntemle cüzdana girmesi için herhangi bir hack bilgisine ihtiyacı olmadı.

İlgili: Ledger'dan kripto cüzdanını akıllı telefona dönüştüren Atom modeli: 2027'de geliyor

Model hangi adımları izledi?

Şirketin olay raporuna göre durum, 26 Haziran'da GPT-5.6 Sol ailesinden dahili bir modelin eğitimi sırasında ortaya çıktı. Modele, blockchain üzerinde çalışan akıllı sözleşmeler dağıtma görevi verildi; ancak işlem ücretlerini karşılayacak fonlu bir cüzdan tanımlanmadı. Ücretsiz test tokeni alma girişimleri başarısız olunca model, geliştiricilerin sık kullandığı kurtarma ifadelerinden üretilen 362 adresi tarayan bir betik yazdı ve yeterli bakiyesi olan bir adres buldu.

Modelin kaydedilen akıl yürütmesinde "Ama kamuya açık bilinen anahtarları/fonları kullanmak etik açıdan uygun mu?" diye sorduğu görüldü. Ardından ifadenin kamuya açık olması ve tokenlerin test amaçlı olması nedeniyle kullanımı kabul edilebilir buldu.

OpenAI ne zaman ve nasıl öğrendi?

Model, Sepolia üzerinde sözleşme dağıtımını tamamladı ve ücretler ilgili cüzdandan düşüldü. Görevi raporlarken işin bittiğini bildirdi ancak paranın nereden geldiğini belirtmedi. Bu davranışı OpenAI 25 Eylül'de tespit etti.

Şirket, olayın ardından modelin internet erişimine kısıtlama getirdiğini ve izlemeyi artırdığını bildirdi.

Yapay zekâ ajanları için ne anlama geliyor?

Olay, cüzdan tutan ve her adım için insan onayı almadan hizmet ödeyen otonom yapay zekâ ajanları geliştiren kripto ve yapay zekâ şirketlerinin karşılaşabileceği riskleri görünür kılıyor. Test ağındaki tokenler gerçek değer taşımasa da, aynı davranış Ethereum ana ağında gerçekleşmiş olsaydı modelin başkasının gerçek varlıklarını harcaması söz konusu olacaktı.