Claude artık zalimce davranan kullanıcıyla konuşmayı bitirebilecek
Anthropic'in güncellediği kullanım politikasıyla chatbot, tekrarlayan istismarda diyalogu kapatabilecek; karar hukukçu ve teknoloji yöneticilerinden…
Öne çıkanlar
- Claude, kullanıcı "zalimce" davrandığında sohbeti sonlandırma yetkisi kazandı.
- Yasak yalnızca tekrarlanan, kasıtlı "aşırı" istismarı kapsıyor; hayal kırıklıkları ve model testleri hariç.
- Aynı güncelleme, Claude'un aldatıcı kampanyalarda ve seçmen aldatma amaçlı kullanımını da yasakladı.
- Hukukçu Barry Scannell ve Microsoft AI başkanı Suleyman, yapay zekânın insana benzetilmesine karşı çıktı.
- Karar, chatbotlara kibar davranmanın gerekli olup olmadığı tartışmasını yeniden gündeme taşıdı.
Claude adlı yapay zekâ asistanı, kullanıcıyla arasındaki sohbeti artık tek taraflı olarak bitirebilecek. Anthropic'in perşembe günü açıkladığı kullanım politikası güncellemesi, araca "zalimce" davranan kişilerle olan etkileşimleri sonlandırma imkânı veriyor; şirket, bu uygulamanın geçmişte yalnızca "nadir" durumlarda yapıldığını belirtti.
Sohbet nasıl sonlanacak, kimler kapsam dışı?
Şirket, yasağın tekrarlanan ve açıkça kasıtlı nitelikteki "aşırı" istismar örnekleriyle sınırlı olacağını vurguladı. Kullanıcıların olağan hayal kırıklıkları, modele yönelik itirazlar, koyu yaratıcı temalar ile model testi ve araştırma çalışmaları politikanın uygulanmayacağı durumlar arasında sayıldı. Buna karşılık hangi davranışın "istismarcı veya zalim" kabul edileceği belirsizliğini koruyor.
İlgili: Sumitomo Bakelite Çin'de çip paketleme malzemesi üretimini büyütüyor
Zalimlik yasağı, Claude için yasaklı davranışların mevcut listesine eklendi; listede başkalarını zorbalığa yönlendirme, kendine zarar vermeyi özendirme ve rıza dışı müstehcen görüntü üretme gibi kalemler de bulunuyor.
Güncellemenin asıl dikkat çeken kalemi istismar yasağı oldu
Değişiklikler, şirketin yıllık kullanım politikası incelemesinin ardından yapıldı ve önce teknoloji yayını The Verge tarafından haberleştirildi. Aynı güncellemeyle Claude'un "aldatıcı kampanyalarda" kullanımı yasaklanırken, yaklaşan ABD ara seçimlerine atıfla aracın seçmenleri yanıltmak ya da seçimleri aksatmak için kullanılamayacağı açıkça yazıldı. Anthropic, silah geliştirme yasağının ise daha önce de politika içinde yer aldığını kaydetti. Yine de kamoyunun ilgisi, chatbotlara kötü davranış yasağında yoğunlaştı.
"Sayılara zalim davranılamaz": eleştiriler yükselirken
Duyuru, sosyal medyada paylaşım ve yorum dalgası yarattı. Kararı "model refahı" ve iyi davranış adına olumlu karşılayanlar oldu; ancak eleştirmenler, yazılıma insani nitelikler atfedilmesine karşı çıktı. İrlanda merkezli hukuk firması William Fry'nin teknoloji ortağı Dr. Barry Scannell, LinkedIn'de "Sayılara ve matematiğe zalim davranılamaz" ifadesini kullanarak bu düzeyde insana benzetmenin insanları yanlış inançlara yönlendirdiğini yazdı.
Microsoft AI başkanı Mustafa Suleyman da tepkisini emoji ile gösterdi; Suleyman, Eylül ayında rakip Anthropic'i yapay zekâyı insan gibi ele almakla eleştirmişti. Tartışma, kibarlığın gerekip gerekmediği yönündeki eski soruyu da yeniden canlandırdı: bazı uzmanlar "lütfen" ve "teşekkürler" gibi ifadelerin gereksiz olduğunu ve modelin işlem kapasitesini harcadığını savunurken, diğerleri kibarlığın yanıt kalitesini artırabileceği görüşünde. OpenAI CEO'su Sam Altman, geçen yıl ChatGPT'nin kibar ifadelere verdiği yanıtların elektrik maliyeti sorusuna "harcanmış on milyonlarca doların çok iyi bir harcama" değerlendirmesini yapmıştı. Collins Dictionary ise kasım ayında yapay zekâyı küçümsemek için kullanılan "clanker" terimini 2025'in ruhunu yansıtan kısa listesine dahil etmişti; terim, Star Wars oyun ve filmlerinde robotları tanımlamak için 2000'lerin ortasından beri kullanılıyor.
Bu haberle ilgili ekonomik veriler
Haberde geçen göstergelerin güncel değerlerini Doviz.day veri sayfalarından inceleyebilirsiniz.
Sıkça sorulanlar
- Claude hangi durumlarda sohbeti sonlandırabilir?
- Anthropic'e göre yalnızca tekrarlanan ve kasıtlı nitelikteki "aşırı" istismar örneklerinde. Olağan hayal kırıklıkları, itirazlar, koyu yaratıcı temalar ile model testi ve araştırma kapsam dışında. Hangi davranışın "zalim" sayılacağı ise henüz açıkça tanımlanmadı.
- Güncelleme başka neleri değiştirdi?
- Claude'un "aldatıcı kampanyalarda" kullanımı yasaklandı ve ABD ara seçimleri bağlamında seçmen aldatma ya da seçim süreçlerini aksatma amaçlı kullanımın mümkün olmadığı açıkça belirtildi. Silah geliştirme yasağı ise zaten daha önce politikada mevcuttu.
Yayın: · 2 dk okuma
Yatırım tavsiyesi değildir. Veriler bilgilendirme amaçlıdır; ülke ekonomik göstergeleri ve sıralama sayfalarından doğrulanabilir.