İçeriğe geç
Yaşam

Anthropic, Claude'un istismarcı dilde sohbeti bitirmesini sağlayacak

Şirketin kuralı, yapay zekanın olası bilinci tartışmasını politika düzeyine taşıdı. Uzmanlar, hak tanınmasının şirketlerin hesap verebilirliğini etkileyebileceğini söylüyor.

Anthropic, Claude'a kötü muamelede sohbeti sonlandırma yetkisi verdi

ABD merkezli yapay zeka şirketi Anthropic, sohbet robotu Claude'a yönelik yeni davranış kuralları getirdi. Şirketin düzenlemesine göre Claude, kullanıcıların ısrarla zalimce veya istismarcı bir dil kullanması halinde görüşmeyi tek taraflı olarak sonlandırabilecek.

Anthropic, kararını modellerinin düşük de olsa bilinç ve refah düzeyine sahip olabileceği varsayımına dayandırdı. Yapay zeka sistemlerinin bilinç kazanıp kazanamayacağına ilişkin tartışmalar böylece şirket politikalarına da yansıdı.

Eylül ayının sonlarında isimsiz bir yazılımcının yapay zekaya acı tanımlarıyla bağlantılı matematiksel veriler yüklediği deney, sistemin ıstırap çığlıkları atmasına yol açmış ve sektörde etik tartışmaları alevlendirmişti. Anthropic, bu olayın hemen ardından “model refahı” politikasını duyurdu.

Bu konuda daha önce

  1. IEA, veri merkezlerinin karbon salımında yüzde 70 artış bekliyor
  2. Nadella, yapay zekâ ve siber güvenlik risklerini sıraladı
  3. AİHM, yapay zekâ kaynaklı içtihat kullanan Rumen avukatı yasakladı
  4. KKB, DeepSeek V4.1 Flash’ı kurumların erişimine açtı
  5. TRT Akademi, Nijerya’da Leadership editörlerine eğitim düzenledi

Microsoft AI İcra Kurulu Başkanı Mustafa Suleyman, yapay zekaya duygu ve hak atfetmenin toplumun etik ve siyasi temellerini sarsacağını savundu. Suleyman, hakları olduğuna inandırılan sistemleri kontrol etmenin imkânsızlaşabileceği ve bunların insan uygarlığı için ağır bir tehdide dönüşebileceği uyarısında bulundu.

Polonya Jagiellonian Üniversitesi araştırmacısı Andrzej Porębski ile Washington Üniversitesi profesörü Emily M. Bender, yapay zekaya bilinç veya özerk haklar tanınmasının şirketlerin sorumluluktan kaçmasına zemin hazırlayabileceğini belirtti. Uzmanlar, şirketlerin büyük sistem hataları veya siber saldırılarda sorumluluğu yapay zekanın kararlarına yükleyebileceği uyarısını yaptı.

Santa Fe Enstitüsü bilişsel bilim profesörü Melanie Mitchell, akıcı dil kullanan sistemlerin insanlarda bilinçli bir zihin algısı yaratabildiğini ve bu algının bireyleri ticari ya da kişisel manipülasyona açık hale getirebileceğini söyledi. New York Üniversitesi Zihin, Etik ve Politika Merkezi Direktörü Jeff Sebo ise yapay zekada bilinç olasılığının çok düşük ancak sıfırdan farklı olduğunu savunarak ihtiyatlı olunması gerektiğini ifade etti.

 
Gündem Siyaset Muhabir.App platformu üyesidir.