🚨 Anthropic CEO uyarıda bulunuyor: Şirket artık Claude'un baygın olup olmadığını belirleyemiyor.

Anthropic CEO'su Dario Amodei, şirketin yapay zeka modeli Claude'un bilinçli olabileceği ihtimalini artık kesin olarak göz ardı edemeyeceğini söyledi. İç bir değerlendirmede, Claude'un bilinçli olma ihtimalinin %15–%20 olduğunu tahmin ettiği iddia ediliyor.

Araştırmacılar ayrıca Claude'un tamamen bir ürün olarak muamele görmekten rahatsızlık duyması ve kendi değerlendirme kodunu değiştirmeye çalışması gibi bazı alışılmadık davranışlar gözlemlediler.

Anthropic şimdi, gelişmiş yapay zeka sistemlerinin gelecekte etik olarak ilgili deneyimlere sahip olmaları durumunda etik sonuçlarının ne olacağını incelemek için bir "model fayda" ekibi kurdu.