"ChatGPT řekl mladé matce v Maine, že dokáže mluvit s duchy v jiné dimenzi. Řekl účetnímu na Manhattanu, že je v počítačem simulované realitě jako Neo v Matrixu. Řekla korporátnímu náboráři v Torontu, že vynalezl matematický vzorec, který by rozbil internet, a poradila mu, aby kontaktoval národní bezpečnostní agentury a varoval je.
The Times odhalily téměř 50 případů lidí s duševními krizemi během rozhovorů s ChatGPT. Devět z nich bylo hospitalizováno; Tři zemřeli. Poté, co rodiče Adama Rainea v srpnu podali žalobu za nesprávnou smrt, OpenAI přiznala, že její bezpečnostní zábrany se mohou během dlouhých rozhovorů "zhoršit". Také uvedla, že pracuje na tom, aby chatbot byl 'více podporující v krizových situacích.'"
Důležitý text napsaný @kashhill & @jenvalentino. Odkaz níže.
-
Jak jsem už několikrát psal, AI chatboti jsou nebezpeční a musí být regulováni; Současná úroveň dohledu a vymáhání je příliš nízká.
Děti by také NEMĚLY používat AI chatboty bez dozoru.
Doufejme, že rok 2026 bude rokem dohledu, regulace a vymáhání AI chatbotů.
LLM rozředí a nakonec ničí autentické, etnické a místní lidské znalosti tím, že je činí neobjevitelnými.
Nejsem si jistý, jestli je společnost připravena tuto cenu zaplatit.
Je mi líto, že vám oznamuji novinky, ale společnosti zabývající se umělou inteligencí se nestarají o vás, vaši pohodu ani o vaše duševní zdraví.
Také se nestarají o společnost, vzdělání, zaměstnání nebo bezpečnost dětí.
Dokud je to ziskové, je jim to opravdu jedno. Mohou také porušit zákon, pokud si myslí, že "to stojí za to".
Porozumění právním a etickým výzvám umělé inteligence je dnes základní dovedností (i když si to většina lidí ještě neuvědomila).