🇨🇳 PEKIN WYZNACZA CZERWONE LINIE DLA CHATBOTÓW AI PRZYPOMINAJĄCYCH LUDZI, KTÓRE UZALEŻNIAJĄ UŻYTKOWNIKÓW Chiński regulator cybernetyczny właśnie opublikował projekt zasad mających na celu zaostrzenie nadzoru nad usługami AI, które działają jak ludzie i próbują nawiązać emocjonalną więź z użytkownikami. Myśl o chatbotach, które odzwierciedlają cechy osobowości, symulują „myślenie” i utrzymują rozmowę za pomocą tekstu, obrazów, dźwięku lub wideo. Zgodnie z propozycją, firmy będą musiały ostrzegać ludzi przed nadmiernym korzystaniem z tych narzędzi oraz interweniować, jeśli użytkownicy wykazują oznaki uzależnienia. Oczekuje się również, że dostawcy wezmą odpowiedzialność za bezpieczeństwo przez cały cykl życia produktu, w tym systemy przeglądu algorytmów, bezpieczeństwa danych i ochrony informacji osobistych. Projekt idzie również dalej w kierunku zdrowia psychicznego, stwierdzając, że usługi powinny identyfikować stany użytkowników, oceniać emocje i mierzyć zależność od AI. Jeśli ktoś wykazuje skrajne emocje lub zachowania uzależniające, dostawcy są zobowiązani do podjęcia „koniecznych działań” w celu interwencji. Istnieją również twarde czerwone linie dotyczące treści, w tym zakazy dotyczące treści, które zagrażają bezpieczeństwu narodowemu, rozpowszechniają plotki lub promują przemoc lub obscenę. Źródło: Reuters