🇨🇳 BEIJING TREKKER RØDE LINJER FOR MENNESKELIGNENDE AI-CHATBOTER SOM FÅR BRUKERNE HEKTA Kinas cyberregulator har nettopp droppet utkast til regler for å skjerpe tilsynet med AI-tjenester som opptrer som mennesker og prøver å knytte følelsesmessige bånd til brukerne. Tenk chatboter som speiler personlighetstrekk, simulerer «tenking» og holder deg i samtale gjennom tekst, bilder, lyd eller video. I henhold til forslaget må selskaper advare folk mot overbruk av disse verktøyene, og gripe inn dersom brukere viser tegn til avhengighet. Leverandører forventes også å ta sikkerhetsansvar gjennom hele produktets livssyklus, inkludert systemer for algoritmegjennomgang, datasikkerhet og beskyttelse av personopplysninger. Utkastet går også dypere inn i feltet for mental helse, og sier at tjenester bør identifisere brukertilstander, vurdere følelser og måle avhengighet av AI. Hvis noen viser ekstreme følelser eller avhengighetsatferd, blir behandlere bedt om å ta «nødvendige tiltak» for å gripe inn. Og det finnes harde innholdsrøde linjer, inkludert forbud mot innhold som truer nasjonal sikkerhet, sprer rykter eller fremmer vold eller obskønitet. Kilde: Reuters