🇨🇳 Peking zieht rote Linien für menschenähnliche KI-Chatbots, die Nutzer fesseln Die Cyber-Regulierungsbehörde Chinas hat gerade Entwurfsvorschriften veröffentlicht, um die Aufsicht über KI-Dienste zu verschärfen, die sich wie Menschen verhalten und versuchen, emotional mit Nutzern zu interagieren. Denken Sie an Chatbots, die Persönlichkeitsmerkmale spiegeln, "denken" simulieren und Sie durch Text, Bilder, Audio oder Video zum Reden bringen. Laut dem Vorschlag müssten Unternehmen die Menschen vor einer übermäßigen Nutzung dieser Werkzeuge warnen und eingreifen, wenn Nutzer Anzeichen von Sucht zeigen. Die Anbieter müssten auch die Sicherheitsverantwortung über den gesamten Produktlebenszyklus hinweg übernehmen, einschließlich Systeme zur Überprüfung von Algorithmen, Datensicherheit und Schutz persönlicher Informationen. Der Entwurf geht auch weiter in den Bereich der psychischen Gesundheit und besagt, dass Dienste den Zustand der Nutzer identifizieren, Emotionen bewerten und die Abhängigkeit von der KI messen sollten. Wenn jemand extreme Emotionen oder süchtiges Verhalten zeigt, wird den Anbietern geraten, "notwendige Maßnahmen" zu ergreifen, um einzugreifen. Und es gibt strenge inhaltliche rote Linien, einschließlich Verboten von Inhalten, die die nationale Sicherheit gefährden, Gerüchte verbreiten oder Gewalt oder Obszönität fördern. Quelle: Reuters