🇨🇳 北京為人類般的 AI 聊天機器人劃定紅線，讓用戶上癮 中國的網絡監管機構剛剛發布了草案規則，以加強對類似人類的 AI 服務的監管，這些服務試圖與用戶建立情感聯繫。 想像一下那些能夠反映個性特徵、模擬「思考」並通過文本、圖像、音頻或視頻與你保持對話的聊天機器人。 根據提案，公司必須警告人們不要過度使用這些工具，並在用戶顯示出上癮跡象時介入。 提供者還應該在整個產品生命周期中承擔安全責任，包括算法審查、數據安全和個人信息保護的系統。 草案還進一步涉及心理健康問題，表示服務應該識別用戶狀態、評估情緒並衡量對 AI 的依賴程度。 如果有人表現出極端情緒或上癮行為，提供者被告知要採取「必要措施」進行干預。 而且還有明確的內容紅線，包括禁止危害國家安全、散播謠言或宣傳暴力或淫穢內容的行為。 來源：路透社