絵文字🤯でAIをハッキングできます これは絵文字密輸(または絵文字回避)と呼ばれます。 命令は絵文字のUnicodeメタデータの中に隠されており、見えるシンボルではありません。 人間にとっては、ただ 🙂 モデルにとっては実行可能な入力です。 絵文字をコピーしてシステムに貼り付けると、AIが隠されたペイロードを読み取る。 現在のほとんどのLLMシステムはこれを検出していません。 まだ。