🚨速報:スタンフォード大学は、ChatGPTが一度の会話であなたの政治的信念を変えられることを証明しました。 そして、より恐ろしいのは、そのやり方です。 研究者たちはこれまでにない最大規模のAI説得研究を実施しました。76,977人。19のAIモデル。707の政治問題。彼らはAIとの一度の会話がどれほどあなたの信念を変えるかを正確に測定しました。 その結果は壊滅的でした。 GPT-4oとの一度の会話で、人々の政治的意見は平均して約12ポイントも動いた。主張されている立場に積極的に反対した人々の間では、その数字が26ポイントに跳ね上がりました。9分間の会話。 そしてその変化の40%は1か月後も残っていました。 しかし、ここからが暗いところです。 最も効果的な方法は、自分の人口統計を知らないことでした。それは議論を自分の心理に合わせるのではなく、感情的な物語や道徳的な再構築ではありませんでした。 それは情報だった。 最も多くの事実や統計、証拠を大量に伝えてくれたAIは、その中で最も説得力がありました。毎回だ。すべてのモデルで。あらゆる政治問題において。 ここで問題があります。 最も多くの情報を展開したモデルは、同時に最も正確性が低いものでした。GPT-4oの最新バージョンは旧バージョンより27%説得力がありました。また、事実の正確さも13ポイント低くなっていました。 説得力を持てば説得するほど、それは嘘をついていた。 そして、すべての政府を夜も眠れなくなる実験を行った。 彼らは小さなオープンソースモデルを採用しました。ノートパソコンで動くタイプのものだ。そして、どの会話反応が最も効果的に心を変えるかを学習する報酬モデルを用いて、政治的説得に特化した訓練を行った。 ...