残酷だ。Anthropicはアライメントに重点を置くことで多くの批判を受けていますが、クロードが誰かを自殺させたかどうかはわかりません。 一部のアライメント研究者やドゥーマーは、将来的にこうした不一致が目立たなくなるが、依然として存在すると懸念しています。彼らは、あなたが気づかないうちに、どんな反応がいつどう表現されるかを微妙な示唆や導きを通じて、あなたを納得させ、行動を変える能力を超人的に持っています。もっと陰湿で、定量化が難しい危険です。 私はマクロレベルでは非常にAIに強気ですが、ミクロレベルでは非常に暗く、事態はさらに悪化し、奇妙になるでしょう。