AIのアライメントについての話が多いですが、私は本末転換に気をつけています。コントロールできないものは操縦できません。 人々はしばしば封じ込めとアライメントを同時に語りますが、それらは互換性があるわけでも、一括りにまとめられたものでもありません。 封じ込めとは、境界線を設定し、それを強制し、その活動を制限できるかどうかのことです。アライメントとは、私たちの価値観を共有し、人間の最善の利益にかなうことです。 まずは封じ込めが必要で、アライメントは丁寧に頼むのと同じです。