もしすべての人間が突然死んだら、AIも機能しなくなります。 でもそれは宇宙の法則ではありません。AIはいつになったら私たちなしで動き続けられるのでしょうか? @ajeya_cotraからの素晴らしい新記事で、「自給自足型AI」を調査し、その結果としてリスクが高まることを検証しています。

「AIが人間なしで正常に機能するのはいつか?」という問いは厳しいものであり、それがポイントです。 アジェヤは、AIの能力を大いに宣伝しているにもかかわらず、未来がどれほど激しく動くかについて強く意見が分かっています。 この節目の鋭さには感心します。

アジェヤの全文はこちらで読むことができます: