GoogleのCEOであるスンダル・ピチャイは最近、衝撃的な事実を認めました(これを保存してください)。 Googleはもはや自社のAIシステムがどのように機能しているのかを完全には理解していません。 これは現在のAI開発の根本的な変化です。 Googleのエンジニアがこれらの巨大なAIモデルを訓練する際、古いソフトウェアのようにすべての挙動を手作業でコーディングしているわけではありません。 代わりに、AIに数十億のデータを与え、AIが自分でパターンを見つけ出すのを待っています。 これらのモデルが非常に大きく複雑になると、誰も明示的にプログラムしていなかったことをし始めます。 GoogleのAIは、特に訓練されたことのないベンガル語を理解し翻訳することを学びました。 そこが奇妙なところで、システムが勝手にそれを理解したのです。 この現象は「創発行動」と呼ばれます。 これは、モデルを数十億ものパラメータに拡大すると、何かが変わるからです。 ある閾値に達すると、これらのモデルは突然、ほとんど直感的に感じられる能力を発達させます。 彼らは複雑な問題を論理的に解決し、知らないはずの言語で作業し、訓練を受けたことのない課題を解決し始めます。 まるでAIが自分自身に教えているかのようです。 核心的な問題は、能力と理解の乖離です。 Googleは、これらのシステムがどのように結論に至るのか完全な地図を持っていないにもかかわらず、何百万人もの人々にAIシステムを導入しました。 ...