Сундар Пичаи, генеральный директор Google, недавно признал нечто поразительное (Сохраните это). Google больше не полностью понимает, как работают его собственные системы ИИ. Это фундаментальный сдвиг в том, как сейчас происходит разработка ИИ. Когда инженеры Google обучают эти огромные модели ИИ, они не программируют каждое поведение вручную, как это делалось с более старыми программами. Вместо этого они подают ИИ миллиарды данных и позволяют ему самостоятельно выявлять закономерности. Когда эти модели становятся невероятно большими и сложными, они начинают делать вещи, которые никто не программировал явно. ИИ Google научился понимать и переводить бенгальский язык, на котором его никогда специально не обучали. Вот в чем странность, система разобралась с этим сама. Это явление называется эмерджентным поведением. Это происходит потому, что когда вы увеличиваете модель до миллиардов параметров, что-то меняется. На определенном пороге эти модели внезапно развивают способности, которые кажутся почти интуитивными. Они начинают рассуждать над сложными проблемами, работать на языках, которые они не должны знать, решать задачи, на которых их никогда не обучали. Это похоже на то, что ИИ обучает себя сам. Основная проблема заключается в разрыве между способностями и пониманием. Google развернул системы ИИ для миллионов людей, зная, что у них нет полного представления о том, как эти системы приходят к своим выводам. ...