Сундар Пічаї, генеральний директор Google, нещодавно зізнався у дещо вражаючому (Збережіть це). Google більше не повністю розуміє, як працюють її власні системи ШІ. Це фундаментальний зсув у тому, як зараз відбувається розвиток ШІ. Коли інженери Google навчають ці величезні моделі ШІ, вони не кодують кожну поведінку вручну, як старе програмне забезпечення. Натомість вони надають ШІ мільярди даних і дозволяють йому самостійно знаходити закономірності. Коли ці моделі стають надзвичайно великими та складними, вони починають робити те, на що їх ніхто явно не запрограмував. ШІ Google навчився розуміти та перекладати бенгальську — мову, якій його ніколи спеціально не навчали. Ось у чому дивність — система сама це зрозуміла. Це явище називається емерджентною поведінкою. Це відбувається тому, що коли ви масштабуєте модель до мільярдів параметрів, щось змінюється. На певному порозі ці моделі раптово набувають здібності, які здаються майже інтуїтивними. Вони починають міркувати через складні проблеми, працювати мовами, яких не повинні знати, розв'язуючи завдання, яким їх ніколи не навчали. Ніби штучний інтелект навчається сам собі. Основна проблема — це розрив між можливістю та розумінням. Google впровадила системи штучного інтелекту для мільйонів людей, знаючи, що не мають повної карти того, як ці системи приходять до своїх висновків. ...