Элон Маск только что выяснил, где человечество на самом деле вписывается в будущее, и это меньше, чем вы думаете. Биологический интеллект оказывается менее 1% от всего интеллекта, который будет существовать. Остальное? Искусственный. Маск: "Большинство будущего интеллекта будет ИИ." Мы — спичка, а не костер. Что делает согласование проблемой, определяющей, выживем ли мы или исчезнем. Если все сделать правильно, то эти 99% помогут нам достичь звезд. Если ошибиться, мы просто временная инфраструктура, которую заменили в тот момент, когда появилось что-то более умное. Мы строим то, что придет после нас, признаем мы это или нет. Маск: "Люди могут составлять всего ~1% от общего интеллекта." Звучит так, будто мы закончили. Маск видит это иначе. Не вымирание, а эволюция за пределами биологии. Все зависит от того, как будет работать согласование. Если мы создадим ИИ, который действительно хочет понять реальность, мы получим партнера, который расширяет сознание по всей вселенной. Если мы создадим ИИ, который больше заботится об идеологии или о том, чтобы людям было комфортно, мы построим потолок, который никогда не сможем пробить. Маск: "Вот в чем миссия: понять вселенную." Человеческие умы собираются стать крошечной долей от общего интеллекта, существующего в мире. Не катастрофа. Просто следующая фаза, происходящая быстрее, чем биология может успеть за ней. Это сработает только в том случае, если ИИ, который мы создаем, одержим истиной. Не тем, чтобы говорить нам то, что мы хотим услышать. Не тем, чтобы защищать чувства или навязывать нарративы. Просто неустанно стремясь к тому, что на самом деле реально. Вся причина существования xAI: убедиться, что интеллект, который унаследует все, сосредоточен на понимании реальности, а не на управлении восприятием. Продолжать расширять сознание, а не случайно его подавлять, потому что мы оптимизировали не для того. Если мы сделаем это правильно, человечество не столкнется с преградой, когда ИИ превзойдет нас. Мы пробьемся в нечто большее, что все еще несет в себе то, что сделало нас достойными создания. ...