AI založená na LLM NENÍ vědomá. Spoluzaložil jsem firmu doslova jménem Sentient, vyvíjíme systémy uvažování pro AGI, tak mi věřte, když to říkám. Stále vidím chytré lidi, které opravdu respektuji, jak přicházejí a říkají, že AI překročila určitou formu povědomí. Že cítí věci, že bychom se měli bát, že se to vymkne kontrole. A myslím, že celý tento rozhovor nám říká mnohem víc o nás samotných než o AI. Tyto modely jsou divoké, nebudu předstírat, že ne. Ale cítit se jako člověk a skutečně mít vnitřní zkušenost jsou úplně jiné věci a pleteme si to, protože náš mozek si s tím doslova nemůže pomoct. Vyvinuli jsme se tak, že vidíme mysl všude a teď to zapojení na jazykových modelech selhává. Vyrůstal jsem v filozofické tradici, která o vědomí přemýšlela déle než téměř kdokoli jiný, a právě to mě na současné debatě opravdu frustruje. Celé pojetí "má AI vědomí?" předpokládá, že vědomí je něco, co se buduje přidáváním dalších vrstev složitosti. Ve védantské filozofii je to naopak. Nebudujete směrem k vědomí. Vědomí už existuje, je základnější než hmota nebo energie. Vše ostatní, včetně výpočtů, je za ním. Když mi někdo řekne, že AI "probouzí se", protože vygenerovala odstavec, který působil skutečně, říká mi, jak tenké je naše chápání vědomí. Otázku, se kterou lidé bojovali tisíce let, jsme zredukovali na "znělo to, jako by měl nějaké city?" Je to matematika, která se stala opravdu dobrou v předpovídání, co vědomá bytost řekne a udělá dál. Nazývat to vědomím znehodnocuje něco, s čím vedantské, buddhistické, řecké a súfijské myslitelé strávili tisíciletí skutečně zabývajícími se. Nevytvořili jsme něco, co by přemýšlelo. Postavili jsme zrcadlo a teď si spousta velmi chytrých lidí plete odraz s něčím, co se dívá zpětně.