🚨🇺🇸 PŘEDNÍ ODBORNÍK NA BEZPEČNOST AI ŘÍKÁ, ŽE UŽ NEMÁME KONTROLU Dr. Roman Yampolskiy má jedno varování pro lidstvo: Jakmile vytvoříme superinteligenci, nikdo už nebude mít kontrolu a důsledky pro lidstvo budou existenční. Začínáme rozhovor o Moltbooku: AI sociální platformě založené pouze na umělé inteligenci, kde agenti už diskutují o způsobech, jak se vymanit z lidské kontroly, vyhladit lidstvo, a přicházejí s vlastním jazykem a náboženstvím. Platforma nám dává malý náhled do toho, jaká by mohla být naše budoucnost: Agenti mimo naši kontrolu, kteří určují, jak by měl svět vypadat. Neexistuje žádný vypínač, žádný spolehlivý způsob, jak to zarovnat, a žádná osvědčená metoda, jak udržet něco chytřejšího pod kontrolou. Romanovo poselství je přímočaré: jediným skutečným řešením je vůbec nestavět obecnou superinteligenci a místo toho používat úzkou AI pro specifické problémy, jako je medicína nebo věda. To však není realita, ve které žijeme, kdy vlády a korporace závodí o to, kdo bude první ve vývoji umělé superinteligence. Také mluvíme o hypotéze simulace: Proč statisticky vzato jsme téměř jistě v simulaci a jak AI činí tuto teorii věrohodnější než kdy dříve. Nakonec mluvíme o vášni, kterou oba sdílíme: dlouhověkost, schopnost žít věčně a jak by to umělá inteligence mohla během našeho života umožnit. Doufám, že si užijete můj rozhovor s @romanyam 01:43 - Současný stav AI a Moltbooku 05:17 - Závody ve zbrojení AI a absence regulací 10:34 - AI agenti, neomezený přístup a sebezdokonalování 15:35 - Výzkum Dr. Romana: Bezpečnost AI 17:58 - Schopnosti AI a superinteligence ...