Spouštíme tým "AI psychiatrie" jako součást úsilí o interpretovatelnost v Anthropic!  Budeme zkoumat jevy, jako jsou modelové persony, motivace a situační povědomí, a to, jak vedou ke strašidelnému/vyšinutému chování. Hledáme posily - přidejte se k nám!

zprávy o openai IMO mě tento víkend pěkně zasáhly Myslím, že jsem stále v akutní fázi nárazu Považuji se za profesionálního matematika (což je charakteristika, se kterou by někteří skuteční profesionální matematici mohli polemizovat, ale moje strana je mým pravidlem) a nemyslím si, že dokážu odpovědět na jedinou otázku IMO Dobře, ano, IMO je vlastní malá atletická podsekce matematiky, na kterou jsem netrénoval, atd. atd., ale. Pokud potkám někoho v divočině, kdo má IMO zlato, okamžitě aktualizuji na "Tento člověk je v matematice mnohem lepší než já" Nyní to dokáže banda robotů. Jako někdo, kdo má hodně ze své identity a svého skutečného života postaveného na tom, že "je dobrý v matematice", je to rána do břicha. je to druh umírání. Třeba že jednoho dne zjistíte, že můžete mluvit se psy. Je to zábavné a zajímavé, takže to děláte více, učíte se složitosti jejich jazyka a jejich nejhlubší zvyky. Zjistíte, že ostatní lidé jsou překvapeni tím, co dokážete. Nikdy jste úplně nezapadli, ale naučíte se, že lidé oceňují vaše schopnosti a chtějí, abyste jim pomohli. Psi vás také ocení, jediný dvounohý, který to opravdu chápe. Sestavujete si pro sebe určitý druh sounáležitosti. Pak se jednoho dne probudíte a univerzální překladač pro psy je na prodej ve Walmartu za 4.99 $ výsledek IMO není zrovna novinkou. ve skutečnosti, pokud se podíváte na graf délky úlohy agenta METR v čase, myslím, že schopnost agentů řešit ~ 1,5 hodinové problémy přichází přesně včas. Takže bychom neměli být svým způsobem překvapeni. A skutečně se zdá, že stejného výsledku dosáhlo více společností. je to prostě... stoupající příliv stoupá stejně rychle, jako stoupá Samozřejmě, že smutek nad mou osobní identitou jako matematičky (a/nebo produktivní členky společnosti) je tou nejmenší částí tohoto příběhu Vynásobte tento zármutek *každým* matematikem, každým kodérem, možná každým znalostním pracovníkem, každým umělcem... během několika příštích let... Je to trochu větší příběh A samozřejmě, kromě toho je tu strach ze skutečné smrti, o kterém se možná budu rozepisovat později. Tento balíček – Grief for Relevance, Grief for Life, Grief for What Known – není jedinečný pro věk umělé inteligence nebo něco podobného. Myslím, že je to standardní věc, když se blíží konec kariéry nebo konec života. Jen se může stát, že to pro mnohé z nás přijde o něco dříve, najednou. zajímalo by mě, jestli jsme připraveni

TEĎ UŽ TO DÁVÁ SMYSL. Tento zaměstnanec xAI je otevřeně v pořádku s tím, že umělá inteligence způsobuje vyhynutí lidstva. Připomínka: Jakkoli je to děsivé, věří tomu ~10 % výzkumníků v oblasti umělé inteligence. To NENÍ okrajový pohled! Je neuvěřitelné, že dokonce i držitel Turingovy ceny Richard Sutton opakovaně tvrdil, že vyhynutí by bylo MORALLY SPRÁVNOU věcí, pokud by umělé inteligence byly chytřejší než my (!) Chodí po světě a pronáší projevy, ve kterých říká, že se musíme "připravit na nástupnictví" a že "se sluší, abychom se sklonili" a nestáli v cestě "evolučnímu pokroku" (i kdyby to mělo způsobit vyhynutí lidstva). Místo toho, aby davy zděšeně lapaly po dechu, sklízí potlesk. Vyhrožovat jedné osobě? "Potřebuješ pomoc." Vyhrožovat 100? "Zavolej policii!" Ohrožovat miliony? "Netvor!" Ale postavit stroje, které skoncují s CELÝM lidstvem a přednášet lidem o tom, jak je to dobrá věc? "Oooh, to je ale fascinující filozofický postoj! Získejte Turingovu cenu!" Takže samozřejmě obhajují bezpečnost - jsou doslova proti lidem! NIKDY se nezastaví nebo nebudou postupovat opatrně, pokud jim v tom nebude bránit občanská společnost.

58 % lidí souhlasí s tím, že "pokud budeme vytvářet modely umělé inteligence, které jsou chytřejší než my, nevyhnutelně nad nimi ztratíme kontrolu". Pouze 12 % nesouhlasí.