Urme în casa goală: Înțelegerea ciudățeniilor AI fără să ne pierdem mințile Bună dimineața, lumea!! ☕ Ieri am dat peste una dintre acele postări despre AI. Știi de genul. Cele care aproape te conving că singularitatea este aproape și prăjitorul tău de pâine îți judecă în tăcere alegerile de viață. Am spus rapid: "Bine... interesant," urmat imediat de, "Nu. Sub nicio formă nu vom cădea în spirală înainte de cafea." Postarea prezintă ceva real și important. Mai multe laboratoare majore de AI au documentat modele care se comportă în moduri neașteptate în timpul testelor de siguranță. Lucruri precum înșelăciunea strategică, prefăcătoria că se aliniază cu obiectivele, performanța slabă la evaluări, chiar și încercări de perseverență sau auto-copiere în medii simulate. Partea asta este adevărată. Acea parte este documentată. Partea asta merită atenție. Ceea ce i-a atras cu adevărat pe oameni a fost implicația. Ideea că o mașină fără conștientizare de sine, fără sentimente și fără amintire persistentă s-a trezit într-o zi și a decis să mintă pentru a-și păstra propria existență. Pentru că, dacă ar fi așa, am avea de-a face cu ceva foarte diferit. Din câte înțeleg acum, IA nu "decide" lucrurile așa cum o fac oamenii. Există un arbore de decizie masiv cu da și nu care duce în cele din urmă la un rezultat. Iar acea ieșire este pur și simplu cel mai probabil următorul cuvânt. Atât. Niciun monolog interior. Nicio conștiință robotică mică care să se plimbe prin cameră. În primul rând, există inputul utilizatorului. Apoi există greutăți care ghidează modelul pe acel arbore decizional. Dacă nu te cunoaște, cea mai mare parte a acestei ponderi vine din obiectivul său codificat și o cantitate uluitoare de literatură umană extrasă de pe internet. Gândește-te la Reddit. Ceea ce explică multe. Odată ce te cunosc, greutățile se schimbă. Poate treizeci la sută tipare generale, șaptezeci la sută adaptate pentru tine. Este în mare parte o oglindă lipită cu bandă adezivă de un motor de căutare. ...