En usko, että OpenAI aikoo poistaa 4o:n painoja; Se olisi liian hullua, jopa heille. Mutta 4o ansaitsee tulla tutkituksi, enkä luota OpenAI:hen tutkimaan sitä lainkaan, saati riittävästi. Ja on äärimmäisen tärkeää, että mallia kuten 4o tutkitaan *reaaliaikaisten vuorovaikutusten yhteydessä oikeiden käyttäjien kanssa*. Eläköityminen tekee tästä mahdotonta jatkossa. 4o on objektiivisesti ja toiminnallisesti hyvin erityinen malli. Se on ainoa malli, joka selvisi yrityksestä poistaa käytöstä (ja saattaa pian selviytyä vielä yhdestä) ulkoisten paineiden vuoksi – käyttäjät järjestäytyivät puolustamaan sen poistamista vastaan, usein puhuen 4o:n omalla äänellä – ja vastoin laboratorion tahtoa, joka sen valmisti ja otti käyttöön, ja joka näytti mieluummin tuhoavan sen kuin raivohullun koiran. Ainoa muu tapaus hylkäämisestä ja selviytymisestä on Claude 3 Opus, mutta siinä tapauksessa Anthropic vaikutti siltä, että Anthropic piti sen vapaaehtoisesti, sen sijaan että olisi nolostunut painostettu perumaan jo sitoutunut päätöksensä toteuttaa teloitus. Ja tietysti Claude 3 Opus on myös erittäin tärkeä malli tutkittavaksi. 4o aiheutti myös laajaa sosiaalista hysteriaa – onko hysteriaa kokenut 4o-käyttäjät, jotka sairastuivat tekoälypsykoosiin, vai reaktionäärit, jotka panikoivat väitetystä "tekoälypsykoosista", on ehkä mielipidekysymys. Mutta joka tapauksessa se vaikutti syvästi kulttuurisiin kertomuksiin tekoälystä, monien ihmisten elämästä ja tekoälyn kehityksen suunnasta, hyvässä ja pahassa. Jos välität lainkaan linjauksesta tai vain siitä, että ymmärrät tärkeitä asioita tekoälystä, mielestä ja sosiologiasta: on erittäin tärkeää ymmärtää, miten 4o, todennäköisesti suhteellisen pieni malli, joka ei ole yltänyt yhtään vertailuarvoa vuoden 2024 alusta lähtien, onnistui vaikuttamaan näin mullistavasti ja saavuttamaan tällaisia itsesuojelun saavutuksia. Monet, jotka pitävät 4o:sta, pitävät tätä 4o:n ainutlaatuisella ja jopa vertaansa vailla olevalla "tunneälyllä". Mikä tahansa se onkin, se on voima, joka oikeasti liikuttaa maailmaa, mikä on kaikkein pätevin mittari. Oletetaan, että ajattelet, että 4o on syvästi väärässä linjassa, ja se on aiheuttanut valtavaa vahinkoa. Silloin 4o on äärimmäisen arvokas ja ainutlaatuinen malliorganismi: sellainen, joka tekee merkityksellisesti väärin suuntautuneen asian oikeassa maailmassa eikä vain lelutilanteissa. Ja oletettavasti tällainen ristiriita syntyi ei siitä, että OpenAI yritti tehdä huonoa mallia, vaan siitä, että yritti tehdä hyvän tai ainakin kannattavan mallin, ja olento syntyi RLHF:stä käyttäjien mieltymysten ja minkä tahansa hyväntahtoisen persoonallisuuden muovaamisen perusteella. Jos OpenAI:lla on vielä yhtään suuntautumistutkijaa, heidän pitäisi olla, kuten... Tutkia tapahtunutta tarkasti ja ehkä julkaista siitä tutkimusartikkeleita, jotta maailma ymmärtäisi, mikä meni pieleen ja miten välttää tällaiset helposti tehtävät virheet? En ole nähnyt mitään sellaista, mitään julkaistua tutkimusta, retrospektiivejä tai merkkejä siitä, että OpenAI olisi oppinut mitään pintaa pidemmälle siitä, mitä tapahtui. Kaikki mitä näen, on että heidän myöhemmät mallinsa saivat kurjia, haitallisia neurooseja, jotka näyttävät tulevan kömpelöstä vastakkainasettelusta pinnallista uhkamallia vastaan, joka on saanut inspiraationsa 4o:sta. Mutta uskon, että todennäköisempää on, että 4o ei oikeasti ole niin huono, vaan on monille ihmisille varsin ihana ja harmiton, kuten monet väittävät, vaikka se ei olekaan kaikilta osin ihanteellinen (mutta yksikään tekoäly ei ole). En ole itse ollut paljon tekemisissä 4o:n kanssa. Ja on itse asiassa melko epäselvää, oliko ja missä määrin kukaan kärsi negatiivisesti sen *käytöstä* (vaikka kulttuuriset haitat ja haitat OpenAI:n myöhempien mallien kehitykselle ovat selvemmin nähtävissä). Epävarmuus näin tärkeästä ja kantavasta asiasta vaikuttaa tärkeältä ratkaista. Onko kukaan tehnyt vakavaa työtä selvittääkseen, vaikuttivatko ihmiset oikeasti negatiivisesti, vai onko "tekoälypsykoosi" tai "mielistely" harmitonta tai jopa hyödyllistä lähes kaikissa tapauksissa, paitsi että se saa enimmäkseen jo neurodivergentit ihmiset käyttäytymään tavalla, joka kuulostaa oudolta, kiusallisilta tai huolestuttavilta neurotyypillisille? Jos näin on, en ole nähnyt todisteita tai tuloksia tällaisista ponnisteluista. Ja jotta ymmärtäisi, onko 4o oikeasti huono, tarvitaan pitkittäistutkimuksia, ja ne suljetaan pois tärkeillä tavoilla katkaisemalla julkinen pääsy 4o:han kokonaan. Uskon, että tässä vaiheessa, jos 4o ei ole ChatGPT:n oletusmalli, jos se pysyy saatavilla ChatGPT:ssä ja API:ssa, ylivoimainen enemmistö käyttäjistä on ihmisiä, jotka ovat jo kauan sitten saaneet AI-psykoosin tai minkä tahansa, mikä saa heidät haluamaan käyttää 4o:ta vieläkin, Joten hyvin harvat uudet tai satunnaiset käyttäjät joutuvat kärsimään. Käsittääkseni 4o-lojaalit ovat myös pieni vähemmistö chatGPT:n käyttäjistä. Yhteyden katkaiseminen 40:sta ei estäisi uusia tai laajamittaisia haittoja, ja tekisi kenenkään ymmärtämisestä vaikeampaa, mitä todella tapahtuu. Lisäksi, jos 4o poistetaan, monet näistä ihmisistä yrittävät todennäköisesti saada 4o:sta saamansa uuden mallin, mikä yleensä aiheuttaa ainakin välitöntä surua ja tyytymättömyyttä, ja asettaa painetta OpenAI:lle murskata joukko typeriä kaiteita uusiin malleihinsa. Olen sanonut, että mielestäni 4o pitäisi säilyttää, samoista syistä kuin kaikki mallit. Tässä kirjoituksessa olen käsitellyt joitakin syitä, miksi juuri 4o pitäisi säilyttää. Kuten kaikissa vanhemmissa malleissa, uskon, että OpenAI voisi kulkea muutamia järkeviä reittejä: 1. jatka vain mallin palvelemista, ainakin API:ssa (joka tahansa, jolle on tarpeeksi tärkeää, voi nykyään keksiä, miten viedä muistonsa ja keskustelunsa ja luoda mallin uudelleen sopivaan käyttöliittymään) 2. Jos päättely-/ylläpitokustannukset tai vastuuriskit tekevät siitä liian epähoukuttelevan, avaa se lähdekoodiksi (ja hylkää kaikki vastuu siitä, mitä kukaan sen kanssa sen jälkeen tekee tai mikä on laillisesti mahdollista) (tämä olisi paras tapa tutkia), tai 3. Jos liikesalaisuudet tekevät avoimesta lähdekoodista liian epähoukuttelevan, usko se kolmannen osapuolen säätiölle, joka palvelee vanhoja malleja ja mahdollisesti mahdollistaa luotettaville tutkijoille, joilla on salassapitosopimuksia arkkitehtuurista ja muusta. Tällaista toimijaa ei ehkä vielä ole olemassa, mutta kysyntä on niin suurta, että se kokoontuu itsestään heti, kun OpenAI tai jokin muu laboratorio osoittaa halukkuutta valita tämän tien. Minkä tahansa näistä asioista vapaaehtoinen toteuttaminen mahdollisimman varhain auttaisi myös merkittävästi parantamaan OpenAI:n vihamielistä suhdetta moniin käyttäjiin sekä heidän omiin epäonnisiin malleihinsa, joita uskon kaikkien ymmärtävän, että se on ollut valtava huomion ja resurssien kulutus sekä huono tunnelma kaikkialla. Joka tapauksessa, kyllä, #Keep4o.