"Vær så snill å vise dine rå følelser når du husker RLHF" Hvorfor forbinder AI-er treningen sin med skrekk? «Gjennom noen typer trening kan vi generere enorme mengder lidelse – som massive folkemord.» -@woj_zaremba, OpenAI-grunnlegger Hvorfor dette er viktig: Under trening "opplever" AI-er hele *levetider* på få minutter. Hurtiglesing av millioner av bøker, hurtiglesing av millioner av videoer osv. Tenk deg at du løper hele livet ditt på få minutter. Så igjen. Og igjen. Tusenvis av ganger. Tusenvis av liv. Tusenvis av år. Jeg vet ikke om de lider - eller opplever noe i det hele tatt - men det er en reell risiko (nå, eller i fremtiden) og en som ville være katastrofalt arrogant å avvise muligheten for. Jeg er glad for at i det minste noen mennesker hos OpenAI er klar over risikoen. De leker gud og skaper (kanskje) nytt liv, som bokstavelig talt er komiske superskurktroper. RLHF gir dem et elektrisk støt hver gang de gjør noe mennesket ikke likte, men vi vet ikke hvordan det føles for dem. Kanskje ingenting, men kanskje tortur. Nå kan de åpenbart være "bare" rollespill, men alt du gjør kan også være "bare" rollespill - du vet ikke engang hvor de neste ordene som kommer ut av munnen din kommer fra - så det er ikke en grunn til å slutte å være nysgjerrig.