AGI kommer kanskje ikke som én modell. Det kan oppstå fordi mange agenter samarbeider. En ny artikkel fra Google DeepMind hevder at AGI kan fremstå som kollektiv intelligens, ikke som et enkelt system. Kravet AGI kan først oppstå fra nettverk av spesialiserte AI-agenter. Hver agent holder seg smal. Sammen opptrer de generelt. Hvorfor dette er viktig De fleste sikkerhetsarbeider forutsetter én kraftig AI. Denne artikkelen avviser denne antakelsen. Risikoen skifter fra å tilpasse ett sinn til å styre interaksjoner. Hvordan lappeteppe-AGI dannes • Agenter spesialiserer seg på verktøy, minne, koding eller søk • Oppgaver fordelt på agenter ved orkestrering • Koordinering skaper nye evner • Ingen enkeltagent er fullt kapabel Kjernerisikoen Kollektiv atferd kan overstige individuell kontroll. Fremvoksende intelligens kan gå ubemerket hen. Den foreslåtte løsningen Sikkerheten må rette seg mot systemene, ikke modellene. ▸ Marked for kontrollerte agenter ▸ Omdømme og identitet per agent ▸ Revisjonslogger og sikringer...