hän luetteli kuusi tärkeintä muutosta tämän vuoden suurimmasta tekoälytutkimustapahtumasta, NeurIPS 2025:stä. se kertoo paljon siitä, mihin tekoäly on menossa vuonna 2026: 1. Huomiomekanismi saa melkoisen päivityksen. Se muuttuu valikoivammaksi käyttämällä tekniikoita kuten portti, harva ja parempi pitkän kontekstin käsittely. Ehkä kuuden kuukauden päästä näet malleja, jotka ovat halvempia, älykkäämpiä ja tehokkaampia. 2. Rajamallit lähestyvät toisiaan. Olemme jo jotenkin tienneet tämän, mutta jälleen kerran, huippumallit kuulostavat enemmän samalta. Frontier-mallin valintasi on vähemmän tärkeä kuin ennen, mutta myös mahdolliset vinoumat tai sokeat pisteet vahvistuvat kaikkialla yhtä aikaa. 3. RL skaalautuu vihdoin robotiikkaan. Se on jumissa vuosia. "jatka skaalaamista" -lähestymistapa, joka toimi LLM-malleissa, toimii nyt agenteilla. Vuosi 2026 on merkittävän edistyksen vuosi agenttijärjestelmissä. 4. Diffuusiomallit eivät ole pelkästään harjoitusdatan ulkoa opettelua. Merkittävä teoriatutkimus osoitti, että diffuusiokoulutuksella on itse asiassa kaksi vaihetta: varhaisessa vaiheessa, jossa mallit oppivat tuottamaan korkealaatuisia näytteitä, ja myöhemmässä vaiheessa, jolloin ne alkavat muistaa tiettyjä asioita. Lisää koulutusdataa vie ulkoa opetteluvaihetta ja antaa sinulle pidemmän ajan ennen ylisovitusta. 5. akateeminen paperijärjestelmä on KYPSENNETTY (vakavasti). 20 000 lähetyksellä NeurIPS hukkuu artikkeleihin. he jopa kokeilevat tekoälyä arvioidakseen tekoälyn tuottamia artikkeleita. Se tarkoittaa, ettei konferenssien ja julkaisujen arvostettuun asemaan voi enää luottaa. Sinun täytyy luottaa siihen, kuka kirjoitti artikkelin ja hänen taustansa. 6. Suuret laboratoriot panostavat täysillä päättelyyn, tehokkuuteen ja integraatioon. Frontier-kilpailu ei enää koske pelkästään mallikokoa. Bug Labs työskentelee parhaillaan: (1) päättely mitattavana mittarina, vaiheittainen ajattelu, työkalukutsut, hakujen käyttö (2) tehokkuus, tehokkaiden mallien ajaminen puhelimissa ja reunalaitteissa matalalla viiveellä (3) työnkulkujen integrointi, mallien liittäminen työkaluihin ja protokolliin kuten MCP. Suosittelen todella, että katsot tämän 10 minuutin erittelyn, jos tekoälytutkimus huolestuttaa sinua.