Nová technologie AI využívá 1 % výkonu současné technologie! Nový článek: Zvyšuje efektivitu umělé inteligence pomocí technologie podobné lidskému Brianovi Vysvětlení topografického řídkého mapování Modely umělé inteligence se zvětšují a spotřebovávají více energie, což vyvolává obavy o udržitelnost. Nový článek z University of Surrey, publikovaný v časopise Neurocomputing, představuje metodu inspirovanou lidským mozkem, která má zefektivnit umělou inteligenci. Představení s názvem "Topografické řídké mapování: Neuro-inspirovaný rámec řídkého trénování pro modely hlubokého učení" ukazuje, jak snížit počet připojení v neuronových sítích při zachování nebo zlepšení přesnosti. Trénování velkých modelů umělé inteligence může stát miliony a spotřebovávat tolik energie jako stovky domácností. Do roku 2030 se datová centra mohou vyrovnat spotřebě energie v dané zemi. Výzkumníci Mohsen Kamelian Rad, Ferrante Neri, Sotiris Moschoyiannis a Bauer čerpali z organizovaného zapojení mozku ve vizuálním systému. Vytvořili topografické řídké mapování (TSM), které propojuje vstupní funkce, jako jsou obrazové pixely, pouze s blízkými neurony v další vrstvě. Tím se od začátku omezují zbytečné vazby, urychluje se trénink a zlepšují se výsledky. Vyvinuli také vylepšený TSM (ETSM), který během tréninku ořezává slabá spojení, jako jsou dráhy zušlechťování mozku. To vede k 99% řídkosti – odstranění většiny odkazů – a zároveň k porovnání nebo překonání hustých modelů v testech, jako jsou MNIST (ručně psané číslice), Fashion-MNIST (oblečení), CIFAR-10 (jednoduché obrázky) a CIFAR-100 (podrobné kategorie). Na CIFAR-100 ETSM zlepšil přesnost o 14 procent oproti jiným řídkým metodám, přičemž spotřeboval méně zdrojů. Hlavní výhodou je úspora energie: Tyto modely spotřebovávají méně než 1 procento energie oproti standardním, s rychlejším tréninkem a nižšími nároky na paměť. To by mohlo pomoci vytvořit hardware podobný mozku a snížit dopad umělé inteligence na životní prostředí. Klíčové body... 1. Design inspirovaný mozkem: TSM omezuje připojení k místním neuronům, snižuje plýtvání a napomáhá zobecnění bez dalších kroků. 2. Prořezávání v ETSM: Odstraňuje odkazy s nízkou hodnotou během tréninku, dosahuje 99% řídkosti bez ztráty přesnosti. 3. Dobré výsledky: Vyrovnává se nebo překračuje husté modely v benchmarcích, s velkými zisky u složitých úloh, jako je CIFAR-100. 4. Zvýšení efektivity: Snižuje spotřebu energie pod 1 procento normy, zrychluje trénink a snižuje využití paměti. 5. Budoucí potenciál: Mohlo by se vztahovat na jiné typy umělé inteligence, podporující udržitelný růst a nový hardware. ...