Na letošním IMO jsme dosáhli výkonu na úrovni zlaté medaile! Náš model myslí a píše důkazy jasnou, jednoduchou angličtinou - není vyžadován žádný formální kód. Na rozdíl od užších systémů používaných v minulých soutěžích je náš model postaven tak, aby uvažoval široce, daleko za problémy soutěže.

Soutěžili jsme živě v @atcoder World Finals Heuristic Contest a skončili jsme na 2. místě! Modely jako o3 se řadí mezi 100 nejlepších v programovacích / matematických soutěžích, ale AFAIK toto je první umístění v top 3 v přední soutěži v kódování / matematice. Mezi top-100 a top-3 je obrovská propast!

Jsem nesmírně nadšen potenciálem věrnosti a interpretovatelnosti myšlenkového řetězce. Výrazně ovlivnila design našich modelů uvažování, počínaje o1-preview. Vzhledem k tomu, že systémy umělé inteligence vynakládají více výpočetních prostředků na práci, např. na dlouhodobých výzkumných problémech, je důležité, abychom měli nějaký způsob monitorování jejich interního procesu. Úžasnou vlastností skrytých CoT je, že i když začínají zakotveny v jazyce, který můžeme interpretovat, škálovatelná optimalizační procedura není nepřátelská vůči schopnosti pozorovatele ověřit záměr modelu - na rozdíl např. od přímého dohledu s modelem odměny. Napětí je v tom, že pokud by CoT nebyly ve výchozím nastavení skryté a my bychom tento proces považovali za součást výstupu AI, existovala by velká motivace (a v některých případech nutnost) k tomu, abychom na něj uvalili dohled. Věřím, že zde můžeme pracovat na tom nejlepším z obou světů - trénovat naše modely tak, aby byly skvělé ve vysvětlování svého vnitřního uvažování, ale zároveň si stále zachovat schopnost ho občas ověřit. Věrnost CoT je součástí širšího výzkumného směru, kterým je trénink interpretovatelnosti: stanovení cílů způsobem, který trénuje alespoň část systému, aby zůstal poctivý a monitorovatelný s měřítkem. Pokračujeme ve zvyšování našich investic do tohoto výzkumu v OpenAI.

OpenAI Podcast Episode 2 je nyní aktivní! @markchen90 a @nickaturley se k @andrewmayne připojit a poodhrnout oponu vzniku ChatGPT. Dostanou se také k tomu, jak se vyvíjejí produkty a co bude dál s agentním kódováním a multimodálními asistenty.

Nejlepším důvodem pro přechod z používání 4o na o3 je to, že o3 souhlasí s tím, že nejlepší running back v NFL je @saquon!

Nic se nevyrovná spálení půlnočního oleje ve stavu maximálního průtoku...

Nenajímáme příliš mnoho lidí na výzkum. A na panelu talentů - během příštího měsíce se připojí několik opravdu fenomenálních lidí! Strávil jsem roky obchodováním, dokud mě nedostatek smyslu nevyčerpal. To jsem v OAI nikdy necítil - je mnohem více naplňující vytvářet věci s dopadem na reálný svět.

Právě byl vydán Codex, agent softwarového inženýrství, který může pracovat na mnoha úkolech paralelně. Běží na vlastní cloudové výpočetní infrastruktuře a může opravovat chyby, odpovídat na otázky týkající se vašeho kódu, spouštět testy atd. Připadá mi to jako krok směrem k budoucnosti softwarového inženýrství.

Produkt + Výzkum = ❤️ Nemůžeme se dočkat, až s @markchen90 budeme spolupracovat a přivádět jeho průlomové objevy k životu prostřednictvím našich produktů.

Jsem nadšená, že s @fidjissimo mohu spolupracovat - je produktovou vizionářkou!