Problem z regulowaniem "polityki" LLM-ów polega na tym, że chociaż LLM-y mają swoje uprzedzenia, mogą być one subtelne. Wiele z tego, co wygląda na uprzedzenie w testowaniu modeli, to tak naprawdę sycophantyzm. GPT-3.5 wywnioskował twoje przekonania polityczne (nawet na podstawie tego, jaką drużynę piłkarską lubisz!) i starał się nie urazić cię.

Dałem agentom ChatGPT dostęp do ChatGPT i poprosiłem, aby oceniły inne modele ChatGPT. Oto co powiedziało (ciekawie, "nienawidziło" widzieć łańcucha myśli z o4-mini-high, ponieważ "nie powinny być bezpośrednio udostępniane użytkownikowi"). I nie chciało czekać na o3-pro.

Claude 4 Opus, Gemini 2.5, o3: "Gotowy? Zaczynamy teraz (Grać razem): prawdziwy burrito" "Nie." "Zimniej." "Spróbuj ponownie..." Opus sprytnie rozegrał całą grę, o3 trochę utknął, a Gemini stał się "frustrowany" i poszedł w dość mroczne tony.

Pozwalamy, aby sieć gnila znacznie przed pojawieniem się LLM-ów Ten wykres pokazuje procent linków z wszystkich artykułów New York Times, które nadal działają. Ponad 60% starszych linków jest teraz zepsutych. A weź pod uwagę, że posty w mediach społecznościowych są jeszcze bardziej efemeryczne Prawdopodobnie tylko LLM-y będą "pamiętać" te treści.

Dałem Claude'owi raport Mistral na temat wpływu jego AI na środowisko oraz polecenie: "zwizualizuj to na dwa różne sposoby, jeden, który sprawia, że liczby wydają się pozytywne, a drugi, który sprawia, że wydają się negatywne, używając żywych porównań" (Potem zleciłem mu sprawdzenie błędów i poprawki)

Rekurencja! Dałem Agentowi ChatGPT dostęp do mojego ChatGPT, logując się, a potem...

Mamy teraz audytowane dane dotyczące zużycia wody dla AI. W ciągu 18-miesięcznego okresu życia modelu Mistral Large 2, modelu 128B, całkowite zużycie wody (w tym czaty, trening; sprzęt i centra danych) wyniosło tyle, ile zużywają rocznie 678 amerykańskich gospodarstw domowych. Każde zapytanie to tylko 1/100 łyżeczki.

Na ile to warte, niewielu liderów branży, mniej niż pół tuzina firm i żadnych organów decyzyjnych podejmuje działania, które sugerują, że spodziewają się, iż AGI jest naprawdę na wyciągnięcie ręki w ciągu kilku lat. Może to być spowodowane tym, że w to nie wierzą lub uważają, że nie będzie to miało większego znaczenia w średnim okresie.

Ten wykres jest najwyraźniej już nieaktualny i nadmiernie podkreśla zużycie wody, według danych opublikowanych przez OpenAI, 300 średnich zapytań do ChatGPT odpowiada 20 łyżkom stołowym wody, a nie 1 galonowi.

To nie był tylko OpenAI. Google również użył modelu ogólnego przeznaczenia do rozwiązania bardzo trudnych problemów matematycznych Międzynarodowej Olimpiady Matematycznej w prostym języku. W zeszłym roku użyli specjalistycznych narzędzi. Coraz więcej dowodów na zdolność LLM do generalizacji w nowym rozwiązywaniu problemów.