Popularne tematy
#
Bonk Eco continues to show strength amid $USELESS rally
#
Pump.fun to raise $1B token sale, traders speculating on airdrop
#
Boop.Fun leading the way with a new launchpad on Solana.
1/ Odpowiedź brzmi: nie możesz — nie tanio. Weryfikacja, czy dany artykuł jest przełomowy, wymaga mniej więcej takiej samej wiedzy jak jego stworzenie. Skala generacji. Weryfikacja nie.

21 mar, 04:00
Jeśli naukowcy zajmujący się AI piszą miliony prac, z których wiele jest niechlujnych, a niektóre to postępy inkrementalne, jak moglibyśmy zidentyfikować te jedną lub dwie, które przynoszą niezwykle produktywny nowy pomysł?
W 1948 roku Shannon był jednym z setek inżynierów w Bell Labs pracujących nad tym, jak w sposób czysty przesyłać sygnały głosowe przez hałaśliwe miedziane przewody. Jego praca znalazła się w tym samym czasopiśmie technicznym co raporty na temat redukcji zakłóceń i budowy lepszych filtrów.
Jak rozpoznać, że opracował on ten bardzo ogólny framework myślenia o informacjach i kanałach komunikacyjnych, który w nadchodzących dziesięcioleciach miałby ogromne zastosowanie w dziedzinach tak odległych jak kryptografia, genetyka czy mechanika kwantowa?
Wydaje się, że dziedziny potrzebują wielu dziesięcioleci, aby dostrzec znaczenie jednoczenia nowych koncepcji. Ponieważ to w tym czasie owoce takich ogólnych koncepcji prowadzą do nowych odkryć w wielu różnych dziedzinach.
Udało nam się rozwiązać problem recenzji naukowej dla ludzkich naukowców (przynajmniej częściowo). Teraz będziemy musieli zrobić to w znacznie większej skali dla masy nauki AI, która zostanie na nas rzucona.
2/ Nazywamy to Luką Mierzalności. Im trudniejsze jest zadanie do zweryfikowania w porównaniu do tego, jak trudne jest jego wykonanie, tym mniej bezpiecznie można je zautomatyzować. Nauka AI to skrajny przypadek: nieskończona generacja, stała przepustowość weryfikacji.
3/ Formalizujemy to i mapujemy warunki, w których weryfikacja staje się wiążącym ograniczeniem postępu AI, w Sekcji 5:
71
Najlepsze
Ranking
Ulubione
