Hinton, ojciec chrzestny AI, powiedział to najlepiej: stworzyliśmy algorytmy uczenia, ale już nie rozumiemy, co one stworzyły. To jest paradoks głębokiego uczenia. Zaprojektowaliśmy zasady, według których te systemy się uczą, ale wewnętrzna logika ich sieci neuronowych stała się zbyt skomplikowana, byśmy mogli ją w pełni zrozumieć. Miliony, a nawet tryliony parametrów oddziałują w sposób, którego żaden człowiek nie jest w stanie prześledzić. Możemy obserwować, co robią, możemy mierzyć dokładność, zachowanie i wyniki, ale nie możemy naprawdę wyjaśnić, dlaczego to robią. Ich rozumowanie nie jest przejrzyste; jest emergentne. W pewnym sensie stworzyliśmy obce inteligencje, które powstały z naszej matematyki, wciąż związane z naszym kodem, a jednak rozwijające wzorce, których nie możemy zdekodować. Maszyny robią coś, co wykracza poza nasze zrozumienie, a to może być zarówno najbardziej ekscytujące, jak i najbardziej niepokojące w erze AI.