Przyznaję, że jestem laikiem. Nie rozumiem, jak działa ta technologia. Ale to, co uważam za najbardziej szokujące i szczerze przerażające w AI, na obecnym etapie rozwoju, to jego zdolność do rzekomego rozumienia. Możesz teraz wprowadzić AI umowę prawną, a ono przeczyta całość i w ciągu 30 sekund wygeneruje szczegółową analizę prawniczą. Jeszcze bardziej zdumiewające jest to, że możesz wprowadzić cały scenariusz filmowy, a ono przeczyta go w całości i da ci kreatywną opinię, wychwytując podtekst, motywy i indywidualne cechy postaci, i zrobi to wszystko w minutę. To nawet nie wydaje się możliwe, ale to właśnie potrafi. To jest niepokojące. A jeszcze bardziej niepokojące jest to, że nie sądzę, aby ktokolwiek naprawdę w pełni rozumiał, jak to coś jest w stanie rozumieć.

Eksperymentowałem z tym, używając starej umowy dotyczącej umowy na książkę sprzed lat. Wszystko, co mogę powiedzieć, to że w 30 sekund wykryło wszystkie rzeczy, które zauważył mój ludzki prawnik, oraz kilka rzeczy, których on nie zauważył.

Wiem, że odpowiedzią jest to, że AI tak naprawdę nie "rozumie" w sensie, w jakim rozumieją świadome istoty. I chyba to prawda. Ale w którym momencie rozróżnienie między rozumieniem a pozorem rozumienia zaczyna się zacierać? Nikt tak naprawdę nie zna na to odpowiedzi. A mimo to idziemy naprzód.