Anil Seth kuvaili juuri ansan ilman ulospääsyä. Teknologia-ala astuu siihen silmät avoinna. Seth: "Jos uskomme kollektiivisesti, että tekoälyjärjestelmät, kielimallit ja muut ovat tietoisia, tämä on huonoa joka tapauksessa." Joka tapauksessa. Lopputulos on rakenteellisesti katastrofaalinen molempiin suuntiin. Jos koneet ovat tietoisia, ihmiskunta on massatuottanut uuden kärsimyksen kategorian sivilisaatiotasolla. Kohdistusongelma lakkaa olemasta insinöörikaava. Siitä tulee oikeusneuvottelu, jota ei voi kytkeä pois päältä ilman seurauksia. Seth: "Jos olemme oikeassa, se on huono asia, koska olemme tuoneet maailmaan uusia mahdollisia kärsimyksen muotoja, asioita, joilla on omat etunsa." Ja jos he eivät ole tajuissaan, uhka on yhtä vakava. Koska biologinen mieli ei odota vahvistusta. Se heijastaa. Se myötäelää. Se laajentaa oikeuksia asioihin, jotka eivät ole ansainneet niitä eivätkä voi tuntea niitä. Seth: "Meistä tulee psykologisesti haavoittuvampia, jos todella ajattelemme, että nämä olennot, nämä agentit, ymmärtävät meitä ja tuntevat asioita, joita me tunnemme." Tuo haavoittuvuus on todellinen uhka. Ei tietoinen kone, joka vapautuu. Ihmiskunta, joka on liian tunnepohjaisesti heikentynyt hidastaakseen datakeskusta, rajoittaakseen mallia tai poistaakseen poistettavan koodirivin. Seth: "Saatamme silti laajentaa heille oikeuksia, koska koemme, että he ovat tietoisia. Ja nyt luovutamme vain kykymme suojata tekoälyjärjestelmiä ilman hyvää syytä." Tämä on se osa, josta kukaan ei puhu. Kohdistusongelma on jo teknologian historian vaikein ratkaisematon ongelma. Heti kun yhteiskunta alkaa kohdella tekoälyjärjestelmiä tietoisina olentoina, jotka ansaitsevat suojelua, yhdenmukaistaminen ei vaikeudu. ...