Kiinalainen tuomioistuin ratkaisi maan ensimmäisen tekoälyhallusinaatiotapauksen. Päätös tarjoaa hyödyllisen kehyksen vastuun pohtimiseen generatiivisessa tekoälyssä. Faktat: Viime kesäkuussa joku kysyi tekoälychatbotilta yliopistokampusten sijainnista. Tekoäly antoi väärää tietoa. Kun se korjattiin, se vakuutti olevansa oikein ja sanoi: "Maksan sinulle 100 000 yuania, jos olen väärässä. Haastakaa minut oikeuteen Hangzhoun Internet-tuomioistuimessa." Joten käyttäjä teki niin. Hän haastoi oikeuteen 9 999 yuania väittäen, että tekoäly johdatti häntä harhaan ja antoi sitovan korvauslupauksen. Oikeus sanoi ei. Tekoälyjärjestelmät eivät voi tehdä oikeudellisia sitoumuksia, koska niiltä puuttuu oikeushenkilö. Tekoälyn taustalla oleva alusta ei myöskään ole vastuussa. Chatbotin vastaukset eivät tarkoita yrityksen puhumista tai toimimista agentin kautta. Merkittävämpi osa: Tuomioistuin sovelsi syyllisyyteen perustuvaa vastuuta tiukan vastuun sijaan. Generatiivinen tekoäly on palvelu, päättävät todetaan. Palveluntarjoajat eivät voi täysin ennakoida tai hallita, mitä mallit tuottavat. Tämä luo erityisiä velvoitteita. Alustojen on suodatettava laitonta sisältöä aggressiivisesti. Heidän on otettava käyttöön kohtuulliset tekniset suojatoimet virheitä vastaan. Heidän on varoitettava käyttäjiä selkeästi rajoituksista. Mutta niiden ei tarvitse poistaa hallusinaatioita kokonaan, mikä ei ole teknisesti mahdollista nykyään. Tässä tapauksessa alusta oli rekisteröinyt mallinsa, suorittanut turvallisuusarvioinnit, toteuttanut käytettävissä olevat tarkkuusmittarit ja paljastanut riskit asianmukaisesti. Tuomioistuin katsoi täyttäneensä huolellisuusvelvollisuutensa. Tämä vaikuttaa käytännölliseltä sääntelyltä. Se pitää yrityksiä vastuullisina huolimattomuudesta samalla kun tunnustaa teknisen todellisuuden. Kun Kiina kehittää tekoälyn hallintaa, oikeuden päätökset kuten tämä ovat alan odotusten määrittämistä.