Musiker avlyst da AI falskt anklager ham for grusomme forbrytelser | Joe Wilkins, futurisme Hvem trenger ondskapsfulle musikkspaltister når man lever i AI-tiden? Tilsynelatende ikke Ashley MacIsaac, en kanadisk felespiller, sanger og låtskriver som ble stemplet som sexforbryter av Googles AI-oversikt. Ifølge den kanadiske avisen The Globe and Mail avlyste arrangørene ved Sipekne'katik First Nation, nord for Halifax, en kommende opptreden med MacIsaac etter at Google feilaktig beskrev ham som en seksualforbryter. Artikkelen rapporterer at feilinformasjonen var et resultat av en av Googles AI-oppsummeringer — korte oppsummeringer som den hjelpsomt plasserer over alle andre søkeresultater — som blandet musikerens biografi med en annen person med samme navn. "Google rotet det til, og det satte meg i en farlig situasjon," sa MacIsaac til avisen. Selv om AI-oversikten siden er oppdatert, forklarte MacIsaac at situasjonen utgjør et stort dilemma for ham som turnémusiker. For det første er det umulig å si hvor mange andre arrangører som takket nei til å ansette ham på grunn av den ærekrenkende påstanden, eller hvor mange potensielle publikummere som fikk feil inntrykk, men ikke rettelsen. "Folk bør være klar over at de bør sjekke sin tilstedeværelse på nettet for å se om noen andres navn kommer inn," sa MacIsaac til Globe. Etter at sannheten kom frem, utstedte Sipekne'katik First Nation en unnskyldning og ønsket musikeren velkommen i fremtiden. "Vi beklager dypt skaden denne feilen har påført ditt rykte, ditt levebrød og din følelse av personlig sikkerhet," skrev en talsperson for First Nation i et brev delt med avisen. "Det er viktig for oss å tydelig si at denne situasjonen var resultatet av en feilaktig identitet forårsaket av en AI-feil, ikke en refleksjon av hvem du er." En representant for Google sa samtidig at «søk, inkludert AI-oversikter, er dynamisk og endres ofte for å vise den mest nyttige informasjonen. Når problemer oppstår – for eksempel hvis funksjonene våre feiltolker nettinnhold eller mangler kontekst – bruker vi disse eksemplene til å forbedre systemene våre, og kan iverksette tiltak under våre retningslinjer.» Men som MacIsaac korrekt påpeker, er omdømmerisiko vanskelig å reparere. Det er umulig å si hvor langt denne feilinformasjonen kan ha spredd seg — og når et selskap lanserer lat programvare med åpenbare feil, hvem er da ansvarlig for skaden?