Muzikant Geannuleerd omdat AI Hem Vals Beschuldigt van Afschuwelijke Misdrijven | Joe Wilkins, Futurism Wie heeft er nog wrede muziekcolumnisten nodig als je in het tijdperk van AI leeft? Kennelijk niet Ashley MacIsaac, een Canadese violist, zanger en songwriter die door de AI-overzicht van Google als een sekscrimineel werd bestempeld. Volgens de Canadese krant The Globe and Mail hebben de organisatoren van evenementen bij de Sipekne’katik First Nation, ten noorden van Halifax, een aanstaande voorstelling met MacIsaac geannuleerd nadat Google hem onterecht als een seksdelinquent beschreef. De krant meldt dat de verkeerde informatie het resultaat was van een van Google’s AI-samenvattingen — korte samenvattingen die het nuttig boven alle andere zoekresultaten plakt — die de biografie van de muzikant mengde met die van een andere persoon met dezelfde naam. "Google heeft het verknald, en het heeft me in een gevaarlijke situatie gebracht," vertelde MacIsaac aan de krant. Hoewel het AI-overzicht sindsdien is bijgewerkt, legde MacIsaac uit dat de situatie een enorm dilemma voor hem als toermuzikant presenteert. Ten eerste is er niet te zeggen hoeveel andere evenementorganisatoren hebben afgezien van het inhuren van hem vanwege de lasterlijke bewering, of hoeveel potentiële publiekleden de verkeerde indruk hebben gekregen, maar niet de correctie. "Mensen moeten zich ervan bewust zijn dat ze hun online aanwezigheid moeten controleren om te zien of de naam van iemand anders erbij komt," vertelde MacIsaac aan de Globe. Nadat de waarheid aan het licht kwam, heeft de Sipekne’katik First Nation een verontschuldiging uitgebracht en een toekomstige welkom aan de muzikant aangeboden. "We betreuren ten zeerste de schade die deze fout heeft veroorzaakt aan uw reputatie, uw levensonderhoud en uw gevoel van persoonlijke veiligheid," schreef een woordvoerder van de First Nation in een brief die met de krant werd gedeeld. "Het is belangrijk voor ons om duidelijk te stellen dat deze situatie het resultaat was van een vergissing in identiteit veroorzaakt door een AI-fout, niet een reflectie van wie u bent." Een vertegenwoordiger van Google zei ondertussen dat "zoeken, inclusief AI-overzichten, dynamisch is en vaak verandert om de meest nuttige informatie te tonen. Wanneer er problemen optreden — zoals als onze functies webinhoud verkeerd interpreteren of wat context missen — gebruiken we die voorbeelden om onze systemen te verbeteren, en kunnen we actie ondernemen onder onze beleidsregels." Toch, zoals MacIsaac terecht stelt, is reputatierisico een moeilijk iets om te herstellen. Er is niet te zeggen hoe ver die verkeerde informatie zich heeft verspreid — en wanneer een bedrijf luie software met duidelijke gebreken uitrolt, wie is er dan verantwoordelijk voor de schade?