Músico cancelado enquanto IA o acusa falsamente de crimes horríveis | Joe Wilkins, Futurismo Quem precisa de colunistas musicais ferozes quando você vive na era da IA? Aparentemente, não é Ashley MacIsaac, uma violinista, cantora e compositora canadense rotulada como criminosa sexual pelo Google sobre IA. Segundo o jornal canadense The Globe and Mail, os organizadores do evento na Primeira Nação Sipekne'katik, ao norte de Halifax, cancelaram uma apresentação próxima com MacIsaac após o Google descrevê-lo incorretamente como um agressor sexual. O jornal relata que a desinformação foi resultado de um dos resumos de IA do Google — resumos breves que ela coloca de forma útil acima de todos os outros resultados de busca — que misturava a biografia do músico com outra pessoa com o mesmo nome. "O Google estragou tudo e me colocou em uma situação perigosa", disse MacIsaac ao jornal. Embora a visão geral da IA tenha sido atualizada desde então, MacIsaac explicou que a situação apresenta um grande dilema para ele como músico em turnê. Por um lado, não dá para saber quantos outros organizadores de eventos recusaram contratá-lo por causa da alegação difamatória, ou quantos potenciais membros da plateia tiveram a impressão errada, mas não a correção. "As pessoas devem estar cientes de que devem verificar sua presença online para ver se o nome de outra pessoa aparece", disse MacIsaac ao Globe. Após a verdade vir à tona, a Primeira Nação Sipekne'katik pediu desculpas e deu as boas-vindas futuras ao músico. "Lamentamos profundamente o dano que esse erro causou à sua reputação, seu sustento e seu senso de segurança pessoal", escreveu um porta-voz da Primeira Nação em uma carta compartilhada com o jornal. "É importante para nós deixar claro que essa situação foi resultado de um erro de identidade errada causado por um erro de IA, não um reflexo de quem você é." Um representante do Google, por sua vez, disse que "a busca, incluindo Resumos de IA, é dinâmica e frequentemente muda para mostrar as informações mais úteis. Quando surgem problemas — como se nossos recursos interpretarem mal o conteúdo da web ou perderem algum contexto — usamos esses exemplos para melhorar nossos sistemas e podemos tomar medidas sob nossas políticas." No entanto, como MacIsaac afirma corretamente, o risco reputacional é algo difícil de reparar. Não há como saber até onde essa desinformação pode ter se espalhado — e quando uma corporação lança softwares preguiçosos com falhas óbvias, quem é responsável pelos danos?