Músico Cancelado por AI Acusar Falsamente de Crimes Horríveis | Joe Wilkins, Futurism Quem precisa de colunistas de música viciosos quando se vive na era da AI? Aparentemente, não Ashley MacIsaac, um violinista, cantor e compositor canadense que foi rotulado como criminoso sexual pela visão geral da AI do Google. De acordo com o jornal canadense The Globe and Mail, os organizadores de eventos da Primeira Nação Sipekne’katik, ao norte de Halifax, cancelaram uma apresentação futura com MacIsaac depois que o Google o descreveu incorretamente como um ofensor sexual. O jornal relata que a desinformação foi resultado de um dos resumos da AI do Google — breves resumos que ele ajuda a colocar acima de todos os outros resultados de busca — que misturou a biografia do músico com outra pessoa que tem o mesmo nome. “O Google errou, e isso me colocou em uma situação perigosa,” disse MacIsaac ao jornal. Embora a visão geral da AI tenha sido atualizada desde então, MacIsaac explicou que a situação apresenta um grande dilema para ele como músico em turnê. Por um lado, não se sabe quantos outros organizadores de eventos deixaram de contratá-lo por causa da alegação difamatória, ou quantos potenciais membros da audiência tiveram a impressão errada, mas não a correção. “As pessoas devem estar cientes de que devem verificar sua presença online para ver se o nome de outra pessoa aparece,” disse MacIsaac ao Globe. Depois que a verdade veio à tona, a Primeira Nação Sipekne’katik emitiu um pedido de desculpas e estendeu uma futura recepção ao músico. “Lamentamos profundamente o dano que este erro causou à sua reputação, seu sustento e seu senso de segurança pessoal,” escreveu um porta-voz da Primeira Nação em uma carta compartilhada com o jornal. “É importante para nós afirmar claramente que esta situação foi resultado de uma identidade equivocada causada por um erro da AI, não um reflexo de quem você é.” Um representante do Google, por sua vez, disse que “a busca, incluindo as Visões Gerais da AI, é dinâmica e muda frequentemente para mostrar as informações mais úteis. Quando surgem problemas — como se nossas funcionalidades interpretarem mal o conteúdo da web ou perderem algum contexto — usamos esses exemplos para melhorar nossos sistemas e podemos tomar medidas de acordo com nossas políticas.” No entanto, como MacIsaac afirma corretamente, o risco reputacional é uma coisa difícil de reparar. Não se sabe até onde essa desinformação pode ter se espalhado — e quando uma corporação lança um software preguiçoso com falhas óbvias, quem é responsável pelo dano?