Músico cancelado porque la IA le acusa falsamente de crímenes horribles | Joe Wilkins, Futurismo ¿Quién necesita columnistas musicales feroces cuando vives en la era de la IA? Aparentemente no es Ashley MacIsaac, una violinista, cantante y compositora canadiense que fue calificada de criminal sexual por la IA Overview de Google. Según el periódico canadiense The Globe and Mail, los organizadores del evento en la Primera Nación Sipekne'katik, al norte de Halifax, cancelaron una próxima función con MacIsaac después de que Google lo describiera erróneamente como delincuente sexual. El periódico informa que la desinformación fue el resultado de uno de los resúmenes de IA de Google —breves resúmenes que útilmente coloca sobre todos los demás resultados de búsqueda— que mezclaba la biografía del músico con la de otra persona que lleva el mismo nombre. "Google la ha y me ha puesto en una situación peligrosa", dijo MacIsaac al periódico. Aunque la visión general de la IA ha sido actualizada desde entonces, MacIsaac explicó que la situación le plantea un gran dilema como músico de gira. Por un lado, no se sabe cuántos otros organizadores de eventos rechazaron contratarle por la acusación difamatoria, o cuántos posibles miembros del público se llevaron la impresión equivocada, pero no la corrección. "La gente debería saber que debería comprobar su presencia online para ver si aparece el nombre de otra persona", dijo MacIsaac al Globe. Tras salir a la luz la verdad, la Primera Nación Sipekne'katik emitió una disculpa y le dio la bienvenida al músico en el futuro. "Lamentamos profundamente el daño que este error causó a su reputación, su sustento y su sentido de seguridad personal", escribió un portavoz de la Primera Nación en una carta compartida con el periódico. "Es importante para nosotros dejar claro que esta situación fue el resultado de un error de identidad causado por un error de IA, no un reflejo de quién eres." Un representante de Google, por su parte, dijo que "la búsqueda, incluyendo los Resumen de IA, es dinámica y cambia frecuentemente para mostrar la información más útil. Cuando surgen problemas — como si nuestras funciones interpretan mal el contenido web o no tienen contexto — usamos esos ejemplos para mejorar nuestros sistemas y podemos tomar medidas bajo nuestras políticas." Sin embargo, como MacIsaac afirma correctamente, el riesgo reputacional es algo difícil de reparar. No se sabe hasta dónde se habrá difundido esa desinformación — y cuando una empresa despliega software perezoso con fallos evidentes, ¿quién es responsable del daño?