Músico cancelado tras ser acusado falsamente por la IA de crímenes horribles | Joe Wilkins, Futurism ¿Quién necesita columnistas de música viciosos cuando vives en la era de la IA? Aparentemente, no Ashley MacIsaac, un violinista, cantante y compositor canadiense que fue etiquetado como criminal sexual por el resumen de IA de Google. Según el periódico canadiense The Globe and Mail, los organizadores de eventos en la Primera Nación Sipekne’katik, al norte de Halifax, cancelaron una actuación programada con MacIsaac después de que Google lo describiera incorrectamente como un delincuente sexual. El periódico informa que la desinformación fue el resultado de uno de los resúmenes de IA de Google — breves resúmenes que se colocan de manera útil sobre todos los demás resultados de búsqueda — que mezcló la biografía del músico con otra persona que lleva el mismo nombre. "Google se equivocó y me puso en una situación peligrosa", dijo MacIsaac al periódico. Aunque el resumen de IA ha sido actualizado desde entonces, MacIsaac explicó que la situación presenta un gran dilema para él como músico en gira. Por un lado, no hay forma de saber cuántos otros organizadores de eventos decidieron no contratarlo debido a la afirmación difamatoria, o cuántos posibles miembros de la audiencia se llevaron una impresión equivocada, pero no la corrección. "La gente debería ser consciente de que debe revisar su presencia en línea para ver si aparece el nombre de otra persona", dijo MacIsaac al Globe. Después de que la verdad salió a la luz, la Primera Nación Sipekne’katik emitió una disculpa y extendió una futura bienvenida al músico. "Lamentamos profundamente el daño que este error causó a su reputación, su medio de vida y su sentido de seguridad personal", escribió un portavoz de la Primera Nación en una carta compartida con el periódico. "Es importante para nosotros dejar claro que esta situación fue el resultado de una confusión de identidad causada por un error de IA, no un reflejo de quién es usted." Un representante de Google, mientras tanto, dijo que "la búsqueda, incluyendo los Resúmenes de IA, es dinámica y cambia frecuentemente para mostrar la información más útil. Cuando surgen problemas — como si nuestras funciones malinterpretan contenido web o pierden algún contexto — utilizamos esos ejemplos para mejorar nuestros sistemas y podemos tomar medidas bajo nuestras políticas." Sin embargo, como MacIsaac afirma correctamente, el riesgo reputacional es algo difícil de reparar. No hay forma de saber cuán lejos podría haberse difundido esa desinformación — y cuando una corporación lanza un software perezoso con fallas obvias, ¿quién es responsable del daño?