Mundo
El error de IA que convirtió a una escritora de Epuyén en blanco de amenazas en España
Flavia Broffoni contó que fue identificada de manera equivocada en una imagen tomada en Ceuta y que su nombre circuló en grupos de WhatsApp españoles.
El error de una IA que involucró a Flavia Broffoni, una escritora que vive en Epuyén, comenzó con una imagen tomada en la localidad de Ceuta, España. En la captura aparecía una joven que filmaba una escena vinculada con personas migrantes y fuerzas de seguridad. Al consultar a la inteligencia artificial de Google sobre la identidad de esa persona, la respuesta la señaló erróneamente a Broffoni.
La situación llegó a la escritora a través de un correo electrónico. Una persona desconocida le preguntó si se encontraba en Ceuta y le recomendó que se cuidara porque había gente que quería darle “una paliza”.
A partir de ese intercambio, Broffoni descubrió que su nombre circulaba en grupos de WhatsApp en España. Allí se la acusaba de estar repartiendo gas pimienta a personas migrantes durante enfrentamientos con militares y policías.
“Por supuesto me intrigó el mensaje”, contó en el video. También aclaró que hacía diez años que no viajaba a España y que no se encontraba en el lugar de los hechos que le atribuían.
La captura que convirtió una respuesta en acusación
Broffoni explicó que volvió a comunicarse con la persona que le había escrito para pedirle pruebas sobre el origen de la acusación.
“Me pasa una captura de pantalla de uno de los chats en la que un mensaje reenviado muchas veces tiene una captura de la foto”, relató. Según su testimonio, alguien había ingresado esa imagen en la inteligencia artificial de Google y recibido como respuesta que la persona fotografiada era Flavia Broffoni, junto con una descripción de sus actividades.
La escritora cuestionó que la herramienta identificara con certeza a una persona sin aportar pruebas. También señaló que la mujer que aparece en la imagen no se parece a ella.
El caso fue presentado como un ejemplo de los riesgos de confiar en respuestas automatizadas sin verificación.
“Es increíblemente peligroso que se identifique con certeza, porque en mi caso fue una aseveración certera, que además no tiene ninguna prueba, a alguien con un hecho que además no tiene ninguna prueba”, sostuvo Broffoni.
La reacción en redes y el paso legal
El resumen del hilo de comentarios, que reúne alrededor de 2.300 intervenciones, muestra un tono mayoritariamente empático y de preocupación. Muchas personas expresaron su respaldo a Broffoni y señalaron el riesgo que habría existido si ella se encontraba efectivamente en Ceuta.
Otros usuarios compartieron experiencias similares con herramientas de inteligencia artificial, como biografías inventadas, currículums atribuidos a personas equivocadas e identificaciones erróneas a partir de fotografías.
También se abrió un debate sobre las responsabilidades. Algunos comentarios apuntaron contra la empresa que desarrolló la herramienta; otros señalaron a quienes difundieron la captura sin verificarla. Además, varias personas ofrecieron contactos de abogados, organizaciones de derechos digitales y medios de España.
Broffoni contó que se puso en contacto con la abogada Marina Benítez Demtschenko para analizar los pasos a seguir. “Con ella encararemos alguna estrategia”, afirmó.
Para la escritora, el error de una IA dejó expuesto el riesgo de que una identificación falsa sea tomada como verdadera y termine generando consecuencias concretas para una persona que ni siquiera se encontraba en el lugar donde supuestamente ocurrieron los hechos.
