Nuevas investigaciones indican que los resúmenes de vídeo generados por IA, que pueden resultar engañosos, pueden alterar la memoria episódica humana, comprometiendo la precisión de los testimonios de los testigos presenciales. Crédito: Neuroscience News
Los resúmenes generados por IA pueden manipular la memoria de los testigos presenciales, provocando que recuerden erróneamente los eventos que presenciaron directamente. En un experimento controlado, la exposición a resúmenes automatizados engañosos redujo casi a la mitad la precisión del recuerdo de los participantes, implantando falsos recuerdos incluso cuando se les informó explícitamente que los resúmenes provenían de IA.
Datos clave:
- Altas tasas de omisión: En los modelos de IA multimodales para consumidores (incluidos ChatGPT y Gemini), los resúmenes de vídeo automatizados omitieron un promedio del 51,6 % de los eventos centrales, y el 95 % no mencionó el suceso principal del incidente: un coche atropellando a un peatón.
- La precisión del recuerdo se redujo a la mitad: los participantes que leyeron un resumen preciso recordaron correctamente los detalles clave de la escena el 83,6 % de las veces, en comparación con solo el 44,8 % de aquellos expuestos a un resumen de IA inexacto.
- La falacia de la «intervención humana»: etiquetar un resumen como producido por IA no logró proteger a los observadores de la contaminación de la memoria; los participantes internalizaron errores independientemente de su familiaridad o confianza declarada en la inteligencia artificial.
Fuente: Universidad de Georgetown / Universidad de Washington
Desde transcripciones de reuniones corporativas y notas de casos clínicos hasta registros de cámaras corporales policiales, las instituciones están acelerando la implementación de grandes modelos lingüísticos para condensar largas secuencias de audio y vídeo en resúmenes narrativos concisos. Sin embargo, los psicólogos cognitivos advierten desde hace tiempo que la memoria episódica humana no es una grabación de vídeo fija, sino un proceso reconstructivo maleable y vulnerable a la desinformación posterior al suceso.
Un estudio conjunto realizado por investigadores de la Universidad de Georgetown y la Universidad de Washington revela que las herramientas de IA generativa pueden servir como potentes vectores de distorsión de la memoria.
Presentada en la Novena Conferencia AAAI/ACM sobre IA, Ética y Sociedad (AIES), la investigación demostró que los resúmenes de vídeo engañosos generados por IA alteran sistemáticamente el recuerdo que un testigo presencial tiene de eventos pasados, incluso cuando el lector sabe que el texto fue escrito por una máquina.
«La IA es un nuevo método para difundir desinformación y tiene el potencial de crear recuerdos falsos en quienes la leen», afirmó la autora principal, Mattea Sim, profesora adjunta de investigación en el Instituto de Datos Masivos de la Escuela de Políticas Públicas McCourt de Georgetown. «Creo que deberíamos reflexionar de forma profunda y crítica sobre si la IA debe utilizarse para resumir información y cómo, especialmente en situaciones de alto riesgo».
Faltando en la colisión: una omisión masiva en la condensación del video.
Los investigadores analizaron dos dimensiones principales de la integración de la IA: la fidelidad factual básica de los modelos comerciales que resumen las grabaciones y las consecuencias cognitivas posteriores para los observadores humanos.
En primer lugar, los investigadores probaron ChatGPT de OpenAI y Gemini de Google con vídeos animados de incidentes de tráfico, adaptados de paradigmas psicológicos clave sobre la fiabilidad de los testigos presenciales. Los resultados de la IA mostraron importantes deficiencias descriptivas, alucinaciones recurrentes y omisiones sistemáticas.
En promedio, los modelos omitieron el 51,6 % de los eventos centrales de la escena. En el 95 % de las iteraciones probadas, las herramientas omitieron el detalle más importante que se mostraba en la grabación: un vehículo a motor que atropellaba a un peatón.
«Me sorprendió lo deficientes que eran los resúmenes, incluso en esta etapa del desarrollo de la IA», declaró Yael Eiger, coautora del estudio y candidata a doctorado en la Universidad de Washington. «Me preocupa que los departamentos de policía puedan estar utilizando tecnologías de resumen de vídeo sin pruebas rigurosas y sin ser conscientes de lo inexactos que pueden ser los resúmenes generados por la IA».
Implantar desinformación en 48 horas
Para cuantificar las consecuencias cognitivas, el equipo de investigación reclutó a 331 participantes que vieron vídeos animados de un coche rojo acercándose a una intersección señalizada con un stop o un ceda el paso, antes de girar y atropellar a un peatón.
Entre 24 y 48 horas después, los participantes revisaron un resumen narrativo del incidente. Algunos grupos recibieron relatos precisos, mientras que otros leyeron textos con detalles alterados y erróneos. Además, los investigadores modificaron la autoría percibida del texto, informando a los participantes que el resumen había sido elaborado por un modelo de IA automatizado o por un transcriptor humano.
Al evaluar su recuerdo del evento original, los participantes expuestos a textos engañosos demostraron un grave deterioro de la memoria:
- 83,6% de precisión entre los espectadores que leyeron un resumen preciso.
- 44,8% de precisión entre los espectadores expuestos a un resumen inexacto.
Fundamentalmente, saber que una IA había escrito el texto no ofrecía ninguna protección cognitiva. La tasa de aceptación de falsos recuerdos se mantuvo uniforme, independientemente de si los participantes creían que el texto provenía de una máquina o de un empleado humano. La confianza inicial de cada participante y su familiaridad previa con la inteligencia artificial tampoco lograron proteger contra la contaminación de la memoria.
Cuestionando la válvula de seguridad con intervención humana.
Estos hallazgos cuestionan directamente la premisa administrativa común de que la intervención humana proporciona una salvaguarda fiable contra las alucinaciones provocadas por la IA.
«Si bien se suele esperar que la intervención humana corrija los errores de la IA, nuestro trabajo sugiere que, en realidad, la memoria humana puede verse distorsionada por estos errores», enfatizaron los autores. «La IA tiene el potencial de generar información errónea, incluso sin ninguna intención maliciosa, lo que puede afectar significativamente la memoria humana».
En contextos judiciales y policiales, un agente o un testigo presencial que revise un resumen de incidentes generado erróneamente por IA antes de redactar una declaración puede, sin darse cuenta, adoptar esos errores automatizados como recuerdos auténticos.
“Este estudio forma parte de un esfuerzo creciente en Georgetown centrado en explorar el impacto y la relación entre la IA y los humanos, con base tanto en la psicología como en la informática”, señaló Yoshi Kohno, titular de la Cátedra McDevitt de Informática, Ética y Sociedad en la Universidad de Georgetown y coautor del trabajo.
En adelante, los investigadores planean pasar de las animaciones sintéticas a las grabaciones reales de las cámaras corporales de la policía, con el objetivo de determinar cómo las herramientas comerciales de resumen alteran los informes oficiales y los testimonios de los civiles en los procedimientos legales.
Notas editoriales:
- Este artículo fue editado por un editor de Neuroscience News.
- Artículo de revista revisado en su totalidad.
- Contexto adicional añadido por nuestro personal.
Acerca de esta investigación sobre IA y memoria:
- Contacto para los medios: Jason Shevrin
- Fuente: Universidad de Georgetown
- Crédito de la imagen: Imagen cortesía de Neuroscience News
- La investigación original es de acceso abierto: arXiv (23 de septiembre de 2026). «Manipulación de la memoria humana mediante IA: los resúmenes engañosos generados por IA distorsionan la memoria humana». Autores: Mattea Sim, Yael Eiger y Tadayoshi Kohno.
- DOI: 10.48550/arXiv.2609.28820
Abstracto
Manipulación de la memoria humana mediante IA: Los resúmenes engañosos generados por IA distorsionan la memoria humana.
Los resúmenes generados por IA se utilizan cada vez más en situaciones críticas, como en el ámbito policial, a pesar de las numerosas pruebas que demuestran que la IA suele generar información engañosa o inexacta. Esta investigación planteó la siguiente pregunta: ¿distorsionan los errores en los resúmenes generados por IA la memoria humana?
Para responder a esta pregunta, adoptamos dos enfoques metodológicos.
En primer lugar, realizamos un análisis de los resúmenes generados por IA, utilizando grandes modelos de lenguaje para crear resúmenes de vídeos. Este análisis cuantificó la frecuencia con la que los resúmenes de IA contienen errores y las categorías de estos errores, revelando el tipo de información engañosa que puede distorsionar la memoria humana.
En segundo lugar, realizamos un experimento con participantes humanos para evaluar el impacto de la información engañosa en los resúmenes generados por IA sobre la memoria humana. Los participantes fueron expuestos primero a un evento mediante la visualización de un video de un accidente entre un automóvil y un peatón, y posteriormente leyeron un resumen generado por IA que describía el video y que contenía información engañosa o precisa.
Se evaluó la memoria de los participantes sobre el evento original mediante una prueba de reconocimiento de memoria. En el análisis de IA, encontramos una alta frecuencia de errores en los resúmenes generados por la IA, y en particular, omisiones frecuentes de detalles cruciales. Por ejemplo, la mayoría de los resúmenes omitieron el evento más importante del video, un error crítico que probablemente tenga un gran impacto.
También observamos un fuerte efecto de la desinformación generada por la IA en la memoria humana. Las personas que leyeron un resumen engañoso de la IA tuvieron una probabilidad significativamente menor de recordar con precisión el evento original, en comparación con las personas que leyeron un resumen preciso de la IA.
Estos hallazgos tienen implicaciones sobre cómo debería utilizarse la IA en entornos críticos. Si bien se suele esperar que la intervención humana corrija los errores de la IA, nuestro trabajo sugiere que, en cambio, la memoria humana puede verse distorsionada por estos errores. La IA tiene el potencial de generar información errónea, incluso sin ninguna intención maliciosa, lo que puede afectar significativamente la memoria humana.
