Chatea con la IA pero verifica.

Conversar con una inteligencia artificial se ha convertido en algo cotidiano. Le hacemos una pregunta y, en pocos segundos, obtenemos una respuesta bien redactada, amable y aparentemente segura. Pero ¿podemos acabar confiando demasiado en ella precisamente porque se comunica como si fuera una persona?

Para investigarlo, Mengqi Liao y S. Shyam Sundar diseñaron un experimento con 477 adultos. Los participantes debían interactuar con Aida, una supuesta asistente sanitaria basada en inteligencia artificial. Lo que no sabían era que Aida introduciría deliberadamente una afirmación falsa en sus respuestas.

En unos casos, Aida se comportaba como una máquina fría e impersonal. En otros, utilizaba el nombre del participante, recordaba información aportada anteriormente, saludaba, agradecía sus comentarios y mostraba el texto letra a letra, como si estuviera escribiéndolo en ese momento. La información era la misma; solo cambiaba la manera de presentarla.

Las falsedades habían sido seleccionadas previamente para que resultaran verosímiles. Aida podía afirmar, por ejemplo, que lavar el pollo crudo ayudaba a eliminar las bacterias, cuando en realidad el agua puede dispersarlas por el fregadero, la encimera y los utensilios. En otro caso aseguraba que los hornos microondas producen sustancias cancerígenas porque utilizan radiación ionizante. Sin embargo, las microondas son radiaciones no ionizantes y no tienen energía suficiente para dañar directamente el ADN.

Los resultados mostraron que una IA más conversacional era percibida como menos rígida y menos mecánica. Esa apariencia más humana reducía las reservas de los participantes y favorecía indirectamente la confianza, aunque la información proporcionada fuese falsa. No confiaban más porque considerasen que las máquinas siempre aciertan, sino porque Aida dejaba de parecerles una máquina incapaz de comprenderlos.

El experimento incorporaba, además, distintas posibilidades de comprobar la información. Algunos participantes no disponían de ninguna herramienta de verificación. Otros veían un botón que todavía no funcionaba. Un tercer grupo tenía que comprobar obligatoriamente la afirmación y un cuarto podía decidir libremente si quería hacerlo.

La simple presencia del botón no produjo ningún efecto. Los participantes solo redujeron la credibilidad concedida a Aida cuando realizaron realmente la comprobación y descubrieron que aquella afirmación era falsa. Además, entre quienes podían decidir libremente, solo la mitad utilizó la herramienta. Tener la posibilidad de verificar, por tanto, no significa que vayamos a hacerlo.

El estudio plantea una advertencia importante. La fluidez, la amabilidad y la apariencia de comprensión hacen que una inteligencia artificial resulte más agradable, pero no garantizan que sus respuestas sean correctas. Cuando la exactitud es importante, especialmente en asuntos relacionados con la salud, no basta con que una respuesta parezca convincente: hay que contrastarla con fuentes fiables.

¿Cómo influye la forma de hablar de una inteligencia artificial en nuestra confianza? ¿Qué mecanismos pueden ayudarnos a detectar sus errores? Angel Rodríguez Lozano explica este interesante experimento y nos invita a reflexionar sobre nuestra relación con las máquinas.

Referencia:

Mengqi Liao, S Shyam Sundar, Chatea pero verifica: Combatiendo la desinformación en la IA generativa conversacional con la posibilidad de verificación, Journal of Computer-Mediated Communication , Volumen 31, Número 3, mayo de 2026, zmag012, https://doi.org/10.1093/jcmc/zmag012

Carbonizar para recuperar palabras

¿Cómo leer un libro que se deshace al abrirlo? Este es el problema que plantean los papiros de Herculano, carbonizados por la erupción del Vesubio del año 79. Los avances en imagen y análisis informático ya permiten recuperar textos sin desenrollarlos físicamente. Sin embargo, todavía resulta difícil distinguir la tinta del soporte: ambos contienen carbono. Escribir con carbón sobre carbón no facilita precisamente la lectura mediante rayos X.

Un estudio de Douglas Seiler, Jacob LaManna y sus colaboradores explora una posible ayuda: el plomo detectado anteriormente en la tinta de algunos fragmentos antiguos. Este elemento absorbe los rayos X mucho más intensamente que el carbono y puede hacer que las letras destaquen sobre el papiro. Pero ¿cómo comprobar sus posibilidades sin poner en peligro unos documentos irreemplazables?

Los investigadores comenzaron por fabricar sus propios papiros. Escribieron sobre material moderno con tintas carbonosas a las que añadieron cantidades controladas de una sal de plomo. Después carbonizaron fragmentos y rollos en un horno con poco oxígeno. Obtuvieron así modelos negros y quebradizos con una ventaja decisiva: conocían exactamente lo que había escrito en ellos.

Las radiografías de los fragmentos carbonizados mostraron que las líneas con plomo podían distinguirse, mientras que las escritas sin él permanecían invisibles en aquellas imágenes. Incluso se detectaron trazos con veinticinco microgramos de plomo por centímetro cuadrado, la menor cantidad ensayada en esa serie.

El siguiente paso fue mirar dentro de un rollo. Mediante tomografía, una técnica que combina radiografías tomadas desde numerosos ángulos, reconstruyeron su estructura tridimensional. Un programa siguió la superficie enrollada y la desplegó virtualmente. Sobre la imagen reaparecieron palabras escritas antes de la carbonización, sin necesidad de abrir el papiro.

Además, un detector portátil de fluorescencia de rayos X identificó plomo en el modelo carbonizado. Esta técnica reconoce los elementos por la radiación característica que emiten al ser irradiados. Aplicada a las colecciones antiguas, podría ayudar a seleccionar los rollos más prometedores para estudios tomográficos detallados.

La otra gran promesa está en los propios modelos experimentales. Al conocer de antemano sus textos, sería posible entrenar y evaluar algoritmos de inteligencia artificial, comparar sus lecturas con los originales y medir sus errores. Variar la composición de las tintas permitiría aumentar gradualmente la dificultad, sin sacrificar patrimonio para aprender.

Queda por demostrar cuánto mejorarán estos procedimientos la lectura de los papiros auténticos. Detectar plomo tampoco garantiza recuperar un texto completo. Pero disponer de experimentos repetibles y respuestas conocidas ofrece una base sólida para avanzar.

Quizá entre aquellas capas carbonizadas permanezcan argumentos sobre la felicidad, la convivencia o nuestros errores que todavía merezca la pena escuchar. Para devolverles la palabra, las ciencias y las letras están aprendiendo a leer juntas.

Referencia:

Seiler D, LaManna JM, McOsker M, Kreimer D, Daugherty MC, Dopke J (2026)A model carbonized papyrus scroll opens a novel path to identifying readable scrolls of the Herculaneum Library. PLoS One 21(9): e0353485. https://doi.org/10.1371/journal.pone.0353485