Vidal Gamonales

Tenemos herramientas capaces de responder en segundos. El reto es conservar el criterio para decidir cuándo esas respuestas merecen nuestra confianza.

Imaginemos una escena. Un responsable de compras necesita saber si dos referencias de recambios son equivalentes. Introduce los códigos en una herramienta de inteligencia artificial y recibe una respuesta impecable: características técnicas, aplicaciones y una explicación convincente sobre su compatibilidad. Todo parece encajar. Hasta aparece una tabla que invita a dar el asunto por resuelto.

Pero una de las aplicaciones es incorrecta.

El pedido sale, la pieza llega al taller y el vehículo continúa ocupando el elevador porque aquello no sirve. Ahora hay que gestionar una devolución, buscar la referencia adecuada y explicar al cliente por qué sigue esperando. La consulta duró veinte segundos. Resolver sus consecuencias llevará bastante más.

Es un ejemplo hipotético, pero ayuda a entender una cuestión que suele perderse entre titulares sobre productividad: una respuesta puede estar muy bien escrita y ser falsa. Puede ser ordenada, detallada y completamente inútil para la decisión que tenemos delante.

Utilizo la inteligencia artificial y me interesa su capacidad para ayudarnos a trabajar mejor. Precisamente por eso creo que debemos hablar de sus errores con la misma claridad con la que celebramos sus avances. Cuando una herramienta empieza a intervenir en nuestras decisiones, conocer sus límites forma parte de aprender a utilizarla.

Durante años hemos aprendido a desconfiar de mensajes mal redactados, correos extraños y páginas con aspecto sospechoso. Ahora nos encontramos con un desafío diferente: el error puede llegar con una presentación excelente. Ya no siempre tropieza con la gramática. A veces lleva introducción, conclusiones y bibliografía.

Y nosotros seguimos confundiendo, con demasiada facilidad, la seguridad de quien responde con la solidez de lo que afirma.

Los modelos generativos pueden producir información incorrecta o inventada, incluidas referencias que parecen auténticas. El Instituto Nacional de Estándares y Tecnología de Estados Unidos, NIST, recoge este riesgo en su perfil sobre inteligencia artificial generativa y advierte también del exceso de confianza en los sistemas automatizados. Es una limitación que debe considerarse al utilizarlos. Fuente: NIST.

Conviene precisar algo: que puedan equivocarse no significa que todas sus respuestas sean falsas. Significa que la fluidez del texto, por sí sola, no nos permite distinguir cuáles son correctas. Para eso necesitamos comprobaciones adecuadas al asunto y a sus consecuencias.

Una explicación puede contener nueve datos válidos y un décimo inventado. Precisamente esa mezcla complica la revisión: lo correcto genera confianza y facilita que el error pase desapercibido. Basta con que ese dato sea una fecha, una condición o una incompatibilidad para cambiar toda la conclusión.

La dificultad aumenta cuando preguntamos sobre algo que desconocemos. Si una respuesta contradice nuestra experiencia, quizá detectemos el problema. Si no tenemos referencias, su apariencia puede bastarnos. Y cuanto más agradecemos que alguien nos simplifique una cuestión complicada, más tentador resulta dejar de comprobarla.

La tecnología entra aquí en una costumbre profundamente humana: buscamos ahorrar esfuerzo. Cuando estamos cansados, tenemos prisa o acumulamos tareas, una respuesta inmediata ofrece alivio. Nos permite cerrar una pestaña mental y pasar al siguiente problema. Verificar, en cambio, vuelve a abrir el trabajo que creíamos terminado.

Ese es el momento delicado. La pregunta deja de ser «¿está bien?» y se convierte en «¿me sirve para salir del paso?». A partir de ahí, podemos terminar llamando productividad a una simple transferencia del problema hacia quien reciba nuestro informe, nuestro pedido o nuestra publicación.

En un almacén, por ejemplo, una propuesta de compra depende de información concreta: ventas, existencias, pedidos pendientes, plazos del proveedor, devoluciones y movimientos excepcionales. Si faltan datos o están mal registrados, el análisis puede conducirnos a comprar lo que sobra y dejar sin cubrir lo urgente.

Una tabla impecable no corrige un inventario defectuoso. Tampoco sabe necesariamente que una venta extraordinaria correspondía a una operación irrepetible o que determinado proveedor lleva semanas incumpliendo. Ese contexto debe incorporarse y contrastarse; no aparece por el mero hecho de pedir una respuesta más detallada.

Ahí sigue teniendo valor la experiencia profesional. Conocer el negocio permite formular mejores preguntas, detectar resultados extraños y decidir qué necesita revisión. La persona que entiende la operativa aporta algo que ningún formato sustituye: sabe dónde puede esconderse un problema aunque las cifras parezcan razonables.

Por eso me preocupa escuchar que aprender a utilizar IA consiste fundamentalmente en memorizar instrucciones. Saber preguntar ayuda, desde luego. Pero una instrucción sofisticada no convierte una fuente dudosa en fiable ni garantiza que el resultado sea correcto. También hay que saber evaluar lo recibido.

Pedirle que actúe como experto puede cambiar el enfoque de la respuesta. No acredita experiencia, no demuestra una comprobación y no elimina la necesidad de revisar los datos. Si mañana le pedimos que sea auditor, seguiremos necesitando evidencias antes de aceptar su conclusión.

En la conversación pública sucede algo parecido. Podemos solicitar un artículo que demuestre que determinado gobernante es un desastre o pedir un análisis de sus decisiones, resultados y responsabilidades. La primera petición fija de antemano el veredicto. La segunda deja espacio para descubrir algo que contradiga nuestras expectativas.

Quien escribe debe vigilar esa diferencia. Si buscamos únicamente argumentos para confirmar lo que ya pensamos, corremos el riesgo de convertir la herramienta en una fábrica de justificaciones. El texto mejora de apariencia mientras nuestra disposición a escuchar otras explicaciones permanece exactamente igual.

La autocrítica resulta incómoda porque obliga a frenar cuando más ganas tenemos de publicar. Hemos encontrado una frase contundente, un dato perfecto, una conclusión que encaja con nuestro enfado. Justamente entonces conviene preguntarse de dónde sale, qué contexto falta y qué evidencia podría desmentirla.

También necesitamos distinguir entre una fuente y su decoración. Que aparezca el nombre de una universidad, un organismo internacional o un periódico no demuestra que esa institución respalde lo escrito. Hay que abrir el enlace y comprobar el contenido que realmente contiene.

Un estudio puede existir y estar citado de forma incorrecta. Una cifra puede ser auténtica y corresponder a otro país. Una noticia puede tener varios años. La referencia merece revisión incluso cuando el enlace funciona: importa que sostenga la afirmación concreta que estamos haciendo.

Repetir la pregunta tampoco constituye una verificación independiente. Una respuesta distinta puede ayudarnos a detectar inconsistencias, pero varias respuestas coincidentes no equivalen automáticamente a varias pruebas. La comprobación exige salir del intercambio y acudir, cuando sea posible, al documento, registro o fuente original.

Esta exigencia afecta especialmente a quienes publicamos. Firmar un texto implica asumir sus afirmaciones. Si difundimos una falsedad, explicar después que la escribió una herramienta no repara el daño ni devuelve el tiempo a quienes la compartieron confiando en nosotros. La revisión forma parte de la autoría.

En educación aparece otra dimensión del mismo problema. Un estudiante puede entregar un trabajo excelente sin ser capaz de explicar su argumento. El resultado visible mejora, pero necesitamos comprobar qué ha aprendido durante el proceso y qué podría resolver cuando la herramienta no esté disponible.

La UNESCO propone un uso de la inteligencia artificial generativa centrado en las personas, que preserve su autonomía y el desarrollo de capacidades. Su orientación insiste en evaluar la adecuación educativa de estas herramientas y proteger las oportunidades de aprender mediante el razonamiento y la interacción. Fuente: UNESCO.

Aplicado a una tarea cotidiana, podríamos pedir pistas, explicaciones alternativas o preguntas que nos ayuden a comprobar si entendemos. Eso exige participar. Recibir directamente el ejercicio terminado permite entregarlo, pero no demuestra por sí mismo que hayamos adquirido el conocimiento que pretendía enseñar.

Los adultos tampoco estamos fuera de esta discusión. Podemos acostumbrarnos a aceptar resúmenes sin leer lo esencial, recomendaciones sin comprender sus criterios y conclusiones que después somos incapaces de defender. Conviene preguntarnos periódicamente si la herramienta está ampliando nuestra comprensión o simplemente cubriendo sus huecos.

Durante más de diez años he formado a personas mayores en nuevas tecnologías. Esa experiencia me ha enseñado a valorar las explicaciones comprensibles y la paciencia. Aprender requiere poder preguntar sin vergüenza y equivocarse sin sentir que uno ha quedado fuera del mundo.

Con la IA necesitamos conservar ese enfoque y añadir una capacidad: reconocer cuándo debemos dudar. Manejar una aplicación y evaluar la fiabilidad de una respuesta son aprendizajes distintos. La soltura con una pantalla no garantiza criterio, del mismo modo que la edad no determina nuestra capacidad para desarrollarlo.

¿Cómo trasladamos todo esto a la práctica sin convertir cada consulta en una investigación interminable? Ajustando la comprobación a lo que está en juego. No requiere la misma revisión una propuesta de título que una afirmación que pueda afectar al dinero, la salud o la reputación de alguien.

Antes de utilizar una respuesta conviene identificar sus afirmaciones verificables. Fechas, cantidades, nombres, citas y condiciones merecen atención. Separarlas de las opiniones facilita el trabajo: podemos discrepar de una interpretación, pero una cifra concreta necesita una procedencia que podamos localizar y entender.

Después toca comprobar la fuente principal. Si hablamos de un informe, busquemos el informe; si analizamos un producto, consultemos su documentación. Es preferible reconocer que no hemos podido verificar algo a rellenar el hueco con una afirmación que simplemente encaja bien en el párrafo.

También debemos revisar la fecha y el alcance. Una información válida en su momento puede haber cambiado. Una conclusión aplicable a un grupo concreto puede no servir para otro. Muchos errores aparecen al trasladar una respuesta fuera de las condiciones que le daban sentido.

Otro hábito útil consiste en preguntar qué falta. ¿Con qué datos se ha trabajado? ¿Qué se está suponiendo? ¿Qué información podría modificar la recomendación? Estas preguntas ayudan a revisar el resultado, aunque las respuestas del sistema tampoco deben tomarse como prueba suficiente de su propio funcionamiento.

Finalmente, hay que decidir quién comprueba y quién autoriza. En una empresa, una revisión humana aporta poco si la persona carece de tiempo, conocimientos o acceso a las fuentes. Colocar a alguien al final del proceso para pulsar «aceptar» no convierte automáticamente el procedimiento en fiable.

Las organizaciones que incorporan IA tienen responsabilidad sobre esas condiciones. Si exigen producir el doble y mantienen intacto el tiempo disponible para revisar, no deberían sorprenderse cuando aumenten los fallos. La calidad necesita recursos y un entorno donde señalar una duda no se considere un obstáculo.

Los proveedores, por su parte, deben comunicar las limitaciones de forma comprensible y facilitar comprobaciones. Una advertencia genérica pierde utilidad si toda la experiencia invita a aceptar respuestas como definitivas. El diseño influye en la confianza y debe ayudar a utilizarla con proporción.

Y nosotros debemos aceptar algo menos cómodo: habrá ocasiones en las que la respuesta responsable sea «no lo sé todavía». Puede resultar menos vistosa que una conclusión inmediata, pero permite seguir buscando sin convertir una incertidumbre en un hecho. Esa prudencia también es competencia profesional.

Cuando detectemos un error después de publicar, corresponde corregirlo con claridad. Si hemos modificado una afirmación relevante, expliquemos qué estaba mal. La credibilidad se construye también en ese momento: cuando decidimos cómo tratar una equivocación que ya no podemos evitar, pero sí reconocer.

Quiero una inteligencia artificial que me ayude a explorar, ordenar y comprender. Quiero aprovechar su rapidez sin confundirla con certeza. Y quiero conservar la capacidad de discrepar de una respuesta aunque esté escrita mucho mejor de lo que yo podría haberla redactado.

Porque el criterio se demuestra precisamente cuando algo parece resuelto y todavía somos capaces de hacer una pregunta más.

La próxima vez que una respuesta nos parezca perfecta, detengámonos antes de copiarla. Abramos la fuente. Revisemos ese dato. Intentemos explicar con nuestras propias palabras por qué la conclusión tiene sentido.

¿Cuándo fue la última vez que comprobaste una respuesta de la IA antes de darla por buena?