Tienes que entregar un informe en media hora, le pides a la inteligencia artificial que resuma tres documentos y te devuelve un texto ordenado, convincente y con una cifra que encaja justo con lo que querías demostrar, así que lo copias, lo pegas y lo envías sin preguntarte de dónde ha salido ese dato. La herramienta responde con la misma seguridad cuando acierta que cuando se equivoca, y ese es el riesgo más cercano de usarla en el trabajo, no una máquina rebelde sino una persona con prisa que deja de hacerse la siguiente pregunta.
El episodio #17 sobre los riesgos de confiar en la IA sin comprobarla parte de un estudio internacional con decenas de miles de trabajadores y propone tres hábitos sencillos para que la herramienta te ayude sin quitarte la responsabilidad de lo que entregas. Puedes escucharlo antes de continuar y recuperar después el ejercicio de la última comprobación que proponemos al final.
Lo que dice el estudio
Entre noviembre de 2024 y enero de 2025, la Universidad de Melbourne y KPMG encuestaron a más de 48.000 personas de 47 países para su informe Trust, attitudes and use of artificial intelligence, dirigido por la profesora Nicole Gillespie y el investigador Steve Lockey. Según el comunicado oficial de la universidad, el 58 % de los trabajadores usa ya la inteligencia artificial de forma intencionada en su empleo, pero dos de cada tres confían en sus resultados sin evaluar si son exactos y más de la mitad reconoce haber cometido errores en su trabajo por su culpa. El estudio añade que casi la mitad la ha utilizado de maneras que contravienen las normas de su empresa, incluida la subida de información sensible a herramientas públicas y gratuitas, y que el 57 % oculta su uso o presenta como propio lo que ha producido la máquina.
| Conducta | Porcentaje | Lo que significa |
|---|---|---|
| Usa la IA de forma intencionada en el trabajo | 58 % | La herramienta ya forma parte de la rutina laboral. |
| Confía en sus resultados sin evaluar su exactitud | 66 % | La comprobación es la excepción y no la norma. |
| Ha cometido errores en su trabajo por culpa de la IA | 56 % | Los fallos no son hipotéticos, ya han ocurrido. |
| Oculta su uso o presenta como propio un trabajo de la IA | 57 % | La autoría y la responsabilidad se vuelven difusas. |
| Ha recibido alguna formación sobre IA | 47 % | Más de la mitad aprende a usarla sin acompañamiento. |
| Dice que su empresa tiene una política o una guía | 40 % | Las normas llegan más tarde que el uso. |
La tabla dibuja una brecha que conviene tener presente cuando buscas empleo o quieres crecer en el que tienes, porque el uso avanza mucho más deprisa que la formación y que las reglas. Menos de la mitad de los encuestados ha recibido alguna formación y solo un 40 % dice que su organización tiene una política o una guía sobre inteligencia artificial generativa, de modo que en muchos equipos cada persona decide por su cuenta qué comprueba, qué comparte y qué firma.
Por qué nos fiamos sin comprobar
El problema no es nuevo ni exclusivo de los chatbots. Los psicólogos llaman sesgo de automatización a la tendencia a aceptar la recomendación de un sistema automático y dejar de buscar información que la contradiga, y Raja Parasuraman y Dietrich Manzey revisaron en 2010, en la revista Human Factors, décadas de investigación sobre la complacencia y el sesgo de automatización en ámbitos como la aviación o la medicina. Su conclusión es incómoda, porque el sesgo aparece tanto en personas novatas como en expertas, aumenta cuando hay varias tareas a la vez y no desaparece con la simple advertencia de que hay que tener cuidado.
Con los modelos de lenguaje el efecto se intensifica, porque no fallan con un mensaje de error sino con una frase bien construida. Cuando un modelo no sabe algo no deja un hueco en blanco, sino que genera la continuación más probable, y eso puede producir citas, cifras o referencias que suenan perfectamente plausibles y no existen. El canal de IBM Technology lo explica en este vídeo breve sobre las alucinaciones de los grandes modelos de lenguaje.
El riesgo de delegar lo que tenías que pensar
El episodio señala además una consecuencia menos visible que el error puntual, la de que la comodidad lleva a reducir el esfuerzo porque siempre se puede confiar en la herramienta. Usarla para ganar tiempo en un borrador o en una tarea repetitiva tiene sentido, pero el peligro aparece cuando delegas precisamente la parte que necesitabas pensar, la de entender un problema, comparar opciones y decidir, porque esa es también la parte que demuestra tu valor profesional ante una empresa.
Primer hábito para verificar lo que mueve una decisión
No hace falta comprobar cada coma, pero sí cada dato que pueda influir en una decisión, sea una cifra, una fecha, un nombre, una cita, una norma o una referencia. La pregunta útil no es si el texto está bien escrito, sino de dónde sale cada afirmación importante y si puedes llegar a la fuente original, porque un buen estilo no es una prueba de exactitud y una respuesta convincente puede ser incorrecta con la misma elegancia que una correcta.
La misma seguridad para acertar y para fallar
Revisa lo que mueve una decisión
Lo que entrega la IA
1Un texto bien escrito
1Una cifra sin fuente
Lo que compruebas
2Origen del dato
3Fecha y contexto
- 1Apariencia
- 2Fuente
- 3Vigencia
Una regla práctica consiste en tratar cualquier dato que no venga acompañado de su fuente como un borrador pendiente de confirmar, y en dedicar la revisión a lo que más pesa en el resultado, que suele ser el número que justifica una propuesta, la norma que se cita para tomar una decisión o el nombre de la persona a quien se atribuye una frase.
Segundo hábito para proteger la información
Antes de pegar un documento en una herramienta pública conviene preguntarse si esa información puede salir de los sistemas de la organización. Datos de clientes, cifras internas, contratos, estrategias o información personal no deberían compartirse solo porque la herramienta resulte cómoda, y el estudio muestra que casi la mitad de quienes la usan ya lo ha hecho. Si la empresa ofrece una herramienta autorizada, es la que debes utilizar, y si no está claro qué puede compartirse, lo profesional es preguntar antes de hacerlo.
Antes de pegar nada
La información de la empresa no es tuya
La pregunta previa
¿Puedo compartir esto?
Lo que no se pega
1Datos de clientes
2Cifras internas
3Contratos
4Estrategia
- 1Personas
- 2Negocio
- 3Obligaciones
- 4Planes
La regulación europea apunta en la misma dirección. El Reglamento europeo de inteligencia artificial obliga desde el 2 de febrero de 2025, en su artículo 4, a que las empresas que utilizan estos sistemas adopten medidas para garantizar un nivel suficiente de alfabetización en inteligencia artificial de su personal, lo que convierte en una competencia esperada saber qué se puede hacer con ellos y qué no.
Tercer hábito para dejar claro quién decide
La inteligencia artificial puede ayudarte a preparar un análisis, pero no debería convertirse en una forma de diluir la responsabilidad. Si una propuesta, un informe o una recomendación llevan tu nombre, debes poder explicar cómo se ha elaborado, qué se ha comprobado y por qué se ha llegado a esa conclusión, y en muchos contextos también conviene indicar con transparencia qué parte se apoyó en la herramienta. Si no puedes explicar el contenido que entregas, quizá tampoco deberías firmarlo.
Para practicar esa revisión puedes pedirle a la propia herramienta que te ayude a localizar lo que tienes que comprobar, siempre que el texto no contenga información confidencial y que la verificación final la hagas tú en las fuentes. La siguiente instrucción sirve como punto de partida.
Instrucción para practicar
Voy a pegarte un texto que he preparado con ayuda de inteligencia artificial y que tengo que entregar en mi trabajo. No lo reescribas ni mejores su estilo.
Enumera cada dato, cifra, fecha, nombre propio o afirmación factual que contiene, y para cada uno indica si puede comprobarse, qué tipo de fuente debería confirmarlo y si podría estar desactualizado.
Señala las frases que suenan seguras pero no se apoyan en ningún dato, las conclusiones que van más allá de la información disponible y cualquier fragmento que pueda contener información confidencial o personal.
Termina con una lista ordenada de lo que debo verificar yo antes de firmar el documento, empezando por lo que más afecta a la decisión que se tomará con él.
Para qué se usará el texto
[Describe la decisión o el destinatario]Texto
[Pega aquí el texto sin datos confidenciales]
Practica la última comprobación
Dedica media hora a revisar con calma algo que ya hayas entregado o estés a punto de entregar.
Ejercicio de la última comprobación
Marca y verifica
Recupera un texto que hayas preparado con inteligencia artificial en las últimas semanas, subraya con un color cada dato que podría influir en una decisión y comprueba al menos tres de ellos en su fuente original, anotando cuáles eran correctos, cuáles estaban desactualizados y cuáles no tenían respaldo.
Explica y firma
Escribe en cinco líneas qué decisión se tomará con ese texto, qué parte hizo la herramienta y qué parte hiciste tú, y repasa si había en él información de la empresa o de otras personas que no debería haber salido de los sistemas autorizados.
Si no puedes explicar el contenido con tus palabras, todavía no está listo para llevar tu nombre.
En el caso de Lucía, la candidata ficticia de esta serie, la prueba llegó durante sus prácticas en una agencia, cuando le pidieron una nota con datos de consumo de redes sociales para un cliente. El primer borrador generado con inteligencia artificial incluía una cifra atribuida a un informe anual que, al buscarlo, no contenía ese dato, y otra que sí existía pero correspondía a tres años antes. Corrigió ambas con las fuentes originales, eliminó el nombre del cliente del texto que había pegado en la herramienta y añadió al final una línea con las fuentes consultadas, y su responsable acabó pidiéndole que preparara una pequeña guía de revisión para el resto del equipo.
La idea final del episodio es que la inteligencia artificial puede ahorrarte tiempo, pero no debería ahorrarte criterio, porque el riesgo más cercano no es una máquina que se equivoca sino una persona con prisa que deja de hacerse la siguiente pregunta. En la próxima entrega de Perfil profesional con IA veremos cómo escribir un mensaje en LinkedIn para conseguir trabajo.