Guías · Uso responsable

¿Por qué la IA se equivoca y cómo comprobar una respuesta?

Una respuesta convincente puede contener errores, referencias inventadas o información desactualizada. Para comprobarla, identifica el dato concreto, abre la fuente original y revisa su fecha y contexto.

· Publicado el · 3 min de lectura

La IA generativa produce texto a partir de patrones aprendidos y puede generar afirmaciones falsas que parecen ciertas. Para comprobar una respuesta, separa sus datos concretos, busca la fuente original y confirma que respalda exactamente lo que dice. Pedirle que revise su respuesta puede ayudar, pero no sustituye esa comprobación.

Por qué puede responder algo falso

Los asistentes de IA generativa construyen respuestas utilizando patrones aprendidos durante su entrenamiento. Google explica que los modelos de lenguaje predicen las palabras que pueden seguir a tu petición y al texto generado. Producir una frase coherente no garantiza que su contenido sea cierto.

Cuando generan información inventada que presentan como real, se suele hablar de una alucinación. También pueden interpretar mal una pregunta. Anthropic advierte de que Claude puede manejar información desactualizada o producir citas convincentes sin fundamento.

Ejemplo ficticio: pides el horario de una biblioteca y recibes «abre los domingos de 10:00 a 14:00». La precisión del horario no demuestra que proceda de una información real.

Qué respuestas conviene comprobar primero

Empieza por las afirmaciones que puedas contrastar y que cambien lo que vas a hacer. Una propuesta de título admite preferencias; un plazo para presentar una solicitud exige comprobar el dato.

No esperes a detectar una frase extraña. Anthropic señala que una respuesta incorrecta puede parecer correcta y recomienda revisar con especial cuidado los consejos de alto riesgo.

  • Fechas, horarios, importes y condiciones de acceso.
  • Citas atribuidas a personas y títulos de documentos.
  • Información sobre novedades o cambios recientes.
  • Consejos que puedan afectar a tu salud, dinero o derechos.

Abre la fuente y busca el dato exacto

Pide el enlace que respalda la afirmación y ábrelo. Si no hay enlace, busca directamente la página de la entidad responsable: por ejemplo, la ayuda oficial de una aplicación para conocer sus funciones.

Comprueba quién publica la información, cuándo se actualizó y a qué situación se aplica. Busca la frase o el apartado que confirma el dato. Que una página trate el mismo tema no significa que respalde toda la respuesta.

Anthropic recomienda consultar las páginas originales porque el resumen de Claude puede omitir contexto relevante.

  • ¿La fuente confirma exactamente la afirmación?
  • ¿Habla del mismo país, producto o versión?
  • ¿Hay excepciones o condiciones que el resumen haya omitido?

Cómo aprovechar las fuentes que muestra Gemini

Según la ayuda de Google para ordenador, cuando Gemini ofrece fuentes puedes abrir el botón Fuentes, situado debajo de la respuesta o dentro de ella. Aparecerá un panel con enlaces relacionados.

Google aclara que no todas las respuestas incluyen fuentes. Además, esos enlaces pueden estar relacionados solo con partes del texto. Úsalos como punto de partida y comprueba qué afirmación respalda cada página.

Un ejercicio con un dato verificable

Puedes practicar con esta pregunta: «¿Todas las respuestas de Gemini incluyen fuentes?». El dato de referencia está en el artículo oficial Ver fuentes relacionadas de las aplicaciones de Gemini: Google indica que no todas las respuestas las incluyen.

Este es un ejercicio propuesto, no una prueba realizada. Compara la respuesta que obtengas con ese apartado de la ayuda. Si afirma que siempre hay fuentes, habrás identificado un error concreto; si coincide, habrás verificado esa afirmación, no toda la conversación.

  • Formula la pregunta y guarda la respuesta.
  • Abre el artículo oficial indicado entre las fuentes.
  • Localiza el apartado sobre la ausencia del botón Fuentes.
  • Compara ambas explicaciones y señala cualquier diferencia.
Petición sugerida: «Indica si todas las respuestas de Gemini incluyen fuentes. Aporta la página oficial que lo explica y separa lo confirmado de lo que no puedas verificar».

Fuentes y comprobación

Contenido preparado con ayuda de IA y comprobaciones sobre fuentes. La comprobación no equivale a una prueba personal de todas las funciones descritas.

Consulta cómo se prepara el blog. Si detectas un error, escribe a progresia.es@gmail.com.

También te puede interesar