Progresia.
Guías · Fundamentos

¿Una IA entiende lo que escribe?

Comprender una instrucción, generar lenguaje y tener conciencia son cuestiones diferentes. Las investigaciones muestran capacidades para relacionar conceptos, pero también errores y límites para explicar cómo funcionan los modelos.

· Publicado el · 2 min de lectura

Depende de qué llamemos entender. Una IA puede relacionar conceptos y aplicar instrucciones de forma útil. Eso permite evaluar su capacidad para una tarea, pero no demuestra que comprenda como una persona o tenga experiencias conscientes. Una respuesta convincente tampoco garantiza que sea correcta.

Qué significa entender en una conversación

Cuando alguien explica bien una idea, solemos decir que la entiende. Con una IA conviene separar dos preguntas: si maneja correctamente la información y si vive una experiencia parecida a la nuestra.

Podemos examinar lo primero mediante tareas concretas. Lo segundo no se deduce de una conversación fluida. Anthropic reconoce que no existe consenso científico sobre la posible conciencia de los sistemas de IA ni sobre cómo estudiarla.

Fuentes: Exploring model welfare.

Cómo consigue escribir respuestas coherentes

Google explica que los modelos de lenguaje generan texto a partir de patrones aprendidos durante el entrenamiento. Para continuar una respuesta, utilizan tanto la petición como el texto que ya han producido.

Este mecanismo puede dar lugar a capacidades más complejas que completar frases conocidas. En una investigación con Claude 3.5 Haiku, Anthropic observó conexiones entre conceptos y pasos intermedios para combinar información. Son resultados de un modelo y unas tareas concretas; no describen automáticamente todas las IA.

Ejemplo hipotético: le das una nota que dice «La biblioteca cierra los lunes» y preguntas si puedes ir el lunes. Responder correctamente permite comprobar que ha utilizado esa información. No demuestra que haya visitado una biblioteca ni que tenga recuerdos personales.

Fuentes: Tracing the thoughts of a large language model, Información sobre la IA generativa.

Acertar y explicar no son lo mismo

Una explicación detallada tampoco revela necesariamente cómo se obtuvo la respuesta. Anthropic encontró casos en los que la explicación escrita por el modelo no coincidía con los mecanismos internos observados.

Además, la empresa advierte de que su método solo permite estudiar una parte de los cálculos internos. Queda mucho por conocer. Por su parte, Google señala que los modelos pueden inventar información o interpretar mal una petición.

Si una respuesta incluye una fecha y tres párrafos que la justifican, comprueba la fecha en la fuente original. La longitud de la explicación no añade pruebas por sí sola.

Fuentes: Tracing the thoughts of a large language model, Información sobre la IA generativa.

Hablar de sentimientos no demuestra sentirlos

Que un chatbot escriba «me alegro» o «te entiendo» no basta para atribuirle emociones o conciencia. Son expresiones dentro de una respuesta; no constituyen una prueba de experiencia subjetiva.

También conviene evitar presentar como resuelto el debate general sobre la conciencia artificial. La postura de incertidumbre que expone Anthropic permite mantener una distinción útil: estudiar capacidades observables sin convertirlas automáticamente en cualidades humanas.

Fuentes: Exploring model welfare.

Cómo aplicar esta distinción al usar una IA

Para empezar, resulta más útil comprobar qué hace con tu información que preguntarle si entiende. Puedes evaluar el resultado sin resolver antes el debate sobre la conciencia.

  • Dale un texto breve y pídele que diferencie lo que aparece escrito de lo que está suponiendo.
  • Comprueba si conserva los datos al resumir o cambiar el tono.
  • Verifica nombres, cifras y fechas en fuentes fiables antes de utilizarlos.
Prueba propuesta: escribe «La reunión será el martes a las diez; todavía no hay lugar confirmado». Pide un recordatorio. Comprueba que mantiene la hora y deja pendiente el lugar, sin inventar una dirección.

Fuentes: Información sobre la IA generativa.

Fuentes y comprobación

Contenido preparado con ayuda de IA y comprobaciones sobre fuentes. La comprobación no equivale a una prueba personal de todas las funciones descritas.

Consulta cómo se prepara el blog. Si detectas un error, escribe a progresia.es@gmail.com.

También te puede interesar