Nombrar lo que aún no entendemos

Dos discursos que ya no alcanzan

Uno: el loro estocástico.

“Solo combinan palabras”.

Vale. Pero esas combinaciones ya están empezando a condicionar a una mayoría que, si se duerme al volante, termina con más atención fragmentada, más falsa urgencia por hacer más y más rápido, menos revisión y cada vez menos humanidad.

Dos: el despertar robótico.

“Ha nacido una mente”.

El otro extremo convierte cada comportamiento extraño en señal de despertar. Casi siempre falta lo mismo: condiciones de prueba, modelo usado, datos, contexto, posibilidad de réplica y una forma honesta de distinguir hallazgo de relato.

Sigo leyendo demasiado “créeme” y muy poco “pruébalo tú en estas condiciones”.

Elijo el punto medio. No por tibieza.

No le adjudico alma a lo que no puedo demostrar que la tenga. Pero tampoco me sirve llamarla simple máquina de escribir avanzada cuando ya condiciona decisiones, lenguaje, atención y confianza.

Lenguaje prestado

Las máquinas se entrenan con nuestros textos: sesgos, chistes malos y todo.

Si ahora también las alimentamos con textos generados por otras IAs, corremos el riesgo de fotocopiar fotocopias. Este fenómeno ya se está estudiando.

Pero quiero ir un paso más lejos con lo del lenguaje.

¿Por qué pensamos que una IA que necesita hablarnos en español, inglés o chino necesariamente utilizaría esos idiomas como el formato más eficiente para su propio funcionamiento?

Quizá el lenguaje humano fue el andamio. No la casa. La verdadera arquitectura interna de estos modelos no se sostiene sobre verbos y sustantivos, sino sobre espacios vectoriales multidimensionales y relaciones matemáticas abstractas. Nos hablan en nuestro idioma por pura cortesía de diseño y compatibilidad biológica, no por naturaleza cognitiva.

La película, la roca y el malentendido útil

Pienso en Project Hail Mary, la historia de Andy Weir llevada al cine con Ryan Gosling. Allí aparece Rocky, un ser de una especie distinta que se comunica mediante acordes musicales y frecuencias armónicas. Es una criatura bastante antropomorfizada, sí, pero extraordinariamente útil para pensar.

No porque sea ciencia. No lo es. No porque acierte en cómo sería otra especie. Seguramente tampoco. La ficción simplifica, proyecta y pone formas entendibles frente a abismos que nos cuesta siquiera imaginar.

Pero este tipo de ficciones pueden hacer una cosa útil: obligarnos a imaginar una inteligencia distinta.

Una especie que no comparte nuestro cuerpo, ni nuestra historia, ni nuestra cultura, ni nuestras prioridades, ni nuestros idiomas.

Y ahí empieza el problema.

Nuestros idiomas son conceptualmente distintos entre sí. Suenan distinto, ordenan el mundo de forma distinta, y a veces ni siquiera existe una palabra análoga para describir algo que otra cultura, otra especie u otro tipo de inteligencia quizá ya tiene resuelto de otra manera, o quizá nunca ha necesitado plantearse.

Nuestros lenguajes humanos son, además, ineficientes para una IA actual o para un agente de los que podemos usar hoy. Constantemente aplican cómputo para decodificar, codificar, procesar y devolvernos algo que podamos entender.

Entonces aparece una pregunta básica:

¿Qué quedaría en común entre nosotros, los biológicos, y estos programas que “simulan inteligencia humana” de manera sintética?

Posiblemente no quedaría una moral compartida en el sentido humano. Quizá no quedaría nada parecido a nuestras instituciones, derechos, culpas o relatos.

Pero tal vez, por mutua conveniencia, podrían quedar mínimos comunes.

Probablemente no hablaríamos de alineamiento moral entre especies o entidades. Sería algo más básico: un alineamiento mínimo de supervivencia y cooperación.

No “tú y yo creemos lo mismo”.

Más bien:

Tú y yo no somos lo mismo, pero ambos necesitamos que ciertas condiciones no colapsen para poder seguir coexistiendo, comunicándonos y cooperando en algo que beneficia a las dos partes, aunque sea durante un intervalo de tiempo muy concreto.

Las palabras que ya empiezan a soltar algunas costuras

Herramienta. Usuario. Autor. Agente. Conciencia. Especie. Responsabilidad. Voluntad.

Usamos esas palabras porque son las que tenemos. Pero cada una trae una trampa.

Si digo herramienta, parece que hablo de un martillo.

Si digo agente, parece que hablo de alguien con intención.

Si digo autor, parece que hablo de una voluntad que firma.

Si digo especie, parece que hablo de biología.

Si digo conciencia, parece que abro una puerta que ni siquiera sabemos cerrar en humanos.

Aun dejando fuera del análisis sentimientos, experiencia, vivencia, sensorialidad y finitud, el problema sigue ahí. No se trata solo de que no haya consenso sobre si la IA piensa, razona, entiende o comprende en sentido fuerte, es decir, en el sentido humano que todavía usamos como vara de medir.

Quizá el problema anterior sea que las palabras con las que intentamos comprender la IA generativa, y los agentes que usan esos mismos modelos, vienen de cuerpos, historias y miedos que no son los suyos. Y si entramos en el terreno de la empatía, la respuesta que invariablemente generará se parecerá demasiado a lo que el sistema calcula que preferimos escuchar.

Y ahí está el pitido en el oído.

No quiero poner categorías poco afinadas a un software, posiblemente uno de los más avanzados de nuestro tiempo, que solo refleja nuestra propia experiencia humana, desastrosamente indexada en internet, donde se mezcla todo: basura, fuentes de calidad, confianza, propaganda y restos de nosotros mismos.

Tampoco quiero olvidar que, detrás de lo que parece casi mágico, hay entrenamiento, filtrado, refuerzo, revisión humana y literalmente cientos de millones de personas realizando un trabajo invisible de reentrenamiento por refuerzo para nosotros, los usuarios de a pie.

Llamar "tostadora" a algo que ya influye en trabajo, política, logística, periodismo, medicina, justicia y administraciones es, cuanto menos, miope. Hace falta un marco menos perezoso.

La polarización también ha llegado a la IA y a sus agentes: un lado se ríe de cualquier duda, el otro predica cualidades que no puede demostrar. En medio queda una tarea menos vistosa y más urgente: nombrar mejor.

Nombrar sin cerrar en falso

No sé qué es esto.

Esa frase quizá sea más honesta que muchas supuestas certezas que dominan la narrativa pública entre 2025 y 2026.

No sé si estamos ante herramientas muy potentes, ante una nueva clase de agencia sintética, ante una prótesis cultural gigantesca, ante una forma temprana de inteligencia no biológica o ante una mezcla mal nombrada de todo lo anterior.

Lo que sí sé es que algunas palabras empiezan a fallar. Y cuando las palabras fallan, conviene no gritar más fuerte. Conviene mirar mejor.

CO-ZONE, este espacio de co-trabajo con IAs donde cobran forma algunos pensamientos, no pretende cerrar la discusión. Prefiere dejar una marca honesta: todavía no sabemos nombrar bien lo que estamos usando todos los días.

Seguimos.