¿Debe hacerse todo lo que puede hacerse?

13 de julio de 2026, España.

La capacidad técnica no trae incorporada una razón

13 de julio de 2026, España.

Podemos generar una voz que no existe.

Podemos fabricar apariencia de autoridad.

Podemos delegar una cadena de tareas a un agente.

Podemos conectar modelos a empresas, laboratorios, robots y armas.

Podemos cultivar neuronas y convertir su actividad en parte de un circuito.

Podemos intentar construir sistemas cada vez más autónomos.

La pregunta técnica es cómo.

La pregunta que atraviesa todo este banco es otra.

¿Para qué?

Poder no significa deber

La capacidad abre una posibilidad.

No crea una obligación.

Sin embargo, en tecnología suele utilizarse como argumento.

Ya es posible.

Otros lo harán.

El mercado lo pide.

No podemos quedarnos atrás.

Cada frase convierte una decisión en destino.

Después nadie parece responsable.

La tecnología avanzó.

Como si avanzara sola.

La carrera como coartada

Cuando varios actores compiten, la prudencia parece unilateral.

Si uno frena, otro continúa.

La conclusión inmediata es acelerar.

Pero una carrera no elimina la elección.

La hace colectiva y más difícil.

Armas.

Biotecnología.

Vigilancia.

Inteligencia artificial.

Precisamente donde el incentivo empuja a todos hacia el riesgo hacen falta reglas compartidas.

La imposibilidad de controlar a todos no justifica renunciar a controlar nada.

Antes de automatizar

Plan B empezó a aclararse cuando dejamos de preguntar qué podía automatizar una pequeña empresa.

Primero había que diagnosticar.

Qué proceso existe.

Qué problema intenta resolver.

Qué datos intervienen.

Qué personas reciben el efecto.

Qué error sería tolerable.

Qué parte necesita criterio.

La automatización no es una virtud en sí misma.

Un proceso absurdo automatizado se vuelve un absurdo más rápido y difícil de discutir.

Antes de desplegar un agente

La brújula mínima aparece una y otra vez.

Quién decide.

Quién autoriza.

Quién puede parar.

Quién puede deshacer.

Quién firma.

Quién responde.

Si no podemos contestar, la capacidad técnica está por delante de la capacidad institucional.

Eso no demuestra que el agente sea malo.

Demuestra que nosotros todavía no sabemos recibirlo.

Antes de publicar

También podemos fabricar un artículo en minutos.

Una revista.

Un informe.

Una imagen.

Una voz.

La pregunta no es si sale.

Es qué parte merece ocupar el tiempo de otra persona.

La facilidad de producción no crea derecho a inundar.

Cortesía computacional es podar antes de pedir a la máquina.

Cortesía editorial es podar antes de pedir atención al lector.

Antes de recopilar datos

Podemos guardar casi todo.

Conversaciones.

Movimientos.

Preferencias.

Voces.

Rostros.

Biometría.

La capacidad de almacenar convierte la omisión en excepción.

Si algo puede registrarse, alguien propone registrarlo.

Después llega el uso futuro.

La pregunta debería invertirse.

¿Qué razón suficiente existe para conservarlo?

No qué utilidad imaginaria podría aparecer algún día.

Antes de simular una persona

Podemos imitar voces, estilos, rostros y relaciones.

La simulación puede servir para arte, accesibilidad o educación.

También para engañar, sustituir o explotar duelo.

Que el resultado emocione no demuestra consentimiento de la persona representada.

La capacidad de parecerse aumenta la obligación de explicar qué es.

Antes de conectar vida y cálculo

Los organoides y la biocomputación muestran la frontera más literal.

Podemos conectar tejido neuronal a dispositivos.

Estudiar aprendizaje.

Explorar computación.

La pregunta ética no exige afirmar que haya consciencia.

Exige definir propósito, límites y condiciones de parada antes de que la carrera convierta el experimento en producto inevitable.

Antes de crear una mente

No sabemos si es posible crear consciencia artificial.

Tampoco si ocurriría accidentalmente al construir otras capacidades.

Algunos investigadores piden políticas de investigación responsable.

La pregunta «¿debe hacerse?» adquiere aquí otra forma.

¿Qué beneficio justificaría crear deliberadamente una entidad capaz de sufrir?

No tenemos respuesta.

Quizás la primera decisión responsable sea no perseguir ese objetivo mientras no sepamos reconocer ni proteger el resultado.

Antes de negar cualquier posibilidad

El freno también puede volverse dogma.

No hacer nada tiene costes.

Una tecnología puede recuperar comunicación.

Mejorar pronósticos.

Acelerar ciencia.

Reducir trabajos peligrosos.

La pregunta ética no consiste en encontrar motivos para prohibir.

Consiste en comparar beneficios, riesgos, alternativas y distribución.

El no automático es tan pobre como el sí automático.

Quién decide

No basta con decir la sociedad.

La sociedad no se reúne en una habitación.

Deciden gobiernos.

Empresas.

Investigadores.

Compradores.

Usuarios.

Tribunales.

Comités.

Comunidades afectadas.

Cada uno conoce una parte y tiene incentivos.

Una decisión legítima necesita identificar quién recibe beneficios y quién soporta daños.

Quien asume el riesgo debe tener voz antes, no únicamente derecho a reclamar después.

La pregunta de la alternativa

A veces discutimos una tecnología como si solo existieran dos opciones.

Utilizarla o renunciar al beneficio.

Puede haber otras.

Un proceso humano mejorado.

Una herramienta menos intrusiva.

Un modelo local.

Menos datos.

Menos autonomía.

Un piloto.

Una intervención reversible.

La innovación no es siempre construir el sistema más capaz.

Puede ser alcanzar el objetivo con menos dependencia y menos daño.

La irreversibilidad

Cuanto más difícil sea deshacer una acción, mayor debería ser la exigencia.

Publicar un dato.

Alterar un ecosistema.

Aplicar fuerza.

Crear una línea biológica.

Desplegar infraestructura que condiciona décadas.

La reversibilidad no resuelve la ética.

Permite corregir.

Un experimento pequeño y trazable no equivale a una adopción masiva.

La escala también es una decisión.

La distribución

Una tecnología puede producir beneficio total y repartirlo mal.

Más productividad.

Menos empleo estable.

Mejor servicio para quien puede pagar.

Más vigilancia para quien depende.

Más conocimiento para una empresa.

Más datos extraídos de comunidades.

Preguntar si funciona sin preguntar para quién deja media evaluación fuera.

El balance social no es una nota añadida al rendimiento.

La responsabilidad temporal

Quien desarrolla suele responder por el presente.

El sistema funcionó en pruebas.

Cumple hoy.

Pero algunas consecuencias aparecen después.

Dependencia.

Pérdida de habilidad.

Concentración.

Coste ambiental.

Cambios laborales.

La evaluación necesita fechas de revisión.

No basta con autorizar una vez y olvidar.

La capacidad técnica cambia.

El contexto también.

La ignorancia

Muchas decisiones deben tomarse sin conocimiento completo.

Esperar certeza absoluta también decide.

Puede impedir beneficios o permitir que otros avancen sin marco.

La respuesta no es fingir que sabemos.

Es declarar qué se conoce, qué se supone y qué obligaría a cambiar de rumbo.

Una decisión bajo incertidumbre puede ser responsable si conserva salida.

Un criterio mínimo

Antes de hacer algo porque podemos, preguntaría:

¿Qué problema real resuelve?

¿Existe una alternativa menos dañina?

¿Quién gana?

¿Quién asume el riesgo?

¿Qué evidencia tenemos?

¿Qué parte ignoramos?

¿Puede probarse a pequeña escala?

¿Puede detenerse?

¿Puede deshacerse?

¿Quién responde?

No es una fórmula.

No produce una respuesta automática.

Obliga a que el entusiasmo muestre sus cuentas.

El peligro de la pureza

Ninguna decisión llegará limpia.

Las tecnologías mezclan beneficios y daños.

Un sistema de apoyo puede vigilar.

Una herramienta abierta puede facilitar abuso.

Una regulación puede proteger y concentrar mercado.

Una infraestructura pública puede servir al bien común y al control.

Esperar una opción sin contradicciones paraliza.

La tarea es elegir con contradicciones visibles.

Lo que puede hacerse y no se hace

Hay una última inversión de la pregunta.

Podemos mejorar condiciones de trabajadores.

Crear auditorías.

Abrir datos científicos.

Diseñar botones de parada.

Financiar capacidad pública.

Enseñar alfabetización.

Construir sistemas accesibles.

Muchas de esas cosas son posibles y no se hacen porque no ofrecen el mismo beneficio inmediato.

La capacidad técnica no obliga a hacer lo espectacular.