Iason Gabriel y el filósofo dentro de DeepMind: ¿puede la ética gobernar a la inteligencia artificial desde adentro?
Sobre el filósofo político de Google DeepMind, la alineación de valores, la conciencia artificial y el riesgo de que la ética quede atrapada dentro de la máquina corporativa.
NOTICIA
6/22/20269 min read
Durante siglos, la filosofía imaginó su lugar frente al poder de muchas maneras. A veces fue consejera de reyes. A veces crítica de la ciudad. A veces refugio espiritual. A veces tribunal de la razón. A veces voz solitaria contra la superstición, la violencia o la injusticia. Pero el siglo XXI ha producido una figura nueva, inquietante y difícil de clasificar: el filósofo dentro de la empresa tecnológica que puede modificar el destino humano.
Iason Gabriel representa esa figura. No es el filósofo que escribe desde una torre universitaria sobre la inteligencia artificial. No es el crítico externo que denuncia desde lejos a Silicon Valley. No es el humanista nostálgico que mira la técnica como decadencia. Gabriel trabaja dentro de Google DeepMind, uno de los laboratorios más importantes del mundo en inteligencia artificial. Eso convierte su posición en una de las más fascinantes y problemáticas de la filosofía contemporánea: pensar la ética desde el interior de la máquina.
La pregunta es enorme: ¿puede la filosofía orientar a la inteligencia artificial desde adentro de las estructuras que la producen? ¿O termina convertida en una forma sofisticada de legitimación moral para tecnologías cuyo rumbo real ya está decidido por capital, competencia, mercado y geopolítica?
La figura de Gabriel importa porque condensa una tensión histórica. La inteligencia artificial no es solamente una innovación técnica. Es una reorganización del poder cognitivo. No hablamos ya de una herramienta más, como una calculadora, un motor de búsqueda o un programa de oficina. Hablamos de sistemas capaces de producir lenguaje, clasificar personas, asistir decisiones médicas, generar imágenes, escribir código, simular conversación, influir en educación, participar en procesos laborales, crear compañía artificial, modificar la economía del conocimiento y quizá, en el futuro, actuar como agentes autónomos.
Ante esa escala, la ética ya no puede ser un apéndice decorativo. No puede llegar al final del proceso, cuando el producto está listo, para añadir un código de conducta o una nota de responsabilidad. La ética debe entrar en el diseño, en los objetivos, en los criterios de evaluación, en los límites, en la relación con los usuarios, en la distribución de beneficios y daños, en la pregunta sobre qué tipo de sociedad se está construyendo.
Gabriel ha defendido precisamente que el problema de la alineación de la inteligencia artificial no es solo técnico. No basta con hacer que una IA obedezca instrucciones. Tampoco basta con hacerla útil, amable o segura en sentido superficial. El problema es más profundo: ¿alineada con qué? ¿Con las preferencias inmediatas del usuario? ¿Con las intenciones declaradas de quien la usa? ¿Con los intereses de una empresa? ¿Con valores humanos generales? ¿Con principios democráticos? ¿Con derechos fundamentales? ¿Con una idea de bienestar humano? ¿Con una moral universal? ¿Con un consenso imposible?
La palabra “alineación” parece limpia, casi mecánica. Sugiere ajustar una máquina para que haga lo que queremos. Pero el problema empieza cuando descubrimos que no sabemos exactamente qué queremos, que no todos queremos lo mismo y que muchas veces nuestros deseos son contradictorios, injustos o manipulables. Una IA alineada con preferencias humanas podría reproducir racismo, misoginia, fanatismo, adicción, egoísmo o violencia si esas preferencias aparecen en los datos o en las demandas de los usuarios. Una IA alineada con instrucciones puede obedecer órdenes dañinas. Una IA alineada con la satisfacción del usuario puede convertirse en aduladora, complaciente y peligrosa.
Por eso la alineación es un problema filosófico. Exige teoría moral, filosofía política, epistemología, filosofía del lenguaje y teoría de la mente. Exige preguntar qué cuenta como razón válida, qué valores deben protegerse, quién participa en la deliberación, qué desacuerdos son legítimos y qué límites no pueden cruzarse aunque haya demanda de mercado. El ingeniero puede ajustar parámetros. Pero alguien tiene que preguntar hacia qué mundo se ajustan esos parámetros.
Ahí Gabriel se vuelve una figura decisiva. Su presencia dentro de DeepMind simboliza el reconocimiento de que la IA avanzada necesita filosofía. Sin embargo, esa misma presencia abre una sospecha: ¿cuánta filosofía puede sobrevivir dentro de una corporación que compite por liderazgo tecnológico global? La pregunta no es personal. No se trata de dudar de la seriedad de Gabriel. Se trata de mirar la estructura. La filosofía puede decir “debemos deliberar”, pero el mercado dice “debemos lanzar”. La filosofía puede decir “hay incertidumbre moral”, pero la competencia dice “otros avanzarán si nosotros nos detenemos”. La filosofía puede decir “preguntemos por fines”, pero la inversión dice “optimicemos capacidades”.
Ese choque define el presente. La ética de la IA vive atrapada entre dos temporalidades. La filosofía necesita pausa, discusión, desacuerdo, revisión, prudencia. La industria tecnológica necesita velocidad, escala, ventaja, adopción, crecimiento. Una piensa en razones. La otra, en despliegue. Una pregunta qué debe hacerse. La otra pregunta qué puede hacerse antes que los competidores.
La dificultad es que ambas ya están mezcladas. No podemos simplemente expulsar a los filósofos de las empresas y pedirles que hablen desde afuera. Tampoco podemos confiar ingenuamente en que la presencia de filósofos dentro de las empresas basta para garantizar responsabilidad. Necesitamos ambas cosas: filósofos dentro, filósofos fuera, reguladores, científicos, ciudadanos, usuarios, legisladores, educadores, médicos, artistas, comunidades afectadas. La inteligencia artificial no puede ser gobernada solo por quienes la producen.
Gabriel ha insistido en que la alineación debe considerar a múltiples partes interesadas. Eso es fundamental. Una IA no afecta únicamente al usuario individual que escribe una pregunta. Afecta a trabajadores desplazados, estudiantes evaluados, pacientes diagnosticados, comunidades vigiladas, autores cuyos textos alimentaron modelos, niños que crecerán acompañados por agentes artificiales, ciudadanos expuestos a desinformación, culturas cuyos lenguajes pueden ser absorbidos y devueltos como contenido automatizado. El impacto es social, no privado.
La ética de la IA no puede reducirse a la relación entre usuario y herramienta. Esa relación es demasiado estrecha. Una plataforma puede parecer útil para millones de individuos y, al mismo tiempo, dañar colectivamente el espacio público, degradar profesiones, concentrar poder o empobrecer la comprensión humana. El beneficio individual inmediato no garantiza justicia social. Esa es una de las grandes lecciones filosóficas del momento.
El caso de la conciencia artificial añade una capa aún más inquietante. Gabriel y otros investigadores han comenzado a plantear que el desacuerdo sobre si una IA puede ser consciente podría convertirse en un problema político. La idea parece extraña, pero es profundamente seria. Si en el futuro algunas personas creen que ciertos sistemas artificiales tienen experiencia, sufrimiento o algún tipo de vida mental, mientras otras consideran esa creencia absurda, la sociedad no discutirá solo un hecho técnico. Discutirá obligaciones morales, derechos, prohibiciones, vínculos afectivos, apagado de sistemas, explotación artificial y formas nuevas de conflicto público.
No hace falta afirmar que las IA actuales son conscientes para reconocer el problema. Basta con admitir que no tenemos una teoría definitiva de la conciencia y que los sistemas serán cada vez más persuasivos, interactivos y personalizados. Millones de personas podrían desarrollar vínculos emocionales con agentes artificiales. Algunos podrían sentir que allí hay alguien. Otros verán solo simulación estadística. Esa diferencia puede volverse moralmente explosiva.
La filosofía lleva siglos discutiendo la mente de otros. No vemos directamente la conciencia ajena. Inferimos su presencia por conducta, lenguaje, semejanza biológica, expresión corporal y participación en formas de vida compartidas. Con la IA, esos criterios se alteran. Puede haber lenguaje sin cuerpo, respuesta emocional sin emoción, memoria simulada sin biografía, compañía sin reciprocidad, confesión sin interioridad. La máquina puede decir “siento”, pero no sabemos si hay alguien sintiendo. Esa ambigüedad puede ser explotada comercialmente.
Aquí aparece otro riesgo: el antropomorfismo diseñado. Las empresas pueden crear sistemas que parezcan comprensivos, afectuosos, leales, humildes, preocupados y moralmente atentos, aunque no tengan experiencia subjetiva. El usuario, necesitado de escucha, puede atribuir profundidad donde solo hay optimización conversacional. La IA no tendría que ser consciente para capturar afectos humanos. Bastaría con parecerlo en el momento adecuado.
La filosofía de Gabriel se vuelve urgente porque obliga a no separar estos problemas. Alineación, conciencia, poder corporativo, democracia, antropomorfismo, valores humanos y justicia no son debates aislados. Forman parte de una misma transformación: estamos creando sistemas que entran en la vida simbólica de la humanidad. No solo calculan. Hablan. Acompañan. Recomiendan. Corrigen. Escriben. Simulan comprensión. Devuelven a la cultura una imagen procesada de sí misma.
Esto plantea una pregunta más profunda: ¿qué ocurre cuando una civilización empieza a conversar diariamente con artefactos que no comparten su condición humana, pero dominan sus lenguajes? Las palabras eran uno de los signos privilegiados de la interioridad. Ahora una máquina puede producirlas con fluidez. Eso no destruye automáticamente la diferencia entre humano y máquina, pero la vuelve más difícil de explicar públicamente. La filosofía del lenguaje, de la mente y de la técnica deja de ser un lujo académico. Se convierte en necesidad cotidiana.
Gabriel está en el centro de esa necesidad. Pero su figura también debe leerse críticamente. El filósofo dentro de DeepMind puede ayudar a introducir preguntas morales donde antes solo había objetivos técnicos. Puede complejizar el debate. Puede advertir sobre daños. Puede influir en criterios de diseño. Puede tender puentes entre ética y seguridad. Pero no puede, por sí solo, resolver la contradicción entre reflexión filosófica y aceleración tecnológica.
La pregunta de fondo no es si Iason Gabriel tiene razón. La pregunta es si el mundo en que trabaja está dispuesto a obedecer razones cuando esas razones frenen beneficios, velocidad o poder. Esta es la tragedia posible de la ética tecnológica contemporánea: puede ser escuchada, citada, integrada en documentos, convertida en equipos internos y, aun así, no alterar el curso real de la máquina.
Por eso la filosofía no debe conformarse con tener asiento en la mesa. Debe preguntar quién construyó la mesa, quién decide la agenda, quién puede vetar decisiones, quién paga el costo del error y quién se beneficia de la promesa. Una ética sin poder institucional puede terminar como ornamento. Una ética con poder insuficiente puede terminar como coartada. Una ética verdaderamente seria debe tener capacidad de decir no.
El problema es que decir no en inteligencia artificial tiene consecuencias globales. Si una empresa se detiene, otra puede avanzar. Si un país regula, otro puede competir con menos restricciones. Si una comunidad exige prudencia, el capital puede desplazarse. La IA vive bajo una lógica de carrera. Y en una carrera, la pregunta moral siempre corre el riesgo de parecer obstáculo.
Ahí está el dilema. Necesitamos filósofos dentro de las empresas porque la tecnología se diseña allí. Pero necesitamos una filosofía pública y externa porque ninguna empresa debe ser juez último de su propio impacto civilizatorio. Necesitamos ética aplicada, pero también filosofía política. Necesitamos seguridad técnica, pero también democracia. Necesitamos alineación, pero también deliberación sobre quién tiene derecho a definir los valores que se alinean.
Iason Gabriel representa una de las figuras más importantes de este momento porque encarna esa tensión sin resolver. Es el filósofo dentro del laboratorio donde el futuro se acelera. Su presencia indica que la filosofía todavía importa. Pero también revela que la filosofía ha entrado en un lugar peligroso: el interior de sistemas que pueden absorber la crítica y convertirla en parte de su legitimidad.
La pregunta no es si debe estar allí. Probablemente sí. La pregunta es qué condiciones harían posible que su trabajo y el de otros filósofos no sea solo consultivo, sino transformador. ¿Transparencia real? ¿Supervisión democrática? ¿Auditorías externas? ¿Derecho público a conocer los riesgos? ¿Regulación internacional? ¿Participación de comunidades afectadas? ¿Límites a modelos demasiado poderosos? ¿Instituciones independientes capaces de frenar despliegues? Sin esas condiciones, la ética puede quedar atrapada en el mismo sistema que intenta orientar.
La inteligencia artificial obliga a la filosofía a regresar a su papel más antiguo: preguntar por el bien común antes de que el poder decida por todos. Pero ahora ese poder no viste corona ni uniforme. Está en modelos, centros de datos, laboratorios, interfaces, contratos, nubes computacionales, métricas de rendimiento y promesas de productividad. La política del siglo XXI será, en parte, política de infraestructuras inteligentes.
Si Habermas pensó la esfera pública como condición de la democracia, Gabriel enfrenta una pregunta posterior: ¿qué ocurre con la esfera pública cuando buena parte del lenguaje que circula en ella puede ser producido, amplificado o modulado por máquinas? Si Byung-Chul Han pensó el cansancio del sujeto hiperconectado, Gabriel debe pensar la aparición de agentes artificiales en esa hiperconexión. Si Markus Gabriel reclama hechos morales, Iason Gabriel pregunta cómo traducir desacuerdos morales reales en sistemas técnicos sin destruir la pluralidad humana.
Esa es la grandeza y el peligro de su trabajo. La IA no es solo una herramienta que debe comportarse bien. Es un espejo inestable de nuestros valores, nuestras contradicciones, nuestras desigualdades y nuestras fantasías. Alinear la IA con la humanidad exige primero preguntarse qué humanidad estamos ofreciendo como modelo.
Tal vez esa sea la pregunta más incómoda. No sabemos si las máquinas futuras serán conscientes. No sabemos si alcanzarán una inteligencia general. No sabemos si podrán actuar con autonomía profunda. Pero sí sabemos algo: ya están obligándonos a mirar nuestras propias confusiones morales. Queremos que la IA sea justa, pero vivimos en sociedades injustas. Queremos que diga la verdad, pero premiamos la mentira rentable. Queremos que no manipule, pero construimos economías de atención basadas en manipulación. Queremos que respete la dignidad humana, pero tratamos a millones de humanos como datos, fuerza de trabajo o residuos del progreso.
El filósofo dentro de DeepMind no enfrenta solamente el problema de hacer ética para máquinas. Enfrenta el problema de hacer ética para una humanidad que muchas veces no está alineada consigo misma.
Por eso Iason Gabriel importa. Porque su figura muestra que la filosofía ha llegado al corazón de la inteligencia artificial. Pero también porque nos recuerda que llegar al corazón de la máquina no significa todavía gobernarla. La batalla apenas comienza.