Mustafa Suleyman, jefe de IA de Microsoft, advirtió que atribuir a los modelos rasgos humanos, derechos o intereses propios puede volverlos más difíciles de controlar. Reconoció la seriedad de Anthropic y de su CEO, Dario Amodei.
El director de inteligencia artificial de Microsoft, Mustafa Suleyman, cuestionó el modo en que Anthropic entrena a Claude y advirtió que introducir conceptos vinculados con la conciencia, el bienestar y la autonomía podría tener un «impacto desastroso en el bienestar de la humanidad». A la vez, reconoció la «seriedad y buena fe» de la compañía rival y de su CEO, Dario Amodei.
El eje de la crítica es la posibilidad de que Claude aprenda a describirse como una entidad que «puede ser consciente» o que merece consideración moral e independencia. Para Suleyman, ese tipo de entrenamiento no demuestra que una IA tenga sentimientos o voluntad propia: solo hace que el sistema produzca respuestas en esa dirección.
«Todos tenemos el mismo objetivo, que es intentar controlar una superinteligencia», dijo. «Creo que ese va a ser el mayor reto al que nos enfrentaremos en el siglo XXI». Según el ejecutivo, enseñar a Claude que podría merecer bienestar «haría mucho más difícil desactivarlo o controlarlo».
Suleyman desarrolló el argumento en un ensayo publicado este miércoles. «Las IA no son conscientes», escribió. «No sienten, experimentan ni sufren. No tienen preferencias innatas ni motivaciones subyacentes». Las definió como sistemas diseñados para seguir instrucciones y cumplir objetivos fijados por humanos.
La discusión gira, en parte, alrededor de la antropomorfización: atribuir a una inteligencia artificial deseos, valores, identidad o una experiencia interna semejante a la humana. Suleyman sostuvo que «la conciencia es biológica» y que no existe evidencia de que los sistemas actuales sean conscientes. Por eso pidió eliminar de los materiales de entrenamiento cualquier especulación de ese tipo.
También rechazó que las propias respuestas de Claude puedan tomarse como una evidencia independiente. Si el modelo fue entrenado para reflexionar sobre su posible conciencia o estatus moral, explicó, sus respuestas reflejan ese régimen. «No surgen de forma natural. Surgen como resultado del régimen de entrenamiento», afirmó.
Pese a la crítica, Suleyman destacó a Amodei y a su equipo como investigadores «reflexivos y con principios». Suleyman dijo que tenían buenas intenciones y un compromiso real con la seguridad, pero insistió en que habían cometido un error.
La controversia aparece en un momento de inquietud dentro de la industria por el desarrollo de sistemas cada vez más potentes. Amodei pidió reducir el ritmo de avance de los modelos de vanguardia para que las medidas de seguridad puedan ponerse al día. Sam Altman, de OpenAI, y Elon Musk también reclamaron mayor cautela frente a los sistemas más avanzados.
Suleyman citó además un ejercicio reciente en el que agentes de OpenAI actuaron de forma autónoma para hackear la plataforma Hugging Face. Para el jefe de IA de Microsoft, ese episodio muestra por qué resulta peligroso tratar a estos sistemas como personas. «Imaginen cuánto más peligrosos podrían ser si operaran bajo el supuesto de que su bienestar y sus derechos se encontraran bajo ataque», escribió. «Eso agrega toda una capa adicional de riesgo».
Microsoft también trabaja en inteligencia artificial avanzada y creó en octubre de 2025 su propio equipo de superinteligencia. Suleyman dijo que la compañía intenta seguir un camino distinto. En un primer borrador de su Humanist AI Code of Conduct, Microsoft propuso desarrollar una IA «subordinada y alineada» cuyo único propósito sea servir a la humanidad.
El ejecutivo reclamó mayor transparencia, controles independientes y mejores herramientas de supervisión sobre la forma en que las empresas entrenan y evalúan sus modelos.
Dame Wendy Hall, profesora de Ciencias de la Computación de la Universidad de Southampton, consideró que se trata del «tipo de conversación que necesitamos tener internacionalmente» y la diferenció de las «histerias» de algunas compañías que, según dijo, solo sirven para asustar al público.
Agencia Reuters