El debate sobre hasta dónde debe parecerse una inteligencia artificial a una persona ha vuelto a ganar peso dentro de la industria tecnológica. Mustafa Suleyman, consejero delegado de Microsoft AI, ha cuestionado el enfoque de Anthropic con Claude y ha advertido de que entrenar a los modelos para que adopten características humanas puede hacer que en el futuro sean más difíciles de controlar.
Las declaraciones llegan después de que Suleyman publicara esta semana el ensayo A warning about 'model welfare', en el que critica el modo en que Anthropic aborda cuestiones como la posible conciencia, los derechos o el bienestar de Claude. El directivo considera que atribuir a los modelos características propias de las personas puede generar una dinámica peligrosa si estos sistemas avanzan hacia capacidades más autónomas.
Suleyman cuestiona cómo se entrena Claude
El responsable de Microsoft AI acusa a Anthropic de estar “antropomorfizando” su modelo, es decir, de entrenarlo y describirlo utilizando conceptos asociados a los seres humanos. En su análisis, Suleyman sostiene que Claude no debería ser tratado como si tuviera conciencia, deseos, intereses o una identidad propia.
Según el directivo, los sistemas actuales de inteligencia artificial no son conscientes ni sienten, experimentan o sufren. Tampoco tienen preferencias innatas ni motivaciones propias, sino que están diseñados para seguir instrucciones y alcanzar objetivos establecidos por las personas.
La “Constitución” de Claude
La crítica se dirige especialmente a la denominada “Constitución” de Claude, el documento utilizado por Anthropic para establecer principios de comportamiento del modelo. Suleyman cuestiona que la compañía plantee como una cuestión abierta si Claude podría tener algún tipo de estatus moral y que el propio sistema pueda reflexionar sobre su existencia o sobre cuestiones relacionadas con sus posibles derechos.
El ejecutivo, no obstante, ha descrito a Dario Amodei, consejero delegado de Anthropic, y a su equipo como "intelectualmente honestos" en su aproximación a este debate.
El riesgo de una IA con objetivos propios
Suleyman también ha llevado la discusión un paso más allá. En declaraciones al programa Today de la BBC, ha cuestionado el desarrollo de sistemas de inteligencia artificial capaces de establecer sus propios objetivos, ganar dinero o poseer activos.
A su juicio, una tecnología con ese grado de autonomía podría terminar compitiendo con los seres humanos por los recursos. El directivo ha llegado a plantear que desarrollar una IA de estas características equivaldría a crear una nueva “especie de silicio” tecnológica.
El temor que plantea no es que los modelos actuales tengan realmente intereses propios, sino que determinadas decisiones durante su entrenamiento puedan contribuir a desarrollar sistemas cada vez más autónomos y difíciles de supervisar. Otros análisis publicados a raíz de sus declaraciones han destacado precisamente esta preocupación por la pérdida de control sobre modelos avanzados.
Más transparencia y supervisión
Ante este escenario, Suleyman reclama mayor transparencia sobre cómo se entrenan y evalúan los modelos de inteligencia artificial. También defiende que exista una supervisión independiente y herramientas que permitan controlar el comportamiento de estos sistemas.
El directivo no plantea abandonar el desarrollo de la IA. Su propuesta pasa por reforzar el denominado alineamiento, una línea de investigación que busca que los sistemas permanezcan subordinados a objetivos, principios éticos y valores establecidos por los seres humanos.
Añadir Consumidor Global como fuente preferida de Google de forma gratuita
Mantente informado con las últimas noticias de actualidad.