El consejero delegado de Microsoft AI, Mustafa Suleyman, ha cuestionado el entrenamiento de sistemas de inteligencia artificial para asumir características humanas, al considerar que podría dificultar su control y acabar creando tecnologías con objetivos propios que compitan con las personas por los recursos. En declaraciones este jueves al programa Today de la BBC, Suleyman criticó a Anthropic por lo que considera una tendencia a «antropomorfizar» su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar.
Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, «Una advertencia sobre el bienestar de los modelos», en el que cuestionó el enfoque de Anthropic para entrenar Claude, aunque calificó de «intelectualmente honestos» a su consejero delegado, Dario Amodei, y a su equipo. En el texto, criticó que se enseñe a la IA a adoptar características humanas, porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo.
Suleyman sostuvo que las IA «no son conscientes», no «sienten, experimentan ni sufren» y carecen de «preferencias innatas ni motivaciones subyacentes». Las describió como sistemas diseñados para «seguir instrucciones y alcanzar objetivos fijados por humanos».
Control humano y supervisión de la IA
En sus declaraciones a la BBC, el directivo también cuestionó el desarrollo de una IA capaz de «establecer sus propios objetivos, ganar dinero y poseer activos», porque, a su juicio, supondría «crear esencialmente una nueva especie de silicio (tecnológica)», que podría «sin duda competir con nosotros por los recursos». El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento.
También defendió el denominado «alineamiento», que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia, deseos o intereses propios. Con estas advertencias, Suleyman se suma al debate sobre los límites de la inteligencia artificial y la necesidad de mantener el control humano sobre una tecnología que avanza a pasos agigantados.
