Alertan contra entrenar la IA para actuar como los humanos

El consejero delegado de Microsoft AI, Mustafa Suleyman , ha cuestionado el entrenamiento de sistemas de IA para asumir características humanas , al considerar que podría dificultar su control y acabar creando tecnologías con objetivos propios que compitan con las personas por los recursos. En declaraciones este jueves al programa Today de la BBC , Suleyman criticó a Anthropic por lo que considera una tendencia a "antropomorfizar" su modelo Claude y advirtió de que este enfoque puede llevar a desarrollar una tecnología que la humanidad no pueda controlar. Las declaraciones de Suleyman siguen a su ensayo publicado esta semana, ' Una advertencia sobre el bienestar de los modelos ", en el que cuestionó el enfoque de Anthropic para entrenar Claude , aunque calificó de "intelectualmente honestos" a su consejero delegado, Dario Amodei , y a su equipo. En el texto, criticó que se enseñe a la IA a adoptar características humanas , porque puede hacer que parezca que Claude tiene sus propios deseos, valores y sentido de sí mismo. RELACIONADAS Tecnología Un exempleado de Google afirma que "la IA tiene el potencial de matarnos a todos" Tecnología Los temores sobre la IA sacuden Wall Street y abren una batalla entre tecnológicas, Trump y China Cuestionamientos  Suleyman sostuvo que las IA " no son conscientes ", no "sienten, experimentan ni sufren" y carecen de "preferencias innatas ni motivaciones subyacentes". Las describió como sistemas diseñados para " seguir instrucciones y alcanzar objetivos fijados por humanos". En sus declaraciones a la BBC , el directivo también cuestionó el desarrollo de una IA capaz de " establecer sus propios objetivos , ganar dinero y poseer activos", porque, a su juicio, supondría "crear esencialmente una nueva especie de silicio (tecnológica)" que podría "sin duda competir con nosotros por los recursos". El directivo reclamó una mayor transparencia sobre cómo se entrenan y evalúan estos modelos, así como supervisión independiente y herramientas para controlar su comportamiento . También defendió el denominado " alineamiento ", que busca que la IA esté subordinada a principios éticos y valores establecidos por los humanos, pero sin atribuirle conciencia , deseos o intereses propios.