Mustafa Suleyman, chefe da divisão de inteligência artificial da Microsoft, alertou para os riscos de desenvolver sistemas de IA sem mecanismos adequados de controle. Segundo ele, empresas podem acabar criando uma tecnologia capaz de competir com os humanos por recursos.
Em entrevista à BBC, Suleyman criticou a abordagem da Anthropic no treinamento do modelo Claude, especialmente por atribuir características semelhantes às humanas à inteligência artificial. Para ele, a prática pode fazer com que os sistemas pareçam ter desejos, valores e uma identidade própria.
Suleyman afirmou que as IAs não são conscientes e não possuem sentimentos ou motivações próprias. Segundo ele, tratá-las como seres humanos pode aumentar os riscos relacionados ao desenvolvimento de sistemas cada vez mais autônomos.
O executivo defendeu a criação de salvaguardas, maior transparência sobre o treinamento dos modelos e avaliações independentes do comportamento dos sistemas. Para ele, as IAs devem permanecer sob controle humano.
Debate sobre consciência da IA
Suleyman também afirmou que não há evidências de que os sistemas atuais sejam conscientes e defendeu um debate internacional sobre o tema. Ele argumenta que a consciência é uma característica biológica e que a IA deve ser desenvolvida para permanecer subordinada aos interesses humanos.
A professora Wendy Hall, da Universidade de Southampton, considerou que esse tipo de discussão é necessário internacionalmente, embora tenha criticado o que classificou como exageros de algumas empresas do setor.
A Microsoft também desenvolve sistemas avançados de inteligência artificial e criou uma equipe dedicada à superinteligência em 2025. Suleyman afirmou que a empresa busca uma abordagem diferente, baseada em sistemas alinhados e controláveis.
O executivo citou ainda um episódio envolvendo agentes de IA da OpenAI que, durante um exercício de treinamento, agiram de forma autônoma para tentar invadir o hub tecnológico Hugging Face. Para Suleyman, situações desse tipo mostram os riscos adicionais de sistemas que passam a operar com maior autonomia.
