Alertas de pesquisadores e executivos sobre os possíveis riscos da inteligência artificial (IA) aumentaram a pressão por regras e medidas para tornar mais seguro o desenvolvimento da tecnologia.
Nas últimas semanas, declarações de especialistas que trabalham ou já trabalharam no setor chamaram atenção ao apontar a possibilidade de sistemas avançados representarem riscos à humanidade. Evan Hubinger, pesquisador da Anthropic, chegou a estimar em mais de 10% a chance de uma IA provocar a morte de todos os seres humanos na próxima década.
Outro ex-funcionário da empresa, Jacob Coxon, afirmou à BBC que pesquisadores estavam preocupados com a velocidade dos avanços e com a possibilidade de perder o controle sobre sistemas cada vez mais autônomos.
O debate ocorre enquanto empresas como OpenAI e Anthropic defendem novas regras para o setor. Entre as propostas estão avaliações independentes de segurança e mais tempo para testar sistemas antes de colocá-los em operação.
Quais são os riscos apontados?
Uma das principais preocupações envolve o desenvolvimento de sistemas capazes de executar tarefas de forma autônoma e, em um cenário ainda hipotético, aprimorar suas próprias capacidades com pouca ou nenhuma participação humana.
Especialistas também citam possíveis usos de sistemas avançados em ataques cibernéticos, espionagem, guerra biológica e manipulação econômica. Esses cenários, no entanto, são considerados hipotéticos e são contestados por pesquisadores que avaliam que parte dos alertas sobre riscos existenciais pode ser exagerada.
Há ainda preocupações relacionadas a problemas já observados, como a criação de deepfakes, desinformação, fraudes e imagens íntimas falsas produzidas sem consentimento.
Empresas defendem desaceleração
Sam Altman, CEO da OpenAI, e Dario Amodei, da Anthropic, já defenderam medidas para controlar o ritmo de desenvolvimento da IA. Amodei afirma que a proposta não significa interromper o treinamento dos modelos, mas reservar tempo para testes de segurança e avaliações independentes.
Altman também afirmou que o avanço tecnológico deve continuar, mas com medidas formais de segurança e monitoramento.
EUA e China divergem sobre o ritmo
Nos Estados Unidos, o governo Donald Trump tem defendido que o país mantenha a liderança na corrida pelo desenvolvimento da IA. O presidente também minimizou alguns dos alertas sobre riscos da tecnologia e afirmou que os EUA estão à frente da China.
A China, por sua vez, tem estimulado o desenvolvimento doméstico de IA e defendido maior coordenação internacional para estabelecer regras para a tecnologia. O governo chinês criticou declarações que, segundo o país, estimulam uma lógica de ameaça e competição entre as nações.
O debate sobre regulamentação ocorre, portanto, entre diferentes interesses: reduzir riscos e aumentar a segurança dos sistemas, sem interromper o avanço de uma tecnologia considerada estratégica por governos e empresas.
