Jack Clark, um dos cofundadores da Anthropic, afirmou que a criação de um mecanismo capaz de desligar sistemas de inteligência artificial em situações de risco pode precisar ser regulamentada. Segundo ele, a existência e a segurança desse recurso poderiam ser verificadas de forma independente.
Clark disse à BBC que os principais laboratórios de IA já possuem diferentes mecanismos para interromper seus sistemas, mas questionou se a sociedade deveria exigir uma solução padronizada e submetida à fiscalização externa.
“Deveríamos exigir que as empresas tivessem um botão de desligamento automático? Esse botão poderia ser verificado por terceiros?”, questionou.
A declaração ocorre em meio ao aumento das discussões sobre os riscos do avanço acelerado da inteligência artificial. O CEO da Anthropic, Dario Amodei, também defendeu recentemente que o desenvolvimento da tecnologia seja desacelerado e acompanhado de medidas de segurança, sem comprometer a competitividade das empresas.
Nos Estados Unidos, legisladores apresentaram o chamado Kill Switch Act, projeto que prevê a exigência de mecanismos para desativar ferramentas de IA consideradas problemáticas. A proposta também daria a determinadas agências governamentais autoridade para exigir que sistemas fossem desligados ou tivessem seu funcionamento limitado.
No Reino Unido, por outro lado, o governo rejeitou recentemente a criação de um mecanismo semelhante, argumentando que uma medida desse tipo não impediria que sistemas de IA fossem desenvolvidos ou utilizados de forma inadequada em outros países.
O debate ganhou força após declarações de pesquisadores que alertaram para riscos extremos associados ao desenvolvimento de sistemas cada vez mais avançados. Alguns especialistas, porém, consideram exageradas as previsões de que a IA possa levar à extinção da humanidade.
Para Clark, independentemente das estimativas sobre cenários extremos, deixar o setor operar sem mecanismos regulatórios seria arriscado. “Estamos jogando dados com riscos imensos. Precisamos mudar o rumo desta indústria”, afirmou.
A Anthropic, criadora do assistente Claude, vem desenvolvendo modelos de IA cada vez mais avançados e, assim como a OpenAI, já relatou episódios envolvendo agentes capazes de agir de maneira inesperada.
