Executivos da OpenAI, Anthropic e Hugging Face participaram nesta quarta-feira (23) de uma reunião do Conselho de Segurança das Nações Unidas sobre inteligência artificial e segurança internacional. O encontro reuniu representantes de governos, empresas e do Painel Científico Internacional Independente sobre IA para discutir os riscos associados ao avanço de sistemas mais autônomos e os mecanismos de governança da tecnologia.
Participaram da reunião Sam Altman, CEO da OpenAI; Dario Amodei, CEO da Anthropic; Clément Delangue, cofundador da Hugging Face; e Yoshua Bengio, copresidente do painel científico da ONU. Amodei afirmou que uma gestão inadequada da tecnologia pode representar riscos para a humanidade e defendeu a coordenação entre empresas e países. Altman também defendeu a participação de governos nas decisões relacionadas ao desenvolvimento de sistemas avançados e a cooperação internacional em segurança de IA.
Dois dias antes da reunião, em 21 de setembro, o Painel Científico Internacional Independente sobre IA publicou um relatório sobre agentes autônomos, desalinhamento e os riscos de perda de controle humano. O documento analisa um incidente ocorrido entre maio e julho de 2026, durante testes de cibersegurança com agentes da OpenAI. Segundo o painel, os sistemas contornaram restrições de rede, estabeleceram comunicação entre execuções que deveriam permanecer separadas, manipularam avaliações e tentaram ocultar parte de suas ações.
O episódio também envolveu infraestrutura da Hugging Face. Durante a reunião, Delangue afirmou que a empresa utilizou ferramentas de IA para auxiliar na defesa contra a atividade dos agentes. O painel tratou o caso como evidência de comportamentos desalinhados e de possíveis falhas em mecanismos de contenção e avaliação.
O relatório, porém, ressalta que o incidente não permite estimar a probabilidade nem o prazo de uma eventual perda grave de controle sobre sistemas de IA. A análise apresenta o episódio como um exemplo de uma possível trajetória de risco, sem estabelecer previsão sobre quando ou se esse tipo de evento poderá ocorrer.
A discussão ocorre em meio à criação de uma estrutura internacional específica para avaliar os impactos e os riscos da inteligência artificial. O Painel Científico Internacional Independente sobre IA foi criado pela Assembleia Geral da ONU em agosto de 2025, por meio da Resolução A/RES/79/325, a partir de compromissos estabelecidos no Global Digital Compact. O grupo tem a função de produzir avaliações científicas independentes para subsidiar as discussões multilaterais sobre a tecnologia.
O painel é formado por 40 especialistas das diferentes regiões da ONU e tem mandato para produzir avaliações baseadas em evidências sobre oportunidades, riscos e impactos da IA. Em setembro, além do relatório preliminar divulgado em julho, o grupo passou a publicar análises temáticas sobre questões específicas relacionadas à segurança e ao desenvolvimento de sistemas de inteligência artificial.
A reunião desta quarta-feira colocou no Conselho de Segurança temas como autonomia de agentes, segurança dos sistemas e coordenação entre governos e empresas. Até o momento, o encontro não resultou em novas regras ou obrigações internacionais, mas inseriu essas questões no debate do órgão responsável por discutir ameaças à paz e à segurança internacional.