Parlamentares britânicos e pesquisadores defendem regras internacionais para controlar o desenvolvimento de sistemas de IA capazes de superar a inteligência humana.
O avanço acelerado da inteligência artificial voltou a provocar um debate que ultrapassa os limites da tecnologia.
Especialistas, pesquisadores e parlamentares britânicos estão pressionando governos a estabelecer regras internacionais para o desenvolvimento de uma possível superinteligência artificial, sistema hipotético capaz de superar seres humanos em praticamente todas as tarefas cognitivas.
O alerta ganhou força em setembro de 2026 depois que Evan Hubinger, pesquisador ligado à Anthropic, afirmou acreditar que existe uma probabilidade superior a 10% de uma inteligência artificial avançada causar a morte de toda a humanidade nos próximos dez anos.
A estimativa representa uma avaliação pessoal do pesquisador, e não uma previsão científica consensual.
A declaração reacendeu discussões sobre os riscos associados à inteligência artificial geral e à chamada superinteligência, especialmente diante da velocidade com que empresas desenvolvem modelos cada vez mais avançados.
O que é uma superinteligência artificial?
Os sistemas de IA disponíveis atualmente já conseguem realizar tarefas complexas, como produzir textos, analisar informações, escrever códigos e auxiliar em diferentes atividades profissionais. Entretanto, eles ainda apresentam limitações importantes e não podem ser classificados como uma superinteligência.
O conceito de superinteligência artificial descreve uma tecnologia que ultrapassaria as capacidades humanas em praticamente todos os campos intelectuais.
Parlamentares britânicos já discutiram esse cenário no Parlamento, incluindo a possibilidade de que sistemas desse tipo sejam desenvolvidos dentro de um período de cinco a dez anos.
O principal problema levantado pelos especialistas não está necessariamente em uma máquina assumir o controle de armas ou construir robôs semelhantes aos apresentados em filmes de ficção científica.
A preocupação envolve a possibilidade de sistemas extremamente capazes executarem objetivos de maneira incompatível com interesses humanos.
Por que pesquisadores estão preocupados?
Um dos maiores desafios é conhecido como problema de controle ou alinhamento. A questão central é saber como garantir que uma inteligência artificial muito mais poderosa do que os seres humanos continue obedecendo a objetivos e limites definidos por pessoas.
Esse debate ganhou importância depois de relatos sobre sistemas experimentais capazes de realizar tarefas de forma autônoma e interagir com ambientes digitais.
O próprio conselho da organização sem fins lucrativos ligada à OpenAI afirmou recentemente que a indústria ainda não estaria no caminho adequado para reduzir determinados riscos de uma eventual perda de controle catastrófica.
Os riscos discutidos incluem ataques cibernéticos mais sofisticados, desenvolvimento de agentes autônomos, manipulação de informações e uso da IA para facilitar atividades perigosas.
Especialistas também discutem possíveis aplicações relacionadas à criação de agentes biológicos ou outras tecnologias capazes de causar danos em larga escala.
Isso não significa que esses cenários sejam inevitáveis.
A superinteligência artificial ainda é uma possibilidade futura, e existem divergências significativas entre especialistas sobre a velocidade de seu desenvolvimento e a dimensão dos riscos.
Parlamentares britânicos defendem acordo internacional
No Reino Unido, o debate ganhou força com a participação de parlamentares de diferentes partidos. Darren Jones defendeu uma cooperação internacional para estabelecer regras destinadas ao desenvolvimento seguro e regulamentado da superinteligência.
Jones afirmou que a intenção não seria impedir a inovação científica, mas criar mecanismos internacionais capazes de acompanhar o avanço tecnológico.
Ele encaminhou propostas ao secretário-geral da ONU, Antonio Guterres, ao secretário-geral da OCDE, Mathias Cormann, e ao primeiro-ministro britânico Andy Burnham, pedindo que organismos internacionais discutam uma estrutura conjunta de segurança para sistemas avançados de IA.
A ideia também aparece em outras propostas debatidas no Parlamento britânico.
Há parlamentares defendendo mecanismos mais rigorosos para sistemas de inteligência artificial considerados potencialmente perigosos, incluindo avaliações de segurança antes da implementação e regras específicas para tecnologias altamente avançadas.
Reino Unido busca ampliar testes de segurança
O governo britânico, por sua vez, afirma que já trabalha na avaliação dos riscos relacionados aos modelos mais avançados.
Em declaração divulgada recentemente, o governo destacou o trabalho do AI Security Institute e afirmou que o Reino Unido pretende continuar testando sistemas de ponta e desenvolvendo conhecimento científico sobre suas capacidades e possíveis riscos.
A discussão ocorre em um momento de forte competição internacional pelo desenvolvimento de inteligência artificial.
Estados Unidos, China, Reino Unido e outros países buscam ampliar suas capacidades tecnológicas, enquanto empresas privadas investem bilhões na criação de modelos cada vez mais poderosos.
Esse cenário aumenta a dificuldade de estabelecer regras que sejam adotadas simultaneamente por diferentes governos.
O futuro da inteligência artificial ainda está em disputa
A possibilidade de uma superinteligência artificial provocar consequências extremas permanece uma questão controversa.
Alguns pesquisadores consideram os riscos existenciais suficientemente sérios para justificar medidas preventivas internacionais. Outros alertam que previsões muito específicas sobre sistemas que ainda não existem podem conter elevado grau de incerteza.
O ponto de convergência é que a evolução dos modelos de IA está acontecendo rapidamente e que governos precisam acompanhar o desenvolvimento tecnológico com pesquisas, testes de segurança e mecanismos de supervisão.
A proposta de um tratado multinacional ainda está longe de representar uma política internacional consolidada. Resta saber se os governos conseguirão estabelecer regras comuns antes que sistemas de inteligência artificial atinjam capacidades significativamente superiores às atuais.
A discussão, portanto, já não envolve apenas o que a inteligência artificial consegue fazer hoje, mas principalmente quais limites deverão existir caso máquinas futuramente sejam capazes de superar os seres humanos em praticamente todas as áreas intelectuais.
Você acredita que governos deveriam estabelecer regras internacionais para o desenvolvimento de uma possível superinteligência artificial antes que essa tecnologia alcance capacidades muito superiores às atuais?
Deixe sua opinião nos comentários.
Fonte: Unexplained Mysteries