Manifesto pela Pausa no Desenvolvimento da Superinteligência Artificial
Um grupo notório, composto por figuras públicas, cientistas e líderes mundiais, uniu-se para solicitar uma interrupção na corrida pelo desenvolvimento da chamada “superinteligência artificial”, que refere-se a sistemas que têm o potencial de superar a capacidade humana em praticamente todas as tarefas cognitivas.
Personalidades Envolvidas
Entre os signatários do manifesto estão o príncipe Harry e sua esposa, Meghan Markle, além de Steve Bannon, ex-estrategista de Donald Trump. O documento também conta com a adesão de artistas, líderes religiosos e pioneiros no campo da inteligência artificial (IA).
Direcionamento do Documento
O manifesto tem como destinatários as grandes empresas de tecnologia, conhecidas como big techs, como Google, OpenAI e Meta, que competem para criar modelos cada vez mais avançados de IA, de acordo com a agência Associated Press.
Superinteligência Artificial: Um Conceito em Debate
A superinteligência, também chamada de inteligência artificial geral (AGI), descreve um estado hipotético onde máquinas seriam capazes de superar os seres humanos em raciocínio, criatividade e tomada de decisões. Diferentemente das IAs existentes, que são restritas a tarefas específicas, como direção de veículos, recomendações musicais ou geração de textos, a superinteligência seria autônoma e capaz de aprender, adaptar-se e reprogramar-se sem intervenção humana.
Conteúdo da Carta
O documento solicita a suspensão do desenvolvimento de tecnologias dessa natureza até que haja um consenso científico e político sobre a criação de sistemas que sejam seguros e controláveis. A carta afirma: “Pedimos a proibição do desenvolvimento de superinteligência, que não será suspensa antes que haja amplo consenso científico de que ela será feita de forma segura e controlável, e forte apoio público”.
Apesar de reconhecer os benefícios da IA, como o incremento da produtividade e inovações na área da saúde, o manifesto alerta que as principais empresas do setor estão direcionadas a construir sistemas que superem drasticamente os humanos em quase todas as funções cognitivas. O texto indica que esses avanços podem levar a recessões, aumentar desigualdades, ameaçar liberdades civis e até colocar em risco a sobrevivência da espécie humana.
Adesões ao Manifesto
Mais de 800 pessoas apoiaram a carta, incluindo renomados nomes da ciência e tecnologia:
- Geoffrey Hinton e Yoshua Bengio, ganhadores do Prêmio Turing e considerados mentores da IA;
- Steve Wozniak, cofundador da Apple;
- Richard Branson, fundador do Virgin Group;
- Daron Acemoglu, economista e ganhador do Nobel de 2024;
- Mary Robinson, ex-presidente da Irlanda;
- Andrew Yao e Ya-Qin Zhang, cientistas chineses;
- Susan Rice, ex-conselheira de segurança nacional de Barack Obama;
- Mike Mullen, ex-presidente do Estado-Maior Conjunto dos EUA.
Além desses, também assinaram o documento Harry e Meghan Markle, Steve Bannon, Glenn Beck, Stephen Fry, Joseph Gordon-Levitt e o músico will.i.am.
Em uma declaração à imprensa britânica, o príncipe Harry afirmou que “o futuro da IA deve servir à humanidade, não substituí-la”, enfatizando que “o verdadeiro teste do progresso será a sabedoria com que conduzimos esse avanço”.
Advertências dos Cientistas
Max Tegmark, presidente do Future of Life Institute, ressaltou ao Financial Times que a maior ameaça da corrida para a superinteligência é a falta de controle humano. Ele destacou: “Há muitas coisas superestimadas, e é preciso cautela como investidor, mas isso não muda o fato de que a IA avançou muito mais rápido nos últimos quatro anos do que a maioria das pessoas previa”.
Uma pesquisa divulgada junto com a carta revela que apenas 5% dos norte-americanos apoiam o ritmo atual de desenvolvimento da IA sem regulação, enquanto 75% defendem a implementação de regras mais rigorosas.
Comparação com Iniciativas Anteriores
Em 2023, o mesmo instituto havia publicado uma carta similar, assinada por Elon Musk e outros executivos, pedindo uma pausa de seis meses no treinamento de modelos avançados de IA. Entretanto, o pedido não foi atendido, e Musk acabou por fundar sua própria startup de IA chamada xAI.
Desta vez, Tegmark indica que aquelas grandes empresas do setor dificilmente assinarão o novo manifesto, mas expressa esperança de que essa iniciativa instigue os governos a definir limites claros. Ele complementa que “os desenvolvedores estão presos em uma corrida tão intensa que sentem uma pressão incontrolável para seguir em frente e não serem ultrapassados pelos concorrentes”.
A Necessidade de um Debate Amplo
A carta destaca que as ferramentas de IA têm potencial para transformar áreas como a medicina, a ciência e a energia, mas clama pela realização de um debate global acerca do papel da humanidade em um futuro onde os sistemas autônomos são predominantes. Stuart Russell, da Universidade da Califórnia, Berkeley, expressou: “Não se trata de uma proibição ou mesmo de uma moratória no sentido usual. É apenas um pedido para que sejam exigidas medidas de segurança adequadas para uma tecnologia que, segundo seus próprios criadores, pode causar a extinção humana. É pedir demais?”
Fonte: www.moneytimes.com.br