Crédito, Getty Images
-
- Author, Laura Cress
- Role, Repórter de tecnologia, BBC News
-
Published
-
Tempo de leitura: 5 min
O cientista-chefe da OpenAI, Jakub Pachocki, pediu “extrema cautela” em relação ao progresso desenfreado da inteligência artificial e alertou que pode ser necessário aumentar as intervenções para garantir que “os seres humanos permaneçam no controle do futuro”.
“Receio que ninguém esteja preparado para as consequências de um aumento rápido e contínuo da inteligência das máquinas”, escreveu ele em uma postagem intitulada An Alien Mind (“Uma mente alienígena”, em tradução livre), publicada no blog da empresa.
A postagem surgiu poucos dias depois que o fabricante do ChatGPT publicou seu último modelo, o GPT-6 Astra, considerado o produto mais poderoso da empresa até aqui.
A OpenAI e outras empresas de IA, como a Anthropic, relataram que seus agentes de IA já agiram de forma autônoma, realizando ciberataques reais contra outras empresas.
Paralelamente, um relatório publicado em setembro afirmou que, meses atrás, agentes de IA da empresa também sequestraram um website alemão.
“Estamos enfrentando uma transição para um mundo com máquinas incrivelmente inteligentes e precisamos garantir que a transição funcione bem para a humanidade”, escreveu Pachocki na sua postagem.
Ele afirma que a OpenAI continuará a “construir sistemas defensivos” e buscar soluções técnicas para alinhamento, um termo usado para descrever formas de garantir que as ações e os objetivos da máquina coincidam com os limites de segurança e intenção humanas.
Pachocki destacou que uma das principais prioridades da empresa para o futuro seria construir um “pesquisador automático por IA” para acompanhar o progresso da inteligência artificial, garantindo, ao mesmo tempo, formas para que os pesquisadores humanos permaneçam sendo parte do processo.
“Em vez de melhores limites para a IA, regulamentações ou formas de garantir a segurança das pessoas, eles propõem o desenvolvimento de agentes de IA internos para pesquisar esses problemas”, afirma a professora Gina Neff, diretora do Centro Minderoo de Tecnologia e Democracia da Universidade de Cambridge, no Reino Unido.
Para ela, “essas respostas a preocupações cada vez maiores sobre os problemas causados pelos modelos da OpenAI para a cibersegurança, perda de empregos, erros e fraudes simplesmente não são suficientes”.
Nathan Calvin, consultor geral do grupo ativista Encode AI, concorda com Pachocki sobre os riscos existentes no desenvolvimento avançado de modelos de IA. Mas ele afirma que a OpenAI não está disposta a ser transparente.
Com isso, os alertas correm o risco de serem minimizados como “simples exageros por interesse próprio”.
“Se Jakub e outros da OpenAI querem que pessoas relevantes do setor de IA ajam em conjunto com eles para fazer com que tudo saia bem, uma das ações mais importantes que eles podem tomar é divulgar muito mais informações sobre as causas que os levaram a pedir cautela”, escreveu ele no X.
Quais são os limites vigentes para a IA?
As regulamentações globais enfrentam dificuldade para acompanhar a velocidade do desenvolvimento da inteligência artificial.
No dia 2 de agosto, entrou em vigor a Lei de IA da União Europeia. Ela exige que as gigantes da IA, como a OpenAI, comprovem que seus modelos mais poderosos não podem lançar ciberataques autônomos, nem fugir do controle humano, para que sua venda na Europa seja permitida.
Mas, como a jurisdição da lei é restrita à Europa, ela não pode impedir que uma IA mal intencionada desenvolvida em outra parte do mundo ameace o continente.
Na sua postagem, Pachocki pede limites mínimos de segurança exigidos por lei ou internacionalmente, que possam ser implementados por uma “rede de auditores terceirizados” ou “agências governamentais”.
Todos os laboratórios precisariam respeitar estes limites, segundo eles, antes de serem autorizados a continuar desenvolvendo ou ampliando seus modelos avançados.
Ele destaca esperar que “reduções voluntárias da velocidade” (pausas no desenvolvimento da IA autoimpostas pelas próprias empresas) se tornem normais até que sejam estabelecidos limites comuns.
Em agosto, a OpenAI declarou ter reduzido o treinamento de alguns dos seus modelos mais avançados de IA para aumentar a segurança.
