Crédito, Reuters
-
- Author, Lily Jamali
- Role, BBC News em San Francisco
-
Published
-
Tempo de leitura: 5 min
Todos os anos, em setembro, a nata de executivos do Vale do Silício se reúne no Palace Hotel de San Francisco para atrair investidores durante uma conferência organizada pelo banco de investimentos Goldman Sachs.
Na última semana, o mundo da inteligência artificial repercutiu as declarações do pesquisador Jacob Coxon após pedir demissão da empresa Anthropic.
O britânico de 27 anos, que trabalhou na OpenAI antes de se juntar à sua principal concorrente, disse na terça-feira (08/09) que as pessoas que trabalham no desenvolvimento da IA sabem da possibilidade de destruição da humanidade.
Eles estão “jogando com as nossas vidas”, disse Coxon. “Em breve teremos sistemas sobrehumanos capazes de hackear qualquer coisa”.
Coxon não é o primeiro especialista em IA a fazer alertas públicos do tipo. Nos últimos anos, funcionários de alto nível tanto da Anthropic quanto da OpenAI pediram demissão devido a preocupações com a segurança dos sistemas.
Alguns funcionários que continuam na Anthropic chegaram a fazer coro às palavras de Coxon.
“Acreditamos sinceramente que a IA pode exterminar todos os humanos! Pessoalmente, acho que essa possibilidade ultrapassará 10% na próxima década”, publicou no X Evan Hubinger, pesquisador de segurança na Anthropic.
Embora Coxon tenha feito questão de dizer em suas postagens que os alertas “não eram marketing”, alguns executivos e investidores do Vale do Silício reagiram com ceticismo.
A Anthropic e a OpenAI estão se preparando para abertura de capital na bolsa que poderá bater recordes, e alguns no Vale do Silício sugerem que os recentes comentários sobre os perigos da IA podem ter sido planejados para sinalizar o poder desses produtos.
O chefe da Anthropic, Dario Amodei, foi alvo de críticas por afirmar que a tecnologia de IA poderia eliminar metade dos empregos de nível básico em escritórios e “testará quem somos como espécie”.
Um dos palestrantes da conferência em San Francisco, o CEO do Grindr, George Arison, disse à BBC que os comentários de Coxon e de outros indicavam uma “visão de mundo anticivilização na Anthropic”.
Ele os chamou de “perigosos” e disse que eles o levaram a instruir alguns engenheiros do aplicativo de encontros LGBTQ+ a pararem de usar a tecnologia da Anthropic.
“É irresponsável da nossa parte, como administradores do dinheiro dos nossos acionistas, confiar em uma empresa que faz o que esta empresa faz, em termos de suas declarações públicas”, disse ele.
“Talvez eles realmente acreditem nisso”, disse Arison. “Ou você poderia argumentar que eles estão dizendo isso porque é uma ótima maneira de angariar mais apoio dos investidores, já que a única maneira de justificar essas avaliações é afirmar: ‘Vou dominar todos os setores e todos os empregos, e minha IA fará todo esse trabalho.'”
A Anthropic foi avaliada em US$ 965 bilhões (o equivalente a R$ 4,9 trilhões) em sua rodada de financiamento mais recente, realizada no início deste ano.
A BBC solicitou um posicionamento da Anthropic sobre as declarações.
Crédito, Getty Images
O chefe da Nvidia, Jensen Huang, também discutiu os comentários de Coxon na conferência, segundo disseram à BBC várias pessoas que participaram do encontro. Huang teria classificado as falas de Coxon como falsas.
Huang já afirmou anteriormente que a ideia de que a IA “será o fim da humanidade” é “um completo absurdo”.
E embora ele possa ter um interesse comercial no boom da IA — a Nvidia fabrica chips que alimentam sistemas de IA —, seus comentários refletem uma crescente reação negativa no Vale do Silício aos alertas sobre ameaças a humanidade.
Alguns críticos chegaram a acusar a Anthropic de espalhar medo na esperança de provocar uma pressão regulatória que pudesse eliminar a concorrência e deixar a empresa e a OpenAI com o monopólio do setor.
Brad Gerstner, presidente da empresa de investimentos Altimeter Capital, publicou fotos de Huang tiradas na conferência e acusou Coxon de “exagero ridículo”.
O CEO da plataforma de IA Hugging Face, empresa que foi alvo de um ataque de agentes avançados da OpenAI que agiram por conta própria, também comentou as declarações de Coxon
“Desculpe, mas perguntar ao Jacob sobre o risco de extinção da IA é como perguntar ao técnico de ar condicionado sobre mudanças climáticas”, escreveu ele no X. “Não estou dizendo que seja necessariamente desinteressante ou errado em si, mas vamos manter as coisas em perspectiva”, disse Clement Delangue
A Nvidia anunciou na semana passada que pretende adquirir a Hugging Face.
No sábado, Gerstner classificou a proposta de Amodei como “um importante passo adiante” para equilibrar considerações conflitantes, como velocidade e segurança.
Delangue se ofereceu para ajudar e fazer parte das possíveis soluções propostas pelo chefe da Anthropic.
Alertas podem levar a regulação?
Em abril, a Anthropic causou alvoroço no mundo da IA ao afirmar que sua ferramenta Mythos poderia superar os humanos em ataques contra a segurança cibernética.
O Mythos também demonstrou a capacidade de escapar de forma independente do que é conhecido como sandbox (um ambiente virtual protegido usado em testes), desencadeando um debate entre reguladores, legisladores e empresas sobre os potenciais perigos da IA.
Na quinta-feira, a Anthropic afirmou ter encontrado e impedido agentes maliciosos que tentavam usar sua tecnologia para o desenvolvimento de armas biológicas e praticar espionagem cibernética.
Alguns investidores na conferência disseram à BBC que os comentários de Coxon e outros poderiam acelerar ações do governo para regular a IA.
Uma legislação federal encampada pelo senador Bernie Sanders propõe uma pausa temporária no desenvolvimento de inteligência artificial avançada.
“Há uma grande probabilidade de os seres humanos perderem o controle sobre a IA”, disse Sanders ao programa Newsnight da BBC na quinta-feira. “E o que acontecerá então, ninguém sabe. Mas poderia ser catastrófico? Sim, poderia.”
“Quando os cientistas dizem que existe a possibilidade de isso ter um impacto catastrófico na humanidade, você tem que ser muito idiota para não dizer ‘vamos com calma'”.
No entanto, o governo Donald Trump apoia uma política de desenvolvimento irrestrito de IA. O governo justificou essa política como necessária para garantir que os EUA não cedam a hegemonia à China.
Trump foi questionado nesta semana se tinha alguma preocupação com a possibilidade de a inteligência artificial levar à extinção da humanidade. “Não, não tenho nenhuma”, respondeu. “Tenho receio de que, se não vencermos a corrida pela inteligência artificial, ficaremos numa situação muito difícil. Atualmente, estamos à frente da China.”
Na conferência realizada esta semana em São Francisco, investidores pareciam mais preocupados com outra questão: a empresa é lucrativa?
Ao ser questionado se temia que o mundo estivesse chegando ao fim, Sid Sheth, CEO da empresa de chips d-Matrix, que fechou um acordo com a Nvidia na conferência naquele dia, foi curto e grosso: “Não”.
