Por décadas, o avanço tecnológico foi impulsionado por uma lógica simples: lançar primeiro, corrigir depois. Na inteligência artificial, porém, parte dos próprios responsáveis pela tecnologia começa a defender o caminho inverso. Mais de 1.200 pesquisadores, engenheiros e executivos ligados às principais empresas do setor assinaram o manifesto Pacing the Frontier, pedindo que o desenvolvimento dos sistemas mais avançados de IA seja acompanhado por mecanismos de segurança compatíveis com sua velocidade de evolução.
O documento reúne profissionais de organizações que lideram a corrida global pela inteligência artificial, como Anthropic, Google DeepMind, Meta e OpenAI. Entre os signatários estão Dario Amodei, CEO da Anthropic; Jakub Pachocki, cientista-chefe da OpenAI; Jared Kaplan, diretor científico da Anthropic; e Anca Dragan, vice-presidente de Segurança e Alinhamento do Google DeepMind.
Embora representem empresas concorrentes, eles convergem em um ponto: a capacidade de desenvolver modelos de fronteira está avançando mais rapidamente do que os métodos para avaliar seus riscos.
O manifesto não propõe interromper a inovação nem estabelecer uma moratória sobre a IA. A defesa é criar critérios objetivos para testar modelos antes de sua disponibilização, ampliar a transparência das avaliações de segurança e adotar mecanismos de governança capazes de reduzir riscos associados aos sistemas mais avançados.
Nos últimos meses, empresas passaram a concentrar esforços na criação de agentes de inteligência artificial capazes de executar tarefas complexas com autonomia crescente, como escrever códigos, navegar na internet, realizar pesquisas e operar softwares em nome do usuário. Para os autores do documento, essa corrida pode reduzir o tempo disponível para avaliar impactos técnicos, econômicos e sociais de cada nova geração de modelos.
Em 2023, uma carta aberta organizada pelo Future of Life Institute defendia uma pausa temporária no desenvolvimento de sistemas mais poderosos que o GPT-4. O documento foi assinado principalmente por pesquisadores, acadêmicos e empresários. Desta vez, o pedido parte, em grande medida, de profissionais diretamente envolvidos na construção dos modelos de fronteira, o que confere peso adicional ao alerta.
Se até recentemente a prioridade era acelerar a inovação para conquistar vantagem competitiva, cresce agora o entendimento de que confiança pública, transparência e segurança podem se tornar fatores tão estratégicos quanto desempenho. Afinal, à medida que a IA passa a influenciar decisões econômicas, políticas e sociais, a capacidade de controlar seus riscos deixa de ser apenas um desafio tecnológico e passa a integrar o próprio futuro da inovação.
(*) Jornalista pós-graduado em Filosofia, especialista em Liderança: gestão, resultados e engajamento e mestrando em Inovação, Comunicação e Economia Criativa
