Ex-vice-presidente de investigação da OpenAI: restam 2 anos aos investigadores humanos, a investigação em IA caminha para a automatização total

Restam apenas dois anos para que os humanos continuem a desempenhar um papel importante nas descobertas da investigação em IA. Depois disso, todo o ciclo fechado de I&D em IA, desde a formulação de hipóteses até à validação, será totalmente automatizado. Replicar cegamente os modelos Transformer das grandes empresas é um "jogo perdido", e o atual gargalo para novos avanços na tecnologia de IA reside precisamente na própria arquitetura. No futuro, não só os laboratórios de IA, mas todas as grandes empresas caminharão para a automatização total.

No atual domínio da inteligência artificial, os investigadores enfrentam um sentimento de divisão sem precedentes: por um lado, o avanço tecnológico avança a um ritmo vertiginoso; por outro, o cansaço extremo provocado por código e experiências intermináveis.

"Atualmente, ouve-se frequentemente os investigadores de IA a repetir esta frase: 'O nosso trabalho só dura mais alguns dias, vamos fazer o máximo enquanto podemos, depois podemos todos descansar.'", apresentou Jerry Tworek, ex-vice-presidente de investigação da OpenAI, numa entrevista recente, esta perspetiva com um toque de humor negro.

Na sua opinião, isto não é uma simples piada. Com a chegada da era dos "agentes nativos de IA", a própria IA está a assumir rapidamente o trabalho de I&D. "Estimo, grosso modo, que os investigadores humanos continuem a desempenhar um papel importante no processo de descoberta da investigação em IA durante pelo menos mais dois anos."

Depois de deixar a OpenAI, onde trabalhou durante sete anos, Jerry fundou a Core Automation. A sua ambição não se limita a desenvolver o próximo modelo de linguagem de grande dimensão, mas sim a reestruturar o paradigma de funcionamento das empresas de IA — usar IA para desenvolver IA e criar "laboratórios de IA de terceira geração" totalmente automatizados.

Pontos-chave da entrevista:

Contagem decrescente para os investigadores humanos: Restam apenas dois anos para que os humanos continuem a desempenhar um papel importante nas descobertas da investigação em IA. Depois disso, todo o ciclo fechado de I&D em IA, desde a formulação de hipóteses até à validação, será totalmente automatizado.

Ascensão dos laboratórios de IA de terceira geração: Ao contrário da DeepMind/OpenAI inicial (orientadas para a investigação pura) e dos laboratórios pós-GPT-3 (focados na escalabilidade computacional), os laboratórios de terceira geração colocam a "automatização" em primeiro lugar. Usando agentes de IA de baixo custo para substituir humanos na execução de experiências complexas e escrita de código, o ciclo de I&D pode ser comprimido de meses para um dia.

Desafiar a hegemonia do Transformer: Replicar cegamente os modelos Transformer das grandes empresas é um "jogo perdido", e o atual gargalo para novos avanços na tecnologia de IA reside precisamente na própria arquitetura. Os laboratórios de nova geração estão a usar agentes de programação para explorar de raiz novas arquiteturas que foram postas de lado devido ao "custo extremamente elevado de tentativa e erro", com o objetivo de criar novos modelos que aprendam em tempo de teste (test time).

Revelações sobre os modelos o1/o3: A aprendizagem por reforço (RL) em grande escala é o caminho necessário para a AGI. Ilya Sutskever previu com precisão o roteiro já em 2019. O avanço da série o (modelos de raciocínio) resultou de anos de exploração fundamental pela equipa de investigação e da aposta decisiva da liderança (como Jakub Pachocki) na capacidade computacional em momentos-chave.

"IA empresarial" será o produto final: No futuro, não só os laboratórios de IA, mas todas as grandes empresas caminharão para a automatização total. Numa era pós-laboral, livre de tarefas repetitivas, os humanos terão mais tempo para perseguir a grandeza espiritual e física.

Contagem decrescente de dois anos: os laboratórios de IA de terceira geração dizem adeus à "execução humana"

Jerry Tworek divide o desenvolvimento dos laboratórios de IA em três fases.

A primeira geração, representada pela DeepMind e pela OpenAI inicial, nasceu antes de a "viabilidade da IA em grande escala" ser comprovada, sendo instituições orientadas para a investigação com o objetivo puro de alcançar a AGI; a segunda geração nasceu após o lançamento do GPT-3, quando a Lei de Escala se revelou eficaz e os laboratórios começaram a competir ferozmente por capacidade computacional, tentando gerar inteligência através da escala (com a Anthropic como exemplo).

E agora, estamos a assistir ao aparecimento dos laboratórios de IA de terceira geração — que tentam colocar a "automatização" em primeiro lugar.

Na I&D tradicional de IA, formular hipóteses, escrever código, realizar experiências em pequena escala e depois mobilizar dezenas de pessoas durante meses para aumentar a escala é um processo extremamente caro e com grande atrito.

"Em muitos aspetos, o que fazemos agora é: os investigadores humanos continuam a ser responsáveis por gerar perceções e indicar a direção, mas os agentes têm como função simplificar ao máximo o processo de execução." Jerry salienta que, embora os agentes atuais ainda não sejam bons em exploração aberta ou em formular hipóteses extremamente precisas, desde que as instruções sejam claras, a sua capacidade de execução é irrepreensível.

"Se conseguirmos reduzir o tempo de uma experiência de um mês para um dia, isso é uma aceleração de 30 vezes." Jerry prevê que, dentro de dois anos, todo o ciclo fechado da investigação em inteligência artificial — desde a geração de ideias até à validação de dados — será totalmente automatizado. Os humanos deixarão de ter um papel decisivo, tal como acontece hoje com os humanos nos torneios de xadrez.

Evitar a competição feroz por capacidade computacional e quebrar o "domínio de uma década" do Transformer

Atualmente, quase todas as grandes empresas líderes competem em capacidade computacional na arquitetura Transformer. Mas, na opinião de Jerry, para os laboratórios emergentes (NeoLabs), seguir cegamente é um desastre.

"Contratar simplesmente um grupo de investigadores e dizer 'vamos treinar modelos Transformer como a OpenAI e a Anthropic e tentar competir com eles' é uma estratégia péssima. É uma batalha perdida."

Ele salienta que, limitadas pelos incentivos económicos e pelos elevados custos de tentativa e erro, as grandes empresas tendem a seguir o caminho mais seguro da escalabilidade. Mas a experiência histórica mostra que qualquer tecnologia em fase inicial sofre mudanças fundamentais. "O gargalo atual para um desenvolvimento e progresso mais rápidos da tecnologia de IA reside precisamente na própria arquitetura, ou seja, no Transformer que usamos há tantos anos."

Porque é que ninguém conseguiu substituir o Transformer na última década? A resposta de Jerry é: o custo de tentativa-erro é demasiado elevado.

No passado, para testar uma nova arquitetura, o código era extremamente difícil de escrever. Mesmo que funcionasse em pequena escala, aumentar a escala exigia aprovações de capacidade computacional muito elevadas e recursos de equipa. Muitas ideias inovadoras foram assim sufocadas no longo atrito burocrático, ou submersas pelo ímpeto existente do Transformer.

Mas agora a situação mudou. "Escrever código tornou-se muito mais barato e fácil, o que pode ser uma forma única de desbloqueio." Com agentes de programação de IA de baixo custo, a Core Automation está a tentar explorar de raiz caminhos de arquitetura que foram abandonados. O seu objetivo "estrela polar" é muito claro: criar modelos de nova arquitetura capazes de aprender em tempo de teste (test time) e de aprender com as interações dos utilizadores.

Primeira revelação dos bastidores do avanço o1/o3: o milagre da aprendizagem por reforço e da capacidade computacional

Como investigador principal da série o (modelos de raciocínio) da OpenAI, Jerry também recordou pela primeira vez, na entrevista, a história por trás deste avanço disruptivo.

Já no início de 2019, Ilya Sutskever descreveu com precisão, numa reunião plenária, o roteiro para a AGI: "Precisamos de treinar um enorme modelo generativo com todos os dados que conseguirmos obter e, depois, precisamos de o treinar com aprendizagem por reforço (RL)."

Embora a direção fosse clara, o caminho de execução foi longo e acidentado. Jerry revela que, quando o GPT-3 começou a ser treinado, a sua primeira reação foi como usá-lo para aprendizagem por reforço. O Codex original foi o resultado experimental da combinação de grandes modelos de linguagem com aprendizagem por reforço. No entanto, limitados pelos dados, algoritmos e configuração experimental, a equipa não conseguiu escalá-lo eficazmente durante muito tempo.

"Essas coisas estavam a desenvolver-se silenciosamente nos bastidores. Durante muito tempo, as tentativas não produziram grandes ganhos."

A viragem veio de um "sinal promissor" e de uma decisão firme da liderança. Quando o modelo finalmente mostrou uma faísca ténue de que poderia funcionar sob aprendizagem por reforço, o cientista-chefe Jakub Pachocki agarrou a oportunidade com perspicácia: "Jerry, agora temos estas GPUs. Vê se conseguimos começar a escalar isto, se conseguimos ampliar e fortalecer os resultados existentes."

Nos laboratórios de IA com escassez de capacidade computacional, o dilema "o ovo ou a galinha" (primeiro os resultados ou primeiro a capacidade computacional) é eterno. Mas foi precisamente a aposta da liderança em "avançar sem medo" na capacidade computacional que incendiou toda a equipa.

"Isto deixou-nos extremamente entusiasmados. Esforçámo-nos três vezes mais para pensar que conjuntos de dados, sistemas e experiências eram necessários para provar que podia ser escalado de forma sustentada. O entusiasmo trouxe resultados experimentais, e os resultados criaram ímpeto." Finalmente, ao aumentar a escala da aprendizagem por reforço em várias ordens de grandeza, os modelos de raciocínio o1 e o3, que abalaram a indústria, foram lançados.

Visão final: "IA empresarial" e a utopia da era pós-trabalho

Ao falar dos futuros produtos da Core Automation, o olhar de Jerry ultrapassa os meros modelos de IA.

"Queremos tornar a nossa empresa na mais automatizada do mundo e usá-la como modelo. Queremos construir algo como um 'cérebro empresarial', concentrando toda a informação da empresa, com os funcionários ligados através de terminais, tornando-se utilizadores de uma IA empresarial."

Quando questionado sobre o futuro da humanidade se todas as empresas, grandes e pequenas, acabarem por ser totalmente automatizadas, Jerry apresentou uma visão filosófica de uma "era pós-trabalho".

As grandes empresas mais burocráticas serão as primeiras a ser automatizadas, e a IA assumirá a transmissão de informação e a otimização de processos. Isto significa que o "trabalho manual" que os humanos foram obrigados a fazer durante cem mil anos para sobreviver chegará gradualmente ao fim. Se as minas puderem funcionar autonomamente para fornecer recursos e o software puder corrigir as suas próprias vulnerabilidades e desenvolver novas funcionalidades, os humanos deixarão de precisar de se forçar a "trabalhar" penosamente para que o mundo funcione.

Mas isto não significa o fim absoluto do trabalho. Jerry acredita que o foco futuro se voltará para o "aumento das capacidades humanas (human augmentation)" e para a busca da grandeza extrema.

"Imagino um pouco um mundo assim: vivemos como os filósofos da Grécia Antiga, reunimo-nos na praça, discutimos filosofia uns com os outros o dia todo, exercitamos o corpo, fazemos o que queremos. Os humanos devem esforçar-se por ser grandes física e espiritualmente, tal como no desporto profissional de hoje, sem razão económica para o fazer, mas esforçamo-nos pela grandeza. Esta é a parte mais importante para nós."

Com o relógio da contagem decrescente de dois anos a avançar, tanto os investigadores de IA como todas as pessoas comuns na onda da economia do conhecimento talvez tenham chegado ao momento de repensar a definição de "trabalho".