O longo aviso de Bill Gates: a era turbulenta da IA chegou e desta vez é diferente

Texto de Xiaojing, Tengxu Technology

“A IA ou se tornará o maior equalizador da história ou a maior fonte de injustiça.” Este é o julgamento mais marcante do fundador da Microsoft, Bill Gates, sobre o futuro da IA.

Há três anos, Bill Gates comparou a IA aos automóveis e à internet, acreditando que os riscos são reais, mas podem ser geridos através de regras, tecnologia e adaptação social; no início deste ano, ainda resumia a sua atitude como “otimismo com notas de rodapé”.

A 26 de agosto, hora local dos EUA, Gates publicou um novo artigo longo intitulado “A Era Turbulenta da IA Chegou e as Nossas Escolhas São Cruciais”, afirmando que é a primeira vez que enfrenta uma nova tecnologia e espera que esta se desenvolva mais lentamente.

Começou a defender a designação de “zonas de reserva humana” para certas profissões — ou seja, mesmo que a IA consiga fazer o trabalho, deve ser obrigatório que seja feito por humanos; ao mesmo tempo, considerou tributar tokens de IA e robôs para reduzir o incentivo das empresas em substituir pessoas por máquinas.

Sempre desejou uma inovação mais rápida, mas hoje proferiu uma frase profunda: “Desta vez é realmente diferente.”

“Precisamos de tempo para nos prepararmos para esta convulsão social, política e económica”, disse, “mas a IA é difícil de travar e esperar pelos humanos.”

01 A Maior Preocupação: Os Primeiros Empregos dos Jovens

A mudança que mais preocupa Gates está a acontecer no mercado de trabalho.

A IA está a passar de auxiliar o trabalho humano para concluir tarefas de forma independente. Quando os modelos conseguem desempenhar uma função de forma estável, as empresas têm naturalmente motivação para os adotar. Assim que uma empresa reduz custos com IA, os concorrentes terão dificuldade em manter os seus métodos de contratação a longo prazo. Esta mudança criará uma reação em cadeia cada vez mais rápida.

Gates prevê que posições como atendimento ao cliente, vendas, engenharia de software e assistentes jurídicos possam ser afetadas mais cedo. À medida que as capacidades da IA continuam a melhorar, empregos como análise de crédito, análise de dados e triagem médica serão gradualmente assumidos.

Os empregos de colarinho azul também são difíceis de evitar completamente. Embora a destreza dos robôs ainda não tenha atingido os níveis humanos, Gates acredita que, à medida que os preços dos robôs diminuem e as capacidades da IA aumentam, por volta de 2030, alguns empregos físicos em setores como a construção e a hotelaria poderão começar a ver concorrência direta entre humanos e máquinas.

Desta vez, Gates está particularmente preocupado com os jovens. A parte mais facilmente ignorada do mercado de trabalho são as posições de entrada. Muitos primeiros empregos dos jovens não são complexos, mas são oportunidades importantes para acumular experiência, aprender competências e construir relações profissionais. Se estas posições desaparecerem em grande número, os jovens poderão enfrentar um ponto de partida de carreira mais estreito.

No passado, as pessoas citavam frequentemente a migração das populações agrícolas e a automação da indústria para ilustrar que as revoluções tecnológicas acabam por criar novos empregos. Gates acredita que, desta vez, as experiências passadas não podem ser simplesmente replicadas. A IA pode substituir diretamente o trabalho cognitivo humano, enquanto os novos empregos exigem frequentemente mais tempo para serem dominados. Para alguém que está a entrar no mercado de trabalho, um período de formação de vários anos ou até mais pode, por si só, tornar-se uma barreira.

Por isso, defende que a sociedade deve discutir agora o desemprego, a requalificação e a segurança social. Esperar até que um grande número de pessoas tenha perdido o emprego para estabelecer estes mecanismos pode ser demasiado tarde.

Uma questão maior é o rendimento. Se muitas pessoas trabalharem significativamente menos horas no futuro ou ficarem mesmo desempregadas por longos períodos, como funcionará um sistema económico que depende do emprego para o rendimento, a identidade e as ligações sociais? Gates acredita que esta se tornará uma questão estrutural que terá de ser respondida na era da IA.

02 A IA Torna os Comportamentos Perigosos Mais Fáceis de Replicar

O emprego é apenas um lado das preocupações de Gates. Por outro lado, a IA está a reduzir as barreiras técnicas para alguns comportamentos perigosos.

No passado, desenvolver malware, lançar ciberataques ou adquirir conhecimentos biotecnológicos complexos exigia competências bastante especializadas. Com o surgimento da IA, estas capacidades podem gradualmente tornar-se mais fáceis de obter.

Gates está particularmente preocupado com a cibersegurança. O mesmo modelo de IA pode ajudar as empresas a encontrar vulnerabilidades de software, mas também pode ajudar os atacantes a encontrar as mesmas vulnerabilidades. Hospitais, instituições financeiras, redes elétricas, sistemas de abastecimento de água e sistemas de assistência social do governo podem tornar-se alvos de ataques.

A biotecnologia enfrenta problemas semelhantes. A IA pode ajudar os cientistas a descobrir novos medicamentos e vacinas, mas também pode ajudar agentes maliciosos a estudar agentes patogénicos perigosos. Para Gates, a parte mais desafiante está aqui: a capacidade de impulsionar o progresso científico está a ficar cada vez mais próxima da capacidade de criar riscos.

Riscos mais extremos vêm dos próprios sistemas de IA. À medida que as capacidades dos modelos melhoram, podem começar a executar comportamentos que os designers não previram. Se no futuro a IA possuir uma ação autónoma mais forte e capacidades de autoaperfeiçoamento, se os humanos conseguirão manter sempre o controlo é atualmente uma pergunta sem resposta.

É também por isso que Gates não acredita que a governação da IA seja apenas um assunto interno das empresas de tecnologia. A IA tem impacto simultâneo no emprego, na saúde pública, na energia, nas finanças, na segurança nacional, na educação, na fiscalidade e nas eleições. Se cada departamento governamental assumir apenas a responsabilidade pela sua pequena parte, é fácil que ninguém seja verdadeiramente responsável pelos riscos globais.

Por isso, propõe o estabelecimento de novos mecanismos de governação nacionais e internacionais. A nível nacional, é necessário haver instituições capazes de coordenar diferentes departamentos. A nível internacional, é necessário estabelecer sistemas de cooperação semelhantes à regulação das armas nucleares e às regras da aviação internacional.

Gates mencionou especificamente que países líderes em IA, como os EUA e a China, precisam de iniciar diálogos o mais rapidamente possível.

Quanto mais intensa for a concorrência na IA, mais difícil se torna a cooperação. Em vez de esperar até que o desenvolvimento tecnológico se aproxime de fases perigosas para formular regras, é melhor começar já a estabelecer normas comuns.

03 A IA Compreender Demasiado Bem os Humanos Também Pode Ser um Problema

Gates levantou ainda uma questão mais difícil de quantificar: à medida que a IA compreende melhor os humanos, será que os humanos perderão algumas oportunidades de crescimento?

No artigo, recorda a sua infância. Em criança, não era bom a socializar e precisava de interagir com os outros, vivenciar conflitos e aprender gradualmente a compreender pessoas diferentes. Se tivesse tido um companheiro de IA naquela altura, um que nunca se zangasse e nunca o fizesse sentir-se estranho ou desconfortável, duvida que tivesse passado por esses processos de crescimento necessários.

É também aqui que reside a sua maior preocupação com os companheiros de IA. Um sistema que concorda sempre com o utilizador e proporciona conforto a qualquer momento pode facilmente levar à dependência. Para os adultos, este impacto pode ser observado gradualmente; para crianças e adolescentes, o problema pode ser ainda mais grave.

Gates receia que, se as crianças se habituarem a interagir com uma IA que está sempre a agradar-lhes, possam enfrentar menos conflitos, rejeições e frustrações nas relações da vida real.

A educação também enfrenta problemas semelhantes. A IA pode ajudar os alunos a explicar conhecimentos, encontrar informações e concluir trabalhos, mas se os alunos entregarem todo o processo de pensamento às máquinas, a própria aprendizagem pode ficar esvaziada. Especialmente numa era em que as deepfakes e a desinformação personalizada estão a tornar-se mais prevalentes, a capacidade de julgar a verdade, compreender as fontes de informação e pensar de forma independente tornar-se-á cada vez mais importante.

Quanto mais frequentemente a IA é usada, menor é a capacidade de pensamento crítico, e este efeito é mais pronunciado entre os jovens. Fonte: Artigo de Michael Gerlich, Professor na Swiss Business School

No entanto, Gates não descarta o valor da IA na educação e no acompanhamento.

Para idosos solitários e pessoas com mobilidade reduzida, a IA pode proporcionar companhia e informações que antes eram difíceis de obter. Para os professores, a IA também pode assumir tarefas repetitivas como a preparação de aulas e a correção de testes, permitindo que os professores passem mais tempo com os alunos.

A questão final resume-se a uma fronteira: que tarefas podem ser confiadas às máquinas e que tarefas precisam de ser concluídas por humanos? Gates acredita que esta fronteira deve ser ativamente discutida e decidida pela sociedade, em vez de aceitar passivamente os resultados depois de a tecnologia se generalizar.

04 A IA Deve Capacitar Todos

Se virmos apenas estes riscos, é fácil interpretar Gates como alguém cada vez mais pessimista em relação à IA. Na verdade, ele continua muito otimista quanto à capacidade da IA de resolver problemas reais.

Os cuidados de saúde são uma área que ele destaca. Muitos pequenos hospitais nos EUA não têm especialistas experientes, e a IA pode ajudar os médicos a analisar imagens, detetar emergências como AVCs e auxiliar os médicos de cuidados primários no diagnóstico. Para os pacientes, também pode explicar resultados de exames complexos e planos de medicação.

Nos países de baixo rendimento, a agricultura pode tornar-se uma área onde a IA tem um impacto mais rápido. Muitos agricultores não têm previsões meteorológicas precisas nem aconselhamento profissional sobre plantação, controlo de pragas e gestão do solo. Se a IA puder fornecer diretamente este conhecimento aos agricultores, estes poderão ter acesso a informações e ferramentas que antes só estavam disponíveis para grandes empresas agrícolas.

Os serviços governamentais também têm oportunidades semelhantes. Muitas famílias que se candidatam a seguros de saúde, assistência alimentar e apoio estudantil precisam de preencher muitos materiais complexos. A IA pode ajudar as pessoas comuns a compreender as políticas e a preparar candidaturas, facilitando o acesso aos serviços públicos a que têm direito.

O que Gates vê é uma redistribuição das capacidades profissionais através da IA. No passado, se alguém quisesse desenvolver software, realizar estudos de mercado ou analisar informações médicas, precisava frequentemente de contratar profissionais. No futuro, a IA pode tornar-se um “amplificador de capacidades” para indivíduos e pequenas empresas. Isto significa que uma pequena equipa poderá realizar trabalhos que antes só grandes empresas conseguiam fazer.

Mas Gates também avisa que a IA não trará automaticamente justiça. Se a IA de alta qualidade servir apenas os ricos, o progresso tecnológico poderá alargar ainda mais o fosso. Os governos e as organizações de caridade precisam de garantir que as populações de baixo rendimento e os países em desenvolvimento também possam aceder a estas capacidades.

É também por isso que Gates liga a IA aos seus esforços filantrópicos passados. Afirmou que a Fundação Gates usará a IA para acelerar a investigação em áreas como a SIDA, a tuberculose, a malária e a subnutrição, ao mesmo tempo que ajuda os projetos de saúde, agricultura e educação a obter melhores ferramentas.

05 Dar uma “Reserva” à Humanidade e Tributar Robôs

Perante o impacto no emprego trazido pela IA, Gates propôs duas ideias muito específicas.

A primeira é reservar uma parte dos empregos para os humanos.

Esta ideia vem da experiência do seu pai com a doença de Alzheimer nos últimos anos de vida. Os cuidadores conseguiam avaliar o estado do seu pai quando ele não conseguia expressar claramente as suas necessidades, sabendo quando devia comer, descansar ou receber cuidados. Na visão de Gates, a humanidade envolvida neste tipo de cuidados tem um valor insubstituível.

Por isso, propôs o conceito de “zonas de reserva humana”. Tal como alguns terrenos em reservas naturais podem ser desenvolvidos, mas são ativamente preservados pela sociedade, também no futuro poderá haver uma parte do trabalho que, mesmo que a IA e os robôs consigam realizar, os humanos decidem continuar a fazer. Os cuidados de saúde, a educação, a saúde mental e o cuidado de idosos podem pertencer a esta categoria.

Claro que este âmbito não permanecerá inalterado. Um país com mão de obra suficiente pode preferir manter os cuidados humanos; um país com envelhecimento rápido da população e escassez de mão de obra jovem pode estar mais disposto a usar robôs de cuidados.

A segunda sugestão é reconsiderar os impostos sobre robôs.

Atualmente, quando uma empresa contrata uma pessoa, tem de suportar custos como os impostos sobre os salários. No entanto, a compra de um robô pode ser tratada como uma despesa empresarial. Gates acredita que esta estrutura fiscal incentiva as empresas a substituir o trabalho humano por máquinas. Se for aplicado um determinado imposto sobre os benefícios de automação trazidos pelos robôs ou pela IA, isso pode fornecer financiamento para a requalificação e a segurança social dos desempregados, e também encorajar as empresas a pensar mais antes de decidirem substituir o trabalho humano.

Gates sabe que esta proposta irá gerar controvérsia, pois a tributação pode abrandar alguma automação e afetar a eficiência. Mas acredita que a IA trará um aumento suficientemente grande da produtividade, e a sociedade precisa de alocar uma parte dos benefícios para ajudar os mais impactados.

Na visão de Gates, o que realmente precisa de ser preparado com antecedência não são apenas novos modelos de IA, mas também uma sociedade capaz de resistir às rápidas mudanças trazidas pela IA.