Precisamos administrar a revolução da IA

Em minhas duas últimas colunas, argumentei que a IA (inteligência artificial) traz tanto oportunidades quanto grandes perigos, alguns até existenciais. Essa tecnologia transformadora também ameaça valores fundamentais, incluindo a responsabilização pessoal e institucional, o Estado de Direito, a democracia e até mesmo o que significa ser humano.

Além disso, será difícil regular a IA com sucesso, não apenas porque seu impacto será generalizado, mas porque o progresso está sendo impulsionado por uma competição acirrada entre empresas e entre os Estados Unidos e a China.

Notavelmente, uma publicação recente da Anthropic afirma que "estamos delegando uma parcela crescente do desenvolvimento de IA aos próprios sistemas de IA... Levada longe o suficiente, e com poder computacional suficiente, essa tendência aponta para um sistema de IA capaz de... projetar e desenvolver autonomamente seu próprio sucessor".

A publicação então afirma que "se fosse possível... desacelerar o desenvolvimento dessa tecnologia, para nos dar mais tempo para lidar com suas imensas implicações, achamos que isso provavelmente seria uma coisa boa". Se até a Anthropic, uma líder em IA, tem medo do que está por vir, os temores do resto de nós, especialmente dos jovens, só podem ser reforçados.

Grande parte dessa preocupação politicamente relevante diz respeito ao lado negativo do desemprego em relação ao suposto lado positivo da produtividade. Mas a velocidade e a escala da transformação que a IA produzirá são desconhecidas. Meu colega John Burn-Murdoch observou recentemente, por exemplo, que o aumento na oferta de aplicativos gerados por IA não levou a um aumento correspondente em seu uso. Também gerou um salto maior na produção nos estágios iniciais do desenvolvimento de software do que nos produtos finais.

Novamente, uma visão geral do impacto da IA no emprego divulgada pela OIT (Organização Internacional do Trabalho) no ano passado concluiu que, globalmente, um em cada quatro trabalhadores está em uma ocupação com alguma exposição à IA generativa. Mas também acrescenta que "apenas 3,3% do emprego global se enquadra na categoria de maior exposição". Isso não parece uma disrupção enorme.

Além disso, no passado, houve longos intervalos entre grandes inovações (a eletricidade, por exemplo) e maior produtividade. Como Paul Krugman escreve, o crescimento da produtividade foi menor durante a era digital do que após a Segunda Guerra Mundial, um período sem tais avanços revolucionários.

No extremo oposto do debate, Vinod Khosla, um experiente investidor em tecnologia, afirma no FT que "tenho certeza de que a IA fará 80% do trabalho economicamente valioso que os humanos fazem hoje, em 80% de todos os empregos, mais rápido do que a maioria acredita. A questão não é se o subemprego em massa chegará na próxima década, mas se teremos uma estrutura política coerente pronta quando isso acontecer".

O ceticismo sobre a velocidade e a escala do impacto da IA é justificado. Mas Khosla está certo: precisamos nos preparar. A civilização pode não sobreviver aos choques existenciais e às disrupções econômicas que a IA ameaça. A incerteza justifica prontidão, não complacência.

Então, o que prontidão deve significar?

Primeiro, precisamos estar preparados para um mundo em que as máquinas tomarão decisões importantes e, em alguns casos —notadamente os de guerra e pesquisa biológica— com enormes consequências. Em última análise, os humanos precisam ser responsabilizados por essas decisões, como programadores de IA, gestores das empresas que a vendem e tomadores de decisão nas instituições que a utilizam.

Ao contrário da visão do presidente argentino Javier Milei, a IA não deve administrar instituições sem responsabilização de pessoas. Proprietários, gestores e funcionários devem estar sujeitos a penalidades criminais e civis por danos causados pela IA.

Segundo, não podemos confiar no senso moral e na autocontenção dos criadores de IA. Já tivemos uma experiência terrível com as redes sociais. Como observei: "Disseminar mentiras e fraudes pode ser um bom negócio. Pior, disseminar publicações que tornam a vida das pessoas insuportável pode ser um bom negócio... A inteligência artificial parece propensa a piorar nossa situação coletiva ao criar fraudes 'perfeitas' de todos os tipos".

A Anthropic pode querer desacelerar o ritmo. Mas está em uma corrida: não pode controlar o que seus concorrentes fazem. Não permitimos que empresas farmacêuticas lancem medicamentos que não passaram por um regime de testes adequado por uma razão muito boa. Algo semelhante deveria se aplicar a novos softwares de IA. Além disso, em um negócio competitivo, tais regimes também precisam se aplicar globalmente.

Terceiro, é por isso que os regimes não podem ser apenas nacionais. Deve haver um acordo global sobre como a IA será testada e controlada e como a responsabilidade por danos será imposta. A UE, ao que parece, está mais uma vez desempenhando o papel de reguladora de primeira (ou última) instância. Isso pode não ser uma coisa tão ruim.

Pessoas ao redor do mundo até confiam na UE para ser uma reguladora melhor do que os EUA ou a China, provavelmente porque acreditam que ela será menos capturada por interesses empresariais ou pelo desejo de usar a IA como arma. Mas, idealmente, a China e os EUA deveriam ser as pedras angulares de qualquer acordo. A IA é arriscada demais para que todos a desenvolvam sem controle.

Por último e particularmente importante, há uma boa chance de que a IA, com o tempo, devaste o mercado de trabalho, aumente a desigualdade e crie uma concentração extraordinária de poder econômico —e, portanto, político— nas mãos de um número ínfimo de empresas e pessoas. Se somarmos isso às muitas outras ameaças que a tecnologia representa, confrontamos um enorme risco de uma derrubada autocrática da democracia.

Na verdade, isso já está acontecendo. Aqueles que desejam ver a sobrevivência do governo do povo, para o povo e pelo povo devem tentar impedir isso. A implicação mais óbvia é que uma boa parte da renda e da riqueza aumentadas deve ser compartilhada. O momento de se preparar para isso é agora. Se não agirmos, será tarde demais.