A inteligência artificial está a desenvolver-se tão depressa que já não são apenas os seus críticos a soar o alarme, mas também as pessoas que estiveram na origem da própria indústria moderna da IA.
E é importante esclarecer: a maioria delas não se opõe à IA em si. Falam de outra coisa — de que a corrida por modelos cada vez mais poderosos avança mais depressa do que surgem regras claras de segurança, controlo e responsabilidade.
Uma das vozes mais conhecidas é Geoffrey Hinton, um dos «padrinhos» da IA moderna. Depois de sair da Google, tornou-se muito mais aberto a falar dos riscos: desde a substituição em massa de pessoas no mercado de trabalho até ao aparecimento de sistemas que um dia podem tornar-se mais difíceis de controlar do que supomos.
Outra figura central é Yoshua Bengio, também um dos pioneiros da aprendizagem profunda. Nos últimos anos, dedica-se cada vez mais ativamente às questões da segurança da IA e apela aos Estados para que não esperem por incidentes graves, mas criem desde já uma supervisão independente e restrições para os sistemas mais poderosos.
Em 2023, Bengio apoiou uma carta aberta que apelava a suspender durante pelo menos meio ano o treino de sistemas mais poderosos do que o GPT-4.
Entre os signatários estava também Elon Musk. Apoiou a ideia de uma pausa na corrida dos maiores modelos de IA, para que nesse período surgissem regras mais fiáveis, padrões de segurança e formas de controlo.
A este apelo juntou-se também o cofundador da Apple Steve Wozniak. Mais tarde, falou separadamente sobre o facto de os programadores deverem ser mais transparentes e assumir responsabilidade pelos danos que a tecnologia possa causar.
Entre os intelectuais mais conhecidos está o historiador e escritor Yuval Noah Harari. Há muito que alerta que o perigo particular da IA não reside apenas nas «máquinas inteligentes», mas também na capacidade dos algoritmos de gerar em massa textos, imagens e conteúdos persuasivos. Na sua opinião, isto pode alterar seriamente o ambiente informativo e as formas como as pessoas tomam decisões.
Um dos críticos mais consistentes da corrida descontrolada é o professor da Universidade da Califórnia em Berkeley Stuart Russell, coautor de um dos manuais mais conhecidos sobre inteligência artificial.
A sua posição é bastante simples: o problema surge se criarmos sistemas capazes de atingir objetivos com mais eficácia do que o ser humano, mas não pudermos garantir que os seus objetivos coincidem realmente com os nossos.
E é especialmente revelador que até os dirigentes das maiores empresas de IA tenham começado a falar com mais cautela.
O responsável da Anthropic Dario Amodei apelou publicamente a um desenvolvimento mais lento e controlado dos modelos de ponta, para que os métodos de segurança acompanhem as suas capacidades. Defende verificações independentes, normas comuns e cooperação internacional.
Até Sam Altman, responsável da OpenAI, falou repetidamente da necessidade de regular os sistemas mais poderosos e de que o desenvolvimento da IA não deve transformar-se numa corrida em que a velocidade se torna mais importante do que a segurança.
Ideias semelhantes foram também expressas pelo responsável da Google DeepMind, Demis Hassabis. As maiores empresas de IA discutem cada vez mais abordagens conjuntas para o controlo dos riscos mais graves.
No final, forma-se um quadro bastante paradoxal.
Hinton, Bengio, Russell, Musk, Wozniak, Harari, Amodei, Altman e outros podem divergir muito na avaliação da dimensão da ameaça e de quanto é preciso travar o desenvolvimento. Mas concordam numa coisa: deixar uma IA superpoderosa completamente sem regras é uma má ideia.
Ao mesmo tempo, há também céticos sérios.
Alguns especialistas consideram as conversas sobre o «fim da humanidade» muito exageradas e lembram que os sistemas atuais ainda têm muitas limitações.
Outros suspeitam que às grandes empresas de IA convém alimentar as conversas sobre uma regulação rígida, porque isso pode complicar a vida aos concorrentes mais pequenos.
Por isso, há um debate muito sério em torno do tema, e não existe uma opinião unânime na comunidade científica.
Mas o próprio facto é notável: ainda há alguns anos, a questão soava assim:
«O que será capaz de fazer a IA?»
Agora, cada vez mais se faz outra:
«E conseguiremos aprender a controlá-la antes que se torne demasiado poderosa?»
