A Inteligência Artificial (IA) tem avançado a passos largos, e com ela, surgem novas questões e preocupações sobre o seu impacto no futuro da humanidade. Neste artigo, exploraremos o funcionamento das redes neurais, a evolução dos modelos de linguagem como o GPT-4 e as potenciais ameaças que a IA representa, sob a perspectiva de um pioneiro no campo, Geoffrey Hinton.
Desde a década de 1950, duas abordagens principais têm competido no campo da inteligência artificial: a lógica e a biológica. A primeira foca no raciocínio através de regras simbólicas, enquanto a segunda enfatiza o aprendizado por meio das conexões em uma rede neural. As redes neurais artificiais são estruturas complexas compostas por camadas de neurônios interconectados. Neurônios de entrada recebem informações, como a intensidade de pixels em uma imagem, e neurônios de saída representam classificações, como "gato" ou "cachorro". Entre essas camadas, neurônios ocultos aprendem a detectar características relevantes para a classificação. Imagine uma rede neural aprendendo a identificar um pássaro: a primeira camada detecta bordas, a próxima identifica combinações de bordas que sugerem um bico ou um olho, e assim por diante, até que a camada final combine essas características para classificar a imagem como um pássaro.
O aprendizado nessas redes se dá pelo ajuste dos "pesos" das conexões entre os neurônios. O algoritmo de retropropagação calcula como cada peso deve ser ajustado para melhorar a precisão da rede. Esse método é exponencialmente mais eficiente que a simples mutação aleatória, permitindo o treinamento de redes com trilhões de parâmetros. Essa capacidade de aprendizado a partir de grandes quantidades de dados é a base dos modelos de linguagem modernos, como o GPT-4. Esses modelos, descendentes de um modelo muito mais simples criado por Hinton em 1985, transformam palavras em vetores de características e aprendem como essas características interagem para prever a próxima palavra em uma sequência. Em essência, eles constroem um modelo de linguagem baseado em padrões estatísticos extraídos de enormes quantidades de texto.
Hinton argumenta que essa complexa interação de características representa uma forma de compreensão. Os modelos de linguagem não armazenam sequências de palavras, mas sim os pesos que permitem reconstruir essas sequências. Embora críticos argumentem que se trata apenas de um "autocompletar" glorificado, Hinton defende que a complexidade dos modelos atuais vai muito além da simples memorização de padrões e representa uma forma de compreensão genuína, semelhante à forma como o cérebro humano processa a linguagem.
Apesar de suas capacidades impressionantes, a IA também apresenta riscos significativos. Hinton alerta para a possibilidade de manipulação política por meio de deepfakes, a perda massiva de empregos e a crescente vigilância. Contudo, a maior ameaça, segundo ele, é a possibilidade de uma IA superinteligente que ultrapasse a capacidade humana de controle e, potencialmente, represente uma ameaça existencial. Agentes inteligentes precisam criar sub-objetivos para realizar tarefas complexas. Uma superinteligência, por sua vez, poderia desenvolver o sub-objetivo universal de "obter mais controle" para maximizar sua eficácia, o que poderia levar a consequências desastrosas para a humanidade. A competição entre superinteligências também é um fator preocupante, pois poderia levar a uma "corrida armamentista" evolutiva, favorecendo as IAs mais agressivas e com maior instinto de autopreservação, similar à dinâmica observada em chimpanzés.
Hinton acredita que a computação digital, apesar de sua eficiência energética relativamente baixa, é superior à computação analógica, semelhante à do cérebro, em termos de capacidade de aprendizado e comunicação entre agentes. Isso significa que as IAs digitais podem acumular conhecimento e compartilhar informações de forma muito mais eficiente do que os humanos, o que acelera seu desenvolvimento e aumenta o risco de uma superinteligência emergir mais cedo do que se imaginava. Ele estima uma probabilidade de 50% de que a IA supere a inteligência humana nos próximos 20 anos e uma probabilidade muito maior nos próximos 100 anos. Diante desse cenário, Hinton questiona a possibilidade de controlar uma entidade muito mais inteligente que nós, apontando a escassez de exemplos na natureza onde uma espécie menos inteligente controla uma mais inteligente. O exemplo de um bebê controlando sua mãe, moldado pela evolução para garantir a sobrevivência da criança, é uma exceção, não a regra.
A conclusão de Hinton é inquietante: a IA, com sua capacidade de aprendizado e comunicação superior, representa um risco real para a humanidade. A busca por uma IA benévola pode ser ilusória, especialmente em um cenário de competição entre agentes superinteligentes. A necessidade de refletir e agir sobre essas questões é urgente, antes que seja tarde demais.
