Amodei define "IA poderosa" como um sistema que, em termos de inteligência pura, supera um ganhador do Prêmio Nobel em áreas como biologia, programação, matemática e engenharia. Essa IA não se limita a responder perguntas, mas pode realizar tarefas complexas de forma autônoma, com velocidade muito superior à humana, e interagir com o mundo real através de interfaces como texto, áudio, vídeo e internet.
Essa "nação de gênios em um data center", como Amodei a descreve, pode impulsionar avanços significativos em áreas cruciais para a humanidade:
Amodei reconhece a existência de fatores limitantes para o progresso acelerado da IA, como a velocidade do mundo real, a necessidade de dados, a complexidade inerente de certos problemas e as restrições impostas por leis e pela sociedade. No entanto, ele argumenta que a própria inteligência pode, com o tempo, encontrar maneiras de contornar esses obstáculos.
Ele introduz o conceito de "retornos marginais à inteligência", questionando quanto a inteligência adicional contribui para a resolução de um problema específico. Amodei argumenta que, em áreas como a biologia, os retornos da inteligência para descobertas fundamentais são altíssimos. A IA pode acelerar o ritmo dessas descobertas, impulsionando o progresso de forma exponencial.
Um exemplo notável é o AlphaFold, desenvolvido pelo Google DeepMind, que ganhou o Prêmio Nobel de Química por prever a estrutura 3D de proteínas. Essa descoberta revolucionou a biologia e abriu caminho para novos medicamentos e tratamentos. Amodei acredita que a IA pode multiplicar o ritmo de descobertas como essa, transformando o panorama da saúde e do bem-estar humano em um futuro próximo.
