Em uma conversa reveladora no Council on Foreign Relations (CFR), Dario Amodei, CEO e cofundador da Anthropic, discutiu os riscos e oportunidades da Inteligência Artificial (IA), oferecendo uma perspectiva única sobre o futuro desta tecnologia transformadora. Amodei, ex-vice-presidente de pesquisa da OpenAI, onde contribuiu para o desenvolvimento do GPT-2 e GPT-3, compartilhou suas motivações para fundar a Anthropic, uma corporação de benefício público focada em uma missão de desenvolvimento responsável da IA. Ele destacou a importância da "escalabilidade responsável" e explorou as implicações da IA para a economia, segurança nacional e o próprio significado de ser humano em um mundo cada vez mais moldado por máquinas inteligentes.
Amodei explicou que a decisão de deixar a OpenAI e criar a Anthropic foi motivada pela necessidade de abordar o desenvolvimento da IA com uma ênfase mais pronunciada na segurança e na responsabilidade. Ele descreveu a "lei de escalonamento" da IA, um fenômeno que observou em seus primeiros trabalhos, onde o aumento do poder computacional e dos dados de treinamento levava a melhorias significativas nas capacidades cognitivas dos modelos de IA. A Anthropic, segundo Amodei, busca liderar o desenvolvimento da IA de forma segura e ética, priorizando a pesquisa em áreas como a "interpretabilidade mecanística", que busca compreender o funcionamento interno dos modelos de IA, e a "IA constitucional", que treina os sistemas de IA para seguirem princípios éticos predefinidos. A empresa também foi pioneira na implementação de uma "política de escalonamento responsável", que define níveis de risco associados à capacidade dos modelos de IA e implementa medidas de segurança correspondentes. Amodei alertou para os perigos potenciais da IA, especialmente no que diz respeito à sua aplicação em áreas sensíveis como armas químicas, biológicas e radiológicas. Ele enfatizou a imprevisibilidade dos modelos de IA e a necessidade de monitoramento constante para identificar e mitigar riscos emergentes.
Amodei comparou os níveis de segurança da IA aos níveis de biossegurança usados para classificar patógenos, com o nível 2 representando riscos comparáveis aos de outras tecnologias e o nível 3 representando riscos significativamente maiores, como a possibilidade de indivíduos não qualificados utilizarem IA para desenvolver armas de destruição em massa. A Anthropic, segundo ele, está se aproximando do desenvolvimento de modelos de nível 3 e está trabalhando em mitigações para garantir sua implantação segura. Amodei defendeu o controle de exportações de chips avançados como uma medida crucial para manter a vantagem dos EUA em IA e impedir que adversários, como a China, alcancem paridade tecnológica. Ele argumentou que, embora a China tenha demonstrado capacidade de inovação com o DeepSeek, o controle de exportações continua sendo essencial para restringir o acesso a chips de última geração e, consequentemente, limitar o desenvolvimento de modelos de IA mais avançados por parte de adversários.
Apesar dos riscos, Amodei expressou otimismo em relação ao potencial da IA para revolucionar áreas como a biologia, saúde e neurociência, prevendo avanços significativos no tratamento de doenças complexas como câncer, Alzheimer e doenças mentais. Ele descreveu um futuro em que a IA poderia acelerar drasticamente o progresso científico, criando o equivalente a "um país de gênios em um data center". No entanto, Amodei também reconheceu as preocupações sobre o impacto da IA no mercado de trabalho. Ele previu que a IA automatizará progressivamente tarefas em diversas indústrias, começando pela programação, onde acredita que a IA em breve escreverá a maior parte do código. Amodei argumentou que, embora a curto prazo a IA possa aumentar a produtividade humana, a longo prazo a sociedade precisará enfrentar a possibilidade de a IA superar os humanos em quase todas as tarefas. Ele defendeu a necessidade de um debate amplo sobre o futuro do trabalho e a redefinição do conceito de "utilidade" em um mundo onde a automação generalizada pode tornar muitos empregos obsoletos. Amodei sugeriu que a sociedade precisará encontrar novas fontes de significado e propósito para os indivíduos, desacoplando a autoestima da capacidade de gerar valor econômico. Ele expressou esperança de que a humanidade possa se adaptar a essa nova realidade, encontrando significado em atividades que não sejam necessariamente definidas por sua utilidade econômica, assim como os jogadores de xadrez continuam a encontrar significado e propósito em seu jogo, mesmo após o advento de computadores capazes de derrotar os melhores jogadores humanos. Amodei concluiu enfatizando a necessidade de conscientização pública sobre as implicações da IA e a importância de políticas públicas que promovam o desenvolvimento responsável e a mitigação de riscos, ao mesmo tempo que aproveitam as oportunidades transformadoras que a IA oferece.
