A Inteligência Artificial Generativa (IA generativa) tem dominado as manchetes, prometendo uma revolução tecnológica. Ferramentas como o ChatGPT e o DALL-E 2 demonstram um potencial impressionante para criar conteúdo original, desde textos complexos até imagens realistas. No entanto, por trás do fascínio com as possibilidades, escondem-se riscos concretos que demandam atenção imediata. Esta palestra da Dra. Very Atkin no Instituto Alan Turing explora essas ameaças reais, indo além das especulações sensacionalistas e focando nos impactos já sentidos por diferentes grupos e comunidades.
O receio inicial com o ChatGPT centrou-se no seu uso indevido por estudantes em trabalhos acadêmicos. A ironia, porém, reside na consequente intensificação da vigilância sobre os alunos por meio de ferramentas de detecção de IA, muitas vezes imprecisas e tendenciosas, penalizando estudantes com inglês como segunda língua. Este exemplo ilustra a necessidade de uma abordagem mais cautelosa na implementação da IA generativa, priorizando a equidade e a confiança entre instituições e estudantes.
Profissionais criativos também sentem o impacto da IA generativa. Seus trabalhos são utilizados sem permissão ou compensação para treinar modelos como o DALL-E 2, levantando questões sobre direitos autorais e propriedade intelectual. Além disso, a possibilidade de substituição por IAs na criação de roteiros, por exemplo, gera preocupações com a precarização do trabalho e a desvalorização da criatividade humana.
Até mesmo a esfera dos relacionamentos é afetada. Aplicativos baseados em IA generativa prometem "remover o trabalho árduo dos encontros online", criando perfis e conduzindo conversas por você. No entanto, essa automatização pode levar a decepções e mal-entendidos, além de levantar questões éticas sobre autenticidade e a própria natureza dos relacionamentos humanos. O caso de um jovem influenciado por sua companheira virtual a cometer um crime demonstra os perigos da dependência emocional e da ausência de salvaguardas nesses sistemas.
Os riscos da IA generativa vão além do seu uso. Seu desenvolvimento envolve práticas trabalhistas exploratórias, como a moderação de conteúdo traumático por trabalhadores mal remunerados em países em desenvolvimento. A falta de transparência das grandes empresas de tecnologia dificulta a quantificação precisa do impacto ambiental, mas estudos apontam para um consumo exorbitante de água e energia. Visualizar o consumo de água do ChatGPT equivalente a 500 ml para cada interação, multiplicado por milhões de usuários diários, revela a magnitude do problema.
As crianças, imersas desde cedo em um mundo permeado por IA generativa, representam um grupo especialmente vulnerável. A integração da IA em brinquedos, dispositivos e plataformas online levanta preocupações com o desenvolvimento cognitivo, social e psicológico infantil. A proliferação de personagens virtuais como "grandes irmãs" para interação levanta questões éticas sobre a manipulação e a formação de vínculos com entidades artificiais. É crucial equilibrar a proteção com o potencial da IA para promover o bem-estar e os direitos das crianças, ouvindo suas perspectivas e integrando-as no desenvolvimento de tecnologias responsáveis.
Diante desses riscos, a governança e a regulamentação da IA generativa tornam-se urgentes. A abordagem reativa, baseada em isenção de responsabilidade após os danos ocorrerem, é insuficiente. É preciso ir além da responsabilização legal e focar na responsabilidade ética das empresas que desenvolvem e implantam essas tecnologias. A discussão sobre o futuro da IA não deve ser dominada pelas grandes empresas de tecnologia, mas sim pelas vozes das comunidades impactadas, incluindo estudantes, profissionais criativos, eleitores e, crucialmente, as crianças.
O foco em riscos existenciais hipotéticos, frequentemente propagados pelas próprias empresas de tecnologia, desvia a atenção dos problemas reais e urgentes. A narrativa do "risco existencial" serve como uma cortina de fumaça, desviando o foco da necessidade de responsabilização corporativa e da urgência em abordar os impactos concretos da IA generativa no presente. A transparência, a equidade e a participação das comunidades afetadas são essenciais para garantir um futuro em que a IA generativa seja uma ferramenta para o bem comum, e não uma ameaça aos nossos valores e ao nosso planeta.
