A Inteligência Artificial (IA) generativa tem se popularizado rapidamente, trazendo consigo um leque de possibilidades para a educação profissional. No entanto, seu uso também levanta questões éticas importantes que precisam ser discutidas e analisadas. Esta discussão se torna ainda mais relevante quando consideramos a criação de imagens e textos, e como a IA pode reproduzir vieses e preconceitos existentes em seus bancos de dados. A dificuldade em identificar conteúdo gerado por IA, a possibilidade de uso indevido e a perpetuação de estereótipos são apenas alguns dos desafios que precisamos enfrentar.
Ferramentas como Midjourney e DALL-E 2 permitem a criação de imagens incrivelmente realistas a partir de comandos de texto. À primeira vista, essas imagens podem facilmente passar por fotografias reais, dificultando a distinção entre o que é real e o que é sintético. Embora impressionante, essa capacidade levanta preocupações sobre a autenticidade e a veracidade da informação visual. Imagine a possibilidade de criar imagens falsas para ilustrar notícias, campanhas publicitárias ou até mesmo provas em processos judiciais. A linha entre a realidade e a ficção se torna tênue, exigindo de nós um olhar mais crítico e atento para a procedência das imagens que consumimos.
Outro ponto importante é a origem dos dados utilizados para treinar essas IAs. Geralmente, são utilizadas vastas bases de dados de imagens disponíveis na internet, muitas vezes coletadas sem a devida autorização ou consideração pelos direitos autorais. A combinação de pixels de diversas imagens para criar uma nova imagem levanta questões sobre a propriedade intelectual e o direito de uso dessas imagens geradas.
Assim como na geração de imagens, a IA também possibilita a criação de textos originais a partir de comandos simples. O ChatGPT, por exemplo, pode gerar textos sobre diversos assuntos, desde redações escolares até artigos científicos. Apesar da originalidade das frases geradas, a velocidade e a facilidade com que esses textos são criados levantam suspeitas sobre a possibilidade de plágio. No entanto, como demonstrado na transcrição, a busca por trechos desses textos na internet não retorna resultados, justamente porque se tratam de combinações originais de informações. Essa característica dificulta a detecção de textos gerados por IA, tornando a questão da autoria e da propriedade intelectual ainda mais complexa no contexto educacional.
A inexistência de ferramentas confiáveis para detectar textos produzidos por IA agrava o problema. Diversos detectores são oferecidos online, mas sua eficácia é questionável, gerando resultados inconsistentes e muitas vezes incorretos. Essa falta de precisão dificulta a avaliação da originalidade dos trabalhos acadêmicos e a identificação de possíveis usos indevidos da IA na produção de conteúdo.
Um dos aspectos mais preocupantes da IA generativa é a sua capacidade de reproduzir vieses e preconceitos presentes nos dados utilizados para seu treinamento. Como vimos na transcrição, ao solicitar a criação de imagens de determinados grupos sociais, a IA pode gerar representações estereotipadas e até mesmo pejorativas. Isso ocorre porque a IA aprende com os padrões existentes nos dados, e se esses dados refletem preconceitos da sociedade, a IA inevitavelmente os reproduzirá em suas criações. No contexto da educação profissional, essa reprodução de vieses pode perpetuar desigualdades e reforçar estereótipos, prejudicando a inclusão e a diversidade.
A transcrição exemplifica esse problema ao mostrar como a IA representou um estudante indígena brasileiro de forma caricata e um homem idoso estudando no Brasil em um contexto de extrema pobreza. Essas representações distorcidas refletem os vieses presentes nos dados de treinamento da IA e demonstram a necessidade de um olhar crítico e cuidadoso sobre as imagens e textos gerados por essas ferramentas. A ética no uso da IA generativa na educação profissional exige que estejamos atentos a esses vieses e que busquemos formas de mitigá-los, promovendo a inclusão e a representatividade em nossas práticas educacionais.
