#Farol de Notícias (Atualidades científicas que foram destaque na semana)
As alucinações de inteligências artificiais (IA) generativas representam uma grande ameaça para a ciência
Um estudo recente conduzido pela Universidade de Oxford revela uma preocupante ameaça no cenário científico e tecnológico: as alucinações geradas por inteligências artificiais (IAs) generativas. Essas alucinações, segundo o estudo, representam um perigo real, alertando para a ingenuidade dos usuários diante das informações fornecidas por esses modelos, por fim, os autores destacam os riscos que isso pode acarretar no futuro.
O termo “alucinação” neste contexto refere-se ao momento em que as IAs apresentam informações imprecisas ou totalmente enganosas. Isso pode acontecer principalmente quando se solicitam informações aprofundadas de uma extensa base de dados e receber respostas que, embora pareçam coerentes, podem ser completamente falsas. Isso é mais comum do que se imagina, especialmente quando as informações solicitadas são complexas.
O professor Brent Mittelstadt, coautor do estudo, salienta que as pessoas que interagem com esses modelos de linguagem frequentemente atribuem características humanas a essas IAs, confiando nelas como fontes de informação comparáveis às humanas. Isso cria uma situação em que os usuários podem facilmente ser persuadidos a acreditar na precisão das respostas, mesmo quando estas carecem de base factual ou apresentam uma visão tendenciosa da verdade.
As alucinações das IAs são exacerbadas pela maneira como esses sistemas se comunicam: com textos coesos, acessíveis e semelhantes ao discurso humano. Em outras palavras, são frases que fazem sentido e não parecem confusas, portanto, o usuário tende a não desconfiar da sua veracidade. O estudo destaca que os modelos muitas vezes emitem informações com confiança, mesmo quando não há fundamento na veracidade das informações fornecidas.
Essa conjunção de fatores representa uma ameaça significativa para a divulgação científica e a educação. Além de serem veículos de informações imprecisas acessíveis a qualquer pessoa, as IAs generativas também são cada vez mais utilizadas como tradutores de conteúdo pela comunidade científica.
Os pesquisadores de Oxford ressaltam que, embora os modelos de linguagem sejam ferramentas valiosas no fluxo de trabalho científico, é imperativo que os usuários as utilizem com responsabilidade, cientes de suas limitações. A confiança indiscriminada nessas IAs pode comprometer a integridade das informações científicas, destacando a necessidade urgente de uma abordagem consciente e informada ao interagir com essas tecnologias inovadoras.
Colaboração:
Jéssica de Moura Soares sobre a autora
Jéssica de Moura Soares é bacharel em Biotecnologia pela Universidade Federal do Ceará (UFC), Mestre e agora doutoranda em Bioquímica pela Universidade de São Paulo (USP). Se interessa por iniciativas onde a ciência ajuda a transformar o mundo em um lugar mais sustentável e igualitário. Entusiasta da divulgação científica, acredita que a ciência tem que ser de fácil acesso a todos.
Fontes e mais informações sobre o tema:
Matéria no site TecMundo, intitulada “Alucinações de IAs representam perigo real para a ciência”, publicada em 21/11/23. https://www.tecmundo.com.br/software/274031-alucinacoes-ias-representam-perigo-real-ciencia.htm
