Infelizmente, ainda hoje, quando você faz uma busca de
informação na Internet, os resumos gerados por IA que o Google proporciona
continuam sendo pouco confiáveis. Apesar de parecer verdadeiros, devem ser
lidos com muito cuidado.
As alucinações geradas por IA não são um tema novo, mas aqui
vou focalizar nos resumos que o Google pode gerar quando você faz uma pesquisa
no seu buscador on-line.
Esses resumos podem ajudar na obtenção de alguma informação
rápida, mas com demasiada frequência percebo que quando faço uma pesquisa de
algum termo ou assunto específico, as respostas possuem alguma informação que
não é verídica ou correta.
Vou dar um exemplo. Recentemente fiz uma pesquisa rápida
sobre métodos e abordagens no ensino de línguas antes de dar uma aula e o
resumo que apareceu, acompanhado de uma lista, tinha um elemento incorreto.
O perigo está em que diante
dos olhos de um estudante essa mesma informação poderia parecer totalmente correta.
Vou ser muito sincero. Isso me deixa muito preocupado.
Considero que é melhor ter uma informação insuficiente, pois sempre será
possível procurar mais em outras fontes, que o problema que representa que o Google proporcione
uma informação falsa que acreditamos que seja verdadeira.
É verdade que na parte inferior do texto resumo aparece uma advertência
de que a IA é experimental e pode conter erros, mas como o estudante vai
saber que não é verdadeira uma determinada parte dessa informação?
Vocês imaginam um estudante entregando um trabalho solicitado
e ter que dizer que não está bem quando ele acredita que não tem nenhum
problema. No final, não foi gerado pela IA?
Todos já conhecemos alguma notícia de problemas causados em
âmbitos diversos por informações falsas. A causa são as chamadas alucinações da
IA generativa, que considero que são um eufemismo para algo que na realidade é
uma falha nesse tipo de sistemas.
Não quero imaginar a situação hipotética de ter que ir a uma
consulta médica e o médico prescrever uma receita que diga embaixo com letras
miúdas. "Atenção: esta receita pode não ser totalmente
verdadeira."
Vocês permitiriam algo semelhante?
Sei que de fato é uma comparação exagerada, mas com ela
quero incentivar uma reflexão sobre por que deveríamos permitir algo parecido
em alguns campos e em outros não. A educação não é um assunto sério também,
assim como a saúde?
Talvez seja melhor procurar a informação nos livros, na
Wikipédia ou em outras fontes diretamente ou utilizar outros caminhos, mas de
fato, não podemos obviar que a IA generativa já está embarcada em nossos
dispositivos digitais e em quase todo o que fazemos com eles, marcando presença
com um constante chamado para que sejam utilizados para "solucionar nossos
problemas e dessa forma poder ser mais felizes".
"Seu complemento diário" é o slogan de uma IA como
se fosse alguma vitamina. Se vamos por esse caminho, vale lembrar que é verdade
que a falta de vitaminas provoca muitos problemas de saúde, mas seu excesso
também (entenda-se como os problemas que pode causar o uso acrítico das ferramentas com IA generativa). Continuemos.
Nesta mesma semana aconteceu outro caso de informação
parcialmente falsa que me motivou para escrever esta breve reflexão. Eu estava
rascunhando um texto sobre auto-heteroecoformação tecnológica e
precisava ler rapidamente uma obra bem específica para tomar a referência
bibliográfica.
Conheço algo sobre o tema e sei qual obra estava procurando,
mas precisava de novo a referência completa e data, que não lembrava bem. Com esse
objetivo em mente digitei na janela do Google "autoheteroecoformação +
leffa" porque estava procurando os dados de um capítulo de um livro escrito
por Maximina Freire e Vilson Leffa. Como o sobrenome Leffa é muito menos comum que Freire,
optei por digitar o termo específico que procurava + leffa.
O resultado foi como aparece nesta imagem:
Paulo Freire e Antonio Leffa? Como assim? Eles não foram os autores do conceito.O termo auto-heteroecoformação tecnológica foi sugerido primeiro por Maximina Freire em 2009. Ela e Vilson Leffa continuaram desenvolvendo a ideia no texto que eu estava procurando. Deixarei as duas referências no final.
Se não conheço bem o tema e me deixo guiar por essa
informação posso ser prejudicado.
Dessa forma, recomendo, mas uma vez, ter muito cuidado com
as pesquisas que sejam feitas. Parecia que esse tema negativo já tinha acabado
ou pelo menos reduzido, mas não é bem assim.
Como gosto muito de Perplexity decidi fazer a mesma
indagação nele.
Esta imagem mostra a captura de tela com o resultado, mas a indagação completa realizada com essa plataforma pode ser vista aqui.
Bom, pelo menos aqui não inventaram os nomes. A pesquisa não
deu nomes errados para os pesquisadores Freire e Leffa. Algumas referências não
são das melhores, pois para elaborar a explicação sobre o termo utiliza, por
exemplo, uma entrada de um blog, mas de fato, os outros artigos são relevantes.
De qualquer maneira, nos dois exemplos, Google e Perplexity,
sería necessário procurar nas referências dos textos que foram sugeridos para
encontrar o texto que eu estava procurando.
Dessa forma, voltamos para a antiga e imperiosa necessidade
de contribuir no ensino e desenvolvimento em nossos alunos das estratégias de
busca de textos acadêmicos com a qualidade necessária. Por exemplo, mostrar
como fazer pesquisas no Google acadêmico ordenadas por relevância ou por data,
como procurar quem cita quem, etc.
Fica o aviso para docentes e alunos.
Referências
FREIRE, Maximina Maria; LEFFA Vilson. J. A
auto-heteroecoformação tecnológica. In: MOITA LOPES, Luiz Paulo da. (org.).
Linguística Aplicada na Modernidade Recente: Festschrift para Antonieta Celani.
São Paulo: Parábola, 2013, p. 59-78.
FREIRE, Maximina Maria. Formação tecnológica de professores:
problematizando, refletindo, buscando... In: SOTO, Ucy; MAYRINK, Mônica
Ferreira; GREGOLIN, Isadora Valencise (orgs). Linguagem, educação e
virtualidade [online]. São Paulo: Editora UNESP; São Paulo: Cultura Acadêmica,
2009. https://doi.org/10.7476/9788579830174
