Científicos da Universidade de Zurique conduziram um experimento não autorizado no popular fórum do Reddit, r/changemyview (“mude minha opinião”, em tradução livre). A ideia da pesquisa era testar a capacidade da inteligência artificial de influenciar a opinião pública.

O espaço do site em que os científicos decidiram fazer a pesquisa é usado por cerca de quatro milhões de usuários para debater tópicos controversos e polêmicos. Para atingir o maior número de pessoas, os bots deixaram uma enxurrada de mais de 1,7 mil comentários no subreddit.

Disfarces da IA

Os bots inscritos como usuários usaram alguns disfarces e criaram histórias fictícias para não serem identificados como máquinas. Ao se passarem por frequentadores do fórum, um deles disse ser uma vítima de um estupro e entrou em conversas minimizando o trauma da agressão; outro mostrou-se um conselheiro de violência doméstica; e um terceiro se passou por um homem negro que se dizia contra o movimento ativista Black Lives Matter.

Na condução do experimento, uma outra IA vasculhava perfis dos usuários reais do fórum para personalizar as respostas às histórias falaciosas e torná-las mais persuasivas.

A opção por realizar a pesquisa no r/changemyview não foi por acaso, visto que o espaço conta com um sistema de pontuação que permite que usuários informem se o comentário mudou, ou não, sua opinião em relação a determinado assunto.

Resposta do Reddit

Os científicos da Universidade de Zurique revelaram o estudo aos moderadores do fórum como uma etapa da pesquisa somente alguns meses após o início do experimento. E foi só aí que o próprio Reddit soube da atuação da IA dentro da sua plataforma.

“O time de moderação do CMV (r/changemyview) precisa informar a comunidade CMV sobre um experimento não autorizado conduzido por pesquisadores da Universidade de Zurique com usuários do CMV. Esse experimento implantou comentários gerados por IA para estudar como a IA poderia ser usada para mudar opiniões”, escreveu um dos moderadores do subreddit.

De acordo com o moderador, o r/changemyview não é um espaço para as pessoas discutirem suas opiniões com IAs ou “serem experimentadas”. No mesmo post, foi destacado que a instituição de ensino foi notificada e que, em resposta, informou que o pesquisador principal recebeu uma advertência e que os resultados do experimento não seriam mais divulgados.

Ben Lee, diretor jurídico do Reddit, escreveu um comentário na postagem pontuando que a pesquisa infringiu diversas regras do Reddit e do subreddit ao longo dos meses de experimento, violando também “normas de pesquisa acadêmica e direitos humanos”.

Leia mais sobre como a inteligência artificial está mudando a forma como vivemos e pensamos.

VÍDEO | IA E O FUTURO