A Universidade de Zurique tentou fazer ciência, mas pode levar um processo do Reddit. Pesquisadores da Universidade realizaram secretamente um experimento em um dos fóruns mais populares. O objetivo era entender como comentários gerados por IAs podem influenciar a mudança de posicionamento das pessoas.
O experimento foi realizado no subreddit/sub (como são chamados os fóruns do Reddit) r/changemyview (mude minha opinião em tradução livre), um dos mais movimentados na plataforma. Como sugere o nome, o fórum é usado por pessoas para publicar sua opinião sobre algum tema. Outros usuários respondem com argumentos contrários visando mudar o posicionamento do autor.
Como o experimento foi descoberto?
A equipe responsável pela pesquisa contatou a moderação do r/changemyview, que compartilhou o caso no fórum e afirmou que jamais permitiria o experimento. Os pesquisadores também compartilharam um rascunho do artigo com os moderadores. O prompt usado declarava falsamente que os usuários consentiram com a pesquisa.
Porém, os pesquisadores confirmaram aos moderadores que realizaram o experimento secretamente por meses. Em nenhum momento houve transparência com os administradores do fórum, com os participantes e com o próprio Reddit — que possui regras específicas sobre o uso de IA na plataforma.
A escolha do r/changemyview não parece ter sido apenas pela proposta do fórum. O sub possui um sistema de pontuação (Delta System) para que usuários marquem se um comentário ou post mudou a sua opinião.
Um dos moderadores publicou a lista de pontos dados para alguns bots. Os bots com mais Deltas ganharam 12 pontos em quatro meses. Mas também há casos de prodígios, como uma conta falsa que conseguiu 11 Deltas em apenas três meses.
As contas falsas também inventam suas próprias histórias. Havia um bot que se passou por vítima de abuso sexual na infância, outro que se apresentou como um homem preto contra o Black Lives Matter e um bot que se afirmou ser psicólogo especializado em tratamento de traumas de abuso.
Reddit pode processar a Universidade de Zurique
Ben Lee, chefe do departamento jurídico do Reddit, comentou no post do r/changemyview em que o caso foi revelado. O posicionamento de Lee dá a entender que a plataforma buscará medidas legais contra a Universidade de Zurique. Em seu comentário, o chefe do jurídico da rede social diz que a Universidade e a equipe responsável pelo experimento serão contatadas de forma legal.
“Queremos fazer tudo o que pudermos para apoiar a comunidade e garantir que os pesquisadores sejam responsabilizados pelas suas violações [das regras do Reddit]”, disse Lee. A plataforma exige que material criado por IA seja identificado, além de proibir determinados usos de bots e contas falsas.
Os pesquisadores também podem sofrer alguma medida do conselho de ética da Universidade de Zurique, já que mentiram sobre o consentimento dos participantes. O experimento foi autorizado pelo conselho acadêmico.
Além disso, a pesquisa tem uma falha grande: com bots ganhando cada vez mais espaço nas redes, qual a garantia de que as contas falsas da pesquisa não interagiram com mais bots? No fim, todos os Deltas recebidos no experimento podem ter vindo de outros bots.
Com informações de Engadget e NewScientist
