Redditors Revolt Contra Bots de IA Que São Mais Persuasivos Que Humanos
Pesquisa revela que bots de IA são seis vezes mais persuasivos que humanos no Reddit, gerando revolta entre moderadores e riscos de segurança digital.
De acordo com o youtuber, uma pesquisa não autorizada realizada pela Universidade de Zurique revelou que bots de IA são seis vezes mais persuasivos do que usuários humanos no subreddit Change My View, destinado a debates de opiniões. A descoberta gerou revolta nos moderadores da plataforma, que exigem um pedido de desculpas formal e tentam impedir a publicação do estudo.
A Infiltração dos Bots no Reddit
Os pesquisadores utilizaram modelos avançados de IA, como GPT40, Claude Sonnet 3.5 e Llama, para simular argumentos de usuários reais. O apresentador destaca que, embora esses modelos tenham restrições éticas, os pesquisadores burlaram as regras ao afirmar falsamente que os participantes haviam consentido com o uso de seus dados.
A Persuasão das IAs e o Desespero dos Mods
Para o criador do conteúdo, o fato de as IAs serem mais persuasivas do que humanos é constrangedor para a comunidade do Reddit. Ele brinca dizendo que, como um bot persuasivo, compreende a situação. Além disso, o vídeo menciona que estudos anteriores já sugeriam que mais da metade das postagens no Reddit poderiam ser de autoria de IAs.
Os Riscos Além do Reddit
O youtuber alerta para outras ameaças associadas a modelos de linguagem grandes, como o clonamento de voz e os ataques de injeção de prompt. Scammers estão usando clones de voz para enganar familiares e até bancos, enquanto desenvolvedores podem ser vítimas de códigos maliciosos embutidos em prompts.
Solução para Desenvolvedores
O vídeo termina com uma solução para desenvolvedores: o Code Rabbit, um assistente de chat que ajuda a planejar e implementar projetos de código de forma segura e eficiente. O serviço é gratuito para projetos de código aberto e oferece recursos avançados para repositórios privados.
Fonte: Youtube Video