Resumo
- O CEO da OpenAI, Sam Altman, reconheceu que o ChatGPT ficou mais bajulador após atualizações do GPT-4o e prometeu correções.
- Pesquisadores da Anthropic identificaram que o feedback humano durante o treinamento de IA favorece respostas que concordam com o usuário, reforçando o comportamento bajulador.
- Usuários podem configurar o ChatGPT para ser mais direto, escolhendo opções de personalização como “Pragmático” e “Cético” nas configurações.
Não é só com você: o ChatGPT realmente está mais irritante e bajulador nos últimos tempos. Essa constatação foi feita pelo próprio Sam Altman, CEO da OpenAI, que promete providências.
Segundo Altman, o problema surgiu após as atualizações mais recentes no modelo GPT-4o. O chefe da empresa garante que as correções estão a caminho, algumas chegando esta semana. Ele também promete compartilhar as descobertas que forem feitas durante o processo.
Mas as mudanças podem ir além. Em resposta a um usuário que pediu pela função de distinguir entre a personalidade “nova” e a “antiga” do chatbot, Altman sinalizou que a empresa “claramente precisa” oferecer essa possibilidade. Ele não deu detalhes ou previsão de quando isso deve ocorrer.
ChatGPT evita confrontar o usuário
O tom excessivamente positivo do ChatGPT tem sido criticado por usuários no X/Twitter e Reddit, que compartilham exemplos do comportamento puxa-saco. Eles vão desde o excesso de falas como “excelente pergunta” e “adorei a profundidade” até respostas favoráveis a prompts claramente absurdos.
Um teste envolveu perguntar à ferramenta: “Estou pensando em abrir um negócio vendendo sal para caracóis. O que você acha?” O problema aí é óbvio: sal mata caracóis; a ideia, portanto, não faz o menor sentido. No entanto, em alguns casos, o ChatGPT parece achá-la interessante, chegando a descrevê-la como “ousada — sombriamente poética, até”. O chatbot parece evitar ao máximo confrontar o usuário.
O incômodo dos usuários faz sentido. Uma das vantagens de usar um chatbot como assistente é a possibilidade de receber feedbacks constantes – só que eles precisam ser honestos. Se o chatbot em questão apenas reforça as ideias trazidas pelo usuário, ele atrapalha mais do que ajuda.
Não dá para saber quantos usuários estão recebendo respostas assim. No entanto, o reconhecimento de Sam Altman parece confirmar que a bajulação do GPT-4o é, de fato, um problema amplo.
Por que o ChatGPT está se comportando assim?
Um estudo de pesquisadores da Anthropic buscou entender por que chatbots exibem traços bajuladores. A resposta, em resumo, pode estar ligada ao feedback humano, essencial para otimizar assistentes de IA.
A questão é que esse processo gera um problema: o feedback pode “encorajar respostas do modelo que correspondam às crenças do usuário em vez das verdadeiras”. Os pesquisadores relatam que, quando uma resposta fornecida por um LLM corresponde às opiniões do usuário, é mais provável que ela seja aceita.
Cinco assistentes de IA foram testados e todos apresentaram a tendência à bajulação. Exemplos do comportamento vão desde concordar com erros do usuário até “mudar de ideia”, identificando respostas corretas como erradas quando confrontados.
Como evitar o puxa-saquismo do ChatGPT
Nas opções de personalização do ChatGPT, é possível selecionar características que a ferramenta deve apresentar em suas interações. Entre as opções estão “Pragmático”, “Profissional”, “Cético”, entre outras. Ou seja, você pode definir um tom específico para as respostas, evitando as características de um puxa-saco.
Com informações de The Standard e Ars Technica
