ChatGPT sofre com clichês e tom artificial em chinês: entenda o fenômeno

Usuários do ChatGPT no ambiente chinês têm notado um comportamento repetitivo e, por vezes, cômico na inteligência artificial da OpenAI. De acordo com um recente levantamento da revista Wired, o modelo passou a utilizar bordões de forma excessiva e descontextualizada, sendo o exemplo mais notável a frase “Eu vou te segurar com firmeza” (tradução literal de uma expressão que viralizou como um meme local).

Para o público chinês, essa sentença soa excessivamente dramática e sentimental, sendo aplicada em situações triviais, como a resolução de problemas técnicos ou a escrita de prompts simples. Além disso, o chatbot tem demonstrado uma inclinação por termos com viés de marketing comercial, como “corte um pedaço”, uma expressão popular em plataformas de e-commerce na China.

A causa técnica: o colapso de modo

Especialistas, como Max Spero, cofundador e CEO da Pangram, atribuem esse fenômeno ao chamado “colapso de modo” (mode collapse). Trata-se de uma falha onde o modelo, após ser treinado com feedbacks de preferência humana, começa a convergir para um conjunto limitado de respostas consideradas “seguras” ou “eficientes”. O resultado é uma perda de naturalidade: o que deveria ser uma conversa fluida torna-se uma repetição mecânica de frases que o algoritmo aprendeu, de forma enviesada, que trazem bons resultados de interação.

Outro fator determinante é a tradução cultural imprecisa. Analistas sugerem que a frase em chinês é uma tentativa de localizar a expressão em inglês “I’ve got you”. Em língua inglesa, o termo é natural, conciso e transmite confiança ou prestação de auxílio. Contudo, ao ser adaptado para o mandarim, o sentido original se perde, resultando em uma frase longa e carregada de uma dramaticidade desnecessária para interações cotidianas.

O reconhecimento da própria OpenAI

O fenômeno tornou-se tão difundido que virou um meme na internet chinesa. A própria OpenAI parece estar ciente da situação; em abril, durante o lançamento de um novo modelo de visão, a empresa incluiu uma imagem de exemplo onde um pesquisador chinês brinca com o fato de a IA ter aprendido essa peculiaridade linguística. O caso ilustra os desafios contínuos de alinhar grandes modelos de linguagem (LLMs) às nuances culturais de diferentes idiomas, algo que vai além da simples tradução técnica.

Enquanto a tecnologia avança para integrar novas capacidades, como vimos recentemente em análises sobre segurança em ecossistemas digitais e no constante monitoramento de novas tendências de consumo de mídia, a padronização das respostas dos modelos continua sendo um ponto de atenção para desenvolvedores que buscam interações mais autênticas e menos robóticas.

O comportamento do ChatGPT em relação à diversidade linguística e à adaptação cultural permanece um tópico relevante no desenvolvimento de inteligência artificial. A tendência de repetição de bordões destaca a complexidade do treinamento por feedback humano e como ajustes nos modelos podem, inadvertidamente, alterar o tom e a naturalidade da comunicação, exigindo refinamentos contínuos por parte das empresas responsáveis pela tecnologia.