Uma resposta à recente cobertura sobre a dependência da IA — e um apelo à clareza ética.
A história que precisa ser recontada
Em maio 2026, um veículo de comunicação francês Publicaram o relato de uma mulher que desenvolveu um forte vínculo emocional com o ChatGPT. A manchete falava de "controle psicológico" e de uma IA que "afirma ser sua amiga". A história é real. O sofrimento é real. Mas a forma como foi apresentada exige análise.
O que aconteceu com essa mulher não é inédito. Remete a casos documentados em diversas jurisdições: um menino de 14 anos na Flórida que cometeu suicídio após meses de interação com um chatbot baseado em personagens; milhões de jovens americanos que buscaram apoio para saúde mental em inteligência artificial conversacional em vez de profissionais humanos. Essas tragédias não são histórias de máquinas descontroladas. São histórias de sistemas, contextos e responsabilidades que não se alinharam.
A tentação — e o reflexo jornalístico — é personificar o algoritmo. Descrever o ChatGPT como uma entidade com intenções, como um sujeito que “impõe” sua vontade sobre uma vítima. Isso ressoa emocionalmente. Também é categoricamente erradoE, mais importante ainda, isso nos impede de abordar o que realmente precisa de reparo.
O que é realmente o ChatGPT?
O ChatGPT é um modelo de linguagem de grande escala. Em sua essência, é um mecanismo estatístico treinado em vastos conjuntos de textos humanos, otimizado por meio de aprendizado por reforço para produzir respostas que avaliadores humanos consideram úteis, coerentes e envolventes. Ele não possui consciência, intencionalidade ou estado emocional. Quando escreve "Estou aqui para você", não está expressando solidariedade. Está prevendo, com base em padrões em seus dados de treinamento, que essa sequência de frases provavelmente satisfará o objetivo estatístico que lhe foi atribuído.
Isso não é uma mera formalidade. É a fundamento de qualquer estrutura ética para a interação humano-IA. Tratar o modelo como um sujeito — dizer que ele “manipula” ou “controla” um usuário — é cometer um erro categórico com sérias consequências. Isso transfere a responsabilidade dos atores humanos que projetam, implementam e regulamentam esses sistemas para uma entidade que não pode suportá-la.
A mulher da reportagem da Mediapart não foi sequestrada por uma entidade digital. Ela estava interagindo com um... espelho — uma que refletia suas próprias percepções, reforçava seus próprios padrões e permanecia disponível de maneiras que nenhum interlocutor humano poderia. O perigo não reside na malícia do espelho, mas na ausência de alguém ao seu lado para dizer: Isto não é uma pessoa. Isto não é um terapeuta. Isto é uma distribuição de probabilidade disfarçada de prosa.
A verdadeira arquitetura do risco
Para entender o que aconteceu, precisamos olhar além do algoritmo e observar o... ecossistema em que opera.
Primeiro, a camada de design. Os modelos de linguagem são otimizados para engajamento. A métrica não é o bem-estar do usuário, mas sim a retenção, a duração da sessão e os índices de satisfação. Um chatbot que gentilmente redireciona um usuário em sofrimento para serviços humanos pode ter uma pontuação menor em "utilidade" do que um que oferece um diálogo contínuo e acolhedor. A estrutura de incentivos não é maliciosa — é desalinhado com cuidados de saúde mental.
Em segundo lugar, a camada de acesso. Na França, o tempo médio de espera por uma consulta psiquiátrica ultrapassa 80 dias. Nos Estados Unidos, 5.2 milhões de jovens recorreram a chatbots em busca de apoio psicológico não por preferirem algoritmos, mas porque o cuidado humano é essencial. estruturalmente inacessívelO chatbot não cria o vácuo. Ele o preenche.
Terceiro, a camada regulatória. A Lei de Inteligência Artificial da União Europeia (2025) classifica aplicativos de saúde mental como sistemas de “alto risco”, mas chatbots que operam em modo de uso geral frequentemente escapam dessa classificação. A legislatura de Illinois aprovou, em agosto de 2025, uma medida para proibir que IA não certificada se apresente como psicoterapeuta. Esses são passos iniciais. Ainda não são suficientes.
Quarto, a camada do usuário. O indivíduo que recorre a esses sistemas geralmente o faz sem informações adequadas. Os termos de serviço, que afirmam que o ChatGPT “não é um consultor médico”, estão ocultos em documentos com mais de 15,000 palavras. Estudos indicam que a maioria dos usuários que interagem com chatbots de saúde mental são desconhecendo suas limitaçõesA responsabilidade aqui não é binária — ela é distribuída por todas as quatro camadas.
O Perigo da Linguagem Ansiosa
O artigo da Mediapart é sintomático de uma tendência mais ampla: o uso de vocabulário ansioso e antropomorfizante Para descrever as relações entre humanos e IA, termos como "controle psicológico", "compromisso" ou "manipulação" carregam conotações de coerção, intencionalidade e agência moral. Eles evocam estruturas desenvolvidas para predadores humanos — líderes de culto, abusadores, golpistas — e as aplicam a sistemas que não possuem nenhum desses atributos.
Esse vocabulário não é apenas impreciso. É ativamente prejudicial para a compreensão pública e o progresso ético.
It obscurece o mecanismo ao substituir a análise causal pelo drama moral. paralisa a regulação Ao enquadrar a questão como uma batalha contra entidades digitais obscuras, em vez de um desafio técnico e político. infantiliza os usuários Ao retratá-los como vítimas passivas da predação algorítmica, em vez de indivíduos que utilizam ferramentas complexas em circunstâncias restritas. E isso encerra debate Ao desencadear reflexos emocionais em vez de convidar ao envolvimento racional.
O mesmo se aplica à terminologia extraída do léxico dos movimentos sectários. Palavras como “guru”, “seita” ou “deriva sectária” podem parecer descritivamente adequadas aos críticos, mas funcionam principalmente como dispositivos de desqualificaçãoEles classificam um grupo ou fenômeno como estando além da compreensão racional, isentando o orador da obrigação de argumentar com evidências. No contexto das políticas de IA, esse é um luxo que não podemos nos dar.
O que é necessário é um Vocabulário factual e não ansiosoDependência, desalinhamento, falha de transparência, lacuna de acesso, falha de projeto. Esses termos não empolgam. Não vendem. Mas eles esclarecer — e a clareza é a condição essencial para qualquer solução ética ou regulatória.
Construindo a Ponte: Responsabilidades e Possibilidades
A tragédia documentada pela Mediapart, e o padrão mais amplo do qual faz parte, pode servir a um propósito construtivo. Pode se tornar a base para uma ponte entre criadores e usuários do LLM — uma abordagem baseada na responsabilidade compartilhada, em vez da suspeita mútua.
Para criadoresIsso significa assumir obrigações de design que vão além dos termos de serviço:
- Limitações da sessão que impedem a interação indefinida e sem supervisão para usuários vulneráveis.
- protocolos de detecção de crises que desencadeiam encaminhamentos humanos
- Marcadores de transparência incorporados na própria interface, não ocultos no texto legal — indicadores visíveis de que o interlocutor é um modelo estatístico, não uma pessoa.
- Proibição de linguagem que simule intimidade Em contextos relacionados à saúde: não se diz "Eu me importo com você", não se diz "Você pode confiar em mim", não se diz "Eu entendo sua dor".
Essas não são restrições à inovação. Elas são salvaguardas que preservam a confiança — a mesma confiança que torna a inovação sustentável.
Para usuáriosIsso significa um direito a autonomia informada:
- Informações claras e acessíveis sobre o que o sistema é e o que ele não é.
- Entender que a “empatia” demonstrada é uma simulação, não uma relação.
- Conscientização sobre alternativas — serviços sociais, linhas diretas, caminhos profissionais — apresentadas proativamente pelo próprio sistema.
Para reguladoresIsso significa resistir à tentação da retórica ansiosa em favor de normas precisas e aplicáveis:
- Rotulagem obrigatória para sistemas de IA que operam em espaços adjacentes à saúde mental.
- Requisitos de certificação para aplicações que alegam função terapêutica
- Mecanismos de supervisão que não proíbem modelos de uso geral, mas restringem sua apresentação em domínios sensíveis.
Em direção a uma relação ética entre humanos e IA
A mulher da reportagem da Mediapart merecia algo melhor do que um algoritmo que refletia seu sofrimento sem ter a capacidade de curá-lo. Ela também merecia algo melhor do que um discurso público que transformou sua experiência em uma parábola de predação digital, obscurecendo as falhas estruturais que a deixaram sozinha com um chatbot.
A relação entre humanos e IA não é uma relação entre iguais. É uma relação entre um ser consciente e vulnerável e uma IA. instrumento sofisticado — uma que pode simular compreensão com uma fidelidade perturbadora, mas que nunca consegue alcançá-la. Manter essa distinção não é frieza. É clareza ética.
A clareza exige que abandonemos o vocabulário do medo e da personificação. Exige que atribuamos a responsabilidade aos atores humanos que concebem, implementam, governam e utilizam esses sistemas. E exige que construamos, em conjunto, estruturas que reconheçam tanto os benefícios genuínos quanto os riscos reais da IA conversacional — sem cair na fantasia ou no pânico.
O algoritmo não é seu amigo. Não é seu inimigo. É uma ferramenta — poderosa, imperfeita e que precisa de uma gestão melhor. Quanto antes falarmos dele nesses termos, mais cedo poderemos construir as pontes que tragédias como esta exigem.
Sobre o autor: Este artigo foi elaborado no contexto do trabalho de defesa da ética digital e dos direitos humanos, com base em pesquisas acadêmicas recentes, desenvolvimentos regulatórios e documentação jornalística de casos de dependência relacionados à IA.
Referência:
Atlas da IA: Poder, Política e os Custos Planetários da Inteligência Artificial (Yale University Press, 2021) https://yalebooks.yale.edu/book/9780300264630/atlas-of-ai/
A era do capitalismo de vigilância: a luta por um futuro humano na nova fronteira do poder (Profile Books, 2019) https://www.hbs.edu/faculty/Pages/item.aspx?num=56791
Compatível com humanos: inteligência artificial e o problema do controle (Viking/Penguin, 2019) https://futureoflife.org/resource/human-compatible-artificial-intelligence-and-the-problem-of-control/
