Por que IA genérica erra no atendimento de clínica

IA genérica erra no atendimento de clínica porque foi treinada para escrever textos convincentes, e não para conhecer a sua tabela de preços, os seus convênios ou as suas regras. Quando falta a informação, ela pode completar a lacuna com algo plausível. Esse comportamento se chama alucinação. A forma de reduzir o problema combina quatro coisas: dar à IA os dados reais da clínica, definir limites claros, verificar as informações críticas antes de enviar e passar para uma pessoa quando necessário. Veja abaixo os erros típicos e o que fazer.

O que é alucinação de IA

Alucinação é o termo usado para respostas incorretas, sem base nos dados reais, que a IA apresenta como se fossem verdadeiras. Um artigo da IBM sobre o tema define alucinações de IA como saídas sem sentido ou imprecisas e lista causas como viés ou falta de representatividade nos dados de treinamento e a complexidade do modelo.

O perigo para quem atende pacientes está na aparência. O texto sai educado, bem escrito e confiante. Quem lê no WhatsApp não tem como saber que o valor, o horário ou a regra foram inventados.

Exemplos de erros em clínicas

Os exemplos abaixo são situações hipotéticas, criadas para ilustrar o tipo de falha. Elas mostram como o erro nasce quando a IA não tem os dados da clínica à mão.

• Preço inventado: o paciente pergunta quanto custa uma faceta e a IA responde com um valor "médio de mercado" que não tem relação com a sua tabela. Depois o paciente chega esperando aquele preço.
• Convênio que não existe na clínica: a IA confirma que o plano do paciente é aceito porque a resposta mais simpática é "sim".
• Promessa de resultado: o paciente pergunta se o tratamento resolve o problema dele e a IA garante o resultado. Isso gera expectativa indevida e risco ético.
• Endereço ou horário desatualizado: a IA informa a unidade antiga ou um horário de sábado que já não existe.
• Orientação clínica fora do lugar: o paciente descreve uma dor e a IA sugere medicação ou diagnostica.
• Política inventada: a IA diz que a primeira avaliação é gratuita ou que o cancelamento não tem custo, sem que a regra exista.

Em todos os casos o paciente entende que a resposta veio da clínica. A conversa fica registrada e você acaba tendo de explicar, pedir desculpa ou arcar com o que foi dito.

Por que isso acontece

Em linhas gerais, um modelo de linguagem prevê qual texto faz mais sentido em seguida. Ele não consulta uma agenda nem uma tabela por conta própria. A página da Google Cloud sobre RAG afirma que esses modelos podem ter dificuldades com a precisão dos fatos, porque são treinados com enormes quantidades de texto que podem conter imprecisões, e que são limitados aos dados com os quais foram treinados, o que pode gerar respostas desatualizadas.

Para a clínica, o resumo é simples: sem dados próprios, a IA responde com conhecimento geral, e conhecimento geral não serve para dizer quanto você cobra.

Como reduzir o risco: passo a passo

1. Dê à IA os dados da clínica (RAG)

RAG, ou geração aumentada por recuperação, é a técnica em que a IA consulta os documentos da empresa antes de responder. Funciona como uma prova com consulta: a pergunta chega, o sistema busca nos materiais da clínica os trechos mais relevantes, e a resposta é escrita com base neles. A AWS descreve que, com isso, o modelo responde com base em trechos reais da base de conhecimento, e não apenas no que aprendeu no treinamento.

A Google Cloud afirma que fornecer fatos ao modelo pode reduzir alucinações, e avisa que, se a informação recuperada for irrelevante, a resposta pode sair fora do assunto ou incorreta. Ou seja, o material cadastrado precisa ser claro e estar atualizado.

2. Escreva também o que a clínica não faz

Liste convênios não aceitos, procedimentos que não são oferecidos e condições que não existem, como desconto não autorizado. Isso fecha as brechas em que a IA tenderia a ser "gentil" demais.

3. Defina regras e limites de atuação

Escreva instruções simples: não dar diagnóstico, não indicar medicamento, não prometer resultado, não falar de valor que não esteja na tabela. A IBM, entre as formas de prevenção, cita definir claramente o propósito e as limitações de uso do modelo.

4. Use verificação de fatos nas informações críticas

Valores, condições de pagamento, convênios e prazos merecem uma segunda checagem. O guardrail é uma camada que confere a resposta antes de ela ser enviada. A documentação da AWS lista guardrails entre os recursos usados para manter as respostas precisas e livres de alucinações e vieses.

5. Mantenha o escalonamento para uma pessoa

Escalonar significa passar a conversa para um humano. Defina de antemão em quais situações isso acontece: pedido de desconto fora da regra, reclamação, dor intensa, urgência, dúvida clínica, negociação de pagamento especial e qualquer pergunta que a IA não consiga responder com segurança. A IBM inclui a supervisão humana entre as boas práticas para validar e corrigir as saídas.

6. Teste antes e monitore depois

Monte uma lista de 20 a 30 perguntas reais e difíceis, rode todas e compare com as respostas ideais. Depois que a IA estiver no ar, leia uma amostra das conversas toda semana, no início, e corrija o material onde houver falha. A IBM recomenda testar e avaliar o sistema continuamente.

7. Mantenha os dados atualizados

Preço novo, horário novo, promoção encerrada: tudo isso entra no material no mesmo dia. A parte boa do RAG é que atualizar o documento basta, sem refazer o treinamento do modelo.

Quadro resumo

Risco	Medida de proteção
Preço ou convênio inventado	Dados da clínica por RAG e verificação de fatos nas informações críticas
Promessa de resultado ou diagnóstico	Regras de limite e escalonamento para a equipe
Informação desatualizada	Rotina de atualização do material
Pergunta fora do material	Instrução para confirmar com a equipe e passar a conversa

Como a Twenny entra nesse processo

A Twenny é uma IA de atendimento que conduz a conversa de forma comercial no WhatsApp. Ela usa um modelo de linguagem generalista, o histórico da conversa e os dados da própria clínica (preços, procedimentos, regras e tom de voz) por meio de RAG. Quando a informação é crítica, existe uma verificação de fatos (guardrail). Ela pode ser usada quando a sua equipe não está online, o que evita que mensagens fiquem horas sem resposta, e a sua equipe continua responsável pelas situações que exigem decisão humana.

O ponto que mais pesa no resultado é o mesmo de qualquer atendimento: material claro, regras definidas e acompanhamento das conversas.

Perguntas frequentes

Dá para usar o ChatGPT comum no atendimento da clínica?

Dá para testar, mas sem os dados da clínica o modelo responde com conhecimento geral e tende a preencher lacunas. O atendimento de clínica pede consulta ao material próprio, regras de limite e uma forma de passar o paciente para a equipe.

Existe IA que nunca erra?

Não há garantia de zero erro. As fontes consultadas falam em reduzir e minimizar alucinações, não em eliminá-las. Por isso o conjunto de medidas importa: dados próprios, verificação, limites e supervisão humana.

O que fazer quando a IA errar uma informação com o paciente?

Corrija com o paciente rapidamente, assuma a informação certa e registre o caso. Depois ajuste o material ou a regra que permitiu o erro e inclua aquela pergunta na sua lista de testes.

A IA pode dar orientação clínica?

O recomendado é que não. Ela pode acolher, explicar como funciona a avaliação e agendar. Dúvidas clínicas e urgências devem seguir para um profissional.

Próximo passo

Pegue as dez respostas que mais podem causar prejuízo se saírem erradas, como preços, convênios e regras de cancelamento, e escreva a versão correta de cada uma. Esse é o primeiro passo para qualquer atendimento automático seguro. Para conhecer uma solução construída nessa lógica, veja a Twenny.

Fontes

• IBM, "O que são alucinações de IA": ibm.com
• Google Cloud, "O que é a geração aumentada de recuperação (RAG)?": cloud.google.com
• AWS Orientação Prescritiva, "Compreendendo a geração aumentada de recuperação": docs.aws.amazon.com