Por que eliminamos os classificadores de intenção

Uma das perguntas mais frequentes que recebemos de clientes e usuários em potencial é: “Onde estão os seus classificadores de intenção?”

Nós não temos nenhum. E sim, é de propósito.

A Botpress usa LLMs para identificar a intenção do usuário. Por quê? Se você está criando um chatbot ou um agente de IA, é muito melhor tanto para quem constrói quanto para quem usa.

Levamos essa decisão muito a sério, então quero explicar por que não usamos classificadores de intenção.

Resumo: é mais fácil de construir, mais preciso e mais simples de manter.

Os velhos tempos (antes dos LLMs)

(Se você já sabe o que são classificadores de intenção e para que servem, pode pular esta parte.)

Um classificador de intenção é uma ferramenta que categoriza as entradas dos usuários em intenções pré-definidas com base em dados de treinamento.

Os desenvolvedores precisam selecionar e rotular inúmeros exemplos para cada possível intenção, torcendo para que o sistema consiga associar as entradas dos usuários a esses exemplos.

Por exemplo, em um chatbot de e-commerce, os desenvolvedores podem definir uma intenção como "RastrearPedido". Os exemplos de frases podem ser: "Onde está meu pacote?", "Rastrear meu pedido" e "Você pode verificar o status da entrega para mim?"

Basicamente, estão ensinando o agente de IA a reconhecer a intenção do usuário dando exemplos. E sim, tudo isso precisa ser inserido manualmente.

Felizmente, a necessidade desse mapeamento manual de frases para intenções praticamente desapareceu à medida que os LLMs evoluíram.

Mas muitas plataformas de IA conversacional ainda usam classificadores de intenção. Por quê? Já vamos chegar lá.

4 desvantagens dos classificadores de intenção

Não é só porque o processo é demorado – classificadores de intenção têm vários problemas. Veja alguns deles:

1. Dependência de dados

Classificadores de intenção exigem muitos dados. Eles precisam de um grande conjunto de exemplos representativos para cada intenção funcionar corretamente. Sem isso, têm dificuldade para classificar as entradas.

E construir esses conjuntos de dados é cansativo. Os desenvolvedores gastam horas coletando e rotulando exemplos, o que – sem dúvida – não é o melhor uso do tempo deles.

2. Escalabilidade limitada

Classificadores de intenção também não foram feitos para escalar. Adicionar novas intenções significa coletar mais dados e re-treinar o modelo, o que rapidamente vira um gargalo no desenvolvimento. Além disso, podem ser difíceis de manter – já que a linguagem muda com o tempo, assim como as frases dos usuários.

3. Compreensão limitada da linguagem

Classificadores de intenção não entendem a linguagem de verdade. Eles têm dificuldade com variações, como:

• Sinônimos
• Paráfrases
• Frases ambíguas
• Erros de digitação
• Expressões coloquiais desconhecidas
• Entradas fragmentadas

Eles também costumam analisar cada frase isoladamente, ou seja, não conseguem manter o contexto da conversa.

4. Overfitting

Classificadores de intenção tendem a sofrer de overfitting, ou seja, memorizam exemplos de treinamento em vez de aprender padrões gerais.

Isso faz com que funcionem bem para frases idênticas às que já viram, mas tenham dificuldade com entradas novas ou diferentes. Por isso, são frágeis demais para uso profissional.

6 motivos para preferir LLMs

Os LLMs praticamente resolveram esses problemas. Eles entendem contexto e nuances, e os desenvolvedores não precisam alimentá-los com dados de treinamento para começar. Um agente baseado em LLM pode conversar desde o início.

1. Capacidade de aprendizado zero-shot

LLMs não precisam de exemplos para aprender. Seu pré-treinamento extenso faz com que já entendam contexto, nuances e intenção sem que os desenvolvedores precisem fornecer exemplos específicos.

2. Uma coisinha chamada nuance

LLMs se destacam onde classificadores de intenção falham. Conseguem interpretar expressões idiomáticas, sarcasmo e linguagem ambígua com facilidade.

O treinamento em conjuntos de dados diversos permite que eles captem as sutilezas da comunicação humana que os classificadores de intenção geralmente não percebem.

3. Contexto aprimorado

LLMs não perdem o fio da conversa. Eles lembram o que foi dito antes, tornando as interações mais naturais e coerentes.

Esse contexto também ajuda a resolver ambiguidades. Mesmo quando a entrada é vaga ou complexa, eles conseguem entender olhando para a conversa como um todo.

4. Escalabilidade

LLMs são muito melhores para escalar. Não precisam ser re-treinados para lidar com novos temas, graças ao seu amplo entendimento de linguagem.

Isso faz com que estejam prontos para quase qualquer caso de uso desde o início. Para sistemas multiagente, faz todo sentido usar LLM em vez de classificador de intenção.

5. Flexibilidade

LLMs não dependem de modelos rígidos. Sua flexibilidade faz com que as respostas sejam naturais, variadas e adaptadas à conversa. A experiência para o usuário é muito melhor do que com classificadores de intenção.

6. Menos dados de treinamento

LLMs não precisam de dados rotulados específicos para cada tarefa. Sua força vem do pré-treinamento em textos diversos, então não dependem de conjuntos de dados anotados manualmente.

Se necessário, os desenvolvedores podem personalizar um LLM para o projeto. Por exemplo, LLMs podem ser ajustados com poucos dados, adaptando-se rapidamente a casos de uso ou setores específicos.

Por que outras empresas usam classificadores de intenção?

Ótima pergunta. Se os LLMs são tão melhores para classificar intenções, por que tantas empresas ainda utilizam classificadores de intenção?

A resposta não é bonita e nem diplomática: é um problema de tecnologia legada.

A maioria das empresas tem interesse em manter classificadores de intenção. Elas já têm uma base instalada enorme que depende disso. Não têm motivo para afastar os usuários do sistema que construíram.

Mas a Botpress é LLM-first

LLMs são muito melhores para identificar intenções do que classificadores antigos. Por isso, reescrevemos tudo do zero para ser LLM-first em 2020.

Sabíamos que havia tecnologia melhor, e em vez de insistir no legado, investimos em dar esse salto.

Vamos adicionar classificadores de intenção?

Não. Nos importamos demais com a experiência dos builders e dos usuários.

O futuro da classificação de intenção

Classificadores de intenção são coisa do passado. Por isso apostamos tudo nos LLMs.

À medida que os LLMs evoluem, os agentes de IA criados na Botpress também vão evoluir. Estamos prontos e animados para continuar elevando o padrão do que a IA conversacional pode fazer.

Se você quer criar agentes de IA flexíveis com LLMs, pode começar a construir na Botpress. É grátis.