Waarom we intent-classifiers hebben afgeschaft

Een van de meest gestelde vragen die we krijgen van potentiële klanten en gebruikers is: "Waar zijn jullie intentieclassificators?"

We hebben er geen. En ja, dat is bewust zo.

Botpress gebruikt LLM’s om de intentie van de gebruiker te herkennen. Waarom? Als je een chatbot bouwt of een AI-agent, is dit voor zowel makers als gebruikers vele malen beter.

We staan hier sterk achter, dus ik neem graag even de tijd om uit te leggen waarom wij geen intent-classifiers gebruiken.

Kort samengevat: het is makkelijker te bouwen, nauwkeuriger en eenvoudiger te onderhouden.

De oude (pre-LLM) tijd

(Als je al weet wat intent-classifiers zijn en doen, kun je deze sectie overslaan.)

Een intent-classifier is een hulpmiddel dat gebruikersinvoer indeelt in vooraf gedefinieerde intenties op basis van trainingsdata.

Ontwikkelaars moeten talloze voorbeelden verzamelen en labelen voor elke mogelijke intentie, in de hoop dat het systeem gebruikersinvoer aan deze voorbeelden kan koppelen.

Bijvoorbeeld: bij een e-commerce chatbot kan een ontwikkelaar een intentie als "TrackOrder" definiëren. Voorbeelden van uitingen zijn dan: "Waar is mijn pakket?", "Volg mijn bestelling" en "Kun je de bezorgstatus voor me controleren?"

Ze trainen de AI-agent dus om de intentie van de gebruiker te herkennen door voorbeelden te geven. En ja, dat moet allemaal handmatig worden ingevoerd.

Gelukkig is deze handmatige koppeling van mogelijke uitingen aan een intentie vrijwel verdwenen sinds LLM’s geavanceerder zijn geworden.

Toch gebruiken veel conversational AI-platforms ze nog steeds. Waarom? Daar komen we zo op terug.

4 Nadelen van intent-classifiers

Het is niet alleen een langer proces – intent-classifiers zijn om meerdere redenen onhandig. Hier zijn er een paar:

1. Afhankelijkheid van data

Intent-classifiers hebben veel data nodig. Ze vereisen een grote, representatieve dataset met gebruikersvoorbeelden per intentie om goed te werken. Zonder dat lukt het vaak niet om invoer correct te classificeren.

En het opbouwen van deze datasets is een enorme klus. Ontwikkelaars besteden eindeloos veel tijd aan het verzamelen en labelen van voorbeelden – en dat is zeker geen goede tijdsbesteding.

2. Beperkte schaalbaarheid

Intent-classifiers zijn niet gemaakt om makkelijk op te schalen. Nieuwe intenties toevoegen betekent meer data verzamelen en het model opnieuw trainen, wat snel een knelpunt wordt. Bovendien zijn ze lastig te onderhouden – want als taalgebruik verandert, veranderen de uitingen mee.

3. Slecht taalbegrip

Intent-classifiers begrijpen taal niet echt. Ze hebben moeite met variaties in taal, zoals:

• Synoniemen
• Parafraseringen
• Ambigue formuleringen
• Typfouten
• Onbekende informele uitdrukkingen
• Gefragmenteerde invoer

Ze verwerken meestal elke uiting los van de rest, waardoor ze geen context kunnen vasthouden tijdens een gesprek.

4. Overfitting

Intent-classifiers zijn gevoelig voor overfitting: ze onthouden trainingsvoorbeelden in plaats van algemene patronen te leren.

Dat betekent dat ze goed presteren op exacte zinnen die ze kennen, maar moeite hebben met nieuwe of afwijkende invoer. Daardoor zijn ze veel kwetsbaarder dan wenselijk voor professioneel gebruik.

6 Redenen waarom LLM’s beter zijn

LLM’s hebben deze problemen vrijwel opgelost. Ze begrijpen context en nuances, en ontwikkelaars hoeven ze niet eerst te vullen met trainingsdata. Een LLM-gebaseerde agent kan direct vanaf het begin gesprekken voeren.

1. Zero-shot learning

LLM’s hebben geen voorbeelden nodig om te leren. Door hun uitgebreide voortraining begrijpen ze context, nuance en intentie zonder dat ontwikkelaars specifieke voorbeelden hoeven aan te leveren.

2. Een klein ding genaamd nuance

LLM’s blinken uit waar intent-classifiers tekortschieten. Ze kunnen moeiteloos idiomen, sarcasme en dubbelzinnige taal interpreteren.

Hun brede training op diverse datasets geeft ze het vermogen om subtiele nuances in menselijke communicatie te begrijpen, iets wat intent-classifiers vaak missen.

3. Betere context

LLM’s raken de draad van het gesprek niet kwijt. Ze onthouden wat eerder is gezegd, waardoor interacties natuurlijker en samenhangender aanvoelen.

Deze context helpt ook om onduidelijkheden op te lossen. Zelfs als de invoer vaag of complex is, kunnen ze het geheel begrijpen door naar het bredere gesprek te kijken.

4. Schaalbaarheid

LLM’s zijn veel beter schaalbaar. Ze hoeven niet opnieuw getraind te worden voor nieuwe onderwerpen, dankzij hun brede taalbegrip.

Daardoor zijn ze direct inzetbaar voor vrijwel elk gebruiksscenario. Voor multi-agent systemen is het logisch om een LLM te gebruiken in plaats van een intent-classifier.

5. Flexibiliteit

LLM’s zijn niet afhankelijk van starre sjablonen. Hun flexibiliteit zorgt voor natuurlijke, gevarieerde en goed passende antwoorden. Voor gebruikers is dit een veel betere ervaring dan de kwetsbare intent-classifiers.

6. Minder trainingsdata nodig

LLM’s hebben geen taak-specifieke gelabelde data nodig om hun werk te doen. Hun kracht komt uit grootschalige voortraining op diverse teksten, dus ze zijn niet afhankelijk van zorgvuldig samengestelde datasets.

Indien nodig kunnen ontwikkelaars altijd een LLM aanpassen voor hun project. LLM’s kunnen bijvoorbeeld met minimale data worden bijgesteld, zodat ze snel geschikt zijn voor specifieke toepassingen of sectoren.

Waarom gebruiken andere bedrijven intentieclassificators?

Goede vraag. Als LLM's zoveel beter zijn in het classificeren van intenties, waarom gebruiken dan nog zoveel bedrijven intentieclassificators?

Het antwoord is niet fraai en niet erg diplomatiek: het is een kwestie van verouderde technologie.

De meeste bedrijven hebben belang bij het blijven gebruiken van intent-classifiers. Ze hebben een grote gebruikersbasis die daarop draait. Ze hebben geen reden om hun gebruikers van hun eigen systeem af te houden.

Maar Botpress is LLM-first

LLM’s zijn veel beter in het herkennen van intenties dan ouderwetse intent-classifiers. Daarom hebben we in 2020 alles opnieuw opgebouwd met LLM’s als uitgangspunt.

We wisten dat er betere technologie was, en in plaats van vast te houden aan oude systemen, hebben we bewust gekozen voor vernieuwing.

Gaan wij intentieclassificators toevoegen?

Nee. We vinden de ervaring van onze makers en hun gebruikers te belangrijk.

De toekomst van intent-classificatie

Intent-classifiers zijn een hulpmiddel uit het verleden. Daarom hebben wij volledig gekozen voor LLM’s.

Naarmate LLM’s beter worden, worden ook de AI-agents op Botpress beter. We zijn er klaar voor en enthousiast om de lat voor conversational AI steeds hoger te leggen.

Wil je flexibele AI-agents bouwen op basis van LLM’s? Begin gerust met bouwen op Botpress. Het is gratis.