Kumpletong Gabay sa LLM Agents (2025)

Malamang pamilyar ka na sa pinakamainit na paksa ngayong taon: AI agents.

Karamihan sa mga AI agent na ito ay LLM agents. Bakit nga ba?

"Sa mga nakaraang taon, nagbago na ang mga autonomous agent," paliwanag ni Botpress CEO Sylvain Perron. "Mas gumanda na ang mga underlying model. Binuksan ng LLMs ang bagong antas ng pag-iisip at abstraction."

Dahil sa lakas ng LLMs, puwedeng gumawa ng AI agents na makatapos ng anumang gawaing may kinalaman sa wika o pangangatwiran.

At dahil sa kanilang kakayahan sa wika at pagsusuri, unti-unti na silang pumapasok sa mga opisina, kung saan mahigit 80% ng mga kumpanya ang nagpaplanong gumamit ng AI agents sa mga susunod na taon.

Habang malawak ang saklaw ng AI agents (kasama ang mga hindi lingguwistikong aplikasyon tulad ng content recommendation systems, image recognition, robotical control, atbp.), kadalasan ang LLM agents ay conversational AI na software.

Ano ang LLM agents?

Ang LLM agents ay mga AI tool na gumagamit ng malalaking language model para umintindi ng wika, makipag-usap, at magsagawa ng mga gawain.

Ang mga agent na ito ay nakabatay sa komplikadong mga algorithm na sinanay gamit ang napakaraming datos ng teksto, kaya nilang umunawa at lumikha ng wika na parang totoong tao.

Maaaring isama ang LLM agents sa AI agents, AI chatbots, virtual assistants, software para sa paggawa ng nilalaman, at iba pang mga kasangkapan.

Paano gumagana ang LLM agents?

Pinagsasama ng LLM agents ang lakas ng isang LLM at retrieval, reasoning, memory, at paggamit ng mga kasangkapan para awtomatikong tapusin ang mga gawain. Heto ang paliwanag sa bawat bahagi nito.

‍

Pinagsama-sama, nagbibigay ito ng kakayahan sa LLM agents na magsagawa ng masalimuot at sunud-sunod na mga gawain nang awtonomo.

Halimbawa:

• Ang isang B2B sales agent ay kumukuha ng CRM data tungkol sa prospect, sinusuri ang progreso ng deal, inaalala ang mga nakaraang interaksyon para ma-personalize ang follow-up, at ginagamit ang email at calendar APIs para magpadala at mag-iskedyul.
• Ang isang IT agent ay kumukuha ng system logs para matukoy ang error, sinusuri ang mga troubleshooting steps para sa pinakamainam na solusyon, inaalala ang mga nagtagumpay na solusyon sa nakaraan, at nagpapatakbo ng scripts para i-restart ang serbisyo o gumawa ng ticket.

Ano ang 4 na tampok na bumubuo sa isang LLM agent?

May apat na pangunahing tampok ang isang LLM agent:

1. Language Model

Ang language model ang madalas ituring na "utak" ng LLM agent. Ang kalidad at laki nito ang direktang nakakaapekto sa performance ng agent.

Isa itong sopistikadong algorithm na sinanay gamit ang napakalaking dataset ng teksto, kaya nitong umunawa ng konteksto, makakita ng mga pattern, at bumuo ng makabuluhan at akmang sagot.

• Tukuyin at matutunan ang mga pattern ng wika
• Magkaroon ng antas ng pagkaalam sa konteksto (dahil sa lawak ng training data)
• Mag-adapt sa iba’t ibang larangan at makapagsaklaw ng maraming paksa

Ang language model ang nagtatakda ng lalim, katumpakan, at kaugnayan ng mga sagot, na siyang pundasyon ng kakayahan ng agent sa wika.

2. Memorya

Ang memorya ay tumutukoy sa kakayahang magtago ng impormasyon mula sa mga nakaraang interaksyon, tulad ng mga detalye, paboritong setting ng user, o mga paksa sa iba’t ibang session.

Pinapahusay nito ang pagkaunawa ng agent sa konteksto at ginagawang mas tuloy-tuloy at makabuluhan ang usapan.

Sa ilang setup, pinapayagan ng memorya ang agent na magtago ng impormasyon sa paglipas ng panahon. Sinusuportahan nito ang pangmatagalang interaksyon kung saan "natututo" ang agent mula sa paulit-ulit na kilos o kagustuhan ng user – bagaman madalas itong may regulasyon para sa privacy at kaugnayan.

3. Paggamit ng Kasangkapan

Ang paggamit ng kasangkapan ang nagdadala sa LLM agent mula sa usapan patungo sa aksyon.

Maaaring i-integrate ng LLM agent ang sarili sa mga panlabas na aplikasyon, database, o API para magsagawa ng partikular na gawain.

Ibig sabihin, kaya nilang kumuha ng real-time na impormasyon, magsagawa ng panlabas na aksyon, o mag-access ng mga espesyal na database, kaya nilang magbigay ng impormasyon sa totoong oras. Kasama dito ang:

• Pagtawag sa APIs
• Pagkuha ng datos sa totoong oras, tulad ng update sa panahon o presyo ng mga stock
• Pag-iskedyul ng mga meeting o appointment
• Pag-query sa mga database, tulad ng katalogo ng produkto o mga dokumento ng patakaran sa HR

Sa paggamit ng mga kasangkapan, nagiging mula sa tagapagbigay ng kaalaman tungo sa aktibong kalahok ang LLM agent na kayang makipag-ugnayan sa ibang sistema.

4. Pagpaplano

Ang pagpaplano ay kakayahan ng LLM agent na hatiin ang masalimuot na gawain sa sunud-sunod na mas maliliit na hakbang.

Maaaring magplano ang LLM agent na may o walang feedback. Ano ang kaibahan?

• Ang pagpaplano nang walang feedback ay nangangahulugang gagawa ng plano ang LLM agent batay sa unang pagkaunawa nito. Mas mabilis at simple ito, pero kulang sa adaptability.
• Ang pagpaplano na may feedback ay nangangahulugang kayang baguhin ng LLM agent ang plano nito batay sa input mula sa paligid. Mas komplikado ito, pero mas flexible at gumaganda ang performance habang tumatagal.

Sa pamamagitan ng pagpaplano, nakakagawa ang LLM agent ng lohikal na daloy patungo sa solusyon, kaya mas epektibo ito sa paghawak ng komplikadong kahilingan.

Ano ang 4 na uri ng LLM agents?

1. Conversational Agents (hal. customer support at lead generation)

Ang mga agent na ito ay nakikipag-usap nang natural sa mga user – madalas silang nagbibigay ng impormasyon, sumasagot ng tanong, at tumutulong sa iba’t ibang gawain.

Umaasa ang mga agent na ito sa LLMs para umunawa at bumuo ng sagot na parang tao.

Mga halimbawa: Customer support agents at healthcare chatbots

2. Task-oriented Agents (hal. AI assistants at AI workflows)

Nakatutok sa pagtupad ng partikular na gawain o layunin, nakikipag-ugnayan ang mga agent na ito sa user para malaman ang pangangailangan at pagkatapos ay isinasagawa ang mga kinakailangang aksyon.

Mga halimbawa: AI assistants at HR bots

3. Creative Agents (hal. mga kasangkapan sa paglikha ng nilalaman)

Kayang gumawa ng orihinal at malikhaing nilalaman tulad ng sining, musika, o sulatin, ginagamit ng mga agent na ito ang LLMs para umunawa ng kagustuhan ng tao at istilo ng sining, kaya nilang gumawa ng nilalaman na tumutugma sa panlasa ng audience.

Mga halimbawa: Content generation tools at image generation tools (tulad ng Dall-E)

4. Collaborative Agents (hal. enterprise AI agents)

Ang mga agent na ito ay katuwang ng tao sa pagtupad ng mga layunin o gawain, pinapadali ang komunikasyon, koordinasyon, at pagtutulungan ng mga miyembro ng team o ng tao at makina.

Maaaring suportahan ng LLM ang mga collaborative agent sa paggawa ng desisyon, pagbuo ng ulat, o pagbibigay ng mga pananaw.

Mga halimbawa: Karamihan sa enterprise AI agents at project management chatbots

Paano ginagamit ng mga negosyo ang LLM agents?

Nakikinabang ang mga negosyo sa LLM agents sa mga larangang nangangailangan ng pagproseso at pagsagot gamit ang natural na wika, tulad ng pagsagot ng tanong, pagbibigay ng gabay, pag-automate ng workflow, at pagsusuri ng teksto.

Madalas gamitin ng mga negosyo ang LLM agents para sa marketing, pagsusuri ng datos, pagsunod sa regulasyon, legal na tulong, suporta sa healthcare, mga gawain sa pananalapi, at edukasyon.

Narito ang 3 pinakakaraniwang gamit ng LLM agents:

Suporta sa Customer Service

Ayon sa pag-aaral ng 167 kumpanya ni automation expert Pascal Bornet, customer service ang pinakakaraniwang gamit ng LLM agent.

Malawakang ginagamit ang LLM agents sa customer support para sagutin ang FAQs, mag-troubleshoot ng problema, at magbigay ng 24/7 na tulong.

Kayang makipag-usap ng mga agent na ito sa customer nang real time, magbigay ng agarang tulong, o mag-eskalate ng masalimuot na tanong sa totoong tao.

Tingnan din: Ano ang customer service chatbot?

Sales at Lead Generation

Sa sales, ginagamit ang LLM agents para sa AI lead generation — kaya pa nilang i-qualify ang leads sa pamamagitan ng pakikipag-usap sa potensyal na customer, pagtukoy ng pangangailangan, at pagkuha ng mahalagang impormasyon.

Maaari rin nilang i-automate ang follow-up, magpadala ng personalized na rekomendasyon o impormasyon ng produkto batay sa interes ng customer.

Tingnan din: Paano gamitin ang AI sa Sales

Internal na Suporta: HR at IT

Para sa internal na suporta, pinapadali ng LLM agents ang mga proseso ng HR at IT sa pamamagitan ng pagsagot sa karaniwang tanong ng mga empleyado.

Sa katunayan, natuklasan ng pag-aaral ni Bornet na ang paggamit ng LLM agents sa internal operations ang pinaka-matipid, nakakatipid ng 30-90% ng oras na dati ay ginugugol sa mga gawaing ito.

Sa HR, sumasagot sila ng mga tanong tungkol sa benepisyo, patakaran sa leave, at payroll, habang sa IT, nagbibigay sila ng troubleshooting para sa simpleng teknikal na isyu o nag-a-automate ng mga gawain tulad ng account setup.

Dahil dito, mas makakapagpokus ang HR at IT teams sa mas komplikadong gawain, imbes na paulit-ulit na trabaho.

Tingnan din: Pinakamahusay na AI agents para sa HR

Paano Pahusayin ang mga Sagot ng LLM Agent

Kung inaangkop mo ang LLM para sa AI project, gugustuhin mong baguhin ang karaniwang sagot na ibinibigay ng public model sa mga user. (Hindi mo gugustuhing i-rekomenda ng chatbot mo ang kakumpitensya, di ba?) Maari mo ring gustuhin na gumamit ito ng custom na business logic, para mas gumana itong parang sanay na empleyado kaysa random na language generation.

May apat na pangunahing konsepto para mapabuti ang kalidad ng sagot ng LLM:

1. RAG
2. Fine tuning
3. N-shot prompting
4. Prompt engineering

1. Retrieval-augmented generation

Ang RAG ay magarang pangalan para sa simpleng bagay na ginagawa natin sa ChatGPT: pagkopya ng teksto at pagtatanong tungkol dito.

Karaniwang halimbawa nito ay ang pagtatanong kung may stock ang isang produkto sa e-commerce site, at ang chatbot ay titingin sa katalogo ng produkto (hindi sa buong internet).

Pagdating sa bilis ng development at pagkuha ng real-time na impormasyon, mahalaga ang RAG.

Hindi ito karaniwang nakakaapekto sa pagpili ng modelo, pero walang pumipigil na gumawa ng LLM API endpoint na kumukuha ng impormasyon at sumasagot, at gamitin ito na parang sarili nitong LLM.

Mas madaling i-maintain ang paggamit ng RAG para sa knowledge-based na chatbot, dahil hindi mo kailangang mag-fine-tune ng modelo at panatilihing updated—na maaari ring magbawas ng gastos.

2. Fine-tuning

Ang fine-tuning ay pagbibigay ng mga halimbawa sa modelo para matutunan nitong gawin nang mahusay ang isang gawain. Kung gusto mong mahusay itong magsalita tungkol sa produkto mo, magbigay ng maraming halimbawa ng pinakamahusay na sales call ng kumpanya mo.

Kung open source ang modelo, tanungin mo kung may sapat na kakayahan ang team mo para mag-fine-tune ng modelo.

Kung closed source ang modelo at ibinibigay bilang serbisyo—tulad ng GPT-4 o Claude—karaniwan ay puwedeng mag-fine-tune ng custom na modelo gamit ang API. Karaniwang mas mahal ito, pero halos walang maintenance.

Pero para sa maraming gamit, hindi fine-tuning ang unang hakbang sa pag-optimize ng modelo.

Magandang halimbawa ng fine-tuning ay ang paggawa ng knowledge bot para sa mga static na kaalaman. Sa pagbibigay ng mga halimbawa ng tanong at sagot, dapat kaya nitong sagutin ang mga ito sa hinaharap nang hindi na kailangang hanapin pa ang sagot. Pero hindi ito praktikal para sa real-time na impormasyon.

3. N-shot learning

Pinakamabilis na paraan para mapabuti ang kalidad ng tugon ay ang pagbibigay ng mga halimbawa sa isang LLM API call.

Zero-shot—walang halimbawa ng hinahanap mong sagot—ang karaniwang gamit natin sa ChatGPT. Ang pagdagdag ng isang halimbawa (one-shot) ay kadalasang sapat para makita ang malaking pagbuti sa kalidad ng tugon.

Higit sa isang halimbawa ay tinatawag na n-shot. Hindi nito binabago ang modelo, di tulad ng fine-tuning. Nagbibigay ka lang ng mga halimbawa bago magtanong, tuwing magtatanong ka.

Pero hindi puwedeng sobra-sobra ang estratehiyang ito: may maximum context size ang LLM models, at ang presyo ay ayon sa laki ng mensahe. Maaaring alisin ng fine-tuning ang pangangailangan sa n-shot na mga halimbawa, pero mas matagal itong gawin nang tama.

4. Prompt engineering techniques

May iba pang teknik sa prompt engineering, tulad ng chain-of-thought, na nagpapaisip nang malakas ang mga modelo bago sumagot.

Mayroon ding prompt chaining, na hinihikayat ang mga modelo na hatiin ang masalimuot na gawain sa mas maliliit na hakbang sa pamamagitan ng sunud-sunod na prompts.

Malaki ang naitutulong ng mga estratehiyang ito sa pagpapataas ng kalidad at pagiging maaasahan ng mga sagot—lalo na sa mga gawaing nangangailangan ng matinding pangangatwiran—ngunit kadalasan ay nagreresulta ito sa mas mahahabang sagot, mas mataas na paggamit ng token, at mas mabagal na pagganap.

Pinapataas nito ang kalidad ng tugon, pero kapalit nito ay mas mahaba, mas mahal, at mas mabagal na tugon.

Paano Gumawa ng LLM Agent sa 6 na Hakbang

1. Tukuyin ang mga Layunin

Ang unang hakbang sa paggawa ng AI agent o chatbot ay tukuyin kung ano talaga ang gusto mong magawa nito.

Linawin kung ano ang nais mong makamit ng LLM agent, kung ito man ay tumulong sa customer inquiries, gumawa ng content, o mag-asikaso ng partikular na gawain.

Ang pagtukoy ng malinaw na layunin ang maghuhubog sa setup at configuration ng agent.

2. Pumili ng AI Platform

Ang pinakamahusay na AI platform ay nakadepende nang buo sa iyong mga layunin at pangangailangan.

Pumili ng platform na tumutugma sa iyong mga kinakailangan, isaalang-alang ang mga opsyon sa pagpapasadya, kakayahan sa integrasyon, kadalian ng paggamit, at suporta.

Dapat suportahan ng platform ang mga sumusunod:

• Suportahan ang nais mong paggamit
• Mag-alok ng mga paboritong LLM
• Mag-alok ng kakayahang mag-integrate

3. Isaayos ang LLM

Batay sa mga opsyon ng platform, pumili ng pre-built na LLM o i-fine-tune ang modelo para sa espesyal na gawain kung kinakailangan.

Maraming platform ang may kasamang built-in na language models na pre-trained at handang gamitin.

Kung interesado kang i-customize ang paggamit ng LLM, basahin ang aming artikulo tungkol sa pagpili ng custom LLM option para sa AI project mo mula sa aming growth engineer na si Patrick Hamelin.

4. I-integrate ang mga Tool

Karamihan sa mga plataporma ay may mga opsyon sa integrasyon para sa panlabas na mga kasangkapan. Ikonekta ang anumang API, database, o mapagkukunan na kailangang ma-access ng iyong ahente, tulad ng CRM data o real-time na impormasyon.

5. Subukan at Pahusayin

Subukan nang mabuti ang agent gamit ang mga built-in na kasangkapan sa pagsusuri ng platform. Ayusin ang mga parameter, paraan ng pag-prompt, at daloy batay sa resulta ng pagsusuri upang matiyak na mahusay ang pagganap ng agent sa totoong sitwasyon.

6. I-deploy at Bantayan

Gamitin ang mga kasangkapan sa pagmamanman ng plataporma para subaybayan ang mga interaksyon at pagganap ng ahente matapos itong ilunsad.

Mangolekta ng mga pananaw at pinuhin ang setup kung kinakailangan, gamit ang anumang mekanismo ng feedback na inaalok ng plataporma.

Maglunsad ng sariling LLM na ahente

Malawak na tinatanggap ng mga negosyo ang LLM na mga ahente—sa serbisyo sa kostumer, panloob na operasyon, at e-commerce. Ang mga kumpanyang mabagal magpatupad ay mararamdaman ang epekto ng hindi pagsabay sa AI.

Ang Botpress ay isang plataporma ng AI na ahente na walang katapusang mapapalawak at ginawa para sa mga negosyo. Pinapayagan ng aming teknolohiya ang mga developer na bumuo ng LLM na mga ahente na may anumang kakayahang kailanganin mo.

Tinitiyak ng aming pinalakas na seguridad na laging protektado ang datos ng mga customer, at ganap na kontrolado ng inyong development team.

Simulan ang paggawa ngayon. Libre ito.

O makipag-ugnayan sa aming team para malaman pa.

FAQs

1. Ano ang pagkakaiba ng LLM na ahente at chatbot?

Ang chatbot ay kadalasang sumusunod sa nakatakdang script o daloy, samantalang mas maliksi ang LLM na ahente. Gumagamit ang LLM na mga ahente ng malaking language model para magpasya, kumuha ng impormasyon, gumamit ng mga kasangkapan, at magpasya.

2. Maaari bang gumana ang LLM na mga ahente kahit walang internet?

Bahagyang maaaring gumana ang LLM na mga ahente kahit walang internet, kung lahat ng kailangan nila (tulad ng language model at data) ay tumatakbo nang lokal. Pero karamihan ay umaasa sa cloud-based na serbisyo para sa real-time na datos, panlabas na API, o napapanahong kaalaman.

3. Palaging kailangan ba ng LLM na mga ahente ng language model backend?

Oo, iyon talaga ang pangunahing sangkap. Ang "LLM" sa LLM na ahente ay nangangahulugang malaking language model. Kung wala ito, mawawala sa ahente ang kakayahang umunawa o bumuo ng natural na wika.

4. Ano ang mga pangunahing limitasyon o panganib sa paggamit ng LLM na mga ahente ngayon?

Maaaring magkamali sila, maipit sa malabong utos, o makapagbunyag ng sensitibong impormasyon kung hindi protektado. Dagdag pa, kasing talino lang sila ng datos at disenyo sa likod nila.

5. Anong mga industriya ang pinakamabilis na tumatanggap ng LLM na mga ahente?

Serbisyo sa kostumer, IT support, healthcare, at sales ang mabilis na sumusubok. Sa madaling salita, kahit saan na maraming paulit-ulit na gawaing nakabatay sa wika na puwedeng i-automate.