Human-in-the-Loop w AI: Większa precyzja, mniejsze ryzyko

Jeśli myślisz o usprawnieniu swojej firmy dzięki AI, nie jesteś sam. Chatboty AI to najszybciej rozwijający się kanał komunikacji – dziś to już nie luksus, a oczekiwanie.

Jednak oddanie kontroli może budzić obawy. Przekazanie kluczowych procesów tzw. „czarnej skrzynce” to duży krok.

I słusznie, dlatego firmy polegają na interwencji człowieka, by kierować AI. Niemal wszystkie frameworki agentów AI uwzględniają human-in-the-loop – czyli ludzki nadzór nad działaniem AI.

W tym artykule wyjaśnię, czym jest HITL, jak działa i pokażę przykłady codziennego wykorzystania interwencji człowieka, by użytkownicy mieli większą kontrolę nad chatbotami AI i agentami.

Czym jest human-in-the-loop?

Human-in-the-loop (HITL) to podejście do AI, w którym udział człowieka służy ulepszaniu lub rozszerzaniu możliwości sztucznej inteligencji. Może to być oznaczanie danych przez ludzi, poprawianie wyników modelu lub przejmowanie zadań, gdy AI jest niepewne lub nieskuteczne.

To pojęcie bywa niejednoznaczne. Technicznie odnosi się do każdego udziału człowieka w cyklu życia aplikacji AI – od oznaczania danych i oceny modeli po aktywne uczenie i eskalacje.

W praktyce, gdy dostawcy AI oferują funkcje HITL, zwykle chodzi o nadzór nad wynikami AI: możliwość przeglądania odpowiedzi i przekazywania rozmów z chatbotem do ludzkiego agenta.

Jak ludzie są „w pętli” w AI?

Dobrze działający proces AI przewiduje kilka miejsc, w których człowiek może się zaangażować.

AI uczy się rozpoznawać wzorce w danych treningowych, a potem stosuje je do nowych danych. To my decydujemy, jakie dane zobaczy model, ale nie mamy wpływu na to, jakie wzorce z nich wyciągnie.

Na każdym etapie – od zbierania danych, przez trening, po wdrożenie – to ludzie dbają, by model działał zgodnie z oczekiwaniami.

W zależności od miejsca i sposobu interwencji człowieka, można wyróżnić następujące kategorie:

Udzielanie informacji zwrotnej dla ciągłego uczenia

Znasz sytuację, gdy ChatGPT pyta, która z dwóch odpowiedzi jest lepsza? Taka informacja zwrotna może posłużyć jako nowe dane do treningu modelu.

Informacja zwrotna nie musi być jednak jawna.

Pomyśl o rekomendacjach w mediach społecznościowych. Model predykcyjny nieustannie podpowiada treści na podstawie Twojej historii. Twoje wybory są wykorzystywane jako dane do ciągłego uczenia modelu rekomendacji.

W tym przypadku Ty jesteś człowiekiem w pętli. Korzystając z aplikacji, wskazujesz kierunek przyszłych rekomendacji.

I tu koło się zamyka: model uczy się na danych, użytkownicy wchodzą z nim w interakcje, a te interakcje stają się kolejnymi danymi do treningu.

Obsługa sytuacji eskalowanych

HITL nie zawsze służy ulepszaniu systemu. Czasem chodzi o przekazanie trudnych przypadków ludziom.

Weźmy chatbota obsługi klienta. Przejmuje on sporą część pracy zespołu, odpowiadając na 95% pytań jasno i precyzyjnie.

Ale zostaje te 5%.

Niektóre przypadki są tak specyficzne lub nietypowe, że AI sobie z nimi nie poradzi. Choć interwencja człowieka nie poprawia tu modelu, to świetny przykład współpracy ludzi i uczenia maszynowego.

Oznaczanie danych do treningu

Technicznie rzecz biorąc, niemal całe uczenie maszynowe opiera się na mechanizmie HITL. Dlatego mówiąc o HITL, zwykle mamy na myśli powyższe kategorie.

Warto jednak podkreślić rolę pracy i wiedzy ludzi w procesie uczenia maszynowego.

Dane to podstawa AI i są zależne od ludzi. Modele AI uczą się przewidywać etykiety na podstawie danych wejściowych. Etykiety to oczekiwane wyniki AI i to my, ludzie, je tworzymy.

Przykłady oznaczania przez ludzi:

• Ręczne pisanie odpowiedzi na polecenia do treningu dużych modeli językowych (LLM)
• Transkrypcja nagrań audio dla modeli rozpoznawania mowy.
• Oznaczanie obiektów na obrazach dla modeli detekcji obiektów
• Oznaczanie przykładowych e-maili jako spam lub nie-spam dla detektora spamu w kliencie poczty

Ocena działania modelu

Najwięcej czasu przy budowie modeli AI pochłania szukanie sposobów na ich ulepszenie. Można liczyć wiele różnych wskaźników, jak precyzja i czułość, ale to eksperci oceniają, jak naprawdę działa model i co z tym zrobić.

Na przykład badacz może zauważyć, że model świetnie rozpoznaje psy na zdjęciach, ale już hot dogi niekoniecznie. Zwykle wystarczy dodać lub urozmaicić zdjęcia hot dogów.

Czasem model konwersacyjny ma problem z zapamiętywaniem wcześniejszych wiadomości. Wtedy badacz wprowadza zmiany w architekturze lub sposobie generowania odpowiedzi.

Korzyści z Human-in-the-Loop AI

AI potrafi rozpoznawać subtelne wzorce z ogromną skutecznością, ale ludzie są inteligentni.

HITL polega na połączeniu ludzkiej wrażliwości z wydajnością automatyzacji procesów AI, by odpowiedzi były dopasowane do oczekiwań użytkowników i dostawców.

1. Dokładność i niezawodność

To oczywiste. Co jest lepsze od samej AI? AI, którą poprawiono.

Jest nie tylko zoptymalizowana do trudnych przypadków, ale też niezawodna, bo użytkownicy wiedzą, że wyniki są stale weryfikowane i ulepszane.

2. Ograniczanie uprzedzeń

Dane są niedoskonałe, a wyniki modeli to odzwierciedlają. Uprzedzenia – czyli faworyzowanie pewnych wyników – to problem w uczeniu maszynowym i AI.

Przykłady to generowanie obrazów z uprzedzeniami rasowymi czy ocenianie kwalifikacji do pracy według płci – AI odzwierciedla uprzedzenia obecne w danych treningowych.

HITL pozwala ludziom zgłaszać takie problemy i kierować model w stronę sprawiedliwszych wyników.

3. Ciągłe doskonalenie i adaptacja

Trening nie kończy się wraz z wdrożeniem modelu. HITL pozwala modelowi uczyć się na nowych danych i lepiej radzić sobie z nieznanymi przypadkami.

Na przykład edycja wygenerowanego tekstu lub śledzenie wyborów treści przez użytkowników dostarcza modelowi kolejnych danych do poprawy.

Ale samo doskonalenie modelu nie wystarczy; musi się też zmieniać.

Łatwo zapomnieć, jak bardzo dostosowujemy się do zmieniającego się świata. W przypadku AI to nie jest oczywiste. HITL łączy wiedzę i wyczucie, by wyniki modelu były na bieżąco z rzeczywistością.

4. Przejrzystość i zaufanie

Zaangażowanie ludzi sprawia, że decyzje AI są bardziej przejrzyste. Gdy ludzie poprawiają wyniki lub rozwiązują przypadki o niskim poziomie pewności, użytkownicy mogą mieć pewność, że mają do czynienia z sensownym algorytmem.

To my kontrolujemy AI, a nie odwrotnie.

Przykłady zastosowań Human-in-the-Loop

1. Autonomiczna jazda

Przy prognozowanej wartości rynku na 3,9 biliona USD w ciągu najbliższej dekady, autonomiczna jazda może być kolejną wielką granicą w AI. Wykorzystuje modele detekcji obiektów i podejmowanie decyzji z chwili na chwilę, aby symulować prowadzenie pojazdu przez człowieka.

Ale mimo tak dużej automatyzacji, systemy te mocno polegają na ludziach. Modele nieustannie obserwują ludzkie wzorce jazdy i porównują własne decyzje z przewidywaniami.

2. Handel detaliczny

Chatboty dla handlu detalicznego to świetny sposób na automatyzację kontaktu z klientem przy zachowaniu indywidualnego podejścia. HITL pozwala utrzymać wysoką jakość obsługi i dostosować ją do potrzeb firmy. Przykładowo możesz:

• Przeglądać i poprawiać rekomendacje produktów proponowane przez bota
• Pozwolić klientowi opisać swoje podstawowe potrzeby przed przekazaniem sprawy do konsultanta

3. Finanse

Chatboty finansowe doskonale łączą automatyzację AI z wiedzą ekspercką człowieka.

Systemy wykrywające oszustwa świetnie wyłapują podejrzane transakcje. Jednak nie każda podejrzana aktywność jest zła, a nikt nie chce, by karta była blokowana za każdym razem, gdy zmieni zamówienie kawy.

HITL pozwala przekazać przypadki o niskim ryzyku i niepewnej ocenie do weryfikacji przez człowieka.

Ocena ryzyka kredytowego to kolejna dziedzina, w której AI się sprawdza – potrafi analizować prawdopodobieństwa na podstawie wielu, pozornie niezwiązanych danych. Jednak te dane niemal zawsze zawierają pewne uprzedzenia.

Aby zachować sprawiedliwość i ograniczyć stronniczość, często potrzebna jest interwencja człowieka.

4. Opieka zdrowotna

Użytkownik Reddita, którego życie uratował Claude, najlepiej pokazuje potencjał AI w medycynie.

Medyczne chatboty AI już pokazały swoje możliwości, ale to nie wszystko: AI może pomóc w postawieniu diagnozy na podstawie MRI czy zasugerować kolejne badania na podstawie wyników. Jednak nie jestem gotowy rezygnować z lekarzy.

HITL łączy oba światy: pozwala wychwycić przypadki, które mogłyby umknąć lekarzom, a jednocześnie to oni podejmują ostateczną decyzję.

Wypróbuj AI wspieraną przez ludzi już dziś

Botpress obsługuje tysiące botów z płynnym nadzorem człowieka i jest najbardziej elastyczną platformą AI na rynku.

Botpress oferuje integrację HITL, wizualny kreator typu „przeciągnij i upuść” oraz wdrożenia na wszystkich popularnych kanałach komunikacji (w tym Slack, Telegram, WhatsApp, web), więc korzystanie z AI nie oznacza rezygnacji z indywidualnego podejścia.

Zacznij budować już dziś. To nic nie kosztuje.

Najczęstsze pytania

Skąd mam wiedzieć, czy mój system AI potrzebuje udziału człowieka w procesie?

Twój system AI prawdopodobnie wymaga udziału człowieka, jeśli podejmuje decyzje o dużym znaczeniu, często napotyka niejednoznaczne lub rzadkie sytuacje, istnieje ryzyko generowania stronniczych lub szkodliwych wyników albo działa w obszarach, gdzie kluczowa jest precyzja i zaufanie do ludzkiego osądu.

Czy udział człowieka w procesie można stosować także w nietechnicznych procesach biznesowych, czy tylko w modelach AI?

Udział człowieka można wprowadzić także w nietechnicznych procesach, np. przy rozpatrywaniu reklamacji klientów czy moderacji treści, ponieważ oznacza to włączenie ludzkiego osądu do każdego zautomatyzowanego procesu, gdzie decyzje maszyny mogą być niewystarczające.

Czy korzystanie z udziału człowieka oznacza, że mój system AI jest mniej zaawansowany?

Wykorzystanie udziału człowieka nie oznacza, że Twój system AI jest mniej zaawansowany. Pokazuje, że stawiasz na bezpieczeństwo i sprawiedliwość, łącząc szybkość i analizę AI z ludzkim osądem przy złożonych decyzjach, co często jest niezbędne.

Czy AI z udziałem człowieka jest opłacalna dla małych firm, czy tylko dla dużych przedsiębiorstw?

AI z udziałem człowieka staje się coraz bardziej opłacalna dla małych firm, ponieważ nowoczesne narzędzia pozwalają angażować ludzi tylko w trudniejszych przypadkach, minimalizując koszty pracy i jednocześnie zwiększając dokładność oraz zaufanie bez potrzeby dużego zespołu.

Ile kosztuje wdrożenie procesów z udziałem człowieka do systemu AI?

Koszt wdrożenia procesów z udziałem człowieka może być minimalny – jeśli okazjonalnie korzystasz z własnych pracowników – lub znaczący, sięgający setek lub tysięcy dolarów miesięcznie, jeśli potrzebujesz dedykowanych recenzentów lub specjalistycznych podwykonawców. Koszty zależą głównie od wolumenu i złożoności zadań wymagających udziału człowieka.