Con người trong vòng lặp AI: Độ chính xác cao hơn, rủi ro thấp hơn

Nếu bạn đang cân nhắc cải thiện doanh nghiệp bằng AI, bạn không phải là người duy nhất. Khi chatbot AI đang trở thành kênh giao tiếp phát triển nhanh nhất, chúng không còn là điều xa xỉ nữa – mà là điều khách hàng mong đợi.

Nhưng việc từ bỏ quyền kiểm soát đó có thể khiến bạn cảm thấy lo lắng. Giao phó các hoạt động quan trọng cho một 'thuật toán hộp đen' có thể là một bước đi đầy mạo hiểm.

Và đúng vậy, đó là lý do tại sao doanh nghiệp dựa vào sự can thiệp của con người để định hướng AI. Gần như tất cả các AI agent đều có yếu tố human-in-the-loop – tức là con người giám sát hoạt động của AI.

Trong bài viết này, tôi sẽ giải thích khái niệm này là gì, cách nó hoạt động và đưa ra một số ví dụ về việc con người can thiệp hàng ngày để giúp người dùng kiểm soát tốt hơn chatbot AI và các agent.

Human-in-the-loop là gì?

Human-in-the-loop (HITL) là phương pháp hợp tác giữa AI và con người, trong đó ý kiến của con người được dùng để cải thiện hoặc mở rộng khả năng của AI. Điều này có thể là dữ liệu được con người gán nhãn, chỉnh sửa kết quả mô hình, hoặc để con người thực hiện toàn bộ nhiệm vụ khi AI không chắc chắn hoặc không hiệu quả.

Thuật ngữ này có thể hơi mơ hồ. Về mặt kỹ thuật, nó chỉ bất kỳ sự tham gia nào của con người trong vòng đời của ứng dụng AI – từ gán nhãn dữ liệu, đánh giá mô hình đến học chủ động và xử lý tình huống phức tạp.

Trên thực tế, khi các nhà cung cấp AI cung cấp tính năng HITL, thường có nghĩa là giám sát kết quả của AI: cơ hội để kiểm tra phản hồi và chuyển tiếp các cuộc trò chuyện chatbot cho nhân viên hỗ trợ.

Con người “trong vòng lặp” AI như thế nào?

Một quy trình AI vận hành tốt sẽ có nhiều điểm để con người tham gia.

AI được huấn luyện để phát hiện các mẫu trong dữ liệu huấn luyện, rồi áp dụng các mẫu đó cho dữ liệu mới. Chúng ta quyết định dữ liệu nào cho mô hình xem, nhưng không kiểm soát được mô hình sẽ rút ra mẫu nào.

Ở mọi bước của quá trình – thu thập dữ liệu, huấn luyện và triển khai – con người chịu trách nhiệm đảm bảo mô hình hoạt động đúng như mong đợi.

Tùy vào vị trí và cách thức can thiệp, sự tham gia của con người có thể thuộc một trong các nhóm sau:

Cung cấp phản hồi cho học liên tục

Bạn từng thấy ChatGPT hỏi bạn chọn phản hồi nào tốt hơn chưa? Phản hồi này có thể được dùng làm dữ liệu mới để mô hình tiếp tục học.

Tuy nhiên, phản hồi không nhất thiết phải rõ ràng như vậy.

Hãy nghĩ đến các đề xuất trên mạng xã hội. Mô hình dự đoán liên tục gợi ý nội dung dựa trên lịch sử của bạn. Khi bạn sử dụng nền tảng, lựa chọn của bạn được dùng làm dữ liệu để mô hình đề xuất tiếp tục học.

Trong trường hợp này, bạn chính là con người trong vòng lặp. Và khi sử dụng ứng dụng, bạn đang góp phần định hướng các đề xuất trong tương lai.

Đây là một vòng lặp hoàn chỉnh: mô hình được huấn luyện trên dữ liệu, người dùng tương tác với mô hình, và các tương tác này lại tạo ra dữ liệu mới để mô hình tiếp tục học.

Xử lý các tình huống phức tạp

HITL không nhất thiết nhằm cải thiện hệ thống. Đôi khi, nó là việc chuyển các trường hợp khó cho con người xử lý.

Hãy lấy ví dụ về một chatbot hỗ trợ khách hàng. Nó giúp giảm tải đáng kể công việc cho đội ngũ của bạn bằng cách trả lời 95% câu hỏi một cách rõ ràng, ngắn gọn và chính xác.

Nhưng vẫn còn 5% còn lại.

Một số trường hợp sẽ quá đặc thù hoặc hiếm gặp, vượt ngoài khả năng của AI. Dù sự can thiệp của con người không cải thiện mô hình trong trường hợp này, đây là ví dụ điển hình về cách con người và máy học phối hợp hiệu quả.

Gán nhãn dữ liệu để huấn luyện

Về mặt kỹ thuật, hầu hết các hệ thống máy học đều có yếu tố HITL. Vì vậy, khi nói về HITL, chúng ta chủ yếu đề cập đến các nhóm trên.

Tuy nhiên, sẽ thiếu sót nếu không nhắc đến công sức và chuyên môn của con người trong vòng lặp máy học.

Dữ liệu là nền tảng của AI, và nó phụ thuộc vào con người. Mô hình AI được huấn luyện để dự đoán nhãn dựa trên dữ liệu đầu vào. Nhãn là kết quả mong đợi của AI, và con người là người tạo ra chúng.

Một số ví dụ về gán nhãn dữ liệu bởi con người gồm:

• Viết tay câu trả lời cho câu hỏi để huấn luyện mô hình ngôn ngữ lớn (LLMs)
• Chuyển âm thanh thành văn bản cho các mô hình nhận diện giọng nói.
• Gán nhãn đối tượng trong hình ảnh cho các mô hình nhận diện đối tượng
• Đánh dấu email mẫu là spam hoặc không spam cho bộ lọc thư rác của ứng dụng email

Đánh giá hiệu suất mô hình

Phần lớn thời gian xây dựng mô hình AI là để tìm cách cải thiện chúng. Dù có vô số chỉ số có thể tính toán như độ chính xác và độ bao phủ, nhưng cần chuyên môn để hiểu mô hình hoạt động ra sao và quan trọng hơn là nên làm gì tiếp theo.

Ví dụ, một nhà nghiên cứu có thể nhận thấy mô hình nhận diện tốt hình ảnh chó, nhưng lại không nhận ra bánh mì kẹp xúc xích. Thường có thể khắc phục bằng cách bổ sung hoặc đa dạng hóa hình ảnh bánh mì kẹp xúc xích.

Đôi khi mô hình trò chuyện gặp khó khăn khi nhớ thông tin từ các tin nhắn trước đó. Nhà nghiên cứu thường sẽ điều chỉnh kiến trúc hoặc phương pháp sinh phản hồi của mô hình để giải quyết vấn đề này.

Lợi ích của AI Human-in-the-Loop

AI có thể rất hiệu quả trong việc nhận diện các mẫu tinh vi, nhưng con người thì thông minh.

HITL kết hợp sự tinh tế của con người với hiệu quả của tự động hóa quy trình AI để tạo ra phản hồi phù hợp với trải nghiệm mà người dùng và nhà cung cấp mong muốn.

1. Độ chính xác và tin cậy

Điều này quá rõ ràng. Có gì tốt hơn AI thông thường? Đó là AI đã được chỉnh sửa.

Không chỉ tối ưu hóa cho các trường hợp đặc biệt mà còn đáng tin cậy vì người dùng biết rằng kết quả sẽ luôn được kiểm tra và cải thiện.

2. Giảm thiên lệch

Dữ liệu không hoàn hảo, và kết quả mô hình sẽ phản ánh điều đó. Thiên lệch – ưu tiên một số kết quả hơn các kết quả khác – là vấn đề phổ biến trong máy học và AI.

Ví dụ như tạo hình ảnh mang tính phân biệt chủng tộc, hoặc đánh giá năng lực làm việc dựa trên giới tính là những cách AI phản ánh thiên lệch trong dữ liệu huấn luyện.

HITL cho phép con người phát hiện các vấn đề này và điều chỉnh mô hình hướng tới kết quả công bằng hơn.

3. Cải tiến liên tục và thích nghi

Việc huấn luyện không kết thúc khi mô hình được triển khai. HITL cho phép mô hình tiếp tục học từ dữ liệu mới để tổng quát hóa tốt hơn với các trường hợp chưa từng gặp.

Ví dụ, chỉnh sửa văn bản do AI tạo ra hoặc theo dõi lựa chọn nội dung của người dùng cung cấp thêm dữ liệu để mô hình cải thiện.

Nhưng chỉ cải thiện thôi thì chưa đủ; mô hình còn cần phải thay đổi.

Chúng ta thường quên rằng mình luôn thích nghi với thế giới thay đổi. Với AI, điều này không tự nhiên xảy ra. HITL kết hợp chuyên môn và phán đoán tinh tế để giữ cho kết quả của mô hình phù hợp với thời đại.

4. Minh bạch và tạo niềm tin

Sự tham gia của con người giúp quyết định của AI minh bạch hơn. Khi con người chỉnh sửa kết quả hoặc xử lý các trường hợp không chắc chắn, người dùng sẽ yên tâm rằng họ đang tương tác với một thuật toán hợp lý.

Chúng ta vẫn kiểm soát AI, chứ không phải ngược lại.

Các trường hợp ứng dụng Human-in-the-Loop

1. Xe tự lái

Với giá trị thị trường dự kiến đạt 3,9 nghìn tỷ USD trong thập kỷ tới, xe tự lái có thể sẽ là lĩnh vực đột phá tiếp theo của AI. Công nghệ này sử dụng các mô hình nhận diện đối tượng và ra quyết định liên tục để mô phỏng cách con người lái xe.

Nhưng đối với một thứ tưởng như hoàn toàn tự động, nó lại phụ thuộc khá nhiều vào con người. Các mô hình liên tục quan sát thói quen lái xe của con người và so sánh quyết định của họ với dự đoán của chính mình.

2. Bán lẻ

Một chatbot bán lẻ là cách tuyệt vời để tự động hóa tương tác với khách hàng mà vẫn mang lại trải nghiệm cá nhân hóa. HITL giúp bạn giữ cho trải nghiệm đó mượt mà và phù hợp với doanh nghiệp của mình. Ví dụ, bạn có thể:

• Xem lại và chỉnh sửa các đề xuất sản phẩm của bot
• Để khách hàng trao đổi về nhu cầu cơ bản trước khi chuyển tiếp cho nhân viên hỗ trợ

3. Tài chính

Chatbot tài chính là giải pháp kết hợp hiệu quả giữa tự động hóa AI và chuyên môn của con người.

Hệ thống phát hiện gian lận rất giỏi nhận biết các hoạt động đáng ngờ trong giao dịch. Nhưng không phải hoạt động đáng ngờ nào cũng là lừa đảo, và bạn cũng không muốn thẻ của mình bị khóa chỉ vì thay đổi món cà phê.

HITL có thể chuyển các trường hợp rủi ro thấp, độ chắc chắn thấp cho con người xử lý.

Đánh giá rủi ro khoản vay là lĩnh vực khác mà AI làm rất tốt – nó có thể tính xác suất dựa trên nhiều dữ liệu tưởng chừng không liên quan. Tuy nhiên, dữ liệu đó gần như chắc chắn sẽ có một số thiên lệch.

Đảm bảo công bằng và giảm thiểu thiên lệch thường cần đến sự can thiệp của con người.

4. Y tế

Người dùng reddit được Claude cứu sống sẽ là người đầu tiên ủng hộ tiềm năng của AI trong lĩnh vực y tế.

Chatbot AI y tế đã thể hiện một phần tiềm năng, nhưng AI còn có thể giúp xác định chẩn đoán dựa trên kết quả MRI, hoặc đề xuất các bước tiếp theo dựa trên kết quả xét nghiệm. Tuy nhiên, tôi chưa sẵn sàng bỏ qua bác sĩ.

HITL mang lại lợi ích từ cả hai phía: phát hiện những trường hợp bác sĩ có thể bỏ sót, đồng thời vẫn để bác sĩ quyết định cuối cùng.

Ứng dụng AI kết hợp con người ngay hôm nay

Botpress đã triển khai hàng ngàn bot với sự giám sát liền mạch của con người, và đây là nền tảng tác nhân AI linh hoạt nhất trên thị trường.

Botpress tích hợp sẵn HITL, trình xây dựng kéo-thả trực quan và triển khai trên tất cả các kênh giao tiếp phổ biến (bao gồm Slack, Telegram, WhatsApp, web), nên sử dụng AI không đồng nghĩa với việc mất đi sự tương tác cá nhân.

Bắt đầu xây dựng ngay hôm nay. Miễn phí.

Câu hỏi thường gặp

Làm sao tôi biết hệ thống AI của mình có cần sự tham gia của con người không?

Hệ thống AI của bạn có thể cần sự tham gia của con người nếu nó xử lý các quyết định quan trọng, thường gặp các tình huống mơ hồ hoặc hiếm gặp, có nguy cơ tạo ra kết quả thiên lệch hoặc gây hại, hoặc hoạt động trong các lĩnh vực mà độ chính xác tuyệt đối và phán đoán của con người là cần thiết để tuân thủ hoặc tạo dựng niềm tin với khách hàng.

Human-in-the-loop có thể áp dụng cho các quy trình kinh doanh không kỹ thuật, hay chỉ dành cho các mô hình AI?

Human-in-the-loop có thể áp dụng cho các quy trình kinh doanh không kỹ thuật như xem xét khiếu nại của khách hàng hoặc kiểm duyệt nội dung, vì nó có nghĩa là đưa phán đoán của con người vào bất kỳ quy trình tự động nào mà quyết định của máy móc có thể chưa đủ.

Việc sử dụng human-in-the-loop có khiến hệ thống AI của tôi kém tiên tiến hơn không?

Sử dụng human-in-the-loop không có nghĩa là hệ thống AI của bạn kém tiên tiến. Điều đó cho thấy bạn ưu tiên an toàn và công bằng bằng cách kết hợp tốc độ, khả năng nhận diện mẫu của AI với phán đoán của con người cho các quyết định phức tạp, điều này thường rất quan trọng.

AI human-in-the-loop có hiệu quả về chi phí cho doanh nghiệp nhỏ không, hay chỉ phù hợp với doanh nghiệp lớn?

AI human-in-the-loop ngày càng hiệu quả về chi phí cho doanh nghiệp nhỏ nhờ các công cụ hiện đại cho phép bạn chỉ cần con người tham gia vào các trường hợp phức tạp, giảm thiểu chi phí lao động mà vẫn nâng cao độ chính xác và sự tin cậy mà không cần đội ngũ lớn.

Chi phí để bổ sung quy trình human-in-the-loop vào hệ thống AI là bao nhiêu?

Việc bổ sung quy trình human-in-the-loop có thể tốn rất ít – nếu bạn chỉ thỉnh thoảng dùng nhân viên nội bộ – hoặc tốn kém hơn, lên đến hàng trăm hoặc hàng nghìn đô la mỗi tháng nếu cần người kiểm duyệt chuyên trách hoặc nhà thầu chuyên môn, chi phí chủ yếu phụ thuộc vào khối lượng và độ phức tạp của các nhiệm vụ con người phải xử lý.