Human-in-the-Loop dalam AI: Akurasi Lebih Baik, Risiko Lebih Rendah

Jika Anda ingin meningkatkan bisnis dengan AI, Anda tidak sendirian. Dengan chatbot AI menjadi saluran komunikasi dengan pertumbuhan tercepat, kini chatbot bukan lagi kemewahan—melainkan sudah menjadi harapan.

Namun, menyerahkan kendali bisa terasa menakutkan. Mempercayakan operasi penting pada 'algoritma kotak hitam' bisa terasa seperti lompatan besar.

Dan memang demikian, itulah sebabnya bisnis mengandalkan intervensi manusia untuk mengarahkan AI. Hampir semua kerangka kerja agen AI menyertakan human-in-the-loop—pengawasan manusia atas operasi AI.

Pada artikel ini, saya akan menjelaskan apa itu HITL, cara kerjanya, dan memberikan beberapa contoh bagaimana intervensi manusia digunakan setiap hari untuk memberikan lebih banyak kendali kepada pengguna atas chatbot AI dan agen.

Apa itu human-in-the-loop?

Human-in-the-loop (HITL) adalah pendekatan kolaboratif pada AI di mana masukan manusia digunakan untuk meningkatkan atau memperluas kemampuan AI. Ini bisa berupa data yang dianotasi manusia, koreksi hasil model, atau manusia yang mengambil alih tugas sepenuhnya ketika AI ragu atau tidak efektif.

Istilah ini bisa sedikit ambigu. Secara teknis, istilah ini merujuk pada setiap keterlibatan manusia dalam siklus hidup aplikasi AI—mulai dari pelabelan data dan evaluasi model hingga pembelajaran aktif dan eskalasi.

Dalam praktiknya, ketika penyedia AI menawarkan fitur HITL, umumnya berarti pengawasan terhadap hasil AI: kesempatan untuk meninjau respons dan mengeskalasikan interaksi chatbot ke agen manusia.

Bagaimana manusia "masuk dalam lingkaran" di AI?

Sebuah pipeline AI yang baik akan memiliki beberapa titik masuk untuk manusia.

AI dilatih untuk menemukan pola dalam data latihannya, lalu menggeneralisasi pola tersebut ke data baru yang belum pernah dilihat. Kita yang menentukan data apa yang dilihat model, tapi bukan pola apa yang diambil dari data itu.

Di setiap langkah proses—pengumpulan data, pelatihan, dan penerapan—manusia bertanggung jawab memastikan model bekerja sesuai harapan.

Tergantung di mana dan bagaimana intervensi manusia terjadi, ini bisa masuk dalam salah satu kategori berikut:

Memberikan Umpan Balik untuk Pembelajaran Berkelanjutan

Anda tahu saat ChatGPT menanyakan mana dari dua respons yang lebih baik? Umpan balik seperti ini bisa dijadikan data baru untuk melatih model.

Namun, umpan balik tidak selalu harus eksplisit.

Contohnya rekomendasi di media sosial. Model prediktif terus-menerus menyarankan konten berdasarkan riwayat Anda. Saat Anda menggunakan platform, pilihan konten Anda digunakan sebagai data untuk terus melatih model rekomendasi.

Dalam hal ini, Anda adalah manusianya. Dengan menggunakan aplikasi, Anda menjadi penentu untuk rekomendasi berikutnya.

Di sinilah siklusnya berputar penuh: model dilatih dengan data, pengguna berinteraksi dengan model, dan interaksi ini kemudian menciptakan data baru yang kembali digunakan untuk melatih model.

Menangani Situasi yang Dieskalasi

HITL tidak selalu tentang meningkatkan sistem. Kadang ini soal menyerahkan kasus sulit kepada manusia.

Pertimbangkan chatbot layanan pelanggan. Chatbot ini mengurangi sebagian besar beban kerja tim Anda dengan menjawab 95% pertanyaan secara jelas, ringkas, dan akurat.

Namun masih ada 5% sisanya.

Beberapa kasus akan sangat spesifik atau terlalu unik sehingga di luar kemampuan AI. Walaupun intervensi manusia tidak meningkatkan model dalam kasus ini, ini adalah contoh bagus bagaimana manusia dan machine learning bisa bekerja secara simbiotik.

Memberi Anotasi Data untuk Pelatihan

Secara teknis, hampir semua machine learning dibangun dengan mekanisme HITL. Karena itu, saat kita membahas HITL, biasanya kita merujuk pada kategori di atas.

Namun, saya harus menyoroti peran tenaga dan keahlian manusia dalam siklus machine learning.

Data adalah fondasi AI, dan sangat bergantung pada manusia. Model AI dilatih untuk memprediksi label berdasarkan data masukan. Label adalah keluaran yang diharapkan dari AI, dan manusialah yang membuatnya.

Beberapa contoh pelabelan oleh manusia antara lain:

• Menulis jawaban untuk prompt guna melatih large language models (LLMs)
• Menyalin audio untuk model pengenalan suara.
• Memberi anotasi pada objek di gambar untuk model deteksi objek
• Menandai contoh email sebagai spam atau bukan spam untuk detektor spam pada klien email

Mengevaluasi Performa Model

Sebagian besar waktu dalam membangun model AI dihabiskan untuk mencari cara memperbaikinya. Ada banyak metrik yang bisa dihitung, seperti presisi dan recall, namun dibutuhkan wawasan ahli untuk benar-benar memahami cara kerja model dan, yang lebih penting, apa yang harus dilakukan selanjutnya.

Misalnya, seorang peneliti mungkin melihat model sangat baik dalam mengenali gambar anjing, tapi tidak untuk hot dog. Ini biasanya bisa diperbaiki dengan menambah atau memperbanyak gambar hot dog.

Kadang model chat kesulitan mengingat informasi dari pesan sebelumnya. Peneliti biasanya mengatasi ini dengan menyesuaikan arsitektur model atau metode generasinya.

Manfaat Human-in-the-Loop pada AI

AI memang sangat efisien dan efektif dalam mengenali pola halus, tapi manusia itu cerdas.

HITL menggabungkan tingkat ketelitian manusia dengan efisiensi otomasi alur kerja AI sehingga respons dapat disesuaikan dengan pengalaman yang diinginkan pengguna dan penyedia.

1. Akurasi dan Keandalan

Yang satu ini sudah jelas. Apa yang lebih baik dari AI biasa? AI yang sudah dikoreksi.

Bukan hanya dioptimalkan untuk kasus-kasus khusus, tapi juga andal karena pengguna tahu hasilnya akan terus ditinjau dan diperbaiki.

2. Mengurangi Bias

Data tidak sempurna, dan hasil model akan mencerminkan itu. Bias—cenderung pada hasil tertentu—adalah masalah umum di machine learning dan AI.

Hal seperti pembuatan gambar bernuansa rasial, atau menentukan kelayakan kerja berdasarkan gender adalah contoh bagaimana AI mencerminkan bias dalam data pelatihan.

HITL memungkinkan orang menandai masalah ini dan mengarahkan model ke hasil yang lebih adil.

3. Peningkatan Berkelanjutan dan Adaptabilitas

Pelatihan tidak berhenti hanya karena model sudah digunakan. HITL memungkinkan model terus belajar dari data baru agar lebih baik dalam menangani kasus yang belum pernah ditemui.

Misalnya, mengedit teks yang dihasilkan atau mengikuti pilihan konten pengguna memberikan data tambahan yang bisa digunakan model untuk berkembang.

Namun, tidak cukup hanya model menjadi lebih baik; model juga harus bisa berubah.

Kita sering lupa betapa cepatnya kita beradaptasi dengan dunia yang terus berubah. Pada AI, hal ini tidak otomatis terjadi. HITL menggabungkan keahlian dan penilaian manusia untuk menjaga agar keluaran model tetap relevan dengan perkembangan zaman.

4. Transparansi dan Kepercayaan

Keterlibatan manusia membuat keputusan AI lebih transparan. Dengan manusia yang mengoreksi hasil atau menyelesaikan kasus yang tidak pasti, pengguna bisa merasa yakin bahwa mereka berinteraksi dengan algoritma yang masuk akal.

Ini membuat kita tetap mengendalikan AI, bukan sebaliknya.

Contoh Penggunaan Human-in-the-Loop

1. Mobil Otonom

Dengan nilai pasar yang diperkirakan mencapai USD 3,9 triliun dalam dekade mendatang, mobil otonom bisa jadi menjadi terobosan besar berikutnya di AI. Teknologi ini memanfaatkan model deteksi objek dan pengambilan keputusan setiap saat untuk meniru cara manusia mengemudi.

Namun, untuk sesuatu yang sangat otomatis, sistem ini tetap sangat bergantung pada manusia. Model-modelnya terus-menerus mengamati pola mengemudi manusia dan membandingkan pengambilan keputusan mereka dengan prediksi yang dihasilkan sendiri.

2. Ritel

Chatbot ritel adalah cara yang bagus untuk mengotomatisasi interaksi pelanggan sambil tetap memberikan pengalaman yang personal. HITL memungkinkan Anda menjaga pengalaman tersebut tetap lancar dan sesuai dengan bisnis Anda. Misalnya, Anda bisa:

• Meninjau dan memperbaiki rekomendasi produk dari bot
• Meminta pelanggan menjelaskan kebutuhan dasarnya sebelum diteruskan ke agen manusia

3. Keuangan

Chatbot keuangan adalah cara efektif untuk menggabungkan otomatisasi AI dengan keahlian manusia.

Sistem deteksi penipuan sangat baik dalam mengenali aktivitas mencurigakan pada transaksi. Namun, tidak semua aktivitas mencurigakan itu berbahaya, dan Anda tentu tidak ingin kartu Anda diblokir setiap kali mengganti pesanan kopi.

HITL dapat mengalihkan kasus dengan tingkat kepastian dan risiko rendah ke manusia.

Penilaian risiko pinjaman juga merupakan bidang di mana AI unggul—AI sangat baik dalam menghitung probabilitas dari berbagai data yang tampaknya tidak berhubungan. Namun, data tersebut hampir pasti mengandung bias.

Menjaga keadilan dan mengurangi bias sering kali memerlukan bantuan manusia.

4. Kesehatan

Pengguna reddit yang hidupnya diselamatkan oleh Claude akan menjadi orang pertama yang mendukung potensi AI di bidang kesehatan.

Chatbot AI medis telah menunjukkan sebagian potensinya, namun manfaat AI lebih dari itu: AI dapat membantu menentukan diagnosis berdasarkan hasil MRI, atau menyarankan tindak lanjut berdasarkan hasil tes. Namun, saya belum siap untuk sepenuhnya menggantikan dokter.

HITL menawarkan keunggulan dari kedua sisi: mendeteksi kasus yang mungkin terlewat oleh dokter, sambil tetap memberikan keputusan akhir pada dokter.

Gunakan AI Berbasis Manusia Hari Ini

Botpress telah digunakan oleh ribuan bot dengan pengawasan manusia yang mulus, dan merupakan platform agen AI paling fleksibel di pasaran.

Botpress dilengkapi integrasi HITL, builder visual drag-and-drop, dan dapat diterapkan di semua saluran komunikasi populer (termasuk Slack, Telegram, WhatsApp, web), sehingga menggunakan AI tidak berarti harus mengorbankan sentuhan personal Anda.

Mulai bangun hari ini. Gratis.

FAQ

Bagaimana saya tahu jika sistem AI saya membutuhkan keterlibatan human-in-the-loop?

Sistem AI Anda kemungkinan membutuhkan keterlibatan manusia jika menangani keputusan penting, sering menemui situasi ambigu atau langka, berisiko menghasilkan output yang bias atau berbahaya, atau beroperasi di bidang yang membutuhkan akurasi mutlak dan penilaian manusia demi kepatuhan atau kepercayaan pelanggan.

Apakah human-in-the-loop bisa digunakan dalam proses bisnis non-teknis, atau hanya pada model AI saja?

Human-in-the-loop dapat digunakan dalam proses bisnis non-teknis seperti meninjau keluhan pelanggan atau moderasi konten, karena artinya memasukkan penilaian manusia ke dalam alur kerja otomatis di mana keputusan mesin saja mungkin tidak cukup.

Apakah menggunakan human-in-the-loop berarti sistem AI saya kurang canggih?

Menggunakan human-in-the-loop tidak berarti sistem AI Anda kurang canggih. Justru menunjukkan Anda memprioritaskan keamanan dan keadilan dengan menggabungkan kecepatan dan kemampuan pola AI dengan penilaian manusia untuk keputusan yang lebih kompleks, yang sering kali sangat penting.

Apakah human-in-the-loop AI hemat biaya untuk bisnis kecil, atau hanya untuk perusahaan besar?

Human-in-the-loop AI kini semakin hemat biaya untuk bisnis kecil karena alat modern memungkinkan Anda melibatkan manusia hanya untuk kasus-kasus sulit, sehingga biaya tenaga kerja tetap rendah namun akurasi dan kepercayaan tetap meningkat tanpa perlu banyak staf.

Berapa biaya menambahkan proses human-in-the-loop ke sistem AI?

Menambahkan proses human-in-the-loop bisa sangat murah—jika Anda hanya sesekali menggunakan staf internal—atau cukup mahal, bisa mencapai ratusan hingga ribuan dolar per bulan jika membutuhkan peninjau khusus atau kontraktor spesialis, dengan biaya yang sangat bergantung pada volume dan kompleksitas tugas yang harus ditangani manusia.