Human-in-the-Loop dalam AI: Ketepatan Lebih Baik, Risiko Lebih Rendah

Jika anda sedang mempertimbangkan untuk meningkatkan perniagaan anda dengan AI, anda tidak keseorangan. Dengan chatbot AI menjadi saluran komunikasi yang paling pesat berkembang, ia bukan lagi satu kemewahan– malah sudah menjadi satu jangkaan.

Namun, melepaskan kawalan itu boleh terasa menakutkan. Menyerahkan operasi penting kepada 'algoritma kotak hitam' boleh terasa seperti satu langkah besar.

Dan memang betul, sebab itulah perniagaan bergantung pada campur tangan manusia untuk mengawal AI. Hampir semua rangka kerja agen AI menyertakan human-in-the-loop– iaitu pengawasan manusia ke atas operasi AI.

Dalam artikel ini, saya akan terangkan apa maksudnya, bagaimana ia berfungsi, dan beri beberapa contoh bagaimana campur tangan manusia digunakan setiap hari untuk memberi pengguna lebih kawalan ke atas chatbot AI dan agen.

Apa itu human-in-the-loop?

Human-in-the-loop (HITL) ialah pendekatan kolaboratif kepada AI di mana input manusia digunakan untuk menambah baik atau memperluaskan keupayaan AI. Ini boleh berupa data yang dianotasi manusia, pembetulan hasil model, atau manusia melaksanakan tugasan sepenuhnya apabila AI tidak pasti atau tidak berkesan.

Istilah ini boleh jadi agak kabur. Ia secara teknikal merujuk kepada apa-apa penglibatan manusia dalam kitaran hidup aplikasi AI– daripada pelabelan data dan penilaian model kepada pembelajaran aktif dan eskalasi.

Dalam praktiknya, apabila penyedia AI menawarkan fungsi HITL, ia biasanya bermaksud pengawasan ke atas hasil AI: peluang untuk menyemak respons dan mengeskalasi interaksi chatbot kepada agen manusia.

Bagaimana manusia "dalam gelung" dalam AI?

Rangkaian AI yang berfungsi dengan baik akan mempunyai beberapa titik masuk untuk manusia.

AI dilatih untuk mengenal pasti corak dalam data latihannya, kemudian mengaplikasikan corak itu pada data baru yang belum pernah dilihat. Kita yang menentukan data apa yang dilihat oleh model, tetapi bukan corak mana yang diambil dari data itu.

Pada setiap langkah dalam proses– pengumpulan data, latihan, dan pelaksanaan– terpulang kepada manusia untuk memastikan model berfungsi seperti yang diharapkan.

Bergantung pada di mana dan bagaimana campur tangan manusia berlaku, ia boleh dikategorikan seperti berikut:

Memberi Maklum Balas untuk Pembelajaran Berterusan

Anda tahu bila ChatGPT tanya anda mana satu respons yang lebih baik? Maklum balas boleh dianggap sebagai data baru untuk model dilatih.

Namun, maklum balas tidak semestinya perlu diberikan secara jelas.

Fikirkan tentang cadangan media sosial. Model ramalan sentiasa mencadangkan kandungan berdasarkan sejarah anda. Semasa anda menggunakan platform, pilihan kandungan anda digunakan sebagai data untuk terus melatih model cadangan.

Dalam kes ini, anda adalah manusia itu. Dan dengan menggunakan aplikasi, anda membantu membimbing cadangan masa depan.

Inilah kitaran penuh: model dilatih dengan data, pengguna berinteraksi dengan model, dan interaksi ini pula menghasilkan data yang digunakan semula untuk melatih model.

Mengendalikan Situasi yang Dieskalasi

HITL tidak semestinya untuk menambah baik sistem. Kadang-kadang ia tentang menyerahkan kes sukar kepada manusia.

Bayangkan chatbot sokongan pelanggan. Ia mengurangkan banyak kerja pasukan anda dengan menjawab 95% soalan dengan jelas, ringkas, dan tepat.

Tapi ada juga 5% yang lain.

Ada kes yang sangat khusus atau luar biasa sehingga AI tidak dapat menanganinya. Walaupun campur tangan manusia tidak menambah baik model dalam kes ini, ini contoh baik bagaimana manusia dan pembelajaran mesin boleh bekerjasama secara simbiotik.

Menganotasi Data untuk Latihan

Secara teknikal, hampir semua pembelajaran mesin dibina dengan mekanisme HITL. Sebab itu, bila kita bercakap tentang HITL, kita biasanya merujuk kepada kategori di atas.

Namun begitu, saya perlu juga menekankan peranan tenaga kerja dan kepakaran manusia dalam kitaran pembelajaran mesin.

Data ialah tunjang AI, dan ia bergantung pada manusia. Model AI dilatih untuk meramal label berdasarkan data input. Label ialah output yang dijangka daripada AI, dan manusia yang perlu menyediakannya.

Beberapa contoh pelabelan manusia termasuk:

• Menulis jawapan secara manual kepada arahan untuk melatih model bahasa besar (LLM)
• Menyalin audio untuk model pengenalan pertuturan.
• Menganotasi objek dalam imej untuk model pengesanan objek
• Menandakan emel contoh sebagai spam-atau-bukan-spam untuk pengesan spam klien emel

Menilai Prestasi Model

Sebahagian besar masa membina model AI dihabiskan untuk mencari cara menambah baiknya. Walaupun terdapat pelbagai metrik yang boleh dikira, seperti ketepatan dan ingatan, kepakaran diperlukan untuk benar-benar memahami bagaimana model berfungsi, dan yang lebih penting, apa yang perlu dilakukan mengenainya.

Contohnya, seorang penyelidik mungkin perasan model sangat baik mengenal pasti gambar anjing, tetapi tidak hot dog. Ini biasanya boleh dibaiki dengan menambah atau mempelbagaikan gambar hot dog.

Kadang-kadang model perbualan sukar mengingati maklumat dari mesej sebelumnya. Penyelidik biasanya akan membetulkannya dengan melaraskan seni bina model atau kaedah penjanaan pada tahap rendah.

Kelebihan Human-in-the-Loop AI

AI mungkin sangat cekap dan berkesan dalam mengenal pasti corak halus, tetapi manusia bijak.

HITL adalah tentang menggabungkan kehalusan manusia dengan kecekapan automasi aliran kerja AI supaya respons disesuaikan dengan pengalaman yang diinginkan pengguna dan penyedia.

1. Ketepatan dan Kebolehpercayaan

Yang ini memang jelas. Apa yang lebih baik daripada AI biasa? AI yang telah diperbetulkan.

Bukan sahaja ia dioptimumkan untuk menangani kes luar jangka, malah ia boleh dipercayai kerana pengguna tahu hasilnya akan sentiasa disemak dan ditambah baik.

2. Pengurangan Bias

Data tidak sempurna, dan hasil model akan mencerminkan perkara itu. Bias—kecenderungan kepada hasil tertentu berbanding yang lain—adalah masalah dalam pembelajaran mesin dan AI.

Perkara seperti penjanaan imej yang berunsur perkauman, atau menentukan kelayakan kerja berdasarkan jantina adalah contoh bagaimana AI mencerminkan bias dalam data latihan.

HITL membolehkan manusia menandakan isu ini dan membimbing model ke arah hasil yang lebih adil.

3. Penambahbaikan Berterusan dan Penyesuaian

Latihan tidak berakhir hanya kerana model sudah digunakan. HITL membolehkan model terus dilatih dengan data baharu untuk lebih menggeneralisasi kes yang belum pernah dilihat.

Sebagai contoh, mengedit teks yang dijana atau mengikuti pilihan kandungan pengguna memberikan lebih banyak data untuk model memperbaiki dirinya.

Tetapi tidak cukup sekadar model bertambah baik; ia juga perlu berubah.

Kita mudah terlepas pandang bagaimana kita menyesuaikan diri dengan dunia yang sentiasa berubah. Dengan AI, ini bukan sesuatu yang automatik. HITL menggabungkan kepakaran dan pertimbangan halus untuk memastikan hasil model sentiasa relevan.

4. Ketelusan dan Kepercayaan

Penglibatan manusia menjadikan keputusan AI lebih telus. Dengan manusia membetulkan hasil atau menyelesaikan kes yang tidak pasti, pengguna boleh yakin bahawa mereka berinteraksi dengan algoritma yang munasabah.

Ia memastikan kita mengawal AI, bukan sebaliknya.

Contoh Penggunaan Human-in-the-Loop

1. Pemanduan sendiri

Dengan nilai pasaran dijangka mencecah USD 3.9 trilion dalam dekad akan datang, pemanduan sendiri mungkin menjadi sempadan baharu AI. Ia menggunakan model pengesanan objek dan pembuatan keputusan setiap masa untuk meniru pemanduan manusia.

Tetapi untuk sesuatu yang begitu automatik, ia masih sangat bergantung kepada manusia. Model sentiasa memerhati corak pemanduan manusia, dan membandingkan keputusan mereka dengan ramalan yang dibuat oleh model itu sendiri.

2. Runcit

Chatbot runcit ialah cara terbaik untuk mengautomasikan interaksi pelanggan sambil tetap menawarkan pengalaman yang diperibadikan. HITL membolehkan anda memastikan pengalaman itu lancar dan selari dengan perniagaan anda. Contohnya, anda boleh:

• Semak dan betulkan cadangan produk bot
• Benarkan pelanggan berbincang tentang keperluan asas mereka sebelum dihantar kepada ejen manusia

3. Kewangan

Chatbot kewangan ialah cara yang baik untuk menggabungkan automasi AI dengan kepakaran manusia.

Sistem pengesanan penipuan sangat bagus dalam mengenal pasti aktiviti mencurigakan dalam transaksi. Tetapi tidak semua aktiviti mencurigakan itu berbahaya, dan anda pasti tidak mahu kad anda dibatalkan setiap kali anda tukar pesanan kopi.

HITL boleh menyerahkan kes yang kurang pasti dan berisiko rendah kepada manusia.

Penilaian risiko pinjaman juga merupakan bidang di mana AI sangat cemerlang– ia sangat baik dalam mengira kebarangkalian berdasarkan pelbagai data yang kelihatan tidak berkaitan. Namun, data itu hampir pasti mengandungi beberapa bias.

Menjaga keadilan dan mengurangkan bias selalunya memerlukan bantuan manusia sebenar.

4. Penjagaan Kesihatan

Pengguna reddit yang nyawanya diselamatkan oleh Claude akan menjadi orang pertama yang menyokong potensi AI dalam penjagaan kesihatan.

Chatbot AI perubatan telah menunjukkan sebahagian daripada potensinya, tetapi ia lebih daripada itu: AI boleh membantu menentukan diagnosis berdasarkan bacaan MRI, atau mencadangkan susulan berdasarkan keputusan ujian. Tetapi saya belum bersedia untuk meninggalkan doktor.

HITL menawarkan gabungan terbaik: mengesan kes yang mungkin terlepas oleh doktor, sambil tetap membenarkan mereka membuat keputusan akhir.

Gunakan AI Berbantukan Manusia Hari Ini

Botpress mempunyai ribuan bot yang digunakan dengan pemantauan manusia yang lancar, dan ia adalah platform ejen AI yang paling fleksibel di pasaran.

Botpress dilengkapi dengan integrasi HITL, pembina visual seret dan lepas, serta penyebaran ke semua saluran komunikasi popular (termasuk Slack, Telegram, WhatsApp, web), jadi menggunakan AI tidak bermakna anda perlu mengorbankan sentuhan peribadi anda.

Mula bina hari ini. Ia percuma.

Soalan Lazim

Bagaimana saya tahu jika sistem AI saya memerlukan penglibatan manusia dalam proses?

Sistem AI anda mungkin memerlukan penglibatan manusia jika ia mengendalikan keputusan berisiko tinggi, sering berhadapan situasi yang samar atau jarang berlaku, berisiko menghasilkan output yang berat sebelah atau berbahaya, atau beroperasi dalam bidang di mana ketepatan mutlak dan pertimbangan manusia penting untuk pematuhan atau kepercayaan pelanggan.

Bolehkah human-in-the-loop digunakan dalam proses perniagaan bukan teknikal, atau hanya dalam model AI?

Human-in-the-loop boleh digunakan dalam proses perniagaan bukan teknikal seperti menyemak aduan pelanggan atau memoderasi kandungan, kerana ia bermaksud memasukkan pertimbangan manusia ke dalam mana-mana aliran kerja automatik di mana keputusan mesin sahaja mungkin tidak mencukupi.

Menggunakan human-in-the-loop adakah bermakna sistem AI saya kurang maju?

Menggunakan human-in-the-loop tidak bermakna sistem AI anda kurang maju. Ia menunjukkan anda mengutamakan keselamatan dan keadilan dengan menggabungkan kepantasan dan keupayaan AI mengenal corak dengan pertimbangan manusia untuk keputusan yang lebih halus, yang selalunya sangat penting.

Adakah AI human-in-the-loop berbaloi untuk perniagaan kecil, atau hanya untuk syarikat besar?

AI human-in-the-loop kini semakin berbaloi untuk perniagaan kecil kerana alat moden membolehkan anda melibatkan manusia hanya untuk kes yang sukar, meminimumkan kos buruh sambil tetap meningkatkan ketepatan dan kepercayaan tanpa memerlukan tenaga kerja yang besar.

Berapakah kos untuk menambah proses human-in-the-loop ke dalam sistem AI?

Menambah proses human-in-the-loop boleh menelan kos yang sangat minimum — jika anda hanya menggunakan kakitangan dalaman sekali-sekala — hingga agak tinggi, iaitu ratusan atau ribuan dolar sebulan jika anda memerlukan penyemak khusus atau kontraktor pakar, dengan kos bergantung terutamanya pada jumlah dan kerumitan tugas yang perlu dikendalikan oleh manusia.