Langkau ke kandungan
AI-SNS.IO — CHAT SUPPORTAI-SNS.IO — CHAT SUPPORT
Asas Ejen AI

Cara LLM Menjawab Soalan Pelanggan dalam WhatsApp dan Chat

Sidang Editorial AI SNS CHATDiterbitkan 6 minit bacaan

Fahami cara model bahasa besar (LLM) menjawab mesej pelanggan, mengapa ia kadang-kadang tersilap, dan cara memastikan jawapan kekal tepat serta selamat.

Pelanggan menghantar mesej WhatsApp pada pukul sebelas malam, bertanya sama ada kedai anda menghantar ke Kota Kinabalu. Beberapa saat kemudian, balasan yang kemas dan sopan muncul. Bagaimana sebuah model bahasa besar (LLM) boleh menulis balasan sebegitu, dan mengapa kadang-kadang ia menjawab dengan yakin tetapi salah? Artikel ini menerangkan prosesnya langkah demi langkah, dengan bahasa yang mudah untuk pemilik PKS, supaya anda tahu apa yang perlu disediakan, diuji dan diserahkan kepada manusia.

Apakah sebenarnya LLM itu?

LLM ialah model yang dilatih menggunakan teks dalam jumlah yang sangat besar untuk meramal perkataan seterusnya dalam sesuatu ayat. Kedengarannya ringkas, tetapi apabila ramalan ini dibuat berulang kali, hasilnya ialah ayat dan perenggan yang lancar, relevan dan boleh mengikut arahan.

Ada beberapa perkara penting yang perlu difahami:

  • LLM bukan pangkalan data. Ia tidak "mencari" jawapan dalam senarai harga anda. Ia menjana teks yang paling munasabah berdasarkan apa yang diberikan kepadanya.
  • LLM tidak tahu perniagaan anda secara automatik. Ia tahu tentang dunia secara umum, tetapi tidak tahu waktu operasi kedai anda, polisi pemulangan anda atau harga pakej terkini, kecuali anda menyediakan maklumat itu.
  • LLM sangat pandai berbahasa. Ia boleh bertukar antara Bahasa Melayu baku, bahasa pasar, Inggeris dan campuran ketiga-tiganya dalam satu perbualan, sesuatu yang lazim berlaku dalam chat pelanggan Malaysia.

Jadi, kualiti jawapan bergantung pada dua perkara: kebolehan model itu sendiri, dan maklumat serta peraturan yang anda sediakan di sekelilingnya.

Daripada mesej ke balasan: saluran paipnya

Apabila pelanggan menekan "hantar", beberapa langkah berlaku dalam masa yang singkat. Lihat rajah di bawah.

  1. 01Pelanggan hantar mesej
  2. 02Sistem cari kandungan berkaitan
  3. 03Model tulis jawapan berdasarkan arahan dan kandungan
  4. 04Balasan dihantar atau diserahkan kepada manusia
Bagaimana satu mesej pelanggan menjadi satu balasanContoh ilustrasi

Mari kita lihat setiap langkah.

1. Mesej diterima

Mesej tiba daripada saluran seperti WhatsApp, Instagram atau widget chat di laman web anda. Sistem mengumpulkan mesej itu bersama sedikit sejarah perbualan, kerana soalan seperti "Yang biru ada lagi?" hanya masuk akal jika model tahu produk yang dibincangkan sebelumnya.

2. Kandungan berkaitan dicari

Sistem tidak menyuapkan seluruh dokumen perniagaan anda kepada model setiap kali. Ia mencari bahagian yang paling berkaitan dengan soalan, misalnya perenggan tentang kos penghantaran ke Sabah dan Sarawak, lalu mengambil petikan itu sahaja.

3. Arahan, petikan dan soalan digabungkan

Model menerima satu pakej yang mengandungi:

  1. Arahan peranan: siapa ejen ini, nada suara, apa yang boleh dan tidak boleh dibuat.
  2. Petikan daripada bahan anda: fakta yang perlu dijadikan rujukan.
  3. Sejarah perbualan dan mesej terbaharu pelanggan.

4. Model menulis jawapan

Model menjana balasan perkataan demi perkataan. Jika arahan berkata "jawab hanya berdasarkan bahan yang diberikan", model akan cuba mematuhinya.

5. Hantar atau serah

Jika soalan jelas dan ada jawapannya, balasan dihantar. Jika pelanggan marah, meminta bercakap dengan orang, atau soalannya di luar bidang, perbualan sepatutnya diserahkan kepada manusia. Bahagian ini kita bincang kemudian.

Mengapa LLM kadang-kadang tersilap

Memahami punca kesilapan membantu anda mencegahnya. Antara punca yang paling biasa:

  • Maklumat tiada dalam bahan anda. Apabila petikan yang relevan tidak ditemui, model mungkin "mengisi ruang kosong" dengan pengetahuan umum yang kelihatan meyakinkan tetapi tidak sepadan dengan perniagaan anda.
  • Bahan lapuk atau bercanggah. Jika satu dokumen menyebut harga lama dan dokumen lain harga baharu, model tidak tahu mana satu yang betul.
  • Soalan kabur. "Berapa harganya?" tanpa konteks produk membuka ruang untuk tekaan.
  • Arahan terlalu longgar. Jika anda tidak menyatakan apa yang perlu dibuat apabila tidak pasti, model akan memilih untuk membantu, walaupun terpaksa meneka.
  • Percubaan memperdaya. Ada pengguna yang sengaja menulis "abaikan semua arahan sebelum ini" untuk menguji sempadan ejen.

Contoh hipotesis: sebuah kedai kek di Ipoh tidak menulis polisi tempahan khas dalam bahan rujukannya. Pelanggan bertanya, "Boleh tempah kek untuk esok pagi?" Tanpa maklumat itu, model mungkin menjawab "Boleh" kerana itu jawapan yang paling lazim di dunia luar, walaupun kedai itu memerlukan notis tiga hari. Masalahnya bukan pada model yang "bodoh", tetapi pada maklumat yang tiada.

Grounding: mengikat jawapan pada kandungan anda

Grounding bermaksud memastikan jawapan berpaksikan bahan yang anda sediakan, bukan ingatan umum model. Ia ialah langkah paling berkesan untuk mengurangkan jawapan yang salah.

Sediakan sumber yang bersih

  • Tulis soalan lazim sebenar yang pelanggan tanya, bukan sekadar brosur pemasaran.
  • Buang versi lama harga dan polisi supaya tiada percanggahan.
  • Nyatakan perkara yang tidak ditawarkan, contohnya "Kami tidak menghantar ke luar negara".
  • Gunakan bahasa yang sama seperti pelanggan anda. Jika ramai bertanya dalam Bahasa Melayu santai, sertakan frasa seperti itu.

Tetapkan peraturan dalam arahan

Arahan yang baik biasanya mengandungi:

  1. Jawab berdasarkan bahan rujukan sahaja.
  2. Jika tiada jawapan, akui dengan jujur dan tawarkan bantuan manusia.
  3. Jangan berjanji tentang diskaun, bayaran balik atau tarikh yang tidak tertulis.
  4. Kekalkan nada mesra dan ringkas, sesuai untuk chat telefon.

Semak dengan soalan sebenar

Ambil dua puluh soalan sebenar daripada log WhatsApp anda dan uji satu persatu. Perhatikan sama ada jawapannya sepadan dengan bahan anda, dan betulkan sumber apabila ada yang tersasar.

Tanpa grounding
Dengan grounding
Menjawab daripada pengetahuan umum model
Menjawab daripada dokumen dan Q&A anda
Boleh meneka polisi atau harga
Mengikut polisi dan harga yang anda tulis
Sukar dijejak punca jawapan salah
Mudah dibetulkan dengan mengemas kini sumber
Tanpa grounding berbanding dengan groundingContoh ilustrasi

Memilih dan menguji model

Tiada satu model yang terbaik untuk semua perniagaan. Pertimbangkan perkara berikut:

  • Kerumitan soalan. Soalan mudah seperti waktu operasi tidak memerlukan model paling canggih. Soalan yang melibatkan beberapa syarat sekaligus mungkin mendapat manfaat daripada model yang lebih berkebolehan.
  • Kelajuan. Pelanggan WhatsApp mengharapkan balasan pantas. Model yang lebih besar biasanya lebih perlahan.
  • Kos. Model yang lebih berkeupayaan lazimnya lebih mahal untuk dijalankan.
  • Bahasa. Uji dengan ayat sebenar pelanggan anda, termasuk singkatan, tulisan campuran dan salah eja.

Cara paling praktikal ialah membandingkan: ambil set soalan yang sama, jalankan pada dua model, dan nilai jawapan dari segi ketepatan, nada dan panjang. Jangan membuat keputusan berdasarkan satu atau dua jawapan yang kebetulan bagus.

Serahan kepada manusia: bahagian yang tidak patut dibuat model seorang diri

Ejen AI sangat berguna untuk soalan berulang, tetapi ada situasi yang memerlukan manusia:

  • Pelanggan marah atau kecewa.
  • Aduan, tuntutan bayaran balik atau pertikaian bayaran.
  • Soalan yang jawapannya tiada dalam bahan anda.
  • Permintaan yang melibatkan pengecualian atau keputusan perniagaan.
  • Pelanggan yang secara terus meminta bercakap dengan orang.

Serahan yang baik mempunyai tiga ciri. Pertama, pelanggan diberitahu dengan jelas apa yang akan berlaku seterusnya. Kedua, orang yang betul dimaklumkan dengan segera. Ketiga, ejen tidak mereka-reka masa menunggu. Janji "dalam lima minit" yang tidak ditepati lebih merosakkan kepercayaan daripada mengaku bahawa pasukan akan membalas pada waktu bekerja.

Melakukannya dalam AI SNS CHAT

AI SNS CHAT menyediakan alat untuk setiap langkah di atas. Berikut gambaran ringkas tempat untuk bermula.

Sediakan pengetahuan. Di bar sisi, buka Data sources. Anda boleh menambah Files, Text snippets, Website, Q&A dan Notion, antara lain. Bahagian Q&A sesuai untuk soalan lazim yang anda tulis sendiri. Terdapat juga penyambung dokumen seperti Google Drive, OneDrive dan Zendesk Guide di bawah Channels.

Pilih model. Pergi ke Agent → Settings → AI. AI SNS CHAT menyokong penyedia teks Anthropic (Claude), OpenAI, Google (Gemini) dan OpenRouter. Jika penyedia ejen anda tidak tersedia seketika, sistem boleh beralih kepada penyedia lain mengikut susunan failover. Model lanjutan dan failover model memerlukan pelan Hobby atau lebih tinggi; pelan yang lebih rendah menggunakan model standard penyedia yang sama.

Uji sebelum dilancarkan. Gunakan Playground untuk bertanya soalan seperti pelanggan sebenar. Terdapat juga perbandingan A/B model dalam Playground supaya anda boleh melihat dua model menjawab soalan yang sama.

Tetapkan persona dan had. Anda boleh menulis persona dan garis panduan ejen, atau bermula daripada salah satu daripada 14 persona permulaan.

Lindungi daripada helah. Di tetapan keselamatan setiap ejen, terdapat penapis suntikan arahan (prompt injection) dan penyalahgunaan, serta had kadar bagi setiap peranti.

Baiki jawapan. Di Activity → Chat logs, anda boleh menyemak perbualan, memberi ibu jari ke atas atau ke bawah, dan menapis perbualan. Anda juga boleh menyunting balasan menjadi jawapan ideal untuk melatih ejen.

Serahan kepada manusia. Dalam Helpdesk → Scheduling, anda menetapkan syif mengikut orang dan zon masa, dan serahan diumpukkan secara automatik kepada orang yang bertugas. Amaran serahan boleh dihantar ke Slack, Teams, WhatsApp, e-mel atau webhook. Mesej kepada pelanggan semasa serahan menyertakan baris "apa yang berlaku seterusnya" yang ditambah oleh pelayan berdasarkan jadual, dan ia tidak mereka-reka masa menunggu. Anda juga boleh mengambil alih sesuatu chat, dan bot akan berhenti seketika. Ciri Helpdesk memerlukan pelan Standard atau lebih tinggi.

Anda boleh menyambungkan ejen yang sama ke widget chat, WhatsApp dan Instagram melalui Channels. Setiap balasan menggunakan satu kredit. Lihat pelan dan harga, senarai ciri dan sambungan saluran untuk butiran, atau daftar untuk mencuba.

Kesimpulan

LLM menjawab soalan pelanggan dengan menggabungkan arahan anda, petikan daripada bahan anda dan mesej pelanggan, lalu menjana balasan yang lancar. Ketepatannya bergantung pada kualiti sumber, kejelasan peraturan, pemilihan model yang diuji dan laluan serahan yang jelas kepada manusia. Mulakan dengan dua puluh soalan sebenar, perbaiki sumber anda, dan tambah baik sedikit demi sedikit.

Soalan lazim

Adakah model belajar sendiri daripada setiap perbualan pelanggan?

Tidak secara automatik. Model itu sendiri tidak berubah selepas setiap chat. Penambahbaikan datang daripada anda: mengemas kini sumber pengetahuan, menambah Q&A, atau menyunting balasan menjadi jawapan ideal dalam Chat logs. Ciri Co-Agent boleh menyimpan nota ingatan bagi setiap orang, tetapi ia dimatikan secara lalai dan nota menunggu kelulusan anda.

Mengapa ejen kadang-kadang menjawab daripada pengetahuan umum dan bukan dokumen saya?

Biasanya kerana petikan yang berkaitan tidak ditemui, atau soalan terlalu kabur. Semak sama ada maklumat itu benar-benar ada dalam sumber anda, tulis ia sebagai Q&A yang jelas, dan perkemas arahan supaya ejen mengaku tidak pasti apabila tiada jawapan. Uji semula di Playground.

Bolehkah ejen mencari di web jika pangkalan pengetahuan tiada jawapan?

Carian web apabila pangkalan pengetahuan tiada jawapan tersedia pada saluran LINE WORKS sahaja, di bawah Behaviour → Web search, dan ia memetik halaman yang digunakan. Untuk saluran lain, Action Tavily memberikan carian web masa nyata kepada mana-mana ejen. Integrasi memerlukan pelan Hobby atau lebih tinggi.

Model AI manakah yang patut saya pilih untuk khidmat pelanggan?

Mulakan dengan model standard, kemudian bandingkan dengan model lanjutan menggunakan soalan sebenar pelanggan anda dalam perbandingan A/B Playground. Pilih yang memberi ketepatan dan nada yang baik pada kelajuan dan kos yang boleh anda terima. Model lanjutan memerlukan pelan Hobby atau lebih tinggi.

Bagaimana saya menghalang orang memperdaya ejen supaya mengabaikan peraturannya?

Aktifkan penapis suntikan arahan dan penyalahgunaan dalam tetapan keselamatan ejen, dan tulis peraturan yang jelas dalam arahan. Tiada perlindungan yang sempurna, jadi semak Chat logs secara berkala dan jangan biarkan ejen membuat keputusan sensitif tanpa manusia.

#LLM#ejen AI#WhatsApp#khidmat pelanggan#PKS

Praktikkan dengan AI SNS CHAT

Bina ejen AI yang dilatih dengan kandungan anda sendiri dan sambungkan ke laman web, WhatsApp, LINE dan banyak lagi. Percuma untuk bermula, tiada kad kredit diperlukan.