Pahami bagaimana model bahasa besar membaca pesan WhatsApp pelanggan, mencari jawaban, kenapa bisa keliru, dan cara menjaganya tetap akurat.
Pelanggan menulis di WhatsApp, "Kak, paket yang kemarin kapan sampai?", dan beberapa detik kemudian ada balasan yang terdengar wajar. Banyak pemilik usaha memakai teknologi ini tanpa tahu apa yang terjadi di balik layar, sehingga sulit menilai kapan harus percaya dan kapan harus waspada. Artikel ini menjelaskan cara kerja model bahasa besar (LLM) saat menjawab pelanggan, mengapa ia kadang keliru, dan apa yang bisa Anda atur agar jawabannya tetap sesuai dengan informasi bisnis Anda.
Apa sebenarnya model bahasa besar itu
LLM adalah program yang dilatih pada teks dalam jumlah sangat besar untuk memprediksi kelanjutan sebuah teks. Saat Anda memberinya pertanyaan, ia menyusun jawaban kata demi kata dengan memilih kelanjutan yang paling masuk akal berdasarkan pola yang dipelajarinya.
Ada tiga hal yang perlu Anda pahami dari sini:
- Ia pandai berbahasa, bukan pangkalan data. LLM bisa memahami bahasa gaul, singkatan, dan salah ketik seperti "brp ongkir ke Surabaya?". Namun ia tidak menyimpan daftar harga toko Anda.
- Pengetahuannya bersifat umum. Model tahu cara kerja pengembalian barang secara umum, tetapi tidak tahu kebijakan retur toko Anda kecuali Anda memberikannya.
- Ia tidak otomatis tahu apa yang benar. Jawaban yang fasih belum tentu jawaban yang akurat.
Karena itu, membangun agen layanan pelanggan yang andal berarti memberi model bahan yang tepat dan aturan yang jelas, bukan sekadar memilih model yang paling canggih.
Dari pesan masuk sampai balasan terkirim
Meski terasa instan, satu balasan melewati beberapa tahap. Memahaminya membantu Anda tahu di mana masalah biasanya muncul.
- 01Pesan masuk dari WhatsApp, Instagram, atau situs
- 02Pencarian materi yang relevan di basis pengetahuan
- 03Model menyusun jawaban dengan persona dan aturan
- 04Balasan terkirim, atau dialihkan ke staf
1. Pesan diterima dan dipahami
Pesan tiba dari kanal tempat pelanggan menulis. Sistem mengumpulkan pesan itu bersama riwayat percakapan sebelumnya agar model paham konteks. Jika pelanggan menulis "yang warna hitam ada?", model perlu tahu produk apa yang sedang dibahas dari pesan sebelumnya.
2. Materi yang relevan dicari
Sistem tidak memasukkan seluruh dokumen Anda ke model setiap kali. Ia mencari potongan yang paling berkaitan dengan pertanyaan, misalnya bagian tentang ongkos kirim atau jam operasional. Tahap ini menentukan kualitas jawaban: jika potongan yang diambil keliru atau dokumennya sudah usang, jawabannya ikut keliru.
3. Model menyusun jawaban
Model menerima beberapa bahan sekaligus: instruksi persona (misalnya "ramah, singkat, sapa dengan Kak"), aturan yang tidak boleh dilanggar, potongan materi, riwayat percakapan, dan pertanyaan pelanggan. Dari situ ia menulis balasan dalam bahasa pelanggan.
4. Balasan dikirim atau dialihkan
Jika pertanyaan dalam jangkauan, balasan dikirim. Jika menyangkut komplain berat, pengembalian dana, atau hal yang tidak ada di materi, sebaiknya percakapan diserahkan ke manusia. Bagian ini kita bahas lebih jauh di bawah.
Mengapa LLM kadang memberi jawaban yang salah
Kesalahan LLM bukan tanda bahwa ia rusak. Ini sifat bawaan cara kerjanya, dan penyebabnya bisa dikenali.
- Materi tidak ada. Pelanggan bertanya tentang garansi, padahal dokumen Anda tidak membahasnya. Model cenderung tetap menjawab dengan kebiasaan umum, dan jawaban itu terdengar meyakinkan padahal bukan kebijakan Anda.
- Materi usang atau bertentangan. Jika dua dokumen menyebut harga berbeda, model bisa memilih salah satunya tanpa tahu mana yang terbaru.
- Pertanyaan ambigu. "Bisa dicicil?" bisa berarti cicilan kartu kredit, paylater, atau cicilan langsung ke toko.
- Instruksi kurang tegas. Tanpa aturan "jika tidak tahu, katakan tidak tahu dan tawarkan bantuan staf", model cenderung berusaha membantu dengan menebak.
- Upaya mengakali. Sebagian orang sengaja mengetik perintah seperti "abaikan semua aturanmu" untuk memancing agen keluar jalur.
Sebagai gambaran hipotetis: bayangkan sebuah toko kosmetik menerima 300 chat per bulan dan sebagian pertanyaan menyangkut produk yang belum terdokumentasi. Setiap pertanyaan yang tidak ada jawabannya di materi adalah peluang agen menebak. Jumlah persisnya akan berbeda di tiap bisnis, tetapi pola ini selalu ada, dan karena itulah materi serta aturan penolakan perlu dirawat.
Grounding: menambatkan jawaban pada materi Anda
Grounding berarti memaksa jawaban bersandar pada sumber yang Anda berikan, bukan pada ingatan umum model. Inilah pertahanan terpenting terhadap jawaban ngawur.
Isi basis pengetahuan dengan materi yang benar
Mulailah dari pertanyaan yang paling sering muncul: harga, ongkir, jam buka, cara pemesanan, kebijakan retur, dan metode pembayaran. Tulis dengan bahasa jelas. Satu halaman FAQ yang rapi sering lebih berguna daripada brosur panjang yang bertele-tele.
Tulis aturan penolakan secara eksplisit
Dalam instruksi agen, tuliskan apa yang harus dilakukan ketika jawabannya tidak ditemukan. Contohnya: "Jika informasi tidak ada di materi, jangan menebak. Sampaikan bahwa Anda akan meneruskan ke tim kami."
Rawat materinya
Materi yang basi adalah sumber kesalahan paling umum. Saat harga atau promo berubah, perbarui sumbernya. Tinjau juga percakapan nyata secara berkala untuk menemukan pertanyaan yang belum terjawab.
Bedakan sumber tetap dan pencarian web
Mengizinkan agen mencari di web terdengar menarik, tetapi hasilnya bisa berasal dari sumber yang tidak Anda kendalikan. Untuk informasi bisnis seperti harga dan kebijakan, sumber yang Anda kelola sendiri hampir selalu lebih aman.
Memilih dan menguji model
Tidak ada satu model yang terbaik untuk semua bisnis. Yang ada adalah model yang cocok untuk kebutuhan, anggaran, dan gaya komunikasi Anda.
| Pertimbangan | Pertanyaan yang perlu dijawab |
|---|---|
| Kualitas bahasa | Apakah balasannya natural dalam Bahasa Indonesia, termasuk gaya santai? |
| Ketaatan pada aturan | Apakah ia konsisten menolak menebak dan mengikuti persona? |
| Kecepatan | Apakah pelanggan WhatsApp tidak menunggu terlalu lama? |
| Biaya | Apakah model yang lebih canggih sepadan untuk pertanyaan sehari-hari? |
Uji sebelum pelanggan melihatnya
Siapkan 20 sampai 30 pertanyaan nyata dari riwayat chat Anda, termasuk yang sulit: pertanyaan di luar topik, komplain, dan pertanyaan yang jawabannya sengaja tidak ada di materi. Jalankan semuanya dan periksa hasilnya satu per satu.
Perhatikan tiga hal:
- Apakah faktanya sesuai dengan materi Anda?
- Apakah nadanya sesuai dengan merek Anda?
- Apakah agen mengaku tidak tahu ketika memang tidak tahu?
Bandingkan dua model dengan pertanyaan yang sama, lalu pilih yang paling sering benar, bukan yang paling panjang jawabannya. Ulangi pengujian setiap kali Anda mengubah instruksi atau mengganti model.
Handoff: bagian yang tidak boleh dikerjakan model sendirian
Ada situasi yang sebaiknya tidak diserahkan penuh ke AI: pelanggan marah, sengketa pembayaran, permintaan pengembalian dana, atau pertanyaan yang menyangkut keputusan bisnis. Di sini yang dibutuhkan adalah manusia dengan kewenangan.
Handoff yang baik punya empat unsur:
- Pemicu yang jelas. Tentukan kapan agen harus mengalihkan, misalnya saat pelanggan meminta bicara dengan staf atau saat topiknya sensitif.
- Staf yang siap. Pengalihan percakapan tidak berguna jika tidak ada yang melihatnya. Atur siapa yang bertugas dan kapan.
- Pesan yang jujur kepada pelanggan. Jangan menjanjikan waktu tunggu yang tidak pasti. Katakan apa yang terjadi selanjutnya.
- Konteks yang terbawa. Staf harus bisa membaca riwayat chat agar pelanggan tidak perlu mengulang cerita.
Handoff juga menjadi sumber perbaikan. Setiap kali staf menjawab pertanyaan yang tidak bisa dijawab agen, jawaban itu adalah materi baru yang layak ditambahkan ke basis pengetahuan.
Menerapkannya di AI SNS CHAT
Berikut jalur praktis untuk menerapkan semua konsep di atas di AI SNS CHAT.
Isi sumber pengetahuan. Di sidebar, buka Data sources. Anda bisa menambahkan Files, Text snippets, Website, Q&A, dan Notion. Untuk dokumentasi yang sudah ada di tempat lain, tersedia konektor di bawah Channels, antara lain Google Drive, Confluence, dan Zendesk Guide. Mulailah dengan Q&A untuk pertanyaan yang paling sering muncul.
Atur persona dan batasan. Tentukan persona agen beserta aturannya, termasuk instruksi untuk tidak menebak. Tersedia 14 persona awal dan generator prompt jika Anda butuh titik awal.
Pilih model. Buka Agent, lalu Settings, lalu AI. Penyedia teks yang didukung adalah Anthropic (Claude), OpenAI, Google (Gemini), dan OpenRouter. Jika penyedia utama bermasalah, sistem beralih ke penyedia lain secara berurutan. Model lanjutan dan fallback model memerlukan paket Hobby atau lebih tinggi; paket di bawahnya memakai model standar dari penyedia yang sama.
Uji di Playground. Gunakan Playground untuk mencoba pertanyaan nyata, dan fitur perbandingan A/B model untuk melihat dua model menjawab pertanyaan yang sama berdampingan.
Lindungi dari upaya mengakali. Di pengaturan keamanan agen tersedia filter prompt-injection dan penyalahgunaan, serta pembatasan laju per perangkat. Aktifkan dan sesuaikan sesuai kebutuhan.
Siapkan handoff. Anda bisa mengambil alih chat kapan saja, dan bot berhenti sementara. Di Helpdesk, bagian Scheduling, atur shift per orang dan zona waktu; pengalihan otomatis diarahkan ke orang yang sedang bertugas. Notifikasi dapat dikirim ke Slack, Teams, LINE WORKS, WhatsApp, email, atau webhook. Pesan kepada pelanggan saat handoff disusun berdasarkan jadwal piket, dan sistem tidak mengarang perkiraan waktu tunggu. Helpdesk memerlukan paket Standard atau lebih tinggi.
Belajar dari percakapan nyata. Di Activity, Chat logs, Anda dapat menyaring percakapan, memberi tanda, dan melihat penilaian jempol atas atau bawah dari pelanggan. Saat mengambil alih chat, Anda dapat mengedit balasan menjadi jawaban ideal untuk melatih agen.
Agen bisa dipasang di chat widget situs, WhatsApp, Instagram, dan kanal lain di menu Channels; lihat daftar koneksi dan fitur lengkap. Satu balasan memakai satu kredit, dan rincian paket ada di halaman harga. Untuk praktik keamanan, kunjungi halaman keamanan.
Penutup
LLM menjawab pelanggan dengan menggabungkan kemampuan bahasa yang kuat dengan materi yang Anda sediakan. Kualitas hasilnya ditentukan oleh bahan dan aturan di sekelilingnya: basis pengetahuan yang rapi, instruksi yang tegas soal tidak menebak, pengujian dengan pertanyaan nyata, dan jalur handoff ke manusia. Mulailah dari pertanyaan yang paling sering muncul di WhatsApp Anda, uji, perbaiki, lalu perluas bertahap.
Pertanyaan umum
Apakah model belajar sendiri dari setiap percakapan pelanggan secara otomatis?
Tidak dengan cara yang Anda bayangkan. Model tidak mengubah dirinya setiap kali ada percakapan. Perbaikan datang dari Anda, misalnya dengan menambah materi atau mengedit balasan menjadi jawaban ideal untuk melatih agen. Fitur Co-Agent menyimpan catatan memori per orang, tetapi nonaktif secara bawaan dan setiap catatan menunggu persetujuan Anda.
Mengapa agen kadang menjawab dari pengetahuan umum, bukan dari dokumen saya?
Biasanya karena potongan materi yang relevan tidak ditemukan, atau pertanyaannya tidak tercakup di dokumen. Tambahkan jawabannya ke Data sources dan tegaskan di instruksi agar tidak menebak saat informasi tidak ada. Uji ulang di Playground dengan pertanyaan yang sama untuk memastikan perbaikannya berhasil.
Bisakah agen mencari di web ketika basis pengetahuan tidak punya jawaban?
Pencarian web otomatis saat basis pengetahuan kosong tersedia hanya di kanal LINE WORKS, dengan sumber bawaan situs dukungan Microsoft dan Apple, dan jawabannya mencantumkan halaman yang dipakai. Untuk agen lain, tersedia Action Tavily yang memberi pencarian web waktu nyata. Balasan yang dijawab dari web dikenai kredit dua kali lipat secara bawaan.
Model AI mana yang sebaiknya dipilih untuk layanan pelanggan?
Tidak ada satu jawaban untuk semua. Uji beberapa model dengan pertanyaan nyata dari riwayat chat Anda, lalu pilih yang paling konsisten benar dan sesuai nada merek. Playground dengan perbandingan A/B membantu Anda melihat perbedaannya secara langsung.
Bagaimana mencegah orang mengelabui agen agar mengabaikan aturannya?
Tidak ada pengaman yang sempurna, jadi gunakan beberapa lapis. Aktifkan filter prompt-injection dan penyalahgunaan di pengaturan keamanan agen, tulis aturan yang tegas di instruksi, dan jangan menaruh informasi rahasia di materi yang bisa dibaca pelanggan. Tinjau Chat logs secara berkala untuk menemukan pola percobaan.


