Optimizing foundation models
Business Case
AnyCompany, penyedia telekomunikasi, ingin membuat chatbot support generative AI untuk memangkas biaya support lewat telepon dan beban tiket online.
- Target: tiket online turun 70% dan skor kepuasan pelanggan minimal 4 dari 5, diukur lewat survei setelah setiap masalah selesai.
- Model: sebuah LLM, karena chatbot harus memahami bahasa alami.
- Masalah: LLM dilatih dengan data publik dan tidak tahu layanan AnyCompany.
- Solusi bagian 1: beri model pengetahuan perusahaan dari log chat, tiket lama, dan rekaman panggilan. Data itu harus dikumpulkan, dianonimkan, dan dibersihkan menjadi knowledge base. Ini RAG.
- Solusi bagian 2: biarkan chatbot melakukan aksi di akun pelanggan, misalnya memesan ponsel atau upgrade paket. Ini agents.