AIF-C01 notes
Optimizing foundation models

Business Case

AnyCompany, penyedia telekomunikasi, ingin membuat chatbot support generative AI untuk memangkas biaya support lewat telepon dan beban tiket online.

  • Target: tiket online turun 70% dan skor kepuasan pelanggan minimal 4 dari 5, diukur lewat survei setelah setiap masalah selesai.
  • Model: sebuah LLM, karena chatbot harus memahami bahasa alami.
  • Masalah: LLM dilatih dengan data publik dan tidak tahu layanan AnyCompany.
  • Solusi bagian 1: beri model pengetahuan perusahaan dari log chat, tiket lama, dan rekaman panggilan. Data itu harus dikumpulkan, dianonimkan, dan dibersihkan menjadi knowledge base. Ini RAG.
  • Solusi bagian 2: biarkan chatbot melakukan aksi di akun pelanggan, misalnya memesan ponsel atau upgrade paket. Ini agents.