Fundamentals of ML and AI
Generative AI Fundamentals
Generative AI berjalan di atas foundation model (FM): model sangat besar yang di-pre-train dengan data seukuran internet. Alih-alih melatih model terpisah untuk setiap tugas, satu FM bisa diadaptasi ke banyak tugas: text generation, summarization, information extraction, image generation, chat, dan question answering.
FM lifecycle
Lifecycle ini bersifat iteratif:
- Data selection: data masif dan beragam, sebagian besar unlabeled, karena lebih mudah didapat dalam skala besar.
- Pre-training: biasanya self-supervised learning, di mana model membuat label sendiri dari struktur data. Continuous pre-training memperluas pengetahuan model belakangan.
- Optimization: prompt engineering, RAG, atau fine-tuning.
- Evaluation: metrik dan benchmark, plus apakah model memenuhi kebutuhan bisnis.
- Deployment: integrasikan model ke aplikasi dan API.
- Feedback and continuous improvement: monitor, deteksi bias dan drift, lalu perbaiki.
Amazon Bedrock memberi akses API ke FM dari AI21 Labs, Anthropic, Cohere, Meta, Mistral AI, Stability AI, dan Amazon.
Jenis generative model
- Large language model (LLM) biasanya dibangun dengan arsitektur transformer.
- Token adalah unit teks yang diproses model: kata, potongan kata, atau karakter.
- Embeddings adalah vektor (daftar angka) yang merepresentasikan token. Token yang maknanya mirip punya vektor yang berdekatan, jadi "cat" dekat dengan "kitten".
- Diffusion model belajar dengan menambahkan noise ke gambar sampai tinggal noise (forward diffusion), lalu belajar menghapusnya langkah demi langkah untuk membuat gambar baru (reverse diffusion). Paling dikenal untuk text-to-image.
- Multimodal model menerima dan menghasilkan beberapa jenis data sekaligus, misalnya input gambar plus teks dan output caption.
- GAN (generative adversarial network) mengadu generator yang membuat data palsu dengan discriminator yang berusaha membedakan data asli dan palsu.
- VAE (variational autoencoder) memakai encoder untuk memampatkan data ke latent space dan decoder untuk menghasilkan data dari sampel ruang itu.
Mengoptimalkan output FM
Diurutkan dari yang paling cepat dan murah sampai yang paling rumit:
| Teknik | Fungsinya | Mengubah weights model? |
|---|---|---|
| Prompt engineering | Merancang instruksi dan konteks yang diberikan ke model | Tidak |
| Retrieval-augmented generation (RAG) | Mengambil dokumen relevan dan menambahkannya ke prompt sebagai konteks | Tidak |
| Fine-tuning | Supervised training model pre-trained dengan dataset berlabel yang lebih kecil dan spesifik | Ya |