Developing generative AI solutions
Selecting an FM
Model pre-trained memberi start awal yang cepat dan lebih cepat konvergen saat di-fine-tune, tapi bisa membawa bias atau melewatkan nuansa domain. Pilih berdasarkan use case.
Kriteria pemilihan
| Kriteria | Yang dicek |
|---|---|
| Cost | Biaya lisensi, compute untuk inference, dan kustomisasi dibanding manfaatnya |
| Modality | Output teks, gambar, audio, atau multimodal |
| Latency | Aplikasi real-time (misalnya terjemahan langsung) butuh inference yang cepat |
| Multilingual support | Bahasa yang dibutuhkan, atau bisa diadaptasi lewat transfer learning |
| Model size | Model besar lebih bagus untuk tugas kompleks tapi butuh compute lebih banyak |
| Model complexity | Model kompleks bisa tugas lanjutan tapi lebih sulit di-deploy dan dioptimasi |
| Customization | Apakah bisa di-fine-tune, serta data dan compute yang dibutuhkan |
| Input/output length | Panjang sequence maksimum untuk dokumen atau output yang panjang |
| Responsibility | Bias, risiko misinformasi, penyalahgunaan, dan sumber training data |
| Deployment and integration | Kecocokan dengan infrastruktur, tools, dan library yang kamu pakai |
Amazon Titan
FM buatan Amazon sendiri, tersedia dalam tiga jenis: embeddings, text generation, dan image generation. Bisa dipakai apa adanya atau di-fine-tune dengan datamu.
Terus tinjau ulang kriteriamu, karena pilihan model berubah dengan cepat.