Responsible AI practices
Responsible Considerations to Select a Model
Pemilihan model memengaruhi segalanya, dari user experience sampai profitabilitas. Evaluasi kandidat dengan Model evaluation on Amazon Bedrock atau SageMaker Clarify.
Definisikan use case secara sempit
Use case yang didefinisikan secara sempit memungkinkan model di-tuning untuk kebutuhan itu. Face recognition adalah teknologi, bukan use case.
- Gallery retrieval (mencari orang hilang) sebaiknya mengutamakan recall: lebih baik mengembalikan banyak kandidat yang mungkin cocok.
- Celebrity recognition atau virtual proctoring sebaiknya mengutamakan precision: terlalu banyak hasil justru tidak berguna.
Contoh generative AI untuk toko online:
| Katalog produk | Membujuk untuk membeli | |
|---|---|---|
| Audiens | Luas | Sempit |
| Risiko | Veracity | Veracity, bias yang tidak diinginkan, toxicity |
| Tuning | Netral, jelas, lengkap | Fokus pada hal yang paling penting bagi kelompok itu |
Faktor performa
- Level of customization: dari prompting sampai retraining penuh
- Model size: jumlah parameter
- Inference options: self-managed atau API
- Licensing: sebagian lisensi membatasi penggunaan komersial
- Context window: berapa banyak informasi yang muat dalam satu prompt
- Latency: waktu untuk menghasilkan output
Performa adalah fungsi dari model dan test dataset, bukan model saja. Dataset terus berubah, jadi pantau keduanya.
Pertimbangan lain
- Sustainability: berkelanjutan secara sosial, lingkungan, dan ekonomi dalam jangka panjang.
- Responsible agency: value alignment, responsible reasoning, level autonomy yang tepat dengan pengawasan manusia, serta transparency dan accountability.
- Lingkungan: konsumsi energi, pemakaian sumber daya (GPU dan data center), dan environmental impact assessment.
- Ekonomi: keuntungan efisiensi dibandingkan hilangnya pekerjaan, ketimpangan, dan konsentrasi kekuatan di segelintir perusahaan.