Responsible AI practices
Model Trade-Offs
Interpretability vs explainability
| Interpretability | Explainability | |
|---|---|---|
| Arti | Manusia bisa menjelaskan output langsung dari weights dan feature model | Perilaku model apa pun, bahkan black box, dijelaskan dalam bahasa manusia |
| Caranya | Periksa mekanisme internalnya | Model-agnostic methods: partial dependence plots, SHAP dependence plots, surrogate models |
| Contoh | Ekonom membaca koefisien model regresi untuk inflasi | Situs berita menemukan neural network-nya memberi label "sports" pada artikel bisnis tentang klub olahraga |
Interpretability tinggi biasanya mengorbankan performa. Kalau butuh transparansi yang persis, pilihan algoritmamu terbatas. Kalau butuh performa tinggi dengan pemahaman umum saja, pakai explainability.
Safety vs transparency
Model safety berarti menghindari kerugian: bias, bocornya privasi, dan celah keamanan. Safety melindungi informasi sementara transparency membukanya, jadi keduanya saling tarik:
- Accuracy: neural network yang kompleks lebih akurat tapi kurang interpretable dibanding model linear.
- Privacy: teknik seperti differential privacy meningkatkan safety tapi membuat model lebih sulit diperiksa.
- Safety: memfilter output menyembunyikan penalaran asli model.
- Security: model yang dilatih di jaringan air-gapped lebih sulit diaudit dari luar.
Controllability
Model yang controllable adalah model yang prediksi dan perilakunya bisa kamu pengaruhi dengan mengubah training data. Model seperti ini lebih transparan dan biasnya lebih mudah dikoreksi.
- Model linear lebih controllable daripada neural network yang kompleks.
- Ujinya dengan menambah atau menghapus contoh, lalu periksa apakah output berubah sesuai harapan.
- Tingkatkan dengan data augmentation dan constraint saat training.