Challenges of Generative AI (ringkasan)

Model bisa mengambil keputusan yang tidak etis atau tidak bertanggung jawab secara sosial, jadi setiap challenge butuh mitigasi.

Challenge	Risiko	Mitigasi
Regulatory violations	Output membocorkan data yang diatur regulasi, seperti PII	Anonimisasi data, training yang menjaga privasi, audit training data
Social risks	Konten merusak reputasi atau merugikan masyarakat	Uji output, tetapkan content policy, pantau penggunaan
Data security and privacy	Data sensitif bocor lewat prompt atau output	Enkripsi data, kontrol akses, filter input dan output
Toxicity	Output yang ofensif atau tidak pantas	Kurasi training data, pakai guardrails untuk memfilter konten
Hallucinations	Pernyataan yang terdengar masuk akal tapi salah	Grounding jawaban dengan RAG, verifikasi output, libatkan manusia
Interpretability	Sulit menjelaskan kenapa model menghasilkan output tertentu	Pakai tools explainability dan dokumentasikan perilaku model
Nondeterminism	Input yang sama menghasilkan output berbeda di setiap run	Turunkan temperature, uji berulang kali, validasi output

Full notes hanya menangkap slide pertama carousel ini (regulatory violations). Baris lainnya mengikuti course AWS.

Nondeterminism adalah istilah yang harus diingat ketika soal menggambarkan output berbeda dari input yang sama.