Principles of Human-Centered Design for Explainable AI

Human-centered design (HCD) membuat penjelasan dan antarmuka AI jelas, berguna, akurat, dan adil bagi orang yang memakainya. Ada tiga prinsip:

1. Design for amplified decision-makingCopy Anchor Link

Mendukung orang yang membuat keputusan berisiko tinggi di bawah tekanan atau stres, memaksimalkan manfaat teknologi sambil meminimalkan kesalahan.

Aspek kuncinya: clarity, simplicity, usability, reflexivity (mendorong pengguna merefleksikan keputusannya), dan accountability.

2. Design for unbiased decision-makingCopy Anchor Link

Menjaga proses dan tools pengambilan keputusan bebas dari bias:

1. Identifikasi dan nilai potensi bias.
2. Rancang proses dan tools yang transparan dan adil.
3. Latih pengambil keputusan untuk mengenali dan mengurangi bias.

Aspek kuncinya: transparency, fairness, training.

3. Design for human and AI learningCopy Anchor Link

Membangun lingkungan belajar yang efektif bagi manusia maupun AI.

Aspek kuncinya:

• Cognitive apprenticeship: AI belajar dari pakar manusia, seperti murid belajar dari mentor.
• Personalization: pembelajaran disesuaikan untuk tiap pelajar.
• User-centered design: bisa diakses semua orang, termasuk penyandang disabilitas atau yang punya hambatan bahasa.

RLHFCopy Anchor Link

Reinforcement learning from human feedback (RLHF) memasukkan feedback manusia ke reward function agar model selaras dengan tujuan manusia. RLHF meningkatkan performa dan kepuasan pengguna, dan dipakai di AI tradisional maupun generative AI.

Amazon SageMaker Ground Truth menyediakan labeling human-in-the-loop, termasuk RLHF: annotator memberi peringkat atau mengklasifikasi respons model, dan data perbandingan serta peringkat itu menjadi reward model.