Module 2/4 22 min
Bias: where it comes from and how to reduce it
Step 1 / 3·Where bias comes from
0/3 steps done
Learning objectives — after this module you will:
- Understand bias comes from data, design, and use
- Know the protected characteristics that must not drive decisions
- Apply guardrails to reduce bias in HR work
Learn ~6 min
Where bias comes from
Understand the three sources of bias to guard the right places.
Three common sources of bias
- Data: learning from a prejudiced past (like the Amazon case) — AI repeats the past, it doesn't create a fairer future
- Design: choosing variables/signals correlated with protected characteristics (e.g., area code or school name can correlate with gender/origin)
- Use: trusting AI blindly, without oversight, without allowing appeals
Đặc điểm được bảo vệ — KHÔNG dùng để chấm điểm
Tuyệt đối không dùng — và không để AI suy ra rồi dùng — các đặc điểm: giới tính, tuổi, dân tộc, tôn giáo, tình trạng hôn nhân, tình trạng sức khỏe/khuyết tật, mang thai. Quyết định nhân sự chỉ được dựa trên tiêu chí LIÊN QUAN CÔNG VIỆC (năng lực, kinh nghiệm, kết quả). Đây cũng chính là nguyên tắc đã được cài trong các công cụ tuyển dụng của TTD.
Key takeaway: Bias comes from data, design, and use; never use protected characteristics to decide.