Năm 2014, một nhóm kỹ sư máy học của Amazon ở Edinburgh, Scotland, nhận một nhiệm vụ nghe rất hợp với công ty đã tự động hóa gần như mọi khâu bán lẻ: tự động hóa luôn việc tìm người giỏi. Theo Reuters, hệ thống họ dựng chấm ứng viên từ một đến năm sao, giống hệt cách khách hàng chấm một món hàng trên Amazon1. Ý tưởng ban đầu, theo một người trong cuộc kể với Reuters, là đưa vào một trăm hồ sơ, máy trả ra năm cái tên tốt nhất, và công ty tuyển những người đó.
Để dạy máy biết thế nào là "tốt", nhóm dùng thứ dữ liệu có sẵn và dồi dào nhất: CV mà Amazon nhận được trong mười năm trước đó1. Nghe thì hợp lý. Mười năm kinh nghiệm tuyển dụng của một trong những công ty công nghệ thành công nhất thế giới, còn gì tốt hơn để học?
Máy học đúng bài, và bài ấy có vấn đề
Phần lớn số CV đó đến từ nam giới, phản ánh thực tế ngành công nghệ suốt thập kỷ trước. Máy không biết giới tính là gì. Nó chỉ thấy những mẫu hình lặp lại trong hồ sơ của người từng được tuyển, và tìm cách chấm điểm cao cho những hồ sơ giống thế.
Đến năm 2015, nhóm nhận ra hệ thống không chấm công bằng giữa nam và nữ cho các vị trí lập trình và kỹ thuật1. Nó hạ điểm những CV có chữ "women's", như trong "đội trưởng câu lạc bộ cờ vua nữ". Nó hạ điểm cả người tốt nghiệp hai trường đại học chỉ dành cho nữ1.
Chi tiết còn đáng nói hơn nằm ở chỗ máy coi trọng cái gì. Theo Reuters, nhóm dựng 500 mô hình cho từng chức năng và địa điểm, mỗi mô hình học nhận biết khoảng 50.000 thuật ngữ từng xuất hiện trong CV cũ1. Những kỹ năng mà gần như ứng viên IT nào cũng có, như biết lập trình, gần như không được tính điểm. Thứ được tính lại là cách viết: những động từ như "executed" hay "captured", vốn hay gặp hơn trong CV của kỹ sư nam1.
Nói cách khác, máy không học cách nhận ra người giỏi. Nó học cách nhận ra người giống những người đã được tuyển.
Sửa một lỗi, không sửa được cách nghĩ
Amazon chỉnh chương trình để nó trung lập với những từ cụ thể như "women's". Nhưng theo những người trong cuộc, không có gì bảo đảm máy sẽ không tìm ra cách khác để phân loại ứng viên theo kiểu phân biệt đối xử1. Chặn một từ thì máy tìm một từ khác mang cùng tín hiệu: tên câu lạc bộ, môn thể thao, cách dùng động từ.
Đầu năm 2017, nhóm bị giải tán vì lãnh đạo mất niềm tin vào dự án. Amazon nói với Reuters rằng công cụ này chưa từng được nhà tuyển dụng của họ dùng để đánh giá ứng viên. Những người trong cuộc thì cho biết nhà tuyển dụng có xem các gợi ý của máy, nhưng không bao giờ chỉ dựa vào đó1,2.
Vì sao câu chuyện năm 2018 vẫn còn nguyên giá trị
Amazon có đội kỹ sư máy học thuộc loại giỏi nhất thế giới và đủ nguồn lực để phát hiện vấn đề. Họ phát hiện, và họ dừng lại. Phần lớn doanh nghiệp mua phần mềm sàng lọc CV hôm nay không có đội như vậy. Họ nhận một sản phẩm đóng gói, một con số điểm, và một lời hứa rằng máy "khách quan".
Máy không khách quan. Máy trung thành với dữ liệu. Nếu mười năm qua công ty chủ yếu tuyển người từ vài trường, vài công ty cũ, vài vùng miền, thì một mô hình học từ lịch sử đó sẽ coi những dấu hiệu ấy là dấu hiệu của năng lực, và nó sẽ làm việc đó rất nhanh, trên hàng nghìn hồ sơ, mà không ai nhìn thấy.
Luật pháp cũng đang bắt kịp. Đạo luật AI của Liên minh châu Âu xếp các hệ thống AI dùng để tuyển chọn, lọc hồ sơ và đánh giá ứng viên vào nhóm rủi ro cao, kéo theo yêu cầu về quản trị dữ liệu, lưu hồ sơ và giám sát của con người3. Tại Việt Nam, Luật Bảo vệ dữ liệu cá nhân có hiệu lực từ ngày 1/1/2026 đặt ra nghĩa vụ rõ ràng với việc thu thập và xử lý dữ liệu của người lao động và ứng viên4. Một công cụ chấm CV không ai giải thích được sẽ ngày càng khó biện minh.
Điều này không có nghĩa là đừng dùng AI
Bài học của Amazon không phải là tránh xa AI trong tuyển dụng. Nó là câu hỏi mà bộ phận nhân sự phải đặt ra trước khi bật bất kỳ công cụ nào: máy đang học từ quyết định của ai, và những quyết định đó có đáng được nhân bản không?
Một cách làm thực tế là coi AI như một người sàng lọc mới vào nghề: cho làm, nhưng kiểm tra bài thường xuyên, và không bao giờ để nó một mình quyết định loại ai.
