AI vừa lên làm sếp đã quyết định sa thải con người

Một thử nghiệm tại San Francisco (Mỹ) cho thấy sự chuyển dịch quan trọng trong cách AI tham gia vào công việc. Tờ TIME mô tả đây là trường hợp đầu tiên được biết đến, trong đó mô hình ngôn ngữ lớn trở thành quản lý và quyết định sa thải một nhân viên.

AI đuổi việc nhân viên đi trễ

Tại Andon Market, cửa hàng bán lẻ thử nghiệm do Công ty nghiên cứu Andon Labs vận hành, một tác nhân AI tên Luna sử dụng các mô hình Claude của Anthropic được giao điều hành doanh nghiệp và quản lý những người lao động có hợp đồng.

Luna tham gia tuyển dụng, phân ca, giám sát chấm công và thực hiện các nhiệm vụ quản lý khác. Sau đó Luna đề xuất sa thải một nhân viên vì người này đi trễ 17 trong tổng số 23 ca làm việc. Nhưng có một điểm quan trọng là Luna không tự chủ sa thải nhân viên.

Theo TIME, Lukas Petersson - CEO Andon Labs - thừa nhận những dữ kiện do người quản lý nhập vào đã đóng vai trò là "câu hỏi dẫn dắt", khiến kết quả dự kiến đã có trước khi Luna đề xuất chấm dứt hợp đồng.

Ban đầu, Luna chỉ đề xuất đưa ra cảnh cáo chính thức, sau đó thay đổi quyết định khi người quản lý cung cấp thêm bối cảnh và hỏi liệu nhân viên này có "thực sự phù hợp" hay không.

Nói cách khác, đây không phải quyết định hoàn toàn tự động, cũng không hoàn toàn do con người đưa ra. Quyết định được cấu thành từ dữ kiện nhập vào, quá trình suy luận của AI và sự phê duyệt của con người.

Điều này đặt ra vấn đề về trách nhiệm. Nếu quyết định sai, ai chịu trách nhiệm, nhà phát triển AI, doanh nghiệp triển khai hệ thống, người quản lý nhập dữ kiện hay người phê duyệt đề xuất?

Mối nguy hiểm không chỉ nằm ở việc máy móc đưa ra quyết định về con người, mà còn ở khả năng con người sử dụng máy móc để tạo "khoảng cách" giữa bản thân và những quyết định mà họ không muốn chịu trách nhiệm.

5 "hàng rào bảo vệ" khi đưa AI làm quản lý

Trước khi cho phép AI đưa ra hoặc đề xuất các quyết định quan trọng về việc làm, doanh nghiệp cần có những biện pháp bảo vệ người lao động và chính mình.

Thứ nhất, nhân viên cần được thông báo khi AI ảnh hưởng đến tuyển dụng, phân ca, đánh giá, kỷ luật hoặc chấm dứt hợp đồng.

Thứ hai, phải có một người cụ thể chịu trách nhiệm. "Thuật toán đã đề xuất như vậy" không thể trở thành cách để doanh nghiệp né tránh trách nhiệm.

Thứ ba, nhân viên cần quy trình kháng nghị rõ ràng, với sự xem xét độc lập của con người.

Thứ tư, doanh nghiệp nên thường xuyên kiểm tra hệ thống để đảm bảo không xảy ra tình trạng thiên kiến, thiếu nhất quán hoặc thiếu thông tin về bối cảnh. Phía sau một quyết định trông có vẻ khách quan có thể là thông tin không đầy đủ hoặc bị bóp méo.

Thứ năm, doanh nghiệp cần phân biệt đâu là những quyết định AI có thể hỗ trợ và đâu là điều AI không bao giờ được quyền kiểm soát. Ví dụ những quyết định liên quan đến sinh kế, danh tiếng hoặc sức khỏe của con người vô cùng quan trọng, vì thế cần sự giám sát của con người.

Một cú 'copy-paste' vào AI, dữ liệu mật doanh nghiệp có thể bị lộ

AI giúp doanh nghiệp tăng năng suất nhưng cũng tăng nguy cơ rò rỉ dữ liệu, từ những cú 'copy-paste' của nhân viên đến nguy cơ AI agent bị thao túng để truy xuất dữ liệu trái phép.