Những cuộc tranh luận gần đây của các chuyên gia đã xem xét rất nghiêm túc về các khía cạnh an toàn, pháp lý hay thậm chí là triết học. Để hiểu vấn đề này, các chuyên gia đã đặt lại một câu hỏi trắc nghiệm tâm lý kinh điển: Bạn đang đứng trên cây cầu. Phía dưới bạn là một đường ray xe lửa chính cùng một nhánh rẽ khác. Trên đường ray chính có 50 người bị trói chặt dưới đường ray. Lúc đó, một chiếc tàu hỏa đang chạy tới và lao đến 50 người bị trói. May mắn là trên đường ray có một cần kéo có thể thay đổi vị trí của tà vẹt. Khi kéo cần, tà vẹt sẽ thay đổi vị trí dưới đường ray khiến đoàn tàu đi vào nhánh rẽ còn lại. Nhưng điều bất hạnh trong sự may mắn trên là ở nhánh rẽ cũng có một người đang bị mắc kẹt. Vậy nếu là bạn, bạn có kéo cần không?

Một bài trắc nghiệm tâm lý tương tự: Bạn cũng đang đứng ở trên một cây cầu đường sắt, phía gần đó là 50 người đang bị cột ở trên đường ray. Tuy nhiên, lần này chỉ có một đường ray duy nhất và bạn phát hiện đoàn tàu đang chạy từ xa. Có một người đàn ông đang đứng gần đường ray. Bạn phải đưa ra lựa chọn, hoặc là đẩy người đàn ông xuống đường ray, đoàn tàu tông vào người đàn ông và sẽ dừng lại, từ đó cứu mạng 50 người, hoặc là bạn không làm gì cả và đoàn tàu đâm vào 50 người.

Liệu khi thời đại xe tự lái đến, máy tính sẽ quyết định sự sống chết của mỗi người?

Không có câu trả lời đúng hay sai ở bài trắc nghiệm này. Nhiều người nói rằng họ sẽ kéo cần gạt, nhưng sau đó sẽ chạy lại và đẩy người đàn ông đi. Rất khó để xác định nguyên tắc đạo đức ở những trường hợp trên. Ví dụ, nếu nguyên tắc chủ đạo của bạn là giảm thiểu thương vong thì bạn sẽ không bận tâm gì về việc kéo cần hay đẩy người đàn ông. Tuy nhiên, chúng ta đều phải thừa nhận rằng việc đẩy người đàn ông khiến chúng ta chịu cảm giác tội lỗi là mình vừa giết người.

Liên hệ những kịch bản trên với công nghệ xe tự lái, chúng ta có thể giả định một trường hợp rằng chiếc xe sẽ quyết định như thế nào nếu để tránh một vụ tai nạn chết người, nó buộc lòng phải đâm vào một đám đông đang ngồi uống cà phê bên vệ đường?

Tuy nhiên nhiều chuyên gia đã chỉ ra rằng sẽ rất hiếm khi xảy ra những trường hợp như hai bài trắc nghiệm tâm lý ở trên, cũng như công nghệ xe tự lái sẽ chỉ làm tăng sự an toàn cho con người. Do đó, không có lý do gì để cấm cản một công nghệ mang đến lợi ích lớn như vậy cả.

Giữa một đám đông đi sai luật và một người đi đúng luật, chiếc xe tự lái sẽ chọn đâm vào ai nếu như bắt buộc phải làm vậy để tránh tai nạn có thể khiến ba mẹ con ngồi trên xe thiệt mạng?

Tuy nhiên, dù có dùng lý do gì đi chăng nữa thì cũng phải thừa nhận rằng cho đến thời điểm này, vẫn chưa có một hệ thống nào có thể mô phỏng suy nghĩ của con người. Trí thông minh nhân tạo trong xe tự lái chỉ có thể giải quyết được những vấn đề mà các lập trình viên cài đặt, bao gồm các kịch bản có thể xảy ra trên đường, và chúng phải ra quyết định trong tíc tắc. Không có thời gian để chúng suy nghĩ hay gửi thông tin về một "Ban cố vấn" nào đó xem xét. Do đó, việc có một hệ quy chuẩn đạo đức riêng là điều cần thiết, và các chuyên gia phải xem xét vấn đề này một cách nghiêm túc trước khi tung ra những chiếc xe tự lái đầu tiên.

Xét cho cùng, việc tìm kiếm một giải pháp đòi hỏi chúng ta phải đối mặt với những sự thật mà chúng không phù hợp với cảm quan đạo đức của mỗi người. Ví dụ, nếu những chiếc xe tự lái được thiết kế để tuân theo một quy tắc đơn giản: giảm thiểu thương vong. Đôi khi, quy tắc này có thể dẫn đến một kết quả gây tranh cãi như thay vì đâm vào bốn người đi bộ vi phạm luật giao thông, chiếc xe chọn một cách giải quyết khác là đưa một bà mẹ với hai đứa con nhỏ vào tình trạng nguy hiểm. Vì vậy, quy tắc có thể được tăng thêm một điều khoản: giảm thiểu thương vong, trừ khi một bên tự đặt mình vào tình trạng nguy hiểm.

Với những tranh cãi trên thì có thể mặc dù về mặt công nghệ, chúng ta đã gần đạt đến khả năng tạo ra những chiếc xe tự lái, nhưng sẽ còn khá nhiều thứ về mặt đạo đức và pháp lý phải cân nhắc.