Đó là vấn đề được nhiều đại biểu đặt ra tại hội thảo Pháp luật trí tuệ nhân tạo do Trường đại học Quốc tế Sài Gòn tổ chức sáng 4-1.

Cần có hành lang pháp lý cho AI

Tại hội thảo, GS.TS Phan Trung Lý - nguyên chủ nhiệm Ủy ban Pháp luật của Quốc hội - cho rằng ở Việt Nam, trí tuệ nhân tạo (AI) đã và đang từng bước đi vào đời sống con người, ngày càng chứng tỏ vai trò quan trọng to lớn trong việc thúc đẩy phát triển kinh tế - xã hội, bảo đảm an ninh quốc gia.

Bên cạnh những mặt tích cực, AI cũng đã có những tác động tiêu cực, làm dấy lên những quan ngại sâu sắc về các rủi ro tiềm ẩn từ các khía cạnh đạo đức, xã hội, pháp lý.

Ngoài ra, AI đã và đang bị sử dụng để thực hiện các hành vi vi phạm pháp luật và tội phạm. Do đó, việc xây dựng, hoàn thiện chính sách, pháp luật về trí tuệ nhân tạo ở Việt Nam đang đặt ra cấp thiết.

Theo ông Lý, cần tạo ra khung pháp luật thúc đẩy phát triển và ứng dụng AI. Cụ thể là Nhà nước cần khuyến khích doanh nghiệp, tổ chức, cá nhân phát triển, cung cấp, triển khai và sử dụng hệ thống AI đáng tin cậy và lấy con người làm trung tâm, khuyến khích các công ty vừa và nhỏ trong việc cung cấp hệ thống AI tham gia cơ chế thử nghiệm sản phẩm, dịch vụ công nghệ số.

Pháp luật dân sự và sở hữu trí tuệ cần phải giải quyết vấn đề quyền sở hữu đối với sản phẩm AI. Con người hay AI sẽ là chủ sở hữu của sản phẩm trí tuệ nhân tạo?

Trong phát triển các hệ thống AI có liên quan tới con người, pháp luật phải đặc biệt quan tâm đến việc tôn trọng quyền và phẩm giá con người của các cá nhân liên quan.

Trong phạm vi có thể, tùy theo đặc điểm của công nghệ được áp dụng, các nhà phát triển cần thực hiện các biện pháp để bảo đảm không gây ra sự phân biệt đối xử, không công bằng do thiên vị trong dữ liệu khi huấn luyện hệ thống AI.

Các nhà phát triển cần thực hiện những biện pháp phòng ngừa để bảo đảm rằng hệ thống AI không vi phạm các giá trị của con người, đạo đức xã hội theo các nguyên tắc cơ bản của Việt Nam. Nhất là các giá trị cơ bản bao gồm yêu nước, đoàn kết, tự cường, nghĩa tình, trung thực, trách nhiệm, kỷ cương, sáng tạo, bảo vệ quyền riêng tư về không gian, quyền riêng tư về thông tin (dữ liệu cá nhân) và sự bí mật của việc thông tin liên lạc...

AI gây thiệt hại, ai chịu trách nhiệm?

Về việc xây dựng luật mới về AI, PGS.TS Lê Bộ Lĩnh - Viện Nghiên cứu pháp luật và xã hội, nguyên phó tổng thư ký Quốc hội - đề xuất bộ sẽ ban hành các nguyên tắc đạo đức cho việc phát triển, triển khai và ứng dụng AI. Các sản phẩm và nội dung công nghệ số do AI tạo ra phải được xác định rõ ràng là được tạo ra hoặc thao túng một cách nhân tạo.

Hệ thống AI sẽ được phân loại theo mức độ rủi ro dựa trên tác động của chúng đối với sức khỏe, quyền và lợi ích hợp pháp của các tổ chức và cá nhân, sự an toàn hoặc tài sản của con người, sự an toàn của các hệ thống thông tin quan trọng quốc gia và cơ sở hạ tầng quan trọng. Các phân loại này cho phép các hệ thống AI được quản lý theo các mức độ rủi ro khác nhau của chúng.

Bên cạnh đó, một trong những vấn đề pháp lý đầu tiên liên quan đến trí tuệ nhân tạo là quyền sở hữu trí tuệ và bản quyền.

Trong quá trình phát triển AI, việc tạo ra các thuật toán, mô hình, và dữ liệu huấn luyện là rất quan trọng. Tuy nhiên, các quy định hiện tại về SHTT chưa theo kịp sự phát triển của công nghệ.

Cụ thể, việc xác định ai là người sở hữu bản quyền các sản phẩm do AI tạo ra khá phức tạp. Nếu một AI tạo ra một tác phẩm nghệ thuật hay một chương trình phần mềm, thì câu hỏi đặt ra là liệu AI hay người lập trình ra AI đó có quyền sở hữu đối với sản phẩm này? Những quy định hiện hành có thể không hoàn toàn phù hợp, dẫn đến những tranh chấp tiềm ẩn trong tương lai.

Vấn đề trách nhiệm pháp lý khi AI gây ra thiệt hại cũng được đặt ra. AI có thể đưa ra quyết định mà không cần sự can thiệp của con người, điều này tạo ra một tình huống pháp lý khó xác định. Khi một hệ thống AI gây ra lỗi hoặc gây thiệt hại cho con người, câu hỏi đặt ra là ai sẽ phải chịu trách nhiệm? Là nhà sản xuất, nhà phát triển hay chính cá nhân người sử dụng?

Gen Z lo ngại bị thay thế song vẫn tận dụng công cụ AI

Dù cho rằng công việc có thể bị trí tuệ nhân tạo (AI) thay thế trong thập niên tới, lao động gen Z vẫn tận dụng AI để hỗ trợ việc hoàn thành các nhiệm vụ văn phòng. Và họ rất cởi mở về điều đó.