Việc phát triển, cung cấp, triển khai và sử dụng trí tuệ nhân tạo (AI) phải bảo đảm minh bạch, khả năng giải thích được, trách nhiệm giải trình, khả năng kiểm soát thuật toán, mô hình trí tuệ nhân tạo; không thay thế, không vượt qua tầm kiểm soát của con người.
Tiếp tục Phiên họp thứ 38, chiều 8/10, dưới sự điều hành của Phó Chủ tịch Quốc hội Nguyễn Đức Hải, Ủy ban Thường vụ Quốc hội cho ý kiến về dự án Luật Công nghiệp công nghệ số.
Quản lý dựa trên rủi ro trong suốt vòng đời của trí tuệ nhân tạo
Tờ trình của Chính phủ nêu rõ, việc xây dựng Luật nhằm đề xuất chính sách khả thi, quy định cụ thể, tạo hành lang pháp lý rõ ràng, đặc biệt cho các sản phẩm, dịch vụ công nghệ số để thúc đẩy phát triển ngành công nghiệp công nghệ số; tạo cơ chế ưu đãi cho công nghiệp công nghệ số, trong đó có một số đặc biệt ưu đãi đầu tư; và ưu đãi, hỗ trợ đầu tư đặc biệt.
Bộ trưởng Thông tin và Truyền thông Nguyễn Mạnh Hùng phát biểu tại phiên họp. (Ảnh: DUY LINH)
Bố cục của dự thảo Luật Công nghiệp công nghệ số gồm 8 chương, 73 điều, trong đó dành riêng một chương quy định các nội dung về trí tuệ nhân tạo.
Cụ thể, việc phát triển, cung cấp, triển khai và sử dụng trí tuệ nhân tạo phải dựa trên nguyên tắc: phục vụ sự thịnh vượng và hạnh phúc của con người, lấy con người làm trung tâm, nâng cao năng suất, hiệu quả công việc; tiếp cận bao trùm, công bằng và không phân biệt đối xử; tôn trọng các giá trị đạo đức, quyền và lợi ích của con người và bảo vệ quyền riêng tư.
Đồng thời, bảo đảm minh bạch, khả năng giải thích được, trách nhiệm giải trình, khả năng kiểm soát thuật toán, mô hình trí tuệ nhân tạo; không thay thế, không vượt qua tầm kiểm soát của con người; bảo đảm an ninh và bảo mật; quản lý dựa trên rủi ro trong suốt vòng đời của trí tuệ nhân tạo…
Cũng theo dự thảo, các sản phẩm công nghệ số tạo ra bởi hệ thống trí tuệ nhân tạo phải dán nhãn để nhận dạng. Bộ Thông tin và Truyền thông quy định về nhãn; quy trình, thủ tục dán nhãn sản phẩm công nghệ số tạo ra bởi hệ thống trí tuệ nhân tạo.
Nhà phát triển hệ thống trí tuệ nhân tạo là cá nhân, tổ chức thực hiện hoạt động phát triển hệ thống trí tuệ nhân tạo, có trách nhiệm bảo vệ quyền riêng tư, thông tin cá nhân; giải quyết kịp thời các yêu cầu tra cứu, sao chép, chỉnh sửa, bổ sung, xóa thông tin cá nhân theo quy định của pháp luật về bảo vệ dữ liệu cá nhân.
Thông báo trước rõ ràng cho người sử dụng nếu hệ thống trí tuệ nhân tạo có rủi ro về an toàn hoặc bảo mật khi quyền riêng tư hoặc quyền và lợi ích liên quan đến thông tin cá nhân bị vi phạm. Kiểm tra và giám sát thường xuyên các lỗ hổng và rủi ro bảo mật, phải lưu thông tin nhật ký về quá trình phát triển và quản lý hệ thống trí tuệ nhân tạo…
Dự thảo Luật giao Chính phủ quy định chi tiết về tiêu chí, thẩm quyền, trình tự, thủ tục xác định hệ thống trí tuệ nhân tạo rủi ro cao, hệ thống trí tuệ nhân tạo có khả năng tác động cao; trách nhiệm và các trường hợp miễn trách nhiệm của tổ chức, cá nhân có liên quan đến phát triển, cung cấp và sử dụng hệ thống trí tuệ nhân tạo.
Bên cạnh nội dung về trí tuệ nhân tạo, dự thảo Luật Công nghiệp công nghệ số có các chương riêng quy định về: phát triển ngành công nghiệp công nghệ số; phát triển doanh nghiệp công nghệ số; cơ chế thử nghiệm có kiểm soát; công nghiệp bán dẫn; quản lý nhà nước về công nghiệp công nghệ số.
Nhất trí lồng ghép các quy định về hệ thống AI trong dự thảo Luật
Qua thẩm tra, Ủy ban Khoa học, Công nghệ và Môi trường của Quốc hội nhận thấy, dự thảo Luật cơ bản đã thể chế hóa và phù hợp với đường lối, chủ trương, của Đảng và chính sách của Nhà nước. Nhìn chung, hồ sơ dự án Luật đáp ứng yêu cầu, đủ điều kiện để trình Quốc hội xem xét, cho ý kiến.
Chủ nhiệm Ủy ban Khoa học, Công nghệ và Môi trường Lê Quang Huy trình bày báo cáo thẩm tra. (Ảnh: DUY LINH)
Thường trực Ủy ban tán thành với việc thiết kế các chính sách và các quy phạm mới mang tính đột phá, vượt trội để thúc đẩy phát triển công nghiệp công nghệ số.
Cho rằng việc quy định về tài sản số trong Luật là cần thiết, tuy nhiên, theo cơ quan chủ trì thẩm tra, quản lý tài sản số là một vấn đề mới, phức tạp, cần cân nhắc kỹ lưỡng, trong đó cần nghiên cứu, làm rõ một số nội dung về phân loại tài sản số và xây dựng các quy định quản lý tương ứng; về quyền sở hữu, thừa kế và sử dụng; biện pháp bảo mật, giao dịch tài sản số, xử lý khiếu nại của người dùng, bảo hộ quyền sở hữu trí tuệ; bảo đảm quản lý chặt chẽ, chống rửa tiền và minh bạch hóa thị trường.
Về trí tuệ nhân tạo (AI), có ý kiến đề nghị cần nghiên cứu toàn diện (bao gồm cả những vấn đề như sở hữu, quyền tài sản và quyền nhân thân đối với dữ liệu, vấn đề bảo hộ quyền tác giả…) để xây dựng một Đạo luật riêng về AI của Việt Nam.
Ủy ban Khoa học, Công nghệ và Môi trường thấy rằng, tại thời điểm này Việt Nam cần phải có cơ sở pháp lý để điều chỉnh về trí tuệ nhân tạo để phát triển thế mạnh, lợi thế của AI đồng thời hạn chế tác động bất lợi trong nghiên cứu, ứng dụng, phát triển công nghệ AI. Do đó, cơ bản tán thành sự cần thiết quy định đối với các hệ thống AI được lồng ghép trong dự thảo Luật.
Tuy nhiên, đề nghị nghiên cứu bổ sung các quy định hạn chế rủi ro, ảnh hưởng của công nghệ AI đối với đời sống kinh tế, xã hội như nguyên tắc đạo đức; nghiên cứu, phát triển AI do Việt Nam sáng tạo; cho phép các doanh nghiệp có dự án nghiên cứu về trí tuệ nhân tạo được sử dụng nguồn dữ liệu từ các cơ quan nhà nước; quy định mức độ ứng dụng trí tuệ nhân tạo trong các cơ quan nhà nước từ các giải pháp do doanh nghiệp trong nước làm chủ nhằm khuyến khích sử dụng và tạo thị trường.