Cảnh báo nguy cơ AI tạo vũ khí số ngoài ý muốn

Chiều 27/11, tiếp tục chương trình Kỳ họp thứ 10, Quốc hội khóa XV thảo luận tại hội trường về dự án Luật Trí tuệ nhân tạo (AI) . Đóng góp ý kiến về mô hình AI đa dụng có rủi ro hệ thống (Điều 16), đại biểu Nguyễn Tâm Hùng (đoàn TP.HCM) đề nghị Ban soạn thảo bổ sung nghĩa vụ kiểm soát khả năng tự sinh của mô hình. Theo ông, AI hiện nay không chỉ tạo văn bản hay hình ảnh mà có thể trở thành vũ khí số.

Đại biểu Nguyễn Tâm Hùng - Đoàn đại biểu Quốc hội TP.HCM cho hay: “Qua nghiên cứu một số tài liệu và thực tiễn cho thấy, mô hình AI đa dụng hiện nay không chỉ tạo văn bản hay hình ảnh mà có thể tự sinh ra mã nguồn, công cụ tấn công, chỉ thị thực thi, quy trình tấn công mạng, phương thức gian lận tài chánh hoặc công cụ vượt qua hệ thống bảo mật. Mặc dù nhà phát triển không chủ động cài đặt AI để làm điều đó, nhưng mô hình tự suy diễn từ dữ liệu và kiến thức tích lũy dẫn đến khả năng tạo ra vũ khí số ngoài ý muốn. Chính vì vậy, cần phải có cơ chế cảnh báo, chặn, giới hạn đầu ra là cần thiết để bảo đảm an ninh mạng và an ninh quốc gia cũng như trật tự an toàn xã hội trong tình hình mới.”

Ở nội dung đào tạo nhân lực (Điều 24), đại biểu Nguyễn Thị Tuyết Nga (đoàn Quảng Trị) cho rằng cần xem xét thận trọng việc yêu cầu giáo dục phổ thông tích hợp nội dung AI vào chương trình bắt buộc.

Đại biểu Nguyễn Thị Tuyết Nga nêu quan điểm: “Học sinh lứa tuổi phổ thông, đặc biệt là ở tiểu học, còn non nớt về nhận thức và tư duy phản biện. Do đó, các nội dung về AI có thể gây ra những tác động tiêu cực đến học sinh nếu không được kiểm soát.

Các yêu cầu về thiết kế chương trình theo lứa tuổi phải bắt đầu bằng kiến thức cơ bản, lý thuyết về AI, về đạo đức công nghệ trước khi đi vào ứng dụng trực tiếp. Phải luật hóa các nguyên tắc để bảo vệ trẻ em trong sử dụng AI, yêu cầu các phần mềm, nền tảng AI được cấp phép, kiểm duyệt nội dung khi dùng trong giáo dục phổ thông. Luật cần có các quy định nguyên tắc cơ bản để vừa giúp học sinh tiếp cận AI từ sớm vừa bảo vệ trẻ khỏi các tác động tiêu cực."

Đại biểu Trịnh Thị Tú Anh (đoàn Lâm Đồng) cho rằng, Luật Trí tuệ nhân tạo sẽ đưa Việt Nam trở thành một trong những quốc gia đầu tiên có khuôn khổ pháp lý độc lập cho lĩnh vực này. Đại biểu cũng đề nghị bổ sung điều 10 về trách nhiệm minh bạch theo hướng: cần xác lập tiêu chuẩn kỹ thuật chung trong việc gắn nhãn nội dung do AI tạo ra.

Đại biểu Trịnh Thị Tú Anh cho biết: “Người dùng có quyền biết họ đang tương tác với máy và nội dung họ xem có phải là thật hay không. Đây là rào cản quan trọng nhất để chống lại nạn lừa đảo trực tuyến và tin giả bằng deepfake. Tuy nhiên, tôi còn băn khoăn về tính khả thi kỹ thuật. Quy định hiện tại yêu cầu đánh dấu dạng máy đọc và gắn nhãn, nhưng chưa định hình được tiêu chuẩn kỹ thuật chung. Nếu mỗi nền tảng áp dụng một công nghệ đánh dấu khác nhau, hệ thống nhận diện AI sẽ không thể hoạt động. Nguy hiểm hơn, các mô hình AI mã nguồn mở có thể dễ dàng bị can thiệp để gỡ bỏ các dấu hiệu này, nếu chúng không tuân theo một tiêu chuẩn bảo mật đủ mạnh.

Do đó, tôi đề nghị bổ sung vào Khoản 6 nguyên tắc: tiêu chuẩn kỹ thuật phải hài hòa, tương thích với bộ tiêu chuẩn chung được thừa nhận quốc tế, nhằm tạo tính kết nối, liên thông dữ liệu và hiệu quả quản lý, để làm cơ sở cho Chính phủ quy định chi tiết.”

Cũng tại nghị trường, các đại biểu cho rằng AI đang phát triển, thay đổi nhanh và liên tục, nên luật phải linh hoạt, cho phép Chính phủ cập nhật danh mục cảnh báo hoặc những công nghệ bị cấm khi xuất hiện rủi ro mới. Nếu không, luật sẽ tụt hậu ngay khi có hiệu lực.