Giả mạo bằng AI: Ranh giới mỏng giữa công nghệ và tội phạm

Chỉ với một bức ảnh hay vài giây giọng nói trên mạng xã hội, kẻ xấu có thể tạo ra những video giả mạo gần như thật: từ người nổi tiếng kêu gọi vay tiền, mạo danh nguyên thủ quốc gia phát biểu sai lệch, cho đến quảng cáo gắn link lừa đảo...

Một cá nhân vừa bị xử phạt 10 triệu đồng vì dùng AI cắt ghép video sai sự thật về nghi phạm "trùm ma túy" Bùi Đình Khánh nhún nhảy trong trụ sở công an Quảng Ninh; hay một người đàn ông ở Nghệ An bị công an triệu tập vì chia sẻ clip AI dựng cảnh ‘lấy xương người nấu cao chế thuốc trường sinh’...

Trong thời gian qua, Bộ Công an, Công an TP. Hà Nội cũng đã phát hiện và xử lý hàng loạt trường hợp vi phạm trên không gian mạng về hành vi xâm phạm lợi ích nhà nước, gây mất ANTT khiến dư luận hoang mang.

Bà Nguyễn Như Quỳnh - Trung tâm chongluadao.vn cho biết: “Những công cụ AI hiện tại vẫn chưa được kiểm soát chặt chẽ bởi các cơ quan chức năng, nên các đối tượng rất dễ tiếp cận với các công cụ này. Nhiều người dùng chủ yếu sử dụng với mục đích giải trí, nhưng vẫn có những thành phần sử dụng công cụ này vào những mục đích lừa đảo".

Các nền tảng AI như KlingAI, Veo 3, Sora… đang thu hút sự quan tâm của người dùng toàn cầu. Hàng nghìn video được tạo ra mỗi ngày, từ giải trí vô hại như mô phỏng, hướng dẫn những hoạt động học tập hay cả MV ca nhạc.

Nhưng song song với cơ hội, quyền hình ảnh và dữ liệu cá nhân của người dân lại bị đe dọa nghiêm trọng hơn bao giờ hết. AI hiện đã có thể giả mạo gương mặt, giọng nói, hành vi một cách nhuần nhuyễn, lan truyền nhanh chóng và khó truy vết.

Theo các chuyên gia pháp lý, nguyên tắc ‘sử dụng hình ảnh phải có sự đồng ý của cá nhân’ vẫn là nền tảng bất di bất dịch.

Luật sư Nguyễn Đức Năng, Giám đốc Công ty Luật Năng & Partner cho biết: “AI có thể dùng để tạo video, hình ảnh với những mục đích giải trí là điều bình thường. Nhưng nếu dùng AI tạo video, hình ảnh mà không được phép, thậm chí sử dụng chúng với mục đích xuyên tạc, lừa đảo có thể vi phạm luật dân sự, bị xử phạt hành chính, yêu cầu bồi thường; thậm chí, nếu gây hậu quả nghiêm trọng, sẽ bị truy cứu trách nhiệm hình sự”.

AI là thành quả của trí tuệ nhân loại, mang lại nhiều lợi ích to lớn cho đời sống và xã hội. Tuy nhiên, khi bị lợi dụng để giả mạo, xuyên tạc hoặc lừa đảo, công nghệ này có thể biến thành công cụ phục vụ tội phạm. Tùy theo tính chất, mức độ và hậu quả của hành vi, người vi phạm có thể bị xử phạt hành chính hoặc bị truy cứu trách nhiệm hình sự theo quy định pháp luật.

"Người dùng mạng xã hội hiện nay thường để lộ rất nhiều thông tin cá nhân từ hình ảnh, giọng nói,... và thậm chí còn có các công cụ có thể truy cập vào điện thoại cá nhân và quét toàn bộ dữ liệu cá nhân có trong đó. Những dữ liệu bị rò rỉ này là cơ sở để AI có thể xây dựng những hình ảnh, video giả mạo", bà Nguyễn Như Quỳnh - Trung tâm Chongluadao.vn cho biết.

Luật sư Nguyễn Đức Năng, Giám đốc Công ty Luật Năng & Partner cho rằng: “Quyền hình ảnh là quyền nhân thân được pháp luật bảo hộ. Người vi phạm có thể đối mặt với khung hình phạt cao nhất lên tới 7 năm tù. Trách nhiệm không chỉ thuộc về người tạo ra nội dung, mà cả người phát tán clip AI giả mạo. Các nền tảng mạng xã hội, nếu chậm gỡ bỏ hay tiếp tay phát tán, cũng có thể bị xử lý theo quy định của pháp luật".

Để giảm thiểu rủi ro về tính pháp lý từ những video bằng AI, các chuyên gia khuyến nghị: người dân cần nâng cao cảnh giác, không vội tin và chia sẻ các clip chưa được kiểm chứng; tuyệt đối không lợi dụng AI để tạo video vi phạm nhằm câu view. Cùng với đó, các cơ quan chức năng cũng phải tăng cường hợp tác quốc tế để hoàn thiện cơ chế pháp lý, còn các nền tảng công nghệ cần triển khai những công cụ xác minh danh tính và kiểm duyệt nội dung hiệu có hiệu quả.