Cảnh báo việc sử dụng AI tạo video sai sự thật

Việc lợi dụng công nghệ AI để tạo video, hình ảnh sai sự thật đang gây nhiễu loạn thông tin trên mạng xã hội, tiềm ẩn nguy cơ ảnh hưởng nghiêm trọng đến nhận thức và trật tự xã hội.

Cảnh báo việc sử dụng AI tạo video sai sự thật

Theo cơ quan Công an, trên không gian mạng hiện nay xuất hiện tình trạng một số cá nhân, tổ chức lợi dụng công nghệ AI để tạo ra các hình ảnh, video nội dung “rác”, xấu độc, phản cảm, bịa đặt thông tin sai sự thật, thậm chí mang tính bạo lực nhằm kích thích sự tò mò, thu hút lượt xem.

Những nội dung này thường sử dụng từ ngữ mạnh như: “vụ án”, “bí mật”, “hồ sơ”… gây nhiễu loạn thông tin, tác động tiêu cực đến nhận thức, tâm lý và hành vi của người sử dụng mạng xã hội. Sau thời gian ngắn tạo lập, hoạt động, nhiều kênh đăng tải đã thu hút hàng chục nghìn người đăng ký, theo dõi và hàng chục triệu lượt xem video.

Đáng chú ý, trong số đó có kênh lượng tương tác lớn đã tạo dựng các video, hình ảnh, bịa đặt thông tin về lực lượng Công an nhằm mục đích trục lợi, “câu view”, “câu like” tạo dư luận xấu, gây nhầm lẫn cho người xem cho rằng những video này là thật.

Mới đây, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao Công an thành phố Hà Nội xử lý một trường hợp (trú tại phường Tây Mỗ, Hà Nội), là quản trị kênh Youtube. Đối tượng thường xuyên đăng tải các video AI tạo dựng quá trình gây án mạng và hình ảnh lực lượng Công an phá án. Mục đích đăng tải các video lên kênh Youtube là để thu hút đông người xem, kiếm tiền quảng cáo từ Youtube.

Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã ra quyết định xử phạt vi phạm hành chính đối với trường hợp này về hành vi “cung cấp, chia sẻ thông tin giả mạo, thông tin sai sự thật, xuyên tạc, vu khống, xúc phạm uy tín của cơ quan, tổ chức, danh dự, nhân phẩm của cá nhân”.

Tin liên quan

Cấm dùng AI giả mạo hình ảnh

Cấm dùng AI giả mạo hình ảnh

Chính trị

Với đa số đại biểu có mặt biểu quyết tán thành, Quốc hội đã thông qua Luật An ninh mạng với hàng loạt hành vi bị nghiêm cấm như lừa đảo trực tuyến, thu thập trái phép dữ liệu, giả mạo bằng AI và các hành vi xâm hại an ninh mạng khác.

AI trong học đường

AI trong học đường

Tin tức

Trí tuệ nhân tạo (AI) đang ngày càng được ứng dụng rộng rãi trong học tập, đặc biệt là ở môi trường học đường. Những công cụ thông minh này giúp việc tra cứu thông tin, chuẩn bị bài vở trở nên nhanh chóng và thuận tiện hơn.

An ninh trật tự

Truy tìm hai xe máy là tang vật vụ án

Truy tìm hai xe máy là tang vật vụ án

An ninh trật tự

Cơ quan Cảnh sát điều tra Công an thành phố Hà Nội đang truy tìm hai xe máy Honda SH là tang vật liên quan đến hai vụ án trộm cắp tài sản, đề nghị người dân có thông tin phối hợp cung cấp để phục vụ điều tra.

Đề nghị án treo bị cáo Lê Thanh Thản, bồi thường nhà theo giá thị trường

Đề nghị án treo bị cáo Lê Thanh Thản, bồi thường nhà theo giá thị trường

An ninh trật tự

Sáng 19/11, tại phiên tòa xét xử vụ án xảy ra tại dự án CT6 Kiến Hưng, đại diện Viện kiểm sát nhân dân Thành phố đã công bố bản luận tội, đề nghị mức án 30 đến 36 tháng tù nhưng cho hưởng án treo đối với bị cáo Lê Thanh Thản về tội “Lừa dối khách hàng”. Cùng với việc xử lý nghiêm minh các sai phạm để lập lại kỷ cương đô thị, phiên tòa đặc biệt chú trọng phương án khắc phục hậu quả, bảo vệ tối đa quyền lợi người mua nhà theo tinh thần Nghị quyết số 96 của Hội đồng nhân dân Thành phố Hà Nội.

Xem thêm

  • Quan tâm nhiều nhất
  • Mới nhất

15 trả lời

15 trả lời