Cảnh báo việc sử dụng AI tạo video sai sự thật

Việc lợi dụng công nghệ AI để tạo video, hình ảnh sai sự thật đang gây nhiễu loạn thông tin trên mạng xã hội, tiềm ẩn nguy cơ ảnh hưởng nghiêm trọng đến nhận thức và trật tự xã hội.

Cảnh báo việc sử dụng AI tạo video sai sự thật

Theo cơ quan Công an, trên không gian mạng hiện nay xuất hiện tình trạng một số cá nhân, tổ chức lợi dụng công nghệ AI để tạo ra các hình ảnh, video nội dung “rác”, xấu độc, phản cảm, bịa đặt thông tin sai sự thật, thậm chí mang tính bạo lực nhằm kích thích sự tò mò, thu hút lượt xem.

Những nội dung này thường sử dụng từ ngữ mạnh như: “vụ án”, “bí mật”, “hồ sơ”… gây nhiễu loạn thông tin, tác động tiêu cực đến nhận thức, tâm lý và hành vi của người sử dụng mạng xã hội. Sau thời gian ngắn tạo lập, hoạt động, nhiều kênh đăng tải đã thu hút hàng chục nghìn người đăng ký, theo dõi và hàng chục triệu lượt xem video.

Đáng chú ý, trong số đó có kênh lượng tương tác lớn đã tạo dựng các video, hình ảnh, bịa đặt thông tin về lực lượng Công an nhằm mục đích trục lợi, “câu view”, “câu like” tạo dư luận xấu, gây nhầm lẫn cho người xem cho rằng những video này là thật.

Mới đây, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao Công an thành phố Hà Nội xử lý một trường hợp (trú tại phường Tây Mỗ, Hà Nội), là quản trị kênh Youtube. Đối tượng thường xuyên đăng tải các video AI tạo dựng quá trình gây án mạng và hình ảnh lực lượng Công an phá án. Mục đích đăng tải các video lên kênh Youtube là để thu hút đông người xem, kiếm tiền quảng cáo từ Youtube.

Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã ra quyết định xử phạt vi phạm hành chính đối với trường hợp này về hành vi “cung cấp, chia sẻ thông tin giả mạo, thông tin sai sự thật, xuyên tạc, vu khống, xúc phạm uy tín của cơ quan, tổ chức, danh dự, nhân phẩm của cá nhân”.

Tin liên quan

Cấm dùng AI giả mạo hình ảnh

Cấm dùng AI giả mạo hình ảnh

Chính trị

Với đa số đại biểu có mặt biểu quyết tán thành, Quốc hội đã thông qua Luật An ninh mạng với hàng loạt hành vi bị nghiêm cấm như lừa đảo trực tuyến, thu thập trái phép dữ liệu, giả mạo bằng AI và các hành vi xâm hại an ninh mạng khác.

AI trong học đường

AI trong học đường

Tin tức

Trí tuệ nhân tạo (AI) đang ngày càng được ứng dụng rộng rãi trong học tập, đặc biệt là ở môi trường học đường. Những công cụ thông minh này giúp việc tra cứu thông tin, chuẩn bị bài vở trở nên nhanh chóng và thuận tiện hơn.

An ninh trật tự

Sĩ quan Công an Việt Nam vượt sát hạch Liên hợp quốc

Sĩ quan Công an Việt Nam vượt sát hạch Liên hợp quốc

An ninh trật tự

Vượt qua những vòng sát hạch trực tiếp vô cùng khắt khe từ các chuyên gia quốc tế, 41 sĩ quan Công an Việt Nam đã xuất sắc chinh phục kỳ thi đánh giá năng lực thực hiện nhiệm vụ tại phái bộ (AMS) của Liên hợp quốc. Đây không chỉ là một đợt sát hạch toàn diện về kỹ năng tác chiến và nghiệp vụ cường độ cao, mà còn là cột mốc khẳng định năng lực, bản lĩnh vững vàng của lực lượng Công an nhân dân.

Công an xác minh kho hàng nghi chứa thực phẩm trường học

Công an xác minh kho hàng nghi chứa thực phẩm trường học

An ninh trật tự

UBND xã Hoài Đức, thành phố Hà Nội vừa giao cơ quan Công an tiếp tục xác minh một kho hàng khóa kín bị nghi ngờ chứa thực phẩm cung cấp cho bếp ăn bán trú của Trường tiểu học Hoài Đức. Trước đó, hàng chục phụ huynh đã đi kiểm tra, phát hiện kho hàng này nằm gần công ty cung cấp suất ăn, bên ngoài xuất hiện nhiều vỏ hộp thịt đông lạnh.

Kết luận bổ sung vụ nữ chủ tịch Mỹ Hạnh lừa đảo

Kết luận bổ sung vụ nữ chủ tịch Mỹ Hạnh lừa đảo

An ninh trật tự

Cơ quan Cảnh sát điều tra Công an TP Hà Nội vừa ban hành kết luận điều tra bổ sung, đề nghị truy tố nữ Chủ tịch Tập đoàn Mỹ Hạnh là Phạm Mỹ Hạnh về tội "Lừa đảo chiếm đoạt tài sản". Quá trình điều tra đã làm rõ dòng tiền 125 tỷ đồng mà bị can sử dụng để mua bán bất động sản từ nguồn vốn huy động trái phép.

Lời khai của "Tổ tư vấn" vụ Mr Pips tại tòa

Lời khai của "Tổ tư vấn" vụ Mr Pips tại tòa

An ninh trật tự

Tiếp tục chương trình phiên xét xử sơ thẩm vụ án "ông trùm" Mr Pips và các đồng phạm, Hội đồng xét xử đã tiến hành phần thẩm vấn nhóm bị cáo thuộc “Tổ tư vấn”. Trước tòa, các bị cáo đều cho rằng bản thân bị "qua mặt", hoàn toàn không biết hành vi lừa đảo của chủ mưu Phó Đức Nam và mong được xem xét lại mức độ trách nhiệm.

Kiểm soát xe quá tải, bảo vệ hạ tầng giao thông

Kiểm soát xe quá tải, bảo vệ hạ tầng giao thông

An ninh trật tự

Trước thực tế phương tiện chở hàng vi phạm quy định về tải trọng, kích thước hoặc đi vào những tuyến đường có giới hạn tải trọng do nhu cầu vận chuyển đất, đá, vật liệu xây dựng tăng cao, lực lượng Cảnh sát giao thông Hà Nội đang tăng cường tuần tra, kiểm soát, chủ động phát hiện và xử lý vi phạm ngay từ đầu.

Xem thêm

  • Quan tâm nhiều nhất
  • Mới nhất

15 trả lời

15 trả lời