Công an TP Hà Nội cho biết, thời gian gần đây, trên không gian mạng xuất hiện tình trạng một số cá nhân, tổ chức lợi dụng công nghệ AI để tạo ra các nội dung sai sự thật ảnh hưởng đến an ninh trật tự. Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao, CATP Hà Nội vừa xử phạt một trường hợp đăng tải video được tạo dựng từ AI có nội dung giả mạo, sai sự thật.

Trước đó, qua công tác nắm tình hình, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao phát hiện một tài khoản mạng xã hội đăng tải video có tiêu đề “Bác đại biểu nói thay lời ý dân hay nhất năm 2025”. Đây là nội dung được tạo dựng bằng AI, giả mạo đại biểu Quốc hội phát biểu tại hội trường có nội dung công kích, sai lệch về ngành thuế, gây dư luận xấu.

Ngày 23/12/2025, Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao đã làm việc với người đăng tải nội dung trên là N.T.N (trú tại phường Từ Liêm, Hà Nội). Sau khi làm việc với cơ quan Công an, chị N.T.N đã nhận thức được hành vi vi phạm, gỡ bỏ bài viết và cam kết không tái phạm.

Hiện nay, một số đối tượng đã sử dụng công nghệ AI để tạo dựng các video giả mạo và phát tán thông tin sai sự thật, gây hoang mang, kích động dư luận, gây ảnh hưởng đến khối đại đoàn kết toàn dân tộc. Các nội dung này thu hút lượng tương tác lớn, hầu hết các ý kiến bình luận đều không nhận ra đây là sản phẩm AI do có hình ảnh và nội dung “như thật”, rất khó để phân biệt.

Phòng An ninh mạng và phòng chống tội phạm sử dụng công nghệ cao CATP Hà Nội khuyến cáo người dân nâng cao nhận thức trong việc nhận diện các sản phẩm từ AI có nội dung xuyên tạc, giả mạo để kịp thời ngăn chặn, tuyệt đối không chia sẻ, bình luận. Nghiêm cấm sử dụng AI để tạo dựng, chỉnh sửa, lan truyền thông tin sai sự thật; giả mạo danh tính nhằm vu cáo, lừa đảo, xâm phạm quyền lợi người dân hoặc gây tổn hại đến an ninh quốc gia, trật tự an toàn xã hội.