AI bị lợi dụng: Người tiêu dùng đối mặt 'ma trận' lừa đảo trên mạng

Trong bối cảnh thương mại điện tử và các nền tảng số phát triển mạnh mẽ, việc ứng dụng trí tuệ nhân tạo (AI) bao gồm deepfake và các thuật toán tự động mang lại nhiều tiện ích cho hoạt động kinh doanh, quảng bá sản phẩm, kết nối người tiêu dùng và tối ưu hóa trải nghiệm trên môi trường số.

Tuy nhiên, cùng với những lợi ích đó, thời gian gần đây cũng xuất hiện nhiều nguy cơ mới đối với quyền lợi người tiêu dùng khi các công nghệ này bị lợi dụng để tạo ra các nội dung giả mạo, gây nhầm lẫn hoặc lừa đảo trên không gian mạng.

Thực tế cho thấy, các công nghệ AI hiện nay có thể tạo ra hình ảnh, video, giọng nói hoặc nội dung mô phỏng rất giống thật, khiến người tiêu dùng khó phân biệt giữa thông tin thật và thông tin giả.

Một số đối tượng đã lợi dụng công nghệ deepfake để giả mạo người nổi tiếng, chuyên gia, công an, bác sĩ nhằm quảng cáo sai sự thật, bán hàng hóa không rõ nguồn gốc, dẫn dụ người tiêu dùng tham gia các giao dịch có dấu hiệu lừa đảo.

Bên cạnh đó, nhiều hình thức quảng cáo sử dụng AI còn có thể tạo ra các nội dung cắt ghép, hình ảnh “trước – sau”, lời chứng thực giả hoặc phát sóng trực tiếp (livestream) giả mạo để gây nhầm lẫn cho người tiêu dùng.

Trước thực trạng trên, nhằm tăng cường công tác bảo vệ quyền lợi người tiêu dùng trước nguy cơ lừa đảo bởi nội dung số, Ủy ban Cạnh tranh Quốc gia đã có văn bản gửi một số nền tảng số để đề nghị tăng cường thực thi trách nhiệm bảo vệ quyền lợi người tiêu dùng.

Sau hơn 1 tháng triển khai, báo cáo của Lazada, Meta và Tiktok cho thấy, các nền tảng đã chủ động ghi nhận các vấn đề phát sinh liên quan đến nội dung có yếu tố giả mạo trong quá trình hoạt động của nền tảng.

Đối với vấn đề này, bản thân các nền tảng đã có các biện pháp kỹ thuật để phòng tránh, đồng thời đã tăng cường các hình thức, cơ chế kiểm soát nội dung để nâng cao khả năng phát hiện, xử lý các vấn đề phát sinh.

Đơn cử, báo cáo của TikTok cho thấy, nền tảng này hiện áp dụng cơ chế kiểm duyệt nội dung do AI tạo ra (AIGC) theo thời gian thực đối với video ngắn và livestream; đồng thời theo dõi các chỉ số khiếu nại, đánh giá tỷ lệ rò rỉ nội dung vi phạm để nâng cấp hệ thống quét tự động.

TikTok cho biết đã áp dụng các biện pháp xử lý đối với khoảng 94.900 video vi phạm trong quý I/2026. Nền tảng này cũng triển khai cơ chế xác thực người dùng bằng số điện thoại/email và cung cấp công cụ để người sáng tạo nội dung gắn nhãn đối với nội dung được tạo bởi AI.

Bên cạnh đó, TikTok ra mắt tính năng để người dùng có thể chủ động báo cáo các nội dung nghi ngờ vi phạm trực tiếp trên các video hoặc livestream. Dựa trên các báo cáo của người dùng, Tik Tok sẽ rà soát và áp dụng các biện pháp thực thi phù hợp.

Đối với Meta, đơn vị vận hành Facebook và Instagram, doanh nghiệp cho biết đang kết hợp giữa hệ thống AI tiên tiến và hoạt động rà soát thủ công nhằm phát hiện, xử lý các nội dung vi phạm, bao gồm nội dung lừa đảo, giả mạo hoặc sử dụng công nghệ deepfake.

Theo Meta, các hệ thống AI của doanh nghiệp sử dụng mô hình ngôn ngữ lớn (Large Language Models) để tăng khả năng nhận diện nội dung vi phạm trên quy mô lớn. Trong giai đoạn thử nghiệm ban đầu, các hệ thống AI này được cho là đã giúp ngăn chặn thêm khoảng 5.000 hành vi lừa đảo mỗi ngày; giảm hơn 80% số lượng báo cáo về việc giả mạo người nổi tiếng và giảm đáng kể tỷ lệ xử lý sai.

Liên quan đến nội dung do AI tạo ra, Meta cho biết đang áp dụng cơ chế gắn nhãn “Có dùng AI” (AI Info) đối với các nội dung được tạo hoặc chỉnh sửa bằng AI. Meta cũng yêu cầu xác thực số điện thoại đối với các nhà quảng cáo tại Việt Nam nhằm tăng cường trách nhiệm và giảm thiểu nguy cơ phát tán nội dung gây nhầm lẫn hoặc lừa đảo.

Ngoài ra, doanh nghiệp đã xây dựng các trung tâm thông tin, cảnh báo và công cụ hỗ trợ người dùng nhận diện các hình thức lừa đảo trực tuyến. Trong trường hợp phát hiện dấu hiệu vi phạm, người dùng có thể phản ánh thông qua công vụ báo cáo nằm ngay trong ứng dụng và qua Trung tâm Trợ giúp.

Ủy ban Cạnh tranh Quốc gia đánh giá cao sự chủ động và ghi nhận sự phối hợp kịp thời của các nền tảng trong quá trình thực thi bảo vệ quyền lợi người tiêu dùng.

Trong thời gian tới, Ủy ban sẽ tiếp tục theo dõi việc thực thi quy định pháp luật về bảo vệ quyền lợi người tiêu dùng trên môi trường số; tăng cường phối hợp với các cơ quan, tổ chức, doanh nghiệp và chủ động rà soát, ghi nhận các phản ánh của người tiêu dùng phát sinh trong quá trình giao dịch để kịp thời phát hiện, ngăn chặn hoặc xử lý các hành vi vi phạm quyền lợi người tiêu dùng.