Theo báo cáo từ Cơ sở dữ liệu Sự cố AI (AI Incident Database), các công cụ tạo nội dung lừa đảo được cá nhân hóa không còn là thị trường ngách. Chúng ngày càng rẻ, dễ sử dụng và có thể triển khai trên diện rộng.

Bùng nổ lừa đảo quy mô lớn

Danh sách các vụ việc gần đây bao gồm video giả mạo nhà báo Thụy Điển, Tổng thống Cộng hòa Síp hay Thủ hiến Tây Úc Robert Cook quảng cáo cho các mô hình đầu tư lừa đảo. Thậm chí, hình ảnh bác sĩ cũng bị làm giả để bán kem dưỡng da.

Xu hướng này đang gây thiệt hại tài chính nghiêm trọng. Năm ngoái, một nhân viên tài chính tại tập đoàn đa quốc gia ở Singapore đã chuyển gần 500.000 USD cho kẻ lừa đảo sau cuộc gọi video với “lãnh đạo công ty” giả mạo. Tại Anh, người tiêu dùng ước tính mất 9,4 tỷ bảng Anh vì lừa đảo trong 9 tháng tính đến tháng 11/2025.

Simon Mylius, nhà nghiên cứu tại MIT, nhận định: “Năng lực công nghệ đã đạt đến mức gần như bất kỳ ai cũng có thể sản xuất nội dung giả mạo“. Theo ông, rào cản gia nhập hiện gần như bằng không. Dữ liệu cho thấy các vụ lừa đảo và thao túng có chủ đích chiếm tỷ trọng lớn nhất trong các sự cố được báo cáo suốt năm qua.

Fred Heiding, nhà nghiên cứu từ Đại học Harvard, cảnh báo: “Quy mô đang thay đổi. Các mô hình AI đang trở nên tốt và nhanh hơn nhiều so với dự đoán của giới chuyên gia”.

CEO công ty bảo mật cũng thành mục tiêu

Screenshot 20251007 115418 TikTok

Mall) Loa Kiểm Âm Bluetooth EDIFIER MR3/MR5 I Công Suất 36W | Bluetooth 5.4 |

Ngay cả giới chuyên môn cũng không miễn nhiễm. Đầu tháng 1, Jason Rebholz, CEO công ty bảo mật AI Evoke, nhận được hồ sơ xin việc ấn tượng từ một ứng viên qua LinkedIn. Tuy nhiên, cuộc phỏng vấn xin việc diễn ra đầy bất thường.

Video của ứng viên xuất hiện chậm, phông nền giả tạo và hình ảnh quanh viền cơ thể bị lỗi. “Một phần cơ thể của anh ta lúc ẩn lúc hiện. Các đường nét quanh khuôn mặt rất thiếu tự nhiên”, Rebholz kể lại. Sau khi gửi bản ghi âm cho một đơn vị phát hiện deepfake, nghi ngờ của ông được xác thực: ứng viên đó là sản phẩm của AI.

Rebholz cho rằng nếu một startup nhỏ như Evoke cũng bị nhắm đến thì nguy cơ này đang lan rộng tới tất cả mọi người. Mục đích của kẻ lừa đảo có thể là mức lương kỹ sư hoặc đánh cắp bí mật thương mại.

Các chuyên gia nhận định tình hình sẽ còn tồi tệ hơn. Công nghệ nhân bản giọng nói hiện đã rất xuất sắc, cho phép kẻ gian dễ dàng giả giọng người thân để lừa đảo qua điện thoại. Trong khi đó, video deepfake vẫn còn dư địa để hoàn thiện hơn nữa.

Hậu quả của xu hướng này tác động sâu rộng đến tuyển dụng, bầu cử và xã hội. “Điểm đau lớn nhất sẽ là sự mất niềm tin hoàn toàn vào các thể chế kỹ thuật số và thông tin nói chung”, ông Heiding nhấn mạnh.

Screenshot 20251007 062535 TikTok 1

Camera imou A32EP 3MP

Tầm xa hồng ngoại 10m với công nghệ hống ngoại thông minh. Chống ngược sáng HDR - Hỗ trợ đàm thoại 2 chiều - Hỗ trợ các tính năng thông minh: phát hiện chuyển động, phát hiện con người, phát hiện âm thanh bất thường, chế độ riêng tu, Smart tracking. Tích hợp còi báo động - Hỗ trợ chức năng Soft-AP, kết nối trực tiếp wifi camera không cần thông qua modem nhà mạng. Tích hợp Wi-Fi(IEEE802.11b/g/n), LAN, CLOUD (Imou Protect), ONVIF - Hỗ trơ khe cắm thẻ nhớ Micro SD max 256GB - Nguổn cấp: DC 5V1A, điện năng tiêu thụ - Chất liệu vỏ: Plastic. Đạt chứng nhận CE, FCC Xuất xứ: Trung Quốc ⁃ Bảo hành: 24 tháng. Trọn bộ sản phẩm bao gồm: -1 x Camera - 1 x Hướng dẫn Bắt đầu Nhanh -1x Bộ đổi nguồn -1x Cáp nguồn -1x Bọt gắn Hàng chính hãng imou bảo hành 2 năm toàn quốc

(Theo The Guardian)

Tạo deepfake khiêu dâm trẻ em có thể bị xử lý hình sựNgoài việc bị tạm dừng dịch vụ theo Luật Trí tuệ nhân tạo, hành vi tạo deepfake khiêu dâm trẻ em, lừa đảo hay xâm phạm an ninh quốc gia sẽ bị xử phạt hành chính hoặc truy cứu trách nhiệm hình sự.