AI và Deepfake trong chiến tranh mạng: Tự động hóa và thao túng thông tin

Trong bối cảnh địa chính trị căng thẳng, AI và deepfake được khai thác để tăng cường hiệu quả tấn công và gây bất ổn xã hội trên diện rộng.

AI giúp tự động hóa và tối ưu hóa các chiến dịch mạng, hoạt động liên tục, nhanh và khó bị phát hiện hơn so với cách tấn công truyền thống.

Thuật toán AI có khả năng quét tìm lỗ hổng zero-day, tạo ra biến thể mã độc mới và tự học để né tránh phần mềm diệt virus, gây khó khăn cho các biện pháp phòng thủ.

Theo báo cáo của hai hãng bảo mật CrowdStrike và Akamai, AI còn mô phỏng hành vi người dùng để qua mặt hệ thống phòng thủ, đồng thời phân tích lượng lớn dữ liệu để chọn thời điểm và phương pháp tấn công tối ưu.

AI cũng dự đoán hành vi của quản trị viên hoặc người dùng, nâng cao hiệu quả các cuộc tấn công có chủ đích (spear phishing) và gián điệp mạng, đặc biệt nhắm đến hạ tầng trọng yếu như năng lượng, y tế, tổ chức chính phủ và tập đoàn lớn.

Trong khi đó, deepfake tạo ra video, âm thanh, hình ảnh giả mạo với độ chân thực cao, phục vụ mục đích lan truyền tin sai lệch, chia rẽ nội bộ hoặc hạ uy tín cá nhân, tổ chức.

Deepfakes.jpg
Deepfake phát triển đến mức ngày càng khó phân biệt thật, giả. Ảnh: networkats

Liên minh châu Âu (EU) đã ghi nhận các chiến dịch thông tin sai lệch sử dụng AI, dựng chuyện về binh lính Pháp tử trận ở Ukraine để gây hoang mang.

Kẻ xấu sử dụng hình ảnh cũ (quan tài của 13 binh lính Pháp hy sinh trong vụ tai nạn trực thăng ở Mali năm 2019) và thêm chú thích sai lệch bằng tiếng Pháp, tuyên bố đó là binh lính Pháp tử vong ở Ukraine.

Một ví dụ khác là video giả Tổng thống Ukraine Volodímir Zelensky kêu gọi quân đội hạ vũ khí, được ghi nhận bởi Reuters Institute.

Tháng 5/2023, các tờ The News Minute, France 24, Alt News và Indian Express đưa tin, sau khi các nữ vận động viên đấu vật của Ấn Độ bị tạm giữ trong cuộc biểu tình chống lại Chủ tịch liên đoàn đấu vật (người bị cáo buộc quấy rối tình dục), một bức ảnh chỉnh sửa họ mỉm cười trên xe cảnh sát lan truyền trên mạng nhằm làm mất uy tín cuộc biểu tình.

Các vận động viên và người ủng hộ đã phải lên tiếng xác nhận đây là ảnh giả mạo.

Lừa đảo trực tuyến tinh vi hơn nhờ AI và deepfake

Sự kết hợp AI và deepfake đang khiến hành vi lừa đảo (phishing) tinh vi, khó phát hiện hơn và gây ra thiệt hại lớn.

AI có thể thu thập và phân tích dữ liệu cá nhân từ mạng xã hội hoặc nguồn dữ liệu rò rỉ, tạo ra email, tin nhắn SMS (smishing) và kịch bản gọi điện thoại (vishing) phù hợp từng nạn nhân.

Các mô hình ngôn ngữ lớn (LLM) giúp nội dung trở nên mạch lạc, ngữ pháp chuẩn, khiến người nhận khó nghi ngờ và dễ vượt qua bộ lọc thư rác. Barracuda Networks Blog nhận định, điều này giúp tỷ lệ thành công của các cuộc tấn công tăng lên đáng kể.

AI cũng cho phép gửi đồng loạt hàng triệu email/tin nhắn và tự động điều chỉnh nội dung dựa trên phản hồi từ nạn nhân, duy trì sự tương tác lâu hơn.

Ngoài ra, AI còn có thể tạo các trang web giả mạo giống thật đến mức khó phân biệt, thậm chí cá nhân hóa giao diện dựa trên lịch sử duyệt web của từng nạn nhân, theo Keepnet Labs.

Còn với deepfake, kẻ xấu sử dụng công nghệ này để giả giọng hoặc hình ảnh của người thân, lãnh đạo doanh nghiệp cho mục đích lừa đảo.

Điển hình, năm 2019, một công ty năng lượng tại Anh bị lừa 243.000 USD vì kẻ gian dùng AI giả giọng CEO yêu cầu chuyển tiền tới một nhà cung cấp ở Hungary.

Nạn nhân đã thực hiện chuyển khoản vì tin rằng đó là yêu cầu chính đáng từ sếp mình. Số tiền sau đó nhanh chóng được chuyển đến các tài khoản ở Mexico và các địa điểm khác.

Kẻ lừa đảo đã gọi lại thêm hai lần để yêu cầu chuyển khoản tiếp, nhưng lúc này nạn nhân bắt đầu nghi ngờ. 

Theo báo cáo của Onfido, một công ty xác minh danh tính, các nỗ lực gian lận deepfake đã tăng 3.000% vào năm 2023 so với năm trước đó.

Còn theo báo cáo “The Deepfake Trends 2024” của công ty chuyên về thiết bị pháp y và giải pháp xác minh danh tính Regula, mức thiệt hại trung bình đối với hầu hết các tổ chức do gian lận deepfake là khoảng 450.000 USD, và ngành tài chính chịu thiệt hại lớn hơn cả. 

AI và deepfake đang làm thay đổi đáng kể cục diện an ninh mạng, trở thành công cụ tấn công mạnh mẽ và tinh vi. Cuộc chiến giữa công nghệ tấn công và phòng thủ sẽ còn tiếp diễn, đòi hỏi chiến lược toàn diện, kết hợp công nghệ, giáo dục và pháp lý để bảo vệ cá nhân, doanh nghiệp và xã hội.

Luật sư nói gì về trào lưu đăng ảnh AI ‘bị cảnh sát giao thông xử phạt’?Nhiều người tạo, chia sẻ ảnh, video AI với nội dung ‘bị cảnh sát giao thông xử phạt’ để câu view. Hành vi này có thể vi phạm pháp luật và bị xử lý hành chính hoặc hình sự.