Nghe giọng AI tưởng cháu đang cầu cứu, bà lão đưa 70 triệu đồng cho bọn lừa đảo

Công nghệ AI phát triển nhanh chóng, mang lại sự tiện lợi cho công việc của con người, nhưng nó cũng trở thành vũ khí mới cho các nhóm lừa đảo. Trong nhiều vụ lừa đảo xảy ra ở Hoàng Thạch, Hồ Bắc, Trung Quốc gần đây, nhóm tội phạm sử dụng công nghệ tổng hợp AI để để lừa người cao tuổi, có ít nhất hai người bị lừa.

Trong một chương trình của Đài truyền hình trung ương Trung Quốc, người phụ nữ họ Lưu kể, ngày 28/4 năm nay, bà nhận được cuộc gọi từ một thanh niên tự xưng là cháu trai của bà, bảo mình xung đột với một người trong siêu thị khiến anh ta bị thương ở đầu. “Người cháu” bảo anh ta đang bị cảnh sát tạm giữ và cần gấp 20 nghìn nhân dân tệ (hơn 70 triệu đồng) để bồi thường nhằm thuyết phục đối phương hòa giải.

Để có số tiền này, bà Lưu và chồng đi khắp nơi vay mượn, sau đó theo chỉ dẫn của “cháu trai”, chuyển tiền mặt cho một người tự xưng là phụ huynh của bạn học tại một địa điểm được chỉ định. Bà đưa tiền mà không chút do dự vì giọng nói của người gọi đến là giọng cháu bà.

Mãi đến khi cháu trai trở về nhà, bà Lưu mới nhận ra mình bị lừa, giọng nói bà nghe do AI tổng hợp ra.

Cảnh sát điều tra và phát hiện kẻ lừa đảo sử dụng điện thoại cố định làm phương tiện liên lạc chính, lợi dụng sự lạ lẫm của người cao tuổi đối với công nghệ và lòng tin của họ dành cho người thân, sử dụng giọng nói tổng hợp bằng AI để đánh lừa.

Cuộc điều tra của cảnh sát cho thấy những kẻ lừa đảo thu thập mẫu giọng nói bằng cách gọi điện thoại thường xuyên, sau đó sử dụng Ai để làm giả giọng nói giống hệt.

Nhóm lừa đảo còn tuyển dụng nhân sự trực tuyến dưới danh nghĩa công việc bán thời gian lương cao, thu hút những người không hiểu biết đến thu tiền tại nhà, hình thành nên một chuỗi tội phạm.

Ngoài gian lận giọng nói, công nghệ thay đổi khuôn mặt nhờ AI cũng được tội phạm sử dụng để kích hoạt thẻ điện thoại bất hợp pháp. Cảnh sát Xiangyang ở Hồ Bắc mới đây bắt giữ một băng nhóm lừa đảo có thành viên sử dụng thông tin cá nhân và ảnh chụp bất hợp pháp để tổng hợp video khuôn mặt động, phá vỡ hàng phòng thủ nhận dạng khuôn mặt của các nhà mạng viễn thông và kích hoạt thành công hơn 200 thẻ điện thoại. Những thẻ này tiếp tục chảy vào tay các nhóm lừa đảo với số tiền vượt quá 5 triệu nhân dân tệ (hơn 18 tỷ đồng).

Các chuyên gia chỉ ra rằng cơ chế xác thực trực tuyến nếu chỉ dựa vào thẻ căn cước và nhận dạng khuôn mặt sẽ có thể không đủ để ngăn chặn các cuộc tấn công AI cao cấp. Họ kêu gọi tăng cường tuyến phòng thủ kỹ thuật bao gồm việc sử dụng công nghệ AI để chống lại việc làm giả AI và giới thiệu các cơ chế xác minh mới như nhận dạng bản đồ nhiệt và thuật toán học sâu, hiện có những công nghệ có thể tăng độ chính xác nhận dạng lên hơn 95%.