Phát biểu tại một sự kiện của Cục Dự trữ Liên bang Mỹ (FED) về tác động kinh tế và xã hội của AI hôm 22/7, CEO OpenAI Sam Altman cho biết khả năng giả mạo giọng nói và hình ảnh bằng AI đã đạt đến mức có thể vượt qua nhiều hình thức xác thực hiện nay.

“Vẫn có tổ chức tài chính chấp nhận giọng nói là cách xác minh để chuyển tiền hoặc thực hiện hành động quan trọng – điều đó thực sự nguy hiểm”, ông nói. “AI hiện đã đánh bại gần như toàn bộ các phương thức xác thực, trừ mật khẩu”.

sam altman bloomberg
CEO OpenAI Sam Altman cảnh báo cuộc khủng hoảng lừa đảo do AI gây ra. Ảnh: Bloomberg

Altman cũng chia sẻ lo ngại một viễn cảnh siêu AI bị các thế lực thù địch lạm dụng, trong khi phần còn lại của thế giới chưa đủ khả năng phòng thủ. “Tôi mất ngủ vì nghĩ đến việc một kẻ xấu tạo ra siêu AI trước phần còn lại của thế giới và dùng nó để tấn công lưới điện hay chế tạo vũ khí sinh học”, ông nói.

“Chúng ta đang chơi một cuộc chơi nguy hiểm”, ông nhận xét. “Video và cuộc gọi AI giả mạo sẽ không thể phân biệt được với người thật. Thế giới chưa sẵn sàng cho điều đó”.

Tìm kiếm giải pháp kiểm soát AI

Altman khẳng định OpenAI không phát triển các công cụ tạo video hay giọng nói giả mạo, nhưng ông thừa nhận các công nghệ đó đang tiến bộ rất nhanh, kể cả bên ngoài nước Mỹ. “Tôi thực sự lo lắng về một cuộc khủng hoảng toàn cầu về sự thật và lòng tin”, ông nói.

Một trong những sáng kiến Altman ủng hộ là The Orb – một thiết bị do Tools for Humanity phát triển, giúp xác minh người dùng là con người thật trong môi trường kỹ thuật số.

Dự án này được kỳ vọng sẽ trở thành một nền tảng “chứng thực nhân dạng” trong thế giới mà AI có thể dễ dàng giả mạo mọi thứ.

Cảnh báo của Altman được đưa ra sau khi nhiều sự cố liên quan đến deepfake gây chấn động dư luận. FBI từng cảnh báo về các trò lừa đảo sử dụng AI giả giọng con cái để tống tiền cha mẹ.

Gần đây nhất, một cá nhân đã dùng AI để giả giọng Thượng nghị sĩ Marco Rubio nhằm tiếp cận các quan chức cấp cao, trong đó có cả thống đốc và nghị sĩ quốc hội.

Tại Việt Nam, các chuyên gia cũng lên tiếng trước một số trào lưu sử dụng deepfake để tạo nội dung câu like, câu view. Gần đây nhất, dân mạng đua nhau tạo ảnh “bị cảnh sát giao thông xử phạt” .

Luật sư Đăng Ngọc Duệ, Giám đốc Công ty Luật TNHH Phụng Sự Công Lý, cho biết tùy thuộc vào nội dung hình ảnh, video được dàn dựng, mục đích của người sản xuất/phát tán sẽ có các lỗi và quy định xử lý riêng.

Các chế tài dân sự, hành chính, hình sự đều có thể áp dụng.

Đặc biệt, luật sư chỉ ra hành vi tạo dựng video, hình ảnh sai sự thật nhằm bôi nhọ hoạt động của lực lượng chức năng hoặc gây ảnh hưởng tới danh dự, nhân phẩm, uy tín của cá nhân, tổ chức có thể bị xử lý hình sự.

(Tổng hợp)

Microsoft vá khẩn cấp hai lỗ hổng bảo mật nghiêm trọng trên SharePointMicrosoft vừa phát hành bản vá khẩn cấp cho hai lỗ hổng bảo mật nghiêm trọng trên nền tảng SharePoint, sau khi phát hiện tin tặc đang khai thác để tấn công hơn 10.000 tổ chức toàn cầu.