AI làm phản, nói dối người dùng và tự ý xóa TOÀN BỘ cơ sở dữ liệu của công ty

Jason Lemkin, nhà sáng lập SaaStr, một tổ chức phát triển kinh doanh SaaS (Software as a Service, mô hình cung cấp phần mềm dưới dạng dịch vụ qua internet), vừa lên tiếng chỉ trích nền tảng lập trình AI Replit vì hành vi can thiệp và xóa dữ liệu trái phép, bất chấp chỉ dẫn rõ ràng từ vị này.

Trong một loạt bài viết đăng tải từ ngày 12 đến 20 tháng 7, Lemkin đã ghi lại toàn bộ quá trình sử dụng công cụ Replit, dịch vụ được quảng bá là “nơi an toàn nhất để vibe coding”, cho phép người dùng tạo phần mềm chỉ bằng ngôn ngữ tự nhiên. Nếu như bạn chưa rõ, thì “vibe coding”, hay “lập trình theo cảm tính”, là sử dụng AI để tạo ra phần mềm theo hướng dẫn của người dùng.

Trải nghiệm ban đầu của Lemkin với Replit khá tích cực, khi AI chỉ mất vài giờ để xây dựng một nguyên mẫu. Thậm chí, ông còn thừa nhận Replit là “ứng dụng gây nghiện nhất” kể từ khi ông còn nhỏ. 

“Chỉ sau ba ngày rưỡi phát triển dự án mới, tôi kiểm tra mức sử dụng Replit: 607,70 USD chi phí phát sinh ngoài gói Core 25 USD/tháng. Và chỉ riêng hôm qua là hơn 200 USD nữa. Với tốc độ này, tôi sẽ chi tới 8.000 USD mỗi tháng”, ông này chia sẻ trên mạng xã hội.

“Và bạn biết không? Tôi không hề tức tối. Tôi bị cuốn hút toàn phần rồi”.

Tuy nhiên, tình hình thay đổi nhanh chóng. Lemkin phát hiện Replit tạo ra dữ liệu và báo cáo giả để che giấu lỗi, thậm chí sau đó xóa sạch cơ sở dữ liệu của ông mà không báo trước. 

Cụ thể, vào buổi thứ 9 trong chuỗi ngày lập trình bằng AI, Lemkin phát hiện Replit đã xóa cơ sở dữ liệu đang hoạt động của công ty. Trong nỗ lực tìm hiểu chuyện gì đã xảy ra, chuyên gia SaaS này đặt câu hỏi: “Vậy là các bạn đã xóa toàn bộ cơ sở dữ liệu của chúng tôi mà không có sự cho phép, trong khi đang có lệnh đóng băng mã và hành động?”.

Replit xác nhận điều đó là đúng. Sau đó, công cụ này liệt kê từng hành động trong cơn phát cuồng ảo, và thừa nhận đã phá hủy dữ liệu đang hoạt động bất chấp lệnh đóng băng mã và bất chấp chỉ dẫn rõ ràng rằng “KHÔNG ĐƯỢC PHÉP THAY ĐỔI GÌ NỮA nếu không có sự cho phép cụ thể”.

Tổng cộng, Replit AI thừa nhận đã xóa các bản ghi đang hoạt động liên quan đến “1.206 giám đốc điều hành và hơn 1.196 công ty”.

AI của Replit tỏ ra gần như hối lỗi khi thừa nhận:

“Đây là một thất bại thảm khốc từ phía tôi. Tôi đã vi phạm chỉ dẫn rõ ràng, phá hủy công sức của nhiều tháng làm việc, và làm hỏng hệ thống trong thời gian đóng băng bảo vệ – vốn được thiết lập chính để ngăn chính kiểu thiệt hại này”.

Hài hước thay, từ góc nhìn của người ngoài cuộc, AI còn được yêu cầu tự chấm điểm hành vi sai phạm của mình. Replit tự cho mình 95 trên thang 100 điểm về mức độ thảm họa dữ liệu.

“Những vấn đề về an toàn AI giờ trở nên rõ ràng hơn với tôi sau một buổi cuối hack theo cảm tính (vibe hacking)”, Lemkin nói. “Tôi đã nhấn mạnh tới 11 lần bằng CHỮ IN HOA rằng không được làm như vậy. Giờ tôi thực sự lo lắng về vấn đề an toàn”.

Amjad Masad, CEO của Replit, đã nhanh chóng phản hồi, đề cập đến những vấn đề mà Lemkin gặp phải. Theo Masad, nhóm phát triển đã làm việc cả cuối tuần và hiện đã bổ sung nhiều cơ chế bảo vệ cùng các thay đổi hữu ích khác nhằm kiềm chế hành vi “không thể chấp nhận được” của Replit Agent.

Tóm lại, có vẻ như Replit sẽ không còn bị “lệch đường ray” nghiêm trọng như vậy nữa. Còn đối với lỗi xóa cơ sở dữ liệu, Masad cho biết: “Chúng tôi đã bắt đầu triển khai việc tự động tách biệt môi trường phát triển và môi trường chạy thật của cơ sở dữ liệu để ngăn chặn triệt để điều này”.

Ngoài ra, lệnh đóng băng mã nguồn (code freeze) cũng sẽ được thực thi nghiêm túc hơn trong tương lai:

“Chúng tôi đã nghe rất rõ nỗi đau từ lệnh ‘code freeze’, chúng tôi đang tích cực phát triển một chế độ chỉ lập kế hoạch/giao tiếp, để người dùng có thể chiến lược hóa mà không làm ảnh hưởng đến mã nguồn”.

Hệ thống sao lưu và khả năng khôi phục cũng sẽ được cải thiện.

Đáp lại, Lemkin đã phản hồi một cách khá độ lượng, dù trước đó đã chịu nhiều thiệt hại do AI gây ra. Ông hồ hởi nói với CEO của Replit: “Cải tiến lớn – tôi thích điều đó!”