Siêu Máy Tính AI Nhỏ Gọn Chỉ Bằng Một Cục Sạc Dự Phòng

PV Tech News – Một thiết bị AI siêu nhỏ vừa được giới thiệu với khả năng chạy mô hình ngôn ngữ lên tới 120 tỷ tham số trực tiếp trên thiết bị, dù có kích thước chỉ tương đương pin sạc dự phòng. Thiết bị này nhanh chóng thu hút sự quan tâm lớn từ giới công nghệ.

Một startup công nghệ vừa giới thiệu siêu máy tính AI được xem là nhỏ nhất thế giới, với kích thước tương đương một cục pin sạc dự phòng nhưng vẫn đủ khả năng vận hành các mô hình AI quy mô lớn. Thiết bị này gây chú ý khi lập cột mốc mới với khả năng chạy mô hình ngôn ngữ lên tới 120 tỷ tham số trực tiếp trên thiết bị, thay vì phụ thuộc hoàn toàn vào hạ tầng điện toán đám mây.

Điểm đáng chú ý là toàn bộ quá trình xử lý AI diễn ra on-device, giúp giảm độ trễ, tăng tính riêng tư và hạn chế sự phụ thuộc vào kết nối internet. Thiết bị được thiết kế hướng tới các tác vụ AI chuyên sâu như suy luận mô hình lớn, xử lý dữ liệu theo thời gian thực và các ứng dụng AI biên (edge AI), những lĩnh vực đang ngày càng được quan tâm.

Xem thêm: Sau Tesla và Apple, Samsung có thể ký hợp đồng chip 2 nm hàng tỷ USD với AMD

Mall) Loa Kiểm Âm Bluetooth EDIFIER MR3/MR5 I Công Suất 36W | Bluetooth 5.4 |

Siêu Máy Tính Ai Nhỏ Gọn Chỉ Bằng Một Cục Sạc Dự Phòng. (Nguồn: Tiiny)

Tham khảo một số dòng laptop giá tốt tại Phong Vũ:

Dù có kích thước cực kỳ nhỏ gọn, siêu máy tính AI này vẫn sở hữu phần cứng chuyên dụng tối ưu cho xử lý AI, cho phép chạy các mô hình ngôn ngữ lớn mà trước đây thường chỉ có thể triển khai trên các hệ thống máy chủ cồng kềnh. Đây được xem là một bước tiến đáng chú ý trong nỗ lực thu nhỏ phần cứng AI mà không phải đánh đổi quá nhiều về hiệu năng.

Tuy nhiên, thiết bị cũng đặt ra một số câu hỏi liên quan đến khả năng nâng cấp phần cứng từ xa (OTA) khi không gian vật lý bị giới hạn. Điều này cho thấy dù đã đạt được những cột mốc ấn tượng, công nghệ AI siêu nhỏ gọn vẫn còn các thách thức kỹ thuật cần được giải quyết trong quá trình thương mại hóa và mở rộng quy mô.

Sự xuất hiện của siêu máy tính AI cỡ nhỏ này phản ánh xu hướng đưa AI ngày càng tiến gần hơn tới người dùng cuối, thay vì chỉ tập trung trong các trung tâm dữ liệu lớn. Trong tương lai, những thiết bị tương tự có thể đóng vai trò quan trọng trong việc mở rộng AI vào nhiều kịch bản sử dụng thực tế hơn. Theo dõi Phong Vũ Tech News để cập nhật các tin công nghệ đáng chú ý.