Sugon sẽ ra mắt giải pháp tăng tốc token cho suy luận LLM

TREE NEWS thông tin: Sugon (Trung Khoa Thự Quang) thông báo sẽ phát hành giải pháp tăng tốc token cho suy luận mô hình ngôn ngữ lớn (LLM). Giải pháp này nhằm nâng cao hiệu suất và hiệu quả suy luận. Chi tiết về công nghệ và thời gian chưa được tiết lộ.