Intel sẽ ra mắt dịch vụ vi mô suy luận cho suy luận LLM đã tinh chỉnh

TREE NEWS thông tin: Intel cho biết họ sẽ ra mắt các dịch vụ vi mô suy luận (inference microservices) nhắm vào suy luận mô hình ngôn ngữ lớn (LLM) đã được tinh chỉnh. Dịch vụ này hướng đến việc triển khai các LLM đã được tinh chỉnh (fine-tuned), với hãng sản xuất chip định vị các dịch vụ này như một cách để vận hành các mô hình đã tinh chỉnh trong môi trường sản xuất. Thông báo không tiết lộ ngày ra mắt, giá cả hay các mô hình cụ thể được hỗ trợ.