Inception công bố Mercury 3, LLM dựa trên khuếch tán với ngữ cảnh 1 triệu token
TREE NEWS đưa tin: Inception đã phát hành Mercury 3, một mô hình ngôn ngữ lớn dựa trên khuếch tán hỗ trợ cửa sổ ngữ cảnh 1 triệu token. Theo công ty, mô hình này tạo văn bản với tốc độ 1.068 token mỗi giây trên GPU Nvidia, nhanh hơn đáng kể so với các mô hình tự hồi quy. Mô hình cũng được tuyên bố vượt trội so với GPT-6 Luna và Claude Haiku 5.5 trên nhiều bài kiểm tra chuẩn. Giá tiêu chuẩn được đặt ở mức 0,20 USD cho mỗi triệu token đầu vào và 0,70 USD cho mỗi triệu token đầu ra, với mức giảm giá 50% trong giai đoạn ra mắt. Mercury 3 có sẵn qua Inception API, OpenRouter, Baseten và Vercel, đồng thời tương thích với OpenAI API.
Mô hình khuếch tán thách thức sự thống trị của tự hồi quy
Các mô hình ngôn ngữ dựa trên khuếch tán đánh dấu sự rời bỏ cách tiếp cận tự hồi quy được hầu hết các LLM chủ lưu sử dụng. Thay vì dự đoán token tiếp theo một cách tuần tự, mô hình khuếch tán tạo văn bản bằng cách liên tục khử nhiễu một biểu diễn tiềm ẩn. Việc tạo song song này có thể dẫn đến thông lượng cao hơn nhiều, như tốc độ 1.068 token mỗi giây mà Mercury 3 tuyên bố. Tuy nhiên, các LLM khuếch tán trước đây thường gặp khó khăn về tính mạch lạc trong ngữ cảnh dài và suy luận phức tạp. Khả năng của Inception trong việc hỗ trợ ngữ cảnh 1 triệu token cho thấy những tiến bộ đáng kể về kiến trúc và huấn luyện. Nếu các tuyên bố về hiệu năng được chứng minh, Mercury 3 có thể gây áp lực buộc các ông lớn hiện có phải đẩy nhanh lộ trình tối ưu hiệu quả của họ.
Giá cả và khả năng tiếp cận hạ thấp rào cản
Với mức 0,20 USD cho mỗi triệu token đầu vào và 0,70 USD cho mỗi triệu token đầu ra, Mercury 3 có giá thấp hơn nhiều mô hình tiên phong. Mức giảm giá 50% khi ra mắt càng khiến nó hấp dẫn hơn đối với các nhà phát triển đang thử nghiệm các ứng dụng ngữ cảnh dài. Khả năng tương thích với OpenAI API nghĩa là các ứng dụng hiện có thể chuyển đổi với thay đổi mã tối thiểu. Việc có mặt trên nhiều nền tảng—Inception API, OpenRouter, Baseten và Vercel—đảm bảo phạm vi tiếp cận rộng. Chiến lược giá và phân phối mạnh mẽ này có thể làm đảo lộn thị trường cho các trường hợp sử dụng đòi hỏi thông lượng cao, nhạy cảm về chi phí như phân tích tài liệu, tạo mã và các tác nhân hội thoại thời gian thực.
Hàm ý cho giao điểm giữa AI và tiền mã hóa
Dù Mercury 3 là một mô hình AI đa dụng, việc ra mắt nó có những hàm ý đối với hệ sinh thái tiền mã hóa. Các mạng AI phi tập trung và thị trường suy luận trên chuỗi thường dựa vào các mô hình hiệu quả, chi phí thấp để cung cấp dịch vụ. Một mô hình vừa nhanh vừa rẻ có thể được tích hợp vào các thị trường tính toán phi tập trung, mở ra các ứng dụng mới trong tác nhân AI, thị trường dữ liệu và token hóa mô hình. Hơn nữa, khả năng tương thích của mô hình với các API tiêu chuẩn hạ thấp rào cản để các dự án tiền mã hóa tích hợp các năng lực AI tiên tiến mà không cần tự xây dựng mô hình riêng. Khi AI và blockchain hội tụ, những mô hình như vậy có thể trở thành hạ tầng nền tảng cho các tác nhân tự chủ và ứng dụng phi tập trung.
Góc nhìn hướng tới tương lai
Việc phát hành Mercury 3 báo hiệu sự cạnh tranh ngày càng gay gắt trong lĩnh vực LLM, với các mô hình khuếch tán nổi lên như một lựa chọn thay thế khả thi cho kiến trúc tự hồi quy. Nếu Inception có thể thực hiện đúng các cam kết về hiệu năng và giá cả, nó có thể tạo dựng được vị thế riêng trong các ứng dụng thông lượng cao, ngữ cảnh dài. Tuy nhiên, công ty sẽ cần chứng minh độ tin cậy và khả năng mở rộng trong các triển khai thực tế. Đối với ngành tiền mã hóa, sự sẵn có của những mô hình như vậy có thể đẩy nhanh sự phát triển của các dịch vụ AI phi tập trung, nhưng cũng đặt ra câu hỏi về tính tập trung và khả năng tiếp cận. Như mọi khi, thị trường sẽ là trọng tài cuối cùng để xác định liệu Mercury 3 có đáp ứng được những tuyên bố táo bạo của mình hay không.
