Cựu GPT Builder thách thức mô hình Human-in-the-Loop
TREE NEWS đưa tin: Diogo Almeida, một nhà nghiên cứu đã đóng góp cho GPT-4, ChatGPT và pipeline huấn luyện RLHF tại OpenAI, đã ra mắt một mô hình mới có tên Jev, loại bỏ khả năng hội thoại để chỉ tập trung vào việc ra quyết định nhanh và rẻ. Mô hình chỉ trả về các phán đoán và xác suất đã hiệu chỉnh—câu trả lời Có/Không, lựa chọn giữa các tùy chọn, hoặc điểm số—thay vì tạo văn bản. Theo TypeSafe, công ty đứng sau Jev, mô hình đạt tốc độ suy luận nhanh hơn tới 193,6 lần và chi phí thấp hơn 444,6 lần so với các mô hình tiên tiến, với giá đầu vào là 0,042 USD mỗi triệu token và token đầu ra miễn phí.
Tại sao Jev quan trọng đối với AI Agent
Thời điểm ra mắt của Jev phản ánh một điểm đau ngày càng tăng trong hệ sinh thái AI agent. Khi các agent tự động gia tăng, chúng tạo ra hàng triệu quyết định nhỏ mỗi ngày: gọi công cụ nào, nhấp nút nào, liệu một tác vụ đã hoàn thành chưa. Việc định tuyến từng quyết định này qua một mô hình ngôn ngữ lớn rất chậm và tốn kém. Jev tự định vị là mô hình ‘Hệ thống 1’—mượn khung của Daniel Kahneman—xử lý các phán đoán nhanh, trực giác trong khi để lại lý luận phức tạp cho các mô hình lớn hơn. LangChain đã thử nghiệm Jev như một trình đánh giá agent, và các nhà phát triển báo cáo sử dụng nó cho phân tích quảng cáo thời gian thực, dọn dẹp ngữ cảnh trong Claude Code và xác minh hoàn thành tác vụ.
Hàm ý thị trường: Giao thoa giữa hạ tầng AI và crypto
Mặc dù Jev không phải là dự án crypto-native, sự xuất hiện của nó có hàm ý đối với các mạng AI phi tập trung và hạ tầng agent trên chuỗi. Các dự án xây dựng thị trường compute phi tập trung, khung agent AI và token hóa suy luận có thể đối mặt với cả áp lực cạnh tranh và sự xác nhận. Nếu cách tiếp cận của Jev—các mô hình quyết định chuyên biệt, chi phí thấp—đạt được sức hút, nó có thể thúc đẩy nhu cầu về suy luận rẻ, thông lượng cao, mang lại lợi ích cho các mạng GPU và nhà cung cấp compute phi tập trung có thể cung cấp thực thi chi phí thấp. Ngược lại, nó có thể hàng hóa hóa một lớp mà một số dự án AI crypto hy vọng kiếm tiền.
Đối với thị trường truyền thống, Jev nhấn mạnh sự chuyển dịch từ năng lực mô hình sang hiệu quả mô hình. Các nhà đầu tư vào hạ tầng AI nên theo dõi liệu các mô hình quyết định chuyên biệt có trở thành thành phần tiêu chuẩn của các stack agent hay không, có khả năng giảm sự phụ thuộc vào các mô hình tiên tiến đắt tiền cho các tác vụ thường ngày. Điều này có thể gây áp lực lên quyền định giá của các nhà cung cấp API AI lớn trong khi mở rộng thị trường tổng thể cho suy luận AI—một động lực phù hợp với Nghịch lý Jevons, nguồn cảm hứng cho tên của mô hình.
RLHF dưới sự soi xét
Phê bình của Almeida về RLHF đáng chú ý vì vai trò của ông trong việc phát triển nó. Ông lập luận rằng RLHF nhúng sở thích của con người vào vòng huấn luyện, khiến các mô hình xuất sắc trong hỗ trợ nhưng kém trong vận hành tự động. ‘AI ngày nay rất tuyệt vời trong hỗ trợ, không phải tự động hóa,’ ông nói trong một bài nói gần đây. Xu hướng hứa quá nhiều—điều ông gọi là tính năng, không phải lỗi—có thể chấp nhận được khi có người theo dõi nhưng nguy hiểm trong các hệ thống tự động. Phương pháp huấn luyện của Jev, RLCD (Học tăng cường cho Quyết định đã Hiệu chỉnh), nhằm tạo ra các ước lượng xác suất đáng tin cậy để các hệ thống có thể quyết định khi nào hành động, khi nào chuyển lên mô hình lớn hơn và khi nào hỏi con người.
Điểm chính cho nhà đầu tư
- Hiệu quả AI hơn năng lực thô: Làn sóng giá trị AI tiếp theo có thể đến từ các mô hình chuyên biệt, chi phí thấp thay vì các mô hình tổng quát ngày càng lớn.
- Hạ tầng agent đang trưởng thành: Các công cụ như Jev có thể trở thành hệ thống ống nước quan trọng cho các agent tự động, ảnh hưởng đến nhu cầu về compute, suy luận và các lớp điều phối.
- Các dự án AI crypto đối mặt với con dao hai lưỡi: Compute phi tập trung và mạng agent có thể hưởng lợi từ nhu cầu suy luận tăng, nhưng việc hàng hóa hóa các lớp quyết định có thể thu hẹp biên lợi nhuận.
- Theo dõi tín hiệu áp dụng: Thử nghiệm của LangChain và sức hút của nhà phát triển là những chỉ báo sớm. Nếu các mô hình kiểu Jev lan rộng, hãy kỳ vọng hiệu ứng lan tỏa khắp giá API AI và đầu tư hạ tầng.
Cuộc tranh luận mà Almeida khơi mào không chỉ là kỹ thuật—nó là về kiến trúc kinh tế của AI. Nếu máy móc sẽ đưa ra hàng tỷ quyết định mà không có con người trong vòng lặp, ngành công nghiệp có thể cần suy nghĩ lại về những gì nó tối ưu hóa: không chỉ trí tuệ, mà là phán đoán đã hiệu chỉnh, rẻ và nhanh.
