Bác sĩ phẫu thuật AI phẫu thuật mạng nơ-ron
TREE NEWS đưa tin: Trong một bước phát triển có thể định nghĩa lại cách trí tuệ nhân tạo được xây dựng và duy trì, các nhà nghiên cứu tại Phòng thí nghiệm Khoa học Máy tính và Trí tuệ Nhân tạo (CSAIL) của MIT đã chứng minh rằng một mô hình ngôn ngữ lớn có thể trực tiếp chỉnh sửa trọng số của một mô hình khác để cải thiện hiệu suất của nó—mà không cần bất kỳ huấn luyện, dữ liệu hay gradient descent nào. Thí nghiệm, được gọi là “Lập trình Không gian Trọng số”, đã sử dụng GPT-6 Astra của OpenAI để phẫu thuật sửa đổi mô hình mã nguồn mở Qwen3.5-0.8B, nâng điểm toán trên bộ đánh giá MATH-500 từ 7.9% lên 48.1% chỉ trong hơn 20 giờ.
Quy trình: Độ chính xác không cần huấn luyện
Astra được cung cấp một tập hợp các bài toán, một môi trường Python để đọc và ghi trọng số mô hình, và các lệnh gọi suy luận hạn chế. Nó chẩn đoán một lỗi đầu ra lặp lại ở lớp thứ 15 và 19 của mô hình, sau đó trừ đi một “hướng số” từ 64 cột đầu ra—chỉ thay đổi 131.072 trọng số, tương đương 0,016% tổng số tham số. Kết quả là khả năng suy luận toán học được cải thiện gấp sáu lần, cùng với mức tăng trên GSM8K (13,8% lên 67,1%) và tuân theo hướng dẫn (21,0% lên 62,3%).
Điều quan trọng là nhóm nghiên cứu nhấn mạnh rằng Astra không tiêm khả năng toán học mới; nó đã loại bỏ một rào cản ngăn mô hình sử dụng các khả năng hiện có. Khi áp dụng kỹ thuật tương tự cho Gemma 3 270M của Google, mô hình hiếm khi gặp phải đầu ra lặp lại, mức cải thiện là không đáng kể.
Vượt ra ngoài toán học: Đọc và viết “bộ gen” thần kinh
Những tác động vượt xa số học. Astra đã xác định thành công mỗi mạng chính sách trong bốn mạng có kiến trúc giống hệt nhau được huấn luyện trên trò chơi Atari nào, chỉ bằng cách kiểm tra trọng số của chúng. Nó cũng viết một mạng chơi Breakout từ đầu đạt điểm 517,4—vượt xa một mạng được huấn luyện bằng PPO đạt 25,3 sau 500 triệu bước. Trong một thử nghiệm khác, nó đã sửa một bộ điều khiển lái xe tự động bị kẹt bằng cách chỉ sửa đổi 3,5% trọng số của nó, đạt tỷ lệ thành công 100% trong 1.024 lần thử.
Những thí nghiệm này cho thấy LLM không chỉ có thể hiểu ý nghĩa được mã hóa trong các giá trị trọng số mà còn có thể thao tác chúng để đạt được các hành vi mà các thuật toán huấn luyện truyền thống gặp khó khăn trong việc tạo ra.
Hàm ý cho tiền mã hóa và AI phi tập trung
Đối với hệ sinh thái tiền mã hóa, đột phá này có những tác động đáng kể. Các mạng AI phi tập trung dựa vào các mô hình mã nguồn mở có thể được hưởng lợi từ việc sửa chữa và tùy chỉnh mô hình nhanh chóng, chi phí thấp mà không cần huấn luyện lại tốn kém. Các tác nhân AI trên chuỗi có thể một ngày nào đó kiểm tra hoặc sửa đổi trọng số của chính chúng, mặc dù các nhà nghiên cứu đã không chứng minh rõ ràng việc tự cải thiện đệ quy. Khả năng xác minh tính toàn vẹn của mô hình thông qua kiểm tra trọng số cũng có thể tăng cường bảo mật trong các thị trường suy luận phi tập trung.
Tuy nhiên, kỹ thuật này chưa phải là thuốc chữa bách bệnh. Nó chỉ được chứng minh trên một mô hình nhỏ 0,8B tham số và thất bại trên Gemma 3. Quá trình này yêu cầu 20 giờ và nhiều thử nghiệm và sai sót, và chưa có báo cáo tái lập độc lập nào. Lợi thế chi phí so với tinh chỉnh truyền thống vẫn chưa được xác minh.
Triển vọng tương lai
Omar Khattab của MIT và nhóm của ông tin rằng lập trình không gian trọng số có thể trở thành một phương thức hạng nhất cho AI tạo sinh, cùng với văn bản, hình ảnh và âm thanh. Nếu được xác nhận, nó có thể dẫn đến các hệ thống AI hiểu và tối ưu hóa các hệ thống AI khác một cách tự nhiên—một triển vọng đặt ra cả những khả năng thú vị và những lo ngại nghiêm trọng về an toàn. Khi AI bắt đầu sửa đổi AI, ranh giới giữa công cụ và người sáng tạo trở nên mờ nhạt, và nhu cầu giám sát mạnh mẽ ngày càng trở nên cấp thiết.
