Moore Threads、Megatron-MUSA-Titanトレーニングインフラをオープンソース化

TREE NEWS 情報： Moore Threadsは、同社のフル機能GPU上に構築された大規模モデルトレーニングインフラプロジェクト「Megatron-MUSA-Titan」をオープンソース化した。このプロジェクトは、1万GPU規模のクラスタでの兆パラメータ級MoEモデルのトレーニングを対象とし、事前トレーニングと強化学習の両方をカバーし、開発者にMUSAプラットフォーム向けのトレーニング適応およびシステム最適化の機能を提供する。