97人人爽|97碰在线视频|三年片在线|中文字幕一区二区三区三区四区

?
當前位置:首頁 / 新聞資訊 / 行業資訊

日本聯合研究團隊發布Fugaku-LLM大模型,在富岳超算上訓練大模型

發布日期:2024-05-11     397 次

5 月 11 日消息,由多方企業和機構組成的日本聯合研究團隊昨日發布了 Fugaku-LLM 大模型。該模型的最大特色就是其是在 Arm 架構超算“富岳”上訓練的。

Fugaku-LLM 模型的開發于 2023 年 5 月啟動,初期參與方包括富岳超算所有者富士通、東京工業大學、日本東北大學和日本理化學研究所(理研)。

而在 2023 年 8 月,另外三家合作方 —— 名古屋大學、CyberAgent(也是游戲企業 Cygames 的母公司)和 HPC-AI 領域創企 Kotoba Technologies 也加入了該模型研發計劃。

1 - Copy.png

▲ 富岳超算。圖源富士通新聞稿

在昨日發布的新聞稿中,研究團隊表示其充分挖掘了富岳超算的性能,將矩陣乘法的計算速度提高了 6 倍,通信速度也提升了 3 倍,證明大型純 CPU 超算也可用于大模型訓練。

Fugaku-LLM 模型參數規模為 13B,是日本國內最大的大型語言模型。

其使用了 13824 個富岳超算節點在 3800 億個 Token 上進行訓練,其訓練資料中 60% 為日語,其他 40% 包括英語、數學、代碼等部分。

該模型的研究團隊宣稱 Fugaku-LLM 模型可在交流中自然使用日語敬語等特殊表達。

具體到測試成績上,該模型在日語 MT-Bench 模型基準測試上的平均得分為 5.5,排在基于日本語料資源的開放模型首位,并在人文社科類別中得到了 9.18 的高分。

目前 Fugaku-LLM 模型已在 GitHub 和 Hugging Face 平臺公開,外部研究人員和工程師可在遵守許可協議的前提下將該模型用于學術和商業目的。


為您精選

最新文章

尋找更多銷售、技術和解決方案的信息?

?
關于綠測

廣州綠測電子科技有限公司(簡稱:綠測科技)成立于2015年11月,是一家專注于耕耘測試與測量行業的技術開發公司。綠測科技以“工程師的測試管家”的理念向廣大客戶提供專業的管家服務。綠測科技的研發部及工廠設立于廣州番禺區,隨著公司業務的發展,先后在廣西南寧、深圳、廣州南沙、香港等地設立了機構。綠測科技經過深耕測試與測量領域多年,組建了一支經驗豐富的團隊,可為廣大客戶提供品質過硬的產品及測試技術服務等支持。

綠測工場服務號
綠測工場服務號
綠測科技訂閱號
綠測科技訂閱號
020-2204 2442
Copyright @ 2015-2024 廣州綠測電子科技有限公司 版權所有 E-mail:Sales@greentest.com.cn 粵ICP備18033302號