科大訊飛：訊飛星火訓練成本還有較大下降空間

有投資者向提問， 阿裏打算投入一千多億來打造AI帝國，請問貴公司是否考慮引入大公司的投資，甚至轉讓股權，如果沒有，如何應對競爭

公司回答表示，您好，1、科大訊飛過去幾年在受限的有限算力資源條件下，關於星火大模型訓練和推理成本效率的持續優化也做了大量投入，和直接使用英偉達卡上開展的各種工程優化不同，科大訊飛選擇了更難的全國產算力路線。從 2023 年 5 月起科大訊飛就聯合華為先後攻克了萬卡高速互聯組網、計算通信隱藏、訓練推理強交互、高吞吐推理優化以及國產算子優化等一係列難題，將通用大模型、類 o1 的深度推理模型等的訓練效率對標 A100 均從最初的 30%-50%優化達到了 85%-95%以上。隨著國產算力在底層能力上進一步提升，訊飛星火的訓練成本還有較大的下降空間。2、需要特別說明的是，大模型對算力的需求為訓練和推理兩個方麵，而訓練實現的難度遠大於推理。這就是雖然陸續有公司宣布可以在國產算力平台上提供大模型的推理服務，但仍隻有訊飛星火一家是訓練和推理均在國產算力上進行的，並且僅用 1 萬張 910B 國產算力卡，科大訊飛不僅用比友商少一個數量級的算力取得了大模型研發上的第一梯隊成果，而且做了大量國產算力平台上的無人區的適配和效率優化，追求國產算力的極致效率，這比在英偉達上的實現更需要技術實力和戰略勇氣。3、科大訊飛未來會繼續保持“1+N”的戰略投入定力即“1 個底座大模型+N 個行業大模型”的整體布局，底座大模型持續對標國內外最高水平，同時圍繞賦能教育、醫療、金融、汽車、能源、司法、安全、工業互聯網及 AI for Science 等關鍵領域構建 N 個重點行業大模型，積極追求用最先進和安全的人工智能賦能國計民生和國家戰略領域。感謝您的關注。