8月15日，科大訊飛在合肥舉辦了“訊飛星火認知大模型V2.0升級發布會”。在此次發布會上，科大訊飛與華為共同發布用於構建專屬大模型的軟硬件一體化設備“星火一體機”。

科大訊飛董事長劉慶峰表示，“科大訊飛和華為已在聯合攻關算力卡脖子的問題。”在單卡算力上，“星火一體機”對標A100，同時還正在和華為一道打造麵向超大規模大模型訓練的國產算力集群


，形成集群化優勢。

據了解，在大模型的研發過程中，需要可以支撐千億參數規模大模型並行訓練的算力和框架，這通常需要幾千張高算力的AI加速卡同時連續運行。基於此，係統架構以及並行訓練的集群能力成為大模型研發的關鍵。

據了解，星火一體機基於鯤鵬CPU＋昇騰GPU，另外還采用了華為存儲和網絡提供整機櫃方案，FP16（半精度浮點數格式）算力2.5 petaFLOPS（1 petaFLOPS為每秒運行一千萬億次浮點運算）。在大模型訓練中最為流行的英偉達DGX A100，其單節點包含8塊GPU，可以輸出5 PetaFLOPS的FP16算力。

（星火一體機采用的昇騰芯片疑似為昇騰910。官網資料顯示，昇騰910的FP16算力為320TFLOPS。）

據介紹，星火一體機的訓練和推理一體化部署

，可用於問答係統、對話生成、知識圖譜構建、智能推薦等多個領域的應用，具備大模型預訓練
、多模態理解與生成
、多任務學習和遷移等能力。

星xing火huo一yi體ti機ji還hai針zhen對dui星xing火huo認ren知zhi智zhi能neng大da模mo型xing的de訓xun練lian算suan法fa和he推tui理li應ying用yong進jin行xing了le硬ying件jian的de量liang身shen定ding製zhi
，可ke大da大da降jiang低di企qi業ye的de使shi用yong成cheng本ben。可ke直zhi接jie提ti供gong對dui話hua開kai發fa、任務編排
、插件執行、知識接入
、提示工程等5種定製優化模式，以及辦公
、代碼
、客服、運維、營銷、采購等10種以上即開即用的豐富場景包，支持3種模型尺寸供用戶選擇。

值得注意的是
，上個月
，科大訊飛就宣布訊飛星火將與昇騰AI聯合，打造基於中國自主創新的通用智能新底座。一方麵，訊飛星火認知大模型基於訓練推理一體化設計
，實現大模型稀疏化
、低精度量化的技術突破

，能高效適配昇騰AI，加速大模型的行業落地應用和迭代；另一方麵
，以昇騰AI為核心
，軟硬件協同優化，構建算力集中

、性能優越
、供給穩定、數據安全的大模型訓練集群。

在當天的“訊飛星火認知大模型V2.0升級發布會”演講中
，劉慶峰更為細致地講解道，“華為跟科大訊飛共同在昇騰AI的軟硬件平台和軟件的支撐工具上，把高算力AI芯片、高性能的算子庫、多duo卡ka高gao速su互hu聯lian以yi及ji分fen布bu式shi存cun儲chu結jie合he起qi來lai，尤you其qi是shi我wo們men聯lian合he針zhen對dui人ren工gong智zhi能neng所suo需xu要yao的de最zui重zhong要yao的de算suan子zi庫ku進jin行xing甄zhen別bie和he打da磨mo。然ran後hou在zai此ci基ji礎chu上shang，架jia構gou科ke大da訊xun飛fei的de訓xun練lian和he數shu據ju閉bi環huan全quan流liu程cheng設she計ji，以yi及ji訓xun練lian和he推tui理li一yi體ti化hua設she計ji的de自zi研yan大da模mo型xing訓xun練lian平ping台tai，中zhong間jian是shi支zhi持chi大da規gui模mo的de異yi構gou算suan力li兼jian容rong
，也ye支zhi持chi混hun合he雲yun架jia構gou易yi拓tuo展zhan
，使shi得de我wo們men今jin天tian所suo看kan到dao的de訊xun飛fei星xing火huoV2.0的演示以及所有產品，架構在安全可控的平台上。”

據悉


，“訊飛星火認知大模型V2.0”除了持續提升通用能力基礎外
，重點突破代碼能力和多模態交互能力。據劉慶峰介紹，在OpenAI構建的代碼能力的公開測試集HumanEval上

，訊飛星火大模型V2.0基於Python和C 進行代碼寫作的能力接近ChatGPT水平，差距僅為1%和2%，預計將於今年10月24日全麵超越ChatGPT
，明年上半年將正式對標GPT-4。

目前，訊飛星火大模型擁有130億
、650億和1750億3個版本的模型參數可選。圍繞星火大模型，科大訊飛正在構建開發者生態，目前有4000多個助手開發者團隊加入星火平台。