8月15日，訊飛星火認(rèn)知大模型V2.0升級發(fā)布會上，科大訊飛攜手華為發(fā)布星火一體機，讓所有企業(yè)都可以在國產(chǎn)自主創(chuàng)新的平臺上，更方便、更自主、更安全可控地私有化部署大模型。
開箱可用，內(nèi)置資源已涵蓋10余個專業(yè)場景
“星火一體機”是國產(chǎn)軟硬件一體化的私有專屬大模型解決方案，開箱即可使用，提供從底層算力、AI框架、訓(xùn)練算法、推理能力、應(yīng)用成效等全棧AI能力，幫助企業(yè)打造專屬大模型。
星火一體機的訓(xùn)練和推理一體化部署，可用于問答系統(tǒng)、對話生成、知識圖譜構(gòu)建、智能推薦等多個領(lǐng)域的應(yīng)用，具備大模型預(yù)訓(xùn)練、多模態(tài)理解與生成、多任務(wù)學(xué)習(xí)和遷移等能力。
科大訊飛在在辦公、政務(wù)、電力、教育、醫(yī)療、工業(yè)、司法、金融等行業(yè)深耕多年，積累了豐富的場景落地經(jīng)驗。星火一體機內(nèi)已涵蓋辦公、代碼、運維、客服、營銷、采購等10多個場景包，支持對話開發(fā)、任務(wù)編排、插件執(zhí)行、知識接入、提示工程等5種定制優(yōu)化模式，并將持續(xù)拓展更多專業(yè)場景和模式優(yōu)化，為客戶快速定制企業(yè)專屬大模型。
星火一體機還針對星火認(rèn)知智能大模型的訓(xùn)練算法和推理應(yīng)用進行了硬件的量身定制，可大大降低企業(yè)的使用成本。
“雙保險”：訊飛保障內(nèi)容，華為保障算力
科大訊飛董事長劉慶峰在發(fā)布會上表示，認(rèn)知大模型的深度賦能時代已經(jīng)到來，大模型在企業(yè)深度應(yīng)用的三個關(guān)鍵要素是：第一，安全可控：內(nèi)容安全，要有正確價值觀，算力安全，要在完全自主可控的平臺上進行；第二，場景驅(qū)動：在看得見摸得著的場景產(chǎn)生實實在在的價值，并能夠用數(shù)據(jù)去證明成效；第三，專屬定制：內(nèi)容匹配需求，基于行業(yè)和企業(yè)的私域數(shù)據(jù)構(gòu)建私有化專屬大模型，提升應(yīng)用效果。
企業(yè)應(yīng)用大模型并不是盲目追風(fēng)口，要從自身需求出發(fā)，讓大模型真正結(jié)合業(yè)務(wù)，提升效能、創(chuàng)造價值。場景驅(qū)動和專屬定制是企業(yè)大模型的基礎(chǔ)，而安全可控則是底線。
2023年4月28日，中共中央政治局會議就強調(diào)：“重視通用人工智能發(fā)展,營造創(chuàng)新生態(tài),重視防范風(fēng)險”；2023年7月，7部委聯(lián)合發(fā)布《生成式人工智能服務(wù)管理暫行辦法》，再次強調(diào)“發(fā)展和安全并重”。
在內(nèi)容安全方面，星火一體機基于訊飛星火認(rèn)知大模型，針對污語料和幻覺問題，形成立體化的“內(nèi)容安全機制”。無監(jiān)督的互聯(lián)網(wǎng)語料，經(jīng)過語句判別器、質(zhì)量判別器、隱私判別器、安全判別器等關(guān)卡，得到清洗后的高質(zhì)量文本；為了解決“幻覺問題”，科大訊飛針對各類型任務(wù)構(gòu)建專業(yè)知識庫，以類搜索插件技術(shù)實現(xiàn)知識獲取，基于大模型的理解和概括摘要能力給出答案。
在算力安全上，星火一體機基于昇騰AI硬件、昇思AI開源框架，提供業(yè)界領(lǐng)先的大模型訓(xùn)練、推理能力，為大模型全流程創(chuàng)新提供堅實的自主創(chuàng)新算力底座。
“雙保險”下，企業(yè)能夠放心大膽地打造專屬大模型。
強強聯(lián)合，將打造通用智能新底座
大模型的研發(fā)過程，需要可以支撐千億參數(shù)規(guī)模的大模型并行訓(xùn)練的算力和框架，還需要幾千張卡同時連續(xù)運行。基于此，系統(tǒng)架構(gòu)以及并行訓(xùn)練的集群能力成為國內(nèi)大模型研發(fā)的關(guān)鍵。
在今年的7月6日，科大訊飛就公布訊飛星火將與昇騰AI強強聯(lián)合，打造基于中國自主創(chuàng)新的通用智能新底座。一方面，訊飛星火認(rèn)知大模型基于訓(xùn)練推理一體化設(shè)計，實現(xiàn)大模型稀疏化、低精度量化的技術(shù)突破，能高效適配昇騰AI，加速大模型的行業(yè)落地應(yīng)用和迭代；另一方面，以昇騰AI為核心，軟硬件協(xié)同優(yōu)化，構(gòu)建算力集中、性能優(yōu)越、供給穩(wěn)定、數(shù)據(jù)安全的大模型訓(xùn)練集群。
此次發(fā)布的星火一體機，是科大訊飛與華為在AI算力、大模型的合作落地之一，將面向行業(yè)、企業(yè)客戶，提供基于專用數(shù)據(jù)的自主可控私有化大模型，加速推動重點企業(yè)的數(shù)智化轉(zhuǎn)型升級。國產(chǎn)大模型只有基于中國自主創(chuàng)新的算力底座才有大未來。之后，雙方將持續(xù)深化合作，放眼全球，聯(lián)合攻關(guān)算力國產(chǎn)化核心難題，實現(xiàn)從單點算力到集群算力、從節(jié)點創(chuàng)新到系統(tǒng)創(chuàng)新。
