云天勵飛亮相2023世界人工智能大會 首次公開“天書”大模型動態(tài)

    本報記者 王鏡茹

    2023世界人工智能大會于7月6日至8日在上海舉辦。本次大會上，云天勵飛展示了自主設(shè)計開發(fā)的新一代邊緣計算芯片DeepEdge10系列SoC芯片，并公布了“天書”大模型的最新動態(tài)。

    大模型與芯片全面亮相

    本次世界人工智能大會上，云天勵飛展示了新一代邊緣計算芯片DeepEdge10系列SoC芯片。

    該芯片于2022年底成功流片，采用國內(nèi)先進工藝，支持多芯粒擴展的Chiplet技術(shù)，可提供12TOPS（INT8）整型計算和2TFLOPS（FP16）浮點計算的深度學(xué)習(xí)推理計算算力，滿足市場對處理芯片在算法的多樣性、準確性、算力密度及效能方面的要求，可廣泛應(yīng)用于AIoT邊緣視頻、移動機器人等場景。預(yù)計今年量產(chǎn)投入使用。

圖為云天“天書”基礎(chǔ)大模型架構(gòu) 公司/供圖

    此外，云天勵飛還在大會上首次披露大模型“云天天書”的情況。據(jù)介紹，“云天天書”基礎(chǔ)大模型架構(gòu)包含三個層級：通用大模型、行業(yè)大模型、場景大模型。云天勵飛基于算法開發(fā)平臺和算法芯片化平臺，并通過海量高質(zhì)量數(shù)據(jù)預(yù)訓(xùn)練生產(chǎn)通用大模型；在通用大模型基礎(chǔ)上，引入高質(zhì)量行業(yè)數(shù)據(jù)，生產(chǎn)行業(yè)大模型；再在行業(yè)大模型的基礎(chǔ)上，通過細分場景數(shù)據(jù)微調(diào)研發(fā)場景大模型。通過這樣的三級架構(gòu)，讓大模型為千行百業(yè)賦能。

    據(jù)悉，基于“云天天書”大模型，云天勵飛與深圳龍崗政數(shù)局共同探索了大模型在政務(wù)咨詢服務(wù)系統(tǒng)的應(yīng)用。通過對海量的政策、法規(guī)、辦理流程等文本進行結(jié)構(gòu)化梳理和分析，形成易于查閱的知識庫，幫助服務(wù)人員快速查詢和獲取準確的信息，減少查閱時間，提高政務(wù)服務(wù)工作效率。目前該系統(tǒng)在行政服務(wù)大廳探索應(yīng)用，未來計劃逐步拓展到其他政府機構(gòu)和公共服務(wù)領(lǐng)域，如法務(wù)、金融、教育、醫(yī)療、交通等。

    云天勵飛與龍崗政數(shù)局合作探索打造的“大模型政務(wù)咨詢服務(wù)系統(tǒng)”還入選了中國信通院《通用人工智能創(chuàng)新應(yīng)用案例集》。

    “算法芯片化”能力加速AI落地

    據(jù)現(xiàn)場工作人員介紹，云天勵飛核心能力是“算法芯片化”。所謂“算法芯片化”，不是“算法+芯片”，而是云天勵飛基于對場景的深刻理解，以及對算法關(guān)鍵計算任務(wù)在應(yīng)用場景中的量化分析，將芯片設(shè)計者的理念、思想與算法相融合的AI芯片設(shè)計流程。

    這一理念同樣在本次展出的DeepEdge10芯片和“云天天書”大模型上有所體現(xiàn)。DeepEdge10可為大模型在邊側(cè)推理場景提供充足算力，可以解決大模型應(yīng)用和部署過程中的各類挑戰(zhàn)，包括新的神經(jīng)網(wǎng)絡(luò)計算范式、高帶寬傳輸、分布式并行計算、低精度混合計算等，能夠為大模型和實際應(yīng)用場景嫁接起橋梁，讓大模型技術(shù)能夠高效、低成本地部署到終端，幫助場景探索更多大模型的創(chuàng)新應(yīng)用。

    “應(yīng)用產(chǎn)生數(shù)據(jù)、數(shù)據(jù)訓(xùn)練算法、算法定義芯片、芯片賦能應(yīng)用”——這是云天勵飛一直以來堅持的人工智能發(fā)展之路。基于這個思路，云天勵飛于2020年正式提出“自進化城市智能體”的戰(zhàn)略目標。在戰(zhàn)略目標的指引下，云天勵飛已經(jīng)在深圳、東莞、青島、成都、杭州、上海、北京等多個城市實現(xiàn)項目落地，成功打造了一系列標桿式項目。

    值得一提的是，2021年至2023年，深圳市政府工作報告連續(xù)3年提及要建設(shè)“鵬城自進化智能體”。今年6月份發(fā)布的《深圳市數(shù)字孿生先鋒城市建設(shè)行動計劃（2023）》也明確提到，“圍繞分步有序建設(shè)鵬城自進化智能體，推進以數(shù)字孿生為特點的深圳智慧城市和數(shù)字政府建設(shè)。”

（編輯 汪世軍）