以創(chuàng)新創(chuàng)未來 云天勵飛-U邊緣AI引領(lǐng)大模型落地

    本報訊 （記者王鏡茹）近期，云天勵飛-U推出IPU-X6000加速卡。該產(chǎn)品具備256T算力、128GB顯存容量、486GB/S顯存帶寬；采用C2C Mesh互聯(lián)技術(shù)，可實現(xiàn)卡間高速互聯(lián)，帶寬達64GB/s，最大可實現(xiàn)64張卡的互聯(lián)；可應用于語言、視覺、多模態(tài)等各類大模型的推理加速，目前已適配云天天書、通義千問、百川智能、Llama2/3等近10個主流大模型。

    事實上，云天勵飛-U作為國內(nèi)邊緣AI領(lǐng)軍企業(yè)，以“算法芯片化”為核心能力，自主研發(fā)多模態(tài)大模型“云天天書”及面向邊緣AI的大算力芯片。目前，公司不斷推進AI在智能硬件、智算服務、智慧行業(yè)三大領(lǐng)域的應用，致力于為個人、家庭、行業(yè)帶來安全、智慧、便捷的AI體驗。

    據(jù)了解，“算法芯片化”是云天勵飛-U的核心能力。云天勵飛-U自2014年成立以來，經(jīng)過10年的技術(shù)積淀，將該能力沉淀為基礎(chǔ)技術(shù)研究平臺，為技術(shù)研發(fā)和產(chǎn)業(yè)賦能提供有力支撐?；谒惴ㄐ酒夹g(shù)平臺，云天勵飛-U打造了“云天天書”大模型以及系列AI芯片。“云天天書”系列大模型使用自研訓練框架，全棧適配國產(chǎn)算力，在可伸縮訓練、斷點續(xù)訓等業(yè)界難點問題上屢次取得創(chuàng)新突破。

    2023年，“云天天書”大模型正式通過中央網(wǎng)信辦備案，并在智慧政務、城市治理、智慧安防、智慧交通、智慧商業(yè)、智慧教育等多行業(yè)落地。同年底，云天勵飛-U推出基于全國產(chǎn)先進工藝打造，完全自主可控的14nm AI芯片DeepEdge10，搭載第四代自研神經(jīng)網(wǎng)絡處理器NNP400T，主要用于大模型在邊緣場景的推理部署。目前，DeepEdge10已在攝像頭、邊緣服務器、機器人、智駕汽車等邊緣設備落地應用。

    目前，云天勵飛-U圍繞智能硬件、智算服務、智慧行業(yè)三大行業(yè)，不斷推進人工智能的產(chǎn)業(yè)化應用。在智能硬件方面，公司推出“深目”AI模盒，“天舟”大模型巡推一體機的硬件設備，推動大模型的便捷應用與落地。在智算服務方面，公司已落地含自研芯片的超大規(guī)模異構(gòu)高性能算力集群，并積累大模型訓練所需的能力平臺與工具，為客戶提供算力及相應服務。

    在智慧行業(yè)方面，云天勵飛-U打造了一系列標桿項目，并積累了優(yōu)質(zhì)的客戶資源和良好的品牌口碑，從而保障未來業(yè)績持續(xù)穩(wěn)定的增長。今年6月份，云天勵飛-U拿下一筆16億元的算力訂單，提前鎖定未來三年收入。

（編輯 張明富）