1. 創(chuàng)業(yè)頭條
  2. 前沿領(lǐng)域
  3. 人工智能
  4. 正文

昆侖芯×飛槳:共創(chuàng)智能計(jì)算“芯”生態(tài)

 2022-05-26 11:50  來源:互聯(lián)網(wǎng)  我來投稿 撤稿糾錯(cuò)

  阿里云優(yōu)惠券 先領(lǐng)券再下單

WAVE SUMMIT 2022深度學(xué)習(xí)開發(fā)者峰會(huì)上周圓滿落幕,來自產(chǎn)學(xué)研界的專家學(xué)者和資深A(yù)I工程師在七大平行論壇帶來了精彩的技術(shù)分享。 本次峰會(huì)專設(shè)【智能硬核 生態(tài)共創(chuàng)】平行論壇,昆侖芯科技生物計(jì)算研發(fā)總監(jiān)鄭煥鑫受邀參會(huì),并進(jìn)行“昆侖芯×飛槳:共創(chuàng)智能計(jì)算‘芯’生態(tài)”的主題演講 。

昆侖芯適配百度飛槳等主流框架,支持推理和訓(xùn)練場(chǎng)景,生態(tài)建設(shè)正在逐漸完備,已在豐富的業(yè)務(wù)場(chǎng)景落地。作為國(guó)內(nèi)人工智能芯片領(lǐng)域的先行者,昆侖芯科技依托團(tuán)隊(duì)多年耕耘芯片和智能計(jì)算領(lǐng)域的行業(yè)影響力,致力于攜手上下游合作伙伴,打造智能計(jì)算“芯”生態(tài)。

以下內(nèi)容來自演講實(shí)錄:

大家好,我是來自昆侖芯科技的鄭煥鑫。

昆侖芯科技是一家AI芯片公司,2021年4月完成了獨(dú)立融資,首輪估值約130億元。公司前身是百度智能芯片及架構(gòu)部,在實(shí)際業(yè)務(wù)場(chǎng)景中深耕AI加速領(lǐng)域已十余年,是一家在體系結(jié)構(gòu)、芯片實(shí)現(xiàn)、軟件系統(tǒng)和場(chǎng)景應(yīng)用均有深厚積累的AI芯片企業(yè)。

昆侖芯科技研發(fā)實(shí)力雄厚,團(tuán)隊(duì)成員擁有全球頂尖學(xué)術(shù)背景,并提出了100%自研的通用AI計(jì)算處理器核心架構(gòu)昆侖芯XPU,研究成果也在Hot Chips、ISSCC等國(guó)際頂級(jí)學(xué)術(shù)會(huì)議中成功發(fā)表。

在落地實(shí)現(xiàn)上,昆侖芯1代在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬片,是國(guó)內(nèi)唯一一款經(jīng)歷過互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片產(chǎn)品。昆侖芯2代采用7nm制程,也已于2021年8月量產(chǎn)。更先進(jìn)的昆侖芯3代、自動(dòng)駕駛芯片等多個(gè)產(chǎn)品均已啟動(dòng)研發(fā)。

隨著AI越來越普及,其依托的算力需求也越來越大。在這個(gè)時(shí)代背景下,昆侖芯的愿景是“成為劃時(shí)代,全球領(lǐng)先的智能計(jì)算公司”,為AI發(fā)展提供算力賦能。

昆侖芯在AI芯片上經(jīng)歷了超過10年的發(fā)展歷程。我們?cè)?011年啟動(dòng)FPGA AI加速器項(xiàng)目,到2015年部署5000片,2017年部署超過12000片,是業(yè)界最大的量;2017年發(fā)布自研架構(gòu)昆侖芯XPU;2018年啟動(dòng)昆侖芯;2020年昆侖芯1代大規(guī)模部署;2021年昆侖芯2代量產(chǎn)。

昆侖芯軟硬件架構(gòu)及兩代產(chǎn)品

不同于GPU的發(fā)展歷程,昆侖芯1代在AI發(fā)展相對(duì)成熟的時(shí)候量產(chǎn),在設(shè)計(jì)階段就更好地理解了AI場(chǎng)景,提供了更多的加速計(jì)算單元,并且保留了足夠的通用計(jì)算單元,最終達(dá)到了更好的性價(jià)比。

這是我們的昆侖芯XPU架構(gòu):SDNN-軟件定義神經(jīng)網(wǎng)絡(luò)引擎,是我們自研的核心張量計(jì)算單元,用于加速卷積和矩陣乘法;Cluster為我們的通用計(jì)算部件;我們也是國(guó)內(nèi)業(yè)界率先支持GDDR6的廠商之一;我們的Shared Memory片上共享內(nèi)存,有力保證了計(jì)算單元的高并發(fā)、低時(shí)延訪問;提供高達(dá)200GB/s的片間互聯(lián)帶寬,有效提升了大規(guī)模分布式訓(xùn)練中的數(shù)據(jù)傳輸效率,減少通訊延時(shí);支持PCIe第四代接口,雙向帶寬可達(dá)到64GB/s。

這是我們的軟件架構(gòu)圖:在應(yīng)用層,我們支持訓(xùn)練、推理以及科學(xué)計(jì)算;在框架層,除了深度合作的PaddlePaddle,還支持TensorFlow,PyTorch等;我們提供了豐富的SDK,包括編輯器、圖引擎、高性能算子庫(kù)、高性能通訊庫(kù),以及驅(qū)動(dòng);在環(huán)境部署上,我們支持公有云服務(wù)、智算中心、智能邊緣設(shè)備等。

這是我們的產(chǎn)品研發(fā)路線,昆侖芯1代采用14nm工藝,昆侖芯2代采用7nm工藝,此外我們的昆侖芯3代、昆侖芯4代都在研發(fā)路徑中。

昆侖芯1代產(chǎn)品包括兩種形式,其中K100是K200的算力一半版本,主要用在邊緣端。昆侖芯2代產(chǎn)品中,R200 AI加速卡主要用于推理,支持INT8/INT16/INT32/FP16/FP32等精度,非常值得一提的是昆侖芯R200 AI加速卡支持視頻編解碼能力;R480-X8 AI加速器組是我們的單機(jī)8卡訓(xùn)練方案,提供200GB/s的片間互聯(lián)帶寬。

概括起來,昆侖芯2代有如下特點(diǎn):

1.通用計(jì)算能力顯著增強(qiáng),可靈活支持AI算法的演進(jìn),提升資源投入效用;

2.硬件虛擬化,提升AI算力資源的利用率;

3.高性能分布式AI系統(tǒng),加速AI數(shù)據(jù)并行和模型并行中的高速數(shù)據(jù)交換。

介紹完硬件參數(shù),我們看看昆侖芯的軟件參數(shù)。以R200 AI加速卡為例,相比較于業(yè)界主流產(chǎn)品,典型AI負(fù)載性能提升1.5倍左右,其中GEMM矩陣乘法性能為1.7倍,BERT典型自然語言處理性能加速比為1.4倍。對(duì)Transformer類有同樣的效果;Yolov3,Yolov5性能加速1.3倍;ResNet50視覺分類算法加速1.2倍。

昆侖芯AI算力賦能千行百業(yè)

昆侖芯科技前身為百度智能芯片及架構(gòu)部,天然對(duì)互聯(lián)網(wǎng)AI應(yīng)用有深入了解。以百度搜索場(chǎng)景為例,我們實(shí)現(xiàn)了過萬片的部署,與飛槳聯(lián)合優(yōu)化模型:DeepFM、Wide&Deep。此外,我們?cè)诎ò俣仍趦?nèi)的多家互聯(lián)網(wǎng)公司上均有不錯(cuò)的落地表現(xiàn)

在智能城市領(lǐng)域,萬級(jí)別攝像機(jī)收集視頻流,通過芯片編解碼獲取圖片,對(duì)圖片進(jìn)行人臉檢索以及比對(duì)。該場(chǎng)景主要是以CV類算法為主,我們和飛槳聯(lián)合優(yōu)化模型包括:ResNet50、MobileNet-v3、Unet、Yolov3-DarkNet53、SSD-ResNet34 。

工業(yè)質(zhì)檢場(chǎng)景,高清工業(yè)相機(jī)拍攝零件照片進(jìn)行質(zhì)量檢測(cè)。搭載國(guó)產(chǎn)AI算力機(jī)的質(zhì)檢設(shè)備替代人工質(zhì)檢,大大節(jié)省了人力,14個(gè)月即可收回成本。同時(shí),“5G+AI+工業(yè)互聯(lián)網(wǎng)”解決方案大大提高了整廠的智能化水平,幫助企業(yè)降低損耗,提升約10%的良品率。在這個(gè)方向上,我們和飛槳聯(lián)合開發(fā)了Yolov3-DarkNet53、SSD-ResNet34。

在目前國(guó)內(nèi)前沿的生物計(jì)算領(lǐng)域,我們也對(duì)基因測(cè)序算法Blast以及蛋白質(zhì)折疊預(yù)測(cè)算法進(jìn)行了硬件適配,并取得了不錯(cuò)的加速比。

綜上,我們?cè)诨ヂ?lián)網(wǎng)、智慧城市、智慧工業(yè)、生物計(jì)算、智慧金融、智慧政務(wù)、智算中心以及智慧交通等各行業(yè) AI 應(yīng)用落地場(chǎng)景中均提供了多種解決方案。

總結(jié)來看,昆侖芯科技最獨(dú)特優(yōu)勢(shì)在于:在百度搜索引擎、小度等業(yè)務(wù)中部署超過2萬片,是國(guó)內(nèi)唯一一款經(jīng)歷了互聯(lián)網(wǎng)大規(guī)模核心算法考驗(yàn)的云端AI芯片,產(chǎn)品的可用性、可靠性、穩(wěn)定性、魯棒性得到了驗(yàn)證,也證明了團(tuán)隊(duì)在芯片架構(gòu)、軟件棧、工程化系統(tǒng)層級(jí)的技術(shù)實(shí)力。此外,昆侖芯靈活支持多個(gè)AI場(chǎng)景,如視覺、語音、NLP和推薦等;不僅如此,昆侖芯也支持HPC、生物計(jì)算等算法的加速。

申請(qǐng)創(chuàng)業(yè)報(bào)道,分享創(chuàng)業(yè)好點(diǎn)子。點(diǎn)擊此處,共同探討創(chuàng)業(yè)新機(jī)遇!

相關(guān)標(biāo)簽
人工智能
ai芯片

相關(guān)文章

  • IoT開發(fā)者為王,涂鴉智能硬核“靠邊站”

    IoT盛宴:涂鴉向下,產(chǎn)品向上

    標(biāo)簽:
    人工智能
  • IPO觀察丨黑芝麻智能遞表港交所,車芯行業(yè)已邁向量產(chǎn)決戰(zhàn)期?

    雖然我國(guó)汽車芯片行業(yè)還處在發(fā)展初期,但已經(jīng)迸發(fā)出無限潛力。一方面,智能汽車的發(fā)展不斷帶動(dòng)需求增長(zhǎng);另一方面,政策引導(dǎo)下,汽車芯片企業(yè)持續(xù)搶占高地。對(duì)此,在7月5日-7日舉辦的2023年中國(guó)汽車論壇上,中國(guó)汽車工業(yè)協(xié)會(huì)副秘書長(zhǎng)李邵華就做出表示,“中國(guó)將成為未來汽車芯片發(fā)展的集聚地”。車規(guī)芯片行業(yè)近日的

    標(biāo)簽:
    人工智能
  • 倒計(jì)時(shí)2天丨云天勵(lì)飛將亮相世界人工智能大會(huì)

    2023世界人工智能大會(huì)將于7月6日至8日在上海舉辦。云天勵(lì)飛將在大會(huì)上展示自主設(shè)計(jì)開發(fā)的新一代邊緣計(jì)算芯片DeepEdge10系列SoC芯片,并公布“天書”大模型的最新動(dòng)態(tài)。歡迎蒞臨上海世博展覽館H1-C801展臺(tái)參觀交流!同時(shí),云天勵(lì)飛也將與中國(guó)電子、中國(guó)信通院、華為等合作伙伴,在WAIC的舞臺(tái)

    標(biāo)簽:
    人工智能
  • 酷學(xué)院智能產(chǎn)品發(fā)布會(huì):引領(lǐng)中大型企業(yè)學(xué)習(xí)新潮流

    近日,酷學(xué)院智能產(chǎn)品發(fā)布會(huì)在深圳閃亮登場(chǎng)。近200位現(xiàn)場(chǎng)觀眾和近萬人次在線觀看,共同見證了這一激動(dòng)人心的時(shí)刻。發(fā)布會(huì)上,酷學(xué)院引領(lǐng)大家探索企業(yè)培訓(xùn)學(xué)習(xí)和人才發(fā)展領(lǐng)域的新高度,并揭幕其全新的產(chǎn)品智能升級(jí)和突破??釋W(xué)院產(chǎn)品負(fù)責(zé)人徐晨通過形象生動(dòng)、邏輯嚴(yán)謹(jǐn)?shù)闹v述,揭曉了全新的智能企業(yè)培訓(xùn)和人才發(fā)展平臺(tái),以

    標(biāo)簽:
    人工智能
  • 青少年在科創(chuàng)新活動(dòng)中受益:人工智能教育開啟未來的可能性

    隨著人工智能技術(shù)的快速發(fā)展,各行各業(yè)都受到了深刻影響,特別是中小學(xué)人工智能教育的普及,已經(jīng)成為當(dāng)今不可忽視的重要課程。ChatGPT等人工智能技術(shù)的出現(xiàn),讓我們看到了人工智能將成為未來推動(dòng)科技跨越發(fā)展、生產(chǎn)力整體躍升的重要驅(qū)動(dòng)力量之一。在這個(gè)背景下,中小學(xué)教育已經(jīng)將人工智能作為重要學(xué)習(xí)內(nèi)容,并將科技

    標(biāo)簽:
    人工智能
  • 未來5年,中國(guó)AI的“大洗牌”和“內(nèi)循環(huán)”

    我覺得我們AI的目標(biāo)是:從芯片設(shè)計(jì)到軟件生態(tài),全鏈路自主開發(fā),建立可控的世界級(jí)AI體系。所以這是俺對(duì)未來5年中國(guó)AI圈的展望和判斷。(1)2026年,英偉達(dá)造車、國(guó)產(chǎn)開車26年國(guó)產(chǎn)芯片會(huì)在推理和垂直場(chǎng)景上發(fā)力。以DeepSeek為代表,大多數(shù)AI大模型會(huì)以軟件彌補(bǔ)硬件不足,所以訓(xùn)練和推理分開,訓(xùn)練就

  • H20芯片開賣即叫停,英偉達(dá)如何解圍?

    文/道哥在深陷“后門”風(fēng)波、接受網(wǎng)信辦問詢之后,英偉達(dá)的“特供版”H20芯片,又有了新消息。近日,美國(guó)科技媒體《TheInformation》援引知情人士消息稱,英偉達(dá)已悄然向其關(guān)鍵供應(yīng)商——包括負(fù)責(zé)封裝的安靠科技、供應(yīng)高帶寬內(nèi)存的三星電子、以及承擔(dān)后端處理的富士康發(fā)出指令,要求暫停所有與H20AI

    標(biāo)簽:
    英偉達(dá)
  • 真正的「國(guó)產(chǎn)英偉達(dá)」來了

    文/二風(fēng)來源/節(jié)點(diǎn)財(cái)經(jīng)一場(chǎng)關(guān)于“中國(guó)芯”的IPO審議,正把投資者們的目光鎖定在上交所。根據(jù)上交所發(fā)布的公告,上市審核委員會(huì)已定于9月26日審議摩爾線程的科創(chuàng)板首發(fā)申請(qǐng)。作為中國(guó)半導(dǎo)體自主化浪潮中最受矚目的“考生”之一,包括其創(chuàng)始人顯赫的英偉達(dá)背景、高達(dá)80億元人民幣的募資雄心,以及在國(guó)產(chǎn)GPU領(lǐng)域取

    標(biāo)簽:
    英偉達(dá)
  • AI視頻生成賽道“分野”:小廠重產(chǎn)品,大廠重生態(tài)

    AI視頻生成賽道“分野”:小廠重產(chǎn)品,大廠重生態(tài)

    標(biāo)簽:
    騰訊
    阿里巴巴
    快手
  • 數(shù)據(jù)庫(kù)進(jìn)入“內(nèi)存自由”時(shí)代!阿里云PolarDB發(fā)布全球首個(gè)CXL數(shù)據(jù)庫(kù)服務(wù)器

    技術(shù)的進(jìn)步永無止境,繼創(chuàng)下TPC-C性能&性價(jià)比雙冠之后,阿里云PolarDB云原生數(shù)據(jù)庫(kù)再度實(shí)現(xiàn)關(guān)鍵突破。9月24日杭州云棲大會(huì)上,阿里云宣布推出全球首款基于CXL(ComputeExpressLink)2.0Switch技術(shù)的PolarDB數(shù)據(jù)庫(kù)專用服務(wù)器。在原有RDMA網(wǎng)絡(luò)的基礎(chǔ)上,Polar

  • 為AI時(shí)代云服務(wù)器量身定制 阿里云操作系統(tǒng)Alinux 4重磅發(fā)布

    2025年9月24日,在杭州舉辦的云棲大會(huì)上,阿里云正式發(fā)布全新一代服務(wù)器操作系統(tǒng)AlibabaCloudLinux4(簡(jiǎn)稱Alinux4)。Alinux4基于Linux6.6內(nèi)核打造,是首個(gè)全面遵循龍蜥社區(qū)“開源生態(tài)合作倡議”規(guī)范的商業(yè)發(fā)行版。它不僅兼容主流開源社區(qū)生態(tài),更針對(duì)阿里云最新9代ECS

  • 阿里云重磅發(fā)布AI安全護(hù)欄 五項(xiàng)安全能力護(hù)航AI安全

    9月24日,杭州云棲大會(huì)技術(shù)主論壇上,阿里云重磅發(fā)布AI安全護(hù)欄,提供五項(xiàng)核心安全能力,護(hù)航AI安全。一方面為客戶提供融入AIAgent開發(fā)全鏈路的原生安全防護(hù),另一方面持續(xù)用AI賦能安全產(chǎn)品智能化升級(jí),打造Agentic-SOC安全運(yùn)營(yíng),提升安全威脅檢測(cè)和響應(yīng)效率。在過去的一年,AIAgent正在

  • 魔搭社區(qū)國(guó)際版上線,并發(fā)布科學(xué)智能專區(qū)與AIGC創(chuàng)作引擎

    9月24日,魔搭社區(qū)舉辦了“全球協(xié)作?科學(xué)突破?創(chuàng)意無限”的專題論壇,并發(fā)布魔搭社區(qū)國(guó)際版、科學(xué)智能專區(qū)與AIGC創(chuàng)作引擎FlowBench,旨在連接全球開發(fā)者、加速科研范式創(chuàng)新、賦能創(chuàng)意表達(dá)。自2022年11月初成立至今,魔搭社區(qū)已成長(zhǎng)為中國(guó)最大AI開源社區(qū),其模型數(shù)量已突破10萬,服務(wù)了全球20

  • 七連發(fā)!阿里多款重磅發(fā)布亮相云棲大會(huì)

    9月24日,2025云棲大會(huì)現(xiàn)場(chǎng),阿里云CTO周靖人接連發(fā)布了七款大模型技術(shù)產(chǎn)品。七款技術(shù)產(chǎn)品覆蓋語言、語音、視覺、多模態(tài)、代碼等模型領(lǐng)域,在模型智能水平、Agent工具調(diào)用以及Coding能力、深度推理、多模態(tài)等方面均實(shí)現(xiàn)突破。在大語言模型中,阿里通義旗艦?zāi)P蚎wen3-Max全新亮相,性能超過G

  • 阿里云擴(kuò)建全球基礎(chǔ)設(shè)施,將新增巴西、法國(guó)和荷蘭數(shù)據(jù)中心

    9月24日,阿里云在云棲大會(huì)上宣布新一輪全球基礎(chǔ)設(shè)施擴(kuò)建計(jì)劃:將在巴西、法國(guó)和荷蘭首次設(shè)立云計(jì)算地域節(jié)點(diǎn)(region),并將擴(kuò)建墨西哥、日本、韓國(guó)、馬來西亞和迪拜的數(shù)據(jù)中心,以便更好服務(wù)全球客戶日益增長(zhǎng)的AI和云計(jì)算需求。目前,阿里云在全球29個(gè)地區(qū)運(yùn)營(yíng)91個(gè)可用區(qū),是中國(guó)最大、亞太第一的云服務(wù)商

編輯推薦