新聞來源：
張江發(fā)布
在張江這片創(chuàng)業(yè)熱土上，駐扎著大批集成電路龍頭企業(yè)。除了在張江扎根多年的“老企業(yè)”，許多芯片界的新生力量也在這里蓬勃發(fā)展。在張江科學城成立不到五年，肇觀電子已經(jīng)在計算機視覺的賽道上殺出重圍，“拳頭產(chǎn)品”N1系列計算機視覺芯片刷新了端側(cè)AI芯片性能紀錄，并達到了幾乎“無損”的精度。
AI芯片界的“黑馬”刷新芯片性能紀錄
對于AI應(yīng)用和系統(tǒng)廠商而言，AI芯片是其核心元器件，每個應(yīng)用和系統(tǒng)廠商都在尋找在性能、功耗、成本等方面綜合因素下合用的AI芯片。評估AI芯片是否適合使用往往從每元錢能獲得的性能、每度電能獲得的性能、部署實施的成本、元器件是否穩(wěn)定可靠等幾個方面來衡量。其中，芯片廠商宣稱的每TOPs（Tera operations per second）的算力對應(yīng)的實際每秒計算多少幀數(shù)據(jù)（例如圖片或者視頻），以及算法從訓練到部署的轉(zhuǎn)換中對精度的保持成為關(guān)鍵。
2016年成立的肇觀電子在芯片、數(shù)學、算法等方面深耕多年，潛心研發(fā)核心技術(shù)，已獲60余件國內(nèi)外專利授權(quán)?；诙嗄暄邪l(fā)的CVKit? NN IP的N1系列SoC芯片刷新了端側(cè)AI芯片性能紀錄。領(lǐng)先的每TOPs處理幀數(shù)，實時數(shù)據(jù)流處理能力，支持高精度FP16神經(jīng)網(wǎng)絡(luò)模型直接無損部署，高性能的INT8網(wǎng)絡(luò)支持能力，多級精細功耗控制，將端側(cè)AI芯片的能力提升到了一個新的高度。
AI芯片性能“又快又準”是主要指標
AI應(yīng)用和系統(tǒng)的客戶對于AI芯片實際的深度神經(jīng)網(wǎng)絡(luò)處理能力有著明確需求。對于系統(tǒng)性能而言，“又快又準“是其主要指標。“快”主要取決于芯片的每秒計算能力。如何能夠在單位成本和單位功耗下最優(yōu)地支持神經(jīng)網(wǎng)絡(luò)模型的各種神經(jīng)層的不同數(shù)據(jù)類型并使得客戶的模型部署的精度損失最小，體現(xiàn)出不同公司之間的技術(shù)水平的差異。
根據(jù)不同算法網(wǎng)絡(luò)的測試結(jié)果，N161芯片每TOPS算力下每秒可推理圖片的數(shù)量展示出了業(yè)界領(lǐng)先的水平。同時，N161還支持FP16高精度網(wǎng)絡(luò)，同樣展示出強悍的性能。
在FP16的精度下，N161跑各項網(wǎng)絡(luò)可以達到的每秒幀數(shù)“準”主要取決于芯片對于算法中的神經(jīng)網(wǎng)絡(luò)模型的各種神經(jīng)層的不同數(shù)據(jù)類型的支持?？蛻粼谒惴ㄟ\行中產(chǎn)生的精度損失往往十分昂貴。肇觀電子負責人跟我們介紹，以無人零售設(shè)備的應(yīng)用為例，如果物體識別算法在實際運行中有1%的精度下降，會直接導致貨損率的上升以及運營成本的增加。根據(jù)各種不同網(wǎng)絡(luò)的測試結(jié)果，N161 INT8量化網(wǎng)絡(luò)幾乎無精度損失（1%以內(nèi)）。此外，肇觀電子創(chuàng)新的CVKIT? NN IP在諸多方面遙遙領(lǐng)先，并已部署至N1系列芯片，以及D163(3D視覺)、V163(車載)芯片。
5分鐘快速部署解決“算法落地難”問題
人工智能落地的挑戰(zhàn)，一方面在于整個產(chǎn)業(yè)鏈稀缺在性能、成本、功耗等方面合用的上游核心芯片；另一方面在于產(chǎn)業(yè)依賴高度專業(yè)的知識技能而導致人才投入等綜合成本高昂。人工智能落地難度大已是業(yè)界不爭的事實。
為了解決“算法落地難”的問題，肇觀電子發(fā)布了“5分鐘部署”的AI應(yīng)用開發(fā)平臺Infer Studio?，助力算法快速商用。Infer Studio? 能夠?qū)⑺惴?/span>“翻譯”成芯片能讀懂的表述文件，并快速部署，這種“一鍵式”開發(fā)體驗顯著地提高了開發(fā)者的效率。據(jù)肇觀電子介紹，Infer Studio?支持TensorFlow/TensorFlow Lite/ONNX/Caffe這些主流框架，開發(fā)者可以自由選擇訓練框架。從功能上來說，在軟件層Infer Studio?具有Model Visualization可視化模型、Compiler編譯器、Evaluator效果評估器、Debugger調(diào)試器四種功能。
據(jù)悉，“肇觀”取自“開啟視覺”之意。在張江成立以來，肇觀電子從計算機視覺出發(fā)，在芯片核心技術(shù)上不斷突破，致力于為工業(yè)檢測、智慧安防、輕量AIoT等領(lǐng)域的用戶賦能。肇觀電子表示，計算機視覺的市場還處于發(fā)展期，這意味著肇觀這類計算機視覺芯片企業(yè)并無太多經(jīng)驗可以借鑒，只能摸索前行。期待通過肇觀等先行者的探索，AI視覺應(yīng)用能夠在更大范圍、更加深入幫助行業(yè)提質(zhì)增效。
