邊緣，一個相對遠(yuǎn)離“中心”的概念。邊緣計(jì)算往往是部署在數(shù)據(jù)中心之外，接近于現(xiàn)場應(yīng)用端提供的計(jì)算，面對的市場更為分散。工業(yè)、零售、智慧城市都是邊緣計(jì)算中典型的場景。很多數(shù)據(jù)來不及或者不能夠集中上傳到云端，就需要在邊緣終端側(cè)完成計(jì)算和推理。

在英特爾發(fā)布Q2財(cái)報的前一天，2023英特爾網(wǎng)絡(luò)與邊緣產(chǎn)業(yè)高層論壇上探討了未來邊緣計(jì)算的機(jī)遇。英特爾公司高級副總裁兼網(wǎng)絡(luò)與邊緣事業(yè)部總經(jīng)理Sachin Katti提到，2030年全球邊緣市場將達(dá)到4450 億美元的規(guī)模，企業(yè)需求的推動將會轉(zhuǎn)化為經(jīng)濟(jì)發(fā)展的動能，因此，他認(rèn)為邊緣的發(fā)展將成為下一個 10 年的巨大發(fā)展機(jī)遇，“邊緣已經(jīng)是現(xiàn)在人工智能最大的部署所在”。

這半年圍繞人工智能最熱的話題是大模型，在本次會議上也不例外，大家的共識是大模型的落地要和行業(yè)結(jié)合起來，并且針對性地去解決行業(yè)問題。

(資料圖片)

大模型的應(yīng)用有著不同的實(shí)施方法：可以在云端完成訓(xùn)練，再在云端完成推理返回結(jié)果到前端的邊緣側(cè)，但這就意味著可能通信的時間較長；也可以在云端完成訓(xùn)練，然后在邊緣側(cè)完成微調(diào)后再推理并給出結(jié)果。

“我們要檢測貓，現(xiàn)在可以做到什么程度呢？可以直接對著手機(jī)說一聲‘如果貓跑到沙發(fā)上，你就告訴我’。通過大模型對語音的理解、對畫面的分析，當(dāng)貓跑到沙發(fā)上的時候，系統(tǒng)就可以向手機(jī)推送報警信息。”山東中維世紀(jì)科技股份有限公司高級副總裁王正彬分享了公司在智能家居產(chǎn)品有趣的案例應(yīng)用。

從依靠人工盯著視頻一幀幀分析，再到利用深度學(xué)習(xí)的發(fā)展通過重復(fù)檢測、人形檢測進(jìn)行風(fēng)險提示，大模型的發(fā)展讓視頻檢測和分析更為便捷。“早期人工智能模型是定向的，找到專業(yè)數(shù)據(jù)集定向訓(xùn)練識別，現(xiàn)在大模型最大的特點(diǎn)是它有點(diǎn)通識的能力，有一些內(nèi)容好像沒有訓(xùn)練就可以識別出來了，這是現(xiàn)在大模型和早期模型的區(qū)別。”他這樣向第一財(cái)經(jīng)解釋以前的AI模型和現(xiàn)在大模型的區(qū)別。

“現(xiàn)在更多的需求是需要對關(guān)鍵事件進(jìn)行檢測，比如說一個人摔倒，我只檢測倒地的人形，不檢測正常的人形，通過大模型就可以很方便實(shí)現(xiàn)了，只有倒地的人檢測到才進(jìn)行報警，這樣能大大減少誤報和干擾。”王正彬說。

據(jù)他介紹，從視頻接入、存儲、解碼、顯示以及智能分析，這些工作就是在邊緣進(jìn)行處理的。但要想在邊緣側(cè)完成這種對大模型的部署和使用，還有一些限制。

“我們知道邊緣設(shè)備的算力、功耗、成本往往都是有限的，不像數(shù)據(jù)中心可以無限增加設(shè)備。那么如何可以在資源受限的情況下去部署大模型，完成推理工作，這當(dāng)中有很多問題需要解決。如果你把大模型原封不動的放在邊緣側(cè)，對算力要求太高，很多設(shè)備是無法承受的，就需要根據(jù)特定行業(yè)的特定要求去做特定的優(yōu)化，使得簡化之后的模型既滿足特定行業(yè)對準(zhǔn)確度、功能的要求，同時它的算力又能夠被一般的或者是專用的邊緣設(shè)備所承載。” 英特爾中國區(qū)網(wǎng)絡(luò)與邊緣事業(yè)部首席技術(shù)官、英特爾高級首席 AI 工程師張宇說。

現(xiàn)實(shí)中仍有不少困難。在現(xiàn)場參與案例展示的工作人員告訴第一財(cái)經(jīng)，數(shù)字化轉(zhuǎn)型進(jìn)程事實(shí)的推進(jìn)速度不一，會造成新的技術(shù)無法落地應(yīng)用。“有一些工廠的設(shè)備、網(wǎng)絡(luò)能力都是比較陳舊的，那我們只能先推薦他們更換設(shè)備，我們作為軟件方案商還不會直接提供硬件。”

擁抱新技術(shù)有時更像是強(qiáng)者的游戲，讓跑得更快的人繼續(xù)在行業(yè)中領(lǐng)跑。這些應(yīng)用場景有些本就是在原來技術(shù)應(yīng)用上的升級體驗(yàn)，而不是簡單地實(shí)現(xiàn)一個新功能的從無到有。這為比較人工智能發(fā)展階段的不同方案如何體現(xiàn)進(jìn)步帶來了一定難度，因?yàn)橛袝r難以用數(shù)字量化，體現(xiàn)的是管理流程和性能體驗(yàn)的優(yōu)越性。

“在我們的經(jīng)驗(yàn)當(dāng)中看到人工智能部署超過一半都是失敗的。”Sachin Katti認(rèn)為這主要有幾個原因，基礎(chǔ)設(shè)施的問題過于陳舊，難以把人工智能的大型模型部署到陳舊的設(shè)備上；第二個是數(shù)據(jù)，要去學(xué)會如何抓取孤立的數(shù)據(jù)，利用這些數(shù)據(jù)進(jìn)行部署，他直言“這都是非常大的挑戰(zhàn)，很多人都因?yàn)檫@些挑戰(zhàn)而止步不前”。

“對于客戶來說，僅僅靠自己通過硬件去獲得邊緣價值是非常困難的。所以我們在交付給客戶硬件的時候，相應(yīng)地也會給客戶交付所需的軟件。我們的目的是希望通過這樣一套基礎(chǔ)設(shè)施，可以讓客戶更加容易部署我們的硬件，并管理好硬件。” Sachin Katti說。

他提到，英特爾為了抓住邊緣計(jì)算的機(jī)會繼續(xù)在三個方向上發(fā)力：在硬件上，英特爾在中國剛剛發(fā)布了專門面向大模型訓(xùn)練的加速器Gaudi 2，還有其他的通用CPU處理器以及專用的獨(dú)立顯卡加速器；在軟件上，通過OpenVINO可以對在云端訓(xùn)練之后的大模型進(jìn)行優(yōu)化和壓縮，在最新的OpenVINO的版本中，已經(jīng)增加了對大模型Stable Diffusion的支持；此外，就是繼續(xù)發(fā)展生態(tài)合作伙伴。

“把人工智能部署到工廠產(chǎn)線的時間成本和人力成本還是偏高。如果在大模型上有更創(chuàng)新的想法，我們會和技術(shù)團(tuán)隊(duì)、產(chǎn)品團(tuán)隊(duì)共同配合，共同琢磨提煉，我們希望更快速把英特爾的技術(shù)方案帶進(jìn)去。”英特爾市場營銷集團(tuán)副總裁兼中國區(qū)總經(jīng)理王稚聰認(rèn)為，業(yè)務(wù)的合作伙伴要捕捉中國經(jīng)濟(jì)在恢復(fù)過程中出現(xiàn)的新動能，新的產(chǎn)業(yè)崛起以及把技術(shù)代入到下一個發(fā)展階段。

然而，通向機(jī)遇的道路并非坦途。

2023年英特爾Q2財(cái)報顯示，第二季度營收為129.48億美元，與去年同期的153.21億美元相比下降15%；但實(shí)現(xiàn)了扭虧為盈，凈利潤為14.73億美元，去年同期的凈虧損為4.54億美元。從細(xì)分領(lǐng)域來看，盡管在過去一年里，網(wǎng)絡(luò)和邊緣業(yè)務(wù)曾是一直穩(wěn)定保持著同比增長，但這塊業(yè)務(wù)今年連續(xù)兩個季度下滑，本季度收入為14億美元，同比下降了38%，是分列的幾項(xiàng)中同比下降最快的。

“不光是對英特爾，你可以看一下整個半導(dǎo)體行業(yè)過去兩年大家的利潤都有20%-30%左右的下調(diào)。但是在近一段時間，我們看到經(jīng)濟(jì)正在逐漸復(fù)蘇，而且也有大量的需求，無論是云端還是隨著AI技術(shù)進(jìn)一步的部署和使用，尤其是AI的需求，它不僅是對GPU和網(wǎng)絡(luò)的需求，包括對CPU的需求都是在不斷增加的在邊緣也會有一些需求。對英特爾來說，我們所做的就是要適應(yīng)市場的情況和變化。” Sachin Katti回應(yīng)第一財(cái)經(jīng)在內(nèi)的媒體采訪時說。

標(biāo)簽：