人工智能（AI）正無所不至地滲入人類生活。我們?nèi)諠u習(xí)慣于通過智能語音助手了解天氣、控制家電；普遍接受了通過在線語音識別和翻譯，與來自世界各地的同事或合作伙伴交流；在工業(yè)應(yīng)用和科研領(lǐng)域，AI更是幫助人類將視野拓展到星辰大�；蛄Ｗ邮澜�。

   這些日趨成熟的AI技術(shù)背后，是無處不在的AI計算。智慧時代已經(jīng)到來，“計算力就是生產(chǎn)力”已成共識。那么，如何準(zhǔn)確直觀地衡量與評估AI計算發(fā)展水平？

   近日，國際AI性能基準(zhǔn)評測MLPerf™的最新AI推理V2.0榜單，為我們帶來了解AI計算水平的“風(fēng)向標(biāo)”。

AI大考

   MLPerf™由圖靈獎得主大衛(wèi)•帕特森聯(lián)合頂尖學(xué)術(shù)機構(gòu)發(fā)起成立，旨在打造一套測量和提高機器學(xué)習(xí)軟硬件性能的通用基準(zhǔn)，為評估各類AI系統(tǒng)在實際應(yīng)用中的性能提供權(quán)威有效的數(shù)據(jù)指導(dǎo)。

   “說白了就是一場‘大考’。”一位參加此次大賽的工程師說，“廠家都說自己的機器好,那就來PK一下，看誰在實際應(yīng)用中更強。”

   2020年，非營利性機器學(xué)習(xí)開放組織MLCommons（成員包括50余家全球AI領(lǐng)軍企業(yè)及頂尖學(xué)術(shù)機構(gòu)）基于MLPerf™成立，每年組織AI訓(xùn)練和推理性能測試各兩次，以便跟進迅速變化的計算需求和計算性能提升。每一次測試往往都匯聚英特爾、英偉達、谷歌、微軟云、浪潮信息、戴爾等數(shù)十家頭部芯片、云服務(wù)和IT基礎(chǔ)設(shè)施廠商同臺競技。

   如果把AI訓(xùn)練看作AI的“學(xué)習(xí)過程”，那么推理就相當(dāng)于AI能“學(xué)以致用”。

   MLPerf™的AI訓(xùn)練性能測試主要考查完成各主流AI模型的訓(xùn)練時間，完成的速度越快則意味著性能更強；而AI推理主要考查AI系統(tǒng)（使用主流AI模型）完成各類任務(wù)的速度與效率。

   相較于代表技術(shù)發(fā)展水平的AI訓(xùn)練，低延遲、高效的AI推理和AI的落地應(yīng)用關(guān)系更加密切——推理需要保留模型在訓(xùn)練中學(xué)到的能力，還能應(yīng)用到前所未見的數(shù)據(jù)上，并根據(jù)真實世界中的數(shù)據(jù)，迅速提供正確答案。

   作為當(dāng)下最權(quán)威的AI性能基準(zhǔn)測試，MLPerf™全面、公平地考查了各類AI場景下參測廠商系統(tǒng)和軟件優(yōu)化的整體能力。同時，因為全球頂級廠商的積極參與和重視，MLPerf™的每一次測試結(jié)果，都代表著當(dāng)前最先進的AI計算水平。

“飆”到最快

   今年4月結(jié)束的MLPerf™ AI推理性能測試競爭“慘烈”。據(jù)MLPerf™官方統(tǒng)計，本輪測試19家參賽者共提交超3900項性能成績和2200項功耗成績，分別是上一輪的2倍和6倍。

   此次AI推理性能評測包含了六大AI任務(wù)，分別是圖像分類、醫(yī)學(xué)影像分割、目標(biāo)物體檢測、語音識別、自然語言理解以及智能推薦，它們也是當(dāng)下最主流和通用的AI應(yīng)用場景。針對這六大任務(wù)，MLPerf™設(shè)置了非常細(xì)致的考查維度（共33項賽道），從而全方位地檢驗AI系統(tǒng)在各種應(yīng)用情況下的表現(xiàn)。

   比如，其中的圖像分類任務(wù)，即根據(jù)圖像的語義信息，將不同類別的圖像區(qū)分開。這是計算機視覺中重要的基本問題，也是更高級的視覺任務(wù)的基礎(chǔ)。相關(guān)工程師表示，“通俗說，它有個數(shù)百萬張圖片的數(shù)據(jù)集，比賽時看誰能在最短的時間內(nèi)，把這個數(shù)據(jù)集里的圖片全部識別出來，并正確分類。”

   AI圖像分類在日常生活中有著廣泛應(yīng)用，如智能視頻分析、交通場景識別、互聯(lián)網(wǎng)領(lǐng)域基于圖像內(nèi)容的檢索以及相冊自動分類等。此次性能評測中，浪潮AI服務(wù)器創(chuàng)造了每秒對44.99萬張圖片進行分類的嶄新世界紀(jì)錄。

   性能紀(jì)錄不止于此。在此次MLPerf™測試的33項賽道中，浪潮AI服務(wù)器以27項冠軍位列榜首：攬獲數(shù)據(jù)中心內(nèi)的全部16項冠軍，并在邊緣端17個單項中取得了11個冠軍。

   相比2021年的MLPerf™推理測試，浪潮AI服務(wù)器在半年時間內(nèi)將圖像分類、語音識別和自然語言理解任務(wù)的推理性能分別提升31.5%、28.5%及21.3%。這意味著，AI系統(tǒng)在自動駕駛、智能問答和智慧醫(yī)療等場景中，能更高效地完成各類任務(wù)。

   “MLPerf™就像提供給大家一個飆車的賽場，用各種辦法，把性能飆到最高、飆到最快。”浪潮信息副總裁、AI&HPC產(chǎn)品線總經(jīng)理劉軍說，“浪潮AI服務(wù)器正是賽道中最快的賽車。”

驅(qū)動應(yīng)用發(fā)展

   中國工程院院士王恩東認(rèn)為，隨著AI的規(guī)�；l(fā)展，算力已經(jīng)成為決定性力量，智慧計算已成為智慧時代的核心生產(chǎn)力。AI從五六年前的“黑科技”，變成今天的“熱科技”，離不開算力支撐能力的巨大飛躍。

   秉持“促進機器學(xué)習(xí)創(chuàng)新，以此惠及普羅大眾”的理念，MLPerf™大賽不僅是頂尖廠商、學(xué)術(shù)機構(gòu)和創(chuàng)新企業(yè)比拼AI算力的專業(yè)“考場”，更是協(xié)同推進智算力創(chuàng)新和突破的陣地。

   “參加MLPerf™讓我們獲得了豐富的實踐經(jīng)驗。”浪潮信息AI&HPC應(yīng)用軟件部總經(jīng)理吳韶華說，“隨后，我們把這種經(jīng)驗應(yīng)用到AI服務(wù)器設(shè)計上打磨產(chǎn)品，讓AI算力越來越強。”

   數(shù)字新基建、東數(shù)西算正推動智算融入千行百業(yè)，諸多應(yīng)用場景迫切期待AI算力提升。

   作為新一輪科技革命和產(chǎn)業(yè)變革的重要方法和工具，智慧計算將在推動數(shù)實相融、催生新產(chǎn)業(yè)新業(yè)態(tài)方面發(fā)揮越來越大的作用。智慧計算不僅助力我們“飆車”國際頂尖賽道，也成為驅(qū)動未來發(fā)展的重要力量。■