1. <th id="gjbap"><video id="gjbap"><span id="gjbap"></span></video></th>
    1. <strike id="gjbap"><video id="gjbap"></video></strike>

      <pre id="gjbap"><small id="gjbap"><track id="gjbap"></track></small></pre>

        游客發表

        AI原生應用爆發在即,中國需要“一云多芯”的“操作系統”

        發帖時間:2024-04-20 15:27:08


        作者 | 周一笑
        郵箱 | zhouyixiao@pingwest.com

        編程是一種創造性的過程,通過特定的原生應用編程語言,我們能夠向計算機發出指令,即中讓它執行我們想要的國需任務。從我們日常進行辦公、作系學習、一云多芯娛樂活動的原生應用軟硬件應用,再到數字化經濟的即中發展,編程不僅是國需互聯網的基礎,它還滲透到了人類生活的作系每一個角落。

        而編程的一云多芯源起,可以追溯到19世紀。原生應用英國數學家查爾斯·巴貝奇發明的即中分析機,被認為是國需第一臺可編程的計算機。

        其設計理念包括使用穿孔卡進行數據輸入和輸出,作系穿孔卡上的不同位置,代表了不同的指令和數值,通過組合和排列,就可以實現不同的功能。在巴貝奇的時代,掌握這種“編程”技術的人僅限于巴貝奇和他的幾位直接合作者。

        隨著計算機技術的不斷發展,計算機編程語言也在不斷更新和發展。從最早的機器語言,到匯編語言,再到現在的高級語言。編程的歷史,就是人類和計算機之間溝通的歷史,每一代編程語言都為人類提供了更高效、更強大的工具,也讓更多人能夠借助編程去進行創造。

        雖然新型的編程語言學習成本已經降低了不少,但對于沒有計算機科學背景的人來說,要達到熟練掌握并能夠解決實際問題的水平,仍需要大量的時間。

        生成式AI的發展正在變化這種情況,我們開始通過提示詞來和大語言模型進行交流,指導其執行各種任務。

        有史以來第一次,自然語言變成了一種編程語言,雖然目前它還很稚嫩。但我們已經開始想象,不遠的將來,我們將拋掉繁瑣、“死板”的編程語言,用上自然語言編程 。

        自然語言代替了編程語言,并不意味著以編程為代表的人類智力勞動的終結,也不代表程序員的消失,而是對人類創造力的一種解放。

        這也就是百度創始人李彥宏和英偉達創始人黃仁勛都在強調的,未來人人都可以是程序員。

        但這一過程不是一蹴而就的,編程技術進步的關鍵驅動力之一就是操作系統的演進。從早期的硬件控制,到軟件編程。Linux等單機操作系統重點是解決硬件和軟件的兼容性問題,給開發者提供一個接口。

        而隨著軟件開發模式從單機時代進入云計算時代,云計算中心操作系統能夠管理海量的硬件設備和進程,開發者不用關心單機上的進程,成為一種新型的架構。

        此后AI的興起,讓云計算、 AI 技術和應用開發這三條平行線也開始交織融合。

        云計算正邁入AI原生時代,支撐AI的計算操作系統內核也需要經歷了一次根本的變革。傳統以CPU為核心的算力已經讓位于以GPU驅動的算力結構,同時內核中也融入了大模型壓縮后的世界知識。管理的重點也從進程和微服務,轉變為對智能本身的精細調控。

        AI正在從看不見摸不著的底層技術,邁向工具性、普適化和工業化的應用,新的時代,需要全新的操作系統。

        在這樣的背景下,在2024百度Create AI開發者大會上,百度集團執行副總裁、百度智能云事業群總裁沈抖正式發布新一代智能計算操作系統——萬源。

        1

        原生AI應用開發化繁為簡,用“最優解”得“極致體驗”

        “萬源”智能計算操作系統,旨在“橋接”算力效能與應用創新,從架構來看,萬源主要由Kernel(內核)、Shell(外殼)、Toolkit(工具)三層構成。

        底層通過對AI原生時代的智能計算平臺進行抽象與封裝設計,屏蔽掉云原生系統與異構算力的復雜性。上層則建立了一套可重復使用、可擴展的工具、服務和框架,為AI原生應用的敏捷開發提供支撐與保障。


        從開發者的視角出發,萬源就像是“智算發電廠”+“超級AI原生應用工廠”的結合體。一方面AI應用開發會增加對算力的需求,而并非所有人都具備自建算力的能力,萬源通過對云計算的重構,進而把更多智能計算的能力引入到基礎設施當中,為開發者的生成提供了持續不斷的“能源”。在上層,萬源則起到了“超級AI原生應用工廠”的作用,提供了一站式平臺支持,就像是工廠的“大腦”,負責指揮調度各種資源,協調生產流程,確保產品質量,而開發者可以更專注在創意和構建產品本身。

        具體來看,龐大的訓練任務,需要由大量GPU服務器組成的算力集群協作完成。在萬源的內核層,百度百舸·AI異構計算平臺針對大模型和智算集群的設計進行了專項優化。能夠實現萬卡集群上的模型有效訓練時長占比超過98.8%,線性加速比、帶寬有效性分別高達95%,算力效能業界領先。

        模型有效訓練時長占比從去年的95%提升到了超過98.8%,幾乎全部的時間都用于實際的模型訓練,而非閑置或等待資源。而線性加速比、帶寬有效性分別高達95%,意味著數據傳輸幾乎沒有任何浪費,這對于處理大量數據非常關鍵。就像一個高效運轉的傳送帶,幾乎所有空間都在有效使用,沒有閑置,沒有浪費空間,確保用戶能夠獲得更高效的服務的同時,也節省了開銷。

        在算力方面,國內還有一個特殊情況,就是芯片供應的不確定性,這必然會導致多款芯片并存的格局,短期看,是企業被動接受的局面,長期看,一定是主動選擇的結果。

        所謂異構計算平臺,那么包含的就不止一種算力形式,百舸實現了對昆侖芯、昇騰、海光DCU、英偉達、英特爾等國內外主流AI芯片的兼容,支持用戶以最小代價完成算力適配。

        通過最大程度上屏蔽硬件之間的這種廣兼容性,意味著萬源能夠利用市場上多種不同的硬件資源,幫助用戶擺脫單一芯片的依賴,提供了更多的選擇和靈活性,而無需為每個芯片平臺重新設計和優化模型,節省了大量的時間和資源。尤其是在全球供應鏈可能出現波動的情況下,避免單一芯片供應問題對項目進度的影響。


        在AI模型訓練中使用多種不同廠商的芯片,尤其是在單一訓練任務中實現這一點,一直是業界的一大挑戰,主要涉及兩個問題:

        算力均勻切分:需要確保不同廠商的芯片能夠在訓練過程中均等地貢獻計算力,這要求系統能夠智能地分配任務,使得每個芯片都能發揮其最大效能。

        芯片間通信效率:不同廠商的芯片可能會有不同的通信協議和優化技術,如何優化這些芯片間的數據交換和同步,是保證訓練效率和減少時間延遲的關鍵。

        百舸已經實現了單一訓練任務下不同廠商芯片的混合訓練,且百卡規模性能損失不超過3%,千卡規模性能損失不超過5%,屬于業界領先。

        萬源內核中的另一個重要組成部分是大模型。大模型能夠將巨量的世界知識進行高效壓縮,并將自然語言的理解、生成、邏輯、記憶能力進行封裝。目前,萬源內核中既包含了業界領先的ERNIE 4.0、ERNIE 3.5大語言模型,也包括ERNIE Speed/Lite/Tiny等輕量級模型、文心視覺大模型和各具特色的第三方大模型,以滿足用戶在不同業務場景下的多樣化需求。

        在Shell層的ModelBuilder則解決了內核中模型的管理、調度、二次開發等問題,屏蔽掉模型開發的復雜性,幫助更多人只投入少量的數據、資源和精力,就能快速精調出適合自己業務的模型。

        同時,在實際應用中,ModelBuidler提供的模型路由服務,能夠自動為不同難度的任務選擇合適參數規模的模型,給出平衡效果與成本的最優模型組合。經測算,在模型效果基本持平的情況下,模型路由平均降低推理成本多達30%。

        除了直接調用萬源內置大模型的API,在Shell層之上,千帆AppBuilder和AgentBuilder共同構成了工具層,為開發者提供強大的AI原生應用開發能力。

        在應用開發工程實踐上,AI原生應用的開發已經逐步從人工編程逐步過渡到基于提示技術、智能代理設計甚至多智能體系統的趨勢。AgentBuilder為開發者提供了零代碼、低代碼兩種低成本智能體開發模式,真正推動 Agent 成為撬動新一輪人工智能革命的關鍵力量。

        針對AI應用開發涉及復雜的算法和大量的數據處理,AppBuilder提供的工作流編排功能,支持開發者使用預置的模板和組件,輕松定制自己的業務流程,還能夠集成、擴建自己的特色組件,在不同節點上選用適合的模型,通過靈活地編排實現業務邏輯。

        這類似于提供了AI原生應用開發中的通用的輪子,這樣開發者可以快速讓自己的AI應用跑起來,而不用從頭研發踩坑。

        總體來看,百度智能云的發布了新一代智能計算操作系統“萬源”構建了一個全面且綜合的架構,從根本上支持了AI應用的開發和部署的整個生命周期。自下而上的綜合覆蓋確保了從最基本的云基礎設施和高性能硬件開始,直到頂層的應用開發與實施,每個環節都得到了充分的支持和優化。

        這種極致追求的“系統工程”,確保沒有單一環節成為整體系統的瓶頸,從而實現開發者效率的顯著提升和成本的顯著降低,通過全面的系統優化,實現了效益的“乘數效應”。

        萬源作為整體的操作系統,在AI時代提供全棧的服務。開發者也可以直接通過AppBuilder和AgentBuilder構建自己的AI原生應用,客戶可以根據需求選擇不同層級的服務,比如,企業可以借助萬源打造專屬的垂直行業操作系統,萬源也支持私有化部署在客戶自有智算中心,提供穩定、安全、高效的智能計算平臺服務。

        萬源未來還將進一步開放生態合作,為應用開發者提供更多能力和接口,適配更多廠商異構芯片并發揮其最大效能。

        1

        MoE架構+端云協同:兼顧用戶體驗與實施成本才能迎來AI普惠

        萬源是百度云計算技術與AI技術的集大成者,更是AI普惠理念的積極推動者,通過萬源,百度讓普羅大眾觸手可及AI技術,實現技術平權,無論技術背景如何,人人都是AI時代的創作者。

        通過MoE(Mixture of Experts,混合專家系統),用戶可以根據實際需求和資源狀況,靈活選擇和組合不同的AI模型,例如把文心基礎大模型和許多基于專用模型搭配使用?;A大模型保證智能的廣度和深度,專用模型負責處理特定任務,以達到最優的性能和成本效益。不僅降低了技術創新的門檻,還提供了一種應對算力資源局限的思路。

        百度智能云與榮耀在MagicOS上的合作就是一個案例,雙方采用了“文心大模型” 與榮耀 “魔法大模型”相結合的MoE架構。

        在部署方面,則采用了“端云協同”的方式。云側的文心大模型擅長處理復雜問題,滿足用戶深層次需求,端側大模型與用戶走得更近,更懂用戶意圖。端側模型就像是一個大管家一樣,可以理解用戶想要做的事情,然后把這個任務分解成一系列小任務,并發送給云端的大模型,而云端大模型則充當了智囊團的作用,通過調用云端的資源,協調不同的小服務,最終完成用戶想要的復雜任務。

        下一代計算設備還不見蹤影,手機想要成為“AI入口”,需要把大模型和終端結合,要實現這一點,對于終端廠商來說,端云協同是必然的選擇。只有端側、云側能力互補、相互結合,才能讓用戶把大模型用起來,從而為用戶帶來原生的AI體驗。

        在外界還在猜測蘋果將與哪家廠商合作來落地國行版設備的時候,百度智能云與榮耀在MagicOS的端、云協同的創新,為業界做了最好的示范。

        近期,優必選人形機器人通過百度AppBuilder平臺接入百度文心大模型進行任務調度應用開發,更是讓我們看到了端云協同與具身智能結合,讓機器人實現行動與認知融合所帶來的巨大潛力。

        未來,我們可以期待百度智能云進一步推動AI模型應用在各行業的滲透和創新,讓生成式AI真正走向普惠,走進每個人的生活。

        1

        萬源是時代的必然,也是百度的必然

        為什么是百度來做這件事?這是時代的必然,也是百度的必然。

        百度長期深耕AI技術,在大模型、多模態等領域處于國內領先地位,萬源能夠將這些前沿技術充分融入和輸出,百度自身擁有海量數據和算力資源,也能為萬源提供強有力的計算基礎設施支撐。

        萬源的誕生與百度智能云“云智一體”的戰略也是一脈相承的,云智一體可以從AI+云和云+AI兩個角度來理解,AI+云,是以人工智能技術革新云計算;云+AI則是將云計算作為AI技術產品對外輸出的平臺,降低AI應用的創作和使用門檻。

        萬源通過深度融合AI技術和云計算服務,從底層基礎設施—大模型開發與應用—AI原生應用開發的端到端進行升級重構,用完整的AI原生操作系統的視角去迎接原生AI時代的到來。

        從“軟件將吞噬世界”到“AI正在吞噬軟件”,得AI開發者得天下絕非言過其實,萬源正是百度抓住這一歷史契機的產物。

        千帆百舸,遇水則發。萬源在成為AI原生時代智能涌現與應用生根落地的基座的同時,也為百度智能云在AI時代帶來了新的增長點。所以從這個意義上講,萬源不僅僅是AI生態繁榮之源,也是百度新的增長之源。

        我們正經歷一生中少有的計算技術革命,“未來已來,只是分布不均”,百度對AI的長期投入正在填平這一鴻溝。AI時代的萬源,應運而生,AI時代的百度,恰逢其會,正走在一條動力充沛的增長路線上。


          熱門排行

          友情鏈接

          欧美啪啪_亚洲AV无一区二区三区久久_欧美黑人又粗又大久久久_亚洲精品国精品久久99热