Category: killtest

架構師技術聯盟 本文來自“模型即服務：MaaS框架與應用研究報告（2024年）”，隨著以大模型為核心的人工智慧技術的深入發展，模型即服務(MaaS，Model as a Service)作為一種新型人工智慧服務模式煥發新生。本章將明確MaaS的概念及主要的服務能力範圍，剖析大模型時代MaaS快速發展的必然性，闡述MaaS在解決大模型規模化落地的重要意義。 1、MaaS起源與概念 MaaS基本形態早已形成。 2012年美國資料科學家DJ·帕蒂爾(DJ Patil)首次提出MaaS概念1,即「將機器學習演算法打包成可重複使用的服務，使企業能夠快速地建構、部署和監控模型，無須開發和維護底層基礎架構”,以此來適應AI模型需求快速成長的情況。 此時MaaS多以AI能力開放平台的形式存在，平台之上承載人臉辨識、光學字元辨識(OCR)等特定場景的AI能力。此類AI能力由若干個模型及規則、資料庫等組合構成，但涵蓋功能及場景有限，應用方式較為單一，主要以工具包(SDK)等方式嵌入至業務系統。傳統AI模型落地成本低且泛化性不足，MaaS所帶來的增益尚不明顯。 大模型背景下MaaS概念是指將AI模型及其相關能力打包成可重複使用的服務，使企業能夠快速且有效率地建置、部署、監控、呼叫模型，無須開發和維護底層基礎能力。與早期MaaS概念相比能力範圍有所拓展，一方面機器學習演算法擴展至包括深度學習、大模型等在內的所有AI模型；另一方面基於模型服務，用戶不僅可直接調用服務進行推理，也可基於服務進行AI應用的構建，擴大模型服務的使用範圍。 MaaS主要提供三個部分： 一是提供包括模型訓練、調優和部署等在內的全端平台型服務，以支援低門檻的模型開發與定制，用戶無需關注AI算力、框架和平台即可生產和部署模型； 二是提供包含大小模型及公私域資料集的豐富資產庫服務，以支援模型和資料集的靈活快速調用，使用者無須生產和部署模型即可調用模型和資料集服務； 第三是提供以AI模型為基礎的應用開發工具服務，以支援快速打造場景化應用，使用者無須建置開發工具即可進行AI應用開發。 MaaS主要具備三個顯著特性。技術低門檻，有助於將模型普惠更廣泛的用戶群；模型可共享，推動行業資源的有效利用和技術進步；應用易適配，使得模型服務能夠快速融入業務場景。 MaaS圍繞模型生產、模型呼叫、模型應用開發等流程，提供包含平台服務、模型服務、資料集服務、AI應用開發服務在內的全端服務，並對模型等資產進行統一管理，提升規模化生產效率，培育和打造新質生產力，為各產業帶來改變。 MaaS透過提供全流程平台工具降低技術門檻。在模型訓調方面，降低了學習新型訓練或調優演算法的成本；在模型部署及營運管理方面，對於部署上線流程複雜等問題，提供快速部署服務，並匹配全生命週期運作監控工具，降低了模型部署和運維的技術難度。 MaaS透過提供集約化的模型庫和資料集，解決重複造輪子的資源浪費問題。在管理方面，當模型從單點試驗向規模化落地發展時，模型的量變將引起效率的質變，透過模型共享可減少開發資源的浪費，透過模型等數位資產的統一管理有助於提升風險可控性，資源的高效利用和規範管理將成為企業長遠發展的保障；在落地方面，透過直接呼叫模型服務和資料集，減少了資料處理、選擇模型以及模型調優部署的過程，加快了開發進度，快速回應業務需求。 MaaS透過提供模型應用的高效開發能力，適應企業規模化場景需求。在面臨單一模型無法解決複雜業務需求的情況下，提供檢索增強生成(RAG)、大小模型協同、插件編排等多種方式以增強模型能力，並以智能體(AI Agent)等方式向用戶提供更優質的服務。 MaaS讓更多使用者可以生產個人化的模型應用，為AI模型規模化落地提供有效路徑。 二、MaaS發展現狀及挑戰 MaaS作為一種智慧化服務新模式得以快速發展，本章將圍繞產業圖譜及落地方式闡述當前MaaS的產業發展現狀，並分析MaaS落地面臨的挑戰。 (一)MaaS產業發展現狀 MaaS在人工智慧產業鏈中處於中游位置，基於平台服務、模型及資料集服務、應用開發服務的供給能力，形成了初步的產業圖譜，且各類參與者積極發揮自身優勢，形成不同落地模式。 1.MaaS產業圖譜初步形成 MaaS基於算力基礎設施的支持，面向場景提供多種應用，具備從模型生產到模型調取並打造成AI應用的全流程能力。 MaaS產業圖譜中，平台服務構成了MaaS生態系的基座能力。國外如Google的AI Platform、微軟的AzureMachine Learning以及亞馬遜的Amazon SageMaker等平台，提供了從資料處理到模型訓練、驗證、部署及監控的管線服務。 國內如阿里雲PAI平台、騰訊雲太極平台、百度千帆大模型平台和華為的ModelArts平台等，均支援多種機器學習演算法和大模型，並提供低程式碼開發環境與高效的模型訓練及部署能力，能夠適應多樣化的模型客製化需求。 2.MaaS兩種落地方式 MaaS具備公有雲和私有雲兩種落地方式，公有雲模式下模式資源更豐富，但私有雲模式下模式資源的產業領域屬性較專業。 在公有雲方式下，透過豐富的資源吸引更多用戶而提升產品知名度，有助於進一步商業轉換。其模型面向社會大眾提供服務，模型的種類和數量更多，通用性更強，但是對於業務需求較高的特定場景，部分模型難以直接應用。 在私有雲方式下，企業內研發團隊專注於研究符合垂直領域場景需求的模型，旨在透過呼叫模型服務以直接解決業務需求，且模型資產和資料隱私性強，各團隊在模型共享的過程中可降低資產外洩的風險。 (二)MaaS發展面臨的挑戰 隨著MaaS的快速發展，平台、模型等服務能力迅速得以完善，但MaaS在規範性、生態建設等方面仍有不足，模型服務的易用性仍有待提升。 模型服務品質缺乏規範性。目前產業界已發布多個MaaS產品，並彙聚了大量的模型服務，但服務內容和服務品質難以統一和衡量，無法確保用戶獲得滿意的服務。一方面模型服務本身的可用性要求尚未建立統一規範，另一方面服務規模化落地所必須的穩定性、可靠性和安全性等並未形成標準體系。 模型服務易用性不足。由於模型卡的建造尚不完善，導致模型資訊的不透明現象較為普遍。使用者無法獲得清晰、準確的模型訊息，從而難以選擇所需模型。此外，模型的可解釋性也相對較弱，使得使用者難以理解模型的運作機制和輸出結果。因此，加強模型卡片的資訊透明度，增強模型的可解釋性，提升模型服務易用性，是當前面臨的重要挑戰。 MaaS基建成本控制能力需加強。 MaaS的體系建構離不開堅實的基建支撐，涵蓋雲端運算基礎設施如算力資源和資料中心的搭建，以及專業技術人才的培育，這些都需要龐大的資金投入。因此MaaS建設方應考慮有效管理和利用基礎建設資產，降低營運成本提高營運效率，從而降低和控制建造成本。 合規管理體系亟需進一步完善。 MaaS在合規性方面面臨資料規範與權責確認的雙重考驗。就資料合規而言，不僅要關注使用者在使用模型服務時個人資料的隱私安全，也要確保用於模型訓練和最佳化的資料來源合法合規。