2023年6月30日，中科軟科技股份有限公司成功舉辦了專題為“開源軟件支撐下的垂直AIGC平臺（MaaS）及組織協同實施”的技術交流會。本次受邀與會參與方案評審的專家有：中國疾病預防控制中心信息資源管理服務室主任王松旺、中國質量認證中心綜合處技術總監(jiān)趙磊、中國人壽財險金融科技中心科技創(chuàng)新部總經理陳起、華農財險科創(chuàng)技術中心總經理李翔、華泰人壽科技中心副總經理侯峻、農銀人壽部門副總經理王福強、北京航天自動控制研究所信息中心主任兼CIO劉京濤、國家工業(yè)信息安全發(fā)展研究中心人工智能研究室主任張熠天、中國科學院軟件研究所軟件發(fā)展研究部副主任楊立。
作為中科軟公司每年研發(fā)活動的一項重要環(huán)節(jié)，技術交流會已成為一項傳統，每年的技術交流會也是各領域團隊將公司當年研發(fā)重點方向的技術成果進行跨領域交流的重要活動，技術交流會形成的成果物也將指導進一步的深入研發(fā)以至最終的產品及服務落地。作為公司今年的研發(fā)重點：行業(yè)應用領域垂直AIGC平臺建設，成為了本次技術比賽的主題，各事業(yè)群結合保險、非保險金融、政務、醫(yī)療衛(wèi)生等垂直場景，就平臺建設、模型使用、數據訓練、場景應用、效果評估、關注問題等方面進行了充分的技術交流。
AIGC打開行業(yè)應用軟件新的發(fā)展空間
AIGC（生成式人工智能）技術已經在文本、圖像、語音、視頻等領域取得快速發(fā)展，并催生了諸如ChatGPT、midjourney、GitHub Copilot等一系列流行應用。在企業(yè)和政府端，利用新一代AI技術提升營銷、生產、組織、管理、服務效率，創(chuàng)新產品及服務將成為各行業(yè)客戶新的需求，對于行業(yè)應用軟件的發(fā)展帶來重大影響：
1、加速數智化創(chuàng)新、賦能深度應用
客戶在銷售、生產、管理、服務等環(huán)節(jié)端積累、留存的大量數據、規(guī)則、經驗通過AIGC強大的學習和分析能力，升級原有信息化應用，并創(chuàng)造新的智能化應用，并與已有應用軟件功能群進行融合提升企業(yè)數智化能力，隨著AIGC技術的不斷迭代，行業(yè)應用軟件系統群向多模態(tài)形式升級換代，智能性也將不斷增強，并不斷作用到客戶組織內人和物的各個環(huán)節(jié)，使客戶能夠更快地響應市場需求和競爭壓力，創(chuàng)造更為豐富的產品和服務。AIGC的發(fā)展將有利于行業(yè)應用軟件在客戶端重要性的提升，增強客戶對于應用軟件的重視和依賴度。
2、提升軟件開發(fā)效率及質量
在開發(fā)端，借助AIGC 技術在代碼提示、自動代碼生產、自動化測試和代碼審查等方面的能力，減少開發(fā)人員手動編寫代碼的工作量、幫助發(fā)現和修復潛在的軟件缺陷和漏洞，提供更好的代碼規(guī)范和最佳實踐，并減少人為錯誤的產生。這樣可以提高開發(fā)效率，縮短項目的開發(fā)周期。開發(fā)人員可以將更多的時間和精力投入到軟件的設計和創(chuàng)新上，從而提高軟件的質量、功能和穩(wěn)定性。
3、衍生AI訓練、安全監(jiān)控等方面的新需求
AIGC的良好應用需要大量的語料及訓練工作，進而衍生出對于數據預處理、模型預訓練、提示工程等和AI訓練相關的技術及服務需求，同時基于合規(guī)、安全角度對應用場景下AIGC應用的安全管理和監(jiān)控也對行業(yè)應用軟件的發(fā)展提出更高要求，當行業(yè)應用軟件進入AIGC時代，軟件開發(fā)者的角色亦會發(fā)生變化，軟件開發(fā)者與AI模型交互演進，軟件工程師群體實現分工晉級。
垂直AIGC應用成為企業(yè)級應用的關注焦點
基于NLP（自然語言處理）等技術的AI功能已大量用于企業(yè)客戶智能交互、流程自動化、風險管理等應用場景，而基于LLM模型的ChatGPT等應用的出現使得人工智能具備了更為強大的生成能力，進而推動AIGC應用的進一步深入。
AIGC平臺又可以分為面向任何組織和個人通用化需求的水平AIGC平臺，以及涉及專門領域場景結合專門領域知識的垂直AIGC平臺。
在企業(yè)級應用需求方面，需要AIGC以多模態(tài)數據互動的方式，輸入部分（或不完整）信息，快速的、給出大概率的已有完整的內容，甚至是一個標桿性的內容，AIGC平臺是通用（水平）和專用（垂直）的整體內容集合，要使準確度和實用性提高，必須分成多專項、多領域知識的細分頻道。
在企業(yè)級市場，AIGC的重心在向垂直領域方向發(fā)展，已有的水平AIGC成果需要遷移，更重要的是自建垂直AIGC，即預處理MaaS模型建立和運維。數據（大多公有資產）+算法（相似計算模型）+算力（支撐）技術平臺構成了水平AIGC的核心要素，而在垂直應用時要大幅下降，即輕量化。
水平AIGC中的數據和模型相當于“公有資產”，垂直AIGC平臺建立的新模型相當于對這部分資產的遷移。新模型更重要的部分是針對性強的“私有資產”，它更強調安全和隱私，它是新模型的重要組成，兩者融合（通用+專用），形成完整的結果內容。
垂直AIGC是“約束性軟件需求和實現”的重要嘗試方向，是低代碼軟件開發(fā)的新分支。由于技術工具和方法龐雜，多以流行開源軟件各種版本方式提供，且不斷翻新變化，客戶端技術轉移工作量巨大。
在垂直AIGC的建立及不斷完善的過程中：數據收集和準備（數據質量和準確性）、模型選擇和訓練（算法及算力成本）、模型的集成和部署（集成企業(yè)應用系統中）、數據流和實時處理（快速推斷和相應）、模型監(jiān)測和更新（迭代更新）、安全和隱私保護、監(jiān)控和優(yōu)化等方面成為核心工作，決定了垂直AIGC平臺的最終功能及使用效果。
中科軟垂直AIGC平臺應用實踐
公司各事業(yè)群在各領域垂直AIGC平臺研發(fā)應用的實踐過程中，積累了較多經驗及解決方案，并在本次技術交流活動中進行了充分展示，其中：華東壽險分群聯合團隊-壽險生成式人工智能（MaaS）平臺方案，及金融保險事業(yè)群團隊的財險代碼智能支撐平臺CGC整體解決方案分獲前兩名。
壽險生成式人工智能（MaaS）平臺方案
壽險生成式人工智能（MaaS）平臺，由多個應用系統及工具組成。從系統層次上來看，包括數據層、訓練層、服務層及安全層。數據層包括垂直領域知識庫、數據集倉庫及模型倉庫等。垂直領域知識庫是對行業(yè)領域知識的管理倉庫，以壽險行業(yè)為例，包括：詞根表、藍圖庫結構、樣本程序及產品條款知識圖譜等各種領域知識數據。數據集倉庫是指對垂直領域知識經過數據處理后的待訓練的數據集倉庫，以編程領域為例，包括：代碼摘要數據集、代碼生成數據集及缺陷檢測數據集等。模型倉庫是指通過微調進行垂直領域知識增強后的大模型的存儲倉庫，以本次展示內容為例，包括：BERT、CodeBERT及CodeT5等大模型微調版本。
訓練層包括模型訓練系統，由數據（處理）層、（模型）訓練層及（模型）評估層構成。數據層主要由數據特征工程師從知識庫加載垂直知識數據，并進行加工處理，生成特定任務的訓練數據集。生成后的訓練數據集由數據集倉庫進行統一管理。訓練層和評估層主要由算法工程師從模型倉庫加載預訓練大模型，并使用含有垂直領域知識的對應任務數據集對其進行微調、評估及測試，最終生成經過垂直領域知識增強的大模型。增強后的大模型由模型倉庫進行統一管理。
服務層包括能力服務系統，由模型層、任務層及API層構成。模型層主要完成從模型倉庫加載訓練好的領域大模型，并為任務做好準備。任務層主要依據應用需求對相應模型任務進行封裝，并實現能力功能。API層主要負責模型任務能力的對外開放，以使得用戶可以通過API獲得模型能力服務。
安全層包括安全機制和安全框架。在機制層面，著重構建以機構（人）、制度和技術為主體的三位一體的安全保障體制。機構（公司）設立數據和模型安全的管理規(guī)約，以通過技術（安全框架）實現對人和流程的安全管理的落實，預防數據與模型被惡意污染。在框架層面，建設貫穿整個知識加工過程中的監(jiān)控與管理框架，通過對各環(huán)節(jié)的監(jiān)控日志，動態(tài)管控全流程上的風險，及實施應對措施。通過版本管理實施及時回退措施，以保障數據與模型的安全。
在應用工具層面，豐富的插件工具可以使最終用戶便捷地獲取模型能力服務，以編程領域為例，用戶可以從私有插件市場輕松獲取具有代碼注釋生成、代碼生成及腳本生成等功能的IDE插件。
財險代碼智能支撐平臺CGC整體解決方案
財險代碼智能支撐平臺CGC整體解決方案以“水平為基、垂直為穹”，充分利用CodeT5的能力全面提升了事業(yè)群代碼質量和效率，并不斷泛化新的能力。水平方向上，事業(yè)群以通用水平AIGC平臺CodeT5作為基礎進行知識遷移，通過比較標準的大規(guī)模模型并結合領域知識對模型進行訓練與調整，有效地實現了面向具體行業(yè)的代碼相關任務的能力支撐，并通過在輸入中加入注釋序列的手段，實現了從注釋中獲取函數功能及變量含義的能力，較好地處理了多模態(tài)訓練任務。
垂直方向上，事業(yè)群以20多年積累的保險術語和詞根、樣本程序、藍圖數據結構等行業(yè)知識和經驗的沉淀為基礎，直接或間接打磨垂直領域高質量數據集來支撐模型訓練，并最終形成模型和組件的能力，使其從傳統 "基于規(guī)則的財產保險代碼管理"轉變?yōu)?"智能財產保險代碼管理"。
財險代碼智能支撐平臺(CGC)直接引用優(yōu)質領域數據集作為垂直領域數據集，以可靠的結構、領域知識和條件約束，支撐實現優(yōu)越的模型訓練效果；同時實現對模型訓練效果的可視化呈現。平臺亦支持用戶通過命令行工具植入各個領域的模型算法，實現包括模型基礎配置、模型任務管理、模型參數設置、模型版本管理在內的全方位模型管理。
此外，CGC平臺通過統一接口實現對外提供能力輸出，針對Idea、VS Code等開發(fā)工具提供的開發(fā)插件能夠支持用戶實時調用統一接口，并在開發(fā)過程中輔助進行高效率編碼工作，明顯提高了代碼規(guī)范度程度，節(jié)省了大量測試與管理成本，效果十分顯著。
與會專家評委對中科軟通過技術交流搭建事業(yè)群之間知識溝通和經驗共享平臺的方式表示了肯定，體現了中科軟的積累與傳承。專家們認為技術交流的主題很貼合目前業(yè)界的主流發(fā)展方向和關注重點，各團隊形成的方案從開發(fā)實施和行業(yè)應用軟件開發(fā)的角度拓寬了業(yè)界的視角，體現了中科軟作為國內領軍行業(yè)應用軟件服務提供商的技術責任感。
此外，由于垂直AIGC平臺建立過程中，涉及大量開源工具應用，為了增強各業(yè)務團隊在業(yè)務開展過程中對有關開源工具與知識產權保護相關問題的認知，本次技術交流會邀請了法律方面的專家就相關法律問題進行了深入分享。
通過本次技術交流活動，進一步增強了公司各業(yè)務領域團隊對于垂直AIGC平臺研發(fā)及應用實踐的理解，技術交流活動形成的各項成果物在未來將進一步支撐公司在垂直AIGC平臺應用領域的研發(fā)創(chuàng)新及業(yè)務開拓。
