2023年6月30日，中科軟科技股份有限公司成功舉辦了專題為“開源軟件支撐下的垂直AIGC平臺(tái)（MaaS）及組織協(xié)同實(shí)施”的技術(shù)交流會(huì)。本次受邀與會(huì)參與方案評(píng)審的專家有：中國(guó)疾病預(yù)防控制中心信息資源管理服務(wù)室主任王松旺、中國(guó)質(zhì)量認(rèn)證中心綜合處技術(shù)總監(jiān)趙磊、中國(guó)人壽財(cái)險(xiǎn)金融科技中心科技創(chuàng)新部總經(jīng)理陳起、華農(nóng)財(cái)險(xiǎn)科創(chuàng)技術(shù)中心總經(jīng)理李翔、華泰人壽科技中心副總經(jīng)理侯峻、農(nóng)銀人壽部門副總經(jīng)理王福強(qiáng)、北京航天自動(dòng)控制研究所信息中心主任兼CIO劉京濤、國(guó)家工業(yè)信息安全發(fā)展研究中心人工智能研究室主任張熠天、中國(guó)科學(xué)院軟件研究所軟件發(fā)展研究部副主任楊立。
作為中科軟公司每年研發(fā)活動(dòng)的一項(xiàng)重要環(huán)節(jié)，技術(shù)交流會(huì)已成為一項(xiàng)傳統(tǒng)，每年的技術(shù)交流會(huì)也是各領(lǐng)域團(tuán)隊(duì)將公司當(dāng)年研發(fā)重點(diǎn)方向的技術(shù)成果進(jìn)行跨領(lǐng)域交流的重要活動(dòng)，技術(shù)交流會(huì)形成的成果物也將指導(dǎo)進(jìn)一步的深入研發(fā)以至最終的產(chǎn)品及服務(wù)落地。作為公司今年的研發(fā)重點(diǎn)：行業(yè)應(yīng)用領(lǐng)域垂直AIGC平臺(tái)建設(shè)，成為了本次技術(shù)比賽的主題，各事業(yè)群結(jié)合保險(xiǎn)、非保險(xiǎn)金融、政務(wù)、醫(yī)療衛(wèi)生等垂直場(chǎng)景，就平臺(tái)建設(shè)、模型使用、數(shù)據(jù)訓(xùn)練、場(chǎng)景應(yīng)用、效果評(píng)估、關(guān)注問題等方面進(jìn)行了充分的技術(shù)交流。
AIGC打開行業(yè)應(yīng)用軟件新的發(fā)展空間
AIGC（生成式人工智能）技術(shù)已經(jīng)在文本、圖像、語(yǔ)音、視頻等領(lǐng)域取得快速發(fā)展，并催生了諸如ChatGPT、midjourney、GitHub Copilot等一系列流行應(yīng)用。在企業(yè)和政府端，利用新一代AI技術(shù)提升營(yíng)銷、生產(chǎn)、組織、管理、服務(wù)效率，創(chuàng)新產(chǎn)品及服務(wù)將成為各行業(yè)客戶新的需求，對(duì)于行業(yè)應(yīng)用軟件的發(fā)展帶來(lái)重大影響：
1、加速數(shù)智化創(chuàng)新、賦能深度應(yīng)用
客戶在銷售、生產(chǎn)、管理、服務(wù)等環(huán)節(jié)端積累、留存的大量數(shù)據(jù)、規(guī)則、經(jīng)驗(yàn)通過(guò)AIGC強(qiáng)大的學(xué)習(xí)和分析能力，升級(jí)原有信息化應(yīng)用，并創(chuàng)造新的智能化應(yīng)用，并與已有應(yīng)用軟件功能群進(jìn)行融合提升企業(yè)數(shù)智化能力，隨著AIGC技術(shù)的不斷迭代，行業(yè)應(yīng)用軟件系統(tǒng)群向多模態(tài)形式升級(jí)換代，智能性也將不斷增強(qiáng)，并不斷作用到客戶組織內(nèi)人和物的各個(gè)環(huán)節(jié)，使客戶能夠更快地響應(yīng)市場(chǎng)需求和競(jìng)爭(zhēng)壓力，創(chuàng)造更為豐富的產(chǎn)品和服務(wù)。AIGC的發(fā)展將有利于行業(yè)應(yīng)用軟件在客戶端重要性的提升，增強(qiáng)客戶對(duì)于應(yīng)用軟件的重視和依賴度。
2、提升軟件開發(fā)效率及質(zhì)量
在開發(fā)端，借助AIGC 技術(shù)在代碼提示、自動(dòng)代碼生產(chǎn)、自動(dòng)化測(cè)試和代碼審查等方面的能力，減少開發(fā)人員手動(dòng)編寫代碼的工作量、幫助發(fā)現(xiàn)和修復(fù)潛在的軟件缺陷和漏洞，提供更好的代碼規(guī)范和最佳實(shí)踐，并減少人為錯(cuò)誤的產(chǎn)生。這樣可以提高開發(fā)效率，縮短項(xiàng)目的開發(fā)周期。開發(fā)人員可以將更多的時(shí)間和精力投入到軟件的設(shè)計(jì)和創(chuàng)新上，從而提高軟件的質(zhì)量、功能和穩(wěn)定性。
3、衍生AI訓(xùn)練、安全監(jiān)控等方面的新需求
AIGC的良好應(yīng)用需要大量的語(yǔ)料及訓(xùn)練工作，進(jìn)而衍生出對(duì)于數(shù)據(jù)預(yù)處理、模型預(yù)訓(xùn)練、提示工程等和AI訓(xùn)練相關(guān)的技術(shù)及服務(wù)需求，同時(shí)基于合規(guī)、安全角度對(duì)應(yīng)用場(chǎng)景下AIGC應(yīng)用的安全管理和監(jiān)控也對(duì)行業(yè)應(yīng)用軟件的發(fā)展提出更高要求，當(dāng)行業(yè)應(yīng)用軟件進(jìn)入AIGC時(shí)代，軟件開發(fā)者的角色亦會(huì)發(fā)生變化，軟件開發(fā)者與AI模型交互演進(jìn)，軟件工程師群體實(shí)現(xiàn)分工晉級(jí)。
垂直AIGC應(yīng)用成為企業(yè)級(jí)應(yīng)用的關(guān)注焦點(diǎn)
基于NLP（自然語(yǔ)言處理）等技術(shù)的AI功能已大量用于企業(yè)客戶智能交互、流程自動(dòng)化、風(fēng)險(xiǎn)管理等應(yīng)用場(chǎng)景，而基于LLM模型的ChatGPT等應(yīng)用的出現(xiàn)使得人工智能具備了更為強(qiáng)大的生成能力，進(jìn)而推動(dòng)AIGC應(yīng)用的進(jìn)一步深入。
AIGC平臺(tái)又可以分為面向任何組織和個(gè)人通用化需求的水平AIGC平臺(tái)，以及涉及專門領(lǐng)域場(chǎng)景結(jié)合專門領(lǐng)域知識(shí)的垂直AIGC平臺(tái)。
在企業(yè)級(jí)應(yīng)用需求方面，需要AIGC以多模態(tài)數(shù)據(jù)互動(dòng)的方式，輸入部分（或不完整）信息，快速的、給出大概率的已有完整的內(nèi)容，甚至是一個(gè)標(biāo)桿性的內(nèi)容，AIGC平臺(tái)是通用（水平）和專用（垂直）的整體內(nèi)容集合，要使準(zhǔn)確度和實(shí)用性提高，必須分成多專項(xiàng)、多領(lǐng)域知識(shí)的細(xì)分頻道。
在企業(yè)級(jí)市場(chǎng)，AIGC的重心在向垂直領(lǐng)域方向發(fā)展，已有的水平AIGC成果需要遷移，更重要的是自建垂直AIGC，即預(yù)處理MaaS模型建立和運(yùn)維。數(shù)據(jù)（大多公有資產(chǎn)）+算法（相似計(jì)算模型）+算力（支撐）技術(shù)平臺(tái)構(gòu)成了水平AIGC的核心要素，而在垂直應(yīng)用時(shí)要大幅下降，即輕量化。
水平AIGC中的數(shù)據(jù)和模型相當(dāng)于“公有資產(chǎn)”，垂直AIGC平臺(tái)建立的新模型相當(dāng)于對(duì)這部分資產(chǎn)的遷移。新模型更重要的部分是針對(duì)性強(qiáng)的“私有資產(chǎn)”，它更強(qiáng)調(diào)安全和隱私，它是新模型的重要組成，兩者融合（通用+專用），形成完整的結(jié)果內(nèi)容。
垂直AIGC是“約束性軟件需求和實(shí)現(xiàn)”的重要嘗試方向，是低代碼軟件開發(fā)的新分支。由于技術(shù)工具和方法龐雜，多以流行開源軟件各種版本方式提供，且不斷翻新變化，客戶端技術(shù)轉(zhuǎn)移工作量巨大。
在垂直AIGC的建立及不斷完善的過(guò)程中：數(shù)據(jù)收集和準(zhǔn)備（數(shù)據(jù)質(zhì)量和準(zhǔn)確性）、模型選擇和訓(xùn)練（算法及算力成本）、模型的集成和部署（集成企業(yè)應(yīng)用系統(tǒng)中）、數(shù)據(jù)流和實(shí)時(shí)處理（快速推斷和相應(yīng)）、模型監(jiān)測(cè)和更新（迭代更新）、安全和隱私保護(hù)、監(jiān)控和優(yōu)化等方面成為核心工作，決定了垂直AIGC平臺(tái)的最終功能及使用效果。
中科軟垂直AIGC平臺(tái)應(yīng)用實(shí)踐
公司各事業(yè)群在各領(lǐng)域垂直AIGC平臺(tái)研發(fā)應(yīng)用的實(shí)踐過(guò)程中，積累了較多經(jīng)驗(yàn)及解決方案，并在本次技術(shù)交流活動(dòng)中進(jìn)行了充分展示，其中：華東壽險(xiǎn)分群聯(lián)合團(tuán)隊(duì)-壽險(xiǎn)生成式人工智能（MaaS）平臺(tái)方案，及金融保險(xiǎn)事業(yè)群團(tuán)隊(duì)的財(cái)險(xiǎn)代碼智能支撐平臺(tái)CGC整體解決方案分獲前兩名。
壽險(xiǎn)生成式人工智能（MaaS）平臺(tái)方案
壽險(xiǎn)生成式人工智能（MaaS）平臺(tái)，由多個(gè)應(yīng)用系統(tǒng)及工具組成。從系統(tǒng)層次上來(lái)看，包括數(shù)據(jù)層、訓(xùn)練層、服務(wù)層及安全層。數(shù)據(jù)層包括垂直領(lǐng)域知識(shí)庫(kù)、數(shù)據(jù)集倉(cāng)庫(kù)及模型倉(cāng)庫(kù)等。垂直領(lǐng)域知識(shí)庫(kù)是對(duì)行業(yè)領(lǐng)域知識(shí)的管理倉(cāng)庫(kù)，以壽險(xiǎn)行業(yè)為例，包括：詞根表、藍(lán)圖庫(kù)結(jié)構(gòu)、樣本程序及產(chǎn)品條款知識(shí)圖譜等各種領(lǐng)域知識(shí)數(shù)據(jù)。數(shù)據(jù)集倉(cāng)庫(kù)是指對(duì)垂直領(lǐng)域知識(shí)經(jīng)過(guò)數(shù)據(jù)處理后的待訓(xùn)練的數(shù)據(jù)集倉(cāng)庫(kù)，以編程領(lǐng)域?yàn)槔?，包括：代碼摘要數(shù)據(jù)集、代碼生成數(shù)據(jù)集及缺陷檢測(cè)數(shù)據(jù)集等。模型倉(cāng)庫(kù)是指通過(guò)微調(diào)進(jìn)行垂直領(lǐng)域知識(shí)增強(qiáng)后的大模型的存儲(chǔ)倉(cāng)庫(kù)，以本次展示內(nèi)容為例，包括：BERT、CodeBERT及CodeT5等大模型微調(diào)版本。
訓(xùn)練層包括模型訓(xùn)練系統(tǒng)，由數(shù)據(jù)（處理）層、（模型）訓(xùn)練層及（模型）評(píng)估層構(gòu)成。數(shù)據(jù)層主要由數(shù)據(jù)特征工程師從知識(shí)庫(kù)加載垂直知識(shí)數(shù)據(jù)，并進(jìn)行加工處理，生成特定任務(wù)的訓(xùn)練數(shù)據(jù)集。生成后的訓(xùn)練數(shù)據(jù)集由數(shù)據(jù)集倉(cāng)庫(kù)進(jìn)行統(tǒng)一管理。訓(xùn)練層和評(píng)估層主要由算法工程師從模型倉(cāng)庫(kù)加載預(yù)訓(xùn)練大模型，并使用含有垂直領(lǐng)域知識(shí)的對(duì)應(yīng)任務(wù)數(shù)據(jù)集對(duì)其進(jìn)行微調(diào)、評(píng)估及測(cè)試，最終生成經(jīng)過(guò)垂直領(lǐng)域知識(shí)增強(qiáng)的大模型。增強(qiáng)后的大模型由模型倉(cāng)庫(kù)進(jìn)行統(tǒng)一管理。
服務(wù)層包括能力服務(wù)系統(tǒng)，由模型層、任務(wù)層及API層構(gòu)成。模型層主要完成從模型倉(cāng)庫(kù)加載訓(xùn)練好的領(lǐng)域大模型，并為任務(wù)做好準(zhǔn)備。任務(wù)層主要依據(jù)應(yīng)用需求對(duì)相應(yīng)模型任務(wù)進(jìn)行封裝，并實(shí)現(xiàn)能力功能。API層主要負(fù)責(zé)模型任務(wù)能力的對(duì)外開放，以使得用戶可以通過(guò)API獲得模型能力服務(wù)。
安全層包括安全機(jī)制和安全框架。在機(jī)制層面，著重構(gòu)建以機(jī)構(gòu)（人）、制度和技術(shù)為主體的三位一體的安全保障體制。機(jī)構(gòu)（公司）設(shè)立數(shù)據(jù)和模型安全的管理規(guī)約，以通過(guò)技術(shù)（安全框架）實(shí)現(xiàn)對(duì)人和流程的安全管理的落實(shí)，預(yù)防數(shù)據(jù)與模型被惡意污染。在框架層面，建設(shè)貫穿整個(gè)知識(shí)加工過(guò)程中的監(jiān)控與管理框架，通過(guò)對(duì)各環(huán)節(jié)的監(jiān)控日志，動(dòng)態(tài)管控全流程上的風(fēng)險(xiǎn)，及實(shí)施應(yīng)對(duì)措施。通過(guò)版本管理實(shí)施及時(shí)回退措施，以保障數(shù)據(jù)與模型的安全。
在應(yīng)用工具層面，豐富的插件工具可以使最終用戶便捷地獲取模型能力服務(wù)，以編程領(lǐng)域?yàn)槔脩艨梢詮乃接胁寮袌?chǎng)輕松獲取具有代碼注釋生成、代碼生成及腳本生成等功能的IDE插件。
財(cái)險(xiǎn)代碼智能支撐平臺(tái)CGC整體解決方案
財(cái)險(xiǎn)代碼智能支撐平臺(tái)CGC整體解決方案以“水平為基、垂直為穹”，充分利用CodeT5的能力全面提升了事業(yè)群代碼質(zhì)量和效率，并不斷泛化新的能力。水平方向上，事業(yè)群以通用水平AIGC平臺(tái)CodeT5作為基礎(chǔ)進(jìn)行知識(shí)遷移，通過(guò)比較標(biāo)準(zhǔn)的大規(guī)模模型并結(jié)合領(lǐng)域知識(shí)對(duì)模型進(jìn)行訓(xùn)練與調(diào)整，有效地實(shí)現(xiàn)了面向具體行業(yè)的代碼相關(guān)任務(wù)的能力支撐，并通過(guò)在輸入中加入注釋序列的手段，實(shí)現(xiàn)了從注釋中獲取函數(shù)功能及變量含義的能力，較好地處理了多模態(tài)訓(xùn)練任務(wù)。
垂直方向上，事業(yè)群以20多年積累的保險(xiǎn)術(shù)語(yǔ)和詞根、樣本程序、藍(lán)圖數(shù)據(jù)結(jié)構(gòu)等行業(yè)知識(shí)和經(jīng)驗(yàn)的沉淀為基礎(chǔ)，直接或間接打磨垂直領(lǐng)域高質(zhì)量數(shù)據(jù)集來(lái)支撐模型訓(xùn)練，并最終形成模型和組件的能力，使其從傳統(tǒng) "基于規(guī)則的財(cái)產(chǎn)保險(xiǎn)代碼管理"轉(zhuǎn)變?yōu)?"智能財(cái)產(chǎn)保險(xiǎn)代碼管理"。
財(cái)險(xiǎn)代碼智能支撐平臺(tái)(CGC)直接引用優(yōu)質(zhì)領(lǐng)域數(shù)據(jù)集作為垂直領(lǐng)域數(shù)據(jù)集，以可靠的結(jié)構(gòu)、領(lǐng)域知識(shí)和條件約束，支撐實(shí)現(xiàn)優(yōu)越的模型訓(xùn)練效果；同時(shí)實(shí)現(xiàn)對(duì)模型訓(xùn)練效果的可視化呈現(xiàn)。平臺(tái)亦支持用戶通過(guò)命令行工具植入各個(gè)領(lǐng)域的模型算法，實(shí)現(xiàn)包括模型基礎(chǔ)配置、模型任務(wù)管理、模型參數(shù)設(shè)置、模型版本管理在內(nèi)的全方位模型管理。
此外，CGC平臺(tái)通過(guò)統(tǒng)一接口實(shí)現(xiàn)對(duì)外提供能力輸出，針對(duì)Idea、VS Code等開發(fā)工具提供的開發(fā)插件能夠支持用戶實(shí)時(shí)調(diào)用統(tǒng)一接口，并在開發(fā)過(guò)程中輔助進(jìn)行高效率編碼工作，明顯提高了代碼規(guī)范度程度，節(jié)省了大量測(cè)試與管理成本，效果十分顯著。
與會(huì)專家評(píng)委對(duì)中科軟通過(guò)技術(shù)交流搭建事業(yè)群之間知識(shí)溝通和經(jīng)驗(yàn)共享平臺(tái)的方式表示了肯定，體現(xiàn)了中科軟的積累與傳承。專家們認(rèn)為技術(shù)交流的主題很貼合目前業(yè)界的主流發(fā)展方向和關(guān)注重點(diǎn)，各團(tuán)隊(duì)形成的方案從開發(fā)實(shí)施和行業(yè)應(yīng)用軟件開發(fā)的角度拓寬了業(yè)界的視角，體現(xiàn)了中科軟作為國(guó)內(nèi)領(lǐng)軍行業(yè)應(yīng)用軟件服務(wù)提供商的技術(shù)責(zé)任感。
此外，由于垂直AIGC平臺(tái)建立過(guò)程中，涉及大量開源工具應(yīng)用，為了增強(qiáng)各業(yè)務(wù)團(tuán)隊(duì)在業(yè)務(wù)開展過(guò)程中對(duì)有關(guān)開源工具與知識(shí)產(chǎn)權(quán)保護(hù)相關(guān)問題的認(rèn)知，本次技術(shù)交流會(huì)邀請(qǐng)了法律方面的專家就相關(guān)法律問題進(jìn)行了深入分享。
通過(guò)本次技術(shù)交流活動(dòng)，進(jìn)一步增強(qiáng)了公司各業(yè)務(wù)領(lǐng)域團(tuán)隊(duì)對(duì)于垂直AIGC平臺(tái)研發(fā)及應(yīng)用實(shí)踐的理解，技術(shù)交流活動(dòng)形成的各項(xiàng)成果物在未來(lái)將進(jìn)一步支撐公司在垂直AIGC平臺(tái)應(yīng)用領(lǐng)域的研發(fā)創(chuàng)新及業(yè)務(wù)開拓。
