2023年6月30日，中科軟科技股份有限公司成功舉辦了專題為“開源軟件支撐下的垂直AIGC平臺（MaaS）及組織協(xié)同實(shí)施”的技術(shù)交流會。本次受邀與會參與方案評審的專家有：中國疾病預(yù)防控制中心信息資源管理服務(wù)室主任王松旺、中國質(zhì)量認(rèn)證中心綜合處技術(shù)總監(jiān)趙磊、中國人壽財險金融科技中心科技創(chuàng)新部總經(jīng)理陳起、華農(nóng)財險科創(chuàng)技術(shù)中心總經(jīng)理李翔、華泰人壽科技中心副總經(jīng)理侯峻、農(nóng)銀人壽部門副總經(jīng)理王福強(qiáng)、北京航天自動控制研究所信息中心主任兼CIO劉京濤、國家工業(yè)信息安全發(fā)展研究中心人工智能研究室主任張熠天、中國科學(xué)院軟件研究所軟件發(fā)展研究部副主任楊立。
作為中科軟公司每年研發(fā)活動的一項(xiàng)重要環(huán)節(jié)，技術(shù)交流會已成為一項(xiàng)傳統(tǒng)，每年的技術(shù)交流會也是各領(lǐng)域團(tuán)隊(duì)將公司當(dāng)年研發(fā)重點(diǎn)方向的技術(shù)成果進(jìn)行跨領(lǐng)域交流的重要活動，技術(shù)交流會形成的成果物也將指導(dǎo)進(jìn)一步的深入研發(fā)以至最終的產(chǎn)品及服務(wù)落地。作為公司今年的研發(fā)重點(diǎn)：行業(yè)應(yīng)用領(lǐng)域垂直AIGC平臺建設(shè)，成為了本次技術(shù)比賽的主題，各事業(yè)群結(jié)合保險、非保險金融、政務(wù)、醫(yī)療衛(wèi)生等垂直場景，就平臺建設(shè)、模型使用、數(shù)據(jù)訓(xùn)練、場景應(yīng)用、效果評估、關(guān)注問題等方面進(jìn)行了充分的技術(shù)交流。
AIGC打開行業(yè)應(yīng)用軟件新的發(fā)展空間
AIGC（生成式人工智能）技術(shù)已經(jīng)在文本、圖像、語音、視頻等領(lǐng)域取得快速發(fā)展，并催生了諸如ChatGPT、midjourney、GitHub Copilot等一系列流行應(yīng)用。在企業(yè)和政府端，利用新一代AI技術(shù)提升營銷、生產(chǎn)、組織、管理、服務(wù)效率，創(chuàng)新產(chǎn)品及服務(wù)將成為各行業(yè)客戶新的需求，對于行業(yè)應(yīng)用軟件的發(fā)展帶來重大影響：
1、加速數(shù)智化創(chuàng)新、賦能深度應(yīng)用
客戶在銷售、生產(chǎn)、管理、服務(wù)等環(huán)節(jié)端積累、留存的大量數(shù)據(jù)、規(guī)則、經(jīng)驗(yàn)通過AIGC強(qiáng)大的學(xué)習(xí)和分析能力，升級原有信息化應(yīng)用，并創(chuàng)造新的智能化應(yīng)用，并與已有應(yīng)用軟件功能群進(jìn)行融合提升企業(yè)數(shù)智化能力，隨著AIGC技術(shù)的不斷迭代，行業(yè)應(yīng)用軟件系統(tǒng)群向多模態(tài)形式升級換代，智能性也將不斷增強(qiáng)，并不斷作用到客戶組織內(nèi)人和物的各個環(huán)節(jié)，使客戶能夠更快地響應(yīng)市場需求和競爭壓力，創(chuàng)造更為豐富的產(chǎn)品和服務(wù)。AIGC的發(fā)展將有利于行業(yè)應(yīng)用軟件在客戶端重要性的提升，增強(qiáng)客戶對于應(yīng)用軟件的重視和依賴度。
2、提升軟件開發(fā)效率及質(zhì)量
在開發(fā)端，借助AIGC 技術(shù)在代碼提示、自動代碼生產(chǎn)、自動化測試和代碼審查等方面的能力，減少開發(fā)人員手動編寫代碼的工作量、幫助發(fā)現(xiàn)和修復(fù)潛在的軟件缺陷和漏洞，提供更好的代碼規(guī)范和最佳實(shí)踐，并減少人為錯誤的產(chǎn)生。這樣可以提高開發(fā)效率，縮短項(xiàng)目的開發(fā)周期。開發(fā)人員可以將更多的時間和精力投入到軟件的設(shè)計和創(chuàng)新上，從而提高軟件的質(zhì)量、功能和穩(wěn)定性。
3、衍生AI訓(xùn)練、安全監(jiān)控等方面的新需求
AIGC的良好應(yīng)用需要大量的語料及訓(xùn)練工作，進(jìn)而衍生出對于數(shù)據(jù)預(yù)處理、模型預(yù)訓(xùn)練、提示工程等和AI訓(xùn)練相關(guān)的技術(shù)及服務(wù)需求，同時基于合規(guī)、安全角度對應(yīng)用場景下AIGC應(yīng)用的安全管理和監(jiān)控也對行業(yè)應(yīng)用軟件的發(fā)展提出更高要求，當(dāng)行業(yè)應(yīng)用軟件進(jìn)入AIGC時代，軟件開發(fā)者的角色亦會發(fā)生變化，軟件開發(fā)者與AI模型交互演進(jìn)，軟件工程師群體實(shí)現(xiàn)分工晉級。
垂直AIGC應(yīng)用成為企業(yè)級應(yīng)用的關(guān)注焦點(diǎn)
基于NLP（自然語言處理）等技術(shù)的AI功能已大量用于企業(yè)客戶智能交互、流程自動化、風(fēng)險管理等應(yīng)用場景，而基于LLM模型的ChatGPT等應(yīng)用的出現(xiàn)使得人工智能具備了更為強(qiáng)大的生成能力，進(jìn)而推動AIGC應(yīng)用的進(jìn)一步深入。
AIGC平臺又可以分為面向任何組織和個人通用化需求的水平AIGC平臺，以及涉及專門領(lǐng)域場景結(jié)合專門領(lǐng)域知識的垂直AIGC平臺。
在企業(yè)級應(yīng)用需求方面，需要AIGC以多模態(tài)數(shù)據(jù)互動的方式，輸入部分（或不完整）信息，快速的、給出大概率的已有完整的內(nèi)容，甚至是一個標(biāo)桿性的內(nèi)容，AIGC平臺是通用（水平）和專用（垂直）的整體內(nèi)容集合，要使準(zhǔn)確度和實(shí)用性提高，必須分成多專項(xiàng)、多領(lǐng)域知識的細(xì)分頻道。
在企業(yè)級市場，AIGC的重心在向垂直領(lǐng)域方向發(fā)展，已有的水平AIGC成果需要遷移，更重要的是自建垂直AIGC，即預(yù)處理MaaS模型建立和運(yùn)維。數(shù)據(jù)（大多公有資產(chǎn)）+算法（相似計算模型）+算力（支撐）技術(shù)平臺構(gòu)成了水平AIGC的核心要素，而在垂直應(yīng)用時要大幅下降，即輕量化。
水平AIGC中的數(shù)據(jù)和模型相當(dāng)于“公有資產(chǎn)”，垂直AIGC平臺建立的新模型相當(dāng)于對這部分資產(chǎn)的遷移。新模型更重要的部分是針對性強(qiáng)的“私有資產(chǎn)”，它更強(qiáng)調(diào)安全和隱私，它是新模型的重要組成，兩者融合（通用+專用），形成完整的結(jié)果內(nèi)容。
垂直AIGC是“約束性軟件需求和實(shí)現(xiàn)”的重要嘗試方向，是低代碼軟件開發(fā)的新分支。由于技術(shù)工具和方法龐雜，多以流行開源軟件各種版本方式提供，且不斷翻新變化，客戶端技術(shù)轉(zhuǎn)移工作量巨大。
在垂直AIGC的建立及不斷完善的過程中：數(shù)據(jù)收集和準(zhǔn)備（數(shù)據(jù)質(zhì)量和準(zhǔn)確性）、模型選擇和訓(xùn)練（算法及算力成本）、模型的集成和部署（集成企業(yè)應(yīng)用系統(tǒng)中）、數(shù)據(jù)流和實(shí)時處理（快速推斷和相應(yīng)）、模型監(jiān)測和更新（迭代更新）、安全和隱私保護(hù)、監(jiān)控和優(yōu)化等方面成為核心工作，決定了垂直AIGC平臺的最終功能及使用效果。
中科軟垂直AIGC平臺應(yīng)用實(shí)踐
公司各事業(yè)群在各領(lǐng)域垂直AIGC平臺研發(fā)應(yīng)用的實(shí)踐過程中，積累了較多經(jīng)驗(yàn)及解決方案，并在本次技術(shù)交流活動中進(jìn)行了充分展示，其中：華東壽險分群聯(lián)合團(tuán)隊(duì)-壽險生成式人工智能（MaaS）平臺方案，及金融保險事業(yè)群團(tuán)隊(duì)的財險代碼智能支撐平臺CGC整體解決方案分獲前兩名。
壽險生成式人工智能（MaaS）平臺方案
壽險生成式人工智能（MaaS）平臺，由多個應(yīng)用系統(tǒng)及工具組成。從系統(tǒng)層次上來看，包括數(shù)據(jù)層、訓(xùn)練層、服務(wù)層及安全層。數(shù)據(jù)層包括垂直領(lǐng)域知識庫、數(shù)據(jù)集倉庫及模型倉庫等。垂直領(lǐng)域知識庫是對行業(yè)領(lǐng)域知識的管理倉庫，以壽險行業(yè)為例，包括：詞根表、藍(lán)圖庫結(jié)構(gòu)、樣本程序及產(chǎn)品條款知識圖譜等各種領(lǐng)域知識數(shù)據(jù)。數(shù)據(jù)集倉庫是指對垂直領(lǐng)域知識經(jīng)過數(shù)據(jù)處理后的待訓(xùn)練的數(shù)據(jù)集倉庫，以編程領(lǐng)域?yàn)槔?，包括：代碼摘要數(shù)據(jù)集、代碼生成數(shù)據(jù)集及缺陷檢測數(shù)據(jù)集等。模型倉庫是指通過微調(diào)進(jìn)行垂直領(lǐng)域知識增強(qiáng)后的大模型的存儲倉庫，以本次展示內(nèi)容為例，包括：BERT、CodeBERT及CodeT5等大模型微調(diào)版本。
訓(xùn)練層包括模型訓(xùn)練系統(tǒng)，由數(shù)據(jù)（處理）層、（模型）訓(xùn)練層及（模型）評估層構(gòu)成。數(shù)據(jù)層主要由數(shù)據(jù)特征工程師從知識庫加載垂直知識數(shù)據(jù)，并進(jìn)行加工處理，生成特定任務(wù)的訓(xùn)練數(shù)據(jù)集。生成后的訓(xùn)練數(shù)據(jù)集由數(shù)據(jù)集倉庫進(jìn)行統(tǒng)一管理。訓(xùn)練層和評估層主要由算法工程師從模型倉庫加載預(yù)訓(xùn)練大模型，并使用含有垂直領(lǐng)域知識的對應(yīng)任務(wù)數(shù)據(jù)集對其進(jìn)行微調(diào)、評估及測試，最終生成經(jīng)過垂直領(lǐng)域知識增強(qiáng)的大模型。增強(qiáng)后的大模型由模型倉庫進(jìn)行統(tǒng)一管理。
服務(wù)層包括能力服務(wù)系統(tǒng)，由模型層、任務(wù)層及API層構(gòu)成。模型層主要完成從模型倉庫加載訓(xùn)練好的領(lǐng)域大模型，并為任務(wù)做好準(zhǔn)備。任務(wù)層主要依據(jù)應(yīng)用需求對相應(yīng)模型任務(wù)進(jìn)行封裝，并實(shí)現(xiàn)能力功能。API層主要負(fù)責(zé)模型任務(wù)能力的對外開放，以使得用戶可以通過API獲得模型能力服務(wù)。
安全層包括安全機(jī)制和安全框架。在機(jī)制層面，著重構(gòu)建以機(jī)構(gòu)（人）、制度和技術(shù)為主體的三位一體的安全保障體制。機(jī)構(gòu)（公司）設(shè)立數(shù)據(jù)和模型安全的管理規(guī)約，以通過技術(shù)（安全框架）實(shí)現(xiàn)對人和流程的安全管理的落實(shí)，預(yù)防數(shù)據(jù)與模型被惡意污染。在框架層面，建設(shè)貫穿整個知識加工過程中的監(jiān)控與管理框架，通過對各環(huán)節(jié)的監(jiān)控日志，動態(tài)管控全流程上的風(fēng)險，及實(shí)施應(yīng)對措施。通過版本管理實(shí)施及時回退措施，以保障數(shù)據(jù)與模型的安全。
在應(yīng)用工具層面，豐富的插件工具可以使最終用戶便捷地獲取模型能力服務(wù)，以編程領(lǐng)域?yàn)槔?，用戶可以從私有插件市場輕松獲取具有代碼注釋生成、代碼生成及腳本生成等功能的IDE插件。
財險代碼智能支撐平臺CGC整體解決方案
財險代碼智能支撐平臺CGC整體解決方案以“水平為基、垂直為穹”，充分利用CodeT5的能力全面提升了事業(yè)群代碼質(zhì)量和效率，并不斷泛化新的能力。水平方向上，事業(yè)群以通用水平AIGC平臺CodeT5作為基礎(chǔ)進(jìn)行知識遷移，通過比較標(biāo)準(zhǔn)的大規(guī)模模型并結(jié)合領(lǐng)域知識對模型進(jìn)行訓(xùn)練與調(diào)整，有效地實(shí)現(xiàn)了面向具體行業(yè)的代碼相關(guān)任務(wù)的能力支撐，并通過在輸入中加入注釋序列的手段，實(shí)現(xiàn)了從注釋中獲取函數(shù)功能及變量含義的能力，較好地處理了多模態(tài)訓(xùn)練任務(wù)。
垂直方向上，事業(yè)群以20多年積累的保險術(shù)語和詞根、樣本程序、藍(lán)圖數(shù)據(jù)結(jié)構(gòu)等行業(yè)知識和經(jīng)驗(yàn)的沉淀為基礎(chǔ)，直接或間接打磨垂直領(lǐng)域高質(zhì)量數(shù)據(jù)集來支撐模型訓(xùn)練，并最終形成模型和組件的能力，使其從傳統(tǒng) "基于規(guī)則的財產(chǎn)保險代碼管理"轉(zhuǎn)變?yōu)?"智能財產(chǎn)保險代碼管理"。
財險代碼智能支撐平臺(CGC)直接引用優(yōu)質(zhì)領(lǐng)域數(shù)據(jù)集作為垂直領(lǐng)域數(shù)據(jù)集，以可靠的結(jié)構(gòu)、領(lǐng)域知識和條件約束，支撐實(shí)現(xiàn)優(yōu)越的模型訓(xùn)練效果；同時實(shí)現(xiàn)對模型訓(xùn)練效果的可視化呈現(xiàn)。平臺亦支持用戶通過命令行工具植入各個領(lǐng)域的模型算法，實(shí)現(xiàn)包括模型基礎(chǔ)配置、模型任務(wù)管理、模型參數(shù)設(shè)置、模型版本管理在內(nèi)的全方位模型管理。
此外，CGC平臺通過統(tǒng)一接口實(shí)現(xiàn)對外提供能力輸出，針對Idea、VS Code等開發(fā)工具提供的開發(fā)插件能夠支持用戶實(shí)時調(diào)用統(tǒng)一接口，并在開發(fā)過程中輔助進(jìn)行高效率編碼工作，明顯提高了代碼規(guī)范度程度，節(jié)省了大量測試與管理成本，效果十分顯著。
與會專家評委對中科軟通過技術(shù)交流搭建事業(yè)群之間知識溝通和經(jīng)驗(yàn)共享平臺的方式表示了肯定，體現(xiàn)了中科軟的積累與傳承。專家們認(rèn)為技術(shù)交流的主題很貼合目前業(yè)界的主流發(fā)展方向和關(guān)注重點(diǎn)，各團(tuán)隊(duì)形成的方案從開發(fā)實(shí)施和行業(yè)應(yīng)用軟件開發(fā)的角度拓寬了業(yè)界的視角，體現(xiàn)了中科軟作為國內(nèi)領(lǐng)軍行業(yè)應(yīng)用軟件服務(wù)提供商的技術(shù)責(zé)任感。
此外，由于垂直AIGC平臺建立過程中，涉及大量開源工具應(yīng)用，為了增強(qiáng)各業(yè)務(wù)團(tuán)隊(duì)在業(yè)務(wù)開展過程中對有關(guān)開源工具與知識產(chǎn)權(quán)保護(hù)相關(guān)問題的認(rèn)知，本次技術(shù)交流會邀請了法律方面的專家就相關(guān)法律問題進(jìn)行了深入分享。
通過本次技術(shù)交流活動，進(jìn)一步增強(qiáng)了公司各業(yè)務(wù)領(lǐng)域團(tuán)隊(duì)對于垂直AIGC平臺研發(fā)及應(yīng)用實(shí)踐的理解，技術(shù)交流活動形成的各項(xiàng)成果物在未來將進(jìn)一步支撐公司在垂直AIGC平臺應(yīng)用領(lǐng)域的研發(fā)創(chuàng)新及業(yè)務(wù)開拓。
