第17屆政府/行業(yè)信息化安全年會(huì)：李舟軍教授深度剖析大模型與網(wǎng)絡(luò)安全
2025-02-18 17:13:24

   12月20日，北京成功舉辦了由公安部第三研究所承辦的“第17屆政府/行業(yè)信息化安全年會(huì)”。會(huì)議聚焦于“人工智能時(shí)代的網(wǎng)絡(luò)安全技術(shù)”，吸引了眾多專(zhuān)家和學(xué)者參與。他們圍繞等級(jí)保護(hù)的核心技術(shù)、關(guān)鍵信息基礎(chǔ)設(shè)施的安全防護(hù)、數(shù)據(jù)安全、大型模型安全、軟件供應(yīng)鏈安全等領(lǐng)域的最新技術(shù)、應(yīng)用趨勢(shì)和發(fā)展?fàn)顩r進(jìn)行了深入探討，旨在為我國(guó)網(wǎng)絡(luò)安全事業(yè)的進(jìn)步提供策略和建議。

   出席本次會(huì)議的有公安部網(wǎng)絡(luò)安全保衛(wèi)局副局長(zhǎng)石鈾、公安部第三研究所總工程師陸臻、國(guó)家統(tǒng)計(jì)局?jǐn)?shù)據(jù)管理中心副主任谷晨陽(yáng)等領(lǐng)導(dǎo)，以及中國(guó)華電數(shù)字化中心副主任羅建東、中國(guó)網(wǎng)絡(luò)安全審查技術(shù)與認(rèn)證中心原黨委書(shū)記王連印等專(zhuān)家。此外，浙江大學(xué)、中國(guó)石油、北京大學(xué)、北京航空航天大學(xué)、中科院計(jì)算所等研究機(jī)構(gòu)和企業(yè)的信息安全負(fù)責(zé)人也參加了會(huì)議。中國(guó)計(jì)算機(jī)學(xué)會(huì)計(jì)算機(jī)安全專(zhuān)委會(huì)主任嚴(yán)明擔(dān)任了會(huì)議主持。

   在會(huì)上，石鈾副局長(zhǎng)發(fā)表致辭，強(qiáng)調(diào)在人工智能時(shí)代，數(shù)據(jù)安全的保護(hù)工作需要在制度、體系和技術(shù)三個(gè)層面進(jìn)一步深化、細(xì)化、落實(shí)。他期望與會(huì)專(zhuān)家能夠深入交流，共同為國(guó)家數(shù)據(jù)安全的穩(wěn)定和長(zhǎng)遠(yuǎn)發(fā)展貢獻(xiàn)力量。
   本屆年會(huì)特設(shè)“人工智能時(shí)代下的數(shù)據(jù)安全”圓桌論壇，由王連印研究員主持。中國(guó)人民銀行安全專(zhuān)家指出，人工智能在金融領(lǐng)域應(yīng)用廣泛，但其“雙刃劍”特性要求國(guó)家和行業(yè)通過(guò)多種途徑最大化其積極作用，并控制負(fù)面影響。徐克付研究員提出，大模型訓(xùn)練中的隱私保護(hù)需政策與技術(shù)并重，技術(shù)手段包括隱私計(jì)算和聯(lián)邦學(xué)習(xí)。尹芷儀高級(jí)工程師強(qiáng)調(diào)算法安全的重要性，并呼吁擴(kuò)大算法治理范圍。新華三安全公司研發(fā)總裁王其勇介紹了大模型技術(shù)在安全行業(yè)的應(yīng)用，同時(shí)指出安全領(lǐng)域數(shù)據(jù)量少是存在的風(fēng)險(xiǎn)，呼吁建立數(shù)據(jù)交換機(jī)制。


   智能思創(chuàng)首席科學(xué)家、北京航空航天大學(xué)計(jì)算機(jī)學(xué)院信息安全系主任、教授李舟軍，在會(huì)上深入分析了“垂直領(lǐng)域大模型”賦能網(wǎng)絡(luò)與信息安全的三大關(guān)鍵要點(diǎn)：微調(diào)、測(cè)評(píng)基準(zhǔn)構(gòu)建與指令數(shù)據(jù)集構(gòu)建。他提出大模型可在威脅情報(bào)分析、代碼安全、漏洞挖掘、運(yùn)維安全等方面為網(wǎng)絡(luò)與信息安全提供助力。同時(shí)，要在行業(yè)領(lǐng)域中進(jìn)行大模型的創(chuàng)新應(yīng)用落地，基礎(chǔ)和前提是文檔智能技術(shù)，關(guān)鍵和核心是檢索增強(qiáng)生成技術(shù)，前沿和未來(lái)則在于多模態(tài)多智能體技術(shù)。他所在團(tuán)隊(duì)已建構(gòu)了一個(gè)基于文檔智能、大模型和多智能體的技術(shù)框架與開(kāi)發(fā)平臺(tái)，實(shí)現(xiàn)了大模型在多個(gè)行業(yè)領(lǐng)域的落地應(yīng)用。

   會(huì)議還圍繞“大模型安全探索”和“守護(hù)軟件安全，筑牢軟件供應(yīng)鏈安全”兩個(gè)專(zhuān)題進(jìn)行了深入討論。來(lái)自國(guó)家石油天然氣管網(wǎng)集團(tuán)、中國(guó)石油網(wǎng)絡(luò)安全專(zhuān)家中心等單位的專(zhuān)家們分享了大型模型在網(wǎng)絡(luò)安全和軟件供應(yīng)鏈生態(tài)構(gòu)建方面的實(shí)踐經(jīng)驗(yàn)。
本次年會(huì)不僅是一次學(xué)術(shù)交流的盛會(huì)，也是一次行業(yè)智慧的碰撞。與會(huì)者圍繞網(wǎng)絡(luò)安全新技術(shù)、新應(yīng)用和發(fā)展趨勢(shì)進(jìn)行了深入研討，產(chǎn)生了豐富的見(jiàn)解和創(chuàng)新觀點(diǎn)，達(dá)成了廣泛共識(shí)。

   在本屆政府/行業(yè)信息化安全年會(huì)上，我們見(jiàn)證了網(wǎng)絡(luò)安全領(lǐng)域的深度交流與合作。在這個(gè)飛速發(fā)展的時(shí)代，我們相信，垂直領(lǐng)域大模型技術(shù)將為網(wǎng)絡(luò)與信息安全帶來(lái)前所未有的機(jī)遇與挑戰(zhàn)。智能思創(chuàng)始終致力于為大家提供最前沿的網(wǎng)絡(luò)安全研究和技術(shù)解析，讓我們共同期待李舟軍教授及其團(tuán)隊(duì)的研究成果在未來(lái)的廣泛應(yīng)用，為我國(guó)的網(wǎng)絡(luò)安全事業(yè)貢獻(xiàn)力量！