2025年4月19日下午，中國(guó)計(jì)算機(jī)用戶(hù)協(xié)會(huì)信息安全分會(huì)在北京成功舉辦了“人工智能大模型在特定場(chǎng)景中的風(fēng)險(xiǎn)分析及安全應(yīng)對(duì)研討會(huì)”。
研討會(huì)聚焦于最新熱點(diǎn)的人工智能技術(shù)，尤其是以DeepSeek為代表的通用人工智能在特定場(chǎng)景中的應(yīng)用風(fēng)險(xiǎn)與安全問(wèn)題。會(huì)議邀請(qǐng)了相關(guān)領(lǐng)域?qū)＜壹把雵?guó)企、涉密單位相關(guān)部門(mén)負(fù)責(zé)人，他們分別來(lái)自上海、成都、重慶、深圳、綿陽(yáng)、廣州等多地企業(yè)，共計(jì) 50 余人共同探討人工智能在特定場(chǎng)景下的應(yīng)用風(fēng)險(xiǎn)與安全應(yīng)對(duì)策略。
中國(guó)計(jì)算機(jī)用戶(hù)協(xié)會(huì)信息安全分會(huì)副理事長(zhǎng)兼秘書(shū)長(zhǎng) 鄭濤
研討會(huì)由中國(guó)計(jì)算機(jī)用戶(hù)協(xié)會(huì)信息安全分會(huì)副理事長(zhǎng)兼秘書(shū)長(zhǎng)鄭濤主持。中國(guó)計(jì)算機(jī)用戶(hù)協(xié)會(huì)（總會(huì)）監(jiān)事、名譽(yù)副理事長(zhǎng)、信息安全分會(huì)名譽(yù)理事長(zhǎng)施峰到會(huì)致辭，他強(qiáng)調(diào)，要凝聚行業(yè)智慧，系統(tǒng)性分析大模型技術(shù)應(yīng)用潛在風(fēng)險(xiǎn)，構(gòu)建科學(xué)安全應(yīng)對(duì)體系，為行業(yè)規(guī)范化發(fā)展提供支撐，期待參會(huì)代表貢獻(xiàn)建設(shè)性方案。
中國(guó)計(jì)算機(jī)用戶(hù)協(xié)會(huì)名譽(yù)副理事長(zhǎng)、總會(huì)監(jiān)事 施峰
會(huì)上多位安全領(lǐng)域的專(zhuān)家發(fā)表了精彩演講，分會(huì)理事長(zhǎng)李技全面梳理人工智能技術(shù)演進(jìn)脈絡(luò)，預(yù)測(cè)未來(lái)應(yīng)用趨勢(shì)，提出技術(shù)創(chuàng)新與安全防護(hù)需雙向驅(qū)動(dòng)。
信息安全分會(huì)理事長(zhǎng) 李技 AI 戰(zhàn)略布局：錨定核心賽道 驅(qū)動(dòng)創(chuàng)新發(fā)展
北京北信源軟件股份有限公司董事、副總裁高曦介紹，公司圍繞國(guó)家重大安全戰(zhàn)略規(guī)劃進(jìn)行創(chuàng)新和布局，加大了人工智能領(lǐng)域投入力度，打造了“密信AI基座”，開(kāi)發(fā)了多種AI能力，包括多模型混合駕駛艙、AI即時(shí)問(wèn)答、教AI、語(yǔ)音助手等。目前“密信AI基座”已經(jīng)集成市面主流的多種大語(yǔ)言模型，如DeepSeek、Kimi、千問(wèn)、文心一言等，并正在融合多功能智能體和多種開(kāi)源大模型，具備AI辦文、辦事、辦會(huì)的綜合能力。通過(guò)“密信AI基座”不僅可以為第三方應(yīng)用提供大模型的統(tǒng)一標(biāo)準(zhǔn)化接口，減少應(yīng)用的適配開(kāi)發(fā)工作量，而且還能通過(guò)AI基座監(jiān)控、過(guò)濾、審計(jì)不合理的AI訪問(wèn)行為?？蓾M(mǎn)足黨政機(jī)關(guān)、軍工單位、金融機(jī)構(gòu)等高安全需求場(chǎng)景下的端到端安全通信與數(shù)據(jù)防護(hù)需求，在黨政軍企等領(lǐng)域取得顯著市場(chǎng)認(rèn)可。
北信源董事、副總裁 高曦
另一方面，北信源積極探索AI技術(shù)并進(jìn)軍國(guó)際市場(chǎng)，2024年推出了AI即時(shí)母語(yǔ)傳譯功能。通過(guò)替代人工翻譯和傳統(tǒng)同傳服務(wù)，有效打破語(yǔ)言壁壘，顯著減少跨國(guó)會(huì)議、商務(wù)談判中的語(yǔ)言服務(wù)成本，極大提升了全球溝通效率。在第21屆中國(guó)—東盟博覽會(huì)上發(fā)布的愛(ài)傳APP更是能幫助企業(yè)突破小語(yǔ)種人才短缺瓶頸，快速觸達(dá)新興市場(chǎng)。目前已成為文旅部“你好！中國(guó)”入境旅游活動(dòng)語(yǔ)言翻譯服務(wù)唯一指定應(yīng)用。
通過(guò)持續(xù)創(chuàng)新，北信源為政府、軍隊(duì)、軍工、金融、能源、交通等重要單位提供行業(yè)領(lǐng)先的網(wǎng)絡(luò)與信息安全解決方案，彰顯出其在網(wǎng)絡(luò)安全領(lǐng)域的強(qiáng)大競(jìng)爭(zhēng)力和良好發(fā)展前景。 接下來(lái)，與會(huì)專(zhuān)家也分享了各自領(lǐng)域的一些情況。 中航工業(yè)集團(tuán)成飛公司總監(jiān)、信息安全分會(huì)副理事長(zhǎng)董武高結(jié)合實(shí)際業(yè)務(wù)，分析實(shí)踐應(yīng)用中的風(fēng)險(xiǎn)類(lèi)型，總結(jié)出五個(gè)方向的應(yīng)對(duì)思路。 成飛公司保密總監(jiān)、信息安全分會(huì)副理事長(zhǎng) 董武高
中國(guó)長(zhǎng)城互聯(lián)網(wǎng)信息中心總工程師賈利濱，就“新興領(lǐng)域中人工智能（DeepSeek）技術(shù)應(yīng)用的挑戰(zhàn)和實(shí)踐”進(jìn)行經(jīng)驗(yàn)介紹，分享中國(guó)長(zhǎng)城互聯(lián)網(wǎng)在新質(zhì)戰(zhàn)斗力建設(shè)中的應(yīng)用場(chǎng)景與解決方案。
中國(guó)長(zhǎng)城互聯(lián)網(wǎng)信息中心總工 賈利濱 場(chǎng)景實(shí)踐：AI安全應(yīng)用的典型案例與行業(yè)啟示 在案例分享環(huán)節(jié)，北信源央企行業(yè)總監(jiān)郭軍廷針對(duì)AI在內(nèi)網(wǎng)安全工作中的應(yīng)用場(chǎng)景及安全實(shí)踐，介紹了兩個(gè)典型場(chǎng)景，信源密信AI能力平臺(tái)和商業(yè)秘密及工作秘密防護(hù)方案。信源密信是北信源歷時(shí)十年耗資十多億打造的高安全即時(shí)通信平臺(tái)，服務(wù)于國(guó)家重點(diǎn)工程和重點(diǎn)單位，其在國(guó)產(chǎn)化環(huán)境適配、服務(wù)器私有部署、技術(shù)自主可控以及多產(chǎn)品形態(tài)構(gòu)建等方面成果顯著，能夠充分滿(mǎn)足不同客戶(hù)的多樣化需求。 信源密信系列產(chǎn)品憑借其在安全性、技術(shù)創(chuàng)新、市場(chǎng)認(rèn)可度以及政策支持等方面的優(yōu)勢(shì)，為用戶(hù)提供高效服務(wù)，帶動(dòng)公司實(shí)現(xiàn)快速增長(zhǎng)；商業(yè)秘密及工作秘密一體化解決方案為用戶(hù)解決了商密和工作秘密不同防護(hù)要求的難題，一體化防護(hù)方案既解決了大型央國(guó)企敏感數(shù)據(jù)防護(hù)的難題，又滿(mǎn)足了相關(guān)指引指南政策的要求，同時(shí)兼顧了高效便捷且不影響用戶(hù)辦公習(xí)慣的需求，而且方案引入AI在輔助定密、判密、分析決策等方面的能力，幫用戶(hù)實(shí)現(xiàn)效率提升、價(jià)值創(chuàng)造和風(fēng)險(xiǎn)對(duì)沖。 北信源央企行業(yè)總監(jiān) 郭軍廷 郭軍廷的分享，引發(fā)了與會(huì)領(lǐng)導(dǎo)嘉賓對(duì)行業(yè)未來(lái)發(fā)展的深度思考與廣泛共鳴，為推動(dòng)我國(guó)信息安全產(chǎn)業(yè)高質(zhì)量發(fā)展提供了極具價(jià)值的實(shí)踐范本與創(chuàng)新思路。 協(xié)同創(chuàng)新：共建 AI 應(yīng)用與安全平臺(tái)實(shí)驗(yàn)室
隨后，戰(zhàn)略合作正式啟動(dòng)，信息安全分會(huì)副理事長(zhǎng)蔣成彬宣布“信息安全分會(huì)與北信源共同建設(shè)人工智能（DeepSeek）應(yīng)用與安全平臺(tái)實(shí)驗(yàn)室”。他介紹，實(shí)驗(yàn)室將充分整合信息安全分會(huì)與北信源的資源優(yōu)勢(shì)，凝聚雙方在信息安全領(lǐng)域和人工智能領(lǐng)域的專(zhuān)業(yè)力量，形成協(xié)同創(chuàng)新的工作機(jī)制，共同開(kāi)展相關(guān)研究與實(shí)踐。實(shí)驗(yàn)室圍繞著核心目標(biāo)開(kāi)展AI應(yīng)用安全風(fēng)險(xiǎn)研究，為制定針對(duì)性的解決方案提供理論支持。實(shí)現(xiàn)對(duì)AI應(yīng)用的安全監(jiān)測(cè)、評(píng)估與防護(hù)，提升AI系統(tǒng)的安全性能。向往更多單位積極加入實(shí)驗(yàn)室團(tuán)隊(duì)，共同分享研究成果和經(jīng)驗(yàn)，推動(dòng)AI在安全領(lǐng)域的做深做實(shí)。
信息安全分會(huì)副理事長(zhǎng) 蔣成彬 在研討交流環(huán)節(jié)，參會(huì)代表圍繞會(huì)議主題與實(shí)際需求展開(kāi)深入討論，從風(fēng)險(xiǎn)分析、技術(shù)應(yīng)用、安全應(yīng)對(duì)、保密合規(guī)等多元視角分享觀點(diǎn)和實(shí)踐路徑。信息安全分會(huì)李技理事長(zhǎng)在總結(jié)中提到，期待各方以此次研討為契機(jī)，將討論成果轉(zhuǎn)化為實(shí)際行動(dòng)，共同構(gòu)筑大模型安全發(fā)展的堅(jiān)實(shí)屏障，推動(dòng)人工智能技術(shù)在安全、可控的軌道上賦能社會(huì)。 下一步，信息安全分會(huì)將持續(xù)搭建技術(shù)交流平臺(tái)，聚焦信息安全領(lǐng)域前沿問(wèn)題，通過(guò)政策研究、技術(shù)研討、標(biāo)準(zhǔn)建設(shè)等多元形式，助力行業(yè)構(gòu)建安全可控的人工智能應(yīng)用生態(tài)
