?8月1日，由360集團(tuán)AI安全實驗室、中國科大網(wǎng)絡(luò)空間安全學(xué)院主辦的人工智能安全趨勢發(fā)展論壇在京順利召開。三六零（601360.SH，下稱“360”）集團(tuán)提出了系統(tǒng)化的大模型安全解決方案，圍繞“安全、向善、可信、可控”安全四原則搭建系統(tǒng)化工具，通過技術(shù)革新，實現(xiàn)大模型風(fēng)控效率提升100倍，幻覺比例下降50%，為全球大模型安全賦能。與此同時，基于本屆論壇搭建產(chǎn)、學(xué)、研對話平臺，集聚行業(yè)之力形成大模型安全風(fēng)險和威脅應(yīng)對策略，推動構(gòu)建安全、可靠的人工智能生態(tài)。

隨著人工智能技術(shù)的廣泛應(yīng)用，安全問題也日益凸顯，成為當(dāng)下不可忽視的重要議題。360集團(tuán)智腦總裁張向征在致辭提到，大模型已成為數(shù)智化系統(tǒng)的關(guān)鍵基礎(chǔ)設(shè)施，其潛在的主體地位和應(yīng)用廣度，也帶來了新的安全風(fēng)險和安全挑戰(zhàn)。為此，360也號召學(xué)術(shù)界和產(chǎn)業(yè)界在政府機(jī)構(gòu)的指導(dǎo)下緊密合作，共同推動人工智能安全技術(shù)的創(chuàng)新與發(fā)展。

作為數(shù)字安全領(lǐng)軍企業(yè)，360確立了安全和AI發(fā)展雙主線，躬身入局攻克大模型世界級安全難題，應(yīng)對大模型在落地應(yīng)用過程中遇到的四大安全風(fēng)險——模型環(huán)境漏洞、生成惡意內(nèi)容、生成錯誤信息以及Agent流程失控，提出“安全、向善、可信、可控”四原則，構(gòu)建系統(tǒng)化的大模型安全解決方案。

360集團(tuán)AI安全實驗室主任鄒權(quán)臣在分享中提到，該方案包含國內(nèi)首個支持系統(tǒng)化安全檢測、提示注入風(fēng)險檢測的人工智能系統(tǒng)安全檢測平臺“AISE”，能夠?qū)Υ竽Ｐ湍酥寥鷳B(tài)鏈安全進(jìn)行檢測，確保大模型訓(xùn)練工具與部署環(huán)境安全；智腦風(fēng)控引擎實現(xiàn)了內(nèi)容加固和風(fēng)險過濾，同時引入自動化攻防工具，大幅提升風(fēng)控效率；此外，基于幻覺檢測Agent優(yōu)化模型可信度，測試顯示大模型幻覺比例下降50%以上；通過AI Agent可控框架對大模型的場景進(jìn)行統(tǒng)一編排調(diào)用，設(shè)置安全措施確保大模型的“手”和“腳”可控，保證人在決策鏈路，從而有效避免Agent流程失控問題。

此外，針對安全行業(yè)存在的諸多痛點(diǎn)，360運(yùn)用全新技術(shù)路線構(gòu)筑“看見—處置”安全大模型。360數(shù)字安全集團(tuán)網(wǎng)絡(luò)安全資深專家楊波表示，360安全大模型將應(yīng)用于解決安全行業(yè)“產(chǎn)品協(xié)同困難、安全能力不足、運(yùn)營效率低下、安全專家缺乏”等痛點(diǎn)。值得關(guān)注的是，該模型創(chuàng)新性打造類腦框架，五大中樞可以類比人類大腦實現(xiàn)專家級安全能力，為企業(yè)打造7*24小時高級安全專家團(tuán)隊。

安全作為發(fā)展的基石和底線，與人工智能的融合將成為驅(qū)動大模型應(yīng)用和產(chǎn)業(yè)發(fā)展的重要驅(qū)動力。未來，360將通過技術(shù)創(chuàng)新和生態(tài)合作，推動人工智能技術(shù)與數(shù)字安全融合發(fā)展，為構(gòu)建安全、可靠的人工智能生態(tài)貢獻(xiàn)力量。

（責(zé)任編輯：康玲華）

??????????????????????????????????????????????????????運(yùn)營商財經(jīng)（官方微信公眾號yyscjrd）—— 主流財經(jīng)網(wǎng)站，一家全面覆蓋科技、金融、證券、汽車、房產(chǎn)、食品、醫(yī)藥、日化、酒業(yè)及其他各種消費(fèi)品網(wǎng)站。