?8月1日，由360集團AI安全實驗室、中國科大網(wǎng)絡空間安全學院主辦的人工智能安全趨勢發(fā)展論壇在京順利召開。三六零（601360.SH，下稱“360”）集團提出了系統(tǒng)化的大模型安全解決方案，圍繞“安全、向善、可信、可控”安全四原則搭建系統(tǒng)化工具，通過技術(shù)革新，實現(xiàn)大模型風控效率提升100倍，幻覺比例下降50%，為全球大模型安全賦能。與此同時，基于本屆論壇搭建產(chǎn)、學、研對話平臺，集聚行業(yè)之力形成大模型安全風險和威脅應對策略，推動構(gòu)建安全、可靠的人工智能生態(tài)。

隨著人工智能技術(shù)的廣泛應用，安全問題也日益凸顯，成為當下不可忽視的重要議題。360集團智腦總裁張向征在致辭提到，大模型已成為數(shù)智化系統(tǒng)的關(guān)鍵基礎(chǔ)設施，其潛在的主體地位和應用廣度，也帶來了新的安全風險和安全挑戰(zhàn)。為此，360也號召學術(shù)界和產(chǎn)業(yè)界在政府機構(gòu)的指導下緊密合作，共同推動人工智能安全技術(shù)的創(chuàng)新與發(fā)展。

作為數(shù)字安全領(lǐng)軍企業(yè)，360確立了安全和AI發(fā)展雙主線，躬身入局攻克大模型世界級安全難題，應對大模型在落地應用過程中遇到的四大安全風險——模型環(huán)境漏洞、生成惡意內(nèi)容、生成錯誤信息以及Agent流程失控，提出“安全、向善、可信、可控”四原則，構(gòu)建系統(tǒng)化的大模型安全解決方案。

360集團AI安全實驗室主任鄒權(quán)臣在分享中提到，該方案包含國內(nèi)首個支持系統(tǒng)化安全檢測、提示注入風險檢測的人工智能系統(tǒng)安全檢測平臺“AISE”，能夠?qū)Υ竽Ｐ湍酥寥鷳B(tài)鏈安全進行檢測，確保大模型訓練工具與部署環(huán)境安全；智腦風控引擎實現(xiàn)了內(nèi)容加固和風險過濾，同時引入自動化攻防工具，大幅提升風控效率；此外，基于幻覺檢測Agent優(yōu)化模型可信度，測試顯示大模型幻覺比例下降50%以上；通過AI Agent可控框架對大模型的場景進行統(tǒng)一編排調(diào)用，設置安全措施確保大模型的“手”和“腳”可控，保證人在決策鏈路，從而有效避免Agent流程失控問題。

此外，針對安全行業(yè)存在的諸多痛點，360運用全新技術(shù)路線構(gòu)筑“看見—處置”安全大模型。360數(shù)字安全集團網(wǎng)絡安全資深專家楊波表示，360安全大模型將應用于解決安全行業(yè)“產(chǎn)品協(xié)同困難、安全能力不足、運營效率低下、安全專家缺乏”等痛點。值得關(guān)注的是，該模型創(chuàng)新性打造類腦框架，五大中樞可以類比人類大腦實現(xiàn)專家級安全能力，為企業(yè)打造7*24小時高級安全專家團隊。

安全作為發(fā)展的基石和底線，與人工智能的融合將成為驅(qū)動大模型應用和產(chǎn)業(yè)發(fā)展的重要驅(qū)動力。未來，360將通過技術(shù)創(chuàng)新和生態(tài)合作，推動人工智能技術(shù)與數(shù)字安全融合發(fā)展，為構(gòu)建安全、可靠的人工智能生態(tài)貢獻力量。

（責任編輯：康玲華）

??????????????????????????????????????????????????????運營商財經(jīng)（官方微信公眾號yyscjrd）—— 主流財經(jīng)網(wǎng)站，一家全面覆蓋科技、金融、證券、汽車、房產(chǎn)、食品、醫(yī)藥、日化、酒業(yè)及其他各種消費品網(wǎng)站。