人民政協(xié)網（記者 孫琳）作為打造新質生產力的核心引擎，人工智能大模型對傳統(tǒng)產業(yè)數轉智改、數實融合發(fā)揮出巨大的推動作用，與此同時，大模型面臨的惡意操控、內容合規(guī)、算法與隱私安全攻擊等問題也日漸凸顯，帶來新的安全風險與挑戰(zhàn)。在這一背景之下，12月17日，360集團集結產業(yè)上下游合作伙伴、科研機構及最終用戶共同在北京成立大模型安全聯盟，旨在構建開放協(xié)作的大模型安全產業(yè)新模式，推進產業(yè)生態(tài)的全面融合。

關注大模型存在的安全風險已成為當下各界的重要共識。中國網絡空間安全協(xié)會秘書長郝曉偉在會上表示，當前人工智能安全風險日益凸顯，期待基于此次契機，打造協(xié)會與企業(yè)的創(chuàng)新合作模式，共享技術創(chuàng)新與產業(yè)融合的最新成果，聯合應對人工智能安全的新問題、新挑戰(zhàn)。360集團作為中國網絡安全空間協(xié)會的理事單位，始終積極參與并推動協(xié)會相關工作。此次在協(xié)會與企業(yè)的緊密協(xié)作下，各方將持續(xù)發(fā)揮自身優(yōu)勢，為打造人工智能先鋒產業(yè)生態(tài)貢獻更多力量。

全國政協(xié)委員、360集團創(chuàng)始人周鴻祎在發(fā)言時表示，人工智能技術是一把“雙刃劍”，在帶來自動化和先進工作生活方式的同時也帶來很多安全問題，甚至不亞于核武器，是人類有史以來面臨“最大的安全挑戰(zhàn)之一”，遠超過傳統(tǒng)數字安全。尤其是包括其他國家的網絡軍隊、黑產、灰產的組織者甚至犯罪分子等也可以利用大模型，提升找漏洞、寫攻擊代碼的能力，因此未來網絡安全可能會從人與人的對抗，變成機器與人的對抗，再發(fā)展為機器與機器的對抗。

在周鴻祎看來，人工智能在提升生產力的同時，也帶來了包括幻覺、深度偽造、注入攻擊、數據污染或投毒等前所未有的安全新挑戰(zhàn)。而隨著大模型在無人駕駛汽車、無人機、智能機器人等領域的應用日漸廣泛，一旦產生幻覺等安全問題，可能對個人、社會甚至國家安全形成重大隱患。如果安全問題得不到有效的控制和解決，有可能會讓政府監(jiān)管機構對人工智能充滿顧慮和疑慮，從而出臺更多的限制政策，這對產業(yè)發(fā)展同樣形成挑戰(zhàn)。

據了解，作為兼具數字安全和AI雙重能力的科技企業(yè)，360很早開始關注大模型安全風險，并推出一系列有針對性的創(chuàng)新技術，包括開發(fā)了國內首個安全大模型，通過“以模制?！崩砟睿肁I大模型來檢測和防范大模型可能出現的安全風險，既解決傳統(tǒng)網絡安全問題，又為攻克AI安全新挑戰(zhàn)提供了可行性方案。

除宣布聯盟成立外，360也在成立儀式上推出了一系列包括大模型系統(tǒng)安全檢測平臺“360智鑒”等大模型安全產品。值得一提的是，成立大模型安全聯盟并非周鴻祎首度發(fā)起行業(yè)大聯合行動。去年，360發(fā)起成立大模型產業(yè)聯盟，經過一年發(fā)展，成員已突破千家，核心伙伴超400家，覆蓋十幾個行業(yè)；今年360開放了安全衛(wèi)士、安全瀏覽器、搜索、智能硬件四大AI應用場景，聯合國內16家主流大模型廠商，共同開啟國內最強“大模型聯盟”，打造了360AI助手，在多項打分上全面超過GPT-4o。

中國電子信息產業(yè)發(fā)展研究院黨委副書記胡國棟、360集團首席運營官葉健，以及生態(tài)伙伴代表，聯想集團副總裁、中國區(qū)首席戰(zhàn)略官、聯想中國技術管理委員會執(zhí)行主席阿不力克木·阿不力米提、騰訊云高級副總裁徐翊鳴、中國載人航天工程軟件和數字化中心主任程勝、MiniMax合伙人魏偉、百度智能云泛科技行業(yè)解決方案總監(jiān)栗偉、清華大學教授黃永峰、北京大學（臨港）大模型對齊中心執(zhí)行主任、北京阿萊門科技有限公司首席執(zhí)行官徐驊、隱拓智安創(chuàng)始人、CEO張?zhí)祧蔚瘸鱿闪x式。