行業(yè)領(lǐng)導(dǎo)者攜手成立“開放安全 AI 聯(lián)盟”，推動 AI 安全和保障發(fā)展

開源軟件是全球經(jīng)濟(jì)的重要支柱。它通過讓專家社區(qū)能夠訪問和觀察技術(shù)，為云計算、金融服務(wù)、制造業(yè)、電信、政府和互聯(lián)網(wǎng)服務(wù)提供了堅實的基礎(chǔ)。

網(wǎng)絡(luò)安全是開源軟件的三大受益領(lǐng)域之一。開放安全 AI 聯(lián)盟 (Open Secure AI Alliance) —— 在 Linux 基金會的 Akrites 倡議和 OpenSSF 社區(qū)工作的基礎(chǔ)上發(fā)展而來 —— 將使用開放技術(shù)修復(fù)和披露漏洞。

正如開源為軟件構(gòu)筑了共享的基石，我們及合作伙伴如今在 AI 安全領(lǐng)域也面臨一個選擇：保護(hù)我們基礎(chǔ)設(shè)施的防御系統(tǒng)，究竟是應(yīng)該置于少數(shù)不透明的系統(tǒng)中，還是應(yīng)該建立在任何防御者都能研究、調(diào)整和部署的開放的模型、Harness 和工具上。

世界既需要閉源模型，也需要開放模型。對于網(wǎng)絡(luò)安全而言，開放模型和開放框架至關(guān)重要，因為它們實現(xiàn)了防御能力普及化，提高了防御者的透明度，在保護(hù)數(shù)據(jù)的同時實現(xiàn)網(wǎng)絡(luò)防御，并通過可定制的本地化管理對前沿的閉源模型進(jìn)行了補充。開源技術(shù)支持大規(guī)模分布式的、社區(qū)驅(qū)動且自主可控的防御 —— 不存在單點故障。

與任何強大的技術(shù)一樣，開放模型也可能被濫用，包括試圖削弱其安全保護(hù)或?qū)⒐δ苡糜诰W(wǎng)絡(luò)攻擊，但這些風(fēng)險并非開放系統(tǒng)所獨有，無論先進(jìn) AI 部署于何處，都必須對這些風(fēng)險進(jìn)行妥善管理。

最近發(fā)生的 Hugging Face 安全事件提供了一個清晰的提醒：網(wǎng)絡(luò)防御者需要開放的、前沿的智能體系統(tǒng)來進(jìn)行自我防御。當(dāng)無法區(qū)分攻擊者和防御者的閉源 AI 工具阻礙了關(guān)鍵的取證分析時，Hugging Face 在自己的基礎(chǔ)設(shè)施上運行了開放權(quán)重 GLM 5.2 模型，分析了超過 17,000 個動作，并遏制了入侵。

這一事件揭示了一個現(xiàn)實：當(dāng)防御者無法在自己的基礎(chǔ)設(shè)施上檢查、調(diào)整和運行先進(jìn)的 AI 時，他們的響應(yīng)能力恰恰在最需要速度的時刻受到了限制。企業(yè)和國家/地區(qū)需要開放的前沿防御工具和技術(shù)，以便關(guān)鍵行業(yè)能夠在多供應(yīng)商生態(tài)系統(tǒng)中構(gòu)建安全系統(tǒng)，并避免單點故障。

這就是開放安全 AI 聯(lián)盟的使命：確保世界各地的防御者擁有其可信任和管理的開放前沿工具。

來自云計算、網(wǎng)絡(luò)安全、企業(yè)軟件、開源基金會和 AI 研究領(lǐng)域的領(lǐng)導(dǎo)者 —— 包括 NVIDIA、Adobe、Cadence、Capital One、Cisco、Cloudera、Cloudflare、Cognition、CrowdStrike、Databricks、Dell Technologies、DoorDash、Elastic、HPE、Hugging Face、IBM、LangChain、the Linux Foundation、Microsoft、NAVER、NetApp、Nous Research、OpenClaw、Palantir、Palo Alto Networks、Red Hat、Reflection AI、Salesforce、SAP、SK Telecom、ServiceNow、Siemens、Snowflake、SpacexAI、Synopsys、Thinking Machines Lab 和 TrendAI 皆是開放安全 AI 聯(lián)盟的創(chuàng)始合作伙伴。該聯(lián)盟旨在開發(fā)和共享開放技術(shù)、方法和工具，以在 AI 時代保障軟件和智能體的安全。

有人認(rèn)為，開放模型本身就存在安全隱患，因為它們可能被濫用于網(wǎng)絡(luò)攻擊或被修改以移除安全護(hù)欄。這些風(fēng)險是真實存在的，但它們不會在閉源系統(tǒng)中消失，僅靠封閉權(quán)重并不能阻止蓄意攻擊者去設(shè)法找到或利用強大的 AI。

正確的應(yīng)對措施不是拒絕防御者訪問功能強大的開放系統(tǒng)。而應(yīng)該將開放性與強有力的保障措施、明確的反惡意濫用規(guī)則、嚴(yán)格的評估和快速修復(fù)相結(jié)合。在網(wǎng)絡(luò)安全領(lǐng)域，更安全的路徑是賦予更多的防御者能夠測試、驗證和加強社會所依賴的系統(tǒng)的能力。

防御者需要前沿閉源模型和前沿開放模型協(xié)同工作，以便他們能夠選擇適合任務(wù)的系統(tǒng)，并確保在安全需求所及之處，可實現(xiàn)透明化、適配性和自主可控。