全國工商聯(lián)人工智能委員會常務(wù)秘書長范叢明：推動AI智能體安全發(fā)展要做好三個事情快訊
希望頭部企業(yè)幫著智能體標(biāo)準(zhǔn)安全制定與技術(shù)實施，才能把智能體發(fā)展安全推進(jìn)，全國工商聯(lián)人工智能委員會常務(wù)秘書長范叢明在接受采訪時談到AI 智能體信息安全問題時表示。
【TechWeb】8月7日消息，隨著大模型技術(shù)的快速發(fā)展，AI智能體的數(shù)量也在快速膨脹，其信息安全問題也廣受關(guān)注。
在ISC.AI 2025互聯(lián)網(wǎng)安全大會上，全國工商聯(lián)人工智能委員會常務(wù)秘書長范叢明在接受采訪時談到AI 智能體信息安全問題時表示：“需要從法律抓起、從國際標(biāo)準(zhǔn)對齊、從行業(yè)要求自律入手，不斷地推動政府、企業(yè)從業(yè)者的共同規(guī)范，才能把智能體發(fā)展安全推進(jìn)。”
范叢明表示，以智能體為代表的AI發(fā)展非常迅速。國內(nèi)已經(jīng)有70多個大廠、頭部企業(yè)都在迅速推動MCP。當(dāng)前智能體發(fā)展類似于2000年的互聯(lián)網(wǎng)，也相當(dāng)于過去的軟件，涉及的安全問題不會少于過去的互聯(lián)網(wǎng)技術(shù)。目前，智能體類型繁多，有政務(wù)智能體、行業(yè)智能體，不同智能體應(yīng)該對應(yīng)不同的安全要求。
范叢明認(rèn)為，防范AI智能體信息安全風(fēng)險，需要夯實3個方面：
首先要守法。
范叢明提到的“法”，一個是已于2023年8月15日正式施行的由國家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》。
另一個是今年3月國家互聯(lián)網(wǎng)信息辦公室、工業(yè)和信息化部、公安部、國家廣播電視總局聯(lián)合發(fā)布的《人工智能生成合成內(nèi)容標(biāo)識辦法》，將于2025年9月1日起施行。
范叢明指出，國家這兩部法律已經(jīng)納入，大模型必須要通過備案，算法要通過備案，圖片、文字、代碼是AI生成的必須要標(biāo)識出來。當(dāng)前，智能體開發(fā)在人工智能的標(biāo)準(zhǔn)、安全的普法上工作量非常大。以深圳為例，95%是民營企業(yè)，不是不懂法，而是沒有去研究法律，出現(xiàn)錯誤被罰以后才知道。
第二，對標(biāo)國際。范叢明提到，歐盟發(fā)布了42001的人工智能管理體系，這些體系已經(jīng)誕生的同時要更多推動這個領(lǐng)域相關(guān)國內(nèi)化應(yīng)用。去年年底12月份國家電子標(biāo)準(zhǔn)院已經(jīng)制定了國家人工智能體系，目前這個也正在逐步轉(zhuǎn)為強(qiáng)制規(guī)范在推進(jìn)。
第三，作為智能體，安全上還是要有360這樣的國家隊來作為重要的力量制定和推動該領(lǐng)域標(biāo)準(zhǔn)。希望頭部企業(yè)幫著智能體標(biāo)準(zhǔn)安全制定與技術(shù)實施。
1.TMT觀察網(wǎng)遵循行業(yè)規(guī)范，任何轉(zhuǎn)載的稿件都會明確標(biāo)注作者和來源；
2.TMT觀察網(wǎng)的原創(chuàng)文章，請轉(zhuǎn)載時務(wù)必注明文章作者和"來源：TMT觀察網(wǎng)"，不尊重原創(chuàng)的行為TMT觀察網(wǎng)或?qū)⒆肪控?zé)任；
3.作者投稿可能會經(jīng)TMT觀察網(wǎng)編輯修改或補(bǔ)充。
