“硅基員工”引爆智能體攻防
2026-04-22 14:02:45 作者 : 李卓 余婷婷 來源 : 每日經(jīng)濟(jì)新聞????????警用裝備網(wǎng)訊:?“不久的將來,可能半年,最多兩年,我們目前正在應(yīng)用的大部分安全產(chǎn)品和工具都將失效,未來將是一堆Agent(智能體)在攻擊、另一堆Agent在防守?!苯眨瑏喰虐踩倍麻L、CEO(首席執(zhí)行官)馬紅軍在第八屆C3安全大會上直言。
這不是危言聳聽。就在大會前夜的一場技術(shù)攻防演示中,亞信安全團(tuán)隊(duì)告訴馬紅軍,自動化攻防已經(jīng)可以實(shí)現(xiàn)80%,僅剩20%需要人工操作。
不僅如此,當(dāng)日大會現(xiàn)場,還上演了一場極具沖擊力的“具身智能劫持”。《每日經(jīng)濟(jì)新聞》記者在現(xiàn)場看到,一只機(jī)器狗在演示中遭黑客隱形控制,快速完成了權(quán)限突破、隱私竊取與惡意破壞,從服務(wù)工具淪為攻擊載體。
當(dāng)以機(jī)器狗、AI Agent(人工智能體)、大模型API(應(yīng)用程序編程入口)為代表的各類“硅基員工”源源不斷涌入企業(yè)業(yè)務(wù)系統(tǒng),在帶來生產(chǎn)力大幅提升的同時,也帶來了新的攻擊面,網(wǎng)絡(luò)安全邊界被徹底重構(gòu)。
根據(jù)高德納和安全牛等研究機(jī)構(gòu)的預(yù)測,2026年網(wǎng)絡(luò)安全將邁入智能化對抗博弈與多層級縱深防御新階段,AI(人工智能)驅(qū)動的自動化攻擊將成為主要威脅。相關(guān)技術(shù)演進(jìn)路徑與攻防對抗格局,將深刻影響整個行業(yè)的生態(tài)結(jié)構(gòu)與競爭態(tài)勢。
企業(yè)安全陷入四大困境
在本屆C3安全大會上,阿里云副總裁李力指出,從大模型到AI智能體,大家看到了3個實(shí)實(shí)在在的挑戰(zhàn)。其中一個就是安全,包括權(quán)限安全、內(nèi)容安全、工作邊界安全等。
TCL科技集團(tuán)數(shù)字化轉(zhuǎn)型部部長李福濤也指出,AI安全是智能化體系重構(gòu)的先決條件和基礎(chǔ)。制造企業(yè)與互聯(lián)網(wǎng)企業(yè)不同,AI安全直接關(guān)系到生產(chǎn)安全,這對企業(yè)而言是致命的環(huán)節(jié)。
那么,智能體互聯(lián)網(wǎng)時代,到底什么是安全?亞信安全高級副總裁、首席客戶成功官吳湘寧從邏輯上將安全分為三個層次。
第一個層次是基礎(chǔ)架構(gòu)安全,通常所說的系統(tǒng)穩(wěn)定性、可靠性、數(shù)據(jù)不泄露,都屬于基礎(chǔ)安全范疇,核心是保證實(shí)體連接能夠平穩(wěn)運(yùn)行、實(shí)現(xiàn)其功能。
但智能體出現(xiàn)后,僅僅做到基礎(chǔ)安全是不夠的,還需要第二個層次的安全——行為安全。當(dāng)前大家之所以擔(dān)心智能體出現(xiàn)問題,是因?yàn)闊o法掌控它的行為:讓它去做具體的事情,但它可能越權(quán)、越界,做出不該做的動作。吳湘寧舉例,在與ABB(瑞士電氣與工業(yè)自動化企業(yè))合作時,安全不僅僅是防止機(jī)器人被攻擊,更重要的是防止模型訓(xùn)練出現(xiàn)幻覺,導(dǎo)致微操作出現(xiàn)1毫米的偏差,這對于芯片生產(chǎn)制造來說,會帶來巨大的浪費(fèi)和損害。
第三個層次的安全,聚焦于大模型本身,如何控制大模型的幻覺,如何對大模型內(nèi)容加密保密,如何確保大模型的行為可控、遵循倫理和規(guī)章,這就是信任安全,核心是能否真正信任大模型并放心使用它。
而當(dāng)AI與智能體安全成為網(wǎng)絡(luò)安全行業(yè)未來發(fā)展的關(guān)鍵方向時,傳統(tǒng)網(wǎng)絡(luò)安全的舊秩序正在被改寫。
馬紅軍在演講中指出,智能體互聯(lián)網(wǎng)時代,企業(yè)安全正陷入四大困境。
首先便是安全工具越來越多,但多數(shù)只是產(chǎn)品的堆砌,屬于打補(bǔ)丁式安全,導(dǎo)致運(yùn)維工作越來越復(fù)雜,且容易陷入人員、運(yùn)營成本激增的惡性循環(huán)。
其次,這些安全產(chǎn)品本身產(chǎn)生大量安全數(shù)據(jù),卻無法實(shí)現(xiàn)關(guān)聯(lián)。馬紅軍分享的數(shù)據(jù)顯示,68%的安全數(shù)據(jù)甚至沒有統(tǒng)一標(biāo)準(zhǔn)的API。這些數(shù)據(jù)格式不統(tǒng)一、相互割裂,信息壁壘森嚴(yán),導(dǎo)致無法形成統(tǒng)一的威脅視角。
再次,這些安全產(chǎn)品還會產(chǎn)生海量告警信息。安全團(tuán)隊(duì)無法處理所有告警,只能疲于奔命,甚至選擇性放棄一些中低危告警。殊不知,這其中往往隱藏著真正的威脅。
最后,據(jù)亞信安全統(tǒng)計(jì),隨著AI、自動化工具的批量化攻擊,對手攻擊平均突破時間已縮短至29分鐘,同比提速65%,最快僅需27秒。這樣的速度讓傳統(tǒng)的“安全產(chǎn)品+人工運(yùn)維”模式無法應(yīng)對、防不勝防。
從被動響應(yīng)到自主防御
如何破局?
為業(yè)內(nèi)所共識的是,隨著攻擊自動化與防御智能化的同步演進(jìn),碎片化安全時代終將落幕。攻防雙方的技術(shù)較量正在從工具對抗向系統(tǒng)對抗轉(zhuǎn)變。XDR(Extended Detection and Response,擴(kuò)展檢測與響應(yīng))就是近年全球網(wǎng)絡(luò)安全公司競相探索的方向。亞信安全、深信服、奇安信、啟明星辰、安恒信息等頭部網(wǎng)安公司紛紛加快XDR的布局。
如果說2025年的網(wǎng)絡(luò)安全關(guān)鍵詞是聯(lián)動防御和體系化,馬紅軍認(rèn)為,2026年的關(guān)鍵詞應(yīng)該是數(shù)據(jù)驅(qū)動和AI原生。
“當(dāng)攻擊者用AI批量發(fā)起自動化攻擊時,防御方若仍停留在‘人工分析+傳統(tǒng)規(guī)則’上,無異于用血肉之軀阻擋無人機(jī)蜂群。同時,當(dāng)‘硅基員工’涌入業(yè)務(wù)體系,攻擊面從傳統(tǒng)資產(chǎn)延伸至AI資產(chǎn),僅靠連接已不夠,AI XDR(聯(lián)動防御系統(tǒng))必須深度融合AIDR(AI威脅檢測與響應(yīng)),實(shí)現(xiàn)從全域聯(lián)防到智能進(jìn)化?!瘪R紅軍在C3安全大會上如是說。
在馬紅軍看來,安全產(chǎn)品必須從AI輔助人轉(zhuǎn)向AI原生,這不是一個選項(xiàng),而是智能體時代企業(yè)維持生存韌性的必然。
值得一提的是,智能體在重構(gòu)網(wǎng)絡(luò)安全邊界的同時,也在重構(gòu)企業(yè)的數(shù)字體系。這其中也涉及兩個平衡——技術(shù)創(chuàng)新與安全合規(guī)。換言之,短期內(nèi),如果過度強(qiáng)調(diào)安全,可能也會影響智能體、人工智能的推進(jìn)速度和價值發(fā)揮。
如何平衡?李福濤認(rèn)為,權(quán)限分層或是關(guān)鍵。他舉例,TCL在各業(yè)務(wù)領(lǐng)域落地智能體、創(chuàng)造價值的過程中,內(nèi)部制定了分層分級的策略。
“比如,在L1層(AI分析層面、信息層面),我們只讓智能體負(fù)責(zé)分析工作,最終決策由人來做出;在L2層,智能體落地過程中,由AI提供建議,最終的確認(rèn)、審批仍由人來完成;第三層是智能體的自動化執(zhí)行環(huán)節(jié),對于這類智能體,我們一定會為其設(shè)定明確邊界,包括權(quán)限邊界、數(shù)據(jù)處理的范圍邊界以及用戶群體的選擇,這些都需要做好統(tǒng)籌管理。第四類是關(guān)鍵控制類智能體,對于這類智能體,我們會全方位做好AI安全保障,包括事前的AI安全規(guī)則、行為前置管控,以及事后的審計(jì)工作,涵蓋所使用的模型工具、推理邏輯等,都要有完整的落地日志,實(shí)現(xiàn)閉環(huán)管理和跟蹤?!崩罡纳鲜鲇^點(diǎn)在現(xiàn)場引發(fā)諸多企業(yè)共鳴。
顯然,大模型與Agent狂飆突進(jìn),攻防兩端的技術(shù)天平持續(xù)傾斜,如何在創(chuàng)新速度與安全底線間找到動態(tài)平衡,這套安全平衡術(shù)也早已從理論探討到落地,成為企業(yè)必須直面的實(shí)操命題。
新聞稿件歡迎直接聯(lián)系:QQ 34004818 微信公眾號:cpsjyzb
我要評論
0 條評論
- 還沒有人評論過,趕快搶沙發(fā)吧!
熱點(diǎn)榜
最新專題
更多-
-
科技助警,干貨滿載:第八屆警用無人機(jī)論壇亮點(diǎn)紛呈!
第八屆警用無人機(jī)創(chuàng)新 [ 詳情 ]
- 回顧第七屆世界無人機(jī)大會 07-10
- 專題:回顧2022世界無人機(jī)大會 01-13
加入收藏
加關(guān)注
登錄
注冊
微警用
