【資料圖】

中新經(jīng)緯2月26日電 (袁媛)2026年被業(yè)內(nèi)視為“智能體加速落地期”，人工智能正從單純的對(duì)話工具走向能夠自主執(zhí)行任務(wù)的智能體系統(tǒng)。用戶只需一句指令，智能體就可以跨應(yīng)用完成查詢信息、下單支付、發(fā)送消息等復(fù)雜操作，逐漸成為連接不同應(yīng)用場景的“數(shù)字代理”。

但在便利不斷提升的同時(shí)，新的風(fēng)險(xiǎn)也在顯現(xiàn)。2月24日，在對(duì)外經(jīng)濟(jì)貿(mào)易大學(xué)數(shù)字經(jīng)濟(jì)與法律創(chuàng)新研究中心舉辦的“智能體的高質(zhì)量發(fā)展與治理路徑”研討會(huì)上，多位專家與業(yè)內(nèi)人士圍繞智能體安全、隱私保護(hù)與責(zé)任歸屬問題展開討論。

權(quán)利“梭哈”真的好嗎？

與傳統(tǒng)大模型相比，智能體最大的變化在于具備行動(dòng)能力。智能體通常由感知、記憶、規(guī)劃和執(zhí)行等多個(gè)模塊構(gòu)成，能夠調(diào)用工具并自動(dòng)完成任務(wù)。

北京郵電大學(xué)網(wǎng)絡(luò)空間安全學(xué)院副教授李朝卓指出，智能體具備更強(qiáng)自主性，但也因此引入更復(fù)雜的安全隱患。例如在感知層面可能出現(xiàn)模型幻覺與錯(cuò)誤理解，在規(guī)劃層面可能形成偏離初衷的惡意規(guī)劃，而在工具調(diào)用層面則存在API(應(yīng)用程序編程接口)濫用、工具劫持與權(quán)限失控等風(fēng)險(xiǎn)。

智能體逐步介入應(yīng)用運(yùn)行邏輯，原有的軟件生態(tài)也在發(fā)生變化。智能體風(fēng)險(xiǎn)往往集中體現(xiàn)在資金安全、個(gè)人信息保護(hù)以及內(nèi)容與倫理邊界等方面。

小紅書技術(shù)合規(guī)負(fù)責(zé)人田云飛表示，隨著智能體介入應(yīng)用運(yùn)行邏輯，用戶授權(quán)給智能體更高的自由度。傳統(tǒng)APP相對(duì)閉環(huán)服務(wù)的生態(tài)邊界受到挑戰(zhàn)，過去承擔(dān)的是與用戶完整交互的角色，如今已變成內(nèi)容或服務(wù)的提供者。

關(guān)鍵詞： 消費(fèi)導(dǎo)報(bào)網(wǎng) 24小時(shí)資訊