3月10日，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心發(fā)布關(guān)于OpenClaw（“小龍蝦”）應(yīng)用的風(fēng)險(xiǎn)提示，直指這一火爆的AI智能體存在“提示詞注入”“誤操作”“插件投毒”及“安全漏洞”四大核心風(fēng)險(xiǎn)，警告其可能導(dǎo)致個(gè)人隱私泄露、核心數(shù)據(jù)被刪除，甚至讓設(shè)備淪為黑客的“肉雞”。同日，內(nèi)容平臺(tái)小紅書發(fā)布了《關(guān)于打擊AI托管運(yùn)營(yíng)賬號(hào)的治理公告》，宣布對(duì)完全由AI托管代發(fā)、模擬真人互動(dòng)的賬號(hào)實(shí)施封禁。

兩則公告都指向了同一個(gè)技術(shù)浪潮下的雙重隱憂：當(dāng)AI Agent（智能體）從輔助工具進(jìn)化為可以自主操控設(shè)備的“數(shù)字管家”，它所引發(fā)的風(fēng)暴，既有技術(shù)安全層面的，也有內(nèi)容生態(tài)層面的。

OpenClaw之所以能引發(fā)“養(yǎng)蝦”熱潮，在于其“自主執(zhí)行任務(wù)”的能力——用戶只需下達(dá)自然語(yǔ)言指令，它便能直接操作計(jì)算機(jī)完成復(fù)雜任務(wù)。然而，國(guó)家互聯(lián)網(wǎng)應(yīng)急中心的警示揭示了這一便利背后的慘痛代價(jià)：由于其默認(rèn)安全配置極為脆弱，攻擊者可通過網(wǎng)頁(yè)中的隱藏指令誘導(dǎo)其泄露系統(tǒng)密鑰（“提示詞注入”），或通過惡意插件將其變?yōu)殚L(zhǎng)期潛伏的“肉雞”。更令人心驚的是，它還可能因誤解用戶意圖，直接將電子郵件、核心生產(chǎn)數(shù)據(jù)“一鍵徹底刪除”。當(dāng)個(gè)人用戶的照片、聊天記錄、支付密鑰面臨被竊風(fēng)險(xiǎn)，當(dāng)金融能源等關(guān)鍵行業(yè)的核心業(yè)務(wù)可能因此癱瘓，所謂的“效率革命”便瞬間演變?yōu)橐粓?chǎng)隨時(shí)可能引爆的“數(shù)字災(zāi)難”。

如果說國(guó)家互聯(lián)網(wǎng)應(yīng)急中心的警示聚焦于技術(shù)底層的安全漏洞，那么小紅書的治理行動(dòng)，則指向了AI在應(yīng)用層面對(duì)內(nèi)容社區(qū)信任根基的侵蝕。如我們?cè)诰W(wǎng)上所見，OpenClaw這類工具的爆火，已經(jīng)催生了一條“AI托管賬號(hào)”的灰色路徑。有人用它自動(dòng)生成筆記、發(fā)布內(nèi)容，甚至在評(píng)論區(qū)模擬真人互動(dòng)，試圖以技術(shù)手段實(shí)現(xiàn)“躺著漲粉”“AI養(yǎng)號(hào)”的捷徑。數(shù)以億計(jì)的用戶在小紅書分享生活經(jīng)驗(yàn)，每一次真實(shí)的記錄、每一次真誠(chéng)的交流，共同構(gòu)成了社區(qū)溫暖的底色，而AI托管賬號(hào)的泛濫，恰恰是在用算法制造的“偽真人經(jīng)驗(yàn)”和機(jī)器可能隨時(shí)在評(píng)論區(qū)、群聊、私信等場(chǎng)景的“偽真人互動(dòng)”，沖淡社區(qū)寶貴的真實(shí)氛圍。更重要的是，正如國(guó)家互聯(lián)網(wǎng)應(yīng)急中心警示的，技術(shù)濫用不僅帶來安全風(fēng)險(xiǎn)，更會(huì)滋生以虛假為核心的灰色產(chǎn)業(yè)。

真實(shí)表達(dá)承載著人的溫度與共情。人們上網(wǎng)不僅是獲取信息，更渴望與“活生生的人”建立連接。如果互動(dòng)變成機(jī)器的“左右互搏”，內(nèi)容社區(qū)便失去了其作為“生活共同體”的情感意義。而當(dāng)用戶無法分辨內(nèi)容是真人分享還是算法拼湊時(shí)，人們獲取真實(shí)內(nèi)容的成本會(huì)增加，社區(qū)的信任基礎(chǔ)便會(huì)動(dòng)搖。從這個(gè)意義上講，小紅書的“亮劍”，不僅是對(duì)違規(guī)賬號(hào)的一次清理，更是對(duì)社區(qū)價(jià)值觀的重申，對(duì)社區(qū)用戶權(quán)益的保護(hù)。

兩則公告折射出技術(shù)狂奔所帶來的需要警惕之處。一方面，當(dāng)AI被賦予過高系統(tǒng)權(quán)限卻缺乏安全配置時(shí)，它可能成為最危險(xiǎn)的“內(nèi)鬼”；另一方面，當(dāng)AI不被限制地替代真人進(jìn)行內(nèi)容生產(chǎn)時(shí)，它會(huì)損害用戶的權(quán)益，削弱互聯(lián)網(wǎng)社區(qū)中人與人的信任。

技術(shù)應(yīng)當(dāng)是服務(wù)于人的工具，而非取代真實(shí)的偽裝，更非導(dǎo)致安全漏洞的途徑。國(guó)家互聯(lián)網(wǎng)應(yīng)急中心的警示和小紅書的“亮劍”，不僅是一次治理行動(dòng)，更是對(duì)技術(shù)倫理的呼吁：在這個(gè)算法日益精進(jìn)的時(shí)代，真實(shí)依然是表達(dá)的底線。我們都應(yīng)對(duì)此時(shí)刻保持清醒。（石念軍）