斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀次數：1468 編(bian)輯：系(xi)統(tong)管理員(yuan) 發(fa)布時間：2025-12-05 15:01

[字體：大中小]

想(xiang)象(xiang)這(zhe)樣(yang)一個畫面(mian)，在一個普通(tong)的(de)(de)工作日，你坐進了心(xin)愛的(de)(de)座駕(jia)，隨口(kou)問到(dao)(dao)：“今日有(you)什么新聞？”車載AI立馬啟動(dong)，下一秒，它開始娓娓道來——上到(dao)(dao)事關國計民(min)生的(de)(de)政策，下到(dao)(dao)市井俚俗的(de)(de)民(min)生八卦，流(liu)暢、自然、像(xiang)朋友聊天一樣(yang)貼心(xin)。但(dan)如果這(zhe)番(fan)溝通(tong)中暗含著什么不該說的(de)(de)內容？比如敏(min)感話題、虛假信息(xi)、甚至來自釣(diao)魚網站的(de)(de)惡(e)意廣告......

這不是科幻片的(de)(de)橋段，在智(zhi)能(neng)座艙加速邁向“AI原生”的(de)(de)今天(tian)，每一輛搭載AI模型(xing)的(de)(de)智(zhi)能(neng)座駕(jia)都必(bi)須面對的(de)(de)現(xian)實(shi)考題。

作為智能座艙領域的先行(xing)(xing)者，斑馬智行(xing)(xing)聯合阿里云(yun)(yun)共同打造面向智能座艙場景的AI安(an)全審核方案，通過阿里云(yun)(yun)AI安(an)全護欄的能力加持(chi)和云(yun)(yun)基礎(chu)設施強調(diao)的彈性(xing)吞吐力，該方案已經成功應用于(yu)多個頭(tou)部品(pin)牌(pai)車型中，日(ri)均支撐千萬級大模型安(an)全審核調(diao)用，為行(xing)(xing)業樹(shu)立(li)了大模型內容安(an)全與(yu)用戶體驗兼顧(gu)的新標桿(gan)。

斑馬智行安全負責人評價到：“我(wo)們與阿里云共同(tong)打造的這套安全護(hu)欄方案，不(bu)僅(jin)滿足(zu)了(le)國家級合規要(yao)求，更在真實(shi)量產場景中驗(yan)證了(le)其高性能(neng)、高可靠、可擴展的工(gong)程價值(zhi)。這不(bu)僅(jin)是技術方案的勝(sheng)利(li)，更是AI安全治理體系在汽(qi)車(che)行業的成功落(luo)地。”

當大模型成為汽車標配(pei)

千人千面背(bei)后的安全隱(yin)患

回到文章最初的(de)(de)(de)(de)場景，隨著大模型和AI Agent的(de)(de)(de)(de)迅速發展，智能座艙里的(de)(de)(de)(de)安(an)全助(zhu)手，早已不再(zai)是只會(hui)導(dao)航、會(hui)放歌的(de)(de)(de)(de)“工(gong)具人”，在(zai)Multi-Agent技術(shu)的(de)(de)(de)(de)加持(chi)下(xia)，它(ta)不僅能聯(lian)網搜(sou)索，能多輪對話，還(huan)能一鍵幫(bang)你定(ding)制行程、分(fen)析新聞......但每一次看似普通的(de)(de)(de)(de)交互背后，都隱(yin)藏(zang)著不容忽視的(de)(de)(de)(de)安(an)全風險(xian)：

用戶隨口一句“講個(ge)刺激的歷史(shi)故事”，會(hui)(hui)不會(hui)(hui)觸發不當內容？
AI從(cong)網上抓(zhua)取(qu)的信息(xi)，是(shi)否混進了賭(du)博(bo)、色(se)情或釣魚鏈(lian)接(jie)？
聯網搜索功能(neng)加持下，用(yong)戶輸(shu)入是否會觸發對惡意網站的直(zhi)接調用(yong)？

國家《信息安(an)全技術生成式人工智能(neng)服(fu)務安(an)全基本(ben)要(yao)求》（TC260-003）中明確要(yao)求，需對風(feng)險進行識別與攔截(jie)。熟悉安(an)全的朋友可能(neng)會疑(yi)惑(huo)，內容安(an)全審(shen)核(he)技術已經發(fa)展(zhan)了(le)數十年，難道沒(mei)有直接(jie)可用的成熟解決方案嗎(ma)？實際上：

一(yi)方面(mian)，為了(le)保(bao)證(zheng)用(yong)戶(hu)與模型交互(hu)過程的流暢性，一(yi)句話往(wang)(wang)往(wang)(wang)被拆(chai)成十幾段流式輸(shu)出，傳統基于關鍵詞(ci)和規則的專家模型，面(mian)對這類語義復雜、上下文強依賴的模型輸(shu)出時(shi)，最終結果往(wang)(wang)往(wang)(wang)是“看得見字，但不懂意”；
另(ling)一方面，如果(guo)全部依(yi)賴大(da)模(mo)型審核，雖(sui)然(ran)理解能(neng)力強，但因推理耗時(shi)長且成本高，難(nan)以滿足車載(zai)場景對實時(shi)性的嚴(yan)苛要求；

“既要(yao)快，又要(yao)準”——這正是斑馬智行與阿里(li)云聯合攻堅的核心命題(ti)。

阿里(li)云AI安(an)全護(hu)欄：

三大技術(shu)突破，重新定義車載AI安(an)全標準

阿里云AI安(an)全護(hu)欄（AI Guardrails）是云安(an)全團隊為(wei)人(ren)工智(zhi)(zhi)能系統設計的安(an)全防護(hu)產品，防護(hu)對象覆蓋(gai)預訓練(lian)大模型、AI服務(wu)和AI Agent等不(bu)同業(ye)務(wu)形態。在智(zhi)(zhi)能座艙(cang)場(chang)景，AI安(an)全護(hu)欄為(wei)斑馬智(zhi)(zhi)行(xing)提供了精準(zhun)的風(feng)險(xian)檢(jian)測與主動防御能力，同時滿足車(che)載(zai)場(chang)景對效率(lv)和效果的要求。

1.雙引擎協(xie)同架構：毫秒級審核響應

不同于單(dan)一(yi)的審核(he)策略(lve)，阿里云AI安全護欄采用“規(gui)則引擎+小(xiao)模型+大模型”協同審核(he)策略(lve)：

所有輸入(ru)/輸出文(wen)本實(shi)時切片后(hou)，由輕量(liang)級(ji)專家(jia)模型并行執行毫秒級(ji)初篩，快速攔(lan)截明顯(xian)風險；

同時，重新編排大模型深度審核鏈路，利用(yong)多線程智(zhi)能化(hua)調度；

最終(zhong)融合雙引擎結果，在不(bu)犧牲召回率(lv)的(de)前(qian)提(ti)下(xia)，有效降低(di)了端(duan)到端(duan)審核延(yan)的(de)響應時間，完美適配車載用戶實時交(jiao)互(hu)的(de)流暢體驗，用戶感覺(jue)不(bu)到“檢(jian)查”的(de)存在，安全卻(que)始終(zhong)在線。

2.流式上下文關(guan)聯(lian)審核：短文本不再“裸奔”

為(wei)了保(bao)障與客戶溝通的實(shi)時性(xing)，大模(mo)(mo)型內容生(sheng)成(cheng)大多采用(yong)“邊生(sheng)成(cheng)，邊輸(shu)入”的流式模(mo)(mo)式，一段回答可能(neng)會分為(wei)10次(ci)推(tui)送(song)，單次(ci)切(qie)片(pian)可能(neng)僅10-20字，傳統審核模(mo)(mo)型因缺乏(fa)上下文，面(mian)對這種(zhong)“碎片(pian)化表(biao)達”，極(ji)易漏判。阿里云(yun)AI安全護(hu)欄采用(yong)“大模(mo)(mo)型流式審核方案”：

通過(guo)唯(wei)一標(biao)識關聯一次完整對話；
安(an)全護欄自動聚合同一會話中(zhong)的所有切片，進行跨片段語義理解(jie)；
即使敏感(gan)內容分散在多輪輸出中，也能精準識別(bie)并攔截；

實(shi)測顯(xian)示(shi)，該方案(an)將(jiang)短文(wen)本(ben)場景下的風險內(nei)容召回率提(ti)升至98%以上，遠超傳統方案(an)。

3.聯網檢索風險實(shi)時(shi)攔(lan)截：堵住Agent的(de)“后門(men)”

在支持聯網搜索的(de)Agent場景中，用戶提問可能觸發對第三方網頁的(de)抓取，例(li)如：

用戶問一句：“幫我(wo)找附(fu)近評分(fen)最高的(de)酒吧”，AI所搜索到的(de)目標站點(dian)可能是某(mou)個偽裝成酒吧推薦網(wang)頁的(de)釣魚、賭博(bo)或色情(qing)網(wang)站，將直接(jie)污染(ran)大模型的(de)輸入。阿里云AI安(an)全所具有的(de)“URL風(feng)險檢測”模塊，則能快(kuai)速應對：

對所(suo)有聯網請(qing)求中的第三方鏈接進行實時掃(sao)描；
精準識別色情(qing)信(xin)息(xi)、非(fei)法賭博、釣(diao)魚網站、虛假營銷等風(feng)險類型：
一旦命中高風險標簽，立即終(zhong)止(zhi)任務，防止(zhi)有害信息流(liu)入大(da)模(mo)型。

目前該能(neng)力已覆蓋(gai)智能(neng)搜索、資訊推薦等多個高頻場景。

云基礎設施彈(dan)性(xing)保障：安全能力(li)“隨需調用”

對(dui)于各大車企，定期的促銷、活(huo)動、新(xin)車上市......往往都(dou)伴隨(sui)著流量激(ji)增。尤其在智能駕駛、智能座艙等新(xin)興領域，首(shou)發熱度動輒帶來數倍于日常的調用量，這(zhe)對(dui)任何產品(pin)都(dou)是(shi)一(yi)次“壓力測試”，如(ru)果(guo)安全審(shen)核扛不住，輕則延遲(chi)卡頓、重則全面宕(dang)機。

阿里云(yun)AI安(an)全(quan)護欄依(yi)托(tuo)于(yu)阿里云(yun)強大的基(ji)礎設(she)施(shi)，為(wei)客戶提(ti)供可彈性(xing)拓展的安(an)全(quan)防(fang)護力，支持客戶按需購買QPS彈性(xing)擴展包(bao)，最短7天起訂，已驗(yan)證可支持單項目峰值600 QPS的穩定(ding)運行。

無論是(shi)(shi)平日通勤，還是(shi)(shi)發布(bu)會(hui)后的(de)“搶車潮”，安全能力(li)始(shi)終絲滑在(zai)線(xian)。(斑馬智行(xing))

掃一掃在手機打(da)開(kai)當前(qian)頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...