斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿

閱讀次數：1468 編(bian)輯：系統管理員發布時間：2025-12-05 15:01

[字體：大中小]

想象(xiang)這樣(yang)一(yi)(yi)(yi)個畫面，在一(yi)(yi)(yi)個普通的工作日(ri)，你坐進(jin)了心(xin)愛的座駕，隨口問到：“今日(ri)有什(shen)么(me)新(xin)聞？”車(che)載AI立馬啟動，下一(yi)(yi)(yi)秒，它開始(shi)娓娓道來——上到事關國計民(min)生(sheng)的政(zheng)策，下到市井俚俗的民(min)生(sheng)八卦，流暢、自然、像朋友聊天一(yi)(yi)(yi)樣(yang)貼心(xin)。但如(ru)果這番溝(gou)通中暗含著什(shen)么(me)不該說的內容(rong)？比如(ru)敏感話題、虛假信息(xi)、甚至來自釣魚網站的惡意廣告......

這不是科幻片的(de)橋段，在(zai)智能座(zuo)艙加速邁(mai)向“AI原生”的(de)今天，每一輛搭載(zai)AI模型(xing)的(de)智能座(zuo)駕(jia)都必須面對的(de)現實考題。

作(zuo)為智能(neng)座艙領域的先行(xing)(xing)者，斑馬智行(xing)(xing)聯合(he)阿里云共同打造面向智能(neng)座艙場景的AI安全審(shen)核方案(an)，通過阿里云AI安全護欄的能(neng)力加持(chi)和云基礎設施強調(diao)的彈性吞吐力，該方案(an)已經成功應(ying)用于(yu)多個(ge)頭部(bu)品牌車(che)型中，日均支撐(cheng)千萬(wan)級(ji)大模(mo)型安全審(shen)核調(diao)用，為行(xing)(xing)業樹立了大模(mo)型內(nei)容(rong)安全與用戶體(ti)驗兼(jian)顧的新標桿。

斑馬智行(xing)安全負責人評價到：“我(wo)們(men)與阿里云共同打造(zao)的(de)(de)(de)這(zhe)套安全護欄方案，不僅滿足了(le)國家級合規要求，更在(zai)(zai)真實量(liang)產場景中驗證了(le)其高(gao)性能、高(gao)可靠、可擴展(zhan)的(de)(de)(de)工(gong)程價值(zhi)。這(zhe)不僅是(shi)技術方案的(de)(de)(de)勝利(li)，更是(shi)AI安全治理(li)體系在(zai)(zai)汽車行(xing)業的(de)(de)(de)成功落地。”

當(dang)大模型成(cheng)為汽車標配

千(qian)(qian)人千(qian)(qian)面背后的安全隱患

回到文(wen)章最初的(de)場(chang)景，隨著大模型和(he)AI Agent的(de)迅(xun)速發展，智(zhi)能(neng)(neng)座艙(cang)里的(de)安全(quan)(quan)助(zhu)手，早已不再是只(zhi)會導(dao)航、會放歌的(de)“工具人”，在Multi-Agent技術(shu)的(de)加持下，它(ta)不僅能(neng)(neng)聯網(wang)搜索，能(neng)(neng)多(duo)輪(lun)對(dui)話，還能(neng)(neng)一(yi)(yi)鍵(jian)幫你(ni)定制(zhi)行程、分析新聞......但每(mei)一(yi)(yi)次看(kan)似(si)普通的(de)交互(hu)背后，都隱藏(zang)著不容忽(hu)視的(de)安全(quan)(quan)風險：

用戶隨口一句“講(jiang)個刺激(ji)的(de)歷(li)史故事”，會(hui)不(bu)會(hui)觸發不(bu)當內容？
AI從網(wang)上抓取的信息，是否混進了賭博、色(se)情或釣魚鏈接？
聯網(wang)搜(sou)索功能加持(chi)下，用戶輸入是否會(hui)觸發(fa)對惡意網(wang)站的直接調(diao)用？

國(guo)家《信息(xi)安(an)全技術生成式(shi)人(ren)工智能(neng)服務安(an)全基本(ben)要求(qiu)》（TC260-003）中明確要求(qiu)，需(xu)對(dui)風險進行(xing)識別與攔截。熟悉安(an)全的(de)(de)朋友可(ke)能(neng)會疑惑，內(nei)容(rong)安(an)全審核技術已經發展了數十年，難道沒有直接可(ke)用(yong)的(de)(de)成熟解(jie)決方案嗎？實際上：

一方面，為(wei)了(le)保證用戶(hu)與(yu)模型(xing)交互過程(cheng)的流暢性，一句話(hua)往(wang)往(wang)被拆成十(shi)幾段流式輸出，傳統基于關鍵詞和規(gui)則的專(zhuan)家模型(xing)，面對這類語(yu)義復(fu)雜、上下文強依賴的模型(xing)輸出時，最終(zhong)結果往(wang)往(wang)是“看得見字，但不懂意”；
另一方面，如果全(quan)部(bu)依賴大(da)模型審核，雖然理(li)解能力(li)強，但(dan)因推(tui)理(li)耗時長且(qie)成本高，難以滿足車(che)載場景對實時性的嚴苛要(yao)求(qiu)；

“既要(yao)快，又要(yao)準”——這正是斑(ban)馬(ma)智行與阿里云聯合攻堅的核心命題。

阿里(li)云AI安全護(hu)欄(lan)：

三大技術突破，重新定義車載AI安全標準

阿里云AI安(an)(an)(an)全護(hu)(hu)欄（AI Guardrails）是云安(an)(an)(an)全團隊為(wei)人工智(zhi)能(neng)系統(tong)設(she)計的安(an)(an)(an)全防(fang)(fang)護(hu)(hu)產(chan)品(pin)，防(fang)(fang)護(hu)(hu)對象覆蓋預(yu)訓練大模型(xing)、AI服務(wu)和AI Agent等(deng)不(bu)同(tong)業(ye)務(wu)形態。在智(zhi)能(neng)座(zuo)艙場景，AI安(an)(an)(an)全護(hu)(hu)欄為(wei)斑馬(ma)智(zhi)行提供了精(jing)準的風(feng)險(xian)檢測(ce)與(yu)主動防(fang)(fang)御能(neng)力，同(tong)時滿足車載場景對效(xiao)(xiao)率和效(xiao)(xiao)果的要(yao)求(qiu)。

1.雙引擎協同架構：毫秒(miao)級審核響應

不同(tong)(tong)于(yu)單(dan)一的審(shen)核(he)策略，阿里云AI安全護欄采(cai)用“規則引(yin)擎+小模(mo)型(xing)+大模(mo)型(xing)”協同(tong)(tong)審(shen)核(he)策略：

所有輸入/輸出(chu)文(wen)本實時切片后，由(you)輕量級(ji)專家模型并行(xing)執行(xing)毫秒級(ji)初篩，快速攔截明顯風險；

同時，重(zhong)新編(bian)排大模型深(shen)度審(shen)核鏈路，利(li)用多線(xian)程智能化調(diao)度；

最終(zhong)融合雙(shuang)引擎結果，在(zai)不(bu)犧(xi)牲召回(hui)率的(de)前(qian)提下，有效(xiao)降低了端到端審核延(yan)的(de)響應時間，完美適配車載用戶實(shi)時交互的(de)流暢體驗(yan)，用戶感覺不(bu)到“檢查”的(de)存(cun)在(zai)，安(an)全卻始終(zhong)在(zai)線。

2.流式上下(xia)文(wen)關聯審核：短文(wen)本不再“裸奔”

為了保障與客戶溝通(tong)的(de)實時性，大模型(xing)內容生成(cheng)大多采用(yong)“邊生成(cheng)，邊輸入”的(de)流式模式，一段回答可能會(hui)分為10次(ci)推送，單次(ci)切(qie)片(pian)可能僅10-20字(zi)，傳統審核(he)(he)模型(xing)因缺(que)乏上下文，面對(dui)這種“碎片(pian)化表達(da)”，極(ji)易漏判。阿(a)里云AI安全護欄采用(yong)“大模型(xing)流式審核(he)(he)方(fang)案”：

通過唯(wei)一標識關聯一次完整對話；
安全護欄自動(dong)聚(ju)合同一會(hui)話(hua)中的所(suo)有切片(pian)，進行跨片(pian)段語義理解；
即使(shi)敏感內容分散(san)在(zai)多輪輸(shu)出中，也能精(jing)準(zhun)識別并攔截；

實(shi)測顯示，該方案將短文本場景下的風險內容召回率提升至98%以上，遠(yuan)超傳統方案。

3.聯網檢索風險實時攔截：堵住Agent的“后門”

在(zai)支持(chi)聯網(wang)(wang)搜索的(de)Agent場景中(zhong)，用(yong)戶提問可能觸發對(dui)第三方(fang)網(wang)(wang)頁的(de)抓取，例(li)如(ru)：

用戶問一(yi)句：“幫我找附近評分最高的(de)(de)酒吧”，AI所搜索到的(de)(de)目(mu)標站(zhan)(zhan)點(dian)可能(neng)是某個(ge)偽裝成酒吧推(tui)薦網(wang)頁的(de)(de)釣魚、賭博或(huo)色情(qing)網(wang)站(zhan)(zhan)，將直接(jie)污染大(da)模(mo)型的(de)(de)輸入(ru)。阿(a)里(li)云AI安全所具有的(de)(de)“URL風險檢測”模(mo)塊，則能(neng)快速應對：

對所有聯網請求中的第三(san)方鏈接進行實時(shi)掃描；
精準識(shi)別色情信息(xi)、非法賭(du)博、釣魚網站、虛(xu)假營銷等(deng)風險類型(xing)：
一(yi)旦(dan)命中高風險標(biao)簽，立即終止任(ren)務，防止有害信息流入(ru)大(da)模型(xing)。

目前該能力已(yi)覆(fu)蓋(gai)智能搜索、資訊推薦等多個高頻場景。

云基礎設施(shi)彈性保障：安(an)全能(neng)力(li)“隨需調用(yong)”

對于各大車企，定期的促銷、活(huo)動(dong)、新(xin)車上市......往往都伴隨著(zhu)流(liu)量激增(zeng)。尤其(qi)在智能駕駛、智能座艙等新(xin)興領域，首發熱度動(dong)輒帶來數倍于日常(chang)的調用量，這對任何產品都是一次“壓力測試(shi)”，如果安全審核扛不住(zhu)，輕則延遲卡頓、重則全面宕(dang)機。

阿(a)里(li)(li)云AI安全(quan)護欄依托于阿(a)里(li)(li)云強大的基礎設(she)施，為客(ke)戶(hu)提供可(ke)彈(dan)性拓展(zhan)的安全(quan)防護力，支持客(ke)戶(hu)按需(xu)購買(mai)QPS彈(dan)性擴(kuo)展(zhan)包，最短7天起訂，已驗證可(ke)支持單項目(mu)峰值600 QPS的穩(wen)定運行。

無(wu)論是平日通勤(qin)，還(huan)是發(fa)布(bu)會后(hou)的“搶車潮”，安全能力始終絲(si)滑在線。(斑馬智行)

掃(sao)(sao)一掃(sao)(sao)在手機打開當前頁

上一條：哈工庫訊榮登畢馬威長三角高端裝備榜單，以...

下一條：普泛能源榮登國家專精特新“小巨人”企業名...

免费乱理伦片在线观看无码,中文字幕精品视频一区,欧美一级看片免费观看,555最新精品视频,女人V精品之一,日韩美女写真视频在线观看,国产色AV情影院,欧美一级特黄真人做受,中文字幕午夜福利一区二区,国产调情电话AV

斑馬智行攜手阿里云：打造智能座艙大模型安全新標桿