接入DeepSeek后，理想又為車機(jī)自研了一個(gè)推理模型：
它能幫你編故事哄孩子，提供買房建議，還能制定旅游攻略，直接篩掉你不想要的體驗(yàn)。
雖然此前的推理模型也能勝任這些任務(wù)，不過理想自研推理模型有所不同——
它能自主分析，你的問題需要不需要思考，需要深度思考還是短思考。
行業(yè)爭著接入了DeepSeek的當(dāng)下，理想選了一條新路徑，打造了「汽車版DeepSeek」。
汽車版DeepSeek有什么特點(diǎn)？
為什么理想要花大力氣自研推理模型，而不是直接上車DeepSeek？
帶著這些問題，智能車參考第一時(shí)間上車“拷問”了一番理想同學(xué)：
不是，你一句“我不喝豆汁兒”，他就真給你做北京一日游攻略啊。
實(shí)測「汽車版DeepSeek」
更新理想OTA 7.2版本后，進(jìn)入語音設(shè)置界面會(huì)看到一個(gè)深度思考的按鈕，就像咱們?nèi)粘Ｓ玫腄eepSeek一樣，點(diǎn)擊打開：
你也可以用語音對話，讓理想同學(xué)幫你打開。
不過與常見推理模型不同的是，即便打開了深度思考開關(guān)，理想同學(xué)也不會(huì)每條對話都陷入沉思，而是模型自主決策要不要思考，要思考多久：
車控命令「不思考」，理想同學(xué)直接執(zhí)行簡單需求「短思考」，車機(jī)上方會(huì)顯示生成中
復(fù)雜需求才「深度思考」，理想同學(xué)還會(huì)說「emmm，我得想想」
實(shí)際體驗(yàn)下來，像“我好熱啊”、“腰好酸”、“還有多久到目的地”這類對話，即便是處于「深度思考」模式下，理想同學(xué)也會(huì)分別打開空調(diào)、座椅按摩、顯示目的地，瞬間響應(yīng)，無需思考。
而對于車主的一些復(fù)雜需求，比方說，你想去北京旅游，但又不想品鑒老北京豆汁兒，那就直接把定制攻略的需求說給理想同學(xué)。
稍等幾秒，私人定制的旅行攻略就出來了，精確到每個(gè)小時(shí)去哪兒玩，吃什么(pass掉了豆汁)，花多少錢。：
家孩子在車上不睡覺鬧騰，你可以讓TA現(xiàn)編個(gè)故事哄哄孩子：
老婆打電話溝通房子買哪兒，你也可以問問理想同學(xué)：
這都是理想同學(xué)深度思考后給出的答案，而且比常見的推理模型響應(yīng)要快一點(diǎn)。
自主選擇思考長度，更快的深度思考，這背后是怎么實(shí)現(xiàn)的？
「汽車版DeepSeek」的實(shí)現(xiàn)過程
理想此前自研的MindGPT大家都比較熟悉了，「汽車版DeepSeek」實(shí)際就是以MindGPT為基座模型，進(jìn)行了后訓(xùn)練，指令微調(diào)和強(qiáng)化學(xué)習(xí)多階段優(yōu)化。
首先，由于模型能力和數(shù)據(jù)質(zhì)量直接相關(guān)，所以理想在訓(xùn)練數(shù)據(jù)上做了非常細(xì)致的工作。
據(jù)介紹，理想基于過去已有的1100多個(gè)技能體系，根據(jù)問題復(fù)雜度和場景，對數(shù)據(jù)做了精細(xì)歸類。
數(shù)據(jù)類型主要分三種：
第一類，適合做長推理的多輪對話樣本，規(guī)模在數(shù)十萬級，用DeepSeek去產(chǎn)出思考過程，然后將產(chǎn)出結(jié)果作為訓(xùn)練深度思考能力的數(shù)據(jù)。
第二類，不適合做長推理，但是仍然需要短思考的數(shù)據(jù)，還是借助DeepSeek加工形成的短思考數(shù)據(jù)，規(guī)模大概在十萬級。
第三類則是以往存儲(chǔ)的不需要思考的數(shù)據(jù)，這部分?jǐn)?shù)據(jù)多，據(jù)了解規(guī)模在百萬級，理想從中做了抽樣。
這三類數(shù)據(jù)終合在一起對模型做后訓(xùn)練，模型就具備了長思考能力，同時(shí)也會(huì)自主決策是否需要思考，以及思考長短。
完成模型訓(xùn)練后，理想又遇到了另一個(gè)痛點(diǎn)：
如何讓模型在深度思考的同時(shí)，又能響應(yīng)的更快？
理想關(guān)注的首要指標(biāo)是首token響應(yīng)時(shí)間，快可達(dá)0.3秒。
背后主要是三項(xiàng)措施：
PD分離，將Prefill和Decoder分離部署由于Prefill階段對首Token影響大，這一階段采用高性能Attention機(jī)制多卡并行推理工程優(yōu)化
看上去實(shí)現(xiàn)過程并不復(fù)雜，但實(shí)際上理想遇到了很多挑戰(zhàn)，春節(jié)復(fù)工歸來就定下了4月初上新的時(shí)間點(diǎn)，然后開啟沖刺，時(shí)間緊，任務(wù)重。
為什么理想車端不直接用DeepSeek，而是自研推理模型？
為什么自研車端推理模型？
據(jù)理想汽車透露，其打造車端推理模型有內(nèi)外兩大因素：
據(jù)介紹，實(shí)際上此前理想的車主就有這方面需求。有的車主日常會(huì)問車機(jī)一些時(shí)事新聞，然后想了解背后的投資建議，比如近瘋漲的金價(jià)。
也有車主上班路上突然接到通知要開會(huì)，但是對會(huì)議主題涉及的市場又不夠了解，想讓模型歸納相關(guān)信息進(jìn)行分析。
過去的模型不能滿足車主這方面的需求，理想便考慮上車推理模型。
然后DeepSeek火爆海內(nèi)外，加速了上車過程。
DeepSeek強(qiáng)大的破圈效應(yīng)讓很多用戶第一次了解到AI的威力，原來AI可以深度思考，提供如此強(qiáng)大的分析能力。
有的車主就直接來問理想：
你們什么時(shí)候接入DeepSeek？
這樣的問題，相信業(yè)內(nèi)不只有理想收到了。這也是為什么春節(jié)復(fù)工后，一眾車企爭先宣布接入DeepSeek。
實(shí)際上，理想同學(xué)App此前也接入了滿血版的DeepSeek。
那為什么還要理想要在車端自研推理模型呢？
理想汽車認(rèn)為，DeepSeek更傾向電腦和手機(jī)等終端場景，車載場景更加垂直，不管是車主的相關(guān)知識(shí)需求，還是對話要求的響應(yīng)速度，都需要打造一個(gè)「汽車版DeepSeek」。
現(xiàn)有的推理模型，一般思考時(shí)間都比較長，而且思考后輸出的內(nèi)容也很長，但車主并不是每次對話都需要一個(gè)很豐富的內(nèi)容作為回應(yīng)。你是個(gè)好模型，只是咱們不合適。
所以理想認(rèn)為，需要一個(gè)「汽車版的DeepSeek」，能提高模型思考能力的同時(shí)，也能更靈活快速地響應(yīng)車主對話，避免車主問一個(gè)問題無法得到及時(shí)回復(fù)，而且回復(fù)顯得冗長。
模型自主決策是否思考和思考長度，這區(qū)別于目前的主流方案。
這一特性有希望推廣到其他場景嗎？
理想汽車也對未來趨勢做出了展望，這很可能會(huì)是后續(xù)AI助手應(yīng)用的一個(gè)發(fā)展方向。
結(jié)合當(dāng)前行業(yè)進(jìn)展，以及理想對理想同學(xué)的追求來看，或許理想未來會(huì)在端側(cè)部署大模型，以加快響應(yīng)車主相關(guān)需求。
也有分析指出，由于英偉達(dá)Thor即將上車，更充沛的算力和前瞻設(shè)計(jì)，也為未來實(shí)現(xiàn)「艙駕一體」提供了可能。
會(huì)深度思考的理想同學(xué)，是不是朝著李想此前提出的「硅基家人」，又近了一步doge？
理想自研推理模型，解決你的痛點(diǎn)了嗎？
本文鏈接：http://m.zh1234.com/news33477.html實(shí)測車載DeepSeek：做北京旅游攻略 避開喝豆汁兒那種
