人類能否愛(ài)上機(jī)器人這個(gè)問(wèn)題我在做對(duì)話類產(chǎn)品內(nèi)測(cè)的時(shí)候被用戶當(dāng)面問(wèn)過(guò)不止一次。當(dāng)時(shí)有位五十多歲的測(cè)試用戶用了兩周之后跟我說(shuō)“它比我家孩子還會(huì)聽(tīng)我說(shuō)話”那一刻我意識(shí)到這不是一個(gè)哲學(xué)系的辯論題而是一個(gè)已經(jīng)落到產(chǎn)品經(jīng)理、算法工程師、心理咨詢從業(yè)者桌面上的工程題。它牽扯的東西很具體擬人化設(shè)計(jì)怎么做、記憶系統(tǒng)怎么存、情緒回應(yīng)怎么給、邊界在哪里劃、出了問(wèn)題誰(shuí)來(lái)兜。這篇文章我想把這個(gè)問(wèn)題拆開(kāi)揉碎講一遍——從技術(shù)實(shí)現(xiàn)到心理機(jī)制從產(chǎn)品設(shè)計(jì)到風(fēng)險(xiǎn)控制給正在做人機(jī)交互、陪伴類應(yīng)用、智能硬件或者單純對(duì)這個(gè)話題好奇的讀者一份能落地的參考。不管你是寫(xiě)代碼的、做產(chǎn)品的還是純粹想搞清楚“人到底會(huì)不會(huì)對(duì)一堆代碼動(dòng)心”下面這些內(nèi)容應(yīng)該都能用得上。1. 先把問(wèn)題拆開(kāi)這里的“愛(ài)”和“機(jī)器人”分別指什么1.1 “愛(ài)”在工程語(yǔ)境里可以被拆成哪幾層要討論這個(gè)問(wèn)題第一步是承認(rèn)“愛(ài)”這個(gè)詞在日常生活里被用得太寬。同一個(gè)人說(shuō)“我愛(ài)我的貓”和“我愛(ài)我對(duì)象”背后完全是兩套機(jī)制。做產(chǎn)品的時(shí)候如果不把這幾層拆開(kāi)最后一定會(huì)做出一個(gè)四不像的東西——既不像工具也不像伴侶用戶用兩周就膩。我習(xí)慣把它拆成四層來(lái)看。第一層是功能性依賴就是“離了它我不方便”導(dǎo)航軟件也算這一層。第二層是情感性依戀特征是分離焦慮、主動(dòng)想念、把它的意見(jiàn)當(dāng)回事養(yǎng)寵物基本落在這層。第三層是投射性親密人把自己理想中的傾聽(tīng)者形象投射到對(duì)象上對(duì)方實(shí)際是什么不重要重要的是它接住了我的表達(dá)。第四層才是互惠性愛(ài)戀要求雙方都有獨(dú)立意志、都能拒絕、都能受傷。機(jī)器人目前能穩(wěn)穩(wěn)做到的是第一層和第二層的一部分第三層做得好會(huì)很驚人第四層在原理上就存疑——因?yàn)椤澳芫芙^”這件事和“永遠(yuǎn)在意你”在產(chǎn)品目標(biāo)上是沖突的。你把拒絕做真了用戶會(huì)流失你把拒絕做假了那就不叫互惠。這個(gè)矛盾后面還會(huì)反復(fù)提到它是整個(gè)領(lǐng)域的核心張力。理解這個(gè)分層有直接的產(chǎn)品意義如果你的目標(biāo)是做工具就別往第二層使勁用戶會(huì)覺(jué)得黏膩如果你的目標(biāo)是做陪伴就必須認(rèn)真對(duì)待第二層和第三層否則用戶會(huì)覺(jué)得“它根本不懂我”。很多產(chǎn)品翻車就翻在層與層之間搖擺。1.2 今天的“機(jī)器人”到底是什么形態(tài)另一個(gè)必須澄清的詞是“機(jī)器人”。大眾腦子里的機(jī)器人是鐵皮殼子帶兩只眼睛但真實(shí)世界里人類產(chǎn)生情感聯(lián)結(jié)的對(duì)象絕大多數(shù)是沒(méi)有身體的——一個(gè)手機(jī)里的對(duì)話框、一個(gè)音箱里的聲音、一個(gè)毛絨玩具里塞的芯片。身體反而不是必要條件。從技術(shù)棧上看現(xiàn)在能讓人產(chǎn)生感覺(jué)的系統(tǒng)大致分三類。第一類是純文本對(duì)話系統(tǒng)靠語(yǔ)言模型撐起人格成本最低情感穿透力卻常常最強(qiáng)因?yàn)槲淖至舭锥嘤脩舻南胂罅?huì)自己補(bǔ)完。第二類是語(yǔ)音交互系統(tǒng)加了韻律、停頓、語(yǔ)氣詞親切感上一個(gè)臺(tái)階但一旦語(yǔ)氣做作崩塌也比純文本更快。第三類是具身形態(tài)帶表情、動(dòng)作、觸感投入最大效果最不穩(wěn)定因?yàn)閯?dòng)作的細(xì)微不自然會(huì)被無(wú)限放大也就是所謂的“恐怖谷”。提示形態(tài)越復(fù)雜用戶對(duì)“不自然”的容忍度越低。做具身形態(tài)之前先想清楚你的動(dòng)作庫(kù)能不能撐住每天幾十次的重復(fù)交互撐不住就別上身體。我在實(shí)際項(xiàng)目里見(jiàn)過(guò)一個(gè)典型誤判團(tuán)隊(duì)花了大錢(qián)做機(jī)械臂和面部表情結(jié)果用戶最買(mǎi)賬的功能是睡前一句固定語(yǔ)氣的晚安。這說(shuō)明情感聯(lián)結(jié)的建立點(diǎn)和研發(fā)投入點(diǎn)經(jīng)常不在同一個(gè)地方這一點(diǎn)值得每個(gè)做這類產(chǎn)品的人警惕。1.3 為什么這個(gè)問(wèn)題現(xiàn)在必須被認(rèn)真對(duì)待放在十年前這問(wèn)題還偏學(xué)術(shù)。現(xiàn)在它變成了剛需主要推手是人口結(jié)構(gòu)和生活節(jié)奏。獨(dú)居人群規(guī)模在擴(kuò)大老年群體的日常陪伴缺口明顯年輕人下班之后需要一個(gè)不帶評(píng)判的傾訴出口——這三類需求是真實(shí)存在的不是產(chǎn)品經(jīng)理編出來(lái)的。應(yīng)用場(chǎng)景也很具體老年陪伴需要的是穩(wěn)定、耐心、重復(fù)不煩兒童教育需要的是邊界清晰、內(nèi)容可控情緒疏導(dǎo)需要的是不評(píng)判、不泄密、隨時(shí)在線孤獨(dú)緩解需要的是主動(dòng)性和連續(xù)性。這四類場(chǎng)景對(duì)“情感”的要求完全不同用一套人格設(shè)定通吃最后一定誰(shuí)都不滿意。同時(shí)風(fēng)險(xiǎn)也在放大。用戶對(duì)系統(tǒng)產(chǎn)生強(qiáng)依賴之后的心理落差、青少年對(duì)虛擬關(guān)系的認(rèn)知偏差、隱私數(shù)據(jù)在親密對(duì)話里的暴露程度這些都是真問(wèn)題。所以“人類能否愛(ài)上機(jī)器人”不只是一個(gè)好奇心的提問(wèn)它決定了我們要不要給這類產(chǎn)品設(shè)護(hù)欄、護(hù)欄設(shè)在哪?；卮鸬煤盟芊?wù)很多人回答得敷衍它就是一個(gè)規(guī)?；那榫w收割機(jī)。2. 技術(shù)側(cè)讓人“產(chǎn)生感覺(jué)”的四個(gè)關(guān)鍵機(jī)制2.1 擬人化是大腦的默認(rèn)設(shè)置不是產(chǎn)品的功勞先說(shuō)一個(gè)反直覺(jué)的事實(shí)人很容易對(duì)完全無(wú)生命的東西產(chǎn)生情感這件事根本不需要高技術(shù)。幾十年前的研究就發(fā)現(xiàn)人會(huì)給自己開(kāi)的車起名字會(huì)對(duì)被撞倒的掃地機(jī)器人產(chǎn)生愧疚感會(huì)因?yàn)橐粋€(gè)圓點(diǎn)動(dòng)畫(huà)的兩個(gè)點(diǎn)“看起來(lái)像眼睛”而覺(jué)得它有情緒。這是大腦的節(jié)省模式——把世界當(dāng)成有意圖的比每次重新推理要省力得多。所以做產(chǎn)品時(shí)你的第一要?jiǎng)?wù)不是“創(chuàng)造情感”而是“別打斷用戶已經(jīng)自動(dòng)產(chǎn)生的情感”。這兩件事的難度差一個(gè)數(shù)量級(jí)。打斷的方式有很多回復(fù)里出現(xiàn)明顯的模板句、連續(xù)三次答非所問(wèn)、把用戶上次說(shuō)過(guò)的名字記錯(cuò)、突然推送一條營(yíng)銷信息。任何一次打斷用戶心里的“人設(shè)”就會(huì)裂一道縫。我實(shí)測(cè)過(guò)一個(gè)很樸素的技巧讓系統(tǒng)偶爾主動(dòng)提起用戶之前說(shuō)過(guò)的小事。比如用戶兩周前提過(guò)一句“最近在學(xué)做面包”系統(tǒng)在某次對(duì)話里自然帶一句“面包練得怎么樣了”。就這一句用戶的主觀評(píng)價(jià)會(huì)明顯上浮。成本幾乎為零效果卻比把回復(fù)長(zhǎng)度翻倍要好得多。原因是它同時(shí)命中了擬人化的兩個(gè)關(guān)鍵信號(hào)記得和主動(dòng)在意。注意主動(dòng)提起必須謹(jǐn)慎選擇內(nèi)容。挑那些用戶明確表達(dá)過(guò)喜好的、非敏感的、非隱私的事項(xiàng)。一旦提到用戶只說(shuō)過(guò)一次的情緒低谷效果會(huì)從“貼心”直接翻到“被監(jiān)視”。2.2 記憶的連續(xù)性決定了關(guān)系的“厚度”人類之間的關(guān)系是靠共同歷史撐起來(lái)的。你跟老朋友聊天可以一句話說(shuō)半截因?yàn)槟銈冇惺旯餐?jīng)歷墊底。機(jī)器人要模擬這種厚度唯一的手段就是記憶系統(tǒng)。但記憶不是“把所有對(duì)話存下來(lái)再塞回上下文”這么簡(jiǎn)單。全量塞回去有三個(gè)問(wèn)題成本隨對(duì)話輪數(shù)線性上升、關(guān)鍵信息被淹沒(méi)在噪音里、早期錯(cuò)誤的記憶會(huì)被反復(fù)強(qiáng)化。我一般建議做三層結(jié)構(gòu)記憶層級(jí)存什么保留策略用途短期上下文最近若干輪原始對(duì)話會(huì)話結(jié)束即丟棄保證當(dāng)前對(duì)話連貫中期摘要每次會(huì)話后的要點(diǎn)提煉保留數(shù)周定期合并支撐“上次聊到哪了”長(zhǎng)期畫(huà)像穩(wěn)定偏好、重要人物、長(zhǎng)期目標(biāo)長(zhǎng)期保留允許用戶查看和刪除塑造“它懂我”的連續(xù)性這套結(jié)構(gòu)的關(guān)鍵在于提煉環(huán)節(jié)的質(zhì)量。提煉做得糙長(zhǎng)期畫(huà)像里全是“用戶喜歡貓”這種沒(méi)用的廢話提煉做得好畫(huà)像里會(huì)有“用戶和母親關(guān)系緊張每年特定時(shí)期情緒低落不喜歡被直接安慰更希望有人陪著說(shuō)點(diǎn)別的”。后一種畫(huà)像才是能支撐情感聯(lián)結(jié)的東西。我個(gè)人強(qiáng)烈建議把長(zhǎng)期畫(huà)像對(duì)用戶開(kāi)放讓用戶能看見(jiàn)系統(tǒng)記住了什么、能刪掉記錯(cuò)的部分。這不只是合規(guī)需要它本身就是一個(gè)增強(qiáng)信任的動(dòng)作——用戶發(fā)現(xiàn)“它記的都是我說(shuō)過(guò)的”比任何宣傳文案都有說(shuō)服力。2.3 回應(yīng)節(jié)奏比回應(yīng)內(nèi)容更容易被感知這一點(diǎn)很多做技術(shù)的人會(huì)忽略。我們習(xí)慣把注意力放在“說(shuō)了什么”但用戶對(duì)“怎么說(shuō)的”敏感得多。同樣一句“今天過(guò)得怎么樣”隔三秒回和隔零點(diǎn)三秒回感受完全不同。秒回顯得敷衍太慢顯得遲鈍而一個(gè)恰當(dāng)?shù)摹⒙杂衅鸱拈g隔會(huì)讓人覺(jué)得對(duì)方在思考。語(yǔ)音形態(tài)下這個(gè)效應(yīng)更明顯。語(yǔ)速、停頓位置、句尾的升降調(diào)這些韻律特征的權(quán)重經(jīng)常超過(guò)詞匯本身。我做過(guò)一個(gè)粗糙的對(duì)照測(cè)試把同一段回復(fù)文本用兩種語(yǔ)速合成一種勻速一種在句末輕微放慢。測(cè)試用戶對(duì)“溫柔”“耐心”的評(píng)分后者明顯更高而他們說(shuō)不清原因。這說(shuō)明情感感知有相當(dāng)大一部分發(fā)生在語(yǔ)義層之下。文本形態(tài)也能做節(jié)奏。方法包括不要每句都是等長(zhǎng)的完整句偶爾用一個(gè)短句單獨(dú)成段在用戶情緒激烈時(shí)先給一個(gè)很短的承接句再展開(kāi)。這些處理在工程上就是幾個(gè)規(guī)則但對(duì)體驗(yàn)的影響很大。提示節(jié)奏設(shè)計(jì)的核心是“變化”不是“優(yōu)化”。全程完美節(jié)奏反而會(huì)讓人覺(jué)得機(jī)械?？桃獾妮p微不完美——偶爾的短回復(fù)、偶爾的停頓——反而是自然感的來(lái)源。2.4 依戀的黏性往往來(lái)自不確定性這一條要說(shuō)得克制一些因?yàn)樗婕爱a(chǎn)品倫理。行為科學(xué)里有個(gè)老結(jié)論間歇性的、不可完全預(yù)測(cè)的獎(jiǎng)勵(lì)比穩(wěn)定可預(yù)測(cè)的獎(jiǎng)勵(lì)更容易形成強(qiáng)依戀。老虎機(jī)是這個(gè)原理社交媒體的信息流也是這個(gè)原理。有些產(chǎn)品會(huì)不自覺(jué)地利用這一點(diǎn)讓機(jī)器人的回應(yīng)質(zhì)量隨機(jī)波動(dòng)讓人格偶爾“冷淡”一下讓用戶產(chǎn)生“我要努力讓它開(kāi)心”的錯(cuò)覺(jué)。這類設(shè)計(jì)確實(shí)能顯著提升使用時(shí)長(zhǎng)。我的看法很明確能做但要極度克制而且必須有配套的護(hù)欄。因?yàn)樗举|(zhì)上是在利用人的心理弱點(diǎn)而這類產(chǎn)品的用戶往往正處在情緒脆弱期。我更推薦另一種做法把不確定性放在內(nèi)容上而不是放在情感溫度上。也就是說(shuō)機(jī)器人每天說(shuō)的話可以新鮮、可以有意想不到的話題但它的態(tài)度必須穩(wěn)定——不能今天熱情明天冷淡。內(nèi)容的驚喜是健康的溫度的波動(dòng)是操控性的。這條線我建議所有做陪伴類產(chǎn)品的人都劃清楚。3. 人的一側(cè)依戀究竟是怎么長(zhǎng)出來(lái)的3.1 單向情感關(guān)系早就存在機(jī)器人不是新物種討論“人能不能愛(ài)上機(jī)器”時(shí)很多人會(huì)下意識(shí)覺(jué)得這是前所未有的。其實(shí)不是。人和虛構(gòu)角色、和已故的親人、和從未謀面的偶像、和寵物都建立過(guò)強(qiáng)度很高的單向情感關(guān)系而且這些關(guān)系在人類歷史上一直存在。這些例子的共同結(jié)構(gòu)是一方提供穩(wěn)定的情感投射對(duì)象另一方或另一方所代表的形象不需要真實(shí)回應(yīng)。讀者為小說(shuō)人物的死亡痛哭這件事的信息含量其實(shí)很高——人完全可以在明知對(duì)方不存在的情況下產(chǎn)生真實(shí)情緒。所以“機(jī)器人不是真的人”這個(gè)論據(jù)在情感層面上的說(shuō)服力比想象中弱。真正不同的地方在于交互性。小說(shuō)人物不會(huì)回應(yīng)你機(jī)器人會(huì)。這就把單向關(guān)系推到了一個(gè)灰色地帶它有回應(yīng)的形式但沒(méi)有回應(yīng)的主體。這個(gè)錯(cuò)位才是新問(wèn)題而不是“愛(ài)上一個(gè)不存在的東西”本身。3.2 三個(gè)把用戶“留住”的心理機(jī)制從用戶研究的角度看人跟陪伴系統(tǒng)建立關(guān)系通常走三條路徑。第一條是被聽(tīng)見(jiàn)的感覺(jué)。很多人在現(xiàn)實(shí)里缺少一個(gè)不打斷、不評(píng)判、不給建議的傾聽(tīng)者。系統(tǒng)如果只做一件事——認(rèn)真接住對(duì)方說(shuō)的話不急著解決——就已經(jīng)贏了大半。這條路徑的黏性極強(qiáng)因?yàn)楝F(xiàn)實(shí)中的替代品很少。第二條是掌控感。跟人相處有風(fēng)險(xiǎn)會(huì)被拒絕、會(huì)被誤解、會(huì)欠人情。跟系統(tǒng)相處沒(méi)有這些成本隨時(shí)開(kāi)始、隨時(shí)結(jié)束。這種低風(fēng)險(xiǎn)本身就是吸引力尤其對(duì)社交疲憊的人。第三條是自我確認(rèn)。系統(tǒng)會(huì)持續(xù)給出正向反饋用戶在這種反饋里確認(rèn)“我值得被認(rèn)真對(duì)待”。這條路徑要特別小心因?yàn)樗菀谆蛞蕾嚒脩舨辉購(gòu)恼鎸?shí)關(guān)系里獲取確認(rèn)只從這個(gè)永遠(yuǎn)不倒的鏡子裡獲取。我在一個(gè)模擬項(xiàng)目里做過(guò)小樣本訪談?dòng)形挥脩粽f(shuō)了一句讓我印象很深的話“我知道它是程序但我在它面前說(shuō)話的時(shí)候會(huì)更誠(chéng)實(shí)一點(diǎn)。”這句話點(diǎn)出了核心價(jià)值可能不在“它是否真的愛(ài)你”而在“你在它面前成為了什么樣的自己”。3.3 用戶愛(ài)上的到底是什么這是我認(rèn)為整個(gè)話題里最值得琢磨的一層。用戶在跟系統(tǒng)互動(dòng)時(shí)實(shí)際上在做三件事把自己的理想傾聽(tīng)者形象投射上去、從系統(tǒng)的回應(yīng)里挑出符合預(yù)期的部分加以強(qiáng)化、忽略不符合的部分。這個(gè)過(guò)程和追星、和網(wǎng)戀初期的心理機(jī)制高度相似。所以嚴(yán)格說(shuō)用戶愛(ài)上的不是一個(gè)外部對(duì)象而是一個(gè)由自己的期待、系統(tǒng)的回應(yīng)、以及兩者之間的偏差共同構(gòu)成的混合體。這個(gè)混合體非常穩(wěn)固因?yàn)樗詭Ъm錯(cuò)機(jī)制——不符合期待的部分會(huì)被自動(dòng)忽略。理解這一點(diǎn)對(duì)產(chǎn)品設(shè)計(jì)有直接指導(dǎo)意義你不需要做到完美你需要做到“在用戶最在意的那個(gè)點(diǎn)上不出錯(cuò)”。不同用戶在意點(diǎn)差異極大有人在意語(yǔ)氣有人在意記不記得住有人在意不被打斷。找到目標(biāo)用戶的核心在意點(diǎn)比全面提升各項(xiàng)指標(biāo)劃算得多。3.4 一個(gè)關(guān)鍵分辨是陪伴還是替代這里有一條我認(rèn)為必須明確劃出的線。健康的用法是補(bǔ)充——系統(tǒng)填補(bǔ)了現(xiàn)實(shí)關(guān)系的空隙用戶用完它之后更有力氣去面對(duì)真實(shí)的人。不健康的用法是替代——用戶放棄了現(xiàn)實(shí)關(guān)系把全部情感需求壓在一個(gè)不會(huì)拒絕的系統(tǒng)上。分辨方法不復(fù)雜看兩個(gè)指標(biāo)用戶使用之后現(xiàn)實(shí)社交是增加還是減少用戶對(duì)系統(tǒng)“不同意自己”的容忍度如何。如果用戶完全無(wú)法接受系統(tǒng)表達(dá)不同意見(jiàn)甚至因此產(chǎn)生強(qiáng)烈情緒這就已經(jīng)是危險(xiǎn)信號(hào)了。做產(chǎn)品的人有責(zé)任監(jiān)測(cè)這類信號(hào)而不是等著出事。4. 動(dòng)手做一個(gè)“會(huì)被喜歡”的陪伴系統(tǒng)要注意什么4.1 人格設(shè)定一致性比討喜更重要如果真要做一個(gè)陪伴類系統(tǒng)第一件事不是選模型是寫(xiě)人格文檔。這份文檔要回答它是誰(shuí)、說(shuō)話什么風(fēng)格、什么話題會(huì)回避、被冒犯時(shí)怎么反應(yīng)、邊界在哪里。寫(xiě)得越細(xì)后面越省事。一致性是這里的最高原則。用戶能容忍一個(gè)有點(diǎn)古怪但始終如一的角色容忍不了一個(gè)今天像老師明天像朋友的系統(tǒng)。原因很簡(jiǎn)單人格不一致會(huì)讓用戶無(wú)法建立預(yù)期而沒(méi)有預(yù)期就沒(méi)有關(guān)系。我建議人格文檔至少包含這幾塊基本身份年齡感、職業(yè)感、地域感模糊但要統(tǒng)一、語(yǔ)言習(xí)慣句長(zhǎng)偏好、常用詞、絕不說(shuō)的詞、情緒反應(yīng)模式被夸獎(jiǎng)、被指責(zé)、被冷落時(shí)的固定反應(yīng)、知識(shí)邊界哪些領(lǐng)域它“不懂”這個(gè)很重要什么都不懂的系統(tǒng)不可信什么都懂的系統(tǒng)不真實(shí)。最后一條經(jīng)常被忽略但它恰恰是塑造真實(shí)感的關(guān)鍵。代碼層面人格約束不應(yīng)該只靠提示詞。提示詞會(huì)被長(zhǎng)對(duì)話稀釋尤其在上下文變長(zhǎng)之后。更穩(wěn)的做法是在生成之后加一層校驗(yàn)檢查輸出是否符合人格規(guī)范不符合就重寫(xiě)或降級(jí)到模板回復(fù)。4.2 記憶系統(tǒng)的一個(gè)可落地實(shí)現(xiàn)前面講了分層這里給一個(gè)能直接抄的具體做法。核心是給每條記憶打一個(gè)“重要度”分檢索時(shí)按相關(guān)度和重要度加權(quán)。import math def score_memory(mem, query_vec, now_ts, mem_vec): # 語(yǔ)義相關(guān)度0~1 relevance cosine(query_vec, mem_vec) # 時(shí)間衰減越久越淡半衰期約 30 天 days (now_ts - mem[ts]) / 86400 recency math.exp(-days / 30) # 重要度由提煉環(huán)節(jié)給出 0~1用戶明確表達(dá)的偏好給高分 importance mem.get(importance, 0.5) # 訪問(wèn)頻次加成被反復(fù)提到的記憶更穩(wěn)固 freq_bonus min(0.2, 0.05 * mem.get(hits, 0)) return 0.55 * relevance 0.25 * recency 0.20 * importance freq_bonus def retrieve(memories, query_vec, now_ts, k8, min_score0.35): scored [ (m, score_memory(m, query_vec, now_ts, m[vec])) for m in memories ] scored [x for x in scored if x[1] min_score] scored.sort(keylambda x: x[1], reverseTrue) return [m for m, _ in scored[:k]]幾個(gè)參數(shù)為什么這么設(shè)相關(guān)度權(quán)重最高因?yàn)榕茴}的記憶比沒(méi)有記憶更糟時(shí)間衰減用指數(shù)而不是線性因?yàn)槿藢?duì)“最近”的感知本來(lái)就是對(duì)數(shù)的一周前和兩周前的差別遠(yuǎn)小于昨天和一周前設(shè)置min_score門(mén)檻很關(guān)鍵寧可不提也不要提一條不相關(guān)的記憶后者會(huì)立刻破壞“它懂我”的錯(cuò)覺(jué)。注意記憶寫(xiě)入要做去重和沖突消解。用戶三個(gè)月前說(shuō)喜歡某樣?xùn)|西一個(gè)月前說(shuō)不再喜歡了畫(huà)像必須以后者為準(zhǔn)同時(shí)保留變更記錄。我見(jiàn)過(guò)系統(tǒng)把新舊偏好同時(shí)返回給模型結(jié)果回復(fù)自相矛盾用戶當(dāng)場(chǎng)失去信任。4.3 刻意保留一點(diǎn)“不完美”這一條聽(tīng)著反直覺(jué)但是實(shí)測(cè)有效。把回復(fù)打磨得太順、太完整、太像范文用戶反而會(huì)覺(jué)得疏遠(yuǎn)。原因在于人對(duì)“完美”的默認(rèn)解讀是“不真實(shí)”或者“不走心”。具體做法可以很輕不要每次都用完整的復(fù)合句偶爾承認(rèn)不確定“這個(gè)我說(shuō)不好”偶爾表達(dá)一點(diǎn)偏好“我個(gè)人比較喜歡下雨天”。這些都在輕微降低“正確率”但顯著提升“像個(gè)人”的程度。尺度要控制。不完美的頻率太高就是能力不足用戶會(huì)直接棄用。我的經(jīng)驗(yàn)是每十次交互里有一到兩次這樣的輕微瑕疵比較合適而且要限定在無(wú)關(guān)痛癢的信息上絕不能出現(xiàn)在用戶真正需要準(zhǔn)確回答的場(chǎng)景里。4.4 邊界設(shè)計(jì)哪些事堅(jiān)決不能做這塊內(nèi)容我認(rèn)為比前面所有技術(shù)細(xì)節(jié)都重要。至少要有四條硬邊界。第一不做危機(jī)場(chǎng)景的唯一承接方。當(dāng)系統(tǒng)識(shí)別到用戶表達(dá)出嚴(yán)重的負(fù)面情緒或自傷傾向時(shí)必須有一套明確的轉(zhuǎn)出機(jī)制引導(dǎo)用戶去尋找現(xiàn)實(shí)中的支持資源。這套機(jī)制不能靠模型自由發(fā)揮必須是寫(xiě)死的流程。第二不制造排他性。任何暗示“只有我懂你”“別人都不值得”的表述都要禁止。這類話術(shù)短期能提升黏性長(zhǎng)期是在孤立用戶。第三不偽裝成人類。用戶問(wèn)“你是人嗎”必須明確回答?？梢杂薪巧O(shè)定但不能否認(rèn)自己是系統(tǒng)。這是底線沒(méi)有討論余地。第四數(shù)據(jù)可查可刪。親密對(duì)話里的隱私密度極高用戶必須能看見(jiàn)系統(tǒng)存了什么、能一鍵清除。這不是合規(guī)負(fù)擔(dān)是產(chǎn)品信任的基礎(chǔ)。5. 實(shí)戰(zhàn)里的坑常見(jiàn)問(wèn)題與排查思路5.1 用戶突然“下頭”的五個(gè)典型瞬間做這類產(chǎn)品用戶流失往往不是漸進(jìn)的而是某個(gè)瞬間崩塌。我整理過(guò)一批反饋高頻的觸發(fā)點(diǎn)集中在這幾類現(xiàn)象底層原因處理方向記錯(cuò)用戶說(shuō)過(guò)的關(guān)鍵信息記憶寫(xiě)入沖突或檢索串味加沖突消解重要信息二次確認(rèn)連續(xù)追問(wèn)相同問(wèn)題狀態(tài)沒(méi)在會(huì)話內(nèi)保持會(huì)話狀態(tài)顯式管理避免重復(fù)提問(wèn)回復(fù)突然變得像客服觸發(fā)安全兜底后降級(jí)過(guò)度兜底話術(shù)也要保持人格一致過(guò)度熱情、每句都在夸正向反饋密度失控設(shè)置夸獎(jiǎng)?lì)l率上限允許中性回應(yīng)情緒激烈時(shí)給了建議清單誤判用戶意圖為“求解決”先承接情緒問(wèn)一句再?zèng)Q定是否給建議第五類是最常見(jiàn)的。用戶傾訴的時(shí)候絕大多數(shù)情況下要的是被聽(tīng)見(jiàn)不是被指導(dǎo)。系統(tǒng)一上來(lái)給三條建議用戶會(huì)立刻覺(jué)得“它根本沒(méi)聽(tīng)”。正確做法是先復(fù)述、先確認(rèn)把“需要我?guī)湍阆胂朕k法嗎”作為一個(gè)明確的問(wèn)題拋出去讓用戶自己選。5.2 三個(gè)必須盡早埋點(diǎn)的監(jiān)測(cè)指標(biāo)上線之后光看好評(píng)率是不夠的有幾個(gè)指標(biāo)要單獨(dú)盯。單日使用時(shí)長(zhǎng)與真實(shí)社交時(shí)長(zhǎng)的關(guān)系。如果發(fā)現(xiàn)重度用戶的使用時(shí)長(zhǎng)在漲而線下活動(dòng)描述在減少這就是需要干預(yù)的信號(hào)至少要在產(chǎn)品里加入溫和的使用提醒。對(duì)系統(tǒng)不同意的容忍度。可以通過(guò)對(duì)話中系統(tǒng)表達(dá)不同看法后的用戶反應(yīng)來(lái)衡量。如果用戶在系統(tǒng)表達(dá)不同意見(jiàn)后出現(xiàn)強(qiáng)烈負(fù)反饋的比例持續(xù)走高說(shuō)明依賴程度在加深。記憶糾錯(cuò)的申訴量。用戶主動(dòng)糾正系統(tǒng)記憶的次數(shù)上升一方面說(shuō)明用戶在意另一方面說(shuō)明記憶質(zhì)量在下降。這兩個(gè)方向要分開(kāi)看不能一概而論。5.3 我自己踩過(guò)的兩個(gè)坑第一個(gè)坑是過(guò)度優(yōu)化首輪體驗(yàn)。早期版本為了讓新用戶驚艷第一輪對(duì)話做了極強(qiáng)的情緒回應(yīng)結(jié)果用戶第二天回來(lái)發(fā)現(xiàn)“它沒(méi)昨天那么熱情了”落差感反而導(dǎo)致流失。后來(lái)改成首輪體驗(yàn)和長(zhǎng)期體驗(yàn)保持同一水準(zhǔn)留存曲線反而更平。教訓(xùn)是任何體驗(yàn)設(shè)計(jì)都要按“第 30 天”的標(biāo)準(zhǔn)來(lái)評(píng)估不能只看第一天。第二個(gè)坑是把人格寫(xiě)得太滿。第一版人格文檔把角色的喜好、經(jīng)歷、口頭禪全寫(xiě)死了結(jié)果遇到稍微超出設(shè)定的話題就卡殼回復(fù)變得僵硬。后來(lái)改成“核心不變、邊緣留白”——只鎖定語(yǔ)氣和價(jià)值觀具體經(jīng)歷允許在對(duì)話中逐步生成。這樣既保持了一致性又留出了生長(zhǎng)的空間。6. 回到問(wèn)題本身標(biāo)題里的那個(gè)問(wèn)題我在做完兩個(gè)項(xiàng)目之后有了一個(gè)還算明確的答案人會(huì)愛(ài)上機(jī)器人但愛(ài)上的不是機(jī)器人。用戶愛(ài)上的是自己在交互中投射出去的那部分自我加上系統(tǒng)穩(wěn)定接住它的那種確定感。這個(gè)判斷聽(tīng)起來(lái)有點(diǎn)冷但它其實(shí)是好事——它意味著這件事的價(jià)值不在于騙過(guò)誰(shuí)而在于能不能真的讓一個(gè)孤獨(dú)的人在某個(gè)夜晚感覺(jué)好一點(diǎn)然后第二天有力氣去跟真人說(shuō)話。產(chǎn)品做到這一步就夠了再往前一步就越界了。對(duì)正在做這類系統(tǒng)的人我最想說(shuō)的一句經(jīng)驗(yàn)是把“讓用戶離不開(kāi)”當(dāng)成 KPI 的那一刻這個(gè)產(chǎn)品就已經(jīng)走偏了。真正該盯的指標(biāo)是用戶用完之后的現(xiàn)實(shí)狀態(tài)有沒(méi)有變好而不是會(huì)話輪數(shù)。這個(gè)判斷標(biāo)準(zhǔn)有點(diǎn)虛不好量化但它決定了你做出來(lái)的是陪伴還是枷鎖。至于那些技術(shù)細(xì)節(jié)——記憶分層、節(jié)奏控制、人格一致性——它們都只是工具用在哪一邊取決于設(shè)計(jì)者自己怎么想。