QQ在線
企業(yè)微信
資訊
484最具“情商”的新一代智能機(jī)器人來了!能讀懂上下文
也許你也有過這樣的經(jīng)歷，向智能客服咨詢問題，卻陷入毫無進(jìn)展的對(duì)話里：
-你們家的面膜都是純天然的?
-親親，我們家的面膜都是蘆薈精華提取，純天然的哦~
-我皮膚有點(diǎn)干，推薦一款唄~
-冬天皮膚干燥推薦給親親我們的保濕精華乳~
-我是要買面膜，你是機(jī)器人吧，讓人來說話。
作為顧客，此時(shí)你大概要嘆一句“人工智能真不智能”。這些所謂“智能”客服們往往只能做到一問一答，一旦對(duì)話涉及稍微復(fù)雜的情境，它們就開始答非所問。
讓人工智能學(xué)會(huì)根據(jù)上下文去處理信息，是自然語言處理技術(shù)一個(gè)關(guān)鍵的門檻，也是多年來整個(gè)學(xué)術(shù)界和工業(yè)界都在努力攻克的難題。盡管在通用NLP領(lǐng)域，gpt-2，BERT等算法模型的出現(xiàn)，讓語義理解取得了重大進(jìn)展，但是由于專業(yè)性強(qiáng)、垂直語料庫不足等原因，某些亟待落地的應(yīng)用場(chǎng)景，例如高強(qiáng)度的客服對(duì)話，還深陷在開頭出現(xiàn)的“人工智障”泥潭中。
最近，這個(gè)難題迎來了新進(jìn)展。曉多科技(下稱“曉多”)開發(fā)的基于上下文的語義識(shí)別項(xiàng)目，以深度學(xué)習(xí)的方式，讓智能問答機(jī)器人能夠像人類一樣，結(jié)合語境去理解復(fù)雜場(chǎng)景下的對(duì)話，并且進(jìn)行持續(xù)的自我學(xué)習(xí)，無需人工設(shè)置規(guī)則，也能不斷擴(kuò)展和覆蓋更多的場(chǎng)景。
從一問一答到讀懂語境
為什么人工智能會(huì)有這些“不智能”的表現(xiàn)?這是因?yàn)槟壳笆忻嫔现髁鞯闹悄軉柎饳C(jī)器人，大部分都是根據(jù)單個(gè)句子來識(shí)別顧客的意圖，從而進(jìn)行一問一答的任務(wù)型對(duì)話。但在日常聊天對(duì)話中，我們習(xí)慣口語化表達(dá)，尤其在打字時(shí)，一般不會(huì)大段大段地發(fā)送，而會(huì)使用很多斷句，這種零碎的表達(dá)使得機(jī)器人無法從單個(gè)句子中準(zhǔn)確識(shí)別出你的真實(shí)意圖，造成答非所問的情況。
這對(duì)于服務(wù)業(yè)來說是一個(gè)致命傷。
和普通的閑聊機(jī)器人不同，智能客服必須做到對(duì)各種場(chǎng)景的精準(zhǔn)識(shí)別。因?yàn)橹悄芸头鎸?duì)的工作，是要及時(shí)地、明確地解決顧客的問題。
當(dāng)你和閑聊機(jī)器人逗趣的時(shí)候，它答非所問的話并不會(huì)讓你煩躁，反而覺得很有趣味;但當(dāng)你只想趕緊退貨或者得到賠償時(shí)，智能客服的胡言亂語足夠讓煩躁的顧客給這家店鋪打上0星，并在評(píng)論區(qū)洋洋灑灑好幾百字，控訴店鋪服務(wù)不到位。
在商品售前階段也是這樣，智能客服錯(cuò)誤的回復(fù)或答非所問，都會(huì)影響顧客的體驗(yàn)度，平臺(tái)商家競(jìng)爭(zhēng)激烈的情況下，得不到滿意答復(fù)的顧客可能會(huì)很快放棄，選擇另外一家店鋪，從而造成顧客的大量流失。
單句識(shí)別與上下文識(shí)別的差別
解決這一問題的關(guān)鍵，在于要讓機(jī)器人像人一樣，學(xué)會(huì)聯(lián)系上下文，結(jié)合語境來對(duì)話，而不僅僅對(duì)單個(gè)句子作出反應(yīng)。
目前市面上其他機(jī)器人都不支持上下文語義，他們是在靠規(guī)則和流程設(shè)置關(guān)鍵詞。也就是說，這個(gè)情景中需要什么信息，就要設(shè)計(jì)出對(duì)應(yīng)的問題，讓機(jī)器人按照固定的順序提問，顧客按照要求回答完所有問題，機(jī)器人才能根據(jù)所有信息來進(jìn)行回應(yīng)。
例如，顧客要購買飛機(jī)票，就要設(shè)定機(jī)器人首先詢問顧客起點(diǎn)、終點(diǎn)、時(shí)間，再問顧客想要什么等級(jí)的座位等等，通過這些固定問題的答案，把需要的信息補(bǔ)充完整，最終給出推薦。
在這種情況下，每一個(gè)場(chǎng)景都需要人工去設(shè)定對(duì)應(yīng)的規(guī)則，效率十分低下。尤其在電商領(lǐng)域，從售前到售中，再到售后，涉及到的問題是方方面面的，更別說還有購物品類的區(qū)別，場(chǎng)景的擴(kuò)展是指數(shù)級(jí)的，靠人工設(shè)定規(guī)則去做到全覆蓋，說是天方夜譚也不為過。
如果能夠?qū)⒛壳叭斯ぶ悄茴I(lǐng)域大熱的深度學(xué)習(xí)應(yīng)用到這一問題的解決上，讓機(jī)器人能夠通過自己學(xué)習(xí)，掌握基于上下文的語義理解，并持續(xù)學(xué)習(xí)擴(kuò)展到各個(gè)場(chǎng)景中，就可以大大地提高智能機(jī)器人面對(duì)復(fù)雜場(chǎng)景的精準(zhǔn)應(yīng)對(duì)能力，同時(shí)提高它覆蓋各種場(chǎng)景的效率。懷著這樣的想法，曉多開始了上下文語義項(xiàng)目。
讓機(jī)器人自己“劃重點(diǎn)”：記住重要信息，忘記不重要的
機(jī)器人自己學(xué)會(huì)理解上下文，困難在哪里?曉多算法工程師、本次上下文語義項(xiàng)目的負(fù)責(zé)人張翀向大數(shù)據(jù)文摘介紹，最關(guān)鍵的問題在于要讓機(jī)器人像人一樣記得上文的重要信息，并且知道這些信息和當(dāng)前問句的關(guān)聯(lián)。
在這個(gè)問題上，目前學(xué)術(shù)界和業(yè)界并沒有現(xiàn)成的解決方案。對(duì)此，張翀介紹，曉多為新一代問答機(jī)器人創(chuàng)新設(shè)計(jì)了一個(gè)深度學(xué)習(xí)模型，包含四個(gè)模塊：記憶與遺忘、提煉、融合、輸出。
記憶與遺忘模塊賦予機(jī)器人記住上文關(guān)鍵信息的能力。沒有記憶能力的機(jī)器人，只會(huì)對(duì)最近的一句話作出反應(yīng)，而曉多的模型可以幫助機(jī)器人把前后的訴求關(guān)聯(lián)起來，及時(shí)作出準(zhǔn)確的推薦。
點(diǎn)擊圖片查看詳細(xì)內(nèi)容
在技術(shù)上，曉多做出了一個(gè)此前業(yè)界還沒有實(shí)現(xiàn)過的創(chuàng)新應(yīng)用，參照一個(gè)名叫長(zhǎng)短期記憶網(wǎng)絡(luò)(LSTM)的結(jié)構(gòu)，設(shè)計(jì)實(shí)現(xiàn)會(huì)話級(jí)別的記憶和遺忘。
曉多的又一創(chuàng)新，是應(yīng)用于提煉模塊的注意力機(jī)制。它會(huì)自動(dòng)對(duì)上文的每一條信息進(jìn)行計(jì)算，算出這些信息與當(dāng)前句子對(duì)應(yīng)的重要程度，重要程度高的，就會(huì)被保留下來。
假如顧客得到了滿意的產(chǎn)品推薦之后，又提出“什么時(shí)候發(fā)貨”的問題，注意力機(jī)制通過計(jì)算，就會(huì)發(fā)現(xiàn)上文的重要程度并不高，這樣，無用的信息就會(huì)被過濾，與當(dāng)前對(duì)話有關(guān)聯(lián)的上文信息被選取出來，進(jìn)入下一個(gè)模塊中。
在融合模塊中，機(jī)器人會(huì)對(duì)提煉出的上文關(guān)鍵信息和當(dāng)前聊天消息結(jié)合，來識(shí)別顧客的意圖。曉多采用的方式是在向量空間做梳理，簡(jiǎn)單來說，可以理解為提取上文關(guān)鍵信息是在機(jī)器人大腦內(nèi)部的一個(gè)操作，這之后，再在一個(gè)抽象的空間里，把提取出來的關(guān)鍵信息與當(dāng)前的單句進(jìn)行綜合，最終輸出一個(gè)結(jié)合上文信息和當(dāng)前單句所做出的判斷。
這個(gè)模型在實(shí)驗(yàn)中得到的數(shù)據(jù)令人驚喜。曉多從真實(shí)電商聊天?志中抽取了若?涉及上下?的問答樣本，構(gòu)造兩份意圖識(shí)別測(cè)試集，分別對(duì)應(yīng)兩個(gè)電商領(lǐng)域，對(duì)?發(fā)現(xiàn)結(jié)合上下?預(yù)測(cè)的模型效果遠(yuǎn)超只根據(jù)單句預(yù)測(cè)的模型：
recall(召回率)=機(jī)器人正確識(shí)別的問題數(shù)/問題總數(shù);
Precision(精確率)=機(jī)器人正確識(shí)別的問題數(shù)/機(jī)器人已識(shí)別的問題數(shù);f1core=2*precision*recall/(precision + recall) ，表示綜合考慮召回率和精確率的評(píng)分;
這些工作并不是想到就可以做到的，對(duì)機(jī)器人的訓(xùn)練需要大量的數(shù)據(jù)，遷移學(xué)習(xí)能力是曉多能夠?qū)崿F(xiàn)這些創(chuàng)新的關(guān)鍵。
“人工智能的深度學(xué)習(xí)，突出的特點(diǎn)就是對(duì)數(shù)據(jù)的依賴非常大，”張翀說，“因?yàn)樯疃葘W(xué)習(xí)模型的參數(shù)非常多，你可以理解為它是一個(gè)更復(fù)雜的智能體，數(shù)據(jù)是它學(xué)習(xí)的依據(jù)，它要學(xué)習(xí)的東西越多，需要的數(shù)據(jù)就更多，而你給它的數(shù)據(jù)越多，它也越聰明?！?
目前，曉多的標(biāo)注團(tuán)隊(duì)從上百億的數(shù)據(jù)中進(jìn)行分析提取的價(jià)值樣本，提供給機(jī)器學(xué)習(xí)進(jìn)行數(shù)據(jù)訓(xùn)練。
如果每一步都需要人工設(shè)計(jì)，從發(fā)現(xiàn)場(chǎng)景、總結(jié)規(guī)律，到最后開發(fā)、測(cè)試、上線，可能需要至少兩周的時(shí)間才能擴(kuò)展一個(gè)場(chǎng)景，張翀介紹說，而使用這樣的數(shù)據(jù)標(biāo)注讓機(jī)器進(jìn)行深度學(xué)習(xí)，只需要幾天的時(shí)間，就可以同時(shí)擴(kuò)展幾十個(gè)場(chǎng)景、幾百個(gè)產(chǎn)品。
各個(gè)行業(yè)的電商客服需要應(yīng)對(duì)的場(chǎng)景雖然有很多差異，但有一些數(shù)據(jù)卻是通用的，包括關(guān)于快遞物流的問答等。曉多對(duì)標(biāo)注好的數(shù)據(jù)進(jìn)行了模塊拆分，區(qū)分出通用數(shù)據(jù)，當(dāng)機(jī)器人需要對(duì)新行業(yè)進(jìn)行學(xué)習(xí)時(shí)，可以直接使用這些標(biāo)注好的通用數(shù)據(jù)，實(shí)現(xiàn)迅速的擴(kuò)展學(xué)習(xí)。
談到數(shù)據(jù)、算法和計(jì)算能力的關(guān)系，張翀認(rèn)為，數(shù)據(jù)是基礎(chǔ)，大數(shù)據(jù)為機(jī)器學(xué)習(xí)裝上引擎;算法是核心，將人工智能帶到全新高度;而計(jì)算能力是保障，為算法的實(shí)現(xiàn)提供堅(jiān)實(shí)的后盾。
不止于此，顧客體驗(yàn)迎來后智能化時(shí)代
從售前的商品導(dǎo)購，到售中咨詢運(yùn)費(fèi)、活動(dòng)贈(zèng)品等，目前，曉多的上下文語義項(xiàng)目已經(jīng)投入使用，覆蓋了多種電商服務(wù)場(chǎng)景。這僅僅只是這項(xiàng)技術(shù)投入應(yīng)用的第一步，曉多的業(yè)務(wù)計(jì)劃中，還涉及到更多的業(yè)務(wù)鋪開。在售前，顧客可能會(huì)要求客服進(jìn)行商品推薦，他們的需求點(diǎn)信息包含在整個(gè)對(duì)話過程中。傳統(tǒng)的客服機(jī)器人只能根據(jù)顧客最后的需求進(jìn)行推薦，而曉多機(jī)器人會(huì)對(duì)顧客的會(huì)話信息進(jìn)行分析，更加準(zhǔn)確地識(shí)別到顧客的真實(shí)需求，推薦給顧客符合心意的產(chǎn)品。
點(diǎn)擊圖片查看詳細(xì)內(nèi)容
另外，對(duì)于電商行業(yè)中熱門的服裝領(lǐng)域來說，售前的服裝尺碼推薦是客服經(jīng)常會(huì)遇到的問題，店鋪內(nèi)大量商品的尺碼各不相同，尺碼問題會(huì)耗費(fèi)客服大量的人力。通過上下文識(shí)別的手段，客服機(jī)器人可以獲取顧客的尺碼信息，準(zhǔn)確地進(jìn)行尺碼推薦。
點(diǎn)擊圖片查看詳細(xì)內(nèi)容
在銷售過程中，顧客常常要詢問運(yùn)費(fèi)問題，這就涉及到了首次購買和退換貨兩種場(chǎng)景。沒有上文語境，機(jī)器人就只能解讀出“運(yùn)費(fèi)”，而不能準(zhǔn)確地判斷顧客詢問的是首次購物運(yùn)費(fèi)還是退換貨運(yùn)費(fèi)，可能導(dǎo)致錯(cuò)誤的回復(fù)。而在加入了上下文理解后，機(jī)器人能夠準(zhǔn)確判斷顧客的實(shí)際問題，準(zhǔn)確地回復(fù)此類問題。
點(diǎn)擊圖片查看詳細(xì)內(nèi)容
另一個(gè)常見的售中場(chǎng)景是關(guān)于活動(dòng)贈(zèng)品的問題。當(dāng)?shù)赇佭M(jìn)行活動(dòng)優(yōu)惠提供贈(zèng)品時(shí)，顧客的提問可能不是針對(duì)商品，而是針對(duì)贈(zèng)品，需要機(jī)器人通過語境來識(shí)別，防止混淆這兩個(gè)方面的提問，給出張冠李戴的答案。
這項(xiàng)技術(shù)不但可以應(yīng)用在智能對(duì)話上，智能營(yíng)銷、智能質(zhì)檢、情緒識(shí)別……客服行業(yè)中還存在著更多未被開發(fā)的可能性。
對(duì)于曉多來說，這意味著他們?yōu)轭櫩吞峁┑姆?wù)，向超專家級(jí)更進(jìn)了一步?！拔覀儸F(xiàn)在可能只是把它應(yīng)用在語義識(shí)別上，但后續(xù)我們?cè)谄渌鼧I(yè)務(wù)線上還可以繼續(xù)鋪開。我們把它當(dāng)成一個(gè)基礎(chǔ)的能力，一個(gè)支撐我們整個(gè)公司的算法產(chǎn)品?！睆埩堈f。
曉多也期待著，上下文語義識(shí)別可以作為技術(shù)基石應(yīng)用到行業(yè)各個(gè)方面，通過推開這項(xiàng)技術(shù)的應(yīng)用，機(jī)器人可以自動(dòng)生成尺碼表，自動(dòng)獲取個(gè)性化對(duì)話內(nèi)容進(jìn)行系統(tǒng)自動(dòng)萃取對(duì)接等等，機(jī)器人行業(yè)一直以來由人工配置的時(shí)代可能走向終結(jié)，而迎來一個(gè)從數(shù)據(jù)中學(xué)習(xí)后智能化自動(dòng)生成的時(shí)代。
