京小智融入大模型助力電商零售提升咨詢轉(zhuǎn)化
2023-12-21 08:48
12月21日消息，京東域內(nèi)商家提供觸達(dá)、服務(wù)、洞察的一體化智能服務(wù)平臺——京小智，秉承京東云大小模型協(xié)同理念，不斷推進(jìn)在零售電商場景落地，旨在為品牌商家降本增效，提升咨詢轉(zhuǎn)化。今年11.11，京小智服務(wù)商家數(shù)量增長至超36萬，其中中小商家同比增加102%，較今年618期間增加62%。
營銷場景中，京小智正在探索為商家經(jīng)營決策提供“專屬顧問”，使產(chǎn)品操作擺脫傳統(tǒng)“拖拉拽”，只需一句話指令，就能讓大模型智能生成數(shù)據(jù)分析報(bào)告，為店鋪生意經(jīng)營提供專業(yè)指導(dǎo)。
圖源：京小智官網(wǎng)
銷售場景中，京小智實(shí)現(xiàn)分鐘級文案自動生成，極大提升應(yīng)答效率和準(zhǔn)確率，助力商家提高咨詢轉(zhuǎn)化的效率。比如當(dāng)用戶進(jìn)行商品比較時(shí)，商家過去要花費(fèi)大量時(shí)間拆解用戶意圖，再生成解決方案手動配置在后臺。借助京小智，商家僅需上傳商品使用方法的文檔，便可以“文檔應(yīng)答”自動拆解問答，支持文字、圖表等多種形式。過去這一過程需數(shù)日，如今僅需幾分鐘，商品對比采納率高達(dá)87%。
當(dāng)用戶進(jìn)行商品屬性問答時(shí)，京小智結(jié)合言犀大模型能力自動生成文案，以更加擬人化的方式來解答，應(yīng)答準(zhǔn)確率提升5%；求購?fù)扑]場景時(shí)，京小智根據(jù)用戶和人工客服的溝通內(nèi)容，基于用戶表達(dá)的商品需求，自動推薦并展示推薦理由，推薦準(zhǔn)確率提升27%。
客服場景中，京小智通過打通京東站內(nèi)活動、物流、服務(wù)單、發(fā)票、訂單修改等各業(yè)務(wù)場景，綜合輸出“意圖識別”技術(shù)能力，實(shí)現(xiàn)價(jià)保申請等功能的一鍵調(diào)用。比如，當(dāng)消費(fèi)者表露出尋求“便宜”“降價(jià)”的意圖，京小智可自動識別并推送功能，為客戶退差價(jià)，無需客戶跳轉(zhuǎn)和等待，減少客服操作時(shí)間。更在夜間店鋪無人值守時(shí)，為商家提供用戶咨詢應(yīng)答，提升夜間轉(zhuǎn)化。
圖源：京東云公眾號
因覆蓋電商零售復(fù)雜的全流程環(huán)節(jié)，京小智以“小步快跑”推進(jìn)大小模型高效協(xié)同：逐個場景引入大模型，實(shí)現(xiàn)底層通用能力和復(fù)雜推理；全流程關(guān)鍵節(jié)點(diǎn)接入小模型，實(shí)現(xiàn)場景的快速定位和識別。
比如在用戶咨詢，京小智往往需要通過多輪對話，才能讓消費(fèi)者將問題表述清楚。這一過程中，小模型負(fù)責(zé)“意圖識別”，對用戶意圖做出快速和精準(zhǔn)的判斷，由此進(jìn)入推薦導(dǎo)購、屬性應(yīng)答、商品對比等不同場景的應(yīng)答模塊；再把這一識別結(jié)果和此前多輪對話學(xué)習(xí)，交給大模型，輸出具體應(yīng)答。
同時(shí)，在保證能力效果的前提下，大模型本身也在加速。據(jù)介紹，言犀團(tuán)隊(duì)通過實(shí)現(xiàn)算法層和體系結(jié)構(gòu)層等能力，以量化、稀疏化、減脂蒸餾、參數(shù)共享、內(nèi)存優(yōu)化、算子融合、動態(tài)批處理、流式解碼等方式，優(yōu)化大模型推理系統(tǒng)，從而使大模型適當(dāng)變小、變快。
