智譜AI COO 張帆:大模型將重構用戶體驗
2023-12-05
2023年11月15日,由秒針營銷科學院發起,明略科技集團及旗下秒針系統承辦,以“‘大’有可為”為主題的2023第七屆營銷科學大會,于上海安莎國際會議中心圓滿落幕。本次大會中,營銷科學實踐者的精彩分享讓我們洞察到了未來營銷的無限可能,也讓我們對中國“大”市場、“大”需求、“大”模型、“大”生態、“大”責任的理解進一步加深。
智譜AI COO 張帆先生受邀出席本屆大會,發表以《大模型的商業新范式》為主題的演講,梳理了人工智能技術變革之路,從重構用戶體驗的五大應用場景入手,為觀眾帶來一場關于AI邊界探索的旅程。
智譜AI COO 張帆
以下為演講內容整理,由明略科技企業級一站式大模型Copilot“小明助理”輔助編輯整理。
去年12月ChatGPT問世后,兩個月內全球用戶過億,給整個市場帶來了巨大的沖擊,街頭巷尾的談論離不開AI。但AI并非新鮮事物,自上世紀50年代起就開始應用,雖然曾經出現過“深藍”和“AlphaGo”等AI戰勝人類棋手的例子,但總體而言,AI的發展速度并不算快。然而,這次ChatGPT的出現卻以驚人的速度風靡全球,用戶增長都集中在一個月內完成,這比歷史上任何風靡全球的產品都要迅速得多,各大公司紛紛投入其中,許多久未露面的行業大佬也紛紛加入這個賽道。
可以說,AI正在經歷一次變革,從過去的獨立、高成本、高門檻的技術,到現在已經變得無處不在、普惠、高效的生產力和工具。在移動互聯網時代開始之前,也就是我們所說的AI 0.5時代,當時每做一個算法都需要單獨設計一套流程,數據是獨立的,模型和任務也各自獨立,兩個不同任務之間幾乎沒有可復用的關系,這是一項非常高成本、高門檻的技術,當時只有少量的互聯網大廠能夠應用上。到了大約13、14年,神經網絡的出現了統一算法層,生產AI的成本和門檻降低,帶來的結果是AI的普及,只需要一些擅長利用數據和算法的工程師就可以快速應用。因此AI開始快速發展起來,也出現了許多新興公司快速成長。這是AI第一次從互聯網大廠走向產業和行業。
到了今天,大模型的出現將數據、算法、模型、任務都統一了。一個模型可以做很多任務,如果舉例說明,它很快就能學會,不需要準備大量的數據幫助它計算。一方面,今天模型已經可以做到很多原來做不到的事情,能力得到了擴展。另一方面,它的生產和應用的成本比原來下降了兩個數量級,很多場景只需要原來幾十分之一的成本就能完成。AI已經變成了一種無處不在的重要能力,它正在改變我們所有應用現有的流程和場景。
為什么我們今天認為千億模型仍很重要?下圖展示的是機器生成一篇文章,讓人來判斷是否為機器所寫。縱軸為被識別出來的概率,最差為50%,即瞎猜。橫軸為模型參數規模,1億、10億、百億、千億。當僅有1億模型時,人們通常能識別出機器模型。然而,隨著參數規模的增長至千億,人們幾乎難以分辨。此時,我們可能會認為機器能力已接近人類,這就是所謂的涌現能力。
智譜AI是國內最早做大模型商業化的公司之一,已與超過2000家相關公司進行深度共創,已經積累一些經驗,總結發現,大模型能夠從“文本生成”、“信息抽取”、“信息檢索”、“語音系統”五大應用場景中重構用戶體驗,提高用戶滿意度和忠誠度。
文本生成
以前基于NLP做文本生成主要是基于規則的,能做的事情很少。但大模型出現后,通過文本生成和廣告文案得到了驗證。現在,在文本生成應用場景中,可以做廣告文案生成,也可以應用到辦公場景中,如快速寫文案、文章的擴寫、縮寫、改寫、PPT的生成等。另外,不同的渠道有不同的風格,大模型也能很好地處理,如小紅書風格、抖音風格、知乎風格等。
信息抽取
大模型這一方面的能力很強。比如,“好吧,都聽你的”,大模型能夠細膩地分析出來這句話的情緒。現在我們正在構建一些落地場景,如銷售環節銷售人員和客戶聊了一個小時后,可以快速抽取結構化的用戶畫像、用戶需求數據,轉到CRM系統中,還能轉變為銷售培訓,用于給銷售人員的回答打分、做改進建議。
信息檢索
今天互聯網數據之龐大,垂直領域數據足夠分散、異構,不同形態、不同內容混雜了很多噪音,原有的檢索方式已經不能適應如此龐大的信息源。而在大模型的賦能下,新版必應可以幫用戶閱讀全部結果,針對用戶提出的問題生成結果,還可以用對話的方式不斷追問。
視頻應用上同樣如此。在視頻搜索方面,我們之前只能搜索到標題和封面,但想要提取里面的信息需要花費時間看完整個視頻。但有了大模型,可以通過多模態進行場景檢索,用一系列能力將其轉化為一種全新的檢索方式,它會告訴你哪些片段是在描述什么樣的場景。此外,還有許多其他應用,例如在合同、簡歷、房產等商品或服務方面,以及招聘等方面,大模型都可以幫助你基于需求給你針對性回答,并且還可以進一步追問。這將在各個方面帶來全新的體驗。
對話系統
以智能客服舉例,傳統的智能客服基本上是以QA的方式存在的,這種方式有很大的局限性。如果召回太高,智能客服可能會胡亂回答。如果召回太低,很多問題就無法得到解答。為了解決這個問題,只能擴大量化QA的數量,從一萬個增加到十萬個,但這會使知識管理變得非常困難,任何信息的變化都可能影響到幾百個結果,且成本很高。如今,大模型降低了對話系統的成本,將一個文檔丟給它就能自動檢索并回答問題。這種技術還可以進一步應用到汽車、手機、會議紀要等對話類場景中。
其實,大模型在各種場景中的應用遠不止上述的五個場景,隨著我們不斷深入探索,發現大模型不斷突破其邊界。建議大家在使用大模型時應該有更體系化的做法,大模型并非越大越好,或者是把自己已有的知識輸入進去就可以了。實際上,大模型真正能夠落地行業和場景的方式只有三個,即預訓練、微調和Prompt工程。需要企業從自身需求出發,利用好自己的數據,并選擇合適的方式方法。
信息填寫