AI Agent是目前技術(shù)圈當(dāng)之無愧的“話題王”。OpenAI 的聯(lián)合創(chuàng)始人Andrej Karpathy 曾表示，OpenAI 內(nèi)部目前更關(guān)注 Agent 領(lǐng)域的變化，每當(dāng)有新的 AI Agents 論文出來的時(shí)候，內(nèi)部都會(huì)很興奮并且認(rèn)真地討論。
這股從硅谷吹出的技術(shù)風(fēng)，將大模型的敘事帶入了新的階段，“超級(jí)助手”時(shí)代或?qū)⒌絹怼Ｉ鐣?huì)各界對(duì)于AI agent的討論也愈加熱烈，也提出了諸多疑惑：AI Agent的風(fēng)口為什么緊隨大模型之后？它和大模型如何互相作用？企業(yè)如何使用好AI agent并賦能于業(yè)務(wù)？
為了探尋AI Agent的價(jià)值點(diǎn)，明略科技集團(tuán)CTO郝杰邀請(qǐng)多位資深媒體伙伴，從大模型發(fā)展歷程、明略營銷AI Agent效果解讀、營銷數(shù)據(jù)賦能品牌的增長路徑這三大方向入手，拆解AI Agent和大模型的底層邏輯，探尋AI agent如何提升企業(yè)和個(gè)人生產(chǎn)力。
本篇內(nèi)容聚焦AI技術(shù)背景和大模型的發(fā)展歷程，探究明略科技營銷AI Agent的主要特征。
人工智能可以激活人類的智商嗎？ 人工智能可以提高人類的學(xué)習(xí)效率，讓我們能夠更有效地獲取知識(shí)。比如，當(dāng)你與一個(gè)裝有大模型的電腦進(jìn)行交流時(shí)，你可以通過與它的對(duì)話來學(xué)習(xí)很多知識(shí)。你可以通過問問題、回答問題與它進(jìn)行互動(dòng)，從它的大模型中復(fù)制并獲取知識(shí)。例如，通過與GPT-4的互動(dòng)，你可以在法律方面獲得像法學(xué)碩士甚至博士那樣的知識(shí)，或者通過與GPT的互動(dòng)，你可以成為數(shù)學(xué)專業(yè)的專家。實(shí)際上，你已經(jīng)與一個(gè)智慧非凡的人坐在一起，就像與愛因斯坦坐在一起一樣。
以前有很多人認(rèn)為GPT-4使人類成為了不同領(lǐng)域的專家。雖然我們可能不了解某個(gè)領(lǐng)域，假如我學(xué)市場(chǎng)營銷，或者我學(xué)法律，我可以通過問答、舉例子來理解GPT-4所說的內(nèi)容。它使人類獲取知識(shí)的難度顯著降低了。我們可以問它任何問題，盡管它的回答可能不完全準(zhǔn)確，有時(shí)可能是幻想的。它并不是直接激活我們的腦細(xì)胞或提高我們的智商，而是通過方便地提供信息和知識(shí)的反饋來幫助我們。我們可以比以前更快地獲取信息。無論我們問什么，它都會(huì)回答，這提高了我們獲取信息的效率，也提高了我們頭腦思考的效率，我們的思維變得更加靈活。
AI技術(shù)的發(fā)展歷程是怎樣的？ 在前年和去年這個(gè)階段，技術(shù)處在AI 1.0的末期，主要特征是已經(jīng)有了預(yù)訓(xùn)練的模型。從技術(shù)角度來看，AI 1.0的末期可以追溯到2017年Transformer模型的發(fā)明，并進(jìn)一步升級(jí)到了BERT、GPT等模型。我個(gè)人將這個(gè)階段稱為模型預(yù)訓(xùn)練時(shí)代。現(xiàn)在，特別是從去年11月底ChatGPT問世以來，我們正式步入了AI 2.0時(shí)代，也就是大模型時(shí)代。首先想要先跟各位介紹一下明略科技為什么把賽道錨定在了營銷領(lǐng)域。
從背景來說。2006年，明略科技科技旗下子品牌秒針系統(tǒng)成立，為廣告主提供準(zhǔn)確的互聯(lián)網(wǎng)用戶行為數(shù)據(jù)，發(fā)展至今，秒針?biāo)O(jiān)測(cè)的范圍幾乎深度覆蓋市面上所有主流媒體和廣告形式，成為國內(nèi)第一家申請(qǐng)MRC認(rèn)證并唯一通過移動(dòng)應(yīng)用內(nèi)曝光監(jiān)測(cè)審計(jì)的第三方監(jiān)測(cè)機(jī)構(gòu)。2019年，明略科技成為國家“營銷智能”領(lǐng)域新一代人工智能開放創(chuàng)新平臺(tái)。
從大環(huán)境來說。在營銷領(lǐng)域，每個(gè)人對(duì)于營銷都有不同的理解，營銷是一個(gè)非常廣泛的領(lǐng)域，不僅包括市場(chǎng)營銷，還包括銷售、售前售后服務(wù)、客戶成功以及客服、用戶增長的CDP和DMP等等，體系非常多面且復(fù)雜，且直接面對(duì)消費(fèi)者。另一方面，自從GPT問世以來，它對(duì)各行各業(yè)都產(chǎn)生了影響，但我個(gè)人認(rèn)為營銷行業(yè)是最受影響的。例如，在美國，已經(jīng)有自動(dòng)生成營銷文章的工具如Jasper、Copy.ai，甚至以前專注于消費(fèi)者市場(chǎng)的產(chǎn)品，如Notion，現(xiàn)在也投入到了面向企業(yè)的營銷文章生成領(lǐng)域，與更多競(jìng)品競(jìng)爭(zhēng)。
我們把話題聚焦回AI Agent。大模型的出現(xiàn)幾乎可以顛覆所有行業(yè)，但是它也有一定的問題所在，不能一步到位，自動(dòng)化地完成任務(wù)，需要大量人類參與干預(yù)review，所以AI Agent非常關(guān)鍵，沒有它我們就無法擴(kuò)展大模型的應(yīng)用邊界，人工智能如果僅止于現(xiàn)在看到的內(nèi)容生成等幾項(xiàng)應(yīng)用，就還是單薄的。能不能把價(jià)值傳遞到更多的場(chǎng)景，核心就看AI Agent，所以我們說AI Agent是大模型與場(chǎng)景間價(jià)值傳遞的橋梁。
明略是如何訓(xùn)練大模型的？ 我將去年11月30日視為AI 1.0和2.0之間的分界線。在AI 1.0時(shí)代，我們已經(jīng)做了很多工作。明略科技會(huì)話智能業(yè)務(wù)線就是成長于1.0時(shí)代。我們會(huì)話智能的底層技術(shù)是NLP技術(shù)，它是一款業(yè)務(wù)增長引擎，以SaaS交付方式幫助企業(yè)營銷、銷售部門實(shí)現(xiàn)銷售過程數(shù)字化和銷售業(yè)績(jī)歸因分析。可以說在AI 1.0時(shí)代的末期，明略科技的AI模型參數(shù)規(guī)模已經(jīng)非常大了，大約在億級(jí)別。當(dāng)時(shí)，我們使用的模型更多是基于BERT的路線，包括BERT和一些變種，如Albert等模型。我們?cè)?jīng)使用Albert模型贏得了一些重要比賽的冠軍，這意味著在這個(gè)不太大的非生成式大模型上，我們有過成功的經(jīng)驗(yàn)。但成功之下也有教訓(xùn)，就是人力投入的比例很高，因?yàn)榉巧墒降腁I需要人工標(biāo)注來做監(jiān)督訓(xùn)練。
現(xiàn)在我們正在進(jìn)行大模型的開發(fā)，并且我們已經(jīng)轉(zhuǎn)向使用生成式大模型，采用了GPT模型。我們從0開始進(jìn)行了明略科技營銷行業(yè)的大模型預(yù)訓(xùn)練，這一點(diǎn)非常重要。從0開始意味著我們不是在微調(diào)已有模型，盡管我們有能力進(jìn)行微調(diào)和對(duì)齊。我們已經(jīng)找到了一條自己預(yù)訓(xùn)練的道路。
在第一階段的預(yù)訓(xùn)練過程中，我們沒有直接使用第三方開源大模型已經(jīng)訓(xùn)練好的模型，而是精心準(zhǔn)備了第一個(gè)token。我們的參數(shù)在看到第一個(gè)token之前，是一個(gè)隨機(jī)數(shù)，從看到我們精心準(zhǔn)備的第一篇文章、第一個(gè)token開始，它才開始進(jìn)行調(diào)整，經(jīng)過幾個(gè)月的調(diào)整達(dá)到現(xiàn)在的狀態(tài)：一個(gè)有70億參數(shù)的明略營銷行業(yè)大模型，它具備了思維鏈COT能力，能夠按照要求分步達(dá)成任務(wù)，相比沒有思維鏈的情況下，它所給出的答案質(zhì)量更高，覆蓋美妝、汽車、3C、大健康和食品飲料行業(yè)這五大重點(diǎn)行業(yè)，具備進(jìn)行文本生成、文本擴(kuò)寫和問答等能力。
現(xiàn)在，我們正在進(jìn)行二次預(yù)訓(xùn)練的工作。這次預(yù)訓(xùn)練是在巨人的肩膀上開始，利用成熟的開源模型，如LLAMA2、百川2和BLOOM等。以LLAMA2為例，它已經(jīng)閱讀了成千上萬本書籍，看過上萬億個(gè)token，在它們的基礎(chǔ)上，我們將混合通用語料和營銷相關(guān)的數(shù)據(jù)，讓模型看到一些它之前沒有機(jī)會(huì)看到的文章、書籍，以及我們?cè)谏缃幻襟w平臺(tái)上清洗的高質(zhì)量帖子，還有我們交付給客戶的優(yōu)質(zhì)報(bào)告、PPT等文檔，以及營銷領(lǐng)域的大師級(jí)著作。這個(gè)過程實(shí)際上也省去了上千萬美元的訓(xùn)練成本，且是可商用的。所以我們用開源模型作為二次預(yù)訓(xùn)練的參數(shù)初始化，我們的二次預(yù)訓(xùn)練模型將至少具備百億參數(shù)。
毫無疑問，AI Agent的落地需要優(yōu)質(zhì)的基礎(chǔ)模型，其能力會(huì)直接關(guān)系到AI Agent的質(zhì)量，此外，應(yīng)用和體驗(yàn)層面也將影響能效。在這個(gè)全新的領(lǐng)域，數(shù)據(jù)的價(jià)值進(jìn)一步提升，也對(duì)服務(wù)商提出了更高的要求：豐富便捷的功能、與商業(yè)用戶對(duì)接的強(qiáng)度、更多的商業(yè)選擇等等。
數(shù)字廣告測(cè)量及驗(yàn)證
一站式社媒營銷監(jiān)測(cè)與洞察平臺(tái)
題下篇.png)
題上篇.png)
資訊宣傳微信公眾號(hào)首圖公眾號(hào)次圖-2.jpg)
