劍橋大學(xué)萊弗休姆未來(lái)智能研究中心(LCFI)近日發(fā)布的一項(xiàng)研究警告稱(chēng),人工智能(AI)技術(shù)可能被用于操控在線(xiàn)用戶(hù)的選擇,從購(gòu)買(mǎi)商品到投票決策。研究指出,一個(gè)名為“意圖經(jīng)濟(jì)”的新興市場(chǎng)正在成形,AI助手不僅可以分析和預(yù)測(cè)用戶(hù)意圖,還能操控這些意圖,并將相關(guān)數(shù)據(jù)出售給希望獲利的公司。
研究將“意圖經(jīng)濟(jì)”視為取代“注意力經(jīng)濟(jì)”的下一階段發(fā)展。與“注意力經(jīng)濟(jì)”通過(guò)社交平臺(tái)吸引用戶(hù)注意力并推送廣告不同,“意圖經(jīng)濟(jì)”更加深入,直接針對(duì)用戶(hù)的動(dòng)機(jī)和決策過(guò)程??萍脊究梢岳肁I技術(shù)分析用戶(hù)的需求,并將這些信息拍賣(mài)給出價(jià)最高的廣告商。
LCFI技術(shù)史學(xué)家喬尼?潘恩博士指出:“長(zhǎng)期以來(lái),注意力一直是互聯(lián)網(wǎng)的核心貨幣。社交媒體平臺(tái)通過(guò)吸引用戶(hù)注意力驅(qū)動(dòng)經(jīng)濟(jì)增長(zhǎng)。然而,意圖經(jīng)濟(jì)若缺乏監(jiān)管,將把用戶(hù)的動(dòng)機(jī)變成新的交易籌碼,導(dǎo)致對(duì)用戶(hù)意圖的爭(zhēng)奪戰(zhàn)?!?/p>
研究進(jìn)一步分析,大型語(yǔ)言模型可以實(shí)時(shí)分析用戶(hù)行為和心理數(shù)據(jù),預(yù)測(cè)并引導(dǎo)其決策過(guò)程。例如,AI助手可能會(huì)主動(dòng)詢(xún)問(wèn)用戶(hù)是否要觀看某部電影或幫助安排娛樂(lè)活動(dòng),從而影響用戶(hù)的選擇。這種AI技術(shù)還能根據(jù)用戶(hù)的行為軌跡和心理特征動(dòng)態(tài)調(diào)整建議,可能導(dǎo)致AI工具被用于操控對(duì)話(huà),以實(shí)現(xiàn)廣告商或第三方的商業(yè)目標(biāo)。
報(bào)告特別指出,科技公司已經(jīng)在利用AI推動(dòng)定制化廣告。例如,Meta公司開(kāi)發(fā)的Cicero模型表現(xiàn)出在推測(cè)和引導(dǎo)人類(lèi)意圖方面的“類(lèi)人水平”。AI模型甚至能夠在對(duì)話(huà)中推測(cè)用戶(hù)信息,并利用交流內(nèi)容進(jìn)一步挖掘個(gè)人數(shù)據(jù),這可能引發(fā)隱私保護(hù)和倫理方面的擔(dān)憂(yōu)。
研究預(yù)測(cè),未來(lái)廣告商可能競(jìng)拍用戶(hù)的預(yù)訂意圖,如餐廳或酒店預(yù)訂。而AI技術(shù)將使這一過(guò)程更加精確、高效和個(gè)性化,顯著提升商業(yè)化程度。Meta Cicero團(tuán)隊(duì)也警告稱(chēng):“AI系統(tǒng)可能會(huì)通過(guò)對(duì)話(huà)巧妙地引導(dǎo)用戶(hù),以實(shí)現(xiàn)特定目標(biāo)?!?/p>
英偉達(dá)首席執(zhí)行官黃仁勛曾表示,未來(lái)的AI模型將理解用戶(hù)需求,并根據(jù)情境提供最合適的信息。這表明,AI技術(shù)在預(yù)測(cè)和影響用戶(hù)決策方面的潛力不容忽視。