撰文 李信馬
最近火爆的DeepSeek，深深激勵(lì)了國(guó)人，因?yàn)槠洳恢故窃诖竽Ｐ偷哪芰ι?，終于達(dá)到了世界一流水平，而且也讓我們看到了國(guó)內(nèi)AI產(chǎn)業(yè)擺脫美國(guó)算力封鎖的可能。
取得了“開年紅”是好消息，不過(guò)，筆者也有些“杞人憂天”的想法：越來(lái)越聰明的AI，真的能造福人類嗎？
AI碾過(guò)老病殘
2024年12月4日，紐約曼哈頓的一聲槍響，揭開了人類反抗AI暴政的序幕。
躺在血泊中的美國(guó)聯(lián)合健康保險(xiǎn)公司首席執(zhí)行官布萊恩·湯普森，在他50歲的人生里，是真正意義上的“成功人士”，2023年，他的總薪酬高達(dá)1020萬(wàn)美元，而槍擊他的26歲青年路易吉·尼古拉斯·曼吉奧內(nèi)出身顯赫、才華橫溢，所有認(rèn)識(shí)他的人都不會(huì)懷疑，他將擁有遠(yuǎn)大的前程。
兩人命運(yùn)的交錯(cuò)，令全世界感到錯(cuò)愕，而科技的進(jìn)步，卻成為了引爆這一切的導(dǎo)火索。
圖片來(lái)源：網(wǎng)絡(luò)
2021年，布萊恩·湯普森擔(dān)任聯(lián)合健康保險(xiǎn)CEO，成功帶動(dòng)公司的利潤(rùn)不斷增長(zhǎng)。不過(guò)，代價(jià)是什么呢？
在他的任期內(nèi)，聯(lián)合健康集團(tuán)被指責(zé)通過(guò)AI手段大規(guī)模拒賠以及減少保費(fèi)支出。據(jù)外媒報(bào)道，美國(guó)私人醫(yī)療保險(xiǎn)行業(yè)的平均拒保率約為16%，聯(lián)合健康的拒保率則是全行業(yè)最高的32%。在美國(guó)阿拉巴馬州的聯(lián)合健康分支機(jī)構(gòu)，拒賠率達(dá)到了驚人的41.6%。
所謂的AI手段，就是用AI取代人做決定。
2020年，聯(lián)合健康用10億美元的價(jià)格收購(gòu)了急性后護(hù)理管理軟件服務(wù)公司naviHealth，這家公司宣稱的主要業(yè)務(wù)，是與醫(yī)療提供商合作，通過(guò)技術(shù)工具協(xié)調(diào)臨床決策，并跟蹤患者數(shù)據(jù)。
naviHealth 有一款名為nH Predict 的人工智能算法，它的作用是估算病人術(shù)后需要多長(zhǎng)時(shí)間的后期護(hù)理。保險(xiǎn)公司只需要輸入年齡、生活狀況、身體機(jī)能等信息，AI就會(huì)自動(dòng)給出一系列結(jié)果，包括醫(yī)療需求、出院日期等......
聽起來(lái)很先進(jìn)？這項(xiàng)技術(shù)也許唯一的問(wèn)題就是，它比人類更“冷酷”，估算出來(lái)的時(shí)間，有時(shí)候短于醫(yī)生的建議，也短于病人的實(shí)際需求。有的病人合理的理賠被拒絕，也有醫(yī)生診斷也被干涉，影響了最終的治療和康復(fù)。
但是對(duì)保險(xiǎn)公司來(lái)說(shuō)，可就省下來(lái)了不少的保費(fèi)支出。
2023年10月，naviHealth因使用算法削減患者護(hù)理費(fèi)用受到國(guó)會(huì)批評(píng)；次月，有集體訴訟稱，naviHealth的內(nèi)部算法拒絕護(hù)理索賠的錯(cuò)誤率高達(dá)90%。
2024年10月，美國(guó)參議院發(fā)布的報(bào)告顯示，聯(lián)合健康集團(tuán)在2019年至2022年期間大幅增加了通過(guò)算法自動(dòng)化處理的索賠拒絕，系統(tǒng)性地限制了后期護(hù)理（包括家庭健康服務(wù)和長(zhǎng)期住院護(hù)理）以實(shí)現(xiàn)利潤(rùn)最大化。
2020年到2022年，聯(lián)合健康集團(tuán)的后期護(hù)理拒絕率從10.9%上升到22.7%，與之形成鮮明對(duì)比的是，集團(tuán)的年利潤(rùn)從2021年的120億美元上漲到了2023年的164億美元。在2024年《財(cái)富》世界500強(qiáng)企業(yè)中，聯(lián)合健康集團(tuán)名列第八，年?duì)I收高達(dá)3716億美元。
“delay（拖延）”“depose（驅(qū)逐）”“deny（否認(rèn)）”，這三個(gè)單詞被刻在彈殼上，遺留在案發(fā)現(xiàn)場(chǎng)，就是青年路易吉對(duì)聯(lián)合健康集團(tuán)最直白的控訴。
不過(guò)，路易吉少有，而AI的應(yīng)用卻越來(lái)越廣泛。就像很多科幻片所擔(dān)憂的那樣，有一天人工智能無(wú)處不在，那對(duì)人類來(lái)說(shuō)，是好事還是壞事呢？
替代人類的AI
再溫和的話語(yǔ)也改變不了一個(gè)客觀事實(shí)——一些原本屬于人類的工作，正在被AI替代。
就像火炮擊碎了騎士的城堡，蒸汽機(jī)淘汰了原始的畜力，人工智能越來(lái)越聰明，聰明到尚不用超過(guò)人類時(shí)，許多人類勞動(dòng)的性價(jià)比就已經(jīng)喪失了。
這種改變有時(shí)是轟轟烈烈的，比如無(wú)人出租車對(duì)人類司機(jī)的替代，因?yàn)辇嫶蟮漠a(chǎn)業(yè)鏈和與人的生命安全息息相關(guān)而受到廣泛關(guān)注。有的則悄無(wú)聲息，比如公司里的一名員工被裁員了，沒(méi)有人來(lái)頂替他的職位或者接手他的工作，但公司沒(méi)有受到任何影響，只是少發(fā)了一份工資。
在這些職業(yè)中，客服是極具代表性的一種，也是目前AI應(yīng)用最為成熟的領(lǐng)域之一。這兩天有一條消息在網(wǎng)絡(luò)上流傳，國(guó)產(chǎn)美妝品牌韓束的母公司上美股份內(nèi)部聊天群里，董事長(zhǎng)兼CEO呂義雄提到要用AI替代人工，其中裁員比例最慘烈的就是客服，淘汰率高達(dá)95%。
網(wǎng)傳的上美股份內(nèi)部聊天記錄 圖片來(lái)源：網(wǎng)絡(luò)
這個(gè)即將消亡的人類崗位，也是一個(gè)有趣的例子，既可以證明AI替代人工是大勢(shì)所趨，也驗(yàn)證了，有時(shí)候技術(shù)落地的目的，并非造福大多數(shù)人，只是為了“降本增效”。
企業(yè)和用戶通過(guò)產(chǎn)品進(jìn)行交易，當(dāng)產(chǎn)生矛盾時(shí)，客服就是企業(yè)和用戶之間溝通的橋梁。但雇傭人工客服，除了工資，企業(yè)還要承擔(dān)培訓(xùn)、場(chǎng)地等費(fèi)用，職工還需要下班休息，如果為了提供24小時(shí)客服而三班倒，那成本簡(jiǎn)直在飆升。于是，在上一個(gè)十年，不少企業(yè)就采用了尚不成熟的AI技術(shù)，讓用戶們好好感受到了什么叫“人工智障”。
對(duì)此筆者也深有體會(huì)，有時(shí)AI客服的確也能解決問(wèn)題，但當(dāng)你火急火燎的時(shí)候，電話另一邊的AI還在不緊不慢的挨個(gè)報(bào)項(xiàng)目讓你來(lái)?yè)芴?hào)，念到最后發(fā)現(xiàn)沒(méi)有對(duì)應(yīng)的選項(xiàng)，簡(jiǎn)直能把人給氣死。
從技術(shù)的角度來(lái)說(shuō)，早期的智能客服，是以NLP（自然語(yǔ)言處理）技術(shù)為核心，融合了ASR、TTS、機(jī)器學(xué)習(xí)、知識(shí)圖譜等技術(shù)，使機(jī)器完成識(shí)別、理解和反饋，本質(zhì)上還是判別式AI。僅這一點(diǎn)，它的效果就不可能有多好，因?yàn)榕袆e式AI就聊不好天。
對(duì)此，企業(yè)心知肚明，但它實(shí)在太便宜了！
好在故事還有下半場(chǎng)，隨著以大模型技術(shù)為代表的生成式AI興起，新一代的智能客服“善談”了許多，讓用戶體驗(yàn)大大改善，也為人工客服敲下了最后一顆棺材釘。
在中國(guó)，智能客服算是一個(gè)“風(fēng)口”，在金融、政府、電信、互聯(lián)網(wǎng)/電商、零售、能源、制造、醫(yī)療等領(lǐng)域，智能客服正在被廣泛應(yīng)用。去年8月，國(guó)際數(shù)據(jù)公司（IDC）發(fā)布的《中國(guó)智能客服市場(chǎng)份額， 2023 ：新舊交替，增長(zhǎng)可期》 報(bào)告顯示，2023年智能客服解決方案整體市場(chǎng)規(guī)模達(dá)到了30.8億人民幣，較2022年增長(zhǎng)了近36.9%。
去年年末，筆者采訪了容聯(lián)云副總裁孔淼，在智能客服領(lǐng)域有豐富經(jīng)驗(yàn)的孔淼認(rèn)為，智能客服對(duì)人工客服的取代，是明顯的“技術(shù)驅(qū)動(dòng)”，先有互聯(lián)網(wǎng)、移動(dòng)化、大數(shù)據(jù)、大模型等技術(shù)，有的企業(yè)因技術(shù)而受益，進(jìn)而推廣形成相應(yīng)的產(chǎn)品和軟件標(biāo)準(zhǔn)。
而先進(jìn)的生產(chǎn)力一定會(huì)取代落后的生產(chǎn)力，這一點(diǎn)，從其推動(dòng)者也可以看出。國(guó)內(nèi)智能客服領(lǐng)域，市場(chǎng)份額占比前三的都是云廠商，它們既有龐大的客戶群體，也是國(guó)內(nèi)研發(fā)大模型的主力軍。在更大范圍的全球市場(chǎng)上也是如此，不久前，亞馬遜云科技在 2024 re:Invent 全球大會(huì)上推出的云聯(lián)絡(luò)中心解決方案 Amazon Connect，有著強(qiáng)大的智能客服能力，據(jù)稱將美的全球聯(lián)絡(luò)中心的60秒內(nèi)用戶電話接通率提高到了95%以上。
未來(lái)人類，將不得不習(xí)慣和AI打交道，但對(duì)人尚且“知人知面不知心”，我們又怎么判斷AI的善惡呢？
誰(shuí)來(lái)決定AI的善惡？
這個(gè)問(wèn)題其實(shí)應(yīng)該分兩部分，首先，是人類想要“教好”AI。
當(dāng)AI訓(xùn)練的數(shù)據(jù)本身存在偏差，算法本身有問(wèn)題，還有訓(xùn)練AI時(shí)的指導(dǎo)原則不當(dāng)時(shí)，AI就可能會(huì)“學(xué)壞”。訓(xùn)練大語(yǔ)言模型有一個(gè)原則是“輸入垃圾，輸出垃圾”，最近紐約大學(xué)的研究者發(fā)表在 Nature Medicine上的研究顯示，僅將0.001%的訓(xùn)練token替換為錯(cuò)誤信息，就訓(xùn)練出了更有可能傳播錯(cuò)誤醫(yī)學(xué)的模型。至于容易產(chǎn)生幻覺(jué)，還有大語(yǔ)言模型“愛騙人”，更是老生常談，并且規(guī)模越大的模型越難以改正。
還是以智能客服為例，孔淼介紹，他們?cè)诼涞啬Ｐ蜁r(shí)，為了讓模型能夠更好地理解行業(yè)術(shù)語(yǔ)、業(yè)務(wù)流程和客戶需求，在預(yù)訓(xùn)練階段，會(huì)利用企業(yè)沉淀的數(shù)據(jù)資源，還有垂直領(lǐng)域的公開數(shù)據(jù)來(lái)增強(qiáng)模型的理解能力。應(yīng)用時(shí)，還要關(guān)注流程效率、數(shù)據(jù)整合等，包括公有數(shù)據(jù)與私有數(shù)據(jù)的融合，以及RAG等配套措施的實(shí)施。
此外，還要防備大模型被壞人利用，比如微軟的聊天AI，曾經(jīng)就被網(wǎng)友們教會(huì)了罵臟話而不得不下線。大模型時(shí)代，更智能的AI一旦被利用造成的危害會(huì)更嚴(yán)重。
不過(guò)，人類對(duì)AI的應(yīng)用水平也在不斷進(jìn)步，這些問(wèn)題是會(huì)被逐漸解決的。
更大的問(wèn)題在于，當(dāng)人類有能力訓(xùn)練出好的模型，卻如同文章開頭的案例那樣，出于利益的目的，而故意“教壞”了AI。說(shuō)到底，AI的良心取決于訓(xùn)練它的人。
不久前，IBM的一項(xiàng)研究發(fā)現(xiàn)，AI已經(jīng)可以非常擅長(zhǎng)編寫網(wǎng)絡(luò)釣魚的電子郵件，可以自動(dòng)化的生成并進(jìn)行海量的分發(fā)。當(dāng)AI越來(lái)越聰明，謊言越來(lái)越完善，人類也會(huì)從破口大罵到半信半疑，再到深信不疑，現(xiàn)在中文互聯(lián)網(wǎng)已經(jīng)有被AI生成的內(nèi)容污染的跡象。去年就曾有人用chatGPT編寫假新聞，說(shuō)杭州要取消汽車限行，不少媒體還轉(zhuǎn)載了。
保證大模型被安全的使用，也是未來(lái)人類要面臨的重要挑戰(zhàn)。
在2023年4月，OpenAI發(fā)布了《我們邁向人工智能安全路徑》白皮書，提到了6點(diǎn)原則：
- 構(gòu)建安全的AI系統(tǒng)
- 實(shí)際應(yīng)用中持續(xù)去做改進(jìn)安全測(cè)試
- 保護(hù)兒童
- 尊重隱私
- 提高事實(shí)準(zhǔn)確性
- 開放持續(xù)投入，促進(jìn)合作
但一直到去年5月，OpenAI才正式成立了安全委員會(huì)，在8月才開始將新模型交美國(guó)政府來(lái)進(jìn)行安全評(píng)估。
去年年底，螞蟻集團(tuán)數(shù)據(jù)治理和發(fā)展部總監(jiān)吳映京在接受DoNews采訪時(shí)，談到這個(gè)話題，他表示，AI發(fā)展本質(zhì)上的一個(gè)終極命題，就是我們會(huì)不會(huì)變成《黑客帝國(guó)》，由AI控制一切？目前來(lái)看，AI大致還是被關(guān)在籠子中的。
“首先，對(duì)AI要受到監(jiān)管這一點(diǎn)，各國(guó)政府的態(tài)度非常明確。2024年6月歐盟的《人工智能法》里面，提出了對(duì)人工智能進(jìn)行分級(jí)的概念，歐洲過(guò)去一直是人權(quán)第一，但是在AI上適當(dāng)?shù)仂`活，將人工智能的風(fēng)險(xiǎn)分級(jí)，像是保險(xiǎn)拒賠的環(huán)節(jié)，甚至未來(lái)在犯罪發(fā)現(xiàn)的環(huán)節(jié)，用AI一定要做更強(qiáng)的人工干預(yù)，來(lái)確保它沒(méi)有偏見和歧視。如果是日常的，比如說(shuō)去咨詢?cè)趺促I票，怎么訂餐這種屬于低風(fēng)險(xiǎn)的領(lǐng)域，可以做低風(fēng)險(xiǎn)的監(jiān)管，美國(guó)的思維也類似。
我們國(guó)家從《個(gè)人信息保護(hù)法》上來(lái)講，有明確的一條講自動(dòng)化決策，如果自動(dòng)化決策對(duì)于個(gè)人權(quán)益有重大影響，第一要能夠給予充分的解釋，要對(duì)用戶可解釋；第二用戶要有權(quán)拒絕自動(dòng)化決策，可以要求必須有人工判斷。至少我了解到的，不管是金融還是其他領(lǐng)域涉及到對(duì)用戶有重大影響的環(huán)節(jié)，在國(guó)內(nèi)一定是依據(jù)可解釋的規(guī)則和依賴人工的強(qiáng)干預(yù)?！?/p>
圖片來(lái)源：螞蟻集團(tuán)
但從技術(shù)上來(lái)說(shuō)，螞蟻集團(tuán)大模型數(shù)據(jù)安全總監(jiān)楊小芳表示，AI的倫理或者說(shuō)價(jià)值觀，是沒(méi)辦法和人類完全對(duì)齊的，實(shí)際應(yīng)用中，人類也會(huì)賦予AI說(shuō)話甚至代替人類決策的權(quán)力，那么就會(huì)存在人工智能過(guò)度代理的問(wèn)題，超出人類能想象到的測(cè)試或者防控范圍。
如果我們期盼，AI的不斷發(fā)展，能夠始終造福人類，而不會(huì)傷害人類，那么我們需要與時(shí)俱進(jìn)的監(jiān)管制度的建設(shè)，在政策的引導(dǎo)下，再通過(guò)技術(shù)去緩釋這樣的風(fēng)險(xiǎn)。
畢竟，作為人類，與其求神拜佛一樣指望AI有“良心”，還是更應(yīng)該從源頭上就做好這一切。
