兩位《時(shí)代》周刊全球AI領(lǐng)域最具影響力100人獲得者聯(lián)手打造
挖掘AI本質(zhì),揭露虛假宣傳和不實(shí)產(chǎn)品
如今,AI已滲透各個(gè)領(lǐng)域,為人們的生活和工作賦能。伴隨著AI的快速發(fā)展,夸大的宣傳、誤導(dǎo)性信息也層出不窮。如果你對(duì)AI感到困惑,擔(dān)憂它對(duì)全球和個(gè)人未來的影響,《AI萬金油:商業(yè)幻想與科技狂潮》值得一看。這本書提供了清晰視角,深入剖析AI的運(yùn)作原理及局限性,幫助你辨識(shí)AI何時(shí)能帶來真正的價(jià)值,何時(shí)可能引發(fā)隱患,提醒你警惕企業(yè)炒作,推銷那些既不實(shí)用,未來也無前景的AI產(chǎn)品。
這本書在肯定部分AI技術(shù)潛力的同時(shí),深入探討了AI在教育、醫(yī)療、招聘、銀行、保險(xiǎn)和刑事司法等領(lǐng)域的實(shí)際應(yīng)用所帶來的問題與危害。作者將現(xiàn)階段的AI分為三類,即生成式AI、預(yù)測(cè)式AI和內(nèi)容審核AI,詳細(xì)解析了不同類型AI的核心區(qū)別、潛力與缺陷。書中還指出,人類對(duì)AI的使用方式遠(yuǎn)比技術(shù)本身的威脅更值得關(guān)注。除此之外,書中警示了大型科技公司壟斷AI技術(shù)可能帶來的潛在風(fēng)險(xiǎn),強(qiáng)調(diào)在缺乏問責(zé)機(jī)制的情況下,AI不僅可能無法解決社會(huì)問題,反而可能加劇現(xiàn)有的社會(huì)矛盾。
《AI萬金油:商業(yè)幻想與科技狂潮》一書為AI正本清源,助你在AI時(shí)代防范風(fēng)險(xiǎn),做出更明智的決策。
1.有理而有趣,兩位《時(shí)代》周刊全球AI領(lǐng)域最具影響力100人獲得者親撰。在普林斯頓大學(xué)研究期間,阿爾文德和曾在臉書供職的卡普爾都對(duì)AI的局限性產(chǎn)生興趣,將其作為研究方向。經(jīng)過4年的獨(dú)立與合作研究,沉淀了學(xué)術(shù)界與產(chǎn)業(yè)界的交流討論,《AI萬金油:商業(yè)幻想與科技狂潮》展示了真實(shí)的技術(shù)落地場(chǎng)景,探尋AI發(fā)展的終極答案不在代碼里,而在我們?nèi)绾味x未來。
2.熱潮與熱嘲,讓萬能AI回歸技術(shù)本質(zhì)。作者以交通工具類比AI技術(shù)的混沌現(xiàn)狀你在討論汽車速度,而我在討論火箭飛行。當(dāng)人們籠統(tǒng)討論AI時(shí),往往忽略生成式AI與預(yù)測(cè)式AI的本質(zhì)差異:前者是快速生產(chǎn)內(nèi)容的數(shù)字電鋸,兼具創(chuàng)造力與風(fēng)險(xiǎn);后者則是試圖預(yù)言人類行為的偽科學(xué),在司法、醫(yī)療等領(lǐng)域制造偏見與誤判。書中通過聊天機(jī)器人產(chǎn)生的事實(shí)性錯(cuò)誤、面部識(shí)別導(dǎo)致的錯(cuò)誤逮捕等案例,揭示AI技術(shù)在可靠性與倫理方面的困境,引導(dǎo)讀者跳出技術(shù)崇拜,以批判性視角審視AI的真實(shí)能力邊界。
3.真實(shí)和虛妄,直指AI萬金油現(xiàn)象的核心。AI萬金油指的是那些實(shí)際上不具備,也不可能具備實(shí)際效果的AI技術(shù)。研究界的數(shù)據(jù)泄露、企業(yè)的黑箱操作、媒體的流量狂歡,編織了一場(chǎng)場(chǎng)關(guān)于AI的騙局。在招聘自動(dòng)化領(lǐng)域,企業(yè)明知工具無效卻大肆營(yíng)銷;在學(xué)術(shù)研究中,97%準(zhǔn)確率預(yù)測(cè)熱門歌曲的論文實(shí)為數(shù)據(jù)作弊;在司法系統(tǒng)里,犯罪風(fēng)險(xiǎn)預(yù)測(cè)工具的準(zhǔn)確率僅略高于隨機(jī)猜測(cè)。無論你是技術(shù)從業(yè)者、政策制定者,還是普通AI用戶,《AI萬金油:商業(yè)幻想與科技狂潮》都將幫你在商業(yè)的浮夸宣傳中保持清醒。
4.人機(jī)共生,穿越技術(shù)周期,錨定人類價(jià)值。當(dāng)生成式AI顛覆創(chuàng)作生態(tài),預(yù)測(cè)式AI挑戰(zhàn)司法公正,內(nèi)容審核AI影響用戶體驗(yàn),本書引入通用性階梯概念,將AI發(fā)展解構(gòu)為可量化的進(jìn)化層級(jí),破除奇點(diǎn)爆發(fā)的恐慌論。作者既肯定AI在代碼生成、圖像創(chuàng)作等領(lǐng)域的輔助價(jià)值,也警示其被濫用的風(fēng)險(xiǎn)!禔I萬金油:商業(yè)幻想與科技狂潮》超越技術(shù)批判,將視角投向社會(huì)系統(tǒng)教育體系如何應(yīng)對(duì)AI作弊?法律如何界定AI生成內(nèi)容的版權(quán)?勞動(dòng)力市場(chǎng)如何抵御自動(dòng)化沖擊?這些追問事關(guān)技術(shù)與文明的深層矛盾,強(qiáng)調(diào)AI的未來不應(yīng)由算法決定,而需人類共同設(shè)計(jì)。
聯(lián)合前言
AI:承諾、陷阱與前行之路
21世紀(jì)20年代初以來,人工智能(AI)市場(chǎng)呈現(xiàn)爆發(fā)式增長(zhǎng),其影響力仍在持續(xù)擴(kuò)展,未來數(shù)年可能仍將如此。與此同時(shí),人類對(duì)AI的心理依賴也在不斷加深。隨著AI與科研、寫作、社交互動(dòng)和日常生活的深度融合,我們對(duì)這些工具的依賴日益增強(qiáng)。
本書對(duì)AI在全球范圍內(nèi)的迅速崛起進(jìn)行了清晰而深入的闡述,既承認(rèn)其變革性潛力,又批判性地反思了當(dāng)前不斷加劇的夸大宣傳、誤用現(xiàn)象以及潛在風(fēng)險(xiǎn)。它引導(dǎo)讀者穿越這一快速演變的技術(shù)圖景,指出不僅要關(guān)注技術(shù)突破,更應(yīng)警惕虛浮的承諾和未經(jīng)檢驗(yàn)的技術(shù)樂觀主義。
在中國(guó),AI正迅速滲透至教育、金融、醫(yī)療和法律等多個(gè)領(lǐng)域。然而,這種快速推進(jìn)也常常伴有不切實(shí)際的期望。由市場(chǎng)營(yíng)銷主導(dǎo)的話語體系,也往往超出了技術(shù)現(xiàn)實(shí),甚至超出了我們目前在負(fù)責(zé)任和穩(wěn)健地部署AI方面的能力。憑借龐大的市場(chǎng)、強(qiáng)大的工程人才和廣泛的公眾熱情,中國(guó)成為AI投資的重要陣地。但這種加速度也掩蓋了一些關(guān)于倫理、問責(zé)以及長(zhǎng)期社會(huì)影響的關(guān)鍵討論。
更廣泛地說,如今的AI話語往往被塑造成國(guó)家間的技術(shù)競(jìng)賽。各國(guó)政策制定者都擔(dān)心在構(gòu)建更先進(jìn)的AI模型方面落后于競(jìng)爭(zhēng)對(duì)手。然而,這種競(jìng)賽式思維忽略了一個(gè)事實(shí):AI能力如何轉(zhuǎn)化為社會(huì)影響,關(guān)鍵并不在于誰先研發(fā)出最強(qiáng)大的模型,而在于相關(guān)知識(shí)的迅速傳播。任何試圖通過出口管制或其他限制手段維持技術(shù)領(lǐng)先地位的國(guó)家,在知識(shí)迅速擴(kuò)散的背景下,很難獲得持久優(yōu)勢(shì)。
真正決定AI對(duì)經(jīng)濟(jì)和社會(huì)產(chǎn)生何種影響的,是一個(gè)國(guó)家能否有效地將AI融入現(xiàn)有體制與系統(tǒng)。這一擴(kuò)散與融合的過程包括重塑工作流程、再培訓(xùn)勞動(dòng)力、更新監(jiān)管制度,以及構(gòu)建有助于各行業(yè)(而非僅限數(shù)字技術(shù)領(lǐng)域)高效使用AI的配套基礎(chǔ)設(shè)施。這個(gè)過程以數(shù)十年為單位展開,而非以數(shù)月來計(jì)量。模型能力領(lǐng)先幾個(gè)月,在這場(chǎng)持久戰(zhàn)中意義甚微。
我們需要擺脫圍繞AI的零和博弈思維。確保系統(tǒng)安全與可靠、防止誤用,應(yīng)對(duì)就業(yè)替代、人類自主權(quán)影響等關(guān)鍵挑戰(zhàn),這是所有國(guó)家面臨的共同問題。這些并非孤立的斗爭(zhēng),而是全球性的共同責(zé)任。要有效應(yīng)對(duì)這些挑戰(zhàn),僅靠競(jìng)爭(zhēng)遠(yuǎn)遠(yuǎn)不夠,更需要合作。在這一背景下,跨國(guó)協(xié)作與互相學(xué)習(xí),遠(yuǎn)比單純的競(jìng)爭(zhēng)更具前景。
本書致力于以既通俗易懂又具學(xué)術(shù)深度的方式,為讀者呈現(xiàn)當(dāng)下的AI格局,解釋其機(jī)制、功能與未來方向,同時(shí)幫助讀者識(shí)別那些將AI描述為萬金油∗的誤導(dǎo)性敘事。唯有真正理解AI,我們才能主動(dòng)塑造其發(fā)展方向,而非被動(dòng)地被其塑造。我們希望這本書能激發(fā)讀者的好奇心與批判性思維,為那些希望穿越AI話語迷霧的人,提供一份小而有力的清晰指南。
無論是在硅谷的董事會(huì)議室,還是在北京的科技園區(qū),我們都希望撥開圍繞AI的炒作與焦慮的迷霧。唯有真正理解AI的能力與局限,我們才能做出有利于公共利益的明智決策。在這一背景下,本書提出的以下核心問題顯得尤為及時(shí)與重要。
AI究竟能實(shí)現(xiàn)什么?它的邊界又在哪里?
哪些系統(tǒng)真正帶來了可衡量的價(jià)值?哪些則只是制造了進(jìn)步的幻覺?
AI將如何重塑我們?不僅包括我們的工具,還包括我們的權(quán)利、制度和共同未來?
如果不充分關(guān)注這些核心問題,AI的發(fā)展可能會(huì)偏離其初衷,并可能在無意中加劇諸如社會(huì)不平等、數(shù)據(jù)濫用和算法偏見等問題。本書并不提供簡(jiǎn)單的答案,而是鼓勵(lì)讀者進(jìn)行批判性思考,并以負(fù)責(zé)任的態(tài)度參與AI的發(fā)展。我們希望這能幫助讀者在是否以及如何將AI融入個(gè)人生活和社會(huì)中做出更明智的決策。
∗本書的萬金油對(duì)應(yīng)的英文原文為snake oil(蛇油)。蛇油一詞源自19世紀(jì)的美國(guó),當(dāng)時(shí)一些騙子以蛇油作為神藥來推銷,聲稱能治愈各種病癥,但實(shí)際上這些藥品大多無效,甚至有時(shí)是有害的。為貼合中文語境,便于讀者理解,將其翻譯為萬金油,意為夸大效能或根本無效的產(chǎn)品或服務(wù)。譯者注
普林斯頓大學(xué)計(jì)算機(jī)科學(xué)教授,信息技術(shù)政策中心主任。合著有《區(qū)塊鏈:技術(shù)驅(qū)動(dòng)金融》等。 普林斯頓大學(xué)計(jì)算機(jī)科學(xué)博士。曾擔(dān)任臉書的軟件工程師,參與開發(fā)內(nèi)容審核AI。
第1章 引言
AI作為消費(fèi)品的曙光
AI顛覆娛樂業(yè)
預(yù)測(cè)式AI:非凡之言,需有非凡之證
單筆描繪AI誘人卻失真
一連串奇妙際遇成就此書
AI炒作漩渦
什么是AI萬金油
本書適合的讀者
第2章 預(yù)測(cè)式AI何以誤入歧途
以預(yù)測(cè)式AI定人生之變局
預(yù)測(cè)再準(zhǔn)未必決策得當(dāng)
晦暗A(chǔ)I縱生巧詐之機(jī)
過度自動(dòng)化
錯(cuò)識(shí)人群,枉生預(yù)言
預(yù)測(cè)式AI加劇既有不公
沒有預(yù)測(cè)的世界
回顧
第3章 何以AI難測(cè)未來蒼穹
計(jì)算機(jī)預(yù)測(cè)未來簡(jiǎn)史
明確分析
脆弱家庭挑戰(zhàn)項(xiàng)目
為何脆弱家庭挑戰(zhàn)項(xiàng)目以失敗告終
刑事司法中的預(yù)測(cè)
失敗難料,成功又幾何
迷因彩票潮流中的幸運(yùn)兒
從個(gè)人到群體的預(yù)測(cè)
回顧
第4章 通往生成式AI的漫漫長(zhǎng)途
生成式AI承載八十載創(chuàng)新之路
沉寂與新生
訓(xùn)練機(jī)器以眼觀世
ImageNet技術(shù)和文化意義
分類和生成圖像
生成式AI攫取創(chuàng)造之功
AI圖像識(shí)別技術(shù)轉(zhuǎn)瞬成監(jiān)控之眼
從圖像到文本
從模型到聊天機(jī)器人
自動(dòng)化胡編亂造
深度偽造、欺詐和其他惡意濫用
改善的代價(jià)
回顧
第5章 高級(jí)AI是否關(guān)乎存亡之險(xiǎn)
專家怎么看
通用性階梯
階梯上的下一級(jí)是什么
加速進(jìn)步了嗎
會(huì)有惡意AI嗎
全球禁止強(qiáng)大的AI
更優(yōu)之道:防御特定威脅
回顧
第6章 為什么AI無法修復(fù)社交媒體
當(dāng)一切都被斷章取義
文化無能
貌似善于預(yù)言實(shí)為復(fù)刻過去
AI對(duì)抗人類智慧
生死攸關(guān)的問題
現(xiàn)在加入監(jiān)管因素
艱難之處在于劃清界限
回顧
自作自受的問題
內(nèi)容審核的未來
第7章 為何關(guān)于AI的迷思經(jīng)久不衰
AI炒作有別于昔日科技狂潮
AI社區(qū)具有炒作的文化和歷史
公司缺乏透明化的激勵(lì)
AI研究中的可復(fù)制性危機(jī)
新聞媒體誤導(dǎo)公眾
公眾人物傳播AI炒作
認(rèn)知偏見使我們誤入歧途
第8章 接下來我們?cè)摵稳ズ螐?br />AI萬金油令失序機(jī)構(gòu)趨之若鶩
擁抱隨機(jī)性
監(jiān)管:打破虛假的兩難困境
監(jiān)管的局限性
AI與未來職場(chǎng)
在凱的世界與AI共同成長(zhǎng)
在瑪雅的世界與AI共同成長(zhǎng)
致謝
參考文獻(xiàn)