兩位《時代》周刊全球AI領域最具影響力100人獲得者聯(lián)手打造
挖掘AI本質(zhì),揭露虛假宣傳和不實產(chǎn)品
如今,AI已滲透各個領域,為人們的生活和工作賦能。伴隨著AI的快速發(fā)展,夸大的宣傳、誤導性信息也層出不窮。如果你對AI感到困惑,擔憂它對全球和個人未來的影響,《AI萬金油:商業(yè)幻想與科技狂潮》值得一看。這本書提供了清晰視角,深入剖析AI的運作原理及局限性,幫助你辨識AI何時能帶來真正的價值,何時可能引發(fā)隱患,提醒你警惕企業(yè)炒作,推銷那些既不實用,未來也無前景的AI產(chǎn)品。
這本書在肯定部分AI技術潛力的同時,深入探討了AI在教育、醫(yī)療、招聘、銀行、保險和刑事司法等領域的實際應用所帶來的問題與危害。作者將現(xiàn)階段的AI分為三類,即生成式AI、預測式AI和內(nèi)容審核AI,詳細解析了不同類型AI的核心區(qū)別、潛力與缺陷。書中還指出,人類對AI的使用方式遠比技術本身的威脅更值得關注。除此之外,書中警示了大型科技公司壟斷AI技術可能帶來的潛在風險,強調(diào)在缺乏問責機制的情況下,AI不僅可能無法解決社會問題,反而可能加劇現(xiàn)有的社會矛盾。
《AI萬金油:商業(yè)幻想與科技狂潮》一書為AI正本清源,助你在AI時代防范風險,做出更明智的決策。
1.有理而有趣,兩位《時代》周刊全球AI領域最具影響力100人獲得者親撰。在普林斯頓大學研究期間,阿爾文德和曾在臉書供職的卡普爾都對AI的局限性產(chǎn)生興趣,將其作為研究方向。經(jīng)過4年的獨立與合作研究,沉淀了學術界與產(chǎn)業(yè)界的交流討論,《AI萬金油:商業(yè)幻想與科技狂潮》展示了真實的技術落地場景,探尋AI發(fā)展的終極答案不在代碼里,而在我們?nèi)绾味x未來。
2.熱潮與熱嘲,讓萬能AI回歸技術本質(zhì)。作者以交通工具類比AI技術的混沌現(xiàn)狀你在討論汽車速度,而我在討論火箭飛行。當人們籠統(tǒng)討論AI時,往往忽略生成式AI與預測式AI的本質(zhì)差異:前者是快速生產(chǎn)內(nèi)容的數(shù)字電鋸,兼具創(chuàng)造力與風險;后者則是試圖預言人類行為的偽科學,在司法、醫(yī)療等領域制造偏見與誤判。書中通過聊天機器人產(chǎn)生的事實性錯誤、面部識別導致的錯誤逮捕等案例,揭示AI技術在可靠性與倫理方面的困境,引導讀者跳出技術崇拜,以批判性視角審視AI的真實能力邊界。
3.真實和虛妄,直指AI萬金油現(xiàn)象的核心。AI萬金油指的是那些實際上不具備,也不可能具備實際效果的AI技術。研究界的數(shù)據(jù)泄露、企業(yè)的黑箱操作、媒體的流量狂歡,編織了一場場關于AI的騙局。在招聘自動化領域,企業(yè)明知工具無效卻大肆營銷;在學術研究中,97%準確率預測熱門歌曲的論文實為數(shù)據(jù)作弊;在司法系統(tǒng)里,犯罪風險預測工具的準確率僅略高于隨機猜測。無論你是技術從業(yè)者、政策制定者,還是普通AI用戶,《AI萬金油:商業(yè)幻想與科技狂潮》都將幫你在商業(yè)的浮夸宣傳中保持清醒。
4.人機共生,穿越技術周期,錨定人類價值。當生成式AI顛覆創(chuàng)作生態(tài),預測式AI挑戰(zhàn)司法公正,內(nèi)容審核AI影響用戶體驗,本書引入通用性階梯概念,將AI發(fā)展解構(gòu)為可量化的進化層級,破除奇點爆發(fā)的恐慌論。作者既肯定AI在代碼生成、圖像創(chuàng)作等領域的輔助價值,也警示其被濫用的風險。《AI萬金油:商業(yè)幻想與科技狂潮》超越技術批判,將視角投向社會系統(tǒng)教育體系如何應對AI作弊?法律如何界定AI生成內(nèi)容的版權(quán)?勞動力市場如何抵御自動化沖擊?這些追問事關技術與文明的深層矛盾,強調(diào)AI的未來不應由算法決定,而需人類共同設計。
聯(lián)合前言
AI:承諾、陷阱與前行之路
21世紀20年代初以來,人工智能(AI)市場呈現(xiàn)爆發(fā)式增長,其影響力仍在持續(xù)擴展,未來數(shù)年可能仍將如此。與此同時,人類對AI的心理依賴也在不斷加深。隨著AI與科研、寫作、社交互動和日常生活的深度融合,我們對這些工具的依賴日益增強。
本書對AI在全球范圍內(nèi)的迅速崛起進行了清晰而深入的闡述,既承認其變革性潛力,又批判性地反思了當前不斷加劇的夸大宣傳、誤用現(xiàn)象以及潛在風險。它引導讀者穿越這一快速演變的技術圖景,指出不僅要關注技術突破,更應警惕虛浮的承諾和未經(jīng)檢驗的技術樂觀主義。
在中國,AI正迅速滲透至教育、金融、醫(yī)療和法律等多個領域。然而,這種快速推進也常常伴有不切實際的期望。由市場營銷主導的話語體系,也往往超出了技術現(xiàn)實,甚至超出了我們目前在負責任和穩(wěn)健地部署AI方面的能力。憑借龐大的市場、強大的工程人才和廣泛的公眾熱情,中國成為AI投資的重要陣地。但這種加速度也掩蓋了一些關于倫理、問責以及長期社會影響的關鍵討論。
更廣泛地說,如今的AI話語往往被塑造成國家間的技術競賽。各國政策制定者都擔心在構(gòu)建更先進的AI模型方面落后于競爭對手。然而,這種競賽式思維忽略了一個事實:AI能力如何轉(zhuǎn)化為社會影響,關鍵并不在于誰先研發(fā)出最強大的模型,而在于相關知識的迅速傳播。任何試圖通過出口管制或其他限制手段維持技術領先地位的國家,在知識迅速擴散的背景下,很難獲得持久優(yōu)勢。
真正決定AI對經(jīng)濟和社會產(chǎn)生何種影響的,是一個國家能否有效地將AI融入現(xiàn)有體制與系統(tǒng)。這一擴散與融合的過程包括重塑工作流程、再培訓勞動力、更新監(jiān)管制度,以及構(gòu)建有助于各行業(yè)(而非僅限數(shù)字技術領域)高效使用AI的配套基礎設施。這個過程以數(shù)十年為單位展開,而非以數(shù)月來計量。模型能力領先幾個月,在這場持久戰(zhàn)中意義甚微。
我們需要擺脫圍繞AI的零和博弈思維。確保系統(tǒng)安全與可靠、防止誤用,應對就業(yè)替代、人類自主權(quán)影響等關鍵挑戰(zhàn),這是所有國家面臨的共同問題。這些并非孤立的斗爭,而是全球性的共同責任。要有效應對這些挑戰(zhàn),僅靠競爭遠遠不夠,更需要合作。在這一背景下,跨國協(xié)作與互相學習,遠比單純的競爭更具前景。
本書致力于以既通俗易懂又具學術深度的方式,為讀者呈現(xiàn)當下的AI格局,解釋其機制、功能與未來方向,同時幫助讀者識別那些將AI描述為萬金油∗的誤導性敘事。唯有真正理解AI,我們才能主動塑造其發(fā)展方向,而非被動地被其塑造。我們希望這本書能激發(fā)讀者的好奇心與批判性思維,為那些希望穿越AI話語迷霧的人,提供一份小而有力的清晰指南。
無論是在硅谷的董事會議室,還是在北京的科技園區(qū),我們都希望撥開圍繞AI的炒作與焦慮的迷霧。唯有真正理解AI的能力與局限,我們才能做出有利于公共利益的明智決策。在這一背景下,本書提出的以下核心問題顯得尤為及時與重要。
AI究竟能實現(xiàn)什么?它的邊界又在哪里?
哪些系統(tǒng)真正帶來了可衡量的價值?哪些則只是制造了進步的幻覺?
AI將如何重塑我們?不僅包括我們的工具,還包括我們的權(quán)利、制度和共同未來?
如果不充分關注這些核心問題,AI的發(fā)展可能會偏離其初衷,并可能在無意中加劇諸如社會不平等、數(shù)據(jù)濫用和算法偏見等問題。本書并不提供簡單的答案,而是鼓勵讀者進行批判性思考,并以負責任的態(tài)度參與AI的發(fā)展。我們希望這能幫助讀者在是否以及如何將AI融入個人生活和社會中做出更明智的決策。
∗本書的萬金油對應的英文原文為snake oil(蛇油)。蛇油一詞源自19世紀的美國,當時一些騙子以蛇油作為神藥來推銷,聲稱能治愈各種病癥,但實際上這些藥品大多無效,甚至有時是有害的。為貼合中文語境,便于讀者理解,將其翻譯為萬金油,意為夸大效能或根本無效的產(chǎn)品或服務。譯者注
普林斯頓大學計算機科學教授,信息技術政策中心主任。合著有《區(qū)塊鏈:技術驅(qū)動金融》等。 普林斯頓大學計算機科學博士。曾擔任臉書的軟件工程師,參與開發(fā)內(nèi)容審核AI。
第1章 引言
AI作為消費品的曙光
AI顛覆娛樂業(yè)
預測式AI:非凡之言,需有非凡之證
單筆描繪AI誘人卻失真
一連串奇妙際遇成就此書
AI炒作漩渦
什么是AI萬金油
本書適合的讀者
第2章 預測式AI何以誤入歧途
以預測式AI定人生之變局
預測再準未必決策得當
晦暗AI縱生巧詐之機
過度自動化
錯識人群,枉生預言
預測式AI加劇既有不公
沒有預測的世界
回顧
第3章 何以AI難測未來蒼穹
計算機預測未來簡史
明確分析
脆弱家庭挑戰(zhàn)項目
為何脆弱家庭挑戰(zhàn)項目以失敗告終
刑事司法中的預測
失敗難料,成功又幾何
迷因彩票潮流中的幸運兒
從個人到群體的預測
回顧
第4章 通往生成式AI的漫漫長途
生成式AI承載八十載創(chuàng)新之路
沉寂與新生
訓練機器以眼觀世
ImageNet技術和文化意義
分類和生成圖像
生成式AI攫取創(chuàng)造之功
AI圖像識別技術轉(zhuǎn)瞬成監(jiān)控之眼
從圖像到文本
從模型到聊天機器人
自動化胡編亂造
深度偽造、欺詐和其他惡意濫用
改善的代價
回顧
第5章 高級AI是否關乎存亡之險
專家怎么看
通用性階梯
階梯上的下一級是什么
加速進步了嗎
會有惡意AI嗎
全球禁止強大的AI
更優(yōu)之道:防御特定威脅
回顧
第6章 為什么AI無法修復社交媒體
當一切都被斷章取義
文化無能
貌似善于預言實為復刻過去
AI對抗人類智慧
生死攸關的問題
現(xiàn)在加入監(jiān)管因素
艱難之處在于劃清界限
回顧
自作自受的問題
內(nèi)容審核的未來
第7章 為何關于AI的迷思經(jīng)久不衰
AI炒作有別于昔日科技狂潮
AI社區(qū)具有炒作的文化和歷史
公司缺乏透明化的激勵
AI研究中的可復制性危機
新聞媒體誤導公眾
公眾人物傳播AI炒作
認知偏見使我們誤入歧途
第8章 接下來我們該何去何從
AI萬金油令失序機構(gòu)趨之若鶩
擁抱隨機性
監(jiān)管:打破虛假的兩難困境
監(jiān)管的局限性
AI與未來職場
在凱的世界與AI共同成長
在瑪雅的世界與AI共同成長
致謝
參考文獻