文・廖書逸／圖・翻攝自 Kashmir Hill 官網 最近，《紐約時報》的一名科技記者克什米爾・希爾（Kashmir Hill）驚訝地發現，在全球最大的圖書零售平台亞馬遜（Amazon）上，竟然有在販售一本關於她本人的傳記書籍。這本名叫《克什米爾・希爾傳》（The Biography of Kashmir Hill）、長度僅有90頁的書籍出版於一年多前，定價27美元（約新台幣870元），內容拼湊著一些網路上的公開資訊與模糊見解，同時捏造了許多包括希爾平時沖泡咖啡的習慣等等的虛假事實。該書作者「約翰・克雷恩・米勒」（John Crane Miller）的頁面圖像，是一名白人男性在會議室中發言的圖庫照片，而在《克什米爾・希爾傳》出版的那一週內，他還另外出版了包括CNN主播與來自《大西洋》雜誌的編輯等，總計10本的知名記者傳記。種種跡象都顯示出，這些內容並不只有透過人類的雙手完成。《克什米爾・希爾傳》絕非單一案例。希爾循線深入調查後發現，這類明顯由AI生成式內容所構成、常被稱為「AI垃圾」（AI Slop）的書籍，目前正利用亞馬遜官方的放任態度，大舉入侵並氾濫於線上圖書市場，試圖以量取勝，透過銷售這些書籍來賺取「被動收入」。近期有兩位商學院教授分析了過去五年間，在亞馬遜上架出版的1000萬本書籍，發現自ChatGPT問世以來，每月的電子書出版數量已增加了三倍，從2022年的每月10萬本，暴增至去年底的每月超過30萬本。雖然亞馬遜官方否認有這樣巨大的增長幅度，但也拒絕公開其內部數據。這波「AI寫作」風潮，主要集中於非文學類的作品。例如一位署名「黛安・格雷」（Diane W. Gray）的高產量作者，光是去年夏天就出版了60本的傳記，對象從知名Podcast主持人喬・羅根（Joe Rogen）、歌手席琳・狄翁（Celine Dion）到足球選手保羅・莫迪尼（Paolo Maldini）都有，範圍廣泛。此外，一本關於保守派政治人士查理・柯克（Charlie Kirk）的AI生成傳記，在他去年九月去世後，甚至還一度成為亞馬遜的暢銷書，直到因為被大量負評洗版，稱其為「一場騙局」與「恥辱」後，才遭平台下架。網路上現在甚至已有許多網路名人與意見領袖，都在宣傳「利用AI寫書，賣出任何一本都是淨利」這樣的觀念，並提供教學。為了釐清這個「產業」的實際情況，希爾採訪到一位現年70歲的退休網路安全顧問比爾・瓊斯（Bill Johns）。在退休後的兩年內，瓊斯利用ChatGPT創作並出版了高達445本書籍，主題涵蓋體育故事、天才傳記、著名的橋樑簡介與切薩皮克灣（Chesapeake Bay）地區的歷史等等。瓊斯表示，一筆一劃撰寫的「傳統寫作模式」雖然浪漫，但「不符合經濟效益」。瓊斯的工作模式非常公式化：他利用自己付費訂閱的ChatGPT服務，尋找該主題的歷史與文化框架，接著要求AI逐章生成內容，以避免大段落的生成所更容易產生的AI「幻覺」。完成後，他再利用亞馬遜的Kindle Create應用程式將文稿轉換成電子書格式，並搭配上AI生成的封面後，便能直接上架。他的書籍出版頻率，是亞馬遜網站允許的極限——每週10本。這種工作模式，為他帶來了實質的經濟報酬。光是在去年底的聖誕假期期間，他就售出了821本書，賺取了將近6000美元（約新台幣20萬元）的利潤。這些銷量大多是實體書，由亞馬遜進行「隨需印刷」（print on demand），而購買者很有可能從頭到尾都不知道這些書是出自AI之手。雖然亞馬遜在書籍的上架流程中，會詢問賣家是否使用了AI工具，但並不會將這項資訊公開給消費者。作家協會（The Authors Guild）從2023年起便一直試圖說服亞馬遜，在網站上標示出由AI生成的書籍，但亞馬遜始終不願配合，認為這樣的標示，可能會懲罰到誠實申報的使用者，反而讓說謊隱瞞的人從中獲利。亞馬遜的發言人指出，公司會移除不遵守規範的書籍，但下架的標準，最主要在於它是否造成了「糟糕的顧客體驗」。在調查過程中，希爾打開了《克什米爾・希爾傳》的頁面，並在下方留言，禮貌地表示自己是本書主角，希望能與「作者」聯絡及對話。不久以後，這本傳記，以及該作者名下的所有書籍，便在一夕之間，通通從亞馬遜的平台上消失了。這次的下架究竟是亞馬遜官方的「伸張正義」，還是該名作者心虛的逃逸呢？在平台建立更完善的上架規範與標示機制之前，在意書籍內容的消費者，也只能努力睜大眼睛，試著辨別清楚了。

文・廖書逸／圖・翻攝自Amazon官網紐約作家、媒體人史蒂芬・羅森鮑姆（Steven Rosenbaum）上個月出版了備受矚目的新書《真相的未來》（The Future of Truth，中文書名為本文暫譯），探討AI人工智慧如何影響並扭曲人們對於真相的判讀與理解。書籍出版後，卻遭《紐約時報》揭露，書中有多處引用他人的發言或文章，卻標注了錯誤出處，或甚至是徹底虛構，疑似為AI生成內容。多家媒體隨即採訪了羅森鮑姆，他坦承寫作過程中有利用AI輔助，但同時也提出了一些耐人尋味的反駁論點，引發熱議。羅森鮑姆是一名作家、製片人，同時也是非營利組織「永續媒體中心」（Sustainable Media Center）的執行長。《真相的未來》一書在出版之前就引發極大關注，不但諾貝爾和平獎得主、菲律賓記者瑪麗亞・雷薩（Maria Ressa）為本書撰寫前言，更有《大西洋月刊》（The Atlantic）執行長尼古拉斯・湯普森（Nicholas Thompson）及多位知名記者出聲推薦，包括美國記者與科技專欄作家泰勒・洛倫茲（Taylor Lorenz）、美國國家雜誌獎得主麥可・沃夫（Michael Wolff）等人。這份星光熠熠的名單究竟背書了怎麼樣的內容？根據《紐約時報》報導，書中有起碼六處引文的錯誤，散落在各章節中：一段科技記者卡拉・史威瑟（Kara Swisher）針對複雜AI語言模型的分析，遭史威瑟本人指出自己「從未說過這些話」，而且「這些內容讓我聽起來好古板」；心理學教授麗莎・巴瑞特（Lisa Barrett）則稱書中提到她著作的段落，不但並不存在她的書中，同時也是「完全錯誤的觀點」；除了這些徹底的AI幻覺，另有幾處則是出處標注錯誤，或像是波士頓大學研究員李・麥金泰爾（Lee McIntyre）說他從未講過書中引用的話，但其內容基本上符合他的研究與思想。事件爆發後，羅森鮑姆發布聲明，承認書中確實「存在少數引用不當或合成的引言」，並表示他已經「自行展開調查」，將會全面審查並修正所有發生錯誤的段落。他強調，這些誤用純屬意外，自己「絕無捏造任何觀點的意圖」，並在聲明的結尾表示，「事實上，這些AI造成的錯誤，並未削弱本書所提出的更宏觀的問題⋯⋯如果這個事件能作為AI相關風險的一次警訊，那正是我寫作這本書的原因。」由於在《真相的未來》出版時，知名媒體網站《連線》（WIRED）也刊登了一段此書的書摘，因此在事件爆發後，他們首先將該書內容輸入目前可信度最高的AI檢測工具Pangram，得到了「53%由AI生成」的結果，並立刻聯絡了羅森鮑姆確認情況。羅森鮑姆再次重申他確實會使用AI來查找資料和進行語句的潤飾，但拒絕對Pangram的檢測結果發表意見，表示「這就像是問『你會打老婆嗎』一樣，屬於那種你無法回應的指控。」當被問到他是否會複製AI的回答到文章中貼上並進行修改，他回答「可能會」，而關於這是否有在本書的寫作過程中發生，他則回答「我不記得了」。如今媒體界對於AI的看法仍然存在分歧，所謂「合理使用」的邊界也持續在被重新劃定。即便爭議案例層出不窮，仍然有例如《財富》雜誌（Fortune）、《商業內幕》（Business Insider）等媒體選擇全力投入，積極鼓勵記者與AI合作撰寫報導。由於《連線》目前仍然拒絕刊登任何AI生成的內容，因此記者再次向羅森鮑姆確認該段書摘是否是由AI撰寫，羅森鮑姆回應：「你想找到一份一槍斃命的證據，但根本沒有那種東西。」他並提到一份報告，指出有高達82%的新聞工作者已在工作中採用AI，他因此認為《連線》的AI政策過於嚴苛，並推測《連線》的記者很可能也有在偷偷使用AI。在採訪的最後，羅森鮑姆表示自己不可能停止使用AI，若是為了避免發生錯誤，他甚至寧可放棄寫作。《連線》事後向報告的出處MuckRack確認了該項調查，發現82%的統計數字是將「語音轉文字」以及「查找資料」也包含在「採用AI」的範圍裡頭，真正「以AI輔助寫作」的記者僅有兩到三成。在此採訪過後，《連線》已經將該書書摘從網站上撤除。