? 2023 Conmajia
Initiated 10th March, 2023

昨天跟某化學(xué)家喝酒，期間提到了 ChatGPT。他的評(píng)價(jià)是：這鬼東西大量輸出毫無(wú)意義、錯(cuò)漏百出甚至是虛假的信息，“in a confident accent”。例如某次 GPT 針對(duì)“描述某某記者”這一問(wèn)題，給出了“某某是暢銷(xiāo)圖書(shū)作者”，事實(shí)上該記者從未寫(xiě)過(guò)或者出版過(guò)任何書(shū)籍。而 GPT 解釋給出這個(gè)答案的原因竟是“因?yàn)楹芏嘤浾叨紝?xiě)過(guò)書(shū)，所以某某也寫(xiě)過(guò)。甚至因?yàn)槠淙耸艿疥P(guān)注，所以他的書(shū)作就應(yīng)該是暢銷(xiāo)書(shū)?！?/p>

聽(tīng)起來(lái)很離譜，不過(guò)對(duì)“人工智能”來(lái)說(shuō)也很正常。所謂人工智能，現(xiàn)在市場(chǎng)上有一種彌漫著“磨刀霍霍向韭菜”的風(fēng)氣卻把人們帶到了只要一提 AI 潛意識(shí)里便只會(huì)覺(jué)得它是“智能”，而忽略了它終究是“人工”的，不可信的。畢竟人工智能的哲學(xué)基礎(chǔ)便是“不確定性原理”。🐶

于是我們以此話(huà)題下酒，繼續(xù)聊了下去。初用 GPT 時(shí)，我曾一度認(rèn)為這個(gè)產(chǎn)品像是古早人工智能分支——“專(zhuān)家系統(tǒng)”——的現(xiàn)代版本，通過(guò)收集、存儲(chǔ)數(shù)據(jù)并根據(jù)問(wèn)題需求合成相應(yīng)的回答，當(dāng)然其中加入了現(xiàn)代深度學(xué)習(xí)的特性使其回答更符合人類(lèi)的自然語(yǔ)言。但是隨著使用次數(shù)增加，我從 GPT 那得到了明顯錯(cuò)誤的回答，讓我意識(shí)到，這玩意兒是真的設(shè)計(jì)成了不在乎或者不能驗(yàn)證回答正確性的形式：但盡人機(jī)事，各憑天命。

久仰于其“無(wú)所不會(huì)”的盛名，我曾要求 GPT 計(jì)算一個(gè)簡(jiǎn)單的矢量問(wèn)題：求 $\vec{v}=(?1,2,3)$ 在 $\vec{w}=(1,1,1)$ 上的投影。我得到了如下回答：

▲ ChatGPT 關(guān)于矢量投影的一次回答

GPT 找到了正確的計(jì)算公式 ${\mathrm{proj}}_{\vec{w}}(\vec{v})=\frac{\vec{v}?\vec{w}}{{\left|\vec{w}\right|}^2}\vec{w}$ 卻得到了明顯錯(cuò)誤的答案 $\left(\frac{4}{3}\times 1,\frac{4}{3}\times 1,\frac{4}{3}\times 1\right)=\left(\frac{2}{3},\frac{2}{3},\frac{2}{3}\right)$。但是，正如化學(xué)家所遭遇的，它以“看起來(lái)非常確信”的語(yǔ)氣，理直氣壯地給出了錯(cuò)誤答案。

酒桌上，我們的心理學(xué)家朋友呷了一大口酒，然后指出，GPT 其實(shí)只是一個(gè)語(yǔ)言模型。它的目標(biāo)，或者說(shuō)功能，僅限于盡量生成一些“語(yǔ)義上正確的回答”，至于這個(gè)回答是不是事實(shí)上正確的，并不是它關(guān)心的——人類(lèi)終究還是一個(gè)自找麻煩的物種。當(dāng)然我并不知道他的斷言正確與否，畢竟我早就把 ChatGPT 標(biāo)記為“僅供參考”了。

其實(shí)正確與否沒(méi)人在乎，開(kāi)發(fā)者只是領(lǐng)命行事，投資人要的顯然是熱度。不會(huì)真有人覺(jué)得他們是“為了人類(lèi)”在努力改變世界吧？猶記得當(dāng)初炒作“元宇宙”時(shí)，好似創(chuàng)世神降臨，全體人類(lèi)皆需頂禮膜拜。只要是資本推出的產(chǎn)品，不管是免費(fèi)用戶(hù)還是付出真金白銀的消費(fèi)者，仿佛只要你使用了產(chǎn)品享受了便利，你不給出品公司和資本家磕幾個(gè)響頭那就是愚民。結(jié)果卻總是當(dāng)某產(chǎn)品短期內(nèi)成為話(huà)題焦點(diǎn)后，資本就到了“小試牛刀”的收獲季節(jié)。比如近期 ChatGPT 從所謂“非盈利模式”正式亮明鋒刃，推出 20 美金一月的 Plus 版服務(wù)，實(shí)實(shí)在在割了一茬嘗鮮的韭菜。只是不知道又有多少人想要給資本家大老板下跪謝恩呢？我建議這些人每天吃完飯至少給飯館大廚磕一個(gè)頭，不過(guò)分吧？

這幾日的“高溫超導(dǎo)”新聞讓媒體和股市沸騰雀躍，無(wú)論提出者有多少造假前科，也無(wú)論所謂的試驗(yàn)無(wú)法復(fù)現(xiàn)，一個(gè)個(gè)網(wǎng)友營(yíng)銷(xiāo)號(hào)似乎比真正的研究員、科學(xué)家們都要激動(dòng)。這時(shí)候沒(méi)有人再提“狼來(lái)了”，沒(méi)人再提“科學(xué)需要嚴(yán)謹(jǐn)”，有的只是股價(jià)的飆升和資本的狂歡。每當(dāng)人類(lèi)有了“萬(wàn)一是真的呢”這種念頭，也就意味著又一場(chǎng)賭局正式開(kāi)始，無(wú)非就是誰(shuí)是韭菜的擊鼓傳花游戲罷了?！u(píng)價(jià)來(lái)自?xún)蓚€(gè)在股市賠得底褲都快沒(méi)了的倒霉蛋。😅

后記

當(dāng)我再次嘗試提問(wèn) $(?1,2,3)?(1,1,1)$，得到了正確的答案 $\left(4/3,4/3,4/3\right)$：

▲ ChatGPT 關(guān)于矢量投影的另一次回答

對(duì)于只是“玩一玩”人工智能產(chǎn)品的體驗(yàn)型用戶(hù)來(lái)說(shuō)，這似乎屬于尚可接受的有趣經(jīng)驗(yàn)。不過(guò)對(duì)于“依賴(lài)型”用戶(hù)而言，可以說(shuō)是噩夢(mèng)一般的感受：承擔(dān)了所有的風(fēng)險(xiǎn)（懂的都懂），卻得到錯(cuò)誤的答案——想想都很 drama。