【原】未來之城：機(jī)器作為工具，控制人類的遙想

玖弋閣 2023-02-15 發(fā)布于上海

展開全文

ChatGPT近階段成了眾人的熱門話題。它能對話，它能提供各種答案，只要它的數(shù)據(jù)庫里有。但它不保證正確。于是荒誕可笑的問答在網(wǎng)絡(luò)上流傳。

同樣有一本荒誕的科幻小說《未來之城》諷刺了人工智能所創(chuàng)造的世界。小說的世界是一個被人工智能所覆蓋的世界。人名、國家名、地名都已經(jīng)改進(jìn)。

就拿人名來說，再也沒有什么“克林頓”、“特朗普”這樣的姓氏了。人們的姓氏以職業(yè)為名稱，比如總統(tǒng)、行政、廚師。如果一個女孩出生時，母親恰好是失業(yè)者，那么她出生后的姓氏就是失業(yè)者，男孩則根據(jù)父親的職業(yè)。

連續(xù)劇《黑鏡》中曾提及的評分社會同樣存在于《未來之城》中。每個人都有自己的等級，相應(yīng)的等級有相應(yīng)的完美積分，它會影響每個人交友、社交、醫(yī)療等生活的方方面面。要是等級降低了，原來的朋友們即刻就會斷交，系統(tǒng)會推薦新的合適當(dāng)前等級的朋友。

《未來之城》是一本反烏托邦小說，里面許多內(nèi)容都曾經(jīng)在現(xiàn)實(shí)網(wǎng)絡(luò)中發(fā)生，作者馬克-烏韋·克林將它們?nèi)谌牖恼Q的故事里，讀到它們一定會會心一笑。

主角皮特·失業(yè)者只有一家雜貨鋪，經(jīng)營機(jī)器人銷毀的工作。實(shí)際原來他學(xué)的是機(jī)器人維護(hù)，自從《消費(fèi)保護(hù)法》頒布后，機(jī)器人有問題就直接報廢，所以他從機(jī)器人維護(hù)者變成了機(jī)器人報廢者。這是一個多么普通的主角呀。

唯一讓他不太一樣的是，他從來沒有報廢過一臺機(jī)器人。他把它們藏在了地下室，劫后余生的帶著各種問題的機(jī)器人成了皮特的朋友。也正是他們幫助了皮特解決他的難題。

比起算法機(jī)器人，帶著缺陷的機(jī)器人更顯可愛。壞了的格斗機(jī)器人會破壞，也會說：壞壞壞……了。恐高的無人機(jī)，飛到高空就會暈。律師機(jī)器人有了良知……

算法禁錮的世界

完美之城意味著幸福生活，算法知道每個人的心情如何，會在適當(dāng)?shù)臅r候提供最恰當(dāng)?shù)姆?wù)，讓用戶保持良好的心情。

如果您正在找尋伴侶，完美伴侶公司會根據(jù)用戶資料，匹配最佳伴侶。如果您心情低落，正牌店會用無人機(jī)為您送來當(dāng)下最需要的東西，比如一打啤酒。私人助理會向您推薦符合喜好、符合您等級的一切產(chǎn)品。

完美世界的算法提供最好的服務(wù)。算法的背后是數(shù)據(jù)，數(shù)據(jù)是從用戶日常行為中獲得。然而究竟是經(jīng)常性行為，還是偶發(fā)行為上獲取數(shù)據(jù)呢？沒有人知道，除了服務(wù)商，于是出現(xiàn)了某種奇特的問題，用戶收到了自己不想要的東西，卻不能退貨。

是的，不能退貨。系統(tǒng)堅(jiān)稱：這是用戶需要的，即使現(xiàn)在說不需要，潛意識里還是需要，不多久就會用到。

因?yàn)槭撬惴ㄏ到y(tǒng)推薦，所以在選項(xiàng)中只有【OK】，沒有【NO】。算法知道用戶喜好，沒有理由存在【NO】的回答。

算法知道用戶的一切，推算用戶的一切，不會出錯。

機(jī)器不會犯錯。

皮特的問題

用戶真的覺得算法了解他們的喜好？而不是因?yàn)樗惴ńo了推薦才形成的喜好？

倒霉的皮特遇到了一個令人惱火的問題，他收到了不想要的東西，卻無法退貨。系統(tǒng)堅(jiān)持這是他要的，但他要這個干嘛？

皮特對自己的等級從10降到9的男人都沒什么大反應(yīng)，為什么對這件事反應(yīng)這么大？唯一的解釋就是算法給他帶來的負(fù)面影響超過限度了。

所有的選項(xiàng)只有【OK】，所有的朋友都是算法推薦，女友是算法匹配，連工作算法都定好了：你沒工作可找。

機(jī)械又自信的算法，讓感性靈活的人類崩潰。皮特在一個怪老頭的啟發(fā)下，才意識到算法收集了錯誤的信息，他的個人資料是錯誤的。他的人生在算法下，進(jìn)入錯誤的世界，如果不糾正將永遠(yuǎn)錯下去。

這個問題不是皮特一個人的，但幾乎沒人意識到它究竟意味著什么?！熬W(wǎng)絡(luò)適應(yīng)的當(dāng)然不是你本人，而是網(wǎng)絡(luò)認(rèn)為的你?！睋Q句話，算法也活在自己的世界里，它眼中的人是各種數(shù)據(jù)組合起來的人，至于數(shù)據(jù)對或錯，它壓根不知道。