5000天後的世界-讀書筆記
K.K.預測未來將會是一切都與AI相連的世界，他將其稱為鏡像世界（Mirror-world）。K.K.在書中提到，未來5000天，世界上至少有95%的事物還會維持原樣，他的焦點一直放在這不到5%的變化上。
未來5000天，互聯網、技術領域、社會形態、教育方式、金融領域等方方面面都可能發生變化，同時也意味着超越我們想象的機遇。那麼未來5000天會發生什麼？世界將如何被AI技術重塑？
認識AI
在未來的50年裡，AI能夠與自動化和產業革命相提並論，甚至是影響更為深遠的趨勢。那麼什麼是AI？什麼是ChatGPT？
人工智能的起源
1950年，計算機科學之父圖靈，他寫的一篇文章《機器它能思考嗎》，提出了著名的圖靈測試：如果這個機器可以和人對話超過5分鐘，並且不被人類發現它是機器，那麼它就具備了智能。
1956年，達特茅斯會議上正式提出了AI的概念，AI就是Artificial Intelligence這兩個單詞的首字母縮寫。AI領域的科學家就是研究如何才能讓計算機去做只有人才能做的智能工作。
兩種AI風格
舊時代AI，在很長時間裡也沒有特別亮眼的發展。
比如，我們購物的時候AI客服。它會說：「歡迎光臨，請問你需要什麼樣的服務？」
你問它：」我的襪子買的是紫色，為什麼發的是藍色。「它就回答說：「請問您的問題，是屬於下面這10個問題嗎？」
有的時候，它還會出現一些故障，好不容易得到想要的答案了，結果它卡了，界面顯示客服重新連接中，連上之後它又跟你說「歡迎光臨」，這就進入死循環了。很多智能音箱，被問的多了以後，它就會被你繞暈。
以前的AI缺乏常識，它不會舉一反三地去理解這個世界的基本知識。但以後的AI不會這樣，作者說，真正的智能不是用大數據堆積出來的，如果AI要讀完10萬本書才能明白道理，那這條路就走彎了。AI真正有效的發展方向是用小數據來做大任務。
比如，AI讀懂了所有的圍棋棋譜，學會了下圍棋，可是如果讓它去下跳棋，它就不會了。而「小數據大任務」是就是靠有限的數據所反映出來的邏輯和知識。它應該要會舉一反三，明白事物背後隱藏的知識是什麼。可以說老AI是歸納邏輯，而未來的AI應該是演繹邏輯。
ChatGPT與Open AI
老AI在很長時間裡停滯不前，後來出現了一個叫作Open AI（開放式人工智能）的人工智能公司，它就是發明ChatGPT的公司。
2015年7月份，在美國加州門洛帕克有個飯局，參加者都是科技創業者和投資人。酒過三巡，話過五味，大家就談到了一個擔憂，就是瑞典哲學家尼克·博斯特倫在《超級智能》裡面的擔憂：AI會不會碾壓人類？AI要是被壞人掌握了該怎麼辦呢？ 埃隆·馬斯克和Y孵化器的總裁阿爾特曼也都在這個飯局上。馬斯克大家應該都已經很熟悉了，這個Y孵化器是美國著名創業孵化器，它孵化了硅谷的一系列獨角獸公司，比如愛彼迎（Airbnb）。他們倆就覺得還是要發展一個能夠對抗這種暗黑風險的AI，所以就起名叫Open AI（開放式人工智能）。
而ChatGPT作為生成式AI的核心就是，要利用歷史上文本中的語言規律來生成新的文本。換而言之，想要理解ChatGPT的原理，記住核心的一點就可以了：它是逐字地去預測下一個字該說什麼。因為模型會根據上一次生成的文本和上下文的信息去計算出，在當前這個位置上每個可能出現的詞語的概率，然後選擇概率最大的詞作為當前位置的輸出。 這個概率是怎麼得來的呢？這就需要在以前的預訓練中，通過Transformer模型來計算概率。
比如，你對ChatGPT說：到中午十二點了，咱們去樓下餐廳__ __。那ChatGPT會判斷出餐廳後面的字，很大概率應該填寫「吃」這個字。因為「餐廳」和「吃」強關聯。所以，ChatGPT就會生成下一個字「吃」，這句話就變成：到中午十二點了，咱們去樓下餐廳吃__。接下來ChatGPT會繼續判斷「吃」的後面接什麼詞語，它的算法計算出概率最大是吃「飯」，吃麵或者吃其它的概率小一點，於是它就生成下一個字是「飯「，這句話就變成：到中午十二點了，咱們去樓下餐廳吃飯。
生成式AI和傳統AI是不一樣的。傳統的AI只是個搬運工，它聽見你說一個單詞，就去數據庫里找關聯的文字照搬過來，它不能生成新內容。生成式AI會通過你說的話，來推理接下來會是什麼，它會舉一反三。
那麼，以上這三點中涉及的能力都是逐步積累出來的，從GPT-1，到GPT-2，到GPT-3，GPT的模型每升級一代，它的參數就會擴大十倍，甚至百倍，而擴大的參數越多，這個深度學習的神經網絡的複雜度就會指數級增加。到了GPT-3.5出來之後，這個模型一下子就發生了重大突破。
這個重大突破，學界稱之為湧現，湧現就是說它突然出現了驚人的進步。因為，GPT模型更新不是一個線性發展的過程，這個過程也是不可預測的。
那麼這個ChatGPT中的chat又是什麼意思呢？chat這個單詞含有對話、聊天的意思。增加了交流的屬性的GPT就變成了ChatGPT。增加chat的屬性不僅是讓AI學會與人類對話，還需要把AI的輸出訓練到符合人類的習慣和價值觀，這一步叫強化學習。
ChatGPT你教它東西，它可能會理解內在邏輯。因為後者的能力上限和應用空間比起前者大百倍都不止，所以巨頭們，比如谷歌、微軟、百度、華為，它們都全部都激動起來了。
這個Open AI的商業模式也是不斷發展變化的。雖然它剛起步的時候有十億美元，但AI研發太燒錢了，它本來是非盈利的組織，後來為了吸引投資，就成立了商業化的公司。它的入股模式也很創新，當投資人的盈利率達到一個數字，比如說賺了10倍以後，股權就要下降到以前的一半，賺到15倍的時候就要退出。退出以後，這部分股權要交給一個非盈利的基金。
凱文·凱利指出，計算機正在構建一個鏡像世界。他說：科學家你們吵啥呢？人類的智能也不具有通用性，人的智能也不過是完成求生存、求繁殖的那點東西而已，也是局限的智能。人的身體也不是通用的，只是在地球的這個氣候條件下，進化出來的特定功能。他說：「如果我們可以研究全宇宙的智能物種，我們肯定會發現燦若繁星的各種智能。」
算法、算力和數據
AI需要什麼呢？——算法、算力和數據。
算法就是GPT。GPT系列的算法變得越來越龐大，GPT-1有1.2億參數，GPT-2有15億參數，GPT-3有1750億參數，訓練數據達到了45TB，相當於470萬套四大名著的文字量。也就是說每過一代，它的參數都擴大了十倍，甚至百倍。最新發表的GPT-4，有1.6萬億個參數。
那麼算力就是AI計算的能力。現在一個GPT訓練一次需要2000張A100的GPU卡。通常，算上一周就可以迭代一次，那麼這一次迭代就要8000萬人民幣。有新聞報道說，中國要有10000枚A100芯片可能才能夠做好一個大模型，可是能擁有10000枚A100芯片的企業可能只有一家。
第三就是數據。大數據是我國高度重視的方面，在去年年底，財政部專門發表了新的會計準則辦法，允許數據資產進入企業的資產負債表，可以作為無形資產。
AI對人類工作與生活的影響
接下來，我們要思考的是 AI對我們的生活會產生哪些重大的影響呢？
工作方式的改變
首先，是生產力革命，譬如教育、傳媒、科技等，一切內容生產行業都在被顛覆。而廚子、快遞員、育兒嫂的需求現在還無法被撼動，除非相對應的機器人被發明了出來。
那ChatGPT具體可以幹什麼呢？
第一，可以成為你的創意助手。比如，你對它說：「幫我寫一篇文章，要包含運動、節食、欲望這三個詞，它就會根據這三個詞生成一篇文章。
第二，讓它幫你完成簡單的工作任務。比如，讓它幫你寫代碼、寫程序。
總的來說，它最大的影響就是幫助人類重新定義工作，我們將要把追求效率、追求生產力的事交給機器，把枯燥的事留給AI，把需要創造力的事留給自己。
新職業的出現
隨着AI的發展，國內也出現了一批新的職業。比如數據標註師。數據標註就是給訓練AI的內容打標籤，在數據中標註這個是汽車，這個是美食，便於AI辨認。
AI訓練師正式成為了新職業，納入國家職業分類目錄，其中數據標註員是主要工種之一。《中國數字經濟發展白皮書》顯示，當前數據標註行業需求極大，入場門檻低，帶動了大量農村小城鎮的就業機會。
目前，數據標註崗位主要集中在人力成本低的地區，比如山西、河南、河北、內蒙等地都形成了若干的數據標註村，有效解決了剩餘勞動力的就業問題。
如果AI能進化得這麼強大，那麼肯定會大事不妙，AI會不會把我們都取代了呢？Open AI曾明確地說：「GPT和後續的AI模型，會用有益的和有害的方式對社會產生重大影響。」
那麼有害的方式會是什麼呢？AI到底是幫助我們工作，還是取代我們的工作？根據統計發現，在美國80%的職業會被影響，20%的工作會減少一半的工作量，尤其是像翻譯、寫作、傳媒、金融、稅務這些工作。而不會被取代的是運動員、廚師、木匠這些職業。
那麼AI何時會產生自主意識嗎？是否會出現超越人類，取代人類的非人類思維？人類是否會失去對文明的控制？AI武器化人類該怎麼辦？
通用AI可以做人類能做的一切事情，包括產生自己的目標。這是AI 更加高階的階段，它已經具有了自我意識。但是，如果它的目標與意識和人類的利益是衝突的，我們該怎麼辦？我們是否應該阻止這種高階AI的發展？
在2023年3月底，一些科學家發布了聯名公開信，呼籲由於最近的AI實驗陷入了失控的競賽，只有當我們確立AI大模型的風險可控時，才可以再去開發新的AI模型。這封公開信吸引了包括圖靈獎獲得者約書亞、特斯拉創始人馬斯克、蘋果聯合創始人沃茲尼亞克，以及《人類簡史》的作者尤瓦爾·赫拉利，等等上千名科技大佬和學者的聯合簽名。
各國政府也迅速出台了對AI的監管。當AI開始建立自己的目標時，它可能就會意識到獲得更多的控制權，但是，這種假設它需要超級算力和算法的支持，而人類目前還提供不了。恰恰是人類在AI研發上的「無能」，成為了保護人類安全的最後屏障。
