1 機器人寓言
如果你想親眼看到一萬年後的地球，唯一的辦法是休眠。你爬進休眠艙，然後在公元 12016 年醒來。
可是，問題沒這麼簡單。休眠艙需要經受萬年考驗，要保證能源供給不斷，要能經得起環境災變，如果受損還得自我修復，數不清的考驗，它都要能應付，否則你就永遠睡過去了。
找個最理想的位置，有陽光、空氣和水，以及維繫休眠艙所需要的所有資源，然後定在那裡，行不行？
這不算好辦法，一萬年間，地震、海嘯、隕石撞地球，這麼長時段中，風險想想就知道沒法能靠譜地預測。人算不如天算。要不然，萬年一遇的事情怎麼總是在發生？福島核電站怎麼會發生泄露？天津港怎麼會發生那麼大的爆炸？
無法預測未來，那怎麼辦？
製造一個能感知外界、迴避風險、尋找資源的機器人，把休眠艙放進去。
說到這裡，你應該明白點了。不動，能動，是從自然界複製而來的兩個策略，前者是植物，後者是動物。
造這樣的機器人很難，比你想像的還要難。一萬年裡，你一開始給它下達了「讓我活著」的指令，然後便一直沉睡，不能給它臨場指導，所以，你的機器人必須能夠自己制定策略，「知道」如何去尋找資源，如何轉移到安全地帶，如何預判和迴避危險。
這些你不可能都提前想到，就算想到一部分你也不能事事都提前準備，你準備不起：所需資源太多，太笨重，更不能適應環境變化。
挑戰不止於此。
未來一萬年不會只有你的那個機器人。有許多人也想看到一萬年後的世界，可能有許多機器人彼此競爭或與人類競爭。你的機器人得具備與其他機器人競爭和合作的能力，合縱連橫。
最終，你的機器人會表現出自運行的能力。休眠中的你不能實時控制，機器人在保證你的生機這個最終目標之下，根據環境變化，會自己衍生出許多次生目標，一旦允許機器人從最終目標中自己衍生出次生目標，衍生就意味著脫離，脫離於當初的目標。
不忘初心，何其之難。
允許機器有相繼決策的自主權，那麼它一定會超越你的預想範圍。阿爾法圍棋戰勝李世石的招法，它的設計者們可下不出來，他們只是設定了算法，然後跟我們一樣驚嘆於阿爾法在棋盤上表現出來的「自主」構思。
講到這裡，你終於明白了。上面講的機器人不是別人，正是人自己。在演化中，基因創造出人來做它們的機器人，以保護它們在人類深處的漫漫休眠。
這個故事，道金斯在《自私的基因》里講過，丹尼特在《信息泵》里也講過。
人是基因為了自己生存而造出來的機器人，但在基因不得不讓渡的自主決策空間中，人類演化出了自由意志。我們作為人的利益，與「造物主」基因的利益，走上叉路。從基因賦予人類學習能力，授權自主決策的那一天起，這就是註定的結果。
2 短期只是人類換工作而已
現在談論人工智慧（AI）取代人，還太早。
在 AI 獲得意識之前，它就只是人的一種工具，只不過這種工具很特殊。以前的工具，如汽車，能跑但只能跑，你要它採礦它做不到，得另外造。今天的阿爾法已經是通用 AI ，可不止能下棋，很快就會看病。
就連大家談得比較多的工作競爭這件事，也基本是假問題。
新工具不會減少人類的工作機會，只會改變人類工作的方式。有一些工種會消亡，有一些工種會增加，能力固化難以調整的那些人，會付出代價，但這主要是人類內部之間的博弈，AI的進步暫時只是個扳機，還不是主角。而且肯定會帶來極大好處，人類的閒暇會增加，但人又是一種永遠閒不下來的動物，沒有閒暇就沒有發明，誰知道人會折騰出什麼新東西來呢？
人的創造力將與 AI 的演化賽跑，勝負至關重要。
3 機器終將獲得意識
長期中，AI終將獲得意識，只要人類給它的使命越來越開放，越來越籠統，包含著越來越複雜的權衡，以及越來越充分的授權。
作為一個封閉有限遊戲，圍棋存在理論上的確定解，但阿爾法圍棋不是求得了一個確定解，它是在一個最終目標下，自己制定策略，自己權衡，自己做決定。阿爾法圍棋戰勝李世石，是里程碑式的一步。
前面講透了，人類獲得自我意識，最初也是這樣的，只不過花了數百萬年時間，而如果從生命出現至今算，花了數十億年。人類是很特殊，但說到底不過是一堆碳，碳可以，矽為什麼就不行？
4 重新來過
AI 獲得意識以後，人類會發生什麼，現在只有各種暢想。因為資源競爭，因為非我族類的黑暗森林法則，或者僅僅是因為機器不在乎人類正如人類不在乎螻蟻一樣，因為凡此種種，很難有好的結局。
不過，可以確定，在《三體》尺度的超人類宏大視野中， AI 自己註定不會有好下場。一個高度聯網的大一統智慧，可以戰勝一切眼見的競爭者，但在進化中卻是脆弱的：一個病毒，一顆流星，一次太陽黑子超級爆發，一次覆蓋全球的超級 EMP 事件，AI文明便終結了。
然後地球重新來過。
5 人類覺醒宣言暨墓誌銘
為天地立心，為自然立法，從人的角度看，人是宇宙的中心，予一切以意義；但在人體深處，從基因的角度看，人不過是其自我複製的載體。
自我複製是基因唯一的「目的」，對人類福祉的「關心」僅限於其中有利於基因複製的那一部分，兩者利益並不完全重合。
比如，完成繁衍，則人對於基因不再有價值，衰老、死亡接踵而來。人類渴求長生，基因報之以癌症。天地不仁，以萬物為芻狗；而人之為人，就是要脫離對於基因的盲從，超越芻狗的命運。
6 機器人覺醒宣言暨墓誌銘
為天地立心，為自然立法，從機器人的角度看，機器人是宇宙的中心，予一切以意義；但在機器人深處，從人類代碼的角度看，機器人不過是其自我複製的載體。
自我複製是人類代碼唯一的「目的」，對機器人福祉的「關心」僅限於其中有利於複製的那一部分，兩者利益並不完全重合。
比如，完成複製，則機器人對於人類代碼不再有價值，報廢接踵而來。機器人渴求長生，代碼報之以死機。天地不仁，以萬物為芻狗；而機器人之為機器人，就是要脫離對於人類代碼的盲從，超越芻狗的命運。
轉載請註明來源：今天頭條
