▲ AlphaGo vs. Lee Sedol（李世乭）
人類從野蠻到文明，創造發明各種器具都供人類使用，讓人類做到先前不能做到的事。
登陸月球，在一百年前，還是不可想像。但到了1969年，人類做到了。那個第一個踏上月球的美國太空人尼爾．阿姆斯壯（Neil Armstrong）在踏上月球後講了一句有名的話：「這是個人的一小步，人類的一大步。」他的意思是，登月成功讓人類科技的發展向前邁進一大步。
人類第一次登月成功迄今已四十多年。科技日新月異。人工智慧的領域也蓬勃發展。電腦竟然越來越像人腦，思考及判斷的能力越來越強。人有壞蛋，會為非作歹。電腦如果進步到像人，那也可能會有搗蛋鬼，不守規矩，為非作歹。
電腦不聽從人類控制，不是不可想像。美國導演史丹利．庫伯力克（Stanley Kubrick）1968年拍攝的「2001太空漫遊」（2001: A Space Odyssey）已預言有此可能。電影中那架星際太空船中的智慧電腦「HAL9000」能聽、能看，也能講，甚至能讀人類的唇語。當它察覺會太空人準備將它「停機」時，它為了繼續運轉，竟然叛變，先發制「人」，設局殺害4名太空人。
電腦如果不聽從人類控制，幹壞事的能力是人類的千百倍。人類豈可不謹慎？！這兩年，一些科技界的頭人紛紛發表聲明，警告人們注意人工智慧的危險性。他們憂心，人工智慧發展下去，可能有一天有人工智慧慧的機器會失控，甚至反過來控制人類，造成人類的災難，甚至會毀滅人類。
美國Space X首席執行官埃隆．馬斯克（Elon Musk）說，人工智慧是人類生存的最大威脅，研究人工智慧就像在「召喚惡魔」。我們需要萬分警惕人工智慧，它比核武器更加危險！著名英國科學家史蒂芬．霍金（Stephen Hawking）說，人工智能將會自行發展，以加速度重新設計自己。由於受到緩慢的生物演化的限制，人類不能與之競爭，最終將會被代替。人工智慧的完全發展會導致人類的終結。微軟創始人兼慈善家比爾．蓋茲（Bill Gates）說，今後幾十年，人工智慧會強大到足以引起人們的關注。人工智慧最終將成為人類的心頭大患。
目前的人工智慧還沒到不受人類控制的程度。電腦和人下棋是檢測人工智慧的一個方法。下棋如戰爭。兵不厭詐。戰爭常欺敵以致勝。在棋戰上，下棋高手不只會機械地「計算」（誠實），也會狡猾地「算計」（欺騙）。高等的人工智慧也要「計算」和「算計」並用，才能在棋戰上贏過人類。
人工智慧在下棋上能不能打敗人類呢？1997年，美國IBM電腦公司的電腦「深藍」（Deep Blue）在西洋棋上勝過世界冠軍加里．卡斯帕洛夫（Garry Kasparov），讓人刮目相看，但在複雜度較高的圍棋上，電腦一直贏不過人類高手。
但現在情況已改變。這幾天美國的Ｇoogle公司旗下的DeepMind公司開發的圍棋電腦「AlphaGo」與世界頂尖的圍棋好手韓國人李世乭（이세돌，Lee Se-dol）對弈5盤。結果，Alpha Go以4：1贏了李世乭，跌破了很多圍棋專家的眼鏡。可見人工智慧大有進步。如果AlphaGo會自己設計圈套，引誘李世乭進入，然後甕中抓鱉，那更高竿了。不管如何，人類面臨的威脅變大了。
有些媒體在報導每次棋局的輸贏時，不是說「李世乭輸了（或贏了）」，而是「人類輸了（或贏了）」，彷彿李世乭是人類的「對抗」人工智慧的最後「堡壘」。他像電影《世界末日》（Armageddon）中的布魯斯．威利（Bruce Willis）一樣，負有「拯救」人類的任務。
李世乭敗退的一小步，會不會是人類敗退的一大步？李世乭本人持否定的態度。他說：「這只是我李世乭個人的敗退，並不是全人類。AlphaGo不是高手，是人類可以應對的水準」。他應該是謙虛，認為自己不行，一定還有行的人。但是，如果比李世乭更高竿的人也還是打不贏AlphaGo呢？
以AlphaGo棋藝進步的速度，到達天下無敵手，應該不是問題。AlphaGo天下無敵手，可怕嗎？對岸的小米手機公司老闆雷軍在聽到AlphaGo贏棋時，說：「我的同事給我講了個笑話，說今天AlphaGo下圍棋贏了並不可怕。可怕的是，如果它故意輸給李世乭。謝天謝地，這一幕沒有發生。」
這段話很有意思。Google公司設計AlphaGo，一定是設定要贏棋的。AlphaGo竟會故意輸棋，不管它的動機是什麼，那表示它有擺脫人類控制的思維能力。這比它乖乖地贏棋可怕。是的，AlphaGo贏棋不可怕，故意輸棋才可怕，那才是人類敗退的一大步，人類崩盤的開始。
-----------------------------
參考資料
-----------------------------
中央社 2016/03/15 20:48
▲ 南韓棋士李世石走進四季酒店新聞中心的記者會場。 中央社記者姜遠珍首爾攝
（中央社首爾15日綜合外電報導）南韓圍棋好手李世石今天再吞一敗，與谷歌公司超級電腦AlphaGo的人機對弈落幕，以1勝4負敗北。李世石今天在五盤大戰的最後一場比賽執黑子，下到第280手棄子認輸。
南韓聯合新聞通訊社（Yonhap）報導，李世石說，AlphaGo的棋風、對弈環境和他之前經歷的完全不同，他花了很長時間適應這種新環境。
他又說：「AlphaGo沒有心理波動且能高度專注，我若再度與它對弈，能否獲勝我自己也心存疑問。」但他也表示：「AlphaGo不是高手，是人類可以應對的水準，所以最終的結果令我遺憾。」李世石說，挑戰賽結束令人不捨，本來想在終局留下好的結果卻沒實現。解析今天的對弈，李世石說：「開局我占優勢，但沒能保持下去，最終告負，這都是因為我實力不足。」他還說，此次挑戰賽對他個人而言雖有不少遺憾，但有很多人鼓勵他、為他加油，他對此表示深深感謝。……
李世石在首爾四季酒店新聞中心舉行的記者會上表示，「實在很惋惜，感謝大家的聲援，也真的很抱歉，曾經一度0比3落後，又未能獲得『有終之美』，未能完成大家的期待，真的很抱歉。」李世石強調，「今後將虛心鑽研棋藝，希望能夠更加發展下去。」……
南韓聯合新聞通訊社指出，在第4局扳回一城後，李世石今天在最後1局執黑先行，擺出注重實地的錯小目布局，AlphaGo以二連星應對，自然形成黑在右取實、白在左取勢的格局。
李世石昨晚與棋友共商對策，根據前4局中AlphaGo對目數異常敏感的表現，擬定了搶先占地的計畫。
李世石依計而行，一進入中盤，就在右下角利用AlphaGo的小失誤圍住40多目的大模樣，爭取到有利局面。但在侵消上邊白棋大空時，李世石下得過於保守，黑79急於做活，4沒有長出來，頓失其往日風格，也喪失了優勢。
AlphaGo借機一舉形成龐大外勢後，急於求戰的李世石打入左下邊白陣，但沒占到任何便宜，最終轉換吃虧，頹勢愈加明顯。
李世石頂著讀秒壓力頑強作戰，在收官階段奮力追趕，但職業棋手們普遍認為差距不小於1目半。認定翻盤無望後，李世石在鏖戰5個多小時後的280手投子認負。
作者 呂紹玉
科技新報TechNews 2016 年 03 月 15 日 17:01
延燒了一個星期的人機世紀大戰，Google 人工智慧系統 AlphaGo 對戰南韓棋王李世乭，今（15）日來到最後一戰第 5 盤，結果還是由 AlphaGo 獲勝。最終比數 AlphaGo 4：1 狂電李世乭，人工智慧勝過人腦，AlphaGo 也擠上 GoRatings.org 公佈的世界排名第 4 名，今天賽後或許將再上升。
李世乭在連輸 3 盤後，在第 4 盤終於贏過AlphaGo，還在賽後表示發現 AlphaGo 兩個弱點，如AlphaGo 比較畏懼執黑棋，此外，AlphaGo 碰到沒有意料到的一手時，對應能力就顯得較差，會出現 BUG、一連下幾手臭棋。
而在今天的對弈中，李世乭（黑棋）用時顯得較有餘裕，AlphaGo（白棋）也的確有下錯棋，不知是否因為李世乭確實找到 AlphaGo 弱點並加以利用，盤中兩人打得難分難捨，一度棋評中國棋手古力（職業九段）認為李世乭會贏，但隨著白棋往中間進攻，情勢逐漸倒向 AlphaGo，到盤末收官階段，兩人皆用完 2 小時佈局時間，每手只剩 1 分鐘讀秒時間可用，相當緊湊，最終在比賽時間來到 5 小時，李世乭投子認輸，AlphaGo 獲勝。
共 5 盤的對戰中，AlphaGo 以 4：1 取得這場人機大賽的勝利。
AlphaGo 獲勝並不是人類的敗退，而是人類的勝利
說是人機大戰，因為外界多將這場比賽視為繼 1997 年 IBM 電腦深藍打敗西洋棋王 Garry Kasparov 後，電腦再度於圍棋領域稱王。而在背負人腦與電腦大戰歷史意義時，再經驗老道的棋手也不免覺得沉重，李世乭在連三敗時曾坦言，跟人比賽也未曾有如此沉重的壓力，「從來沒有感受到如此嚴重的壓迫感、負擔感，要克服這些壓力，我的能力不足。」但李世乭也強調「這只是我李世乭個人的敗退，並不是全人類」。
不過李世乭其實不用急於自責自己的敗退，因為 AlphaGo 的獲勝並不用視為電腦打敗人類，而應該看作是人類打敗人類。李世乭不用擔心背負全人類的失敗，而應該想著是因為他的棋藝，才能訓練用於造福全人類的人工智慧系統，畢竟 AlphaGo 在賽中的確也下了許多失誤得棋子。
5 盤賽事結束後，世界上的人工智慧熱才正要開始，AlphaGo 成功在圍棋── 世界上最複雜的棋盤遊戲上贏過人類後，所謂的深度學習、人工智慧能夠利用在什麼領域更值得研究與發展，醫學、教育、太空研究、災難預防…… 都有可能。
至於圍棋的未來呢？電腦就能贏了，職業棋士還有存在的必要嗎？引用 Google 在圍棋大戰直播現場請來的棋評職業九段麥可雷蒙（Michael Redmond）所說，人類並沒有因為科技的發展造出跑得比人快的車子後，而停止跑步競賽、馬拉松競賽，相信人類未來也不會停止下圍棋。
-----------------------------
風帆
騰訊科技[微博] 2014年10月25日12:40
電動汽車公司特斯拉、商業太空飛行公司SpaceX首席執行官埃隆·馬斯克（Elon Musk）不是人工智能的堅定擁護者，相反他稱後者為“人類生存的最大威脅。”
馬斯克警告人工智能存在的巨大威脅，呼籲對人工智能加強監管，以確保“我們不會做蠢事”。他日前參加麻省理工學院航空與航天學院百年研討會時表示：“如果讓我猜人類最大生存威脅，我認為可能是人工智能。因此我們需要對人工智能保持萬分警惕，研究人工智能如同在召喚惡魔。”
人工智能研究的目的是創造智能機器，可以有效地解決問題，甚至有時候比人類做得更好。許多科學家希望確保人工智能可以發揮積極作用，但在科幻小說或電影中，人工智能經常讓人類陷入噩夢中。比如《2001》、《終結者》、《銀翼殺手》等電影中，智能電腦或智能機器最終將武器對準它們的人類創造者。
馬斯克說：“在所有故事裡，似乎總有拿著五角星和聖水的傢伙，就像他確保自己能控制惡魔一樣。但這並非總是管用。”
這並非馬斯克首次呼籲警惕人工智能。8月份，馬斯克就曾發文稱：“我們需要萬分警惕人工智能，它們比核武器更加危險！”（風帆）
翼飛
騰訊科技[微博] 2014年12月04日00:10
英國理論物理學家史蒂芬·霍金警告說人工智能的發展可能意味著人類的滅亡。在接受英國廣播公司的採訪時霍金說，這種技術會迅速演變並超過人類，那時將會出現電影《終結者》中想像的一幕。“我們已經擁有原始形式的人工智能，而且已經證明非常有用。但我認為人工智能的完全發展會導致人類的終結”，霍金教授在星期二播出的採訪中說。
“一旦經過人類的開發，人工智能將會自行發展，以加速度重新設計自己。”
這位被認為是世界上最聰明的在世科學家接著說，“由於受到緩慢的生物演化的限制，人類不能與之競爭，最終將會被代替”。……
網易科技 2015-01-29 05:02:43
網易科技訊 1月29日消息, 據國外媒體報道, 比爾·蓋茨今天在Reddit的“Ask Me Anything”論壇上表示，人類應該敬畏人工智能的崛起。蓋茨解釋道，人工智能將最終構成一個現實性的威脅，但它在此之前會使我們的生活更輕鬆。不過有趣的是，微軟的研發董事總經理埃裡克·霍維茨持相反觀點，認為世界末日的場景純屬“科幻”。
以下是蓋茨對人工智能所發表意見的全文：
“我正在關注超級智能。首先，在開始的時候機器會為我們做很多工作，這些機器並不是超級智能。如果我們處理得很好的話，這應該是具有積極意義的。那之後的幾十年，人工智能會強大到足以引起人們的關注。我同意伊隆·馬斯克和其他一些人的說法，不明白為什麼有些人並不關心。” 蓋茨所指的是伊隆·馬斯克最近表示人工智能“可能比核武器更危險。”
有趣的是，微軟的霍維茨並不同意上述說法，“人工智能末日景象更多屬科幻小說，不是什麼科學事實。” 所以看來那些直接負責產品研發的人並不擔心。（秉翰）
國際在線 2015-02-04 15:38:33
【環球網綜合報道】對於人工智能可能毀滅人類的擔心不僅限於科幻小說家，一些世界上公認“最聰明的人”也認為發展人工智能可能是一個潛在的災難性錯誤。據美國BGR網站2月3日報道，繼著名英國科學家史蒂芬·霍金(Stephen Hawking)和美國Space X首席執行官大名鼎鼎的“鋼鐵俠”原型設計者埃隆·馬斯克(Elon Musk)之後， 微軟創始人兼慈善家比爾·蓋茨(Bill Gates)也警告人們注意人工智能的危害。
在最近一次網絡答問活動中，蓋茨被提問他如何看待人工智能的潛在危害，他表示這確實是值得擔心的問題。蓋茨說：“如果我們能夠很好地駕馭，機器能夠為人類造福，但如果若干年後機器發展得足夠智能就將成為人類的心頭大患。”
與蓋茨一樣，去年埃隆·馬斯克也發表了類似言論，稱人工智能是“人類最大的潛在威脅”，玩弄人工智能等同于“召喚惡魔”，玩火自焚。史蒂芬·霍金在這一問題上表達得更加直白，他曾說人工智能一旦發展完全將終結人類這一物種，尤其是人類被緩慢的生物進化所束縛不能與之對抗就會被取而代之。(鄒越 聶魯彬)
作者：萬南
驅動之家 2015-07-30 11:53:06
在過去很多年內，人工智能（AI）更多的只是作為科幻影片中的橋段出現在我們面前，但如今這一前沿科技似乎已經逐漸成為了人們日常生活的主流元素之一。
最簡單諸如蘋果Siri、IBM的Watson等，都擁有著理解人類語言的極高認知能力。前不久德國大眾工廠所謂的“機器人殺人”更是引發了大爭論。
對於AI的發展態勢表示擔憂的名人包括天體物理學家霍金、特斯拉CEO馬斯克、蓋茨等，前者更是在去年12月接受BBC採訪時表示，“人工智能的發展會導致人類滅絕”。
來自Business Insider的最新報道稱，在近日於阿根廷舉辦的2015年國際人工智能聯合會議（IJCAI）上，超千位科學家簽署公開信，敦促聯合國禁止開發自主化武器（autonomous weapons）。
霍金、馬斯克、沃茲尼亞奇（蘋果創始人之一）等都進行了聯署，算是對人工智能所帶來的威脅發出警告。
不同于核武器，自主武器沒有那麼昂貴、原料取得也相對容易，因此自主武器未來將隨處可見，且軍事強國也可能大量生產。加州大學博客裡分校人工智能教授斯圖亞特•J•羅素（Stuart Russell）也表示，價格可負擔的殺手機器人不再是遙遠的科技。
信中也警告，自主武器使用不當恐將引發“第三次世界大戰”；即使自主武器在合法規範下製造，亦可能成為“明日的AK-47”，淪為恐怖分子用來挾持或暗殺老百姓的工具。
深知人工智能的可怕，馬斯克於2015年1月曾捐贈1000萬美元給未來生命研究所，針對人工智能的負面影響進行37項研究，目的在於確保人工智能系統價值觀與人類相同，避免發生如《終結者》的可怕後果。
事實上，“半自主武器”早已存在，英國、以色列及挪威目前已部署自主飛彈與無人機（drones），可用于攻擊敵人雷達、坦克或軍艦。丹佛大學倫理學教授Heather Roff在赫芬頓郵報（The Huffington Post）上曾撰文，他認為半自主與自主之間的界線其實已經越來越模糊，且正在慢慢縮小。
揚子晚報網 2016-03-10 06:10:40 記者 湯敏
“我的同事給我講了個笑話，說今天阿爾法圍棋贏了並不可怕，可怕的是，如果它故意輸給李世石的話……好吧，謝天謝地這一幕沒有發生。”
——雷軍（小米科技創始人、董事長兼首席執行官）
1997年，在國際象棋領域，電腦第一次打敗頂尖的人類；2006年，人類最後一次打敗頂尖的國際象棋電腦。在被歐美譽為頂級人類智力試金石的項目中，人類在電腦面前終於一敗塗地。不過在所有棋牌項目中，人類還有一塊陣地一直沒有丟失——圍棋電腦長期以來舉步維艱，頂級電腦甚至不能打敗稍強的業餘選手。不過隨著阿爾法圍棋昨天的驚天一勝，意味著電腦在圍棋這項需要“模糊思維”的項目上也取得了驚人突破，人工智能已經達到了空前高度。對於人類，這是歷史性的突破還是噩夢的開始？
能贏李世石的電腦為什麼太恐怖？
為什麼圍棋項目的人機大戰遠比當年的象棋和國際象棋更加引人關注？因為圍棋不像象棋每個子都有價值計算，目標明確就是將死對方的王，不被對方將死。而圍棋的“形”好壞是相當感性的東西。
面對棋類，電腦最厲害的就是可以在短時間內運算出所有能贏的方案。以國際象棋為例，每盤大約80步，每一步有35種可選下法，所以只要算35^80(“^”是一個用來表示第三級運算的數學符號，該符號經常被用來表示次方)種情況，大概是10^124；然而，圍棋一盤大約要下150步，每一步有250種可選的下法，所以粗略來說，圍棋需要計算250^150種情況，大致是10^360。10^360是什麼概念？100000……0000(總共360個零)，圍棋盤上的排列組合比宇宙中的原始原子還多。所以電腦想在圍棋上擊敗人類，不能光憑著強大的計算能力。阿爾法圍棋研發團隊為其加入了“策略網絡”和“值網絡”，讓軟件根據棋盤形勢選出較有前途的方案進行計算。
圍棋輸了，人類就真的“全輸了”?
因為圍棋勝負的“感性”特質，如果阿爾法圍棋真的能在圍棋上擊敗頂級的人類智能，那麼這種學習能力用於其他難以精確計算而依靠人類經驗判斷的領域，也會擊敗人類。
要知道，現在傳感器實際上有遠遠優於人類的感知能力，如果計算機對非精確描述的事物學習能力也超過人類，那麼人類真的就可以被替代了。無人駕駛是小菜一碟，人類能學會的，計算機都可以學會，而且學得更好。那麼人類的所有的技能與經驗就全部變成可替代的了，包括編程。計算機可以自我發展，完成各種功能，人類的各種勞動都可以“解放”了。
計算機具備了深度學習能力以後，人類的所有勞動都可以被替代。工廠是無人的，車輛是無人的，飛機是無人的，飯店服務員是機器人，名廚是一台自動烹調的機器，人類只複雜在機器故障或者失靈時候，做人為的干預與檢修。而機器給人創造的財富幾乎沒有上限，只取決於自然資源的多少。人類的工作變得簡單輕鬆，只是監控機器，保證其運行就可以獲得無盡的財富。或者就跟著名電影《黑客帝國》一樣，成為機器豢養的“胎兒”。
機器會不會毀滅人類？
說起人工智能，不少喜歡科幻小說和電影的人恐怕都會有心理陰影。對於人工智能可能毀滅人類的擔心不僅限於科幻小說家，一些世界上公認“最聰明的人”也認為發展人工智能可能是一個潛在的災難性錯誤。著名英國科學家史蒂芬·霍金、微軟創始人比爾·蓋茨都曾警告人們注意人工智能的危害。
在最近的一次網絡答問活動中，蓋茨被提問他如何看待人工智能的潛在危害，他表示這確實是值得擔心的問題。蓋茨說：“如果我們能夠很好地駕馭，機器能夠為人類造福，但如果若干年後機器發展得足夠智能，就將成為人類的心頭大患。”與蓋茨一樣，去年大名鼎鼎的“鋼鐵俠”原型設計者埃隆·馬斯克也發表了類似言論，稱人工智能是“人類最大的潛在威脅”，玩弄人工智能等同于“召喚惡魔”，玩火自焚。史蒂芬·霍金在這一問題上表達得更加直白，他曾說人工智能一旦發展完全，將終結人類這一物種，尤其是人類被緩慢的生物進化所束縛，不能與之對抗，就會被取而代之。
阿爾法圍棋獲勝後，人工智能威脅論再一次甚囂塵上。但就目前看來，電腦還遠未發展到這一步：在某些領域人腦肯定不如電腦，但人腦的一些簡單功能，至今也都還是人工智能難以突破的壁壘。不過正如雷軍說的那樣，阿爾法圍棋贏了並不可怕，如果有一天它故意輸給人類，那麼人類恐怕真的要好好擔心了。
技術本身沒有善惡，只是人類需要謹慎考慮其帶來的法律和倫理風險。