作者：MADELINESCHIAPPA 27/09/2017
由 Sophos 資料科學家 Madeline Schiappa 和 Ethan Rudd 合作撰寫。
科技界和科學界的一些巨人，包括馬斯克 (Elon Musk) 和霍金 (Steven Hawking)，都公開擔心人工智慧 (AI) 總有一天會成為人類的終結者。除此之外，馬斯克還建議政府應該開始調整演算法來防止其被有惡意的 AI 接管。
好萊塢的電影也反映出如果我們不遏阻電腦科技和人工智慧的發展，將會面臨何種不安和即將到來的災難。從《2001 年太空漫遊》(2001: a apace odyssey) 到《魔鬼終結者》(Terminator) 系列和《駭客任務》(Matrix) 三部曲中的反烏托邦論調，以及 1983 年《戰爭遊戲》(War Games) 中描述一部超級電腦將毀滅地球的故事，就可以一窺端倪。
看過《魔鬼終結者》電影的人都知道這個可怕的場景：人類建立了一個稱為「天網」(SkyNet) 的系統來確保安全；最後「天網」反叛並以核武攻擊人類。
「奇點」(Singularity) 是未來人工智慧進入失控狀態，從本質上超越人類智慧的一個想像點。長期以來，人們一直認為，只要像 Ray Kurzweil (作家、發明家和未來學家，現任 Google 工程總監) 這種在矽谷有影響力的人存在，這個未來是不可避免也無法挽回的。
除了好萊塢風格的電影外，俄羅斯總統普丁 (Vladimir Putin) 對 AI 也有興趣，他宣稱 主導人工智慧領域的國家將主導世界。
要不要來下一盤棋？
在傳播非理性恐慌和提醒媒體關於一部「哈兒」(HAL 9000) 型的電腦接管人類之前 (因為其他人可能不負責任地做了這件事)，應該先考慮一下我們的機器和人類等級的智力之間相去多遠，再來發表這樣的觀點。
毫無疑問地，多年來電腦來變得更聰明了，有時甚至顯示出「智慧」。例如，1997 年「深藍」(Deep Blue) 電腦在國際象棋中擊敗 Garry Kasparov，被認為是人工智慧的重大突破。最近，當 Google AlphaGo 擊敗世界冠軍圍棋高手 Lee Sedol 時，由於圍棋的計算複雜性比國際象棋高，因此被認為是 AI 發展的決定性一步。
從 21 世紀前十年的 DARPA Grand Challenge 和 Urban Challenge 中可以看到，機器可以在沙漠和城市地形環境中自主駕駛。我們開始看到了自動駕駛技術和汽車的突破性成果。
DARPA 最近的駭客攻擊挑戰是使用人工智慧來發現和攻擊電腦，另一頭的人工智慧則是負責防衛。
我們知道用來防衛電腦系統的同一個機器學習技術也可以被反過來去發現網路中的漏洞，甚至會誘使人類點擊網路釣魚活動中更誘人的郵件。
隨著時間推進，電腦似乎越來越聰明。像 Siri 和 Alexa 這樣的輔助技術已經深入我們的家中，機器人助手的概念似乎更加合理。
人生是否模仿藝術？
好萊塢的製作長久以來一直反映著我們被自己製造出來的東西所取代的恐懼，就如最近在 HBO 的《西方極樂園》(Westworld)。
《西方極樂園》描述的是有自我意識的機器人，這些機器人發展出情緒，而且會反抗製造者的殘酷行為。究竟人生模仿藝術，還是藝術模仿人生？好萊塢有一個集兩者的訣竅，既能掌握時代的情感脈搏，也能預測未來。
我們是否需要擔心「智慧」機器會進入一個無限自我進化的循環，然後變成超級智慧？如果發生了這種情況，最終會導致人類被征服或人類滅絕？
人工智慧和機器學習的基本事實
人工神經網路 (ANN) 同時執行許多異質工作的能力，受限於 ANN 實際上可模仿生物神經網路的程度，特別是與人類大腦的智力相比。
雖然還沒有完美的方法來衡量智力，但最普遍的方法是智商 (IQ)。這是一個人類頭腦如何能夠執行多種工作的一維評量。一個常用的智力測試是 Wechsler 成人智力量表 (WAIS)，其涵蓋各種智力測量，包括工作記憶、口語理解、知覺組織和處理速度。
當把智力當成完成許多工作的一般能力時，人工神經網路在通用智力標準中是頗為不聰明的，而且沒有明顯的解法可以克服這個問題。
這並不是說人工神經網路無法經由學習來做特定的工作 (它們在機器學習的很多領域都是最先進的)，但是在可預見的未來，它們的智力與一般生物相比之下，甚至無法超越昆蟲。
一般智慧與人工智慧
人工神經網路和生物神經網路的相似之處驚人的多，但是人工神經網路很難或無法像人類一樣做得好。
相反的，人工神經網路無法同時執行許多異質工作。
例如，被訓練用於識別物體的人工神經網路無法識別語音、駕駛汽車、合成語音，或是完成人類做得相當好的數千個其他類型的工作。雖然已經有人開始訓練人工神經網路同時進行多個工作，但是這些方法只有在工作密切相關時才能運作良好 (例如人臉識別和人臉驗證)。雖然異質工作有時可以利用相同的人工神經網路拓撲結構，但是針對某項工作最佳化網路以便完成工作時，通常會使其完全忘記如何執行另一項工作。這是我們在人類看到的一般智慧，和我們在機器中看到的人工智慧之間的區別。
人工神經網路不能同時執行多種異質工作的原因有很多，但一個最根本的原因是，現有的神經網路學習演算法只能運作最基本的拓撲結構。直到新的學習演算法出現之前，這個情況是不可能改變的。
這種現象被稱為災難性失憶問題 (catastrophic forgetting problem)，是一個熱門的研究領域。儘管已經進行許多研究來改善這個失憶問題，但這方面尚處於起步階段。
使用機器學習和模式識別等術語比 AI 更準確
儘管神經網路不能同時執行許多異質工作，但它們仍然非常擅長單一工作或多組同類型的工作，而且做起來又快又好。
人工神經網路特別擅長模式識別工作。例如，我們開發了一個深度學習神經網路模型，透過識別 (激發) 惡意模式來判斷可攜式執行檔 (PE) 是惡意或良性的。
有趣的是，與傳統的特徵碼型防惡意軟體方法不同，我們神經網路比對模式時，不需要和訓練時看到的模式完全相同就可以判斷檔案是惡意的。它會透過檢視大量範例來了解組成惡意檔案的內容。
我們透過一個監管機制來訓練這個人工神經網路，為它饋入許多已知標記 (惡意/良性) 的 PE 檔案，並使用經過數學最佳化的程序來調整加權，以便區分惡意檔案和良性檔案。
這個模型在預測 PE 檔案時表現良好，但是當饋入該模型沒有經過訓練的文件檔案時，表現就會很差，因為原有的惡意/良性模式就不再適用。
很多機器學習研究和開發的秘訣 (黑箱)，就是需要大量的手動設定和試錯，才能煉出效能合理的訓練模型。
透過所有這些環節不論，是有可能得到一個可以學習某種概念的人工神經網路，但如此一來，使其發生的背後還是人類智慧和設計的影響。
與此形成鮮明對比的是，生物神經網路在不受外界變動 (人為影響) 的情況下，可以不斷地進行調整，而且幾乎是瞬間完成。他們是透過自身的智慧來加以引導。
這也許是人工神經網路和生物神經網路之間最根本的區別。這也是一個將人工神經網路應用在機器學習系統，而不是僅僅存在於科幻電影中的全能人工智慧的理由。
對某些人來說，這一點可能會讓他們失望，但是從好的一面來說，知道「天網」(SkyNet) 不會毀滅人類也是不錯的！
英文原文: https://news.sophos.com/en-us/2017/09/27/why-artificial-intelligence-is-not-skynet-in-the-making/
(本博文為翻譯本，內容以英文原文為準)
