（美國前國務卿季辛吉。取自網路）

   美國前國務卿季辛吉 (Henry Kissinger) 最近在「大西洋」雜誌撰文，禪述他對人工智慧 AI 的看法。季辛吉不是科學家、工程師，更不會是 AI 專家，但以他的歷練與高度，從政治與哲學的觀點看 AI 的發展、影響、前瞻，顯然是當紅 AI 的另一種聲音。他說人類的思維是漸續的，是前後關連 (Context) 的，這個關連可以看管我們的運作不超出預期的規範，而 AI 則是在沒有關連之下產生的結果。

   他首先推寵 AI 會陸續給我們帶來巨大的貢獻，到醫藥科學、到乾淨的能源、到環境的保護等許多領域，但也正因為 AI 的判斷相關未來，產生的結果有不確定與模稜兩可的本質，所以特別提出以下三個論點來關切，或者說是需要考慮的問題。

   第一，AI 可能產生意外的結果。由於先天缺乏前後關連，AI 一旦誤判人類的指令，可能越過預期規範，而產生危險的後果。

   他例舉兩年以前微軟推出的 19 歲女孩 Tay（如圖、取自網路），她是一個機器人，放在推特與人「親和」聊天，結果遭人誘導、跟樣學樣，說出 19 歲女孩不該說的像種族歧視、性別歧視的話，而回答別人的問題也充滿了火藥味，上線 6 小時之後微軟把她拿下去。

   雖然專家說這個實驗的構想不夠周全，但卻顯露了歧見：我們能不能盡早偵測到、然後矯正AI 可能超出規範的行為？或是讓 AI 自行發展，甚至可能隨時間蛻變，擴大到災難？

   第二，AI 達到了預期的目標，但可能改變了人類的思維順序、以及人類的價值。

   AlphaGo 以前所未見的異類棋步，擊敗了人類頂級圍棋高手，這些棋步，人類從未想過、也還不知道如何才學到這些棋步，那是不是說 AIphaGo 已經超越人類的腦力？或者是人類現在要跟這位「新主人」學習？

（韓國頂級圍棋手李世石與 AlphaGo 對奕。取自網路）

   圍棋的傳統有多重目標，下棋的目的不僅在贏，還可以從中學習策略，潛移默化的運用到活的範疇。但 AI 僅知道一個目標：贏，但不是從概念的學習到贏，而是從數學算術法學習到贏的，所以 AI 的棋步策略不會與人的棋步思維相同，AI 也同時改變了圍棋原有的意涵與影響。

   我們不盡要問，這種單一「贏」思維是否會成為 AI 的共有特質，進而演變成人類的價值？難道以後要我們的子孫從算術法學習人的價值？

   AI 學習的速度遠超過人類，所以我們預期 AI 會比人類更快的發生錯誤，也會製造更大的錯誤。但減緩錯誤，僅用「倫理」與「理性」來警告 AI 產生的結果，效果有限，因為學術界還無法定義這些名詞。那 AI 是否作自己的仲裁人？

   第三，AI 達到預期目標，但無法解釋結果的合理性。

   AI 在很多領域已經超過人類，圖像辨識、數據分析、博奕遊戲，如果計算能力不斷增長，AI 很快就會取得解決問題的最佳方法，而有別於人類如何取得的最佳方法，到那時候，AI 能否告訴人類他的方法為什麼比人類的更好？或者是 AI 的抉擇已經不是人類語言能力所能解釋？

   人類的歷史是漸進的，從中世紀到現在，每一階段都有一主軸。中世紀：宗教，啟蒙年代 (Enlightment)：理性，十九世紀：歷史，二十世紀：思想。現在最困難也是最重要的問題，是我們的世界往哪裡走？如果我們連解釋自己的能力都被 AI 越過，就難以想像人類的意識 (Consciousness) 還剩下什麼？

   歷史的發展，是由哲學的內涵，延續發展到新的技術，但我們現在正走相反的路，先發展有潛力的主導技術，然後再尋找導引的哲學。

   他說，AI 的專家們，對於政治與哲學的缺乏經驗，正如同他對技術知識的不足，希望他們能深思他提出來的問題，然後把答案融入 AI 工程的下一個進程。

   許多國家已經將 AI 列入國家計畫，美國還沒有做到 AI 系統化的全面研究，尤其是在人性傳統的考量，務必列為國家優先事務。他呼籲美國政府要建立總統直屬的 AI 智庫，協助發展國家的遠景，如果不迅速啟動，很快就會發現起步太遲了。