包括人工智能在內(nèi),，人類的創(chuàng)造物是否會和我們站在同一邊,？是否會成為奴役我們的力量,？這些問題的答案不在工具,，而在人類自身,。

“阿爾法圍棋”和韓國棋手李世石的世紀大戰(zhàn),，終于以“阿爾法狗”4:1獲勝而宣告落幕,。如果從科學發(fā)展角度來看,，這不僅是一次人類和人工智能的大對決，而是人類對未知領(lǐng)域的又一次科學實驗，也必將從此掀開人工智能科學研發(fā)的新序幕,。

今天的人工智能,，已經(jīng)成為涉及哲學、計算機,、心理學,、博弈論等領(lǐng)域的交叉學科，“阿爾法狗”的算法技術(shù)和數(shù)據(jù)處理能力已經(jīng)遠超“深藍”,。在新一輪科技和產(chǎn)業(yè)革命中,，人工智能的產(chǎn)業(yè)化應用是一大動力源。無論是德國的工業(yè)4.0,，還是美國的“再工業(yè)化”,，抑或是中國的“互聯(lián)網(wǎng)+”，人工智能的研發(fā)都是重點,，被視為經(jīng)濟社會發(fā)展的動力源,。

但對人工智能，除了歡迎,，也有警惕,。其發(fā)展的每一步，都與英國數(shù)學家圖靈“機器能思考嗎”的詰問相伴,。以機器人為代表的人工智能是否會取代人類,、站到人類對立面？這早已成為諸多科幻電影的題材,，由施瓦辛格主演的《終結(jié)者》中的天網(wǎng)Skynet成為了最可怕的人工智能的代名詞,，理論物理學家霍金也憂慮：“人工智能的完全發(fā)展會導致人類的終結(jié)?！?/p>

人工智能會發(fā)展到什么程度,？作為普通人，我們無法準確預測,，因為目前的人工智能尚處于“有智能沒智慧,、有智商沒情商、會計算不會‘算計’,、有專能無全能”的階段,。然而就在“阿爾法狗”與李世石大賽期間，谷歌一位資深人工智能工程師接受專訪,，認為在10年內(nèi),，有知覺和自我意識的強人工智能可以實現(xiàn)，那時人工智能可以寫小說,，而且有發(fā)展到天網(wǎng)水平的可能,。

如果這真是10年內(nèi)的結(jié)果,，那么人類真的需要趕緊思考人工智能與人的關(guān)系了。對人工智能可能帶來的安全與倫理問題,，歐盟,、日本、韓國等已經(jīng)著手開展政策研究與立法實踐,。事實上,，谷歌在收購“阿爾法圍棋”的研發(fā)者——“深度思維”公司的條款中有一項，就是必須成立人工智能道德委員會,，由來自科學,、哲學多領(lǐng)域的人員監(jiān)督通用人工智能技術(shù)的未來應用。

世界上最強大的力量應當是人類本身,，而不是一把鐵鍬或者核潛艇,。人類制造的產(chǎn)物不講道德和感情，但它們擁有力量,，這種力量的快速增長往往讓人類感到恐懼,。包括人工智能在內(nèi)，人類的創(chuàng)造物是否會和我們站在同一邊,？是否會成為奴役我們的力量,？這些問題的答案不在工具，而在人類自身,。

筆者想到了法國思想家帕斯卡爾的名言：“人是一棵有思想的蘆葦,。”面對人工智能以及一個個可能帶來異化的事物,，我們需要的正是“思想”,，也只有“思想”才能解決這些難題。

□殷紅博（科學教育學者）