那是在1956年的夏天，于美國達特茅斯舉行的一次被認為具有里程碑意義的討論會上，約翰•麥卡錫首次提出了“人工智能（Artificial Intelligence，縮寫為AI）”這一術語。當時，他與馬爾溫•明斯基、愛德華•費根鮑姆等人工智能領域的大腕信誓旦旦地指出：機器會思想的時代即將到來，甚至用不了20年時間。

　　現在回過頭來看，這種估計顯然是太樂觀了。讓計算機能夠像人一樣思考，是人們長久以來的夢想。與之相關，涉及生命、思維和機器主題的一門極富挑戰性的科學，人們通常稱之為“人工智能”。麥卡錫本人幾十年來所做的工作，是探討用可以通過電腦操縱的公式系統表達人類思維的所有形式。屢敗屢戰之后他仍堅稱：“沒有理由相信我們不能寫出一個能使電腦像人一樣思考的公式。”

　　已在2011年撒手人寰的麥卡錫所承繼的，無疑是英國天才、“計算機之父”阿蘭•圖靈的衣缽（他還是1971年圖靈獎的獲得者）。圖靈認為，大腦神經元的存儲行為和模式改變，跟計算機的相應行為是非常相似的；而且，大腦和計算機都能修改它們各自存儲空間中的值：前者通過不同神經元的激發，而后者通過程序指令的執行。正是這種相似性使他相信：人類可以建造一臺能夠思考的機器。唯一的障礙看起來并不在邏輯上，而是在技術上。

　　然而，難歸難，關于人工智能可能性的探討，或者說機器（非生物系統）是否能夠跟人類媲美乃至超越人類的智慧，卻一直有著很多激烈的爭論。同時還由此延伸引發了一系列問題，比如：有朝一日機器會不會自己設計、制造并操作不遵循人類準則的新型機器，而屆時我們很可能沒有任何辦法來避免這一可能性的發生？

　　1997年，英國人工智能與控制論專家凱文•渥維克博士出版《機器的征途——為什么機器人將統治世界？》一書，展示了第一批能夠學習、互相交流和自我設計程序的機器人，并且發出警告：“在2050年，我們人類為機器所驅使，必須做機器規定我們做的事情？？”

　　最近一些年里，在不少科幻小說或電影中，都出現了人工智能機器拒絕服從人的命令，甚至殺死或控制人的場景。令人震驚的是，前不久，包括斯蒂芬•霍金、比爾•蓋茨在內的一些著名人士，都公開發出警告稱：如果智能機器缺乏監管，人類將迎來一個黑暗的未來。霍金曾寫道：“對人工智能來說，短期的問題是誰來掌控它，長期的問題是它能否被掌控。”他甚至認為，成功地研發人工智能將成為人類歷史上所犯的最大錯誤，不幸的是，這也可能是最后一個錯誤。美國特斯拉[微博]汽車公司首席執行官伊隆-馬斯克則將研制自治可思考機器的做法描述為“召喚惡魔”，并預計“一些極為危險的事情即將發生”，最快將在5年內。

　　為什么會有這樣的擔憂？

　　按照研究人工智能的權威人士、美國著名發明家、思想家雷•庫茲韋爾的觀點（主要集中展現在其著作《奇點臨近：2045年，當計算機智能超越人類》一書中），在21世紀前半葉，技術將不可避免地朝向機器化發展。一旦機器擁有了像人類一樣的設計和架構技能，僅僅更快的速度和更大的容量就可以使它們對自己的設計（源碼）進行操控。技術變革的速度將不再受限于人類智能的增長速度。機器智能在反饋循環中不斷提高自己的能力，并將遠遠超出無機器輔助的人類智能。屆時，人類對情感的理解能力，以及作出適當反應的能力（所謂的情商）——這些人類智慧的重要表現，也將被未來的機器智能理解并掌握。

　　真正的問題或許是：當科技加速發展，使機器具有更多的智能時，我們并不知道哪里是危險的邊緣。至少在目前的認識水平上，對這一“臨界點”我們還很難把握。更重要在于，我們再不能以看待過去的視野，去理解必將超越它的事物了。