財聯社10月12日訊（編輯 黃君芝）有“AI教父”之稱的約書亞·本吉奧（Yoshua Bengio）最新警告稱，我們正在創造比人類更強大的怪物（人工智能）。

他在接受采訪時表示：“智慧賦予力量，無論誰控制了這種力量——無論是人類水平還是高于人類水平，都將變得非常非常強大。”

“總的來說，技術會被那些想要更多權力的人所利用，例如他們想要經濟主導地位、軍事主導地位、政治主導地位。因此，在我們創造可能以危險方式集中權力的技術之前，我們需要非常小心。”

對于普通投資者而言，這位學術大佬的知名度或許不及黃仁勛、山姆?阿爾特曼，但他在多層神經網絡技術上貢獻卓著，奠定了其“AI教父”的地位。

60歲的本吉奧是一位加拿大計算機科學家，他致力于神經網絡和深度學習算法的研究。他的開創性工作為我們今天使用的人工智能模型開辟了道路，例如OpenAI的ChatGPT和Anthropic的Claude。

2018 年，本吉奧與兩位同事——前谷歌副總裁杰弗里·辛頓（2024 年諾貝爾物理學獎得主）和 Meta首席人工智能科學家楊立昆（Yann LeCun）共同獲得了圖靈獎（有計算界諾貝爾獎之稱）。2022 年，本吉奧成為全球被引用次數最多的計算機科學家。《時代》雜志將他評選為全球100 位最具影響力人物之一。

可以說，如果沒有本吉奧，人工智能可能就不存在了。

盡管幫助發明了這項技術，但本吉奧現在已經成為人工智能領域的一個謹慎人物。與此同時，投資者們卻對AI領域表現出了極大的熱情，并將相關公司的股價推至高位。例如，人工智能芯片寵兒英偉達的股價今年迄今上漲了約180%，而標普500指數的漲幅僅為22%。

以下為本吉奧在最新采訪中的一些觀點：

我們為什么要關注人類水平的人工智能？

如果它落入壞人之手，不管這意味著什么，那將是非常危險的。這些工具可以很快幫助恐怖分子，也可以幫助那些希望摧毀我們民主的國家機構。還有一個問題，許多科學家一直在指出，那就是我們現在訓練它們的方式——我們并不清楚如何才能避免這些系統變得自主（思考和行動），有自己的保護目標，我們可能會失去對這些系統的控制。所以我們可能會創造出比我們更強大的怪物。

OpenAI、Meta、谷歌、亞馬遜，哪個AI巨頭做得對？

在道德方面，我認為表現最好的公司是Anthropic（其主要投資者包括亞馬遜和谷歌）。但我認為他們都有偏見，因為在經濟結構中，他們的生存取決于成為領先的公司，最好是第一個實現AGI（通用式人工智能）。這意味著一場競賽，一場公司之間的軍備競賽，公共安全很可能是失敗的目標。

Anthropic 發出了很多信號，表明他們非常關心如何避免災難性后果。他們是第一個提出安全政策的公司，承諾如果人工智能最終擁有可能造成危險的能力，他們就會停止這種努力。他們也是唯一支持SB 1047 的公司，與馬斯克的態度一樣。

“SB 1047法案”，全稱“前沿人工智能模型安全創新法案”。該法案是首批要求AI開發人員對其技術造成的任何嚴重損害負責的法案之一。不過，這一AI監管“里程碑”在最后一刻被美國加利福尼亞州州長紐森否決了。

對英偉達等人工智能股票的大幅上漲有何看法？

我認為非常確定的是長期的發展軌跡。因此，如果你長期投資，這是一個相當安全的賭注。除非我們無法保護公眾……（那么）后果可能是一切都會崩潰，對吧？要么是因為社會普遍反對人工智能，要么是因為真正災難性的事情發生了，我們的經濟結構崩潰了。

無論哪種情況，都對投資者不利。所以我認為，如果投資者夠聰明的話，他們會明白，我們需要謹慎行事，避免可能損害我們整體未來的那種錯誤和災難。

對人工智能芯片競賽的看法？

我認為芯片顯然正在成為這個謎題的重要組成部分，當然，它也是一個瓶頸。很可能對大量計算的需求不會隨著各種事件的發生而消失，我可以預見未來幾年的科學進步，因此擁有高端人工智能芯片的能力將具有戰略價值——供應鏈中的所有步驟都將至關重要。現在很少有公司能夠做到這一點，所以我希望看到更多的投資，希望有一點多樣化。

海量資訊、精準解讀，盡在新浪財經APP

責任編輯：于健 SF069