QQ在線
企業(yè)微信
資訊
914如果我們創(chuàng)造出了達(dá)到或者超過人類智能水平的人工智能（AI），會(huì)發(fā)生什么？人類會(huì)成為自己發(fā)明的受害者嗎？在不遠(yuǎn)抑或是遙遠(yuǎn)的未來，人類與機(jī)器人可以和平共處嗎？人類有一天，會(huì)向機(jī)器人乞討嗎？在2017年，《紐約客》雜志的一幅封面畫引發(fā)了一場有關(guān)于人類與機(jī)器人的大討論。而今，由人工智能引發(fā)的爭論正在變得比當(dāng)時(shí)更多也更加激烈，這其中既有技術(shù)的紛爭，也充斥著倫理和法律的博弈。
《紐約客》雜志封面畫（2017年10月）?；鶐臁ぜs翰遜（R. Kikuo Johnson）繪。
插圖對(duì)應(yīng)的封面文章名為《黑暗工廠》（Dark Factory），描述了密歇根州大急流城Steelcase金屬廠中一些被稱作“人肉機(jī)器人”的工人的故事，在這家公司，越來越多原本由人類從事的工作都被機(jī)器人取代。在這幅由基庫·約翰遜（R. Kikuo Johnson）繪制的封面畫中，年輕的人類乞丐坐在未來的曼哈頓街頭乞討，路上穿過的形形色色的機(jī)器人“上班族”和“行人”則向他手中的杯子里投擲著螺絲和墊片，他身旁的小狗也“目瞪口呆”地注視著面前通過的機(jī)器狗。
不可否認(rèn)的是，人工智能正在成為日常生活的一部分——雖然它在即將過去的2020年并未取得重大突破，但顯然，它已經(jīng)切實(shí)改變了每一個(gè)人的生活。對(duì)于熟悉科幻小說、影視作品的人們來說，其中虛構(gòu)的未來，可能正是我們所身處的現(xiàn)在。人工智能生態(tài)系統(tǒng)、無人駕駛汽車、智能個(gè)人助理、家用機(jī)器人……蓬勃發(fā)展的人工智能通過智能手機(jī)、家電、汽車等終端深入家庭、企業(yè)和各種公共設(shè)施，它是當(dāng)下的普遍現(xiàn)象，更是未來的主導(dǎo)技術(shù)。
在人類尚未進(jìn)入技術(shù)時(shí)代開始，有關(guān)機(jī)器人的想象就大量存在于文學(xué)和戲劇、影視作品之中。起初，人們擔(dān)心人工智能會(huì)背叛人類——機(jī)器會(huì)因?yàn)楦勇斆鳎ㄖ悄埽┒纯谷祟?，甚至消滅人類?/span>
比如在根據(jù)科幻大師阿西莫夫短篇小說改編的電影《我，機(jī)器人》中所探討的正是人與機(jī)器之間的關(guān)系。影片中，機(jī)器人具備了自我進(jìn)化的能力，它們隨時(shí)會(huì)轉(zhuǎn)化成整個(gè)人類的“機(jī)械公敵”。而“終結(jié)者”系列，探討的同樣是機(jī)器人毀滅人類。為人工智能賦予人類的感情，衍生的又是一個(gè)全新的故事。史蒂文·斯皮爾伯格導(dǎo)演的《人工智能》中，機(jī)器人小孩大衛(wèi)試圖尋找自己的生存價(jià)值：渴望變成真正的小孩。
這些故事塑造了我們對(duì)人工智能的認(rèn)知，阿西莫夫創(chuàng)作的“機(jī)器人三大定律”也因?yàn)檫@些作品的一再表述而成為我們看待機(jī)器人的“標(biāo)準(zhǔn)”信條。但在斯圖爾特·羅素（Stuart Russell）看來，這或許反而成為了人類的某種誤區(qū)，比如讓人工智能“服從人類”顯然就是個(gè)壞主意。
斯圖爾特·羅素（Stuart Russell）（版權(quán)：Peg Skorpinski），加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家，人類兼容人工智能中心（CHAI）主任，人工智能研究實(shí)驗(yàn)室指導(dǎo)委員會(huì)（BAIR）成員。世界經(jīng)濟(jì)論壇人工智能和機(jī)器人委員會(huì)副主席，美國科學(xué)促進(jìn)會(huì)（AAAS）會(huì)士，美國人工智能協(xié)會(huì)（AAAI）會(huì)士。羅素獲得過多項(xiàng)科學(xué)榮譽(yù)，包括美國國家科學(xué)基金會(huì)總統(tǒng)青年研究員獎(jiǎng)、國際人工智能聯(lián)合會(huì)議（IJCAI）計(jì)算機(jī)與思想獎(jiǎng)、國際計(jì)算機(jī)學(xué)會(huì)（ACM）卡爾斯特朗杰出教育家獎(jiǎng)等，并受邀在TED、世界經(jīng)濟(jì)論壇演講。
一個(gè)極端的案例是，如果人類賦予機(jī)器人一個(gè)錯(cuò)誤的或者存在漏洞的目標(biāo)，這可能是致命的。假如我們希望通過人工智能系統(tǒng)控制氣候變化，并為其設(shè)定將大氣中的二氧化碳水平恢復(fù)到工業(yè)革命前水平的命令，這一系統(tǒng)很可能會(huì)得出消滅人類的結(jié)論——因?yàn)槿祟惢顒?dòng)是產(chǎn)生二氧化碳最主要的來源。即便人類為此附加條件不能消滅人類，人工智能系統(tǒng)也可以會(huì)以說服的方式讓人類少生孩子，直到人類自然滅絕。
身為美國加州大學(xué)伯克利分校計(jì)算機(jī)科學(xué)家的斯圖爾特·羅素，是當(dāng)今世界上人工智能領(lǐng)域的權(quán)威專家，他曾與谷歌研究總監(jiān)彼得·諾維格合著出版了人工智能領(lǐng)域里的“標(biāo)準(zhǔn)教科書”《人工智能》，該書被128個(gè)國家的1400多所大學(xué)使用。就在今年二月，他已經(jīng)完成了該書的第四版。
今年十月，斯圖爾特·羅素的著作《AI新生：破解人機(jī)共存密碼——人類最后一個(gè)大問題》引進(jìn)出版，在這本書中，羅素提出了一個(gè)問題：如何破解人機(jī)共存的密碼，使得人類可以掌握比我們自身強(qiáng)大得多的智能？在過去相當(dāng)長的一段時(shí)間里，人類之所以能控制地球，是因?yàn)槿祟惖拇竽X比其他動(dòng)物的大腦要復(fù)雜得多。而這正是因?yàn)椤爸悄堋?，是一種權(quán)利。因此，羅素更為關(guān)注的，是對(duì)于這些比我們更強(qiáng)大的機(jī)器，如何保持絕對(duì)的控制權(quán)？在新京報(bào)記者對(duì)羅素的采訪中，他回答了一些關(guān)于人工智能我們所關(guān)心，或者未知的問題。
《AI新生：破解人機(jī)共存密碼——人類最后一個(gè)大問題》，［美］斯圖爾特·羅素（Stuart Russell）著，張羿譯，中信出版社2020年10月版。
斯圖爾特·羅素：目前對(duì)人工智能的思考方式，我將其稱之為“標(biāo)準(zhǔn)模型”。也就是說，我們賦予機(jī)器以最佳方式去實(shí)現(xiàn)目標(biāo)的能力，然后給予它們一個(gè)目標(biāo)，它們開始運(yùn)行。當(dāng)定義了一個(gè)錯(cuò)誤目標(biāo)時(shí)，就會(huì)出現(xiàn)問題，現(xiàn)實(shí)情況中總會(huì)出現(xiàn)這樣的狀況。在許多文化中，都有著類似的傳說：一個(gè)人被賜予三個(gè)愿望，而第三個(gè)愿望，總是會(huì)推翻前兩個(gè)愿望——因?yàn)樗鼈儦У袅艘磺小?/span>
來自機(jī)器人的“阻力”并非來自意識(shí)，而是機(jī)器人會(huì)追求我們所賦予它們的目標(biāo)，而這可能會(huì)與我們真正想要達(dá)成的目標(biāo)產(chǎn)生沖突。我們當(dāng)然可以試著停止機(jī)器，或者徹底關(guān)閉它。但是，如果它們比我們更加聰明，這也許會(huì)成為一個(gè)不可能完成的任務(wù)。
如果我們編寫了一個(gè)智能程序，它的行為方式就會(huì)完全由代碼決定，這個(gè)時(shí)候，人工智能是否有意識(shí)，對(duì)于即將發(fā)生的事情并不會(huì)產(chǎn)生任何影響。當(dāng)然，我們也完全不知道如何去制造一個(gè)擁有自主意識(shí)的人工智能，也不可能知道我們是否已經(jīng)制造了一個(gè)。
人們之所以會(huì)關(guān)注（偶然）創(chuàng)造意識(shí)，主要原因是因?yàn)閾碛凶晕乙庾R(shí)的機(jī)器也許應(yīng)該擁有一些特權(quán)，而這將使人工智能研究者以及其他人的生活變得非常復(fù)雜。想象一下這樣的場景，你的烤面包機(jī)正在與冰箱進(jìn)行著關(guān)于生命意義的精彩對(duì)話時(shí)，你拔下了它們的插頭，然后因此被送進(jìn)了監(jiān)獄。
電影《人工智能》劇照。
故事發(fā)生于21世紀(jì)中期，由于溫室效應(yīng)，南北極冰川融化，地球上很多城市被淹沒，人工智能機(jī)器人就是人類發(fā)明出來用以應(yīng)對(duì)惡劣自然環(huán)境的科技手段之一。在影片的設(shè)定中，機(jī)器人制造技術(shù)已經(jīng)高度發(fā)達(dá)，先進(jìn)的機(jī)器人不但擁有可以亂真的人類外表，還能感知自身的存在。
我們到底應(yīng)該如何理解“人工智能”這一概念？在《AI新生》中你提到，超級(jí)人工智能的成功可能意味著人類的毀滅。
斯圖爾特·羅素：粗略地講，如果一個(gè)實(shí)體是智能的，它就會(huì)根據(jù)它的感知來做事情，而它所做的事情是為了滿足它的需求。我們可以用一種很自然的方式來理解它的含義：“智能”意味著以一種可以預(yù)期的方式來實(shí)現(xiàn)一個(gè)人的目標(biāo)的能力。智能包括了多種能力：比如推理、學(xué)習(xí)和交流能力，都可以理解為對(duì)這種能力的貢獻(xiàn)。
對(duì)于人類而言，智能是一種非常好的能力。不幸的是，“人工智能”這一概念的框架形成于上世紀(jì)四五十年代間，而這也成為我們今天對(duì)人工智能的理解。這也正是我在前面所提到的“標(biāo)準(zhǔn)模型”。當(dāng)然，機(jī)器本身并沒有自己的目標(biāo)，這些目標(biāo)都來自于人類的設(shè)定。如果我們?cè)O(shè)定了錯(cuò)誤的目標(biāo)，就會(huì)導(dǎo)致失敗。
如果你仔細(xì)思考一下，就會(huì)發(fā)現(xiàn)，創(chuàng)建一個(gè)可以自主追求并設(shè)定固定目標(biāo)的機(jī)器是沒有意義的——制造出能夠?qū)崿F(xiàn)自己目標(biāo)的機(jī)器就更沒有意義了！我們應(yīng)該制造那些只能夠幫助人類實(shí)現(xiàn)目標(biāo)的機(jī)器，即使它們并不能理解這些目標(biāo)到底是什么。
人工智能究竟會(huì)如何改變我們的未來是一個(gè)非常熱門的話題。如果我們制造出比人類更為智能的機(jī)器，將會(huì)發(fā)生什么？你心目中的人工智能時(shí)代是什么樣的？
斯圖爾特·羅素：如果可以成功創(chuàng)建出那些安全、有益的人工智能系統(tǒng)，我們將會(huì)獲得幾乎難以想象的好處，這些好處來自于運(yùn)用更為強(qiáng)大的智能來推進(jìn)人類文明的能力。我們將從數(shù)千年來，作為農(nóng)業(yè)、工業(yè)和文書工作的奴役中解放出來，能夠自由、充分地發(fā)揮和利用生活最大的潛力。站在這個(gè)黃金時(shí)代的有利位置上，回顧我們當(dāng)下的生活，可能正如托馬斯·霍布斯（Thomas Hobbes）所想象的那樣：充滿著孤獨(dú)、貧窮、骯臟、野蠻和短暫。
電影《2001太空漫游》（1968）劇照。
故事設(shè)定開始于2001年，為了尋找黑石的根源，人類開展一項(xiàng)木星登陸計(jì)劃。飛船上有冬眠的三名宇航員，大衛(wèi)船長、富蘭克飛行員，還有一部叫“HAL9000”（赫爾）的高智能電腦。
具體來說，這樣的人工智能系統(tǒng)，可以讓我們把地球上每一個(gè)人的生活水平都提升到一個(gè)像樣且體面的程度；每一個(gè)人都可以獲得一位私人導(dǎo)師來指導(dǎo)他們的成長；每一個(gè)在目前看來昂貴、困難、進(jìn)展緩慢甚至（在世界某些地區(qū)）無法得以實(shí)施的社區(qū)項(xiàng)目都會(huì)變得可行。
對(duì)于你個(gè)人而言，人工智能的應(yīng)運(yùn)，對(duì)你的生活帶來了哪些改變？
斯圖爾特·羅素：在我的日常生活中，人工智能提供了即時(shí)、免費(fèi)且高質(zhì)量的翻譯。我因此可以閱讀出版商用中文發(fā)來的文件，我也經(jīng)常閱讀法國政府寄來的法律和稅務(wù)文件（不幸的是，我也看不懂他們發(fā)來的英文）。和數(shù)十億人一樣。我每天都要使用搜索引擎（它們大多由人工智能驅(qū)動(dòng)）來尋找那些過去被深藏于圖書館或百科全書中，或者根本得不到的信息。那些在過去緩慢、昂貴或難以訪問的東西，正在變得即時(shí)、免費(fèi)、唾手可得。而這正是現(xiàn)如今人工智能為我們生活帶來的改變——這不僅僅是信息服務(wù)，還包括了各種商品和其他服務(wù)。
如果一臺(tái)機(jī)器通曉人類所有語言，且能夠以一種迅速而強(qiáng)大的方式獲取人類知識(shí)（盡管在你看來這不太可能），普通人閱讀和學(xué)習(xí)還有意義嗎？人工智能是否會(huì)顛覆人類獲取知識(shí)的方式？
斯圖爾特·羅素：如果一個(gè)機(jī)器人可以快速的吃掉冰淇淋，是否意味著人類將停止吃冰淇淋？并不會(huì)！我們閱讀，是為了娛樂和學(xué)習(xí)。顯然，我們將繼續(xù)這樣做。當(dāng)然，人工智能可以幫助我們?nèi)ラ喿x那些我們難以獨(dú)立完成閱讀的書籍和資料。
電影《機(jī)械姬》（2014）劇照。影片中，天才一般的納森研制了具有獨(dú)立思考能力的智能機(jī)器人伊娃，為了確認(rèn)她是否具有獨(dú)立思考的能力，他希望加利能為伊娃進(jìn)行著名的“圖靈測(cè)試”。似乎從第一眼開始，加利便為這臺(tái)有著宛如人類般姣好容顏的機(jī)器人所吸引。
人工智能將來有可能取代作家嗎？盡管一些人可能不這么認(rèn)為。
斯圖爾特·羅素：是的，人工智能正在取代創(chuàng)作者，特別是對(duì)于新聞而言。這種現(xiàn)象將會(huì)變得越來越普遍，而且，這會(huì)很快。目前，許多文章的原始資料已經(jīng)可以在網(wǎng)上輕易獲取，人工智能只需要收集和整理這些信息，并以某種可讀的方式將它們呈現(xiàn)出來。目前，人工智能還不能準(zhǔn)確處理人類、社會(huì)、政治、國際關(guān)系方面的內(nèi)容——這種情況當(dāng)然會(huì)得到改變，但還需要很長一段時(shí)間。
不過，我認(rèn)為，人工智能很快就可以通過閱讀數(shù)以百萬計(jì)的書籍，并將其中的一些元素進(jìn)行重新編織，形成新穎的組合，從而創(chuàng)作出具有創(chuàng)造性和吸引力的作品。
你曾經(jīng)提出了人工智能的三個(gè)新原則：而這顯然和阿西莫夫定律背道而馳，你為什么會(huì)做出如此修改呢？
斯圖爾特·羅素：這三個(gè)原則如下：1、利他主義（Altruism）——機(jī)器的唯一目標(biāo)是最大限度地實(shí)現(xiàn)人類的偏好；2、謙遜原則（humility）——機(jī)器最初并不確定人類的偏好是什么，這是創(chuàng)建有益機(jī)器的關(guān)鍵；3、學(xué)習(xí)預(yù)測(cè)人類偏好，人類偏好的最終信息來源是人類行為。
阿西莫夫（Asimov）設(shè)計(jì)他的三定律（不傷害人類、服從人類、保護(hù)自我）是為了創(chuàng)造有趣的情節(jié)，而不是為了保護(hù)人類免受機(jī)器人的傷害?！安粋θ祟悺钡脑瓌t與我的第一條原則相似，只是阿西莫夫認(rèn)為“傷害”有一個(gè)固定的定義——而這正是我試圖避免的。
出于同樣的原因，“服從人類”也是個(gè)壞主意，尤其是當(dāng)這個(gè)人類是一個(gè)脾氣暴躁的兩歲兒童時(shí)。他的機(jī)器人“保護(hù)自我”原則是完全沒有必要的，因?yàn)槿绻麢C(jī)器人的繼續(xù)存在對(duì)人類有幫助的話，它會(huì)自動(dòng)做到這一點(diǎn)。而且，正如它應(yīng)該做的那樣，《星際穿越》中的TARS機(jī)器人也應(yīng)該為了拯救人類而快樂地自殺。
電影《星際穿越》（2014）劇照。右側(cè)方形物體為TARS機(jī)器人。
有幾種情況可能會(huì)誤解這些原則。最為常見的是人們認(rèn)為我是在建議把一套人類的價(jià)值觀插入機(jī)器，例如基督教價(jià)值觀或儒家價(jià)值觀。沒有這回事。機(jī)器應(yīng)該為每個(gè)活著的人設(shè)置一個(gè)單獨(dú)的偏好模型，這個(gè)模型是基于人類的偏好（其中大部分是機(jī)器并不知道的）。同樣重要的是，要明白機(jī)器不會(huì)把這些偏好當(dāng)成自己的，它只是在學(xué)習(xí)人類想要什么。它也學(xué)不會(huì)像人類一樣行事，就像犯罪學(xué)家不會(huì)學(xué)著像罪犯一樣行事。這臺(tái)機(jī)器完全是利他主義的，沒有自己的偏好。
最為困難的問題來自于專業(yè)的哲學(xué)家，他們已經(jīng)為此思考了幾千年。有些人會(huì)問：人類的偏好是不穩(wěn)定的，是可以被操縱的，我同意這是上述三個(gè)原則的一個(gè)問題。其他人則問，偏好——我們希望未來如何——是否真的可以作為在道德上站得住的決定的基礎(chǔ)，以及我們是否也需要考慮權(quán)利。令人擔(dān)憂的是，許多人的偏好可能會(huì)侵犯個(gè)人的權(quán)利。關(guān)于這一主題的書籍已經(jīng)有成千上萬了，因此我不會(huì)在這里提出自己的意見，只想說我相信對(duì)立的觀點(diǎn)實(shí)際上也是可以調(diào)和的。
電影《黑客帝國》(1999)劇照。
片中，網(wǎng)絡(luò)黑客尼奧對(duì)這個(gè)看似正常的現(xiàn)實(shí)世界產(chǎn)生了懷疑。他結(jié)識(shí)了黑客崔妮蒂，并見到了黑客組織的首領(lǐng)墨菲斯。墨菲斯告訴他，現(xiàn)實(shí)世界其實(shí)是由一個(gè)名叫“母體”的計(jì)算機(jī)人工智能系統(tǒng)控制，人們就像他們飼養(yǎng)的動(dòng)物，沒有自由和思想，而尼奧就是能夠拯救人類的救世主。
今年春天，我和兩位哲學(xué)家，一位經(jīng)濟(jì)學(xué)家一起上了一堂課，研究了一些難題，即機(jī)器做出的決策對(duì)人類有益到底意味著什么，尤其是當(dāng)我們考慮到有許多人有著不同的偏好時(shí)。這些問題在道德哲學(xué)和政治理論中已經(jīng)提出了很長時(shí)間，但我們需要盡快回答它們！否則我們的人工智能系統(tǒng)就會(huì)遵循非常錯(cuò)誤的理論。我覺得這很有趣，我很確定我們能取得一些進(jìn)展。
那么，你會(huì)如何看待有關(guān)于人工智能的科幻小說或者影視作品呢？
斯圖爾特·羅素：我小時(shí)候讀過很多科幻小說，最近幾年，我又開始和孩子們一起閱讀。現(xiàn)在，我正和二兒子喬治一起看劉慈欣的《三體》三部曲，和小兒子艾薩克一起看《星際迷航》。我一直在尋找那些描繪人類與超級(jí)智能愉快共存并擁有美好未來的作品。這樣的作品不是很多。比如伊恩·班克斯（Iain Banks）的“文明”系列，在他的構(gòu)想中，未來的人工智能系統(tǒng)比人類的能力要強(qiáng)大得多，但它們（以某種方式）被設(shè)計(jì)成幾乎完全有利于人類。他無法回答的一個(gè)明顯問題是，當(dāng)機(jī)器完美地運(yùn)行一切時(shí)，人類能在生活中找到什么目的。他們有大量的閑暇時(shí)間和無限的物質(zhì)資源，但缺乏明確的目的，人們拼命地競爭極少數(shù)可以提供真正挑戰(zhàn)的職位。
電影《星際迷航》（2009）劇照。
像大多數(shù)人工智能研究人員一樣，我相當(dāng)有信心我們將實(shí)現(xiàn)達(dá)到人類水平的人工智能，盡管這可能不會(huì)像許多人認(rèn)為的那樣快。我們?nèi)匀恍枰朔恍┚薮蟮母拍钚蕴魬?zhàn)，很難說這需要花費(fèi)多長時(shí)間。
在新款Neuralink腦機(jī)接口芯片的發(fā)布儀式上，埃隆·馬斯克說，人們將能夠通過BCI召喚他們的特斯拉。你也曾經(jīng)提到過一種極端情況：人機(jī)一體化，電子硬件直接連接到大腦，成為單一的、可擴(kuò)展的、有意識(shí)的實(shí)體的一部分。我們應(yīng)該如何看待人類與人工智能之間的共生機(jī)制？
斯圖爾特·羅素：人腦能夠向設(shè)備發(fā)出命令是一回事，比如現(xiàn)在癱瘓的人可以使用機(jī)器手臂。但當(dāng)我們?cè)噲D通過電子設(shè)備，增強(qiáng)大腦的思維過程時(shí)，這件事就截然不同了。如果每個(gè)人都必須接受腦外科手術(shù)才能夠上學(xué)，這難道不是我們犯了一個(gè)大錯(cuò)？
數(shù)字永生呢？
斯圖爾特·羅素：到目前為止，將我們大腦中的全部思想和記憶上傳到計(jì)算機(jī)中仍然是一個(gè)推測(cè)。我們并沒有理論可以解釋為什么人類的意識(shí)、體驗(yàn)可以存在，因此，我們也無法確定將思想和記憶的結(jié)構(gòu)、狀態(tài)復(fù)制到計(jì)算機(jī)中，我們?nèi)匀豢梢源嬖?。蘇珊·施耐德（Susan Schneider）撰寫的《人造的你》（Artificial You）一書對(duì)這個(gè)問題進(jìn)行了廣泛的討論。
《人造的你》（Artificial You），蘇珊·施耐德（Susan Schneider著，普林斯頓大學(xué)出版社（Princeton University Press）2019年9月版。
濫用人工智能的可怕后果是什么？很明顯，這一部分的某些東西會(huì)讓人非常沮喪。
斯圖爾特·羅素：就像任何技術(shù)一樣，人工智能也可能被濫用。以下是幾種可能的情況：用于監(jiān)視、勸說和控制的人工智能可以極大地減少人們的自由。而且，人工智能可以產(chǎn)生和傳播虛假信息，并且模仿人類，使得人們很難知道什么是真的。
用于殺人的人工智能自主武器是致命的，很容易變成大規(guī)模殺傷性武器，因?yàn)槿斯ぶ悄芪淦鞑恍枰祟悂肀O(jiān)督，而且可以成百萬計(jì)的發(fā)射。人工智能最終可能取代大多數(shù)人類工作——如果我們不能迅速調(diào)整社會(huì)和教育系統(tǒng)，讓人們得以適應(yīng)一個(gè)完全不同的世界——這將引發(fā)巨大的問題。
隨著人工智能時(shí)代的到來，我們的文明會(huì)終結(jié)嗎？當(dāng)我們把所有的知識(shí)都投入到機(jī)器中，讓機(jī)器來管理我們的文明，人類的惰性很可能導(dǎo)致這種結(jié)果。如何避免這種結(jié)果？
斯圖爾特·羅素：這里有兩個(gè)問題。首先，我們能否確保超級(jí)智能人工智能系統(tǒng)是安全和有益的？我認(rèn)為答案是肯定的。第二，當(dāng)人類文明由機(jī)器在運(yùn)轉(zhuǎn)時(shí)，還能保持它的活力嗎？尼克·博斯特羅姆（Nick Bostrom）在他的《超級(jí)智能》（Superintelligence）一書中說，第一個(gè)問題是“我們這個(gè)時(shí)代的基本任務(wù)”，但是如果我們回答了第一個(gè)問題，那么第二個(gè)問題就成了我們這個(gè)時(shí)代以及所有未來時(shí)代的根本任務(wù)。
《超級(jí)智能》(Superintelligence)，尼克·博斯特羅姆(Nick Bostrom)著，Oxford University Press2014年9月版。
我們應(yīng)該從哪里找到目標(biāo)，無論是個(gè)人的還是集體的?也許人工智能會(huì)來拯救我們，因?yàn)槟繕?biāo)和挑戰(zhàn)是人類生活的重要組成部分，它們的消失顯然不是我們希望看到的未來。因此，可以說，機(jī)器必然會(huì)后退一步，為人類留下可成長的空間。
