可以開門并找到電插座為自己充電的機(jī)器人、沒有人能消滅的電腦病毒、盡管還要受到人類的遙控，但越來越接近自動(dòng)殺人機(jī)器的“捕食者”無人駕駛飛機(jī)…… 
 
    由于人工智能方面令人吃驚的進(jìn)展，一些計(jì)算機(jī)科學(xué)家正在爭論是否應(yīng)該對(duì)某些研究設(shè)限。這些研究可能導(dǎo)致人類失去對(duì)計(jì)算機(jī)體系的控制，而這些系統(tǒng)承擔(dān)著越來越多的從發(fā)動(dòng)戰(zhàn)爭到同顧客電話聊天的社會(huì)工作。

    他們的擔(dān)憂是，人工智能的進(jìn)一步發(fā)展可能制造重大的社會(huì)混亂，甚至帶來危險(xiǎn)后果。

    計(jì)算機(jī)科學(xué)家說，有理由擔(dān)心，技術(shù)進(jìn)步可能通過消滅大量工作機(jī)會(huì)，并強(qiáng)迫人類學(xué)會(huì)同越來越多地復(fù)制人類行為的機(jī)器共存來改變勞動(dòng)者。

    在加利福尼亞州蒙特里灣一家酒店召開會(huì)議的計(jì)算機(jī)科學(xué)家、人工智能研究人員和機(jī)器人專家通常懷疑高度集中控制的超級(jí)智能的可能性以及智能可以從互聯(lián)網(wǎng)自發(fā)產(chǎn)生的想法。但是他們都認(rèn)為，可以自動(dòng)殺人的機(jī)器人或者已經(jīng)產(chǎn)生，或者很快將會(huì)出現(xiàn)。

    他們尤其擔(dān)心，犯罪分子可能在人工智能系統(tǒng)一經(jīng)開發(fā)就開始利用它們。犯罪分子可能使用一個(gè)能偽裝成人類的語音合成系統(tǒng)來做什么呢？如果人工智能技術(shù)被用來從智能電話上挖掘個(gè)人信息該怎么辦？

    研究人員還討論了人工智能———例如自動(dòng)駕駛汽車、個(gè)人助理軟件和家庭中的機(jī)器人保姆———對(duì)人類工作造成的威脅。就在上個(gè)月，硅谷一家企業(yè)研發(fā)的一種機(jī)器人已經(jīng)表明它可以在現(xiàn)實(shí)世界完成一系列綜合性操作。

    這次會(huì)議的一份報(bào)告將在今年底發(fā)表。會(huì)議是由人工智能促進(jìn)會(huì)組織的。該機(jī)構(gòu)負(fù)責(zé)人埃里克·霍維茨說，他認(rèn)為計(jì)算機(jī)科學(xué)家必須對(duì)超級(jí)智能機(jī)器和人工智能系統(tǒng)會(huì)發(fā)狂的看法做出反應(yīng)。

    “智能爆炸”是數(shù)學(xué)家I.J.古德在1965年提出的思想。它指的是智能機(jī)器將設(shè)計(jì)出更多的智能機(jī)器。后來，計(jì)算機(jī)科學(xué)家弗諾·溫格在演講和科幻小說中推廣了這樣一種觀念，即人類將制造出比人更聰明的機(jī)器，并迅速帶來“人類時(shí)代終結(jié)”這種變化。他稱這種變化為“奇點(diǎn)”。

    一些科學(xué)家認(rèn)為，電影和文學(xué)作品中的這種觀點(diǎn)似乎是對(duì)的，并且令人不安。其他一些技術(shù)專家已經(jīng)在鼓吹超智能機(jī)器的到來，說它們將為人類生活的拓展和財(cái)富的制造帶來巨大的進(jìn)步。

    霍維茨說：“過去5到8年發(fā)生了一些新的情況?！?

    他說：“由于博客上的有關(guān)呼聲越來越高，并且一些人非常擔(dān)心智能機(jī)器的崛起，我覺得，我們遲早要做個(gè)聲明或評(píng)估?！?

    該會(huì)議的報(bào)告將試圖評(píng)估“人類失去對(duì)計(jì)算機(jī)智能的控制”的可能性?；艟S茨說，它還將處理有關(guān)社會(huì)經(jīng)濟(jì)、法律和道德以及人類—計(jì)算機(jī)關(guān)系的改變等問題。例如，同與你的配偶一樣聰明的機(jī)器相處會(huì)怎樣？

    霍維茨說，科學(xué)家正在尋求不同方法以指導(dǎo)研究，使得技術(shù)可以推動(dòng)社會(huì)進(jìn)步，而不是帶來災(zāi)難。比如，一些研究可能在一種高度安全的實(shí)驗(yàn)室里進(jìn)行。

（轉(zhuǎn)載）