IT之家 5 月 3 日消息，人工智能領域的開創者之一，被譽為“AI 教父”的杰弗里?辛頓（Geoffrey Hinton）近日宣布離開他工作了十年的谷歌公司，原因是他對人工智能技術的發展越來越擔憂。今日他在接受 CNN 記者杰克?塔珀（Jake Tapper）采訪時表示，他認為人工智能正在變得比人類更聰明，他想要“吹(chui)哨”提醒人們(men)應(ying)該認(ren)真(zhen)考慮如何防止人工智能控(kong)制人類。
“我(wo)只是一個突然意(yi)識到這些東西正在變得比我(wo)們更聰明的科學家，”辛頓(dun)稱，“我(wo)想在某(mou)種(zhong)程度(du)上‘吹響(xiang)哨子’，說我(wo)們應該認真擔心如何阻(zu)止這些(xie)東西對我(wo)們的控制(zhi)。”
辛頓是神經(jing)網絡(luo)技(ji)術的(de)(de)先驅，他(ta)的(de)(de)研究為今(jin)天許(xu)多產品中使(shi)用(yong)的(de)(de)人工智(zhi)能系統奠定了(le)基(ji)礎。IT之家此前曾報道，他(ta)在(zai)周(zhou)一接受《紐(niu)約時報》采訪(fang)時首次透(tou)露了(le)他(ta)的(de)(de)離職消息，并表達了(le)他(ta)對人工智(zhi)能技(ji)術的(de)(de)潛在(zai)危害(hai)的(de)(de)擔憂。他(ta)說(shuo)，他(ta)擔心人工智(zhi)能會導致大(da)量失業，并創(chuang)造一個許(xu)多人“無(wu)法知道什(shen)么是真實(shi)的(de)(de)”世界。他(ta)還(huan)指出，人工智(zhi)能技(ji)術的(de)(de)進步速(su)度遠(yuan)遠(yuan)超出了(le)他(ta)和其(qi)他(ta)人的(de)(de)預期(qi)。
“如果它(ta)變得比我們聰明得多，它(ta)就(jiu)會非常(chang)擅長操縱，因(yin)為它是從我(wo)們(men)(men)身上學到的(de)，而且(qie)很(hen)少有例子(zi)證明一個更(geng)(geng)聰(cong)明的(de)東(dong)西會被一個更(geng)(geng)笨的(de)東(dong)西控制，”辛頓周二對(dui)塔珀(po)說，“它知(zhi)道(dao)如何編(bian)程(cheng)，所以(yi)它會想出辦法(fa)繞過我(wo)們(men)(men)對(dui)它的(de)限制。它會想出辦法(fa)操(cao)縱人們(men)(men)做它想要的(de)事情。”
辛頓并不是(shi)唯(wei)一(yi)(yi)一(yi)(yi)個(ge)對人工(gong)(gong)智(zhi)能(neng)表示擔(dan)憂的技術領袖，今年 3 月，一(yi)(yi)些社區成員聯名發(fa)表了一(yi)(yi)封信，呼吁人工(gong)(gong)智(zhi)能(neng)實驗室對最(zui)強(qiang)大的人工(gong)(gong)智(zhi)能(neng)系統至少暫停訓練六個(ge)月，理由是(shi)“對社會和人類有深刻的風險”。
蘋果公司(si)聯合創始人(ren)(ren)史蒂(di)夫?沃(wo)茲(zi)尼(ni)亞克（Steve Wozniak）也是在這(zhe)封信上(shang)簽名的(de)人(ren)(ren)之一，他周(zhou)二在“CNN 今(jin)日早晨”節目中重申了(le)對(dui)人(ren)(ren)工(gong)智(zhi)能傳播虛假信息的(de)擔憂。“對(dui)于那些(xie)想(xiang)要欺騙你的(de)人(ren)(ren)來說(shuo)，欺騙將變(bian)得(de)更容易。”沃(wo)茲(zi)尼(ni)亞克對(dui) CNN 說(shuo)，“我們在這(zhe)方面(mian)沒(mei)有做出任何改(gai)變(bian) —— 我們只(zhi)是假設我們現有的(de)法律(lv)會(hui)解決這(zhe)個問題。”沃(wo)茲(zi)尼(ni)亞克還表(biao)示，可能需要“某種(zhong)類型”的(de)監管。
辛頓則表示，他沒有簽署這封請愿書。“我不認為(wei)我們能阻止這種進(jin)步(bu)，”他說，“我(wo)(wo)沒有簽署說我(wo)(wo)們(men)應該停止研究人(ren)工智能的請愿(yuan)書，因為如果美(mei)國(guo)人(ren)停止研究，中(zhong)國(guo)人(ren)不會(hui)。”但他承認，他沒有一個明確的解決方案(an)，“我(wo)(wo)不清楚我(wo)(wo)們(men)能否(fou)解決這(zhe)個問題(ti)。我(wo)(wo)相(xiang)信我(wo)(wo)們(men)應該努(nu)力思考(kao)解決問題(ti)的方法。我(wo)(wo)目前(qian)還沒有解決方案(an)。”
