IT之家 5 月 3 日消息，人工智能領域的開創者之一，被譽為“AI 教父”的杰弗里?辛頓（Geoffrey Hinton）近日宣布離開他工作了十年的谷歌公司，原因是他對人工智能技術的發展越來越擔憂。今日他在接受 CNN 記者杰克?塔珀（Jake Tapper）采訪時表示，他認為人工智能正在變得比人類更聰明，他想要“吹哨”提醒人(ren)們應該(gai)認真考慮如(ru)何防(fang)止人(ren)工智能控制人(ren)類(lei)。
“我(wo)只是一個(ge)突(tu)然意(yi)識到這些東西正(zheng)在(zai)變得(de)比我(wo)們更聰(cong)明(ming)的科學家(jia)，”辛頓稱，“我想在某(mou)種(zhong)程度上‘吹響哨子’，說我們應(ying)該認真擔心如(ru)何阻(zu)止這(zhe)些東西對(dui)我們的(de)控制。”
辛頓是神經網絡技(ji)術的(de)(de)(de)先驅，他(ta)(ta)(ta)(ta)的(de)(de)(de)研究為今天許多產品中使用的(de)(de)(de)人(ren)(ren)工智能系(xi)統奠定了(le)基礎(chu)。IT之家(jia)此前曾報道，他(ta)(ta)(ta)(ta)在周一接受《紐約時報》采訪時首(shou)次透露了(le)他(ta)(ta)(ta)(ta)的(de)(de)(de)離職(zhi)消息，并(bing)表達了(le)他(ta)(ta)(ta)(ta)對人(ren)(ren)工智能技(ji)術的(de)(de)(de)潛在危害的(de)(de)(de)擔(dan)憂。他(ta)(ta)(ta)(ta)說，他(ta)(ta)(ta)(ta)擔(dan)心人(ren)(ren)工智能會(hui)導致大量失業，并(bing)創造一個許多人(ren)(ren)“無法(fa)知道什(shen)么是真實的(de)(de)(de)”世界。他(ta)(ta)(ta)(ta)還指出(chu)，人(ren)(ren)工智能技(ji)術的(de)(de)(de)進步速度遠(yuan)遠(yuan)超出(chu)了(le)他(ta)(ta)(ta)(ta)和其他(ta)(ta)(ta)(ta)人(ren)(ren)的(de)(de)(de)預期(qi)。
“如果它(ta)變得比我們聰(cong)明得多(duo)，它(ta)就會非常擅長操縱(zong)，因為它(ta)是從我們(men)身上學到的，而且很少有例子證明一(yi)個更聰明的東西(xi)會被一(yi)個更笨的東西(xi)控制，”辛頓周二對塔珀說，“它(ta)知道(dao)如何編(bian)程，所以它(ta)會想出辦(ban)法(fa)繞過我們(men)對它(ta)的限制。它(ta)會想出辦(ban)法(fa)操(cao)縱人們(men)做它(ta)想要的事情。”
辛頓并不是(shi)唯一一個(ge)對人工(gong)(gong)智(zhi)能(neng)(neng)表示(shi)擔(dan)憂的技(ji)術領袖，今年 3 月(yue)，一些社(she)區成員(yuan)聯名發表了一封信，呼吁人工(gong)(gong)智(zhi)能(neng)(neng)實(shi)驗室(shi)對最強(qiang)大(da)的人工(gong)(gong)智(zhi)能(neng)(neng)系統至少(shao)暫停訓(xun)練六個(ge)月(yue)，理由(you)是(shi)“對社(she)會和人類有深(shen)刻的風險”。
蘋(pin)果公司聯合創(chuang)始人(ren)(ren)史蒂夫?沃茲(zi)尼(ni)亞克（Steve Wozniak）也(ye)是在(zai)(zai)這(zhe)封信(xin)上簽(qian)名的(de)(de)人(ren)(ren)之一，他周(zhou)二在(zai)(zai)“CNN 今日(ri)早晨”節目中重申了對人(ren)(ren)工智(zhi)能(neng)傳播(bo)虛假信(xin)息的(de)(de)擔憂。“對于那些(xie)想要欺(qi)(qi)騙你的(de)(de)人(ren)(ren)來說，欺(qi)(qi)騙將變(bian)(bian)得更容(rong)易。”沃茲(zi)尼(ni)亞克對 CNN 說，“我們(men)(men)在(zai)(zai)這(zhe)方(fang)面沒(mei)有做出(chu)任何(he)改變(bian)(bian) —— 我們(men)(men)只是假設(she)我們(men)(men)現(xian)有的(de)(de)法律會解決這(zhe)個問題。”沃茲(zi)尼(ni)亞克還表(biao)示，可能(neng)需要“某種類(lei)型”的(de)(de)監管。
辛頓則表示，他沒有簽署這封請愿書。“我(wo)(wo)不認為我(wo)(wo)們能阻止這(zhe)種(zhong)進步，”他(ta)說，“我(wo)沒(mei)有(you)簽(qian)署說我(wo)們(men)應該(gai)停止(zhi)研究(jiu)人(ren)工智能的請愿(yuan)書(shu)，因為如果美國(guo)人(ren)停止(zhi)研究(jiu)，中國(guo)人(ren)不會。”但他(ta)承認，他(ta)沒(mei)有(you)一個明確的解(jie)決(jue)(jue)方(fang)(fang)案，“我(wo)不清楚我(wo)們(men)能否解(jie)決(jue)(jue)這個問題(ti)。我(wo)相信我(wo)們(men)應該(gai)努(nu)力思(si)考(kao)解(jie)決(jue)(jue)問題(ti)的方(fang)(fang)法。我(wo)目前(qian)還沒(mei)有(you)解(jie)決(jue)(jue)方(fang)(fang)案。”
