英國政府宣布將于今年秋季(秋季)舉辦首屆全球人工智能安全會議。 在此次峰會上，主要國家、領先(xian)的(de)科技公司(si)和研究人員將齊聚一堂，討論安全措施，以評估和監測(ce)人工智(zhi)能帶來(lai)的(de)最重(zhong)大風(feng)險。
“人工智能具有(you)不(bu)可(ke)思議的(de)潛力，可(ke)以讓我們的(de)生活變得更美好(hao)，”英(ying)國首相 Rishi Sunak 說。 “但我們需(xu)要確保以安(an)全可(ke)靠的(de)方式開發和使用它。”
“縱觀歷(li)史(shi)，我們(men)一(yi)(yi)(yi)(yi)次又一(yi)(yi)(yi)(yi)次地發明了顛(dian)覆范式的新(xin)技術，并(bing)利用(yong)它們(men)造福人類。 這是我們(men)必須(xu)再(zai)次做的事情(qing)。沒(mei)有一(yi)(yi)(yi)(yi)個國(guo)家可(ke)以(yi)單獨做到(dao)這一(yi)(yi)(yi)(yi)點。 這需要全球的努力(li)。 但憑借我們(men)豐(feng)富的專(zhuan)業知(zhi)識和對開放、民主國(guo)際體系的承諾，英(ying)國(guo)將與我們(men)的盟友站在一(yi)(yi)(yi)(yi)起，引領(ling)潮(chao)流。”
從日常生(sheng)活到科幻(huan)小說(shuo)，人工智能(neng)所帶來的潛在風險已經被多(duo)方面關注。 目前人工智能(neng)最(zui)常見的危險是(shi)它會產生(sheng)稱為幻(huan)覺的虛假信(xin)息。
OpenAI 正在(zai)研(yan)究其(qi) LLM 中的處理方法，驗(yan)證每個階段(duan)的邏(luo)輯以減少"胡說八(ba)道"的發生率，但該模型尚(shang)未部署用(yong)于廣(guang)泛使用(yong)。 除了這個問(wen)題，人工智能(neng)還可(ke)以被惡意黑客(ke)用(yong)來(lai)生成(cheng)可(ke)用(yong)于攻擊的惡意代碼。
雖然這不直接構成(cheng)人(ren)(ren)工智(zhi)能安全(quan)問題，但圍繞人(ren)(ren)工智(zhi)能搶走工作的(de)情況是政客們必須應對(dui)的(de)另一件事。 例如，上周(zhou)報道說(shuo)，一些公司已經開始用生(sheng)成(cheng)人(ren)(ren)工智(zhi)能取代人(ren)(ren)類。
在本次峰會(hui)(hui)(hui)宣布(bu)之前，Rishi Sunak 的 AI 顧問(wen) Matt Clifford 表示，如(ru)果不受(shou)監管，AI 可能(neng)會(hui)(hui)(hui)在短短兩年內(nei)變得非常強(qiang)大，這顯然會(hui)(hui)(hui)讓人類難(nan)以控(kong)制。 雖然終結者(zhe) AI 場景現在感覺像是科幻小說，而(er)且(qie)可能(neng)會(hui)(hui)(hui)持續兩年多，但政(zheng)府最好在為時(shi)已晚(wan)之前調查(cha)潛在風(feng)險。
