日前網絡安全公司 Surfshark 發布關于“AI incident”(AI 事故，也稱 AI 翻車)的一份報告。報告列舉了 2010 年以來由 AI 所導致的事故情況，并對 AI 事故的詳細內容作出分析。
在過去的數十年間，尤其是進入 21 世紀 10 年代之后，人工智能開始擁有長足的發展，已經影響到了我們生活中的方方面面。隨(sui)之而來的(de)代(dai)價，就是 AI 造成的(de)事故也越(yue)來越(yue)多。
▲ 圖源(yuan) Surfshark，下同
數據顯示，2010-2013 年的最初階段，出現了 18 起 AI 事故。
2014-2019 年間，即人工智能的發展階段，總共發生了 207 起 AI 事故。
終于，當人工智能發展到 2020-2023 年時，來到“應用階段”，數據已經記錄了 293 起 AI 事故，相較 2010-2013 年增長了大約 15 倍。
其中(zhong)在(zai) 2010-2014 年(nian)(nian)，每年(nian)(nian) AI 事(shi)故的(de)數量(liang)均(jun)不(bu)足 10 起(qi)。從 2014 年(nian)(nian)起(qi)，每年(nian)(nian)事(shi)故數量(liang)均(jun)出現大幅增長，唯 2018、2019 年(nian)(nian)稍有(you)回落。
而隨著 2020 年 OpenAI 開發的 GPT-3 架構(ChatGPT 即是基于 GPT-3 研發)問世，AI 事故總量開始急劇上升，2022 年達到 91 起。
據報告顯示，截至 2023 年 5 月，今年 AI 事故總量已經超過去年的一半，預計增長仍會繼續。
另據軟(ruan)件(jian)評論(lun)服務公司 G2 的數(shu)據，從 2022 年 2 月到 2023 年 2 月，聊天(tian)機(ji)器(qi)人的搜索流量(liang)增長(chang)了(le) 261%。而且，G2 整個數(shu)據庫中增長(chang)最快的三個軟(ruan)件(jian)產(chan)品都是 AI 產(chan)品。考(kao)慮到近年來 AI 的使用量(liang)開始暴增，AI 事故(gu)數(shu)量(liang)明(ming)顯增加也是“合乎(hu)情理”。
在這些事故中，Facebook、特斯拉、OpenAI 造成的 AI 事故占據目前所有已知事故的前三名，占比分別為 9.3%、7.7%、7.5%。
報告發現：
特斯拉所產生的 AI 事故多聚焦于其 Autopilot 輔助駕駛和 FSD 全自動駕駛，會使汽車(che)要(yao)么意外剎車(che)、要(yao)么無法識(shi)別前(qian)路物體;
Facebook 的 AI 事故是無法發現、識別暴力內容和深度偽造的影音文件，予以不法分子可乘(cheng)之機(ji);
OpenAI 的 AI 訓練容易造成數據侵權問題、用戶隱私問題，這些往往會給公司帶來種種麻煩(fan)。
