日前網絡安全公司 Surfshark 發布關于“AI incident”(AI 事故，也稱 AI 翻車)的一份報告。報告列舉了 2010 年以來由 AI 所導致的事故情況，并對 AI 事故的詳細內容作出分析。
在過去的數十年間，尤其是進入 21 世紀 10 年代之后，人工智能開始擁有長足的發展，已經影響到了我們生活中的方方面面。隨之而來的代價，就是 AI 造成的事故也越來越多。
▲ 圖源 Surfshark，下同
數據顯示，2010-2013 年的最初階段，出現了 18 起 AI 事故。
2014-2019 年間，即人工智能的發展階段，總共發生了 207 起 AI 事故。
終于，當人工智能發展到 2020-2023 年時，來到“應用階段”，數據已經記錄了 293 起 AI 事故，相較 2010-2013 年增長了大約 15 倍。
其中在 2010-2014 年，每年 AI 事故的數量均不足 10 起。從 2014 年起，每年事故數量均出現大幅增長，唯 2018、2019 年稍有回落。
而隨著 2020 年 OpenAI 開發的 GPT-3 架構(ChatGPT 即是基于 GPT-3 研發)問世，AI 事故總量開始急劇上升，2022 年達到 91 起。
據報告顯示，截至 2023 年 5 月，今年 AI 事故總量已經超過去年的一半，預計增長仍會繼續。
另據軟件評論服務公司 G2 的數據，從 2022 年 2 月到 2023 年 2 月，聊天機器人的搜索流量增長了 261%。而且，G2 整個數據庫中增長最快的三個軟件產品都是 AI 產品。考慮到近年來 AI 的使用量開始暴增，AI 事故數量明顯增加也是“合乎情理”。
在這些事故中，Facebook、特斯拉、OpenAI 造成的 AI 事故占據目前所有已知事故的前三名，占比分別為 9.3%、7.7%、7.5%。
報告發現：
特斯拉所產生的 AI 事故多聚焦于其 Autopilot 輔助駕駛和 FSD 全自動駕駛，會使汽車要么意外剎車、要么無法識別前路物體;
Facebook 的 AI 事故是無法發現、識別暴力內容和深度偽造的影音文件，予以不法分子可乘之機;
OpenAI 的 AI 訓練容易造成數據侵權問題、用戶隱私問題，這些往往會給公司帶來種種麻煩。
