又(you)一技術大咖離開業界，前(qian)往高校攻關科研！
據(ju)Pete Warden（皮特(te)沃(wo)登）本人推特(te)消息，他將離開(kai)谷歌公司，重返(fan)斯坦福大學攻讀計算(suan)機博士學位。
皮特(te)沃(wo)登是(shi)谷歌公司Tensorflow面向移(yi)動和嵌入式設(she)備部分的(de)技術主(zhu)管，也是(shi) Tensorflow團隊的(de)創始成員之(zhi)一(yi)。著(zhu)有《TinyML》一(yi)書，希望(wang)讓(rang)機器(qi)學(xue)習不再囿(you)于云端(duan)超級計(ji)算機，而是(shi)可(ke)以(yi)被(bei)(bei)隱藏于眾多(duo)小(xiao)到(dao)可(ke)以(yi)被(bei)(bei)忽視的(de)電子零件(jian)中。
至于(yu)離開谷歌的(de)原因，皮特沃(wo)登說(shuo)：在谷歌推出(chu)新的(de)硬(ying)件設(she)備“太難(nan)了”，因為一旦失敗會對大(da)公司聲(sheng)譽造成非常大(da)的(de)影響。
“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”
據悉，皮特沃登已經離開校園二十年了，此次重返校園雖然有(you)些冒險(xian)，但(dan)對“自己能夠構(gou)建一些東西”有(you)幫(bang)助。
皮特(te)沃(wo)登還(huan)在(zai)個人博(bo)客寫(xie)了一篇文(wen)章，表達了離開谷歌的前因后果(guo)：
我(wo)在谷(gu)歌工作了7年，這段時間里，很幸(xing)運也(ye)很自豪能(neng)夠和一(yi)些了不起的人一(yi)起研(yan)究TensorFlow等項目。在過去(qu)幾年里，我(wo)一(yi)直在說“你可以用TensorFlow Lite Micro實現所有(you)美好的TinyML項目”，現在我(wo)自己(ji)終(zhong)于也(ye)可以隨(sui)心所欲的嘗試構建自己(ji)的東西了。
在(zai)谷歌我也嘗試過(guo)，但在(zai)谷歌推出新(xin)的硬件設備是非常(chang)昂貴和耗時的，因為(wei)一旦(dan)失(shi)敗會對其(qi)聲(sheng)譽造成(cheng)非常(chang)大的影響。因此，時隔二十(shi)多年，我決定重返校(xiao)園，去斯坦福大學(xue)攻讀計算(suan)機科學(xue)博士學(xue)位。
過(guo)(guo)去幾年，我在斯坦福大學(xue)(xue)教授EE292D課程，在這過(guo)(guo)程中，我從學(xue)(xue)生對(dui)新(xin)技術渴望的(de)(de)熱(re)情中收獲(huo)了很多，而且也從Zain Asgar、Sachin Katti、 Boris Murmann等(deng)教師身上(shang)學(xue)(xue)到了很多。現在我很高興能夠有更(geng)多的(de)(de)時間從校園中度過(guo)(guo)。
TensorFlow Lite Micro在(zai)Advait Jain和團隊其他成員(yuan)的帶領下非(fei)常出色，使用量和人數在(zai)過去(qu)幾年持續增長(chang)，所以我(wo)對它(ta)的未來非(fei)常樂觀。過段(duan)時間，我(wo)會公布更(geng)多(duo)細(xi)節，但我(wo)現在(zai)能夠使用將框架部署到”我(wo)從項目一開始就夢(meng)想的設備“上了。
離開谷(gu)歌，重(zhong)返校園是(shi)一次(ci)有趣的新(xin)冒險，感謝支持我走到這一步的所有人。
皮特沃登和他的TinyML夢想
正如前面提到，皮特沃登是人工智能領域的(de)(de)專家(jia)。2003年他創建了一組(zu)包含(han)45 個圖像(xiang)的(de)(de)處理過濾器（processing filters ），這些過濾器能(neng)夠(gou)在 2003 年的(de)(de)筆記本電腦(nao)上以 30 fps 的(de)(de)速度檢測視頻內容中的(de)(de)特征。當時Apple 購買了該技術并聘請他將其(qi)集成到 Apple 的(de)(de)成像(xiang)相(xiang)關產品中。
2011年，皮(pi)特沃登聯合創辦Jetpac，擔任CTO。當時他開發了一款獨特的產品，能(neng)夠(gou)分析了 Instagram 上(shang)超(chao)過1.4億(yi)張照片的像(xiang)素數據，并將其轉化為全(quan)球 5,000多個城(cheng)市(shi)的深度指(zhi)南。2014年，谷歌收購該公司。
加入(ru)谷(gu)歌(ge)之(zhi)后，皮特沃登專注于(yu)在(zai)成本和功率受限的系統中(zhong)部署機器(qi)(qi)學習。在(zai)谷(gu)歌(ge)，Pete 領導開發用于(yu)移動和嵌(qian)入(ru)式應用程序的 TensorFlow Lite 機器(qi)(qi)學習框架。
這種(zhong)在一些“不起眼(yan)的(de)(de)硬(ying)件”中(zhong)構(gou)建(jian)機(ji)器學習被(bei)行(xing)業(ye)稱為TinyML（Tiny Machine Learning）。TinyML 的(de)(de)目(mu)標(biao)(biao)是(shi)以(yi)盡可能(neng)低的(de)(de)功(gong)耗(hao)(hao)執行(xing) ML 推(tui)理。具體而言，正如皮(pi)特沃登在其(qi)著作提到的(de)(de)那樣：TinyML 的(de)(de)目(mu)標(biao)(biao)是(shi)在低于(yu) 1 mW 的(de)(de)功(gong)耗(hao)(hao)下運行(xing)。1 mW是(shi)標(biao)(biao)準(zhun)紐扣電(dian)池運行(xing)功(gong)率。
TML示意圖
因此，TinyML 是機器學習和嵌入式 IoT 設備的交叉領域，是一門新興的工程學科，具有革新許多行業的潛力。顯然，TinyML 的主要受益者，是邊緣計算和節能計算領域。
2019年(nian)3月，TensorFlow Lite嵌入式平(ping)臺發布(bu)了第一(yi)(yi)個實驗(yan)原型(xing)。這是由SparkFun構建(jian)的開發板的原型(xing)，它有(you)一(yi)(yi)個Cortex M4處(chu)理(li)(li)器，具(ju)有(you)384KB的RAM和1MB的閃存(cun)存(cun)儲。該(gai)處(chu)理(li)(li)器功(gong)(gong)率(lv)極低，在(zai)許多情況下功(gong)(gong)耗不到1毫瓦，因此它可以僅憑小(xiao)型(xing)紐扣(kou)電池運行很(hen)多天。
目前，TinyML還(huan)處在發展階段，正如(ru)皮特沃登在一次演講中所提到：
“未來的世界有更多的可能性，現在人工智能對于我們，就像八十年代的電腦一樣。我們不知道它會發展成什么樣子，但是我們可以想象一下我們目前面對的各種問題和挑戰，在工作中面臨的困難。如何用小小的芯片進行(xing)機器(qi)學習？這方(fang)面我們可以有新的(de)角度去探索，也有新的(de)研究成果去發揮作用。”
反映了怎樣的趨勢？
皮特(te)沃登在業(ye)(ye)界已經探索了二(er)十年了，今日他選擇離開企業(ye)(ye)，選擇重返校園(yuan)，無疑是對(dui)當前AI研究(jiu)人(ren)員紛(fen)紛(fen)重返學界這(zhe)一趨勢的印(yin)證。
這一趨勢(shi)最早從吳恩達開始(shi)，隨后李飛(fei)飛(fei)、張潼、張亞勤、賈佳亞等科學家(jia)也不斷重返學校(xiao)。
而(er)在幾年前，對(dui)應的(de)正(zheng)是AI基礎研(yan)(yan)究者紛紛離開學(xue)術(shu)界(jie)，加(jia)盟工(gong)業界(jie)：代表性的(de)標志事件(jian)是在2011年的(de)NIPS大會上，Hinton接受了(le)Google的(de)邀請，正(zheng)式加(jia)盟Google；此后Facebook、Amazon、Uber以(yi)及(ji)國內百度、阿里(li)、騰訊、滴滴等巨(ju)頭也紛紛跟進(jin)，而(er)另一方面，產業界(jie)所能提供的(de)海量數據以(yi)及(ji)資源投入對(dui)于(yu)AI研(yan)(yan)究者也具有莫大的(de)吸引力，長期從(cong)事理論研(yan)(yan)究的(de)他(ta)們也需(xu)要一個平臺驗證他(ta)們的(de)想法，這(zhe)也正(zheng)是當時(shi)AI人才從(cong)學(xue)術(shu)界(jie)流向產業界(jie)的(de)原因。
現(xian)在這些AI大牛(niu)從(cong)產業界重返(fan)學(xue)術(shu)界，有(you)人將其視為(wei)AI科(ke)學(xue)家的(de)“水(shui)土不服”，并進而得出(chu)“AI熱度正在放緩”的(de)結論。但從(cong)另一個角(jiao)度上，我們(men)也可以(yi)看到(dao)這些科(ke)學(xue)家們(men)在產業界檢驗了(le)自(zi)己之(zhi)前的(de)研究(jiu)之(zhi)后(hou)，帶著新的(de)問題回到(dao)學(xue)術(shu)界開展新的(de)研究(jiu)。
例如，原騰訊AI Lab主任張潼在(zai)被問及為什么(me)回歸學術(shu)界時，他回答：“我(wo)(wo)最關心的是(shi)10年以(yi)(yi)后， AI能(neng)夠(gou)在(zai)技術(shu)理論等方面實現(xian)重大(da)的突破，并且(qie)自己能(neng)夠(gou)在(zai)整(zheng)個學術(shu)研究上有更多的貢獻。” 而對于加入創(chuang)新工場，張潼則(ze)表(biao)示：“我(wo)(wo)在(zai)進行學術(shu)研究的同(tong)時，也希望這些學識(shi)成果能(neng)夠(gou)跟產(chan)業(ye)(ye)相結合。”另一位(wei)AI大(da)牛(niu)賈佳(jia)亞，在(zai)離開騰訊優圖(tu)之(zhi)后并未遠(yuan)離產(chan)業(ye)(ye)界，而是(shi)成立了一家創(chuang)業(ye)(ye)公司思謀科技，以(yi)(yi)另一種方式做到連接(jie)學術(shu)與產(chan)業(ye)(ye)。
拿AI屆的(de)黃埔“微(wei)軟亞洲研(yan)究院(yuan)”來說吧，他幾任(ren)歷任(ren)院(yuan)長(chang)中(zhong)，李開復(fu)創(chuang)辦了(le)創(chuang)新工場，以孵化器模式(shi)推動中(zhong)國本土的(de)科技與AI公司的(de)發展；張亞勤牽頭籌建“清華大(da)學智能(neng)產(chan)(chan)(chan)業研(yan)究院(yuan)（AIR）”，回歸(gui)(gui)學術界(jie)(jie)并(bing)得(de)到(dao)了(le)馬維英的(de)襄助，“出走半生歸(gui)(gui)來仍(reng)是(shi)少年”；沈向(xiang)洋(yang)在擔(dan)任(ren)清華大(da)學兼職教授的(de)同時，也還投資(zi)并(bing)擔(dan)任(ren)News Break董事(shi)長(chang)；而進入投資(zi)界(jie)(jie)的(de)張宏江，更是(shi)在以資(zi)本投票的(de)方式(shi)踐行著(zhu)對AI的(de)認(ren)知。這(zhe)些頂尖人才的(de)流(liu)動，無論(lun)是(shi)從學術界(jie)(jie)到(dao)產(chan)(chan)(chan)業界(jie)(jie)，還是(shi)從產(chan)(chan)(chan)業界(jie)(jie)到(dao)學術界(jie)(jie)，最終(zhong)都是(shi)AI的(de)進步。
參考鏈接：
//mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
//mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
//embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/
