又一技術大咖離開業(ye)界，前往高(gao)校攻關科(ke)研！
據Pete Warden（皮特沃登）本(ben)人推特消息，他(ta)將離開谷歌公司，重返斯坦福大(da)學攻(gong)讀計算(suan)機博士學位。
皮(pi)特沃登(deng)是谷歌(ge)公(gong)司Tensorflow面向移動(dong)和嵌(qian)入式設備部分的(de)技術主管(guan)，也是 Tensorflow團隊(dui)的(de)創(chuang)始成員之(zhi)一(yi)。著有《TinyML》一(yi)書(shu)，希望讓(rang)機器學習不再囿于云端超(chao)級計算機，而(er)是可(ke)(ke)以被(bei)隱藏于眾多小到(dao)可(ke)(ke)以被(bei)忽(hu)視的(de)電子零件中。
至于離開谷歌(ge)的原因(yin)，皮特沃登說：在谷歌(ge)推出(chu)新的硬件設備“太難(nan)了”，因(yin)為(wei)一旦失敗會對大公(gong)司聲(sheng)譽造成非常大的影響。
“it’s very costly and time-consuming to launch new hardware devices at Google, because the downsides of a failed or buggy launch to any large company’s reputation are so high. ”
據(ju)悉，皮(pi)特(te)沃(wo)登已經離(li)開(kai)校(xiao)園二十年了，此(ci)次(ci)重返(fan)校(xiao)園雖然有些冒險，但對(dui)“自己(ji)能夠構建一些東西”有幫助。
皮特沃登還在個人博客寫了一篇文(wen)章，表達了離開(kai)谷歌(ge)的前因(yin)后果：
我(wo)在谷(gu)歌(ge)工作了7年，這段時間里，很幸運也很自(zi)豪能夠(gou)和一些(xie)了不(bu)起(qi)的(de)人一起(qi)研究TensorFlow等項目(mu)。在過去幾年里，我(wo)一直在說“你可(ke)以用TensorFlow Lite Micro實(shi)現所(suo)有美好的(de)TinyML項目(mu)”，現在我(wo)自(zi)己終于也可(ke)以隨心所(suo)欲的(de)嘗試(shi)構建(jian)自(zi)己的(de)東西了。
在谷歌(ge)我也嘗試過，但在谷歌(ge)推出新的硬件設備是非(fei)常(chang)昂貴和耗時的，因為(wei)一(yi)旦失敗會對(dui)其聲譽(yu)造(zao)成非(fei)常(chang)大的影(ying)響。因此，時隔二十多年，我決定(ding)重返校(xiao)園，去(qu)斯坦福大學(xue)攻讀計(ji)算機(ji)科學(xue)博士學(xue)位。
過去幾年，我在(zai)斯(si)坦福大學(xue)教(jiao)授EE292D課程，在(zai)這過程中(zhong)(zhong)，我從(cong)(cong)學(xue)生對(dui)新技術渴望的熱情中(zhong)(zhong)收獲了很多，而(er)且也從(cong)(cong)Zain Asgar、Sachin Katti、 Boris Murmann等教(jiao)師(shi)身上(shang)學(xue)到(dao)了很多。現在(zai)我很高興能夠有更多的時(shi)間從(cong)(cong)校園中(zhong)(zhong)度(du)過。
TensorFlow Lite Micro在Advait Jain和團(tuan)隊其他成員的(de)帶領下(xia)非(fei)常(chang)出色，使用量和人數在過去幾年持續(xu)增長，所以我(wo)對它的(de)未來非(fei)常(chang)樂觀。過段(duan)時間，我(wo)會(hui)公(gong)布更多細節，但我(wo)現在能夠使用將(jiang)框架部署到”我(wo)從項目一開始就夢想的(de)設備“上了。
離開谷歌，重返校園是一次(ci)有趣的新冒險，感謝支(zhi)持(chi)我走到這(zhe)一步的所(suo)有人。
皮特沃登和他的TinyML夢想
正如前面提到，皮特沃登是人工智能領域的(de)專家。2003年他(ta)創(chuang)建了(le)(le)一組包含45 個圖(tu)像的(de)處(chu)理(li)過濾器（processing filters ），這些過濾器能夠在 2003 年的(de)筆記本電腦(nao)上(shang)以 30 fps 的(de)速度檢測視頻內容中的(de)特征。當時Apple 購(gou)買了(le)(le)該技術并(bing)聘請他(ta)將(jiang)其集成到(dao) Apple 的(de)成像相關產品(pin)中。
2011年(nian)，皮特沃(wo)登聯合創辦Jetpac，擔任CTO。當時他開發(fa)了一款獨特的(de)產品(pin)，能夠(gou)分析了 Instagram 上(shang)超過1.4億張照片的(de)像素(su)數據，并將其轉化為全(quan)球 5,000多個(ge)城市的(de)深度指南。2014年(nian)，谷歌(ge)收購該(gai)公司。
加入谷歌之后，皮特沃登專注于(yu)在成本和功率(lv)受限的(de)系(xi)統中(zhong)部署機器(qi)學習。在谷歌，Pete 領導開發用(yong)于(yu)移動和嵌入式應(ying)用(yong)程(cheng)序的(de) TensorFlow Lite 機器(qi)學習框架(jia)。
這種在一些“不起眼(yan)的(de)(de)硬件”中構建機器學習(xi)被行(xing)(xing)業(ye)稱為TinyML（Tiny Machine Learning）。TinyML 的(de)(de)目標是(shi)以(yi)盡可能(neng)低(di)的(de)(de)功耗執行(xing)(xing) ML 推理。具體(ti)而言，正如皮(pi)特沃登(deng)在其(qi)著作提到的(de)(de)那樣：TinyML 的(de)(de)目標是(shi)在低(di)于 1 mW 的(de)(de)功耗下運行(xing)(xing)。1 mW是(shi)標準(zhun)紐(niu)扣電(dian)池運行(xing)(xing)功率。
TML示意圖
因此，TinyML 是機器學習和嵌入式 IoT 設備的交叉領域，是一門新興的工程學科，具有革新許多行業的潛力。顯然，TinyML 的主要受益者，是邊緣計算和節能計算領域。
2019年3月，TensorFlow Lite嵌入式平臺發布了(le)第(di)一(yi)個實驗(yan)原(yuan)型(xing)(xing)。這(zhe)是由SparkFun構建的(de)開發板的(de)原(yuan)型(xing)(xing)，它有(you)一(yi)個Cortex M4處理(li)(li)器，具有(you)384KB的(de)RAM和1MB的(de)閃存存儲。該處理(li)(li)器功(gong)率極低，在許多(duo)情況下功(gong)耗不到1毫(hao)瓦，因此(ci)它可以僅憑小(xiao)型(xing)(xing)紐扣(kou)電池運行很多(duo)天。
目前，TinyML還(huan)處在發展階(jie)段，正如皮特沃登在一(yi)次演講(jiang)中所提到(dao)：
“未來的世界有更多的可能性，現在人工智能對于我們，就像八十年代的電腦一樣。我們不知道它會發展成什么樣子，但是我們可以想象一下我們目前面對的各種問題和挑戰，在工作中面臨的困難。如何用小小的芯片進(jin)行機器學習？這方面(mian)我們可(ke)以(yi)有新的角度去(qu)(qu)探(tan)索，也(ye)有新的研究成果去(qu)(qu)發揮作(zuo)用。”
反映了怎樣的趨勢？
皮特沃登(deng)在(zai)業(ye)界已經探索(suo)了(le)二十年(nian)了(le)，今(jin)日他選擇(ze)離(li)開企業(ye)，選擇(ze)重(zhong)返校園，無疑是對當前AI研究人員紛紛重(zhong)返學界這(zhe)一趨勢的(de)印證。
這一趨(qu)勢(shi)最早從吳(wu)恩達(da)開始(shi)，隨后李(li)飛飛、張潼、張亞(ya)勤(qin)、賈佳亞(ya)等(deng)科學(xue)家也不(bu)斷重返學(xue)校。
而在幾年前，對(dui)應的(de)(de)(de)(de)(de)正(zheng)是(shi)AI基礎(chu)研究者紛(fen)紛(fen)離(li)開學術(shu)界(jie)，加(jia)盟(meng)工(gong)業界(jie)：代表性的(de)(de)(de)(de)(de)標志事件是(shi)在2011年的(de)(de)(de)(de)(de)NIPS大(da)會上，Hinton接受了Google的(de)(de)(de)(de)(de)邀請，正(zheng)式加(jia)盟(meng)Google；此后Facebook、Amazon、Uber以及(ji)國(guo)內百度、阿里、騰訊、滴滴等巨頭(tou)也(ye)紛(fen)紛(fen)跟進，而另一(yi)方面，產業界(jie)所能提供的(de)(de)(de)(de)(de)海量數(shu)據以及(ji)資源投入(ru)對(dui)于(yu)AI研究者也(ye)具有莫大(da)的(de)(de)(de)(de)(de)吸引力，長期(qi)從(cong)事理論研究的(de)(de)(de)(de)(de)他們也(ye)需要一(yi)個平臺(tai)驗(yan)證他們的(de)(de)(de)(de)(de)想法，這也(ye)正(zheng)是(shi)當(dang)時(shi)AI人(ren)才(cai)從(cong)學術(shu)界(jie)流(liu)向產業界(jie)的(de)(de)(de)(de)(de)原因(yin)。
現在(zai)這些AI大牛從產業界重返(fan)學術(shu)界，有人將(jiang)其視為AI科學家(jia)的(de)“水土不服(fu)”，并(bing)進而得出“AI熱(re)度正在(zai)放(fang)緩”的(de)結論。但從另一個角(jiao)度上，我們也可以(yi)看(kan)到這些科學家(jia)們在(zai)產業界檢驗了自己(ji)之前的(de)研究之后，帶著(zhu)新(xin)的(de)問題回到學術(shu)界開(kai)展新(xin)的(de)研究。
例(li)如，原(yuan)騰訊AI Lab主任(ren)張潼在(zai)被問及(ji)為(wei)什么(me)回(hui)(hui)歸學(xue)(xue)術(shu)(shu)界時，他回(hui)(hui)答：“我最(zui)關心的是10年(nian)以(yi)后(hou)(hou)， AI能夠在(zai)技(ji)術(shu)(shu)理論等方(fang)面實現(xian)重大的突(tu)破，并且自己能夠在(zai)整個(ge)學(xue)(xue)術(shu)(shu)研究(jiu)上(shang)有更多的貢獻。” 而對于加入創新工(gong)場，張潼則表示(shi)：“我在(zai)進行學(xue)(xue)術(shu)(shu)研究(jiu)的同時，也希望這些學(xue)(xue)識成果(guo)能夠跟產(chan)業(ye)相(xiang)結合(he)。”另一位AI大牛賈(jia)佳亞，在(zai)離開騰訊優圖之后(hou)(hou)并未(wei)遠離產(chan)業(ye)界，而是成立了(le)一家創業(ye)公司思謀科技(ji)，以(yi)另一種方(fang)式(shi)做到連接(jie)學(xue)(xue)術(shu)(shu)與產(chan)業(ye)。
拿(na)AI屆的(de)(de)(de)黃埔(pu)“微(wei)軟亞(ya)洲研究院(yuan)”來說吧，他幾任(ren)歷任(ren)院(yuan)長(chang)中(zhong)，李開(kai)復創辦了創新工場，以(yi)孵化器模式推(tui)動中(zhong)國本土的(de)(de)(de)科(ke)技與(yu)AI公司的(de)(de)(de)發展；張(zhang)亞(ya)勤(qin)牽頭籌建“清(qing)華大學智能產業研究院(yuan)（AIR）”，回歸學術界并(bing)得到(dao)了馬維英的(de)(de)(de)襄(xiang)助，“出走(zou)半生歸來仍是(shi)少年”；沈(shen)向洋在(zai)擔(dan)任(ren)清(qing)華大學兼職(zhi)教授(shou)的(de)(de)(de)同時(shi)，也還投資并(bing)擔(dan)任(ren)News Break董(dong)事長(chang)；而(er)進(jin)入投資界的(de)(de)(de)張(zhang)宏江，更是(shi)在(zai)以(yi)資本投票的(de)(de)(de)方(fang)式踐行著(zhu)對AI的(de)(de)(de)認知。這(zhe)些(xie)頂尖人(ren)才的(de)(de)(de)流動，無論(lun)是(shi)從學術界到(dao)產業界，還是(shi)從產業界到(dao)學術界，最終(zhong)都是(shi)AI的(de)(de)(de)進(jin)步(bu)。
參考鏈接：
//mp.weixin.qq.com/s/xx1-ZV4Bg8vu79EXdoGMJQ
//mp.weixin.qq.com/s/03-tOTic57bsAV2SFxgemg
//embeddedvisionsummit.com/2019summit/2019/speaker/pete-warden/
