近日，機(jī)器之心對楊強(qiáng)教授進(jìn)行了專訪，他對遷移學(xué)習(xí)、人工智能行業(yè)與技術(shù)進(jìn)行了深入講解，并對人工智能從業(yè)者提供了眾多有價(jià)值的建議。

　　楊強(qiáng)教授

　　關(guān)于遷移學(xué)習(xí)

　　機(jī)器之心：您目前主要從事哪方面的研究工作？

　　楊強(qiáng)：我現(xiàn)在做的一項(xiàng)研究是把深度學(xué)習(xí)、強(qiáng)化學(xué)習(xí)和遷移學(xué)習(xí)結(jié)合起來，讓深度學(xué)習(xí)有目標(biāo)。基于有目標(biāo)的延遲反饋的機(jī)器學(xué)習(xí)在現(xiàn)有的深度學(xué)習(xí)中做的不是太好，比如RNN能夠解決序列到序列的學(xué)習(xí)（Sequenceto Sequence Learning)，但它比較短視，沒有最終目標(biāo)和最終反饋。這就會出現(xiàn)很多問題，比如說推薦系統(tǒng)就沒有辦法在對話中有效地，自然地使用。同時(shí)，在自然語言對話中，只會出現(xiàn)毫無目的的閑聊，使得用戶體驗(yàn)會不太好。要改變這些問題，就一定要引入強(qiáng)化學(xué)習(xí)，這樣才可以進(jìn)行推理并具有長期的目標(biāo)。同時(shí)在這些算法之上再加一個(gè)遷移學(xué)習(xí)的算法層。這樣，可以把一個(gè)通用的學(xué)習(xí)模型「個(gè)性化」到每個(gè)人不同的需求和興趣上。這是我們目前所聚焦的研究領(lǐng)域。

　　機(jī)器之心：提到不同學(xué)習(xí)方法的結(jié)合，ACM8月份CACM（communication of the ACM）刊文《強(qiáng)化學(xué)習(xí)的復(fù)興（Reinforcement Renaissance）》，深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)結(jié)合的深度強(qiáng)化學(xué)習(xí)帶來了更好的表現(xiàn)，您之前也在演講中提過兩者的結(jié)合，能具體解釋一下嗎？

　　楊強(qiáng)：強(qiáng)化學(xué)習(xí)原來特別地難以有效的擴(kuò)展，這是因?yàn)樗臓顟B(tài)空間太大；另外，這些狀態(tài)，都是憑某個(gè)專家的經(jīng)驗(yàn)來人為地定義的，而并不是學(xué)習(xí)出來的。但是，現(xiàn)在通過和深度學(xué)習(xí)的結(jié)合，我們可以把強(qiáng)化學(xué)習(xí)的目標(biāo)和反饋拿出來，把規(guī)劃的目標(biāo)轉(zhuǎn)化成一個(gè)學(xué)習(xí)的目標(biāo)，即lost function，而用來訓(xùn)練一個(gè)「端到端的」深度學(xué)習(xí)系統(tǒng)。DeepMind在這方面就做的比較成功。這樣，深度學(xué)習(xí)就有目的性了，因?yàn)榭梢缘玫接行У姆答仚C(jī)制來幫助學(xué)習(xí)。

　　但是，我們也要看到，這樣做了以后，缺點(diǎn)也隨之出現(xiàn)——比如說DeepMind那個(gè)模型，它是不可解釋的，因此很難把人的經(jīng)驗(yàn)放進(jìn)去，也很難在這個(gè)強(qiáng)化學(xué)習(xí)模型上面做任何的「知識短路」，即個(gè)性化。我們看到，遷移學(xué)習(xí)是在狀態(tài)空間上的一種知識短路，這是我們的一個(gè)新發(fā)現(xiàn)：即遷移學(xué)習(xí)更容易在知識結(jié)構(gòu)上從小數(shù)據(jù)中學(xué)習(xí)。這樣，在應(yīng)用中，可以先訓(xùn)練一個(gè)深度學(xué)習(xí)和強(qiáng)化學(xué)習(xí)的合并模型，然后用近似的方法把狀態(tài)顯現(xiàn)化，最后，再在這個(gè)近似空間的轉(zhuǎn)移中做一個(gè)遷移學(xué)習(xí)模型。這就是我們現(xiàn)在所做的研究。

　　機(jī)器之心：能否介紹一下遷移學(xué)習(xí)這幾年發(fā)展的亮點(diǎn)以及現(xiàn)階段的研究難點(diǎn)，比如您之前提到過的「兩個(gè)領(lǐng)域衡量標(biāo)準(zhǔn)」問題。

　　楊強(qiáng)：遷移學(xué)習(xí)在這幾年有挺大突破，比如它和深度學(xué)習(xí)的結(jié)合。遷移學(xué)習(xí)的一個(gè)發(fā)現(xiàn)就是用特征做遷移效果非常好，關(guān)鍵是怎么找到這些好的特征將兩個(gè)領(lǐng)域給結(jié)合起來，換句話說，就是要找到合適的遷移機(jī)制。我們可以通過什么把知識從一個(gè)領(lǐng)域遷移到另外一個(gè)領(lǐng)域呢？我們發(fā)現(xiàn)最好就是找到一些比較通用的特征，比如說在大陸這邊，汽車的駕駛員坐在左邊，而在香港駕駛員坐在右邊。那么，你怎么讓一個(gè)大陸的駕駛員一來到香港就馬上就適應(yīng)，而回到大陸又可以迅速調(diào)整回來，做到左右逢源呢？那就需要找到一個(gè)知識的表達(dá)方式——即駕駛員和馬路的關(guān)系的表達(dá)——司機(jī)的位置如果是靠路中間，那不管在大陸還是在香港都肯定沒錯(cuò)。而這種通用的表達(dá)方式就是深度學(xué)習(xí)可以幫你找到的。當(dāng)你把兩個(gè)不同領(lǐng)域都作為輸入給深度學(xué)習(xí)系統(tǒng)，它會幫你找到一個(gè)共同的不變的表達(dá)，然后就可以通過這個(gè)不變量來做遷移。
  所以，遷移學(xué)習(xí)在最近的一個(gè)進(jìn)展就是，通過深度學(xué)習(xí)發(fā)現(xiàn)不同隱含層有不同的遷移能力，比如說，在音頻上偏高層就比較容易遷移；視頻上偏低層比較容易遷移，但每一層能遷移的知識和量不一樣。這樣我們對遷移能力就能有了定量認(rèn)識，又往前走了一步。這只是一個(gè)很好的研究方向。但是遷移學(xué)習(xí)目前比較難的一點(diǎn)，是衡量兩個(gè)領(lǐng)域之間的距離。過去的研究，學(xué)者們只是靠純統(tǒng)計(jì)的方法。而現(xiàn)在，有了深度學(xué)習(xí)以后，就可以把在不同層次的特征拿過來，發(fā)現(xiàn)不同層次的距離是不一樣的，而利用這些不同的「知識點(diǎn)」來理解遷移學(xué)習(xí)的能力。這一點(diǎn)是一個(gè)新的突破口。

　　機(jī)器之心：最近有一項(xiàng)關(guān)于用遷移學(xué)習(xí)研究非洲貧困的案例，斯坦福研究者回避了其他收集成本過高的指標(biāo)，而是使用衛(wèi)星圖像獲取的燈光信息來判斷貧困程度，您如何看待里面的技術(shù)，以及此項(xiàng)研究本身涉及的意義呢？

　　楊強(qiáng)：是的，這是個(gè)很有趣的案例。在這個(gè)案例里，燈光就變成了一個(gè)不變量。它能反映貧富，又能反映路段，只要預(yù)訓(xùn)練燈光，就可以把這段知識遷移到那段去，這是一個(gè)很好的例子。但有特別需要說明的一點(diǎn)是，這是其中一種遷移學(xué)習(xí)的手段，叫傳遞式遷移，是說從a到b到c三個(gè)領(lǐng)域的傳遞，這個(gè)鏈條可以任意的長，從1到N。其實(shí)我們?nèi)粘Ｖ卸荚谟眠@種方式，比如學(xué)生第一學(xué)期上的課和最后一個(gè)學(xué)期上的課就可以看成一個(gè)遷移鏈條，上完這門課再上下一門，很多知識就可以被遷移和應(yīng)用，新東西學(xué)起來就覺得容易，課程一個(gè)個(gè)過來就可以畢業(yè)了。我們?nèi)祟愐呀?jīng)在使用這種方式——把一個(gè)難的問題分解成一系列問題。

　　機(jī)器之心：目前遷移學(xué)習(xí)的研究成果在哪些領(lǐng)域應(yīng)用的比較好？

　　楊強(qiáng)：遷移學(xué)習(xí)在好幾個(gè)領(lǐng)域都能發(fā)揮作用，比如說電商上面的推薦，你做了一個(gè)領(lǐng)域的推薦模型，當(dāng)出現(xiàn)一個(gè)新的領(lǐng)域時(shí)，就可以遷移過去，這兩個(gè)領(lǐng)域有區(qū)別，但有些是共通的。

　　第一個(gè)應(yīng)用的例子是推薦系統(tǒng)里的一個(gè)非常棘手的問題，就是「冷啟動」。就是說，在沒有任何用戶數(shù)據(jù)的情況下，我們?nèi)绾文軌蜃屜到y(tǒng)推薦的結(jié)果還不錯(cuò)？一個(gè)做法是，可以從一個(gè)類似的領(lǐng)域遷移過來。第二個(gè)是「個(gè)性化」：每個(gè)人都希望在手機(jī)上了解我們的智能助手，「懂我」的意思就是已經(jīng)基于你的需求進(jìn)行個(gè)性化了。使用遷移學(xué)習(xí)就可以利用你的數(shù)據(jù)從一個(gè)通用模型遷移到你的個(gè)人模型。第三應(yīng)用領(lǐng)域是小數(shù)據(jù)，大家都知道大數(shù)據(jù)可以用深度學(xué)習(xí)做，但大數(shù)據(jù)的獲取只有少數(shù)大公司才能做到，而大部分公司是沒有這個(gè)資源的，他們只有小數(shù)據(jù)，有個(gè)辦法就是從大數(shù)據(jù)獲得的模型往小數(shù)據(jù)遷移。第四個(gè)是可以用在隱私方面，我們?nèi)绻馨岩粋€(gè)大數(shù)據(jù)的模型實(shí)現(xiàn)本地化。這樣，就沒有必要去把本地隱私的數(shù)據(jù)上傳到云端，而個(gè)人隱私就可以獲得保護(hù)，我覺得這是解決隱私問題最有效的一個(gè)方式，如果遷移學(xué)習(xí)能解決的話，那加密、利用隨機(jī)擾亂等技術(shù)來保護(hù)隱私的辦法都不用做了，因?yàn)檫@些方法對模型的效果影響很大。

　　機(jī)器之心：關(guān)于隱私，您在2015年發(fā)了一篇關(guān)于差分隱私（Differential Privacy）的文章。隨著您剛才提到的「個(gè)性化人工智能」的推進(jìn)，敏感數(shù)據(jù)的隱私問題日漸受到更多關(guān)注。您能基于當(dāng)時(shí)那篇文章講解一下嗎？

　　楊強(qiáng)：這是當(dāng)時(shí)在華為諾亞方舟實(shí)驗(yàn)室和上海聯(lián)通合作的一個(gè)項(xiàng)目。我們在電信數(shù)據(jù)的挖掘上，發(fā)現(xiàn)數(shù)據(jù)挖掘中一個(gè)很受追捧的概念就是「差分隱私」技術(shù)。這個(gè)概念在學(xué)術(shù)界很流行，但我們發(fā)現(xiàn)在工業(yè)上，它的應(yīng)用卻很少。這個(gè)算法在實(shí)際問題中用不了的原因，是它沒有考慮一個(gè)重要因素：一方面要保護(hù)隱私，另一方面要保證模型的表現(xiàn)不下降。如果保護(hù)的多，那模型的效果就會下降的就特別多，而這種效果的下降是可以用錢來衡量的。而隱私如果也能換成錢，那么，就可以在這兩者間做一個(gè)權(quán)衡。但是，從來沒有人這么做過。所以我們當(dāng)時(shí)寫了一篇論文來指出了這一點(diǎn)。也就是，過去大家一味的去關(guān)心隱私其實(shí)是一種偏頗，而隱私的問題應(yīng)該把效果和價(jià)值來綜合來考慮。差分隱私在學(xué)術(shù)界是一種很優(yōu)秀的做法，但可能不適合工業(yè)界，因?yàn)樵诠I(yè)界需要從效果總體上進(jìn)行權(quán)衡。

　　機(jī)器之心：遷移學(xué)習(xí)可以實(shí)現(xiàn)「舉一反三」（和人類智能類似），這好像與我們要實(shí)現(xiàn)的人工智能終極目標(biāo)最為相似，那如果接下來人工智能要取得突破，遷移學(xué)習(xí)會成為其中最關(guān)鍵的路徑嗎？

　　楊強(qiáng)：遷移學(xué)習(xí)只是路徑之一，應(yīng)該說，更重要的是表達(dá)學(xué)習(xí)，即學(xué)習(xí)知識的表達(dá)。遷移是知識表達(dá)的一個(gè)試金石：如果表達(dá)找的好，那就遷移的好，深度學(xué)習(xí)是表達(dá)的一個(gè)路徑，但不是唯一路徑。如果要把知識表達(dá)進(jìn)行分解的話，其中的遷移能力是特別重要的，比如能做比喻學(xué)習(xí)（learning by analogy）等。

　　關(guān)于人工智能行業(yè)

　　機(jī)器之心：您在大企業(yè)研究院（華為諾亞方舟、微信聯(lián)合實(shí)驗(yàn)室）、高校（HKUST）和創(chuàng)業(yè)公司（第四范式）進(jìn)行研究，這些機(jī)構(gòu)在研發(fā)方法和目標(biāo)上有何異同？

　　楊強(qiáng)：在工業(yè)界應(yīng)該是應(yīng)用研究，更多著眼把一個(gè)技術(shù)實(shí)用化以產(chǎn)生價(jià)值，而這個(gè)技術(shù)最好今天就解決問題；大學(xué)是長遠(yuǎn)的，更理論化的研究，目標(biāo)比較高遠(yuǎn)，大學(xué)的研究所應(yīng)該做明天要做的事情。現(xiàn)在我看到一個(gè)現(xiàn)象是，公司有實(shí)驗(yàn)室在做大學(xué)的事情，大學(xué)有實(shí)驗(yàn)室做公司的事情，我預(yù)計(jì)這些很難成功。因?yàn)樗麄兌荚谧鰟e人應(yīng)該做的事情。如果公司做純高校的事情一定長久不了，他們要產(chǎn)生價(jià)值，公司無法去養(yǎng)這么多學(xué)者。
  　機(jī)器之心：您提到過人工智能的五個(gè)條件：清晰的商業(yè)目標(biāo)、高品質(zhì)的大數(shù)據(jù)資源、清晰的問題定義和領(lǐng)域邊界、了解人工智能跨界人才、強(qiáng)大的硬件計(jì)算能力。「第四范式」這個(gè)公司目前在做的金融行業(yè)對此非常符合，能否透露一下，公司下一個(gè)重點(diǎn)拓展的行業(yè)是什么？

　　楊強(qiáng)：金融可能是我們的第一個(gè)點(diǎn)，但第四范式的重要目標(biāo)是做一個(gè)平臺，這個(gè)平臺能夠讓大眾變成人工智能應(yīng)用者，大家只要自己有數(shù)據(jù)和應(yīng)用問題，想利用這個(gè)平臺，都可以來用。為什么先選擇金融領(lǐng)域，傳統(tǒng)金融領(lǐng)域需求比較大，門檻比較高，如果在這個(gè)領(lǐng)域成為一個(gè)領(lǐng)先者就很容易保持優(yōu)勢，有了這個(gè)優(yōu)勢之后可以鋪開做。

　　機(jī)器之心：科技巨頭對人工智能創(chuàng)業(yè)公司的收購越來越頻繁，這是否會加劇您提到的「人工智能是富人的游戲」這種現(xiàn)象？對于第四范式來說，考慮過被巨頭收購的可能嗎？

　　楊強(qiáng)：這肯定會加劇，相信一些創(chuàng)業(yè)公司聚集了一批優(yōu)秀人才，但是也存在有些創(chuàng)業(yè)公司的目的就是被巨頭收購，最后逐漸就變成巨頭一統(tǒng)天下了，小的諸侯國被吞并，秦朝統(tǒng)一六國，這并不有利于百花齊放。

　　那對于第四范式來說，我們匯聚了機(jī)器學(xué)習(xí)領(lǐng)域的優(yōu)秀科學(xué)家、工程師和咨詢專家，從實(shí)戰(zhàn)中不斷優(yōu)化研發(fā)與服務(wù)水平。目前第四范式在工業(yè)界發(fā)展非常好，我們也希望它在科學(xué)上不負(fù)眾望，能夠規(guī)避人工智能被個(gè)別的集團(tuán)所壟斷的風(fēng)險(xiǎn)、從而引導(dǎo)人工智能走向大眾，為社會所用，這也是我作為一個(gè)科學(xué)家的使命。

　　機(jī)器之心：現(xiàn)在看到有種趨勢，比如說從論文發(fā)表來看，公司在人工智能的某些前沿研究上已經(jīng)超過了高校。

　　楊強(qiáng)：因?yàn)楣粳F(xiàn)在有資本有數(shù)據(jù)，所以吸引了很多人，這些人是沖著資源去的，比如說數(shù)據(jù)和機(jī)器，這是現(xiàn)在的一個(gè)階段。但是比如說理論研究問題，目前我們對深度學(xué)習(xí)本身的理解還不夠深，如果要解決這個(gè)問題，就不應(yīng)該在公司做。但是你要去實(shí)現(xiàn)大規(guī)模的深度學(xué)習(xí)系統(tǒng)，利用大數(shù)據(jù)去做一件前人沒有做的事情，那一定要在公司做，在大學(xué)做不了。

　　但特別要指出的是，我經(jīng)歷了很多公司，發(fā)現(xiàn)它們并不是像外界所想的那樣就一定有數(shù)據(jù)，很多數(shù)據(jù)其實(shí)是大學(xué)來找更加方便，因?yàn)榇髮W(xué)是中立的、非盈利機(jī)構(gòu)，大家更樂意把數(shù)據(jù)給出來。