人工智慧以前所未有的方式改變著人類的認知。當我們在輕鬆刷臉時， 可曾考慮過自己的隱私權利？而Deep Fake科技可以在Video 中讓任何人說任何話，隨意變臉時又將如何應對？本週的比推直播,我們有幸請到了Soteria創始人Ming Guo來和我們聊一聊這些激動人心的問題。
先介紹下Ming,
★區塊鏈專案Soteria的創始人;
★曾是一位火箭專家;
★曾在矽谷擔任軟體工程師20年;
★在高效能演算法設計，網路協議和交易系統業務方面有很多貢獻;
★創業孵化投資人，共同創立深圳Make Mountain Accelerator,利用矽谷深圳資源幫助世界各地的智慧硬體創業公司。
一 ，隱私有多重要？
比推：現在的大資料時代， 我們每個人的資料就是我們自己的一部分。比如手機可以說將是每個人identity 很重要的一部分。資料越來越重要，我們的隱私越來越有可能成為公司追逐利潤， 政府進行控制的資源。在目前刷臉已經非常普及的情況下， 您認為我們需要有所顧慮嗎？
Ming Guo：這是一個很嚴重的問題，隱私資料現在成為資源控制者盈利的工具，我們需要重視隱私保護。
比推：隱私重要嗎？也有一些人覺得在大資料時代，犧牲一些隱私，換來公共安全的提升，犯罪率的下降是可以接受的。
Ming Guo：大資料時代對隱私的侵犯很快會超過我們的耐受程度。其“好處”其實是個偽命題，因為造成“隱私保護”問題的是目前的資源繫結信用經濟體已經不可持續發展。
比推：為什麼不可持續？
Ming Guo：因為我們經濟發展的“動力”在消失，這是08年金融危機的一個表象，也是目前世界上民粹主義興起一個原因。
當前資源繫結信用經濟體下的網際網路已經偏離了早期網際網路的開放、社羣驅動以及去中心化的精神，變成了所謂的“流量網際網路” — 及大資料+全球資訊網(Web)的雙寡頭壟斷模式，以無底線侵蝕隱私、販賣隱私做為基本的商業模式，成為一種把青少年（以及成年人）變成多巴胺殭屍的毒品經濟。
全球資訊網(web)是獵取和吸取隱私的前端，大資料是侵蝕和販賣隱私的後端，這就是很多“獨角獸”網際網路經濟背後的真相。在全球資訊網和大資料的盡頭，是繞不過去的隱私。
所以在當前這個網際網路經濟模式下談“隱私保護”，其實是與虎謀皮，讓狼群來保護羊群。
比推：你提出“ 巨資料” 的概念，即日益“智慧化”的日常生活中產生的海量資料。巨資料是高度隱私的資料 — 比如醫療和健康，行為。而且巨資料需要隱私計算，就是“計算”的輸入 — “資料”，對參與計算的各方，交易的對手，是有“隱私保護”的，這樣才能保護“資料主權”。這裡面是否是需要區塊鏈技術的確權和計算？
Ming Guo：巨資料和隱私計算和個人數字/資料主權是一種相互相生的關係。這裡的“巨資料”，是指在我們當前高度自動化世界裡生產出來的高度隱私的資料，比如：
1. 接近人的感測器，比如物聯網產生的資料；
2. 接近人類行為和互動的資料；
3. “巨資料”是高度隱私的資料 — 比如醫療和健康，行為；你可能不介意你的“海淘”、“剁手”資料被亞馬遜和淘寶收集變現（不分給你），但是你一定會介意，甚至恐懼你的醫療和健康資料被收割。
“巨資料”裡這種高度隱私的資料我們也稱之為“重隱私”的資料。“重隱私”資料的一個特點就是和我們的生物特徵有很高耦合度的繫結，這也是來自於技術進步。
—因為在過去，由於技術的限制，隱私資料和生物特徵的耦合度比較低，所以那個時代的隱私保護並沒有今天這麼迫切。
這種和我們生物特徵耦合度比較低的隱私資料，可以稱之為“輕隱私”資料，比如你在亞馬遜上的“海淘”記錄，你的網際網路瀏覽記錄等。和生物特徵高度耦合的“重隱私”資料的一個典型例子，就是我們的“人臉”。
“人臉”這種和生物特徵高度耦合的“重隱私”資料，一直具有“兩重性”。一方面是我們的“重隱私”，另一方面又是我們人類成為社交性生物的一個重要“工具”。人臉是我們表達情感的最主要的工具（另外一個重要“工具”是聲音/語言）。人臉的豐富表情可以傳達更多、更豐富的資訊，這是人類智慧進化的一個重要體現。
比推：刷臉有可能讓度出去的隱私有哪些？
Ming Guo：生物特徵，也就是最“隱私”的隱私。人臉肌肉比地球上任何其他動物都要多：每半邊臉上有22條“表情”肌肉。我們人類進化出的這個不同凡響的“社交智慧”，讓我們的“臉”成為一個社交工具。和我們另外一個社交工具—聲音語言一樣，臉成為一種“表達”的載體。
二， 任何人都可以變臉？
比推：刷臉出去的資料會有什麼用途？
Ming Guo：刷臉的資料現在成為盈利的工具。但是每個人只有一個固定的臉面（雖然隨著年齡段有變化），表達力還是有約束的。有時候我們會想，如果能夠“變臉”該有多好啊！在網際網路時代，我們的“社交”表達其實不是直接“傳達”的，而是透過“資料”來傳達的。所以如果能夠有技術加工資料，我們的“臉”表達力會有一個飛躍。人工智慧技術近年來的飛速發展，讓我們的“臉”部表達力有了一個極大的飛躍。可以讓你成為任何人、在任何場景真實再現。
比推：這個有點嚇人。目前的deep fake 實際上已經做到可以在video中讓任何人說任何話。
Ming Guo：是啊！很嚇人，如果你多想想的話。這個魔術般的技術只不過是近年來高速發展的“人工智慧”技術的一個應用而已。
比推：而且不僅僅是計算機專家，普通人憑一部手機就可以做到。因此也必然會帶來大量社會問題。
Ming Guo：是的，技術是不會老老實實被關在籠子裡的。
最近國內大熱的ZAO換臉APP，就是來源於這個技術的一個開源軟體“Deepfake”。這個技術“突破”點在哪裡呢？
主要就是Deepfake突破了所謂的“恐怖谷”（Uncanny Valley)。
“恐怖谷”理論是這樣的：
恐怖谷理論（另名詭異谷，英語：Uncanny Valley；日語：不気味の谷現象）是一個關於人類對機器人和非人類物體的感覺的假設。它在1970年由日本機器人專家森政弘提出，但「恐怖谷」一詞由恩斯特·詹池於1906年的論文《恐怖谷心理學》中提出，而他的觀點被佛洛伊德在1919年的論文《恐怖谷》中闡述，因而成為著名理論。
森政弘的假設指出，由於機器人與人類在外表、動作上相似，所以人類亦會對機器人產生正面的情感；直到一個特定程度，他們的反應便會突然變得極為負面。哪怕機器人與人類只有一點點的差別，都會顯得非常顯眼刺眼，整個機器人顯得非常僵硬恐怖，使人有面對殭屍的感覺。可是，當機器人和人類的相似度繼續上升，相當於普通人之間的相似度的時候，人類對他們的情感反應會再度回到正面，產生人類與人類之間的移情作用。
「恐怖谷」一詞用以形容人類對跟他們相似到特定程度之機器人的排斥反應。而「谷」就是指在研究裡「好感度對相似度」的關係圖中，在相似度臨近100%前，好感度突然墜至反感水平，回升至好感前的那段範圍。
Ming Guo：以上關於“恐怖谷”的介紹來自於維基百科。
比推：剛才提到的換臉App ZAO明白告訴使用者擁有使用其照片的權利。公眾應該對此警惕嗎？之前達不到過“恐怖谷”的能力時，我們可以分辨“真假”,難道以後真假難辨？
Ming Guo：ZAO的EULA就是在耍流氓啊。是啊，已經到這個時代的，待我一一道來。
2009年的大片“Avatar《阿凡達》“是第一次越過了“恐怖谷”的影片，就是因為在動作捕捉中用了更多的取樣點。
現在的人工智慧技術”Deepfake“是透過對巨量的資料進行“訓練”得到的演算法，已經可以很輕鬆地突破“恐怖谷”了。這也說明人工智慧已經突破以前只有人類才能涉及的認知領域，我們生活的時代，真的要很不一樣了。
ZAO換臉APP在開始病毒傳播的前幾天成了一個刷屏的爆款軟體，因為它實在是太震撼、太好玩了，你可以用你的臉替換任何影視場景裡的明星臉，過足過去只有明星才有的“看片”快感。
但是ZAO熱了沒幾天，很多人緩過勁來，才突然覺得“細思恐極”— 能幫我換“明星臉”，難道不能用我的臉欺騙銀行的人臉識別驗證，然後捲走我的錢嗎？！
這時我們才意識到，技術的進步真的是一把“雙刃劍”—讓我們“越來越爽”的技術，也會更加深入地侵犯到我們的隱私。特別是和我們的生物特徵深度耦合的重隱私巨資料。
比推：是啊，而且人家是明著來，告訴你就是要用的。
Ming Guo：怎麼辦？我們不能坐以待斃啊。
比推：願聞其詳。
Ming Guo：目前對類似ZAO這種A.I.“換臉”技術帶來的隱私安全問題的常見回答是（多數來自使用“刷臉”認證的銀行等機構）：
這個技術目前還不足以騙過銀行等地方使用的人臉識別軟體。確實，目前拿著列印著你的照片的彩色鐳射列印紙在銀行人臉識別前晃動可能還不行，而且比如蘋果手機的刷臉解鎖除了採集你的人臉影象資料意外，還會採集臉部的深度資料以及面板淺層的毛細血管資料，不是那麼容易攻破的（據說一般雙胞胎都解不了鎖）。
That’s it? 這個說法也太坑人了吧。
這種答案顯然不能讓我們安心。你知道類似於“Deepfake”這類換臉軟體的演算法是怎麼得來的嗎？Deepfake是基於目前叫做“深度學習”的人工神經網路智慧演算法，特別是一類叫做“生成對抗網路”（GAN — Generative Adversarial Network）的演算法，是這位斯坦福大學的學霸小哥提出的：Ian GoodFellow。
這是一個腦洞大開的演算法：創造一個進化的虛擬環境，讓機器生成兩個互相對抗的演算法進行博弈，一個模擬，一個判別：
你說這個影象是真的還是我造假的？
你太挫了，一點都不像！你輸了！
這個呢？
不像！再來
這個呢？
嗯，有點像吧。。。
哈哈，你錯了！我這個還是假的，你輸了！
Ming Guo：這樣遊戲兩方就在對抗中進化，直到造出“真實”得你不敢相信的影象。
很明顯，如果我們把上述進化博弈遊戲的一方換成人類，當人類的認知達到極限的時候，另一方的人工智慧程式是否會超越人類？很有可能啊。
在這種“道高一尺，魔高一丈，人工智慧一丈五”的遊戲裡，人類可以堅守到何時？很快，人類會發現，最好的演算法就是把人類認知排除的演算法，讓人工智慧對付人工智慧。
然後我們會發現，這是一場人工智慧的軍備競賽，誰有資源研發出來更強的人工智慧演算法，誰就可以暫時勝出。在我們這個資源繫結的經濟體和社會里，最後只有擁有最多資源的壟斷者可以玩這個人工智慧軍備競賽遊戲的能力，那些沒有資源的人，即大多數人，都會成為失敗者
比推：這是人工智慧的深度學習？
Ming Guo：是的，深度學習。但是，如果有一天，不再參與競賽的人類也許會被“人工智慧”覺得多餘，那一天將是一個可拍的日子。
比推：是的，人工智慧的未來吉凶難料。Elon Musk 就對此表示非常擔憂。
Ming Guo：是啊，到最後就是災難，Elon Musk是從未來回來警告我們的！
所以，我們目前的資源繫結的經濟體，根本不適應這個人工智慧已經到來的時代。
Ming Guo：回到“換臉”對隱私保護的挑戰的問題，我們需要做的，是換一個思路。
回到問題的另外一端：如果我們不想透過贏得對人工智慧的進化對抗賽來解決問題的話，也許可以我們進化人類自己的經濟社會的方式來做嘗試？
“重隱私”的巨資料的一個特點是和我們的生物特徵深度耦合。我們可以嘗試進行“解耦合”的方向。
比如一個方向是把我們傳統的單一“身份”和生物特徵進行“解耦合。我們應該反思單一身份在我們社會和經濟體裡的作用。
網際網路開始的資訊革命把我們帶入到一個無限可擴充套件的虛擬現實裡，我們的現實世界早已經大大擴充套件了。
按照SSDE內生去中心化經濟體的論述，我們的將來是一個包含人類思維空間的世界，裡面可以創造出無數的虛擬空間，在這些空間裡人類將真正主宰自己的命運，並且和人工智慧並存，人工智慧將成為這個無限世界裡和思維的和人類平等的成員，沒有誰能夠奴役誰，因為這個世界足夠大。
在每一個我們創造的空間裡我們可以有無數的“分身”，我們不在需要單一的“身份”，也就不存在對“生物特徵”的深度耦合的“單一身份”的需要。另一個“解耦合”的方向是資料”脫敏“。既然人工智慧的新演算法已經可以”以假亂真“，為什麼我們不可以加以利用”以真亂假“呢？
”以真亂假“就是我們把帶有我們生物特徵的資料進行”脫敏“的方法，我們只是反過來使用人工智慧演算法而已。目前我們可以對“弱隱私”或“輕隱私”的資料進行簡單的“脫敏”，但是“重隱私”資料的脫敏需要我們和資料的應用形式一起設計才可以。
在這些思路里，我們發現，其實路很難走，但是越往後越寬廣
比推：這是否就需要區塊鏈的技術？
Ming Guo：需要一個包括區塊鏈技術進行更多迭代的新的技術基礎設施，以及新的更廣的思路：政治、經濟的各個方面。
比推：這在目前網際網路巨頭把持的大資料時代是很難實現的，那是否意味著未來的區塊鏈並不是網際網路時代的延續， 而是需要去重新構建一個世界， 但這樣的可能性有多大？換句話說區塊鏈技術會給人類社會帶來像網際網路那樣的解構和重組嗎？
Ming Guo：這是一個很棒的問題，問得很深入。是的，我認為區塊鏈技術的方向並不是網際網路時代的延續，我們需要構建一個新的世界。
可能性的問題，是一個生存與進化的問題。新的模式就想新的物種，如果有一點點可以生存的空間，就會生長。然後可能被大部摧毀，然後再找機會重新調整、長大。我們數一下，比特幣“死過”差不多快200次了。
我認為區塊鏈技術會進化成為新的模式，因為我們目前的很多區塊鏈技術的努力方向還是在迎合這個資源繫結的信用經濟體。大家會認識到我們需要新的經濟模式，新的經濟體。
比推：不過目前的網際網路巨頭一統江山，而且已經在涉足區塊鏈領域。比如Facebook 的Libra, 區塊鏈技術有可能像網際網路那樣改變世界嗎？
Ming Guo：區塊鏈技術如果找到正確的方向，例如SSDE – 內生去中心化經濟體，不是改變世界，而是生長出一個新的世界。那比“改變”更要巨集大。
比推：期待這一天的到來！感謝Ming !
Ming Guo：謝謝大家！我們今後可以繼續探討。
比推：好啊，今天Ming 的分享非常精彩，大開眼界。非常感謝！
