作者 | 李宗仁
編輯 | 王亞峰
自疫情以來，全球數字經濟迎來爆發式增長機遇。數字經濟成為促進中國經濟發展的關鍵力量，資料也成為我國第五大生產要素。
在大力推進數字經濟建設的背景下，我們究竟該如何平衡隱私安全監管和資料產業發展之間的關係？在這個問題上，隱私計算正被政策界、產業界、投資界寄予厚望。
實際上，已經有不少網際網路平臺因資料安全和隱私洩露問題頻頻上話題熱搜。各國政府對隱私和資料安全問題越來越重視。
在經歷了2019年技術普及和市場教育、2020年大規模概念驗證和試點部署階段，2021年隱私計算嘗試進入規模化應用階段。
此前，IT諮詢與研究機構Gartner更是將隱私增強技術列為2021年9項重要的戰略科技趨勢之一。據其分析，限於分析能力、隱私安全性等原因，大約有97%的資料尚未被利用起來；到2025年，將有一半的大型企業機構使用隱私計算在不受信任的環境和多方資料分析用例中處理資料。
2021年即將接近尾聲，隨著《資料安全法》和《個人資訊保護法》的相繼落地，這個因監管而生又迎政策紅利的技術，這一年來發展狀況如何？未來發展趨勢怎樣？這一技術又如何幫助企業應對法律對於資料安全和隱私保護合規挑戰？
雷峰網作為國內前沿的科技媒體，持續關注“智慧與未來”，對全球前沿的技術和趨勢進行深入觀察和調研。因此關於資料安全與隱私計算技術對於行業、領域以及社會發展所帶來的影響，也是我們所關注的和報道的，從而希望能夠引起社會各界的思考。
2021·年12月9日至10日，由粵港澳大灣區人工智慧與機器人聯合會、雷峰網聯合主辦，深圳市人工智慧與機器人研究院、深圳市機器人協會、深圳市人工智慧學會支援的第六屆GAIR全球人工智慧與機器人大會，成功舉辦。
其中《資料安全與隱私計算》分論壇，作為今年新增分論壇也備受矚目。本次論壇以《直面數據安全風險和挑戰；挖掘隱私計算的100%可為》為主題，共話資料安全和隱私計算的當下與未來。會議現場我們邀請到了七位演講嘉賓和六位圓桌論壇嘉賓暢所欲言。
-
信通院雲大所副所長 魏凱；
-
加拿大工程院院士、加拿大皇家科學院院士、微眾銀行首席人工智慧官 楊強；
-
小米集團副總裁、安全與隱私委員會主席、集團技術委員會主席 崔寶秋；
-
騰訊雲安全總經理 李濱；
-
中國電信聯邦學習發起人、研究院終端技術與標準研究員 潘碧瑩；
-
瑞萊智慧RealA首席架構師 徐世真
-
同盾科技合夥人兼人工智慧研究院院長，中科院醫學所首席教授 李曉林；
論壇最後，信工所研究員、博導、資訊保安國家重點實驗室副主任侯銳作為主持人與星雲CTO張駿雪；洞見科技創始人、董事長姚明；上海富數科技有限公司智慧決策分析部負責人吳海斌；瑞萊智慧RealAI首席架構師徐世真；基石資本、天使基金合夥人黃依群；沸點資本董事總經理馬蘭從創業公司、學術、以及投資人三種不同的角度就資料安全和隱私計算這一話題展開激烈討論，不同嘉賓的觀點碰撞，以及深入淺出的分析，令人眼界大開、思維震盪！
以下是本次大會精彩回顧：
一、魏凱：資料流通的從1.0階段到3.0階段，隱私計算技術是關鍵
會議現場，信通院雲大所副所長魏凱發表了《隱私計算髮展現狀與趨勢》的主題演講，
首先分享了資料流通從1.0時代到3.0時代，隱私計算技術發揮的重要的支撐作用，和國內外發展概況；其次從隱私計算解決了什麼問題、隱私計算產品的成熟度、可用性、安全性評判、隱私計算的使用與合規以及隱私計算髮展趨勢進行了深入分析；最後點出了隱私計算面臨的三大問題，以及信通院為推動隱私計算更好的應用從政策研究、標準制定、成立了隱私計算聯盟等進行的實踐。
隨著國家資料戰略的深化推進，大資料本身的基礎設施建設和資料資源的建設，在賦能數字經濟的作用價值被人們所看到。如何保障資料在不同主體之間安全可信的共享，隱私計算成為關鍵技術。
魏凱表示：“資料流通在1.0階段蘊含了很多的風險，裸資料交付較多，一旦流通出去安全風險不可預估。如今資料流通模式發生改變，隱私計算讓資料變成融合後的結果，因此升級進入了資料流通的3.0階段。”
我們之所以能夠跨越到資料流通的3.0階段，很重要的一個技術前提就是隱私計算這一類技術的支撐。他認為，“雖然隱私計算改變了資料互動與融合的模式，提出了一種新的形態，保障了從資料來源、資料傳輸渠道、資料匯聚通道和使用方等資料流通環節的安全。但實際上沒有辦法解決資料在流通之前和之後的權屬爭議，因此也不能成為一種豁免法律義務的擋箭牌，這是毫無疑問的。”
隱私計算產品的成熟度、可用性，也是我們所關注的。考察隱私計算產品的技術水平應該從綜合的角度來去評判，包括效能、安全性和準確程度，這三者缺一不可。
“隱私計算的使用和合規不能劃等號”。首先，法律法規不會對技術的應用做非常確切的判斷，無論是隱私計算技術還是人工智慧技術的使用，法律上不會從條文上判斷使用是否合法，從合法性給出確切的定義。法律只看是否侵犯相關的利益。因此在實踐中要趨近於法律的最小化原則，除了技術之外還要考慮商業模式是否合規、資料來源以及授權是否合法、資料使用的目的是否正當等問題。我們要持續性的看待技術的演進和法律合規落地之間的關係。
最後魏凱指出，目前隱私計算這類產品還面臨安全性挑戰、效能的瓶頸、互聯互通三座大山。未來隱私計算髮展趨勢會是外部的互聯互通和內部融合的發展方向。類似與雲端計算、大資料平臺、資料庫、區塊鏈、AI等技術融合發展，平臺產品間互聯互通，打破隱私計算孤島。
二、楊強：人工智慧建設離不開資料，聯邦學習讓資料發揮價值
加拿大工程院院士、加拿大皇家科學院院士，微眾銀行首席人工智慧官楊強，帶來了主題為《資料要素與聯邦學習》的演講。
他以“人工智慧離不開資料”引入，指明人工智慧模型的建設需要資料，但是資料維度、樣本數都非常少、資料所屬和來源各不相同以及資料安全合規越來越嚴，因此亟需一個更強的工程和科學發展來應對這種需求，因此提出了聯邦學習。聯邦學習可以讓資料可用而不可見。
他表示從時間上來看隱私計算基本經歷了四個發展階段：安全多方計算（MPC）、差分隱私（DP）、集中加密計算（TEE）、聯邦學習（FL）。其實在資料可用而不可見的範疇內，我們可以用各種各樣的技術手段來解決問題，進而隨著技術不斷髮展，形成大資料流通和隱私計算的行業生態。
而聯邦學習的方法是讓“資料不動、模型動”，模型引數加密以不暴露原始資料和各方模型。楊強還介紹了橫向聯邦學習和縱向聯邦學習帶來的作用。其中有一個典型的場景：“網際網路公司可以提供使用者畫像的資訊，但它卻沒有銀行風險控制的資訊。銀行有使用者借款的資訊以及逾期率，但卻不知道使用者平時上網的行為、看影片的喜好等等。如果能把兩種資訊聚合起來，那麼風險模型就會更靠譜，壞賬率也會變低，這就是縱向聯邦學習的作用。”
據介紹聯邦學習目前國內國外也都在建立相關標準，國內楊強團隊領導IEEE建立全球首個聯邦學習標準，同時也做了世界上第一個開源平臺FATE，貢獻給Linux Foundation，聯邦學習還被納入Gartner技術成熟度曲線，成為下一代隱私計算髮展的關鍵。
此外聯邦學習還可以應用在人工智慧模型上一是語音識別，二是影象識別。具體來看主要有裝備製造業、物聯網AIoT、智慧安防等行業還有智慧推薦、銀行反洗錢、企業之間大資料合作、醫療健康、無人車、風控、等領域。
楊強表示：“微眾銀行FATE軟體除了開源版還有商業版，可以應用於營銷、保險、企業服務、物聯網、智慧城市、KYC（安全保障）、投資理財等。大家可以放心的加入到生態中，讓資料發揮價值。”
三、崔寶秋，安全隱私為美好生活保駕護航
隨後，小米集團副總裁、安全與隱私委員會主席崔寶秋，發表了主題為《“手機x AIoT”隱私保護技術》的演講。他分享了小米在資訊保安和隱私保護領域所做的工作和發展歷程，帶來了小米的安全隱私實踐。
“作為一家網際網路公司，如果沒有自己的資訊保安團隊，那麼就像裸奔。”崔寶秋在2012年加入小米，就主推成立小米資訊保安與隱私保護委員會。後來2016年小米的MIUI作業系統拿到了TRUSTe的隱私認證，之後陸陸續續拿到了更多的隱私和安全認證，因此2018年GDPR正式生效，沒有對小米產生影響。
他總結了小米的隱私合規體系，主要圍繞組織保障與隱私意識、管理體系與流程、資訊保安與隱私保護權威驗證三大方面。並沉澱了五大隱私保護原則：分別是公開透明、使用者可控、企業責任、安全保障和法律合規。
他認為：“雖然行業內認為安全和隱私三分靠技術，七分靠管理。但是今天應該反過來，三分靠管理，七分靠技術，甚至更多分的要靠技術。”
接下來他分享了小米在安全隱私領域做的事情。首先在頂層，小米有一個強大的組織架構的保障，一套成熟的隱私合規體系。其次是下層全部靠技術，包括手機的全鏈路安全隱私防護、IoT平臺化的安全隱私保護技術，以及AI演算法中的各種安全隱私應用。
其中小米手機團隊基於開源技術自研了小米的可信執行環境MiTee，並在手機端廣泛使用差分隱私技術，同時還有米家安全晶片等硬體安全方案以及軟體安全方案，像MACE移動端深度學習框架，可以把使用者的隱私資料留在端上，不傳到雲端。用實踐證明了沒有技術就沒有小米的安全隱私保護能力。
最後，崔寶秋表示就安全與隱私來說，小米的使命是“安全隱私為美好生活保駕護航”。
四、李濱：“新時代”資料安全與隱私計算如何破局
新時代下，我們處於百年未有之大變局，對於資料安全和隱私保護的要求也有所不同。會議現場，騰訊雲安全總經理李濱發表了題為《“新時代”資料安全與隱私計算的挑戰和實踐》的演講。
他表示新時代下，我們面臨新環境、新技術以及全新的產業時代。資料成為新的生產要素，資料安全和網路空間安全也成為制約企業發展的關鍵命題。
在過去幾年，針對使用者資料以及使用者個人資訊的攻擊是愈演愈烈的。2018年左右全球公開資料洩露的總量在20多億條，2019年達到50億條，2020年已經超過了100億條。今年前兩個月，在國內公佈的一例案件裡，查獲涉及我國公民的資料侵權達到56億條。
李濱表示：“我國近年來在資料安全和隱私保護的監管和合規要求越來越嚴格，各項技術、標準、實踐落地越來越清晰，今天面臨的是“五法共治”的資料安全合規體系，包括原來的《網路安全法》，以及比較今年的《資料安全法》、《個人資訊保護法》、《密碼法》等等，都對今後的資料安全和個人資訊保護提出了綱領性指引。”
他總結了資料安全的五大風險：
一是外部攻擊威脅。包括駭客攻擊，資料洩露事件，以及這幾年愈演愈烈的勒索軟體、挖礦等攻擊事件，與日俱增；
二是內部安全風險。對於企業來說，擁有大量高價值的資料，因此要考慮內部控制和反舞弊風險，防止內部對資料的濫用、誤用及竊取；
三是資料第三方風險。企業資料面臨大量的交換、共享以及不可控的資料邊界，比如端側App等，這其實不屬於企業業務本身所屬的資產範圍，但是在非受控的三方環境中怎樣保證資料安全，也是比較大的挑戰；
四是合規/治理風險。對於諸多設施、應用、服務，如何清晰地瞭解資料分佈的全景圖，制定合理的解決方案和治理策略，也是一個挑戰；
五是供應鏈風險。在資料供應鏈以及軟體供應鏈等方面都面臨一定風險。
面對如此多的風險，在資料的產生/獲取、傳輸、儲存、使用的過程中，每一個環節都需要做安全防護，資料如何安全有效治理。李濱認為，“如此多的資料安全環節都需要安全防護，每個環節涉及的產品技術都有好幾種，那麼這個解決方案本身就是問題所在。因此我們在資料安全和隱私保護時不僅要強調過去的安全性還要注重高效率、高效能、可靠性以及經濟性。”
最後他分享了騰訊的雲原生資料安全實踐，講述了騰訊雲在資料安全領域的實踐和探索。
五、潘碧瑩：AI隱私終端安全與實踐
中國電信聯邦學習發起人，研究院終端技術與標準研究員潘碧瑩，帶來了主題是《AI隱私安全研究與實踐》的演講。主要介紹了AI資料隱私安全的背景和現狀以及關鍵技術，還有中國電信在AI資料隱私安全的實踐工作。
從2018年開始，手機開始具備AI演算法的計算加速能力。隨著計算能力提升和能效大幅度的提升，催生出了一波圖象最佳化、生物特徵識別、智慧問答、語音合成、文字識別等等的AI應用在終端上面的廣泛使用。但隨之而來也引匯出了AI隱私終端的安全問題。
潘碧瑩從終端隱私和AI應用隱私兩個方面揭露了資料安全所面臨的問題，一是自動化決策的合規問題，二是資料採集和訪問的合規問題。比如個人資訊採集更便利、許可權管理等問題，在AI應用隱私方面，存在錯誤授權過渡索權、超範圍收集個人隱私以及在使用者不知情的情況下收集個人隱私等問題。這讓使用者產生擔憂。
目前國際主要組織，例如歐盟，還有中國、英國、美國等都在制訂AI隱私安全方面的政策法規。
隨著標準的完善，AI資料隱私安全相關的關鍵技術也逐漸成為重要支撐。但是差分隱私、多方安全計算以及聯邦學習在AI終端上面的應用，還存在一些難點。比方，差分隱私是一種以損失精度為代價的隱私保護機制；多方安全計算需要各參與方在互動通訊來實現加法和乘法的操作，所以如何設計協議，降低通訊開銷成為應用難點；聯邦學習的終端的算力與模型訓練的算力需求還有一定的差距以及使用者資料分佈的問題，導致聯邦協定在AI終端上面成為一個應用難點。
潘碧瑩表示：“中國電信積極參與主導標準制定，以及構建平臺產品來助推AI資料隱私安全保護。”
中國電信在GSMA成立了TSGAI工作組，促進人工智慧在移動裝置上的實施。在今年的時候也釋出了業界第一份AI終端規範。以及在今年三月份，中國電信在IEEE成立了P2986工作組，主導聯邦學習隱私安全要求標準，目前有18家公司和研究機構參與。同時構建諸葛AI平臺，這一平臺是具備中國電信特色可商用的聯邦學習平臺。
最後，潘碧瑩表明，目前中國電信已經在營銷領域開展實踐，合作伙伴可以透過中國電信諸葛AI平臺，結合中國電信海量資料，在不交換原始資料和標籤的前提下，進行更精確的定位營銷。未來還會在更多的領域進行實踐探索。
六、徐世真：隱私計算與AI互為補充，助力AI新基建
瑞萊智慧RealAI首席架構師徐世真博士發表了《隱私計算助力AI新基建》的主題演講。他表示：“AI和隱私計算息息相關，隱私計算是AI能力的重要補充，AI是隱私計算
的核心需求。從場景角度來看，隱私計算通常和AI緊密相關，AI可以看成隱私計算的上層應用與核心技術。”
隨著人工智慧被納入新基建的範疇，瑞萊智慧提出，要做一個安全AI的基礎設施，其中包括資料安全、演算法可靠、應用可控。
徐世真指出，目前隱私計算計算還面臨著四大問題，第一，生態壁壘。第二，計算效能。第三，安全性。第四，可用性。
他表示；“AI發展趨勢與隱私計算技術發展趨勢有著極大的相似性，或許可以從AI的發展趨勢中對映隱私計算的發展。比如採用資料流圖層面的編譯相容路線，是AI提出的解決機器學習框架之間互聯互通問題的方案，這對解決隱私計算的互聯互通提供了有力借鑑。”同時在效能最佳化、演算法升級以及AI自身安全性等方面，隱私計算與AI發展也有共通之處。
同時隱私計算要賦能產業，要結合具體場景和產業需求。徐世真認為，隱私計算的產業路徑需要逐場景落地，並根據不同的場景選擇不同的技術路線。
徐世真也強調，隱私計算雖然解決了資料流通安全性的問題，分離了資料所有權和使用權，能夠避免流透過程中的資產損失，但沒辦法解決端到端的安全問題，很多企業更希望獲得的是端到端安全保證，比如資料儲存、資料採集以及流通前後的資料權屬等怎麼做。
目前來看，資料交易的意願和市場還不成熟。很多企業把隱私計算當成安全合規的成本項建設。徐世真認為：“只有深度結合AI，使業務方從隱私計算中獲益，才能把隱私計算從成本項變成營收項，保證企業有可持續的意願度，保證資料價值閉環操作。”
他也指出，隱私計算的產品化，一是儘量從規範成熟、少定製化的需求場景切入，二是將隱私計算嵌入現有的成熟產品，比如在原有機器學習平臺中新增隱私計算功能模組。“這是使用者理想的產品形式，對外依舊輸出AI建模能力，使用者操作層面幾乎無感，在使用原有機器學習建模技術的同時，底層已經透過密碼學、MPC技術實現了隱私保護功能。”徐世真表示。
最後，徐世真還介紹了瑞萊智慧開發的首個編譯級隱私保護計算平臺RealSecure，底層以編譯器架構與全同態加密技術為核心突破，實現與傳統演算法的自動編譯和一鍵適配，效能領先業內平均水平數十倍。同時瑞萊智慧也打造了“平臺+資料+服務+場景”的一體化解決方案，透過引入運營商、支付等數十種外部資料來源，推動隱私計算從功能論證階段邁向業務落地閉環，實現對金融、政務等不同業務場景的快速賦能。
七、李曉林：知識聯邦“新物種”，打造基於隱私計算的共享智慧平臺
同盾科技合夥人兼人工智慧研究院院長，中科院醫學所首席教授李曉林，進行了《知識聯邦：打造基於隱私計算的共享智慧平臺》的主題演講。
李曉林表示：“資料作為生產要素，和其他生產要素有非常大的區別，資料容易失控，保護更難，而且資料的複製幾乎是零成本。同時因為這些困難和挑戰，導致資料共享的程度比較低，資料生命力在各個孤島上面，資料的價值沒有充分發揮。”
同時資料的時間和空間價值也是有差別的，今年的價值和未來一年的資料價值也是有差別的。資料要實現它的價值就必須透過時間和空間上的安全合規的流通。而聯邦學習、MPC安全計算、TEE等，透過打破資料孤島來增強資料的流通價值。但是與此同時，隨著各家隱私計算平臺的推出，又形成了新的資料群島。
對於以上問題，李曉林認為，要想真正的實現知識的共享互通，互聯互通的機制來充分發揮資料的價值，首要問題是要保障一致性：一個方面是連線上的一致性，另一方面是流通的資料、內容的一致性。
同盾科技打造了基於隱私計算的開放共享平臺。核心是同盾智邦平臺iBond，下面是智邦的核心iCore。
同時同盾提出：知識聯邦是一個統一的多層次的框架，融合了多種安全多方功能，基於資料安全交換協議等等，有效利用多個參與方的協議，真正實現資料可用不可見，知識共創和共享。
李曉林表示，有了互聯互通，有了iBond，有了智邦平臺的支撐和知識聯邦的理論框架，我們就可以進一步打通資料流通，從而形成智邦iData。
在智邦iData可以從資料的提供方、資料使用方和應用開發者、應用的提供方、使用方，把資料、應用釋出在上面，使用者可以按使用收費，實現價值變現。
最後，李曉林闡述了同盾的目標是做一個聯結器，透過聯防聯控的獨立第三方角色，聯邦安全交換和充分互聯互通，來幫助各個行業充分發揮資料的價值，透過人工智慧持續強化學習，透過前沿演算法來支撐智慧，並且開源、開放聯盟，合作共贏。
八、學者、創業家、投資人三方對話：一場關於“隱私計算”的頭腦風暴
在長達一個小時的圓桌對話中，信工所研究員、博導，資訊保安國家重點實驗室副主任侯銳從隱私計算的未來是什麼？什麼時候這一風口能夠真正的把大家都吹起來？這兩個問題引入。
接著楊強老師也參與到討論中併發出兩個問題：一、投資人最關心的是什麼問題？在過去，投資人可能最關心的是技術和人才，但是在現在和未來的一年後、兩年後，投資人怎麼看這個領域的發展？二、現在的業務狀態、商業狀態有點“僧多粥少”的局面，業務一個需求出現就蜂擁而上，這個情況怎麼破局？
針對相關問題，各位嘉賓展開了深入的交流，預知詳細內容，請關注雷峰網後續報道！
總的來說，隱私計算這一新興的技術賽道，正吸引不少企業的大力佈局。這背後是資料合規監管壓力的使然，更是搶佔先機的發展需求。從投資角度看，目前隱私計算尚處於技術提升期，還未形成新的商業模式，但是未來可期。
與普通人而言，未來隨著隱私計算應用在多種業務場景中不斷推廣，自己的個人資訊也會得到更有效的保護。
END
未來已來，元宇宙比你想象中來得更早丨GAIR 2021
2021-12-11
GAIR 2021大會首日：18位Fellow的40年AI歲月，一場技術前沿的傳承與激辯
2021-12-10
致敬傳奇：中國並行處理四十年，他們從無人區探索走到計算的黃金時代 | GAIR 2021
2021-12-09
91位先行者當風啟航：「雷峰網2021最佳AI數智化年度榜」公佈
2021-12-09
第六屆 GAIR 全球人工智慧與機器人大會今日開幕：創歷史、敬傳奇、致引領者
2021-12-09
