研究人員利用這種微型晶片為高耗電的人工智慧模型開發了一種安全解決方案，可以針對兩種常見的攻擊提供保護。
健康監測應用程式 只需使用智慧型手機，即可幫助人們管理慢性疾病或維持健身目標。然而，這些應用程式可能速度緩慢且能源效率低下，因為為它們提供動力的龐大機器學習模型必須在智慧型手機和中央記憶體伺服器之間穿梭。
工程師經常使用硬體來加快速度，從而減少來回移動大量資料的需要。雖然這些機器學習加速器可以簡化計算，但它們很容易受到竊取秘密資訊的攻擊者的攻擊。
為了減少此漏洞，麻省理工學院和 MIT-IBM Watson AI 實驗室的研究人員創建了一種機器學習加速器，可以抵禦兩種最常見的攻擊類型。他們的晶片可以保護使用者的健康記錄、財務資訊或其他敏感資料的私密性，同時仍使大型人工智慧模型能夠在設備上高效運作。
該團隊開發了多項優化，可實現強大的安全性，同時僅略微降低設備速度。此外，增加的安全性不會影響計算的準確性。這種機器學習加速器對於擴增實境、虛擬實境或自動駕駛等要求嚴苛的人工智慧應用特別有利。
麻省理工學院電氣工程與電腦科學 (EECS) 研究生、主要作者 Maitreyi Ashok 表示，雖然採用該晶片會使設備稍微昂貴且能效較低，但有時為了安全性付出的代價是值得的。
「從一開始就考慮到安全性是很重要的。如果您在設計系統後嘗試添加哪怕是最少量的安全性，其成本也將高得令人望而卻步。我們能夠在設計階段有效地平衡許多這些權衡，」阿肖克說。
她的合著者包括 EECS 研究生 Saurav Maji； MIT-IBM Watson AI 實驗室的 Xin Zhang 和 John Cohn；資深作者 Anantha Chandrakasan，麻省理工學院首席創新與策略長、工程學院院長、EECS 教授 Vannevar Bush。該研究將在 IEEE 客製化積體電路會議上發表。
側通道敏感性
研究人員瞄準了一種稱為數位記憶體計算的機器學習加速器。數位 IMC 晶片在設備記憶體中執行計算，其中機器學習模型的各個部分從中央伺服器轉移後儲存在記憶體中。
整個模型太大，無法儲存在設備上，但透過將其分成多個部分並盡可能重複使用這些部分，IMC 晶片減少了必須來回移動的資料量。
但 IMC 晶片很容易受到駭客的攻擊。在側通道攻擊中，駭客監視晶片的功耗，並在晶片計算時使用統計技術對資料進行逆向工程。在匯流排探測攻擊中，駭客可以透過探測加速器和片外記憶體之間的通訊來竊取模型和資料集的部分內容。
Ashok 表示，數位 IMC 透過同時執行數百萬個操作來加速運算，但這種複雜性使得使用傳統安全措施很難防止攻擊。
她和她的合作者採取了三管齊下的方法來阻止側通道和總線探測攻擊。
首先，他們採用了一種安全措施，將 IMC 中的資料分成隨機部分。例如，一個位零可能會被分成三個位，在邏輯運算後仍然等於零。 IMC 永遠不會在同一操作中使用所有部分進行計算，因此旁路攻擊永遠無法重建真實資訊。
但要使該技術發揮作用，必須添加隨機位元來分割資料。由於數字 IMC 同時執行數百萬次操作，產生如此多的隨機位元將涉及太多的計算。對於他們的晶片，研究人員找到了一種簡化計算的方法，使其更容易有效地分割數據，同時消除對隨機位元的需要。
其次，他們使用輕量級密碼來加密儲存在片外記憶體中的模型，從而防止匯流排探測攻擊。這種輕量級密碼只需要簡單的計算。此外，他們僅在必要時解密儲存在晶片上的模型片段。
第三，為了提高安全性，他們產生了直接在晶片上解密密碼的金鑰，而不是與模型一起來回移動它。他們利用所謂的物理不可克隆函數，根據製造過程中引入的晶片隨機變化生成了這個唯一的密鑰。
「也許一根電線會比另一根粗一些。我們可以利用這些變化從電路中得到零和一。對於每個晶片，我們可以獲得一個應該一致的隨機密鑰，因為這些隨機屬性不應該隨著時間的推移而發生顯著變化，」Ashok 解釋道。
他們重複使用了晶片上的儲存單元，利用這些單元的缺陷來產生金鑰。這比從頭開始產生密鑰需要更少的計算。
「由於安全性已成為邊緣設備設計的關鍵問題，因此需要開發專注於安全操作的完整系統堆疊。這項工作重點關注機器學習工作負載的安全性，並描述了使用橫切優化的數位處理器。它結合了記憶體和處理器之間的加密資料存取、使用隨機化防止旁道攻擊的方法以及利用可變性產生唯一代碼。這類設計對於未來的行動裝置至關重要。
安全測試
為了測試他們的晶片，研究人員扮演了駭客的角色，試圖利用側通道和總線探測攻擊來竊取秘密資訊。
即使經過數百萬次嘗試，他們也無法重建任何真實資訊或提取模型或資料集的片段。密碼也牢不可破。相較之下，只需要大約 5,000 個樣本就可以從未受保護的晶片中竊取資訊。
安全性的增加確實降低了加速器的能源效率，而且還需要更大的晶片面積，這將使其製造成本更高。
該團隊計劃探索未來可以減少晶片能耗和尺寸的方法，這將使其更容易大規模實施。
「由於成本太高，讓人們相信安全至關重要變得更加困難。未來的工作可以探索這些權衡。也許我們可以降低它的安全性，但更容易實施且成本更低，」阿肖克說。
亞當澤威 編劇
