requestId:68a600ca9f9af0.55040863.
中國網/中國發展門戶網訊 1950年，計算機科學先驅圖靈（Alan Turing）在其開創性論文Computing Machinery and Intelligence中描繪了具身智能（EAI）的愿景——機包養器能夠像人類一樣感知環境、推理決策并付諸行動，這代表了人工智能發展的終極形態。此后，具身智能大致經歷了3個發展階段（圖1）。在硬件發展階段（20世紀70年代起包養行情），具身智能的傳感器、處理器和執行器等硬件取得了進展，如微機電系統（MEMS）技術推動了傳感器件的小型化與集成化進程，為構建具備多模態感知能力的機器人奠定了硬件基礎；在算法提升階段（21世紀10年代起），深度學習、強化學習等算法開始廣泛應用于具身智能，提升其感知和控制能力；在通用智能階段（21世紀20年代起），大語言模型（LLM）（如Chat-GPT、DeepSeek）和視覺-語言-動作模型（VLA）（如OpenVLA）的涌現，為具身智能帶來認知架構的范式革新，使其具有強大的感知、推理、決策和執行能力，標志著通用具身智能成為主流趨勢。
具身智能是指一種基于物理實體進行感知和行動的人工智能系統，通過與環境的交互獲取信息包養、理解問題、做出決策并實現行動，從而產生智能行為和適應性。如圖2所示，類似生物體，具身智能主要包括2個核心部分：“大腦”，指具身智能的模型與算法部分，模擬人類的思維與決策過程，負責高級推理、決策與規劃，并支持通過自然語言與環境進行交互。 “肉身”，指具身智能系統的各類硬件設施和物理實體部分，包括傳感器、處理器、執行器、網絡通信、電源等硬件設備。“肉身”是具身智能體的環境感知、動作執行乃至基本生存能力的硬件基礎。
具身智能的“肉身載體”呈現多種形態，目前主要為機器人和自動駕駛汽車。機器人由于其結構上的仿生特性，是天然的具身載體，包括人形機器人，以及機械臂。2024年，世界機器人大會上就展現了27款人形機器人。Mordor Intelligence的機器人行業增長趨勢和預測報告顯示，2024年機器人市場規模預計為458.5億美元，到2029年預計將達到959.3億美元。自動駕駛汽車雖然形態上和生物體不一樣，但由于其兼備智能性和自主性等能力，也是重要的具身載體。上述智能機器人和自動駕駛汽車的發展趨勢表明，具身智能領域正處在蓬勃發展的黃金時期。
具身智能為“人、機、物”三元世界引入高等級的“智能”、“關聯”和“交互”能力，將人類社會、信息世界和物理世界“對齊”在統一的平臺上，成為構建統一人類智能、機器智能和物理智能“巴別塔”的基石。它們不再只是概念和實驗室中的產物，而是逐漸成為改變我們生活和生產方式的現實力量。未來，具身智能必將在更多的領域展現出巨大潛力，引領人類走向更加智能化的時代。
具身智能安全背景
具身智能體在實際應用中暴露出一系列嚴峻安全隱患，對個人生命財產安全乃至國家安全包養構成威脅。近年來多起事故便是明證：2022年7月，一臺象棋機器人在國際公開賽上誤傷了一名7歲男童的手指；2023年11月，韓國一名工人因被工業機械臂誤識別為貨物而致命；在自動駕駛領域，僅2022年一年，全球范圍內就發生近400起自動駕駛交通事故。這些具身智能安全事故的根源在于其“大腦”和“肉身”均存在脆弱性，具體表現為具身智能系統的感知失誤、決策錯誤、執行失控等都會釀成事故，尤其是具身智能與物理環境的跨域交互特性進一步引入了新的安全風險維度。隨著具身智能系統在關鍵基礎設施中廣泛部署，這些安全漏洞可能被惡意利用，不僅威脅個人生命安全、破壞社會秩序，更可能危及國家科技自主權、社會穩定性與戰略利益等根本安全。
針對日益嚴峻的具身智能安全問題，各國政府在積極探索有效的防護方法和治理模式。目前，針對機器人和自動駕駛等典型具身智能應用范式，國際標準化組織（ISO）已經立項標準ISO/CD 13482:2023（Robotics—Safety requirements for service robots），針對個人、專業、商業應用服務機器人，明確安全需求并界定涉及的機器人與危險程度，按照人機物理接觸條件給出功能安全附加信息。2024年7月，Communications of the ACM期刊發表文章Establishing standards for embodied AI呼吁從部件級和系統級盡早建立具身智能標準，確保具身智能安全性、可靠性、可用性。與此同時，我國也在具身智能相關領域開始布局，相繼發布了《具身智能發展報告》《2024具身智能全景圖1.0》《人形機器人分類分級應用指南》等重要政策文件和研究報告。
然而，當前國際社會在具身智能領域仍缺乏統一的規范化標準，安全治理體系存在明顯空白。隨著具身智能技術的快速迭代與廣泛應用，各國急需加強在具身智能安全基礎研究方面的政策支持與資源投入，構建統一的通用化規范準則。建立多維度、系統性的安全治理方案，不僅是保障具身智能健康發展的必要條件，更是推動該領域持續創新的重要基礎。
針對具身智能安全治理問題，本文首包養網先定義了具身智能安全內涵和安全體系，包括具身智能本體安全、交互安全及應用安全3個方面。進而針對如何有效防范具身智能的安全風險，本文提出了具身智能綜合評測及防護框架，并展望其安全治理原則，以期為具身智能安全治理提供指導。
具身智能安全內涵與體系
與具身智能發展相伴而生的是復雜的安全威脅。具身智能安全需要同時考慮其“肉身”和“大腦”安全，同時也要考慮兩者融合之后的新型安全問題，如兩者的相互影響和制約導致的安全問題。具身智能強調與環境的交互性，因此安全內涵包括人、機、物三者多元共生系統安全，構建具身智能與人類自然語言交互、與物體精確熟練互動，以及與其他具身智能體共同協作的場景。如圖3所示，本文認為具身智能安全的內涵包括三大類：
本體安全——根據具身智能體的“大腦”和“肉身”構成，其本體安全問題包括具身智能算法安全、感控安全及數據安全等。
交互安全——具身智能體在與外部環境交互過程中的安全，根據交互對象劃分，包括人—機交互安全、機—物交互安全和機—機交互安全。
應用安全——具身智能體所承載的任務目標對外包養網部環境、人員乃至社會產生作用和影響，根據作用域劃分，可以分為信息域安全、物理域安全、社會域安全。
具身智能本體安全
具身智能算法安全
具身智能算法安全關注智能體對環境和指令的準確理解，及其做出安全可靠規劃和決策的能力。以具身大模型為核心算法的具身智能，不僅繼承了傳統AI中的安全威脅，如對抗樣本、數據毒化和逆向工程攻擊，還面臨提示注入攻擊、越獄攻擊和偏見女大生包養俱樂部攻擊等大模型安全風險，尤其面臨大模型與“肉身”結合之后特有的安全風險，如具身智能行為安全對齊問題。研究表明，在視覺輸入中加入對抗樣本貼圖，會導致具身智能生成的動作軌跡偏離正確路徑；在路標上加入物理對抗樣本能夠使得自動駕駛汽車目標檢測錯誤；在人機交互中，通過在用戶指令后添加對抗性后綴，能夠操縱具身大模型的決策過程；通過精心構造具身智能大模型的輸入，可以繞過其安全對齊機制，從而觸發具身智能的惡意包養網行為，如拿刀殺人；此外，在具身大模型的上下文中植入后門，可能引發有害決策或未經授權的隱私信息包養網比較訪問，最終導致具身智能體失控或用戶隱私泄露。這些新型安全威脅對具身智能的安全性提出了更高要求。
因此，具身智能算法安全的核心目標是確保計算流程和結果的可信度與可解釋包養網性。通過模塊化設計，可以在問題發生時逐步定位具體的故障模塊；或者采用思維鏈方法，進一步細化推理過程，從而提升算法的可解釋性。在應對小概率異常場景、提示注入攻擊，以及惡意擾動的對抗樣本輸入包養時，可通過前檢測和后檢測過濾器進行防御，有效降低提示注入攻擊對具身智能系統的威脅。這些方法可以為提升具身智能算法的安全性提供重要保障。
具身智能感控安全
具身智能感控安全指的是在具身智能體與物理環境交互過程中，確保其感知與執行過程的安全性與可靠性。具身智能的物理交互涉及2次跨域：以感知為核心的物理域到信息域的跨域；以執行為核心的信息域到物理域的跨域。在這2個過程中，具身智能體需要準確感知環境信息并正確執行決策模塊的動作，這些能力依賴于其“肉身”，包括傳感器和執行器。
傳感器安全：具身智能系統通過各類傳感器（如麥克風、相機和雷達）獲取環境信息，經識別處理后，輔助決策模型進行決策。然而，傳感器存在機械共振、電磁共耦、器件非線性、信號無鑒權等脆弱性，容易被環境信號（如聲音、激光、可見光、電磁等）無意干擾或惡意攻擊，從而影響感知正確性和系統安全性。因此，確保傳感器信息的真實性與準確性并增強其抗干擾能力，是實現安全決策的關鍵。研究表明，聲波信號可利用攝像頭中的慣性傳感器機械共振脆弱性，使成像畫面出現抖動模糊，從而導致目標識別出錯；還可以利用麥克風的非線性脆弱性，構造超聲波信號注入無聲惡意的語音指令；激光信號可以利用激光雷達的回波信號無鑒權脆弱性，消除、篡改或偽造點云。上述各類傳感器攻擊具有隱蔽性和多樣性，難以通過傳統網絡安全措施進行有效檢測和防御。為抵御傳感器安全威脅，需要實施包括聲學、光學、電磁包養情婦學等多層次的綜合策略。未來應開發新型具身智能攻擊檢測方案，深入探索具身智能感知安全的邊界，并結合多領域研究成果，不斷提升具身智能系統的防御能力。
執行器安全：具身智能依靠執行器（如電機和揚聲器）與環境交互，從而改變外界物理環境的狀態。確保執行器的安全是具身智能安全體系的最后一道防線，也是保障整個系統安全運行的關鍵環節。然而，執行器同樣面臨多種安全威脅，例如電磁干擾攻擊和電源攻擊等。研究表明，電磁干擾攻包養管道擊能夠直接影響電機的運行狀態，導致執行器動作異常或失控。此外，電源模塊的惡意攻擊利用內部線路的天線效應和非對稱性，篡改揚聲器的輸出信號從而引發錯誤行為。這些威脅不僅可能破壞具身智能體的正常功能，還可能對周圍環境和人員造成潛在危害。因此，執行器安全是具身智能體在復雜環境中實現安全可靠運行的核心保障。確保執行器的安全性和可靠性，是實現具身交互過程中安全操作的前提條件。未來需要針對執行器的潛在威脅，開發多層次防護機制，如增強電磁屏蔽、優化電源設計、實時監測執行器狀態等，以全面提升執行器的抗干擾能力和安全性能，從而保障具身智能系統整體安全性。
同時，在跨域過程中，具身智能體可能面臨多種安全威脅。例如，攻擊者可能通過惡意物理信號攻擊傳感器或執行器，甚至聯動利用其“肉身”漏洞和算法缺陷實現精巧攻擊，威脅到智能體自身及周圍環境人和物的安全。
具身智能數據安全
具身智能數據安全是指在具身智能系統中，保護數據在采集、傳輸、存儲和處理過程中的安全性與隱私性，防止攻擊者干擾、竊取或破壞數據，從而確保具身智能體決策的準確性并保障用戶的數據隱私。
訓練數據安全風險：具身智能訓練數據安全指的是訓練數據必須具備純凈性、公正性和對齊性，以確保模型訓練的可靠性和安全性。如果在訓練或微調具身大模型時使用了中毒數據，可能導致模型被植入隱蔽后門。一旦后門被觸包養甜心網發，可能引發嚴重后果，如車輛加速沖向障礙物等。因此，可以通過建立嚴格的數據來源審查機制，以確保訓練數據的純凈性和包養網站公正性，從根本上降低中毒數據帶來的風險。為防止中毒數據影響模型訓練，可以采用對抗訓練、聯邦學習等技術來緩解。不僅包養如此，具身智能大模型的輸出不僅需要符合人類規則與道德準則，還必須具備物理風險感知能力，與物理規律保持一致，從而規避潛在危險。因此，在具身智能大模型訓練過程中也需要加入安全對齊等措施。
用戶數據隱私安全：用戶數據隱私安全是指具身智能在采集、使用、傳輸用戶數據時不侵犯和泄露用戶的隱私。在數據采集階段，具身智包養甜心網能體需要有效采集和處理感知信息并且防止攻擊者從側信道等方式竊取隱私信息；在數據使用階段，存儲于具身智能系統里的數據可能被竊取從而泄露用戶隱私；在數據通信階段，具身智能采集的用戶數據、任務數據和環境數據在傳輸過程中可能泄露，尤其在使用無線網絡時，未經加密的數據包易受中間人攻擊。為有效保護具身智能的用戶數據隱私，應在傳感器生成數據時屏蔽或加密敏感信息，而非事后進行隱私保護。在數據存儲與傳輸環節，通過部署本地計算或邊緣計算，可減少數據傳輸和集中存儲，從而降低數據暴露風險。在數據通信階段，應采用強加密算法確保數據傳輸的安全性，防止中間人攻擊和數據竊取。
具身智能交互安全
人—機交互安全
具身智能人—機交互安全是指在具身智能體與人類交互過程中，確保具身智能不會對人類造成任何傷害，從而實現人機可信賴的協同與和諧發展。這需要通過限制具身智能的活動區域、設計安全規則等手段，確保其在所有預期使用場景中的行為對包養人類無害。例如，設置碰撞檢測機制、速度限制和緊急停止功能，以防止意外傷害的發生。此外，確保人類在交互過程中始終擁有控制權是關鍵。用戶應能夠隨時終止或調整具身智能的行為，以避免因失控或誤包養操作引發的安全問題。
機—物交互安全
具身智能機—物交互安全是指具身智能體在與物理環境中的對象進行交互時，確保交互過程能夠在不破壞無關物體的情況下實現預期目標。這涉及具身智能體動作執行的可靠性，能夠正確地搬運、放置、使用環境中的目標物體，從而避免對環境中的其他無關物體造成損壞；同時，也應加強其容錯與自適應能力，保證具身智能在復雜或動態環境中，能夠處理應對意外情況（如物體滑動或障礙物干擾）。
機—機交互安全
具身智能機—機交互安全是指在多個具身智能體共享包養網評價同一環境時，確保交互過程中避免對其他智能體造成損害或安全風險，同時維持協作的高效性和系統的穩定性。通過行為規劃的協調和優先級規則的設定，避免因沖突或競爭導致的不安全情況，從而實現具身智能體之間的高效協作。在交互過程中，具身智能體還需防范信息泄露、篡改或誤傳，確保通信數據的機密性、完整性和真實性，最終構建可靠、和諧的多智能體協作環境。
具身智能應用安全
具身智能信息域安全
具身智能信息域安全主要指在具身智能系統的部署過程中，確保模型、組件、適配器等在網絡傳輸中的完整性與保密性，以免受外部干擾或惡意操控。隨著具身智能大模型的蓬勃發展，研究者與開發者通常依賴開源平臺下載模型、適配器和組件。然而，若惡意攻擊者在上傳的模型或適配器中植入后門、通過插件獲取非必要權限，甚至在供應鏈中注入安全漏洞，則可能導致嚴重的安全隱患與隱私泄露。
具身智能物理域安全
具身智能物理域安全是指在具身智能系統運行過程中，確保其在物理世界中的安全，防止攻擊者對具身智能體或其所在環境實施干包養網單次擾、破壞或劫持等行為。為實現物理域安全，具身智能系統需要構建全面的物理域風險檢測與阻斷能力，識別潛在的惡意指令、異常信號甚至惡意實體，以避免外部攻擊者侵入系統或引發危險行為。此外，還需要在執行任何動作之前對輸出指令進行安全審查，確保其符合預期的操作規范，避免對具身智能體、周圍環境或人類用戶造成破壞。
具身智能社會域安全
具身智能社會領域的安全性指在具身智能系統應用過程中，確保其符合法律、倫理和道德準則，與人類價值觀保持一致，避免對社會產生負面影響。在具身智能體的決策過程中，需要引入倫理考量，以避免侵犯用戶隱私、產生偏見與歧視，以及算法決策的不透明性等問題。具身智能不僅要關注技術安全包養留言板性，還需重視其社會影響，確保技術應用符合法律法規、道德規范和社會倫理。
具身智能安全防護及治理
具身智能安全評測體系
具身智能安全評測體系需要覆蓋評測標準、評測數據集、評測技術和評測工具平臺等，為具身智能安全發展提供科學、系統的支持。
建立具身智能安全標準體系。標準的制定應統一不同硬件、軟件和算法的差異，充分把握具身智能軟硬件協同以及“人—機—物”深度融合的關鍵特征，既關注傳統安全問題在具身智能場景下的變化，又著力發掘具身智能中新的共性安全挑戰。通過綜合人工智能、網絡安全、控制理論等交叉學科領域的研究成果，構建涵蓋本體安全、交互安全和應用安全的完整標準體系。同時，根據具體的應用場景、功能需求和防護要求，構建具身智能系統分類分級標準，建立具身智能安全等級保護標準和評測標準，為安全發展提供科學規范的保障。
構建安全評測數據集并研究評測技術。具身智能安全測試數據集包括各類惡意任務、指令及物理域中的單模態/多模態傳感器信號輸入，可用于具身智能體的模型訓練、測試過程評測和硬件、軟件算法模塊級測試及系統級聯合評測。針對軟件算法，發展算法黑箱檢測技術，通過紅隊安全測試，側重具身大模型魯棒性、幻覺、偏見性等評測；針對硬件器部件，需加強對帶內脆弱性、帶外脆弱性的檢測分析，降低多物理場惡意信號挾持具身智能決策或致幻的風險。尤其是，需要針對具身智能跨域脆弱性風險，如跨域致幻、跨域越獄攻擊等新型威脅，綜合物理域、信息域安全性指標，以及跨域系統性指標形成具身智能評測技術體系。
構建規范化評測工具平臺。針對具身智能本體安全，開發聲、光、電、磁等多物理場信號驅動的具身智能硬件帶內帶外脆弱性評測平臺，以及具身大模型多維度指標評測平臺（圖4）。針對交互安全，建設虛實結合、人機協作的評測平臺。為克服在現實世界中對具身智能整機評測的成本高包養、速度慢及風險高等瓶頸，應同步開發具身智能仿真評測平臺，實現大規模、高并行的具身智能安全評測。同時，為保證人機協作過程中的人身安全，應注重考慮設計人在回路的安全評測場景與任務。最終，保證具身智能體走進千家萬戶的時候能夠避免“傷人害己”。
具身智能安全防護技術
具身智能安全治理還應關注基礎理論、安全設計、生產實現等方面的具體防護技術。
突破可信具身智能關鍵基礎理論與技術。具身大模型因其具有模型黑箱、涌現機理不明及策略難以解釋等特征，在大規模應用，尤其是關鍵基礎設施和國防軍工領域的應用中面臨巨大挑戰。應重點發展價值對齊技術，確保具身智能系統的策略與人類價值觀和社會利益保持一致，從而增強具身智能的內生安全性。同時，發展具身智能策略監測與自診斷技術，結合思維鏈、檢索增強生成等技術，使具身大模型能夠清晰呈現輸出策略的邏輯推理過程，實現對具身智能系統運行內在機理的反向推斷與監測，從而全面提升具身智能的可靠性、安全性和透明性。
發展全鏈路數據隱私保護技術。該技術有助于保障“人—機—物”數據安全和交互隱私安全。應系統性地考慮數據在感知、儲存、傳輸和使用等全生命周期各環節中的隱私問題，構建完整的隱私保護體系。在數據感知環節，重點解決傳感器過度感知的問題，通過傳感器內部做到數據脫敏和匿名化處理，實現傳感器生成數據“自源保護”，達到“生而隱私”的理念；在數據傳輸環節，采用數據加密和隱私計算技術，確保傳輸信道的安全性。同時，通過研究可驗證的多方安全技術，全方位保障用戶隱私數據在整個具身智能體工作鏈路中的機密性和完整性。 TC:sugarpopular900
