近年來，人工智能（AI）技術已廣泛應用于人們的生活中，智能化產品亦覆蓋文旅、教育、養老助殘等諸多領域。
通過眼球的轉動和凝視操作電腦，從而實現“意念玩游戲”，這項技術將為聽障、肢障人士使用電子產品提供便利；5G+算力網絡打造的比特書房，打通了讀者內容和文化場景之間的連接，比特分身可以在元宇宙里與書友互動，實現沉浸式交互式的閱讀體驗；基于數字文化技術打造的超時空博物館，可以讓人“穿越”到歷史之中……在這場AI浪潮中，一系列顛覆性改變正在發生，隨之而來的安全問題也在其中。
近日在京舉行的中國互聯網大會AI安全論壇上，北京市通信管理局黨組成員、副局長王暉表示，AI技術在賦能產業應用、提高生產效率和質量、降低成本和風險的同時，也帶來了一系列新的安全風險與挑戰，AI技術的開發和應用應堅持發展與安全并重、權利和義務并重、自主與協作并重。
廣泛賦能發展
AI技術在國際競爭和經濟增長中都發揮著重要的作用。我國高度重視AI技術發展，早在2017年，國務院就出臺了《新一代人工智能發展規劃》，明確將人工智能列入國家發展戰略，工信部、科技部等部委緊跟出臺文件落實。具體到技術創新、產業生態融合應用等方面，也取得了積極的進展。
例如，將AI技術應用到企業招聘中，可以快速分析候選人的綜合素質，大幅提升企業面試的效率及人才選拔的準確性；智慧養老AI守護產品“隱形護理員”，可以在老人出現在畫面中時，借助視頻AI算法捕捉人體關鍵點，進行人體姿態估計，通過對人體動作的識別、姿態和行為的分析，輔助判斷老人是否發生跌倒事件，一旦監測到跌倒或呼救等意外事件，會第一時間觸發告警，發送給家人或指定看護人員。
中國互聯網協會副理事長黃澄清表示，如今的互聯網發展已進入到一個“萬物皆可AI”的時代�！拔覈壳耙呀ǔ扇蛞幠Ｗ畲�、技術領先的網絡基礎設施，數據資源價值加快釋放，技術創新能力加速提升，核心技術不斷突破，安全保障能力大幅度提升，數字經濟蓬勃發展，數字社會服務更加普惠便捷，網絡惠民便民紅利充分釋放，數字治理服務效能顯著增強，網絡空間命運共同體的構建持續推進�！�
風險日益凸顯
AI明星成為短視頻平臺新一輪的流量密碼，不法分子利用AI技術，通過偽造人物聲音、AI換臉實施電信網絡詐騙。
此外，AI技術的應用還面臨諸多安全問題，例如數據泄露、虛假內容、侵害個人隱私、違規信息生成等。中國電信集團網絡和信息安全管理部總經理谷紅勛表示，隨著AI技術和大模型的廣泛應用，數據泄露等風險日益凸顯，過度采集信息、歧視性算法、濫用深度偽造等問題也需要引起重視。
“AI技術的發展和安全需要同等重視，否則人類將面臨巨大風險。”北京智源人工智能研究院院長、北京大學計算機學院教授黃鐵軍稱，簡單系統控制不了復雜系統，如果AI的智能水平超過了人類，人類要完全控制它是不可能的。“今年上半年以來，世界各國出臺了一系列關于AI的管控政策，AI的發展和風險管控需要同時進行，才能讓技術更好地為人類所用。”黃鐵軍表示。
APP侵權治理要應時而變
移動互聯網應用程序（APP）作為數字化、網絡化、智能化應用的重要載體，積極賦能賦值賦智千行百業，便利人民群眾的生產生活。根據全國APP技術檢測平臺統計，截至今年5月底，我國國內市場上監測到活躍的APP數量達到261萬款。
與APP深度融合人們日常生活并存的，還有APP違規收集使用用戶個人信息、欺騙誤導用戶點擊下載等侵害用戶權益的現象。APP終端場景多變復雜，用戶權益保護問題突出，例如互聯網電視開機廣告、切屏廣告、關機廣告等關不掉的問題；兒童智能手表獲取孩子的位置、人臉圖像、錄音等隱私信息，無需用戶授權獲得多種敏感權限的問題，都對用戶產生了困擾。
行業主管部門持續開展了APP治理工作，強化全流程、全鏈條治理，推動行業生態不斷改善。但與此同時，APP呈現形態多樣、業務場景豐富，各類新應用新業態新模式也不斷涌現，這都使得出現的問題和影響的對象處于動態變化之中，因此，APP治理工作仍面臨各種挑戰。
中國信息通信研究院技術與標準研究院副所長湯立波表示，隨著產業變化、個人信息保護監管工作持續推進，APP侵權行為逐漸從竊取大量與業務無關的個人信息等惡意違法違規行為，演變為打擦邊球、用戶不良感知等，主要表現在收集使用個人信息告知不清晰，使用個人信息必要性不足、范圍較大等。
今年以來，國家互聯網信息辦公室發布了《網絡信息內容生態治理規定》，工業和信息化部發布了《關于進一步提升移動互聯網應用服務能力的通知》，從規范安裝卸載、加強個人信息保護等方面，提出改善用戶服務感知的具體措施。這一系列措施的出臺，也讓APP治理有了更多的抓手。 |
您現在的位置： 
