圖源：攝圖網

9月7日，在2023 inclusion·外灘大會舉行的《探索下一代安全智能》論壇上，世界權威國際產業(yè)組織“云安全聯(lián)盟”（CSA）大中華區(qū)宣布成立“AI安全工作組”，中國電信、螞蟻集團、華為、百度、字節(jié)跳動、西安電子科技大學、國家金融測評中心等30余家機構成為首批發(fā)起單位。該組織致力于共同解決AI技術快速發(fā)展所帶來的安全難題。

(相關資料圖)

據CSA官網顯示，該工作組的主要職責是研究和編制與AI安全相關的技術安全威脅和風險、AI數據安全與隱私保護、AI技術助力安全應用、AI的倫理和AI合規(guī)等方面的材料。工作組將圍繞以 AI 安全為核心的各種 AI 技術威脅、風險、防護以及其他相關問題展開研究工作。

AI技術的應用給我們帶來了許多便利的同時，也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。

AI技術應用主要集中在政府城市治理和運營

2020年，中國人工智能市場主要客戶來自政府城市治理和運營(公安、交警、司法、城市運營、政務、交運管理、國土資源、監(jiān)所、環(huán)保等)，應用占比達到49%，互聯(lián)網與金融行業(yè)緊隨其后，占比分別為18%和12%。

企業(yè)和政府對人工智能的應用逐漸升溫

在決定企業(yè)產生經濟效益的各個環(huán)節(jié)，都已能夠看到人工智能的身影。前瞻產業(yè)研究院估算，目前中國大型企業(yè)基本都已在持續(xù)規(guī)劃投入實施人工智能項目，而全部規(guī)上企業(yè)中約有超過10%的企業(yè)已將人工智能與其主營業(yè)務結合，實現(xiàn)產業(yè)地位提高或經營效益優(yōu)化。

中國科學院自動化研究所曾毅認為重視和管控人工智能的安全風險不是阻礙人工智能的發(fā)展與應用，而是確保人工智能技術穩(wěn)健發(fā)展。曾毅表示人工智能應該適度發(fā)展、適度和謹慎使用，深度治理。對于那些沒有必要使用人工智能的場景，或者使用人工智能帶來的益處有限、卻有很大的不確定性與隱患，應當秉持能不用則不用的原則。

美國非營利研究機構“人工智能安全中心”董事丹·亨德里克斯認為與人類相比，AI系統(tǒng)具有更強的適應性，強大的能力可能導致AI系統(tǒng)在很多領域取代人類的工作，甚至直接參與到決策過程中來。所以AI開發(fā)者更需要保持謹慎和安全意識，不能嘗試淡化規(guī)模化的社會風險，為應對意外事件做好準備。有關機構和組織應該要考慮如何開展更加安全的AI系統(tǒng)研發(fā)，安全人員需要明確制定使AI系統(tǒng)更加安全的措施。

前瞻經濟學人APP資訊組

更多本行業(yè)研究分析詳見前瞻產業(yè)研究院《中國人工智能行業(yè)發(fā)展前景預測與投資戰(zhàn)略規(guī)劃分析報告》

同時前瞻產業(yè)研究院還提供產業(yè)大數據、產業(yè)研究報告、產業(yè)規(guī)劃、園區(qū)規(guī)劃、產業(yè)招商、產業(yè)圖譜、智慧招商系統(tǒng)、行業(yè)地位證明、IPO咨詢/募投可研、IPO工作底稿咨詢等解決方案。在招股說明書、公司年度報告等任何公開信息披露中引用本篇文章內容，需要獲取前瞻產業(yè)研究院的正規(guī)授權。

更多深度行業(yè)分析盡在【前瞻經濟學人APP】，還可以與500+經濟學家/資深行業(yè)研究員交流互動。

關鍵詞：