2024年AI安全行業發展現狀及政策環境分析

• 陳觀秋 2024年5月7日 來源：經濟日報 北京商報 中新網 百度 921 57
• 繁體

人工智能在創造前所未有機遇的同時，也伴隨著超越以往范疇的風險，對監管提出了嚴峻考驗。報告顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網絡攻擊事件。

作為先進技術的標桿，人工智能領域的任何風吹草動都可能引發全球關注。從ChatGPT橫空出世到Sora刷新認知，只用了1年多的時間。在此期間，國內的“百模大戰”打得如火如荼，一批通過備案的大模型已經向各行業及社會公眾開放。全球范圍內，人工智能的競爭日趨激烈。

咨詢機構麥肯錫預計，以AIGC為代表的AI技術將給全球經濟帶來超過7.9萬億美元價值，到2030年之前，如果生成式AI應用于各行業，每年總經濟效益高達6.1萬億美元至7.9萬億美元。

人工智能在創造前所未有機遇的同時，也伴隨著超越以往范疇的風險，對監管提出了嚴峻考驗。

AI安全行業發展現狀及政策環境分析

奇安信集團對外發布《2024人工智能安全報告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網絡攻擊事件。奇安信預計，未來十年，人工智能技術的惡意使用將快速增長，將在政治安全、網絡安全、物理安全和軍事安全等方面構成嚴重威脅。

我們的報告《2024-2029年中國AI安全行業市場全景調研與發展前景預測報告》包含大量的數據、深入分析、專業方法和價值洞察，可以幫助您更好地了解行業的趨勢、風險和機遇。在未來的競爭中擁有正確的洞察力，就有可能在適當的時間和地點獲得領先優勢。

近年來，隨著數字化智能化的深入，新的技術不斷衍生出新的安全風險，數字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域。

AI技術的應用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。

上述《報告》認為，AI技術將會推動安全領域發生范式變革，全行業需啟動人工智能網絡防御推進計劃。在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好大模型及AI安全行業的發展潛力。

2023年6月，歐洲議會通過了《AI法案》授權草案，草案內容包括用于監督人工智能基礎模型的分級管理辦法。

據中研產業研究院《2024-2029年中國AI安全行業市場全景調研與發展前景預測報告》分析：

2023年10月，由中國全國信息安全標準化技術委員會組織，面向社會公開征求《生成式人工智能服務安全基本要求》意見。同月，日本首相岸田文雄在日本京都發表演講，公布面向生成式人工智能的監管計劃。

2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發表講話，并在會后聯合發布《宣言》，該《宣言》成為“第一份關于有必要監管AI發展的全球聲明”。

人工智能的安全與治理問題，關乎產業發展方向與速度，關乎供給雙方權利與義務，更關乎國際競爭中的優勢與主動。

人工智能領域的專門法也在逐步推進中。今年，在十四屆全國人大二次會議新聞發布會上，大會發言人婁勤儉表示，下一步將研究推進科技創新方面的立法，特別是深入研究人工智能、生物技術等前沿科技領域有關倫理、道德、安全等重要問題，不斷完善科技法律體系。

報告對中國AI安全行業的內外部環境、行業發展現狀、產業鏈發展狀況、市場供需、競爭格局、標桿企業、發展趨勢、機會風險、發展策略與投資建議等進行了分析，并重點分析了我國AI安全行業將面臨的機遇與挑戰。

想要了解更多AI安全行業詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業市場全景調研與發展前景預測報告》。

• 相關深度報告REPORTS

  

  2024-2029年中國AI安全行業市場全景調研與發展前景預測報告

  隨著AI安全行業競爭的不斷加劇，大型企業間并購整合與資本運作日趨頻繁，國內外優秀的AI安全企業愈來愈重視對行業市場的分析研究，特別是對當前市場環境和客戶需求趨勢變化的深入研究，以期提前...

  查看詳情

延伸閱讀

推薦閱讀

猜您喜歡