AI深度偽造欺詐激增30倍 AI安全行業(yè)的發(fā)展?jié)摿θ绾?

• 陳觀秋 2024年3月1日 來源：北京商報 中新網(wǎng) 百度 355 16
• 繁體

奇安信集團對外發(fā)布《2024人工智能安全報告》顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%?！秷蟾妗氛J為，在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/p>

人臉識別、語音識別、智能算法推送……當前，人工智能(AI)技術加速融入社會生活，2023年年初，ChatGPT更是以其豐富的知識與出色的自然語言交互能力，引起了現(xiàn)象級的關注。

工信部數(shù)據(jù)顯示，2023年1-10月，國內人工智能產業(yè)發(fā)展勢頭向好，核心產業(yè)規(guī)模達到5,000億元。從企業(yè)數(shù)量上看，截至2024年1月，國內人工智能相關企業(yè)為157.18萬家。2021年-2023年，國內人工智能企業(yè)數(shù)量分別增加36.36萬家、42.71萬家、52.92萬家，同比增長87.11%、17.47%、23.91%。

其中，以大模型為代表的生成式AI正加速與各行各業(yè)深度融合，關聯(lián)產業(yè)規(guī)模已突破10萬億，催生出規(guī)模可觀的數(shù)字經濟新業(yè)態(tài)、新場景和新模式。其中，尤以智能制造、能源、金融、醫(yī)療、教育等領域的人工智能商業(yè)化應用最為活躍。

伴隨著智能產業(yè)的蓬勃發(fā)展，各式各樣的海量數(shù)據(jù)也在人們的生活中被大量收集、存儲和利用。數(shù)據(jù)安全和隱私保護問題由此成為人工智能系統(tǒng)在開發(fā)和應用中面臨的嚴峻挑戰(zhàn)。

隨著人工智能發(fā)展加速，由此引發(fā)的問題逐漸擺上臺面。

奇安信發(fā)布《2024人工智能安全報告》：AI深度偽造欺詐激增30倍

奇安信集團對外發(fā)布《2024人工智能安全報告》。其中顯示，2023年基于AI的深度偽造欺詐暴增了3000%，基于AI的釣魚郵件增長了1000%;已有多個有國家背景的APT組織利用AI實施了十余起網(wǎng)絡攻擊事件。奇安信預計，未來十年，人工智能技術的惡意使用將快速增長，將在政治安全、網(wǎng)絡安全、物理安全和軍事安全等方面構成嚴重威脅。

近年來，隨著數(shù)字化智能化的深入，新的技術不斷衍生出新的安全風險，數(shù)字安全風險進入了快迭代、高智能、全覆蓋的新階段。尤其是2022年末AI大模型橫空出世，AI安全風險陡增迅速成為全球業(yè)界的一致共識，AI安全成為主流的安全關切，并逐漸形成了一個新的安全技術研究領域。

AI技術的應用給我們帶來了許多便利，但同時也引來了一系列的安全隱患。AI安全工作組的成立加強對AI技術安全的研究和防護，保障人們在使用AI技術時的安全和隱私。

上述《報告》認為，AI技術將會推動安全領域發(fā)生范式變革，全行業(yè)需啟動人工智能網(wǎng)絡防御推進計劃。在人工智能帶來巨大想象空間的同時，安全問題值得進一步關注，看好大模型及AI安全行業(yè)的發(fā)展?jié)摿Α?/strong>

AI安全行業(yè)政策環(huán)境

2023年6月，歐洲議會通過了《AI法案》授權草案，草案內容包括用于監(jiān)督人工智能基礎模型的分級管理辦法。

2023年10月，由中國全國信息安全標準化技術委員會組織，面向社會公開征求《生成式人工智能服務安全基本要求》意見。同月，日本首相岸田文雄在日本京都發(fā)表演講，公布面向生成式人工智能的監(jiān)管計劃。

2023年11月，英國全球第一屆人工智能安全峰會在英國召開，與會各國討論了當下全球人工智能治理的問題。中國科技部副部長吳朝暉率團參會并在峰會開幕式上發(fā)表講話，并在會后聯(lián)合發(fā)布《宣言》，該《宣言》成為“第一份關于有必要監(jiān)管AI發(fā)展的全球聲明”。

斯坦福大學發(fā)布的《2023年人工智能指數(shù)報告》中提到，對127個國家的立法記錄調研的結果顯示，包含“人工智能”的法案被通過成為法律的數(shù)量，從2016年的僅1個增長到2022年的37個。該報告對自2016年以來81個國家的人工智能法律法規(guī)記錄的分析也同樣表明，全球立法程序中提及人工智能的次數(shù)增加了近6.5倍。

據(jù)中研產業(yè)研究院《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》分析：

事實上，為了應對AI安全風險，我國從業(yè)機構已經開始探索安全科技以加強AI技術的潛在風險研判和防范。例如，2023年9月，螞蟻集團推出了“蟻天鑒”大模型安全一體化方案，其中包括大模型安全檢測平臺“蟻鑒2.0”和大模型風險防御平臺“天鑒”，為大規(guī)模AI模型的安全保障帶來了全新的突破。

工信部日前在其官方網(wǎng)站上發(fā)布了關于2023年第四季度電信服務質量的通告。其中提出，發(fā)布國內首個個人信息保護AI大模型“智御”助手，為APP開發(fā)運營、檢測防護、政策解讀等提供智能化服務。著力整治“搖一搖”亂跳轉等突出問題，公開通報81款違規(guī)APP和SDK，持續(xù)凈化移動互聯(lián)網(wǎng)服務環(huán)境。

查詢獲悉，“智御”人工智能大模型由中國信息通信研究院研發(fā)，面向移動互聯(lián)網(wǎng)應用開發(fā)者、分發(fā)平臺、終端廠商、檢測機構等行業(yè)上下游主體，提供多模態(tài)、多樣化的合規(guī)咨詢、風險檢測、代碼生成、操作指引等服務，構建 AI 賦能個人信息保護新范式。

報告對中國AI安全行業(yè)的內外部環(huán)境、行業(yè)發(fā)展現(xiàn)狀、產業(yè)鏈發(fā)展狀況、市場供需、競爭格局、標桿企業(yè)、發(fā)展趨勢、機會風險、發(fā)展策略與投資建議等進行了分析，并重點分析了我國AI安全行業(yè)將面臨的機遇與挑戰(zhàn)。

想要了解更多AI安全行業(yè)詳情分析，可以點擊查看中研普華研究報告《2024-2029年中國AI安全行業(yè)市場全景調研與發(fā)展前景預測報告》。