4月15日，由中共佛山市委網信辦攜手佛山市網信協會精心打造的“網安大講堂”品牌項目，在當天拉開2024年首講的序幕！

“每年4月15日為全民國家安全教育日。國家安全涵蓋政治、經濟、文化、社會、網絡等多個領域，關乎每個人的切實利益。”人工智能時代網絡安全對國家安全、經濟社會穩定運行及人民群眾利益的影響日益加深，維護網絡安全已成為維護國家安全的重要內容。中共佛山市委網信辦副主任黎祥英在會上表示在國家安全日舉辦網安大講堂對提升大家的網絡安全意識具有重要意義。

中共佛山市委網信辦副主任 黎祥英

本期課堂，中山大學副教授薛磊就“智能時代網絡安全威脅”為主題進行授課，吸引到各市直單位負責網絡信息安全的技術骨干，佛山市網絡安全專家講師團成員、佛山市紅客隊伍成員以及市民朋友在線上線下參與學習。

線下活動現場

近年來，隨著大數據、云計算、物聯網、區塊鏈、人工智能、5G通信等新興技術的快速發展與深度應用，人類社會邁入了名副其實的“數字時代”，設計、散播網絡安全漏洞的難度隨之降低，稍不留意就有可能“中招”。課上，薛磊主要分享了軟件供應鏈安全以及智能時代存在的主要網絡安全威脅類型，包括內容生成如ChatGPT、文心一言；深度合成如AI人臉偽造、AI語音偽造；新型釣魚攻擊等等。

01軟件供應鏈安全成患

針對開發人員的惡意軟件包出現

隨著數字化時代的到來，開源代碼占比不斷增加，由于開源代碼的開放性，它可以被輕松地集成到軟件供應鏈的各個環節中，為軟件的開發和分發提供了豐富的資源，與此同時，也帶來了一定的風險。

如今惡意開源代碼數量急速上升，導致軟件供應鏈攻擊迅速增長，從21年到22年，一年內就增長了742%。對此，完善的軟件供應鏈安全管理體系是非常重要的，包括對開源代碼進行安全審計、定期更新和修復已知漏洞、限制對開源代碼的修改權限等。

軟件供應鏈安全成患 /圖源薛磊課件

此外，薛磊特別提醒：“開發人員極易成為被針對性攻擊的目標”。

Rust惡意代碼是指使用Rust編程語言編寫的惡意軟件或攻擊代碼，是一款針對開發人員的惡意軟件包。Rust語言提供了高級的內存管理功能，使得惡意代碼可能更難被檢測和清除，并且可以遠程訪問和控制受害者的計算機，進行各種惡意活動。因此，提升開發人員的網絡安全意識，使用安全的開發工具和軟件，加強代碼管理，禁止分享代碼，是十分重要。

Rust惡意代碼的相關信息 / 圖源薛磊課件

02 Chat GPT信任度存疑

薛磊表示，近十幾年來，人工智能系統獲得愈來愈被廣泛的應用，據Gartner預測，到2025年，生成式人工智能將占所有生成數據的10%，而該比例在2021年不足1%，與此同時，智能系統在應用過程中也暴露出大量安全問題。

Chat GPT / 圖源百度

智能時代下的Chat GPT具有驚艷的語言理解、生成、知識推理能力，除了聊天，還能機器翻譯、文案撰寫、代碼編寫等，那么，Chat GPT就真的值得完全信任嗎？

答案是否定的。課上，薛磊指出，ChatGPT存在以下幾類問題：

• 可信性存疑，尤其在專業領域需注意：ChatGPT可以一本正經地胡說八道，語句雖然流暢，但與事實大相徑庭。這在法律、投資、醫療、教育、生化等高度專業的領域，容易誤導使用者并造成衍生危害。
• 隱私機密泄露風險：比如，韓國三星某員工將有bug的代碼復制到ChatGPT中尋找答案，導致機密泄露。
• 版權侵犯與學術失范：比如，北密歇根大學哲學教授 Antony Aumann 在為自己的評分時發現，全班第一的論文竟然是用 ChatGPT 寫的。

可信性無法保證 / 圖源薛磊課件

此外，薛磊提到，AI技術可以通過深度合成，給人物進行變聲、換臉處理，這帶來了許多安全風險。他舉例子分享：23年4月20日，市民郭先生的好友通過微信視頻與他取得聯系，聲稱自己正在外地參與一場重要的競標活動，急需430萬的保證金來完成這一關鍵任務，在轉賬過后，郭先生撥打好友電話，方才知道被騙。薛磊特別提醒：“智能時代，眼見耳聽不一定為實！”

該新聞截圖 / 圖源薛磊課件

03 網絡攻擊層出不窮

網絡防御應與時俱進

隨著互聯網的不斷發達，當今社會，網絡安全威脅不斷演變，新的攻擊手段層出不窮。為了抵御日益增多的網絡攻擊，網絡防御也與時俱進，這些抵御技術不僅能夠及時發現和響應攻擊，還能夠預防潛在的威脅，網絡安全技術走向智能化成為必然。

大模型技術應用到安全領域 / 圖源薛磊課件

網絡防御技術新發展如下：

• 基于AI的防御技術，可使用機器學習模型來識別和預測未知威脅，實現快速響應和自動化防御；
• 區塊鏈技術，利用區塊鏈的去中心化和不可篡改的特性提高數據的安全性和透明度。
• 零信任網絡，不再默認網絡內部是安全的，任何訪問請求都需要驗證，最小化訪問權限，以減少潛在的攻擊面。
• 量子計算，隨著量子計算的發展量子加密技術被視為能夠抵御量子計算攻擊的未來解決方案，提高通信的安全性。

最后，薛磊表示，“網絡安全與每一個人息息相關，若想減少網絡安全風險，還需靠我們每一個人的努力”

簡介網安大講堂

為強化網絡安全、數據安全保障體系建設，維護國家政權安全、制度安全、意識形態安全，中共佛山市委網信辦守正創新加強網上正面宣傳引導，攜手佛山市網信協會推出精心打造的品牌項目——“網安大講堂”。希望通過更加靈活、多樣的形式，探討當前網絡安全領域熱點和難點問題，為黨政機關、企事業單位的網絡安全建設出謀劃策，護航市委“515”高質量發展戰略目標，穩步推進網絡強省、數字佛山建設。

接下來，"網安大講堂"將圍繞隱私保護、防范實戰安全運維、網絡攻擊的危害與防范等方面陸續推出系列課程。