9月10日，正值網絡安全宣傳周，由中共佛山市委網信辦主辦、市網信協會承辦的網絡安全品牌項目“網安大講堂”以“生成式人工智能的應用與安全”為主題，面向全社會普及生成式人工智能的最新進展、應用場景，同時提醒大家關注其潛在的安全風險，培養公眾在網絡空間中的安全意識，共同為構建安全、健康、可持續發展的網絡環境貢獻力量。

授課現場

本期網安大講堂邀請了暨南大學網絡空間安全學院教授、網絡與教育技術中心副主任黃斐然進行主講，他從人工智能的發展、生成式人工智能的發展、應用、使用以及安全風險等方面進行分享，吸引了全市黨政機關、事業單位、國有企業、民營企業代表及市民超3000人進行線上線下觀看。

暨南大學網絡空間安全學院教授、網絡與教育技術中心副主任黃斐然

人工智能，加速推動新質生產力

人工智能是模擬、延伸和擴展人的智能的理論、方法、技術及應用系統的一門新的技術科學。其研究領域包括計算機視覺、自然語言處理、強化學習、機器學習、機器人技術、生成式人工智能等等。

黃斐然指出，目前人工智能發展正處在第四個階段，即試圖模擬人類的思維過程，解決不熟悉的問題，甚至生產創造性的想法。未來將向人工智能奇點發展，不斷探索宇宙和生命的新奧秘。

圖源黃斐然課件

今年，《政府工作報告》首次提出“人工智能+”行動，提出“深化大數據、人工智能等研發應用，開展 ‘人工智能+’行動，打造具有國際競爭力的數字產業集群”。意味著我國正加強頂層設計，加快形成以人工智能為引擎的新質生產力。

為響應國家要求，佛山市委網信辦積極舉辦人工智能主題培訓活動、開展人工智能訓練師比賽以及推動傳統產業智能化升級等多項舉措，為實現國家“人工智能+”行動戰略貢獻佛山力量。

生成式人工智能，引領飛躍式發展

生成式人工智能（Generative AI）是指基于大模型等人工智能的技術方法，通過已有數據的學習和識別，生成具有一定創意和質量的文章、圖像、視頻、音頻等內容。其便捷的使用方式、多樣的應用場景和高質量的生成內容，為內容創作、醫療診斷、工業設計等多個領域帶來高效的解決方案。

中央網信辦主任莊榮文近日表示，截至目前，我國完成備案并上線、能為公眾提供服務的生成式人工智能服務大模型已達190多個，注冊用戶超過6億。

圖源黃斐然課件

講堂上，黃斐然逐一分析了國內外自然語言、圖像生成、視頻生成等大模型的技術與發展、能力測評情況和榜單，讓大家對生成式人工智能的發展現狀、應用情況和未來趨勢有了更加清晰的認識。

據介紹，生成式人工智能主要有WEB端\APP使用、API調用、私有第三方部署使用、開源模型部署使用幾種方式。黃斐然提醒，在使用生成式人工智能時，需要通過清晰地定義任務目標、提供具體的示例、設定明確的角色等合理的提示語，生成更加符合需求的內容。

圖源黃斐然課件

生成式人工智能，伴隨安全風險挑戰

隨著生成式人工智能的廣泛應用，其伴隨的安全風險挑戰也不容忽視。黃斐然從國家宏觀層面指出目前生成式人工智能存在濫用風險、AI競賽風險、組織風險、失控AI風險四大方面的風險挑戰。生成式人工智能不僅可能被用于制造虛假新聞、進行欺詐等不法行為，還可能被用于設計生化武器，從而對全球安全和穩定構成威脅。

習近平總書記指出，要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。

當前，國際上的前沿大模型實驗室正探索治理實踐，中國成為全球范圍內首個落地生成式AI監管的主要國家。2023年8月，國家網信辦會同相關部門發布《生成式人工智能服務管理暫行辦法》，以鼓勵創新發展為基調，以個人合法權益、公共利益、國家安全為底線，在原則理念和規制范圍上統籌發展與安全，為AI治理和立法做出了有益探索。

本期的詳細分享內容可以關注“佛山市網信協會”視頻號-“直播回放”找到相應的主題進行觀看。

網安大講堂

為強化網絡安全、數據安全保障體系建設，維護國家政權安全、制度安全、意識形態安全，中共佛山市委網信辦守正創新加強網上正面宣傳引導，攜手佛山市網信協會推出精心打造的品牌項目——“網安大講堂”。希望通過更加靈活、多樣的形式，探討當前網絡安全領域熱點和難點問題，為黨政機關、企事業單位的網絡安全建設出謀劃策，護航市委“515”高質量發展戰略目標，穩步推進網絡強省、數字佛山建設。

接下來，"網安大講堂"將圍繞隱私保護、防范實戰安全運維、網絡攻擊的危害與防范等方面陸續推出系列課程。