2023年，無論是股市的頭條新聞，還是全球巨頭、頂級(jí)峰會(huì)，以及各行各業(yè)IT部門中最熱門的話題，無疑都離不開人工智能。自ChatGPT問世以來，越來越多生成式AI工具被廣泛應(yīng)用，引發(fā)行業(yè)變革，帶來了強(qiáng)大的創(chuàng)造力和無限潛力。

在這樣的背景下，每個(gè)組織都希望自己能被稱為新技術(shù)的“推動(dòng)者”，提升自己在行業(yè)內(nèi)的口碑、影響和地位。但在發(fā)展的對(duì)立面上，生成式AI屢屢造成數(shù)據(jù)泄露事件，更是被多國(guó)“緊急剎車”，安全成為這一新技術(shù)應(yīng)用必須要面對(duì)的首要命題。

正值《數(shù)據(jù)安全法》施行兩周年之際，企業(yè)該如何應(yīng)對(duì)數(shù)據(jù)安全保護(hù)的嚴(yán)峻考驗(yàn)，如何讓生成式AI真正安全地成為企業(yè)發(fā)展的助推器？

8月31日，亞馬遜云科技re:Inforce 2023中國(guó)站正式開啟，以“AI時(shí)代 全面智能的安全”為主題，幫助企業(yè)解決生成式AI在全部流程環(huán)節(jié)中的安全挑戰(zhàn)。

安全是構(gòu)建生成式AI應(yīng)用之根本

亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)代聞表示：安全是構(gòu)建生成式AI應(yīng)用不可回避的重要議題。從全棧角度出發(fā)，應(yīng)該從數(shù)據(jù)、傳輸、應(yīng)用到基礎(chǔ)設(shè)施整體構(gòu)建出可靠的合規(guī)體系，這樣才能真正保障AI應(yīng)用的安全。

代聞

亞馬遜云科技大中華區(qū)解決方案架構(gòu)總監(jiān)

亞馬遜云科技一直嚴(yán)格遵從客戶擁有和控制數(shù)據(jù)的理念，提供了行業(yè)領(lǐng)先的技術(shù)和物理措施來防止未經(jīng)授權(quán)的訪問，為數(shù)據(jù)提供涵蓋存儲(chǔ)、傳輸、使用、治理等各個(gè)環(huán)節(jié)的加密及保護(hù)服務(wù)。

舉例而言，企業(yè)在訓(xùn)練AI模型過程中首先要訪問數(shù)據(jù)庫，現(xiàn)代企業(yè)的業(yè)務(wù)數(shù)據(jù)是創(chuàng)新的基礎(chǔ)，也是“命脈”，一旦數(shù)據(jù)泄露就將帶來不可逆的惡劣影響。同時(shí)，在數(shù)據(jù)傳輸、使用、治理、訪問等各個(gè)環(huán)節(jié)，也會(huì)面臨泄露風(fēng)險(xiǎn)。

因此，安全是構(gòu)建生成式AI應(yīng)用不可回避的議題！

針對(duì)生成式AI，亞馬遜云科技將安全防護(hù)劃分為三個(gè)階段，分別為：數(shù)據(jù)和模型安全、應(yīng)用安全和全球合規(guī)，并基于此提供了更為系統(tǒng)化的安全防護(hù)工具。

數(shù)據(jù)安全，從存儲(chǔ)和傳輸開始

在數(shù)據(jù)保護(hù)方面，亞馬遜云科技重點(diǎn)推薦的第一項(xiàng)服務(wù)就是Amazon KMS。其全稱為Amazon Key Management Service，是一項(xiàng)通過硬件安全模塊來保護(hù)用戶密鑰的云端安全服務(wù)。借助AmazonKMS，用戶可以創(chuàng)建和管理加密密鑰，并控制相關(guān)權(quán)限。這些密鑰可用于跨各種亞馬遜云科技服務(wù)和用戶應(yīng)用程序訪問加密數(shù)據(jù)。

同樣地，數(shù)據(jù)傳輸也是安全防護(hù)的重要階段，此環(huán)節(jié)可通過Amazon Nitro來構(gòu)建獨(dú)立的安全傳輸通道。Amazon Nitro是一種虛擬化基礎(chǔ)設(shè)施，AmazonNitro安全芯片可用于加密和驗(yàn)證虛擬機(jī)的訪問，并可檢測(cè)未經(jīng)授權(quán)的硬件修改和惡意軟件的植入。依托于虛擬化技術(shù)，AmazonNitro系統(tǒng)還能夠提供更好的網(wǎng)絡(luò)和存儲(chǔ)性能。

有了安全的存儲(chǔ)和傳輸，針對(duì)計(jì)算環(huán)節(jié)亞馬遜云科技則有AmazonNitro Enclaves計(jì)算加密。它可將計(jì)算實(shí)例進(jìn)行隔離，并控制應(yīng)用互訪vCPU和內(nèi)存，可幫助用戶減少用于處理最敏感數(shù)據(jù)的應(yīng)用程序的攻擊面，從而保護(hù)計(jì)算安全。

涂鴉信息技術(shù)有限公司安全總監(jiān)劉龍威表示：涂鴉智能是一家全球化的物聯(lián)網(wǎng)解決方案商，以亞馬遜云科技AmazonNitro為安全的云基礎(chǔ)，通過硬件隔離的方式保障了整個(gè)用戶數(shù)據(jù)體系的可信。與AmazonKMS聯(lián)動(dòng)實(shí)現(xiàn)了更高基本的安全管理，從而服務(wù)于78萬的開發(fā)者及海量的IoT設(shè)備，并使其牢不可破。

在re:Inforce 2023大會(huì)上，亞馬遜云科技與涂鴉智能成立“聯(lián)合安全實(shí)驗(yàn)室”，雙方將在智能家居、數(shù)據(jù)安全、安全文化建設(shè)、海外合規(guī)等領(lǐng)域，重點(diǎn)就機(jī)密計(jì)算及數(shù)據(jù)隱私、Matter技術(shù)合作及體系建設(shè)、生成式AI在IoT領(lǐng)域等安全實(shí)踐展開聯(lián)合共創(chuàng)。

此外，亞馬遜云科技中國(guó)方案開發(fā)中心還正式發(fā)布了敏感數(shù)據(jù)保護(hù)解決方案，可實(shí)現(xiàn)自動(dòng)發(fā)現(xiàn)企業(yè)敏感數(shù)據(jù)，并在統(tǒng)一平臺(tái)管理數(shù)據(jù)資產(chǎn)。例如在AmazonS3存儲(chǔ)中，允許用戶創(chuàng)建數(shù)據(jù)目錄、使用內(nèi)置或定制數(shù)據(jù)識(shí)別規(guī)則定義敏感數(shù)據(jù)類型，以機(jī)器學(xué)習(xí)方式來匹配并識(shí)別敏感信息，并做出警告。以可視化方式進(jìn)行管理，進(jìn)而幫助用戶實(shí)現(xiàn)對(duì)敏感數(shù)據(jù)的管理與保護(hù)。目前該解決方案已經(jīng)可以提供下載。

訓(xùn)練安全，AmazonSageMaker

的模型三劍客

數(shù)據(jù)在存儲(chǔ)、傳輸及計(jì)算環(huán)節(jié)的安全得到了保障，接下來需要關(guān)注的自然就是模型的構(gòu)建環(huán)節(jié)了。

代聞表示：Amazon IAM API每秒調(diào)用次數(shù)超過10億，其為大模型的構(gòu)建提供了強(qiáng)大的源動(dòng)力。Amazon SageMaker正在為設(shè)置、授權(quán)、驗(yàn)證、調(diào)優(yōu)等環(huán)節(jié)提供針對(duì)模型的訪問策略，并通過AmazonModel Cards、AmazonModel Monitor及AmazonModel Registry等工具全方位地監(jiān)控模型的運(yùn)行。

在AI大模型的初始爆發(fā)期，很多企業(yè)的模型訓(xùn)練環(huán)節(jié)都處于“裸奔”狀態(tài)，即原始數(shù)據(jù)與模型未加防護(hù)，此時(shí)的數(shù)據(jù)泄露風(fēng)險(xiǎn)也是最高。

針對(duì)這些痛點(diǎn)，模型三劍客之一的Amazon SageMaker Model Cards問世了，它是一套文檔化機(jī)器學(xué)習(xí)模型的規(guī)范格式工具，可實(shí)現(xiàn)對(duì)模型信息的統(tǒng)一管理，包括模型的描述、功能、性能等信息。通過使用AmazonModel Cards，用戶可以更好地了解和評(píng)估機(jī)器學(xué)習(xí)模型，以選擇最適合其需求的模型，并為下一步監(jiān)測(cè)與管理做好準(zhǔn)備。

Amazon SageMaker Model Monitor提供的就是自動(dòng)化監(jiān)控與檢測(cè)服務(wù)，可以幫助用戶在生產(chǎn)環(huán)境中監(jiān)控模型的性能、數(shù)據(jù)質(zhì)量和數(shù)據(jù)偏差，以確保模型的準(zhǔn)確性和穩(wěn)定性。

功能方面AmazonModel Monitor提供了數(shù)據(jù)捕獲、數(shù)據(jù)分析、數(shù)據(jù)報(bào)告和數(shù)據(jù)警報(bào)，可生成詳細(xì)的報(bào)告和警報(bào)通知用戶，有利于促進(jìn)模型的持續(xù)改進(jìn)和優(yōu)化。

AmazonModel Registry則是Amazon SageMaker提供的一個(gè)功能強(qiáng)大的工具，用于管理和跟蹤機(jī)器學(xué)習(xí)模型的版本和元數(shù)據(jù)。它提供了版本控制、回滾、元數(shù)據(jù)管理和集成功能，使用戶能夠更好地管理和部署模型。

在Amazon SageMaker這三套工具的幫助下，能夠讓用戶實(shí)現(xiàn)模型管理自動(dòng)化，極大提升了工作效率。

大模型之潮已經(jīng)勢(shì)不可擋，如果企業(yè)級(jí)用戶自身技術(shù)能力較弱，是否可以嘗試構(gòu)建大模型呢？

別急，這就安排！

就在今年4月，亞馬遜云科技發(fā)布了完全托管的基礎(chǔ)模型服務(wù)Amazon Bedrock，可讓用戶根據(jù)需求通過API訪問及使用其中的基礎(chǔ)模型。Amazon Bedrock可使用用戶自己的數(shù)據(jù)私下自定義FM，并使用相關(guān)工具和功能將它們無縫集成和部署到應(yīng)用程序中，無需管理任何基礎(chǔ)設(shè)施。

舉例而言，用戶希望在零基礎(chǔ)的情況下構(gòu)建一套文本生成大模型，那么就可以通過簡(jiǎn)單的操作在亞馬遜云端自定義出模型需求，并通過各種模型工具將其集成并部署到應(yīng)用之中，就像拼裝樂高一樣簡(jiǎn)單，極大降低了模型構(gòu)建的門檻。

開發(fā)安全，利用AI取長(zhǎng)補(bǔ)短

度過了激動(dòng)人心的模型構(gòu)建環(huán)節(jié)，接下來是開發(fā)。很多企業(yè)級(jí)用戶對(duì)開發(fā)戲稱是：人多手雜，容易出錯(cuò)，同時(shí)還經(jīng)常出現(xiàn)安全性問題。

針對(duì)這些痛點(diǎn)，亞馬遜云科技展示了兩套自動(dòng)化工具服務(wù)，能夠幫助用戶排憂解難。

Amazon CodeWhisperer 可以看作是AI編程助手，經(jīng)過數(shù)十億行代碼的訓(xùn)練，可以根據(jù)用戶需求和現(xiàn)有代碼實(shí)時(shí)生成從代碼片段到全函數(shù)的代碼建議。AmazonCodeWhisperer支持主流編程語言和IDE，還可以為用戶提供有關(guān) API 安全性、性能和最佳實(shí)踐的建議。

融合機(jī)器學(xué)習(xí)和自動(dòng)化分析就有了Amazon CodeGuru Security，它是一套強(qiáng)大的代碼漏洞掃描工具，可提供漏洞修補(bǔ)建議，并解決檢測(cè)配置錯(cuò)誤、權(quán)限問題和敏感數(shù)據(jù)的泄露等安全問題。有效提升代碼的安全性和可靠性。

運(yùn)行安全，來自云端的保障

當(dāng)生成式AI大模型經(jīng)歷開發(fā)后就迎來上線運(yùn)行，而在該階段的安全防護(hù)也不能掉以輕心。因?yàn)樵趯?shí)際操作過程中，有很多安全事件都出在運(yùn)行環(huán)節(jié)。此時(shí)，應(yīng)用程序需要保護(hù)模型本身、數(shù)據(jù)及用戶隱私等來自多方面的安全，而最有效的方式就是：驗(yàn)證。

Amazon Verified Permissions是亞馬遜云科技向開發(fā)者提供的一種驗(yàn)證用戶訪問權(quán)限的機(jī)制。通過該服務(wù)，開發(fā)者可以確保用戶只能訪問其應(yīng)用程序需要的有效權(quán)限，以保護(hù)用戶的隱私和數(shù)據(jù)安全。

當(dāng)用戶向應(yīng)用程序授權(quán)時(shí)，亞馬遜會(huì)驗(yàn)證并返回一個(gè)訪問令牌，該令牌包含用戶已授權(quán)的權(quán)限。開發(fā)者可以使用這個(gè)令牌來驗(yàn)證用戶的權(quán)限，并根據(jù)需要執(zhí)行相應(yīng)的操作。

通過令牌式驗(yàn)證，開發(fā)者可以確保用戶數(shù)據(jù)的安全性，并且遵守隱私法規(guī)和規(guī)定。同時(shí)也通過訪問權(quán)限控制來保障應(yīng)用程序的數(shù)據(jù)安全。

構(gòu)建全球化安全合規(guī)

在全球安全合規(guī)方面，亞馬遜云科技的全球化基礎(chǔ)設(shè)施包括超過200大類廣泛而深入的云服務(wù)和解決方案，包括覆蓋全球的安全合規(guī)、高速穩(wěn)定的云基礎(chǔ)設(shè)施，以及來自亞馬遜的全球資源和創(chuàng)新文化。

據(jù)了解，亞馬遜云科技現(xiàn)已在全球獲得超過140個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證。并進(jìn)一步通過在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用 AI 技術(shù)，大幅提升了自身的合規(guī)效率，將審計(jì)時(shí)間節(jié)約了53%。

此外，亞馬遜云科技還通過零信任架構(gòu)，來幫助用戶增強(qiáng)安全性、靈活性、擴(kuò)展性并有效降低來自安全方面的成本，幫助企業(yè)構(gòu)建更安全、高效和可靠的云安全體系。

科技發(fā)展伴隨著國(guó)際競(jìng)爭(zhēng)，生成式AI作為這一階段的重要衍生品，其探索和應(yīng)用必然會(huì)成為企業(yè)組織不可回避的問題，無法參與或參與不進(jìn)來的就將面臨逐漸被淘汰的風(fēng)險(xiǎn)。

近日，由國(guó)家互聯(lián)網(wǎng)信息辦公室等七部門聯(lián)合發(fā)布的《生成式人工智能服務(wù)管理暫行辦法》正式施行。作為我國(guó)首個(gè)針對(duì)生成式AI產(chǎn)業(yè)的規(guī)范性政策，這也就意味著生成式AI的發(fā)展，離不開網(wǎng)絡(luò)安全的保障。沒有安全的地基，就一定沒有雄偉的建筑，一切發(fā)展就只會(huì)是徒勞。

正如代聞所說：我們從第一天開始，就應(yīng)該把安全當(dāng)做第一最高優(yōu)先級(jí)。而亞馬遜云科技以企業(yè)實(shí)際問題出發(fā)，深入AI應(yīng)用的每一個(gè)環(huán)節(jié)，推出多項(xiàng)面向生成式AI全流程的安全服務(wù)，就是為了攜同合作伙伴，共同構(gòu)建起面向AI的未來安全，助力我國(guó)AI產(chǎn)業(yè)的蓬勃發(fā)展。