命運(yùn)的齒輪一直在轉(zhuǎn)動(dòng)。五年前，當(dāng)亞馬遜科技在企業(yè)里面開始推廣人工智能和機(jī)器學(xué)習(xí)，技術(shù)部門一直在思考怎么樣拿機(jī)器學(xué)習(xí)和人工智能技術(shù)來(lái)賦能業(yè)務(wù)。誰(shuí)也沒(méi)有想到，生成式AI在不到一年就點(diǎn)燃了整個(gè)行業(yè)熱情。人工智能在各行各業(yè)遍地開花。

在2023 re:Inforce 中國(guó)站活動(dòng)上，亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞非常感慨。作為十年間云計(jì)算、大數(shù)據(jù)、人工智能、機(jī)器學(xué)習(xí)、生成式AI等技術(shù)的經(jīng)歷者，代聞表示，云計(jì)算大大地助力了大量激增的數(shù)據(jù)和大規(guī)?？捎玫挠?jì)算資源的實(shí)現(xiàn)，以此一直推動(dòng)人工智能技術(shù)不斷地創(chuàng)新，直到現(xiàn)在。在過(guò)去不到一年的時(shí)間里，生成式AI應(yīng)用場(chǎng)景井噴，這預(yù)示著一個(gè)新的轉(zhuǎn)折點(diǎn)，一個(gè)新的技術(shù)時(shí)代。

亞馬遜云科技大中華區(qū)解決方案架構(gòu)部總監(jiān)代聞

如何迎接這一新時(shí)代，企業(yè)應(yīng)該如何安全駕馭這一新技術(shù)？代聞帶來(lái)了亞馬遜云科技的深度思考。

數(shù)據(jù)和模型安全是構(gòu)建AI應(yīng)用的關(guān)鍵

生成式AI的井噴對(duì)一個(gè)企業(yè)的數(shù)據(jù)平臺(tái)有了更高的要求。要訓(xùn)練構(gòu)建一個(gè)生成式AI的模型，需要大量的非結(jié)構(gòu)化數(shù)據(jù)。如果一個(gè)企業(yè)直接去應(yīng)用一個(gè)做好的模型進(jìn)行微調(diào)，這時(shí)候又需要有高質(zhì)量的專業(yè)化的數(shù)據(jù)來(lái)微調(diào)這個(gè)模型。這兩個(gè)方面的要求目前對(duì)于大多數(shù)企業(yè)的數(shù)據(jù)平臺(tái)都是提出了更高的要求。

面對(duì)數(shù)據(jù)安全，亞馬遜云科技有自己的獨(dú)到的解決方案。

亞馬遜云科技提供了貫穿生成式AI全周期的數(shù)據(jù)治理，從數(shù)據(jù)源的獲取到數(shù)據(jù)的存儲(chǔ)和查詢，再到將數(shù)據(jù)傳輸給 AI平臺(tái)進(jìn)行模型的訓(xùn)練、調(diào)優(yōu)和推理，以及全面實(shí)施數(shù)據(jù)分類和治理。亞馬遜云科技提供了一整套的解決方案、產(chǎn)品服務(wù)和最佳實(shí)踐，幫助企業(yè)加速落地端到端的云原生數(shù)據(jù)戰(zhàn)略，給生成式AI 提供高質(zhì)量的數(shù)據(jù)支持。

保護(hù)存儲(chǔ)中的數(shù)據(jù)。亞馬遜云科技通過(guò)實(shí)施安全密鑰管理、靜態(tài)數(shù)據(jù)加密、強(qiáng)制實(shí)施訪問(wèn)控制、利用機(jī)制限制數(shù)據(jù)訪問(wèn)，保護(hù)存儲(chǔ)中的數(shù)據(jù)。高質(zhì)量數(shù)據(jù)是構(gòu)建生成式AI能力的關(guān)鍵。

保護(hù)傳輸中的數(shù)據(jù)。亞馬遜云科技從實(shí)施安全密鑰和證書管理、執(zhí)行傳輸中加密、自動(dòng)檢測(cè)意外數(shù)據(jù)訪問(wèn)、對(duì)網(wǎng)絡(luò)通信進(jìn)行身份驗(yàn)證四個(gè)方面對(duì)傳輸中的數(shù)據(jù)進(jìn)行保護(hù)。多層次保護(hù)傳輸中的數(shù)據(jù)。

保護(hù)使用中的數(shù)據(jù)。從身份認(rèn)證、隔離環(huán)境、多方協(xié)作以及數(shù)據(jù)共享四個(gè)方面，進(jìn)行使用中的數(shù)據(jù)保護(hù)。

回到模型安全，在代聞看來(lái)，模型的訪問(wèn)策略不是靜態(tài)的，不是一次性的，而是一個(gè)需要通過(guò)設(shè)置驗(yàn)證調(diào)優(yōu)不斷迭代的過(guò)程，這樣的話才能保證訪問(wèn)控制的策略是與時(shí)俱進(jìn)的，是起作用的。

模型訓(xùn)練后進(jìn)入生產(chǎn)環(huán)境的安全防護(hù)同樣重要。針對(duì)大模型，幾個(gè)月前，亞馬遜云科技宣布推出Amazon Bedrock和多種生成式AI服務(wù)和功能，以幫助客戶構(gòu)建和擴(kuò)展自己的生成式AI應(yīng)用程序。Amazon Bedrock提供了廣泛的基礎(chǔ)模型因此客戶可以選擇最能滿足需求的模型。

首先，Amazon Bedrock后面接入了基礎(chǔ)模型，它提供了一個(gè)API可以使用大模型加速生成式AI的應(yīng)用程序和開發(fā)，無(wú)須管理底層的基礎(chǔ)設(shè)施。

第二，Amazon Bedrock會(huì)負(fù)責(zé)任地選取一些合作伙伴，例如AI21Labs、Anthropic、Stability AI，以及自己的基礎(chǔ)模型，另外我們最新推出的合作伙伴名單里也增加了Cohere，便于客戶最快速地找到最合適的、能力最強(qiáng)的基礎(chǔ)模型。

第三，使用組織內(nèi)部的數(shù)據(jù)來(lái)訓(xùn)練大模型，同時(shí)又保證：首先，背后給大模型做了私有拷貝，這個(gè)拷貝只是給客戶服務(wù)，不會(huì)再跟其他任何的大模型共享。二是訓(xùn)練數(shù)據(jù)只是在客戶賬戶里來(lái)幫助工作，Amazon Bedrock不會(huì)拿任何用戶的數(shù)據(jù)來(lái)增進(jìn)自己的模型。這兩點(diǎn)非常關(guān)鍵，這也是很多企業(yè)在采用大模型的時(shí)候?qū)τ跀?shù)據(jù)主權(quán)、數(shù)據(jù)保護(hù)方面有擔(dān)心的一個(gè)很重要的點(diǎn)，Amazon Bedrock給了一個(gè)非常完善的答案。

再次，它能全面地使用亞馬遜云科技提供的安全功能，Amazon KMS、Amazon IAM等可以完善地跟Amazon Bedrock集成，集成以后可以很好地管理加密、權(quán)限控制和所有行為的日志。

提供自己的大模型Amazon Titan給大家使用。Amazon Titan有兩個(gè)基礎(chǔ)模型，一個(gè)是Titan Text，能夠執(zhí)行文本類的任務(wù)。另外一個(gè)叫Titan Embeddings，能執(zhí)行個(gè)性化推薦的任務(wù)。

負(fù)責(zé)任的AI。亞馬遜云科技致力于開發(fā)公平且準(zhǔn)確的人工智能和機(jī)器學(xué)習(xí)服務(wù)，并為企業(yè)客戶提供負(fù)責(zé)任地構(gòu)建人工智能和機(jī)器學(xué)習(xí)應(yīng)用程序所需的工具和指導(dǎo)。我們?cè)谪?fù)責(zé)任AI方面有著堅(jiān)定的承諾，如Amazon Titan可以通過(guò)減少和消除不當(dāng)或者是有害的內(nèi)容來(lái)支持負(fù)責(zé)任AI的實(shí)現(xiàn)。

應(yīng)用安全是實(shí)現(xiàn)AI價(jià)值的保障

應(yīng)用安全是企業(yè)的重中之中，代聞?wù)J為，應(yīng)用是來(lái)創(chuàng)造價(jià)值的，應(yīng)用的安全一定是實(shí)現(xiàn)AI價(jià)值的保障。AI提升了安全的能力，安全可以更好地護(hù)航AI的應(yīng)用。

第一個(gè)階段是開發(fā)流程中的安全（DevSecOps）。安全應(yīng)該貫穿到從開發(fā)到持續(xù)集成、持續(xù)部署再到投產(chǎn)、監(jiān)控以及整個(gè)反饋的過(guò)程里面來(lái)。亞馬遜云科技利用自身經(jīng)驗(yàn)，將AI防護(hù)應(yīng)用到軟件開發(fā)的全生命周期，讓開發(fā)更便捷，更安全。亞馬遜云科技近期最新發(fā)布的AI開發(fā)安全能力。

Amazon CodeWhisperer，該服務(wù)是亞馬遜云科技推出的AI編程助手，可根據(jù)開發(fā)者指令利用內(nèi)嵌的基礎(chǔ)模型實(shí)時(shí)生成代碼建議，該服務(wù)內(nèi)置了代碼安全掃描功能，可幫助開發(fā)者查找難以檢測(cè)的漏洞并提出補(bǔ)救建議。

Amazon CodeGuru Security，它可以掃描代碼，在代碼里面尋找漏洞，包括調(diào)用包漏洞，包括很多其他代碼邏輯的漏洞。它還能夠在CICD通過(guò)人工智能和機(jī)器學(xué)習(xí)的方式自動(dòng)降低誤報(bào)率，同時(shí)它基于API設(shè)計(jì)，能夠非常方便地集成到開發(fā)工作流里邊去，實(shí)現(xiàn)集中化和擴(kuò)展性。

第二個(gè)階段是運(yùn)行中的安全。

零信任：針對(duì)應(yīng)用的安全訪問(wèn)，企業(yè)可構(gòu)建零信任的應(yīng)用安全訪問(wèn)策略。零信任不是一個(gè)標(biāo)準(zhǔn)的工具或者解決方案，而是一套機(jī)制，并且需要經(jīng)過(guò)演練和考驗(yàn)。我們需要對(duì)訪問(wèn)大模型的應(yīng)用進(jìn)行權(quán)限管理，確保只有在擁有特定權(quán)限的應(yīng)用，才能訪問(wèn)或者調(diào)用大模型里的制定API。亞馬遜云科技推出幾個(gè)工具，幫助客戶在自己的亞馬遜云科技環(huán)境下構(gòu)建這套機(jī)制。

首先，需要建立一個(gè)可信任的網(wǎng)絡(luò)通道，Amazon Verified Access 可以搭建一套無(wú)需VPN的網(wǎng)絡(luò)驗(yàn)證系統(tǒng)，可以使用Amazon IAM，或者客戶自己的用戶認(rèn)證系統(tǒng)，來(lái)完成這個(gè)認(rèn)證程序。除了對(duì)用戶的認(rèn)證之外，Amazon Verified Access還支持可以設(shè)置規(guī)則。這些管控，可以在幾乎不對(duì)應(yīng)用進(jìn)行任何代碼改變的情況下部署和發(fā)生。

亞馬遜云科技日前推出了Amazon Verified Permissions，為用戶構(gòu)建的應(yīng)用程序提供細(xì)粒度授權(quán)和權(quán)限管理，用戶可以使用該服務(wù)管理其應(yīng)用程序的角色和屬性的訪問(wèn)控制。

為了方便書寫所有的授權(quán)規(guī)則，亞馬遜云科技發(fā)布了一個(gè)新的開源語(yǔ)言，叫做CEDAR，CEDAR用于編寫和執(zhí)行授權(quán)策略的開源的語(yǔ)言，它可以能夠讓大家更加輕松、更加快速地來(lái)創(chuàng)建所有的訪問(wèn)控制權(quán)限。

網(wǎng)絡(luò)控制：零信任和網(wǎng)絡(luò)控制并不是一個(gè)二選一的關(guān)系，兩者相加才能實(shí)現(xiàn)端到端的應(yīng)用安全，尤其是在大模型時(shí)代。

針對(duì)網(wǎng)絡(luò)防護(hù)，Amazon Shield用于防DDos攻擊，Amazon WAF提供防火墻支撐，Amazon Firewall Manager可以輕松管制防火墻策略：去年緩解了70萬(wàn)次DDos攻擊，Amazon WAF上每天托管規(guī)則請(qǐng)求超過(guò)3500億條。

針對(duì)威脅識(shí)別，Amazon GuardDuty使用了基于人工智能和機(jī)器學(xué)習(xí)的技術(shù)，使安全事件的誤報(bào)率減少50%。它能夠?qū)崿F(xiàn)初期的檢測(cè)，還可以做持續(xù)的分析，它會(huì)使用機(jī)器學(xué)習(xí)的技術(shù)來(lái)檢測(cè)所有的威脅，以智能化的手段給予采取行動(dòng)的建議。

利用AI提升安全合規(guī)效率

亞馬遜云科技也在非常積極的利用人工智能的技術(shù)來(lái)提升自身的合規(guī)，從自己的實(shí)踐出發(fā)，總結(jié)出經(jīng)驗(yàn)來(lái)，然后再惠及到所有用戶。亞馬遜云科技采用人工智能大規(guī)模審查安全機(jī)制，從而大幅減少手動(dòng)操作，降低人為錯(cuò)誤。另外，AI可以提供一個(gè)一致性判斷，同時(shí)人工智能和機(jī)器學(xué)習(xí)技術(shù)能夠預(yù)測(cè)和提供自動(dòng)審查。這四個(gè)方面是亞馬遜云科技使用AI進(jìn)行內(nèi)部的安全合規(guī)方面的實(shí)踐指南。

亞馬遜云科技在全球獲得140多個(gè)安全標(biāo)準(zhǔn)和合規(guī)認(rèn)證，并將AI技術(shù)應(yīng)用到其安全及合規(guī)服務(wù)中，能夠?yàn)榇笠?guī)模批量審查提供安全控制，利用自動(dòng)化減少手工操作以降低錯(cuò)誤，利用AI提供一致性判斷，利用AI/ML技術(shù)實(shí)現(xiàn)自動(dòng)審查，全面提升合規(guī)效率。亞馬遜云科技通過(guò)在其500多項(xiàng)自身合規(guī)審計(jì)控制項(xiàng)中使用AI技術(shù)，將審計(jì)時(shí)間節(jié)約了53%。

亞馬遜云科技APN合作伙伴網(wǎng)絡(luò)提供數(shù)百種行業(yè)領(lǐng)先的安全解決方案，多層保護(hù)客戶的應(yīng)用和數(shù)據(jù)安全。通過(guò)全球安全伙伴提供的解決方案，攜手構(gòu)建1+1>2的安全合作。

技術(shù)方面提供網(wǎng)絡(luò)安全、主機(jī)安全、應(yīng)用安全、身份認(rèn)證、威脅檢測(cè)和事件分析、數(shù)據(jù)治理以及安全自動(dòng)化運(yùn)維等咨詢方面提供方案建議、合規(guī)建議以及全面的安全咨詢服務(wù)和合規(guī)服務(wù)在IDC近期發(fā)布的《2023中國(guó)公有云托管安全服務(wù)能力報(bào)告》中，亞馬遜云科技是獲得滿分最多的廠商之一，其中“生態(tài)建設(shè)”評(píng)估維度是唯一獲得滿分的廠商。

本次2023 re:Inforce 以“AI時(shí)代 全面智能的安全”為主題，聚焦生成式AI在安全層面給企業(yè)帶來(lái)的挑戰(zhàn)及機(jī)遇。是亞馬遜云科技年度重磅活動(dòng)之一。