如何從百模中智選生成式AI工具？（如何從百模中智選生成式ai工具）

當(dāng)前，生成式 AI 應(yīng)用的落地已經(jīng)從原本激烈的“百模大戰(zhàn)”階段演進(jìn)到少數(shù)優(yōu)秀模型嶄露頭角的時刻。這一過程伴隨著工具鏈的不斷多元化，同時也伴隨著企業(yè)領(lǐng)導(dǎo)者的認(rèn)真探索，進(jìn)而找到適合生成式 AI 的實(shí)際應(yīng)用場景。他們提出了許多關(guān)鍵問題，包括對基礎(chǔ)模型的適用性疑慮，對定制化適應(yīng)特定領(lǐng)域需求的思考，以及如何在構(gòu)建原生 AI 應(yīng)用的同時創(chuàng)新 IT 架構(gòu)。

此外，企業(yè)還需要明確如何準(zhǔn)確度量引入生成式 AI 所帶來的實(shí)際價值，以便為未來的決策提供有力支持。企業(yè)和領(lǐng)導(dǎo)者們正在積極尋求方式以最好地利用這一新興技術(shù)的潛力。

基于這一背景，亞馬遜云科技特地舉辦了亞馬遜云科技生成式 AI 構(gòu)建者大會，大會于10月24日下午圓滿結(jié)束。在本次大會中，眾行業(yè)大咖和技術(shù)專家們深度聚焦生成式 AI 前沿技術(shù)，就生成式 AI 的熱點(diǎn)技術(shù)話題和熱門應(yīng)用場景展開了深入分享與交流，為開發(fā)者們解讀了當(dāng)下應(yīng)如何應(yīng)對生成式 AI 帶來的機(jī)遇，在 AI 時代保持強(qiáng)有力的競爭力。

加速大數(shù)據(jù)與 AI 普惠

亞馬遜云科技助力企業(yè)構(gòu)建者釋放生成式 AI 潛力

大會開場，亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建在以“賦能生成式 AI 新時代，助力數(shù)據(jù)與 AI 普惠化”為題的主題演講中指出，生成式 AI 現(xiàn)已成為各行業(yè)各組織商業(yè)領(lǐng)導(dǎo)者的首要關(guān)注點(diǎn)。整個生成式 AI 的應(yīng)用就像是浮在海面上的冰山，人們常提到的基礎(chǔ)模型只是我們能看到的冰山一角，而在冰川底部，同樣需要大量的基礎(chǔ)模型以外的服務(wù)來支撐，如加速芯片、數(shù)據(jù)庫、數(shù)據(jù)治理、應(yīng)用集成等。

亞馬遜云科技為用戶提供完整的端到端的生成式 AI 技術(shù)堆棧。從底層的加速層如加速芯片、存儲優(yōu)化，到中間層模型構(gòu)建工具和服務(wù)，再到最上層的生成式 AI 相關(guān)應(yīng)用，每一層都在針對客戶的不同需求持續(xù)創(chuàng)新。

作為云計(jì)算領(lǐng)域的領(lǐng)導(dǎo)者和創(chuàng)新者，生成式 AI 一直是亞馬遜云科技關(guān)注和投入的主要方向。推動生成式 AI 普惠化，助力更多企業(yè)和個人開發(fā)者加速創(chuàng)新是亞馬遜云科技的使命之一。

在實(shí)踐中，亞馬遜云科技注意到，生成式 AI 的典型應(yīng)用場景給企業(yè)帶來的業(yè)務(wù)價值主要體現(xiàn)在三個方面：增強(qiáng)客戶體驗(yàn)，提升員工生產(chǎn)力與創(chuàng)造力，優(yōu)化業(yè)務(wù)流程。基于此，亞馬遜云科技助力企業(yè)和開發(fā)者從典型場景入手創(chuàng)新業(yè)務(wù)模式，快速構(gòu)建高性價比的生成式 AI 應(yīng)用，以打造差異化競爭優(yōu)勢，加速業(yè)務(wù)敏捷創(chuàng)新。

為讓客戶能夠輕松、安全地按需選擇基礎(chǔ)模型，亞馬遜云科技此前還推出了Amazon Bedrock 和 Amazon SageMaker JumpStart 兩款服務(wù)。Amazon Bedrock 是企業(yè)使用基礎(chǔ)模型構(gòu)建和擴(kuò)展生成式 AI 應(yīng)用程序的最簡單方法，它提供廣泛的模型選擇、數(shù)據(jù)隱私，并且能夠自定義模型，無需管理任何基礎(chǔ)設(shè)施。通過 Amazon Bedrock，用戶可輕松地將組織數(shù)據(jù)用作戰(zhàn)略資產(chǎn)，使用自定義基礎(chǔ)模型并打造更加差異化的優(yōu)勢。此外，Amazon Bedrock 還充分考慮到了用戶的安全性和隱私保護(hù)，幫助客戶保護(hù)敏感數(shù)據(jù)。

相較于Amazon Bedrock，Amazon SageMaker Jumpstart 則提供了更靈活、更定制化的模型微調(diào)。用戶可以從 SageMaker Jumpstart 中選擇開源的基礎(chǔ)模型，然后根據(jù)自身需求選擇不同方式，進(jìn)一步確定微調(diào)框架，利用分布式訓(xùn)練實(shí)現(xiàn)微調(diào)，從而更好地評估微調(diào)效果。

金山辦公：Amazon Bedrock 助力 WPS

加速生成式 AI 應(yīng)用的構(gòu)建

在主題分享中，來自金山辦公軟件股份有限公司的 AI 研發(fā)總監(jiān)劉強(qiáng)向大家分享了金山辦公如何利用生成式 AI 和 Amazon Bedrock 幫助企業(yè)簡化從統(tǒng)一數(shù)據(jù)到個性化客戶體驗(yàn)的過程。

劉強(qiáng)提到，今年起，WPS 開始將大語言模型的能力全面引入產(chǎn)品，致力于開發(fā)新一代辦公軟件。而在構(gòu)建生成式 AI 應(yīng)用的過程中，基礎(chǔ)模型性能有限，數(shù)據(jù)隱私與安全難以保障，高額管理成本等現(xiàn)實(shí)情況成為了擺在金山辦公面前的重重障礙。作為 Amazon Bedrock 的第一批試用用戶，金山辦公第一時間與 Amazon Bedrock 展開了對接與測試。

Amazon Bedrock 中支持的領(lǐng)先大語言模型在多個文字處理場景中符合金山辦公的需求。除多種模型選擇外，Amazon Bedrock 還在數(shù)據(jù)安全層面給金山辦公提供了充分的支持，極大地提高了金山辦公的內(nèi)部開發(fā)效率，助力金山辦公進(jìn)一步革新辦公體驗(yàn)。

高性價比的基礎(chǔ)設(shè)施是生成式 AI 應(yīng)用構(gòu)建的關(guān)鍵。在接下來的分享中，陳曉建提到，十多年來，亞馬遜云科技一直與合作伙伴致力于投資自研芯片，以便為用戶提供廣泛的高性能、低成本的機(jī)器學(xué)習(xí)基礎(chǔ)設(shè)施選項(xiàng)，助力客戶加速實(shí)現(xiàn)生成式 AI 落地。

此外，亞馬遜云科技近日還宣布了 Amazon EC2 Inf2 實(shí)例的正式上市。該實(shí)例由最新的亞馬遜云科技設(shè)計(jì)的機(jī)器學(xué)習(xí)芯片 Inferentia2 提供支持。與其他類似的 EC2 實(shí)例相比，Inf2 實(shí)例在推理性價比上要高出 40%，Trn1 實(shí)例在訓(xùn)練成本上的節(jié)省更是高達(dá) 50%。基于此，亞馬遜云科技為深度學(xué)習(xí)訓(xùn)練和推理提供了高性能且具有顯著成本節(jié)省的實(shí)例。

在數(shù)據(jù)戰(zhàn)略層面，從存儲、查詢和分析數(shù)據(jù)，到通過商業(yè)智能、機(jī)器學(xué)習(xí)和生成式 AI 使數(shù)據(jù)發(fā)揮作用，亞馬遜云科技提供廣泛的工具組支持整個端到端的數(shù)據(jù)流程。多年來，亞馬遜云科技通過深化服務(wù)之間的集成，已經(jīng)在 Zero ETL 中取得了一定成果，這些亞馬遜云科技各項(xiàng)服務(wù)之間的深度的數(shù)據(jù)集成正在幫助企業(yè)執(zhí)行分析和機(jī)器學(xué)習(xí)，且無需移動數(shù)據(jù)。

在數(shù)據(jù)爆炸的現(xiàn)狀下，數(shù)據(jù)治理對于企業(yè)來說至關(guān)重要。Amazon DataZone 全新的數(shù)據(jù)治理服務(wù)可支持整個企業(yè)集團(tuán)組織的數(shù)據(jù)發(fā)現(xiàn)、管理跨部門的訪問和使用生命周期。通過統(tǒng)一的數(shù)據(jù)目錄和明確的數(shù)據(jù)主權(quán)分工，企業(yè)內(nèi)數(shù)據(jù)使用者能輕松地發(fā)現(xiàn)有效數(shù)據(jù)，同時數(shù)據(jù)的提供者可以嚴(yán)格的管理數(shù)據(jù)的可見和訪問授權(quán)，做到僅允許正確的人訪問到正確的數(shù)據(jù)。這一能力對于今天的企業(yè)需要負(fù)責(zé)任的構(gòu)建生成式 AI，嚴(yán)苛的保護(hù)企業(yè)數(shù)據(jù)并正確的發(fā)揮企業(yè)私有數(shù)據(jù)的價值尤其重要。

西門子：以生成式 AI 之力重塑數(shù)據(jù)價值，推進(jìn)業(yè)務(wù)創(chuàng)新

來自西門子集團(tuán) IT 數(shù)據(jù)分析與人工智能負(fù)責(zé)人李朝明在主題分享中向大家分享了西門子如何攜手亞馬遜云科技發(fā)揮企業(yè)數(shù)據(jù)價值，通過 AI 與數(shù)據(jù)能力的全面能力提升來構(gòu)建基于生成式 AI 的企業(yè)知識聊天機(jī)器人。

他提出，當(dāng)前生成式 AI 的發(fā)展給各行各業(yè)帶來了革命性的變化。在西門子推動生成式 AI 落地的過程中，西門子 IT DA 團(tuán)隊(duì)與亞馬遜云科技有著長期而深入的合作。面對西門子中國 IT 面對的企業(yè)內(nèi)部信息分散、數(shù)據(jù)信息傳遞能力不足、知識運(yùn)營能力缺乏等業(yè)務(wù)難題，亞馬遜云科技攜手打造了西門子中國業(yè)務(wù)知識一體化解決方案“小禹”，大大提高了西門子內(nèi)部團(tuán)隊(duì)的生產(chǎn)力和創(chuàng)新效率。

生成式AI 的出現(xiàn)，給傳統(tǒng)云原生應(yīng)用開發(fā)架構(gòu)提出了新的機(jī)遇與挑戰(zhàn)，借助云原生的服務(wù)，聚焦以微服務(wù)化，事件驅(qū)動架構(gòu)為核心的設(shè)計(jì)框架 Serverless 優(yōu)先，以數(shù)據(jù)洞察為核心，安全與數(shù)據(jù)的合規(guī)與保護(hù)、借助 DevOps 等現(xiàn)代應(yīng)用治理理念構(gòu)建高效敏捷的構(gòu)建者文化等，加速由云原生到 AI 原生應(yīng)用的構(gòu)建與創(chuàng)新。

亞馬遜云科技預(yù)見到，編程將是生成式 AI 技術(shù)得到快速應(yīng)用的領(lǐng)域之一。亞馬遜云科技提供的 Amazon CodeWhisperer是一款人工智能編碼伙伴，可在基礎(chǔ)模型高級選項(xiàng)中使用，實(shí)時生成代碼建議，從根本上提高開發(fā)人員的生產(chǎn)力?！?023 AI 開發(fā)者生態(tài)報(bào)告》還指出，當(dāng)前，Amazon CodeWhisperer 在國內(nèi) AI 編程工具領(lǐng)域處于領(lǐng)先地位，且是國內(nèi)用戶增速最快的 AI 編程工具。

科思創(chuàng)中國：借助 Amazon CodeWhisperer 實(shí)現(xiàn)開發(fā)效率顯著提升

來自科思創(chuàng)中國云開發(fā)運(yùn)維團(tuán)隊(duì)負(fù)責(zé)人俞宙在主題分享中向大家分享了他們?nèi)绾位?Amazon CodeWhisperer 提升代碼開發(fā)效率，加速生成式 AI 應(yīng)用程序構(gòu)建。

科思創(chuàng)中國在日常開發(fā)中有兩個核心任務(wù)：項(xiàng)目框架搭建和存量代碼優(yōu)化。而在實(shí)踐中過程中，重復(fù)性、機(jī)械化的范式生成、慣用算法引用和企業(yè)級 API 接口定制是科思創(chuàng)中國面臨的主要挑戰(zhàn)。在 Amazon CodeWhisperer 的加持下，科思創(chuàng)中國的日常代碼開發(fā)效率和開源代碼應(yīng)用追蹤器的準(zhǔn)確性顯著提高，在構(gòu)建云原生產(chǎn)品應(yīng)用的過程中起到了重要作用。

在接下來的分享中，陳曉建還特別提到，一直以來，亞馬遜云科技在不斷幫助中國開發(fā)者群體快速創(chuàng)新。今年以來，亞馬遜云科技為初創(chuàng)公司推出了亞馬遜云科技創(chuàng)業(yè)加速器。今年9月，亞馬遜云科技聯(lián)合了北京市教育委員會指導(dǎo)，北京科學(xué)教育發(fā)展基金會、清華大學(xué)人工智能研究院基礎(chǔ)模型研究中心，以及面壁智能、智譜 AI、百川智能等客戶及合作伙伴，共同發(fā)布了“首屆中國生成式 AI 創(chuàng)新應(yīng)用挑戰(zhàn)賽”。如今，開發(fā)者的努力和激情正在改變這個世界，不斷地拓展著技術(shù)的邊界，亞馬遜云科技將持續(xù)為構(gòu)建者賦能，繼續(xù)攜手合作伙伴與初創(chuàng)圈，擴(kuò)大生成式 AI 的“朋友圈”，進(jìn)一步助力生成式 AI 的廣泛落地。

高峰論壇共話實(shí)戰(zhàn)經(jīng)驗(yàn)

行業(yè)大咖共看生成式 AI 當(dāng)下與未來

在以“共話生成式 AI 的現(xiàn)在和未來”為題的圓桌討論環(huán)節(jié)，Lepton AI CEO 賈揚(yáng)清、百川智能聯(lián)合創(chuàng)始人 COO 茹立云、愛詩科技 CEO 王長虎、亞馬遜云科技大中華區(qū)產(chǎn)品部總經(jīng)理陳曉建、亞馬遜云科技大中華區(qū)初創(chuàng)生態(tài)及投資業(yè)務(wù)發(fā)展總監(jiān)胡瑛圍繞開發(fā)者在生成式 AI 應(yīng)用落地新階段所面臨的機(jī)遇和挑戰(zhàn)展開了深度討論。

在交流與分享中，行業(yè)大咖們就怎樣選擇基礎(chǔ)模型，如何構(gòu)建生成式 AI 時代的數(shù)據(jù)策略，如何借助云原生加速構(gòu)建 AI Native 應(yīng)用和加速生成式 AI 應(yīng)用構(gòu)建與落地有哪些開發(fā)工具，給廣大開發(fā)者們提出了寶貴建議。

分論壇解讀生成式 AI 應(yīng)用秘籍

亞馬遜云科技助力打造生成式 AI 應(yīng)用最佳實(shí)踐

開發(fā)生成式 AI 應(yīng)用是一個充滿挑戰(zhàn)的系統(tǒng)工程，并不是單純的產(chǎn)品和服務(wù)拼接，因此，如何加速客戶最終應(yīng)用的商業(yè)化落地，除了本身的資源以外，亞馬遜云科技同樣需要構(gòu)建強(qiáng)大的合作伙伴“朋友圈”，攜手助力解決生成式 AI 應(yīng)用構(gòu)建中的各種技術(shù)問題，加速應(yīng)用落地。

針對構(gòu)建生成式 AI 應(yīng)用端到端的關(guān)鍵路徑，為了更加詳細(xì)的闡述亞馬遜云科技如何助力構(gòu)建者釋放生成式 AI 潛力的方法論，分論壇分別圍繞 “基礎(chǔ)模型優(yōu)先”-重構(gòu)生成式 AI 時代的應(yīng)用基座”，打造生成式 AI 時代的數(shù)據(jù)戰(zhàn)略，基于云原生服務(wù)快速 AI 原生的應(yīng)用等熱點(diǎn)話題，邀請來自亞馬遜云科技的技術(shù)專家，攜手客戶和合作伙伴代表，做了豐富而全面的分享，從理論到實(shí)踐給構(gòu)建者快速，安全，高效的開發(fā)生成式 AI 應(yīng)以啟迪。

在“開發(fā)者論壇”中，亞馬遜云科技邀請到了知名的業(yè)界專家為大家講解和分享。一起看看他們有哪些經(jīng)驗(yàn)和心得！

開發(fā)者論壇-助力開發(fā)者在生成式 AI 時代創(chuàng)新構(gòu)建

在 1024 這個開發(fā)者專屬的節(jié)日，大會還設(shè)置了開發(fā)者論壇，邀請業(yè)內(nèi)開發(fā)者大咖及專家分享生成式 AI 最新的開發(fā)技術(shù)，工具及落地實(shí)踐。開源 AI 算法工程師、bilibili 知名科技 UP 主張子豪 （@同濟(jì)子豪兄）為大家?guī)砹恕秱€人開發(fā)者玩轉(zhuǎn)生成式 AI 的 N 種方法》。亞馬遜云科技資深開發(fā)者布道師鄭宇彬分享了生成式 AI 面向開發(fā)者的關(guān)鍵技術(shù)——Amazon CodeWhisperer。

亞馬遜云科技資深開發(fā)者布道師黃浩文分享了高效開發(fā)基于大模型的生成式 AI 應(yīng)用實(shí)踐。Zilliz 合伙人和技術(shù)總監(jiān)，LF AI &Data 基金會技術(shù)咨詢委員欒小凡介紹了 AIGC 時代的新基建——向量數(shù)據(jù)庫及其應(yīng)用場景。ApeCloud 聯(lián)合創(chuàng)始人 & CTO蔡松露分享了如何在 K8S 上玩轉(zhuǎn)?成式 AI。NebulaGraph 首席開發(fā)者布道師古思為向大家詳細(xì)地介紹了基于圖的知識結(jié)構(gòu)在 RAG 領(lǐng)域突破更多挑戰(zhàn)。

動手訓(xùn)練營—生成式AI時代開發(fā)的速度與激情

我們同步為開發(fā)者準(zhǔn)備了動手實(shí)驗(yàn)的環(huán)節(jié)，包括Amazon DeepRacer強(qiáng)化學(xué)習(xí)及自動駕駛模型實(shí)戰(zhàn)，實(shí)時AI編程助手Amazon CodeWhisperper實(shí)戰(zhàn)，Amazon Bedrock初體驗(yàn)，基于大預(yù)言模型構(gòu)建智能對話機(jī)器人。

亞馬遜云科技提供了完整的端到端的生成式 AI 技術(shù)堆棧，從底層的加速芯片，存儲優(yōu)化，到中間層模型構(gòu)建工具和服務(wù)，再到最上層的生成式 AI 相關(guān)應(yīng)用。推動生成式 AI 普惠化，助力更多企業(yè)和個人開發(fā)者加速創(chuàng)新是亞馬遜云科技的使命之一。亞馬遜云科技愿一直與企業(yè)構(gòu)建者和個人開發(fā)者們攜手共進(jìn)，引領(lǐng)人工智能的未來。