AWS雲端年會|一口氣推AI模型Nova、AI晶片Trainium2,亞馬遜如何撼動輝達霸業?
AWS雲端年會|一口氣推AI模型Nova、AI晶片Trainium2,亞馬遜如何撼動輝達霸業?

雲端龍頭亞馬遜AWS的年度大會re:invent於台灣時間12月4日登場,作為年底壓軸登場的大型發布會,AWS終於在生成式AI大戰開打兩年後,正式推出大型語言模型系列「Nova」,有四種等級,號稱能同時滿足高速、成本效益、專業、資料量等企業需求。

同時,AWS在自研晶片展現挑戰NVIDIA的野心,推出第二代AI訓練晶片Trainium2、超級伺服器,同時攜手AI新創Anthropic打造「史上最大的AI運算群集」,希望搶下超級電腦的話語權。

AWS re:invent 2024
AWS re:invent 2024登場,發表AWS年度重磅產品。
圖/ AWS re:invent 2024

大語言模型:Nova系列誕生,四種規格供客戶自選

AWS終於推出自家的大語言模型了,過去兩年Google、微軟等競爭對手在模型上打得火熱,AWS選擇以能統整多種模型供企業選用的平台Bedrock,作為最主力的武器,更喊出「這世界上沒有最強的模型」作為口號,今年也再度重申。

不過這一次,AWS宣布正式推出自家訓練的多模態生成式AI模型「Nova」,加入平台上眾多的模型陣營之中。共有四種等級可供客戶依照需求選擇:Micro、Lite、Pro 和 Premier,分別有不同的優勢。

Micro:純文字模型,能達到四種裡面最低的延遲,以小規模高速處理。
Lite:能處理文字、圖片、影像,但「體型」輕盈,強調最佳成本效益。
Pro:能處理文字、圖片、影像的專業多模態模型,兼顧速度、準確性、多元工作內容。
Premier:系列中功能最強大的模型,甚至可以作為「其他模型的老師」,也就是用來訓練其他大語言模型的能力。

AWS re:invent 2024
AWS re:invent 2024中推出大型語言模型Nova,共有4種等級可選。
圖/ AWS re:invent 2024

除了這些通用模型外,還專門推出圖片、藝術生成的Nova Canvas,提供工作室等級的專業製作,內有控制色彩濃淡、版面配置和專業水印等功能。另外還有專業影音生成的Nova Reel,可以控制360度旋轉、放大縮小等運鏡方式。

AWS執行長安迪.賈西(Andy Jassy)指出,整個系列成本都非常有效益,比其他Bedrock中其他同等級模型都便宜75%,而Nova全系列除了高階的Premier和Nova Canvas、Nova Reel在明年才會登場外,其他都已經上線供AWS客戶使用。

安迪.賈西強調,目前市面上已經有各種類型的模型,但客戶的需求尚未被滿足,同時能符合四大條件—提供豐富知識、符合成本效益、低延遲、垂直產業專業需求的模型,目前並不存在,因為四點之中仍有幾項是互相矛盾的,例如知識量大成本就高,延遲也更久,因此需要專門的訓練去滿足這些需求。

自研晶片:攜手Anthropic挑戰NVIDIA

雖然大語言模型是第一代,但是在自研晶片上AWS已經是耕耘數8年的老手,旗下也有4大晶片產品線,分別針對不同需求提供算力。

今年,專為模型訓練設計的Trainium也推出了第二代,簡稱Trn2,採台積電5奈米製程,效能比上一代提升4倍,能整合16顆晶片,算力達到20.8 petaFLOPS(每秒浮點運算次數),等於每秒可以執行20.8萬兆次運算。

作為比較,NVIDIA三月推出的Blackwell B200算力為20 petaFLOPS。也因為算力達到高效益,能耗降低2倍,同時也大省GPU成本,最高降低40%。

Trainium2.jpeg
AWS Trainium2 晶片。

外界普遍認為,AWS想要藉由Trainium2挑戰NVIDIA的AI晶片市場領導地位,甚至手機龍頭大廠蘋果高層Benoit Dupin都向媒體透露,已經成為這款晶片的客戶

安迪.賈西更預告,下一代Trainium3晶片也已經在路上,將採用3納米製程,2025年底就會推出。

除了晶片本身,還推出了一款超級伺服器「EC2 Trn2 UltraServers」,由64顆Trainium2組成,算力、內存、傳輸能力都提高四倍,一口氣拉升到83.2 petaFLOPS。

Amazon EC2 Trn2.jpeg
Amazon EC2 Trn2。

而AWS去年宣告和NVIDIA合作建設超級電腦,今年則表示即將和生成式AI領域大放異彩的新創公司Anthropic攜手合作,推出「Project Rainier」計畫,把這些Trn2 UltraServers超級伺服器組合成「史上最大的AI運算群集」,搭載數十萬個Trainium2晶片,號稱是為「未來等級的AI訓練」做好最萬全的準備。

Anthropic 創辦人暨執行長Dario Amodei
Anthropic 創辦人暨執行長Dario Amodei。
圖/ 隋昱嬋攝影

總結:AWS領域展開

AWS在生成式AI領域一直相對低調,不過在雲端基礎建設一直處於領先地位,加上靈活選用模型的Bedrock平台,成為生成式AI大戰中吸引企業客戶的絕招。

不過今年發布會可以看出AWS相對「大膽」的競爭策略,直接推出大型語言模型Nova加入Bedrock中,形成平台兼玩家的局面,更直言比各家模型都更便宜高效率,等於直接下場和其他合作夥伴競爭客戶的青睞。

AWS NVIDIA.jpg
輝達執行長黃仁勳(右)去年首度站台AWS re:invent。
圖/ AWS

此外,AWS和NVIDIA之間的「瑜亮情結」也隨著自研晶片的發展持續發酵中,雖然雙方仍有持續合作,但在AI伺服器等基礎設施越來越昂貴的大環境下,AWS背後擁有的龐大雲端算力,相比之下更能靈活調節工作負載,成為企業降低成本的希望,也讓使用AI的門檻更低。

英國研調機構Finimize指出,AWS將持續以Trainium等一系列AI晶片,挑戰龍頭NVIDIA的地位。

延伸閱讀:2024 MarTech 行銷科技高峰會登場!AI 浪潮下一步,從效率導向到創造品牌價值

責任編輯:李先泰

關鍵字: #AWS #AI
往下滑看下一篇文章
帳戶安全再升級!國泰世華銀行攜手國泰產險以科技與保險打造新世代數位防衛陣線
帳戶安全再升級!國泰世華銀行攜手國泰產險以科技與保險打造新世代數位防衛陣線

根據金融監督管理委員會公布的數據資料,截至2024年底,台灣數位存款帳戶的開立數量突破2,446萬戶,較2023年(1,968.6萬戶)增加24.3%,超越了總人口數,與此同時,帳戶安全也面臨前所未見的挑戰。

國泰世華銀行作為台灣金融領導品牌,不僅提供用戶導向的便捷安全金融服務體驗,透過先進技術杜絕駭客、釣魚攻擊風險,同時,以全方位CUBE App 帳戶安全健檢機制搭配跨界創新推出的「帳戶安全險」,打造從「預防」到「關懷」的數位金融安全。

國泰世華銀行攜手國泰產險,以帳戶安全健檢與帳戶安全險雙引擎竭盡保障金融安全

隨著數位金融普及成為你我日常生活的一部份,詐騙集團或駭客以各種方式發動攻擊,如釣魚簡訊、木馬程式竊取帳密、假網站盜取信用卡資訊,或者是假冒官方機構的社交工程…等,因此,無論是登入金融帳戶、轉帳、消費,還是投資理財,民眾除要有資安防護意識,金融機構提供的科技防護也是重要防線。

國泰世華銀行領先市場推出的CUBE App 帳戶安全健檢服務,從登入安全、交易安全、個資安全與系統安全…等四個面向提醒用戶須注意的地方,包含登入兩步驟驗證、FIDO快速登入、裝置綁定、交易認證碼、人臉辨識驗證交易、交易推播通知、Email/手機號碼檢核、App版本、手機作業系統…等項目,完成CUBE App 帳戶安全健檢設定,即可再強化帳戶安全的防護等級。國泰世華銀行對於數位安全不斷突破創新,此次攜手跨界夥伴–國泰產險推出「帳戶安全險」活動,用戶若完成10項安全健檢設定,並至CUBE App保險專區點選參加帳戶安全險活動,即有可能獲得最高新臺幣16,000元的理賠保障(限額45,000名)。(詳細保障內容依國泰世華銀行官網為準,可至活動專頁查詢。)

登入、交易、個資、系統等四層面十大安全健檢項目
登入、交易、個資、系統等四層面十大安全健檢項目
圖/ 國泰世華銀行

根據用戶動態提供主動防禦與提示,阻擋盜用、詐騙潛在風險

除從帳戶安全出發,國泰世華銀行更因應消費者使用行為,以多項主動防禦與智能提示機制保障交易前、中、後安全,讓安全防護不再是被動防禦,而是隨時偵測、即時反應:例如,透過「登入兩步驟驗證」等方式強化登入安全,運作概念就像是Google帳號的雙重驗證機制,當陌生裝置嘗試登入CUBE App帳戶時,系統會即時發出第二道OTP驗證來確認登入者身分,大幅提升登入安全。其次,用戶還可透過CUBE App啟動、人臉辨識驗證與交易認證碼…等多元交易驗證機制,並且綁定裝置才可使用,大幅保障交易安全。

除了前述安全機制,CUBE App還有提供「卡片安全鎖」服務,可依照交易地區、交易類型、交易時間與單筆交易金額上限進行個別設定,讓用戶根據自身需求,靈活控管用卡範圍。而針對風險與頻率日益攀升的釣魚簡訊詐欺事件,CUBE App也有「簡訊收件匣」提供客戶確認簡訊來源,若收到疑似詐騙簡訊客戶能直接開啟CUBE App登入後查詢簡訊內容,讓用戶可以一眼辨識訊息來源,杜絕偽冒門號發送的詐騙簡訊。

持續與時俱進推升數位安全防護

從全方位的 CUBE App 帳戶安全健檢、業界首創的帳戶安全險,到全面覆蓋交易前中後的進階防護機制,國泰世華銀行始終以用戶需求為出發點,結合跨界創新,不斷推升金融科技的安全標準。未來,將持續進化安全防護策略、精準因應各種場景挑戰,以高規格守護每一位用戶的資產安全,讓用戶可以安心享受智慧金融生活。

本文係由國泰世華銀行邀約,產險商品由國泰產險提供

登入數位時代會員

開啟專屬自己的主題內容,

每日推播重點文章

閱讀會員專屬文章

請先登入數位時代會員

看更多獨享內容

請先登入數位時代會員

開啟收藏文章功能,

請先登入數位時代會員

開啟訂閱文章分類功能,

請先登入數位時代會員

我還不是會員, 註冊去!
追蹤我們
AI全球100+台灣50
© 2025 Business Next Media Corp. All Rights Reserved. 本網站內容未經允許,不得轉載。
106 台北市大安區光復南路102號9樓