, ,

NVIDIA GTC 2023 – 生成式 AI 將日益成熟精進,AI 即 SaaS 成短期主流

Posted by

AIGC 正熱,看了 NVIDIA GTC 2023 這個今年初由 GPU 繪圖晶片大廠暨 AI 晶片大廠 NVIDIA 主辦的技術領域重要盛會,有650場專業的演講呢。我們這次可以看到提供 AI 產業武器 (另一種說法是桶子和鏟子,通常新型產業最早獲利的,就是這類企業) 的 NVIDIA ,端出了盤盤有價值的牛肉組合,也就是它們旗下硬體晶片和運算模型、演算法與軟體平台的整合解決方案外,NVIDIA 甚至自己開起了路邊的蛋塔店,自家去提供用這些硬體、伺服器資源、合作夥伴打造出來的 SaaS (軟體即服務) 平台,讓各家企業可以透過 NVIDIA 提供的 API 去取得各家需要對應的各種 AI 運算資源,讓這場 AI 領域大戰進入了更新的領域。

我們可以看到NVIDIA 這次推出的推論運算平台,是能夠針對 AI 人工智慧生成應用程式進行調整,讓全球開發者能快速部署自己的人工智慧應用程式,快速地在市場上投入,提供大家更多有意思的新服務。

這個野心是滿大的,包括 NVIDIA Ada、Hopper、Grace Hopper 處理器整合的解決方案,以及最新的  NVIDIA L4 Tensor Core GPU 繪圖處理器,還有 NVIDIA H100 NVL GPU,NVIDIA 可說共應了市場大量的軍火去針對不同的任務做,其中最受到矚目的應用情境就是人工智慧影片處理、影像生成、大型語言模型部署,以及相當受到重視的推薦系統推論。

人工智慧影片

NVIDIA L4 Tensor Core GPU 繪圖處理器在這領域滿不得了的,搭配適當的環境與軟體平台,能供應比 CPU 高 120 倍的人工智慧影片生成效能,其能源使用效率也高出 99%,相當吸引市場目光。NVIDIA L4 晶片可說在人工智慧影片處理上幾乎全包大部分任務的 loading,除了生成式人工智慧影片,亦包括影片的解碼轉碼,以及網路會用到的視訊串流,還在蓬勃中的擴增實境等。

NVIDIA L40 則是拿來影像生成,可進行繪圖和人工智慧 2D影片、 3D 影像生成最佳化。L40 平台使用在資料中心,這是可以拿來搞元宇宙的東西,可以用在NVIDIA Omnivers 平台上,根據資料,執行 Stable Diffusion 這個著名的 AI 算圖軟體時的推論表現,是NVIDIA上一代產物的7倍,L40 拿去跑 Omniverse 平台的效能是上一代產物的12倍。

部署大型語言模型

生成式 AI 最為大眾所知的就是 OpenAI 的 ChatGPT 聊天機器人以及相關衍生產物和模型,而要拿來做這種部署大型語言模型 (LLM )的 NVIDIA H100 NVL ,是目前部署這類平台的最佳選項了,它擁有 94GB 的記憶體及 Transformer 引擎加速功能,根據 NVIDIA 的公開資料,NVIDIA H100 NVL 拿來在資料中心去跑 GPT-3 推論作業的效能,是著名的上一代 AI晶片 A100 的12倍之多,這意味著資料中心可以節省更多成本,或增加更多NVIDIA H100 NVL 進去平台中,提供更龐大的運算能力,加速使用者從 AI 平台中獲得回饋的反應和速度,並深化學習能力。

推薦模型

NVIDIA Grace Hopper 則是圖形推薦模型、向量圖形資料庫和繪圖神經網路的重點產品,NVIDIA 指出,在這個產品中,CPU 與 GPU 之間的連線技術是高達 每秒 900 GB 的 NVLink-C2C 晶片到晶片的技術。以公開資料來看,Grace Hopper 的資料傳輸和查詢速度比 PCIe Gen 5 要快上7倍,這樣能加速這領域的服務運算效能。

基礎語言模型與雲端 API

NVIDIA NeMo 語言服務和 NVIDIA Picasso 圖片、影片和 3D 服務,這是給各家企業、合作夥伴能打造自己專屬特定領域的生成式人工智慧應用程式,NVIDIA 讓這些服務可以被企業透過 API 去取得 AI 運算資源,藉由各種已經預先訓練好的模型和資料處理框架,各家企業能夠快速地採用 NVIDIA AI Foundations 去進行企業自己的 AI 運算平台,這樣不用自己耗費資源打造龐大的 AI 資料中心,而是透過 NVIDIA 的雲端 API 去提高自己的生產力。

半導體產業也導入 NVIDIA技術改善製程

除了軟體平台、雲端服務外,台積電 (TSMC),以及新思科技 Synopsys 等半導體廠,也把 NVIDIA 的運算式微影 cuLitho 技術,去整合到半導體製程中,換言之,可以大幅改善半導體廠的產能和資源安排。台積電他們是最快導入的,預計將在 2023 年6月就開始運用相關技術進行晶圓代工製程。

NVIDIA 執行長黃仁勳對外指出,晶片業是全球產業的基礎之一,在微影技術已達到物理學極限情況下,NVIDIA與台積電、ASML、Synopsys經過長達4年合作,推出在GPU上運行的cuLitho,其效能較目前微影技術高出40倍,根據NVIDI資料,500個 NVIDIA DGX H100 系統可以做到相當於 4 萬個CPU系統的工作量,差異相當可觀。

採用 cuLitho 技術的半導體晶圓廠,每天可望讓用電量減少9倍,光罩生產量增加3到5倍。原本需要兩周時間才能生產出一個光罩,如今在一夜之間即可完成。

長期來看,cuLitho 將有助於創造出更好的微影技術,也有人工智慧的協助及各種改善製程的方式。

Adobe 和 Google 成為親密戰友

NVIDIA 也和著名的兩大廠成立長期合作關係,分別就是數位領域的要角 Adobe ,以及搜尋引擎和數位廣告大廠 Google。

其中,Adobe 會和 NVIDIA 一起共同開發更多 AI模型,並透過 Photoshop、Premiere Pro 和 After Effects 等Adobe Creative Cloud 軟體,搭配 NVIDIA Picasso 共同開發,未來在最多專業創作者與數位工作者使用的 Adobe 環境中,會是更新的方式加速 AI 應用,以及改善大家的工作流程,這個非同小可。以後剪輯影片、製作 3D 特效,進行影像處理、數位繪圖,都會有 AI 技術輔助與完善各家的作業,劃時代的變革逐漸到來。

全球知名的數位內容平台與線上市場 Getty Images 也和 Adobe 合作,訓練生成式文字到圖片,以及文字到影片基礎模型,更可怕的是 Getty Images 拿出完全授權的資產進行訓練,甚至也讓藝術家可以獲得採用這些模型產生收入後可拿到版稅。另一案例則是知名大圖庫公司 Shutterstock ,也是拿 NVIDIA Picasso 服務訓練生成式文字到3D的模型,讓業界製作 3D 模型的時間大幅降低,同樣也會提供支付費用給使用這模型的全球藝術藝術家們。

Google Cloud 這部分就另一個領域很受矚目了,NVIDIA 和 Google Cloud 一起要開發大型語言模型和生成式人工智慧推論模型,在 Google 的 AI 運算資源中,導入 NVIDIA L4 GPU ,加速 AI 雲端的運算效能,且提供更好的能源使用效率,對擁有大量伺服器和吃電的 Google 來說,這產品帶來的效益是當前很必要的。未來包括生成式 AI,智慧辨識與 AI 影片生成、AI 語音模型等等都會受惠於這樣的開發提攜合作上。

首日感想,以及NVIDIA GTC 2023 更多議程:

NVIDIA晶片如果繼續在 AI 領域熱賣,它投片給台積電的訂單也是很受到關注的,誰能夠擁有足夠的 AI 晶片,搭配適當的演算法與平台環境,誰就有足夠的AI運算資源。

AI 市場在大軍火商 NVIDIA 的強烈新品發表帶動下,可望繼續加速近年的 AI 產業發展,各家應用服務推陳出新,AI 即 SaaS 的營運,是接觸到市場大眾、大中小企業都能夠比 AI 發展初期更容易上手的方式,整體市場的質變正在某些領域逐漸發生,且讓我們繼續投入與觀察,去體會進行式中的 AI 運算革命吧,這已經越來越接近破壞式創新了呢。: P

這幾天NVIDIA GTC 2023 開發者大會還有更多有意思的內容,且讓我們繼續探索吧。另外,在 3 月 29 日時,Google 也會和 NVIDIA 於年度 Google Data Cloud & AI Summit 上宣布雙方的合作細節,Google 和 NVIDIA 合作開發的生成式 AI 會是怎樣的呢? 引發市場高度關注。

延伸閱讀:

Adobe 也跳下來玩生成式 AI,推出 Firefly 聚焦數位內容創作

GTC 2023:NVIDIA 聯手 Quantum Machines 推出首個結合 GPU 與量子運算的系統——DGX Quantum

微軟推出Bing版AI繪圖「Image Creator」:翻轉數位藝術世界

Google Bard AI 平台逐步於各國開放測試

歡迎留下您的想法與意見:
新網站新氣象,會想到緞帶教堂的美好
一直很喜歡的緞帶教堂 Ribbon Chapel
2023 年 3 月
 12345
6789101112
13141516171819
20212223242526
2728293031