會員登入
｜
加入會員
｜
會員專區
｜
購物車
｜
自資出版
｜
電子書城
｜
客服中心
文學小說
商管創投
人文藝坊
勵志養生
進修學習
科學工程
家庭親子
玩樂天地
書名
出版社
作者
isbn
編號
英語會話
|
成交的秘密
|
霹靂影音寫真特典
|
此作者無相關書籍
文學小說
文學
｜
小說
商管創投
財經投資
｜
行銷企管
人文藝坊
宗教、哲學
社會、人文、史地
藝術、美學
｜
電影戲劇
勵志養生
醫療、保健
料理、生活百科
教育、心理、勵志
進修學習
電腦與網路
｜
語言工具
雜誌、期刊
｜
軍政、法律
參考、考試、教科用書
科學工程
科學、自然
｜
工業、工程
家庭親子
家庭、親子、人際
青少年、童書
玩樂天地
旅遊、地圖
｜
休閒娛樂
漫畫、插圖
｜
限制級
萬顆GPU的訓練：分散式機器學習 — 系統工程與實戰 (好評熱銷版)
作者：
柳浩
分類：
電腦與網路
／
AI•人工智慧
出版社：
深智數位
出版日期：2026/9/21
ISBN：9786267889749
書籍編號：kk0613165
頁數：816
定價：
1280
元
一般會員價：
79
折
1,011
元
特別會員價：
75
折
960
元
書價若有異動，以出版社實際定價為準
訂購後立即為您進貨
優惠期限：2026 年 10 月 6 日止
訂購後立即為您進貨：目前無庫存量,讀者下訂後,開始進入調書程序,一般天數約為2-10工作日(不含例假日)。
團購數最低為 15 本以上
評價數：
(請將滑鼠移至星星處進行評價)
目前平均評價：
文字連結
複製語法
<a href='http://www.silkbook.com/book_detail.asp?goods_ser=kk0613165'>萬顆GPU的訓練：分散式機器學習 — 系統工程與實戰 (好評熱銷版)</a>
圖片連結
複製語法
<a href='http://www.silkbook.com/book_detail.asp?goods_ser=kk0613165'><img src='http://www.silkbook.com/mall_image/bk/kk0613165.jpg' ALT='萬顆GPU的訓練：分散式機器學習 — 系統工程與實戰 (好評熱銷版)' height='120' width='90'></a>
分
享
內容簡介
作者介紹
書籍目錄
同類推薦
萬顆GPU的訓練：分散式機器學習 — 系統工程與實戰 (好評熱銷版) ＊分散式機器學習機礎，包括資料、模型、管線的並行 ＊集合通訊的重要性、參數伺服器PS－Lite ＊PyTorch DataParalle、PyTorch DDP的基礎及動態邏輯 ＊Uber Horovod的原理及實作 ＊GPipe、PyTorch的管線並行及PipeDream基礎架構及實作 ＊Megatron原理及實作、PyTorch的模型並行原理實作 ＊分散式運算的最佳化器 ＊TensorFlow的分散式環境，靜態架構、動態邏輯 ＊分散式架構的策略基礎、MirroredStrategy、ParameterServerStrategy 本書以PyTorch為主體講解，從系統和實踐的角度對分散式機器學習進行整理。 包括了第1篇分散式基礎，介紹了分散式機器學習的基本概念、基礎設施，以及機器學習並行化的技術、框架和軟體系統，然後對集合通訊和參數伺服器PS－Lite進行了介紹。 第2篇介紹資料並行，將計算負載切分到多張卡上，實作為PyTorch及Horovod。 第3篇介紹模型並行，主要說明了張量模型並行及管線模弄並行，讓模型可以放入多節點上。 第4篇NVIDIA Megatron進行分析，講解如何進行層內分割模型並行，然後學習PyTorch如何支援模型並行。 第5篇則是將全書的內容用TensorFlow實作，讓已經熟悉TensorFlow的使用者不必重新學習新的框架。
柳浩 柳浩 網名「羅西的思考」，浙江大學碩士。 曾就職於多家世界500強企業，主導過多個大型項目，現就職於某新能源車企。 技術棧廣博，有豐富的各種大型軟體開發和系統架構經驗，對機器學習框架、微服務框架、大數據引擎、NoSQL、訊息佇列、分散式追蹤系統、可觀測系統、可靠性設計、移動開發方案和源代碼有著深刻的理解和認識。
▍第1篇 分散式基礎 第1章 分散式機器學習 1.1 機器學習概念 1.2 機器學習的特點 1.3 分散式訓練的必要性 1.4 分散式機器學習研究領域 1.5 從模型角度看如何並行 1.6 從訓練併發角度看如何並行 1.7 分散式機器學習程式設計介面 1.8 PyTorch分散式 1.9 總結 第2章 集合通訊 2.1 通訊模式 2.2 點對點通訊 2.3 集合通訊 2.4 MPI_AllReduce 2.5 Ring All－Reduce 第3章 參數伺服器之PS－Lite 3.1 參數伺服器 3.2 基礎模組Postoffice 3.3 通訊模組Van 3.4 代理人Customer 3.5 應用節點實現 ▍第2篇 資料並行 第4章 PyTorch DataParallel 4.1 整體說明 4.2 範例 4.3 定義 4.4 前向傳播 4.5 計算損失 4.6 反向傳播 4.7 總結 第5章 PyTorch DDP的基礎架構 5.1 DDP總述 5.2 設計理念 5.3 基礎概念 5.4 架構和初始化 第6章 PyTorch DDP的動態邏輯 6.1 Reducer類別 6.2 前向/反向傳播 第7章 Horovod 7.1 從使用者角度切入 7.2 horovodrun 7.3 網路基礎和Driver 7.4 DistributedOptimizer 7.5 融合框架 7.6 背景執行緒架構 ▍第3篇 管線並行 第8章 GPipe 8.1 管線基本實現 8.2 梯度累積 8.3 Checkpointing 第9章 PyTorch管線並行 9.1 如何劃分模型 9.2 切分資料和Runtime系統 9.3 前向計算 9.4 計算依賴 9.5 平行計算 第10章 PipeDream之基礎架構 10.1 整體想法 10.2 profile階段 10.3 計算分區階段 10.4 轉換模型階段 第11章 PipeDream之動態邏輯 11.1 Runtime引擎 11.2 通訊模組 11.3 1F1B策略 ▍第4篇 模型並行 第12章 Megatron 12.1 設計想法 12.2 模型並行實現 12.3 如何設置各種並行 12.4 Pipedream的管線刷新 第13章 PyTorch如何實現模型並行 13.1 PyTorch模型並行 13.2 分散式自動求導之設計 13.3 RPC基礎 13.4 上下文相關 13.5 如何切入引擎 13.6 自動求導引擎 第14章 分散式最佳化器 14.1 原生最佳化器 14.2 DP的最佳化器 14.3 DDP的最佳化器 14.4 Horovod的最佳化器 14.5 模型並行的分散式問題 14.6 PyTorch分散式最佳化器 14.7 PipeDream分散式最佳化器 ▍第5篇 TensorFlow分散式 第15章 分散式運行環境之靜態架構 15.1 整體架構 15.2 Server 15.3 Master的靜態邏輯 15.4 Worker的靜態邏輯 第16章 分散式運行環境之動態邏輯 16.1 Session機制 16.2 Master動態邏輯 16.3 Worker動態邏輯 16.4 通訊機制 第17章 分散式策略基礎 17.1 使用TensorFlow進行分散式訓練 17.2 DistributedStrategy基礎 17.3 分散式變數 第18章 MirroredStrategy 18.1 MirroredStrategy集合通訊 18.2 MirroredStrategy分發計算 第19章 ParameterServerStrategy 19.1 ParameterServerStrategyV1 19.2 ParameterServerStrategyV2 19.3 ClusterCoordinator
Google Gem
ChatGPT 對話
輕鬆學會RAG實作開
ChatGPT ×
Claude Cod
OpenClaw 實
現代 AI 全景聖經
用 macOS 完整
AI時代不缺席 －
AI 驅動開發 －
Q1：若我已報名付了1000元訂金，接下來我要做什麼？ A：感謝您報名，後續相關事情及服務我們會以e-mail和電話跟您聯絡. 您也可以主動來信(andy@book4u.com.tw)詢問。謝謝！ Q2：我本身並沒有產品和服務，也沒什麼實務上的經驗，那又能如何賺錢呢？這個課程真的有實際成效嗎？ A：我們這個課程共有11項贈品，其中第2項贈品便是資訊產品創造藍圖，它將教您如何用最簡潔而快速的方法創出屬於您自己的資訊產品。一般的課程大多是教您如何捕魚，但多數的成功致富者，其成功的關鍵卻不是仰賴捕魚技術，而是仰賴借力之術，因為唯有借力才能無中生有！才能快速成長！也才能快速致富！本課程3天共有三套樣版，其中一套樣版便是教您打造在沒有任何商品與服務，也沒有任何資源的情況下，就能快速借力致富的樣版！本課程二位講師都是白手起家，對於沒有實務經驗的新手會格外用心，請放心。 Q3：請問贈品中魚池矩陣直效聯盟VVIP是什麼？ A：這是一個強大的系統，而我們送的是體驗版，會提供你Email追客系統。國外有一種函授課程，亦即每幾天發一個課程給學員， 就是用EMAIL追客系統來實踐。EMAIL追客系統簡單的說就是今天有一個客戶在你的網站上購買產品或註冊，系統會自動回覆一封確認信，之後你可以自行設計發送內容和發信時間一次一對多發給客戶，而且每封信還會帶入客戶本身的姓名。讓客戶以為是我們專門為客戶所量身訂作的信件。所以Email追客系統可以讓你培養跟客戶的信任感，進而成交。 Q4：請問贈品中資訊產品創造藍圖是什麼？ A：這是一位叫林星?老師的課程，課程售價是9800元，現在免費送給你。此課程包含： ● 何謂資訊型產品？ ● 資訊型產品的種類大解析！以及如何組織你的資訊型產品賺錢？ ● 如何找到你的利基市場？ ● 為什麼錯的利基市場，再好的產品與行銷也很難有效！ ● 29個國外已經證實能讓你賺到錢的利基市場！ ● 如何確保你做出來的產品客戶會很想購買？以及實際可執行的步驟！ ● 創造資訊型產品計劃書 ● 15個步驟建立你的資訊型產品事業 ● E-mail精準行銷的10個法則 ● 10個別人沒有告訴你的有效文案撰寫法則 Q5：請問贈品中自動財富系統 6片DVD是什麼？ A：此6片DVD定價3200元。內容為《借力淘金！最吸利的鈔級魚池賺錢術》作者之一王紫杰所錄製的DVD，內容為有關網路行銷的知識和技巧，非常豐富且實用，免費送給您。
為了保障您的權益，新絲路網路書店所購買的商品均享有到貨七天的鑑賞期（含例假日）。退回之商品必須於鑑賞期內寄回（以郵戳或收執聯為憑），且商品必須是全新狀態與完整包裝(商品、附件、內外包裝、隨貨文件、贈品等)，否則恕不接受退貨。
