CUDA 編程與 GPU 并行計算培訓(xùn)課程
課程名稱:CUDA 編程與 GPU 并行計算實(shí)戰(zhàn)
培訓(xùn)對象
高性能計算應(yīng)用開發(fā)人員、算法工程師、計算機(jī)視覺開發(fā)者及科學(xué)計算研究人員。
培訓(xùn)目標(biāo)
-
掌握 CUDA 編程模型與線程層次結(jié)構(gòu)(Grid、Block、Thread)。
-
理解 GPU 內(nèi)存層次(全局內(nèi)存、共享內(nèi)存、寄存器)與優(yōu)化策略。
-
能夠獨(dú)立編寫并優(yōu)化 CUDA 內(nèi)核函數(shù),解決實(shí)際計算問題。
培訓(xùn)內(nèi)容介紹
-
GPU 計算概述:GPU 與 CPU 架構(gòu)對比(多核并行 vs 眾核并行);GPU 適合處理的并行模式(數(shù)據(jù)并行);CUDA 生態(tài)系統(tǒng)簡介(CUDA Toolkit、cuBLAS、cuFFT)。
-
CUDA 編程模型:主機(jī)與設(shè)備的區(qū)分;內(nèi)核函數(shù)(Kernel)的定義與啟動;線程層次結(jié)構(gòu)(Grid、Block、Thread)。
-
內(nèi)存模型:全局內(nèi)存(Global Memory);共享內(nèi)存(Shared Memory);寄存器(Registers);常量內(nèi)存(Constant Memory);紋理內(nèi)存(Texture Memory)。
-
線程索引與數(shù)據(jù)映射:內(nèi)置變量(threadIdx、blockIdx、blockDim、gridDim);線程與數(shù)據(jù)的映射策略;處理任意大小數(shù)據(jù)的方法。
-
共享內(nèi)存與同步:共享內(nèi)存的聲明與使用;塊內(nèi)同步(__syncthreads());線程束(Warp)的概念與線程束級編程。
-
合并訪問:全局內(nèi)存的合并訪問條件;數(shù)組結(jié)構(gòu)體 vs 結(jié)構(gòu)體數(shù)組;對齊要求對性能的影響。
-
原子操作:原子函數(shù)的種類(atomicAdd、atomicMin、atomicCAS);原子操作的性能代價;無原子操作的替代方案。
-
CUDA 流與并發(fā):CUDA 流的概念;內(nèi)存?zhèn)鬏斉c計算的重疊;多個內(nèi)核的并發(fā)執(zhí)行;事件管理。
-
性能分析工具:NVIDIA Nsight Systems 的使用;NVIDIA Nsight Compute 的指標(biāo)分析;熱點(diǎn)識別與瓶頸診斷。
-
CUDA 庫的使用:cuBLAS 線性代數(shù)庫;cuFFT 快速傅里葉變換庫;Thrust 模板庫;與自定義內(nèi)核的混合編程。
-
動態(tài)并行與高級特性:CUDA 動態(tài)并行(在 GPU 上啟動新內(nèi)核);CUDA 統(tǒng)一內(nèi)存(Unified Memory);CUDA Graphs 優(yōu)化內(nèi)核啟動開銷。
-
綜合實(shí)戰(zhàn)項(xiàng)目:實(shí)現(xiàn)并優(yōu)化矩陣乘法(GEMM)或卷積運(yùn)算,對比不同優(yōu)化策略(共享內(nèi)存、合并訪問、向量化)的性能提升。
如果您想學(xué)習(xí)本課程,請
預(yù)約報名
如果沒找到合適的課程或有特殊培訓(xùn)需求,請
訂制培訓(xùn)
除培訓(xùn)外,同時提供相關(guān)技術(shù)咨詢與技術(shù)支持服務(wù),有需求請發(fā)需求表到郵箱soft@info-soft.cn,或致電4007991916
技術(shù)服務(wù)需求表下載請點(diǎn)擊
服務(wù)優(yōu)勢:
豐富專家資源,精準(zhǔn)匹配相關(guān)行業(yè),相關(guān)項(xiàng)目技術(shù)精英,面向用戶實(shí)際需求,針對性培訓(xùn)或咨詢,互動式交流,案例教學(xué),精品小班,實(shí)際工程項(xiàng)目經(jīng)驗(yàn)分享,快捷高效,節(jié)省時間與金錢,少走彎路與錯路。
專家力量:
中國科學(xué)院相關(guān)研究所高級研究人員
西門子,TI,vmware,MSC,Ansys,MDI,Mentor, candence,Altium,Atmel 、Freescale,達(dá)索,華為等
大型公司高級工程師,項(xiàng)目經(jīng)理,技術(shù)支持專家
中科信軟培訓(xùn)中心,資深專家或講師
大多名牌大學(xué),碩士以上學(xué)歷,相關(guān)學(xué)歷背景專業(yè),理論素養(yǎng)高
多年實(shí)際項(xiàng)目實(shí)踐,大型復(fù)雜項(xiàng)目實(shí)戰(zhàn)案例分享,熱情,樂于技術(shù)分享
針對客戶實(shí)際需要,真實(shí)案例演示,互動式溝通,學(xué)有所值