廣宣學堂為您推出機器學習系列之 NLP實戰學程
廣宣學堂課程 NLP11 進階系列 - BERT 技術實作坊。
BERT自從 2018 年下半年推出以來，帶動了自然語言領域一個新的突破，也刷新了多項紀錄。預訓練語言模型開啟了 NLP 新的一頁。本課程會實作家族系列的數個模型: 如 Transformer、 BERT，運用最新的 Tensorflow 2.0，針對模型本身的各個詳細機制，如 position encoding、masking、attention、multi-head attention 等等，以及做 visualization 。 Jerry 老師為國內自然語言的高手、 Google 認證之GDE (開發專家)，高手教學，內容精彩可期。
面對面近距離請益吸收，接受尖端技術，機會難得。
課程內容:
六小時名師高品質教學、詳細研究、精華一次吸收
11/9 (六) 9:30~12:30 / 13:30~16:30 (準時開始，時段以當場狀況為準，中午自行用餐)
1. ELMO / GPT / Bert / XLNet介紹
2. Tensorflow的Transformer實作
- Positional encoding
- Masking
- Scaled dot product attention
- Multi-head attention
3. Keras的BERT實作與應用
- Tokenizer
- AdamWarmup
- Model Training
- 應用 : Extract Word Embeddings
- 應用 : Context Prediction
- BONUS : BERT visualization
4. BERT Service
- BERT Service 教學
- 置換目前流行的數個預訓練模型
建議參與學員對 Python、Tensorflow、Keras、numpy 有基本程度之了解
六小時精彩扼要課程、高手經驗、句句精華。（講師依學員實際狀況動態調整進度）
廣宣學堂 NLP 學程 循環重開，口碑保證，系列完整。