廣宣學堂為您推出機器學習系列之 NLP實戰學程
廣宣學堂課程 NLP11 進階系列 - BERT 技術實作坊。
BERT自從 2018 年下半年推出以來,帶動了自然語言領域一個新的突破,也刷新了多項紀錄。預訓練語言模型開啟了 NLP 新的一頁。本課程會實作家族系列的數個模型: 如 Transformer、 BERT,運用最新的 Tensorflow 2.0,針對模型本身的各個詳細機制,如 position encoding、masking、attention、multi-head attention 等等,以及做 visualization 。 Jerry 老師為國內自然語言的高手、 Google 認證之GDE (開發專家),高手教學,內容精彩可期。
面對面近距離請益吸收,接受尖端技術,機會難得。
課程內容:
六小時名師高品質教學、詳細研究、精華一次吸收
7/20 (六) 9:30~12:30 / 13:30~16:30 (準時開始,時段以當場狀況為準,中午自行用餐)
1. ELMO / GPT / Bert / XLNet介紹
2. Tensorflow的Transformer實作
- Positional encoding
- Masking
- Scaled dot product attention
- Multi-head attention
3. Keras的BERT實作與應用
- Tokenizer
- AdamWarmup
- Model Training
- 應用 : Extract Word Embeddings
- 應用 : Context Prediction
- BONUS : BERT visualization
建議參與學員對 Python、Tensorflow、Keras、numpy 有基本程度之了解
六小時精彩扼要課程、高手經驗、句句精華。(講師依學員實際狀況動態調整進度)
廣宣學堂 NLP 學程 循環重開,口碑保證,系列完整學習