技術新知
- FCUAI 最強AI!ChatGPT 真的這麼厲害嗎?來看微軟 MVP 怎麼說
ChatGPT 是一個人工智慧聊天機器人程式,使用基於 GPT 3.5 架構的大型語言模型並透過強化學習進行訓練。 由 OpenAI 開發,於2022年11月推
-
Text Summarization with Pretrained Encoders:如何將 BERT 應用在 Text Summarization Task 上Abstract 不管要解任何問題,從 BERT、ELMo、GPT 等等,這些大家琅琅上口的各種預訓練模型開始進行,在 NLP 領域基本已經變成起手式。筆者今天
-
SimCSE:Contrastive Learning 在 NLP 的應用,Sentence Embedding 的新 SOTAAbstract: 去年(2020)在 Computer Vision 領域,Contrastive Learning(CL,對比學習)顯得風風火火,許多用上
- FCUAI Mixed Precision Training(Pytorch 範例程式)
Mixed precision training 是由百度與 NVIDIA 發表於 ICLR 2018 的論文,其提出一種訓練方法,使得在使用 half pre
