【回答问题】ChatGPT上线了!给我推荐20个比较流行的nlp预训练模型
给我推荐20个比较流行的nlp预训练模型
BERT (谷歌)
GPT-2 (OpenAI)
RoBERTa (Facebook)
ALBERT (谷歌)
ELECTRA (谷歌)
XLNet (谷歌/纽约大学)
T5 (OpenAI)
Transformer-XL (谷歌/香港中文大学)
XLM (Facebook)
CTRL (OpenAI)
GPT (OpenAI)
MT-DNN (百度/微软)
ULMFiT (英伟达/卡耐基梅隆大学)
OpenAI GPT-3 (OpenAI)
FlauBERT (哈佛大学/法国国家计算机科学与自动化研究院)
DistilBERT (谷歌)
ERNIE (百度)
DeBERTa (清华大学/谷歌)
SpanBERT (谷歌)
AdaBERT (谷歌)
这些是目前比较流行的 NLP 预训练模型,它们在处理自然语言任务方面都表现出色。
给我推荐20个比较流行的nlp预训练模型源码
非常好!这是 20 个比较流行的 NLP 预训练模型的源码:
BERT: https://github.com/google-research/bert
GPT-2: https://github.com/openai/gpt-2
RoBERTa: https://github.com/pytorch/fairseq/tree/master/examples/roberta
XLNet: https://github.com/zihangdai/xlnet
XLM: https://github.com/facebookresearch/XLM
ALBERT: https://github.com/brightmart/albert_zh
T5: https://github.com/google-research/text-to-text-transfer-transformer
ELECTRA: https://github.com/google-research/electra
BART: https://github.com/pytorch/fairseq/tree/master/examples/bart
ERNIE: https://github.com/PaddlePaddle/ERNIE
Reformer: https://github.com/openai/reformer-pytorch
DeBERTa: https://github.com/google-research/google-research/tree/master/deberta
MT-DNN: https://github.com/namisan/mt-dnn
SpanBERT: https://github.com/facebookresearch/SpanBERT
FlauBERT: https://github.com/flaubert-nlp/flaubert
MASS: https://github.com/huggingface/transformers/tree/master/examples/mass
LXMERT: https://github.com/airKlizz/LXMERT
ONNX-BERT: https://github.com/onnx/models/tree/master/text/bert
DistilBERT: https://github.com/huggingface/transformers/tree/master/examples/distillation/bert
XLM-RoBERTa: https://github.com/pytorch/fairseq/tree/master/examples/xlm_roberta
希望这些源码能帮到你!
相关文章
- 6 个令人惊艳的 ChatGPT 项目
- 【GPT-4】如何利用ChatGPT变现?躺着赚钱不是梦,实现财富自由?写一篇实用教程,不少于10000字,分章节目录。要求逻辑清晰,可执行落地的有时间点,有目标,有操作步骤。看看“它们”怎么说—
- 【ChatGPT】ChatGPT 训练过程原理全解析
- 【人工智能AI】禅与计算机程序设计艺术:文心一言 vs ChatGPT对比:文心一言当然不仅仅只是“问答对话”那么简单,背后是 “人工智能的全栈技术体系”!
- 微软计划在未来几周内使用更快版本的 ChatGPT 更新 Bing
- 【回答问题】ChatGPT上线了!比较流行的强化学习算法
- 【回答问题】ChatGPT上线了!比较流行的监督学习模型
- 【回答问题】ChatGPT上线了!给我推荐20个比较流行的图神经网络模型
- 【回答问题】ChatGPT上线了!给我推荐20个比较流行的图像实例分割模型
- 【回答问题】ChatGPT上线了!给我推荐20个比较流行的AI作画模型!
- 【回答问题】ChatGPT上线了!用给写出可执行的实体链接模型
- 【回答问题】ChatGPT上线了!给我推荐20个比较流行的深度学习模型
- 【回答问题】ChatGPT上线了!推荐30个以上比较好的命名实体识别模型
- 【回答问题】ChatGPT上线了!ChatGPT所有知识截止到了2021年!
- 【回答问题】ChatGPT上线了!如何使用控制算法或动力学模型控制PreScan搭建的仿真环境及相关车辆的运动状态?
- 【回答问题】ChatGPT上线了!在A100和3080平台上使用2080ti的深度学习环境训练的模型进行推理?CPU、GPU是如何变化?
- 【回答问题】ChatGPT上线了!请使用python语言写一个谷歌 LaMDA模型?
- ChatGPT上线了!我在2023年1月2日这一天用上了它!请使用c++写一个bert模型结构?
- 百度文心一言对标 ChatGPT,你怎么看?
- 使用chatgpt实现微信聊天小程序(秒回复),github开源(附带链接)
- 阿里版 ChatGPT 突然上线!
- 【前沿技术】问答pk【ChatGPT Vs Notion AI Vs BAT AI 】
- 别担心,ChatGPT还抢不动你的饭碗