如何评价RoBERTa? - 知乎
roberta 是bert 的一个完善版，相对于模型架构之类的都没有改变，改变的只是三个方面： 预训练数据： BERT采用了BOOKCORPUS 和英文维基百科， 总共16GB。 而 RoBERTa采用 …
“追星”Transformer（七）：RoBERTa——“鲁棒版BERT”
RoBERTa认为BERT的符号化粒度还是过大，无法克服很多稀有词汇容易产生“OOV”的问题。 为了解决上述问题，RoBERTa借鉴了GPT-2.0的做法，使用力度更小的 字节级BPE （byte-level …
2025年还有哪些模型可以用来文本分类？ - 知乎
2025年还有哪些模型可以用来文本分类？ 曾经的Bert,roberta现在还是最佳选择吗？ 显示全部 关注者 8 被浏览
BERT and RoBERTa 知识点整理有哪些？ - 知乎
Sep 15, 2021 · RoBERTa：每次给模型看这句话的时候，才 临时、随机地 选择一些词进行 Mask。 这意味着模型每次看到的同一句话，要填的“空”都可能不一样。 更大规模 更多的训练 …
[读论文] RoBERTa: 健壮优化的 BERT 预训练方法 - 知乎
论文题目：RoBERTa: A Robustly Optimized BERT Pretraining Approach 作者单位： 华盛顿大学 保罗·艾伦计算机科学与 工程学院，FaceBook AI 这篇文章是 BERT 系列模型和 XLNet 模型的 …
大模型面试：八股文+题目整理 - 知乎
NLP、算法、大模型、Python编程在 Transformer 出现之前，序列建模主要依赖循环神经网络（RNN）及其改进版本 LSTM 和 GRU，它们通过递归结构逐步处理序列，适用于语言建模、 …
如何评价RoBERTa? - 知乎
RoBERTa将训练数据“拉满”至161G，同样采用8K的批次规模和100K的步训练步数，测评结果显示，模型效果相较RoBERTa在第一组实验中的表现有进一步提升。
Roberta为什么不需要token_type_ids? - 知乎
Feb 19, 2021 · Roberta为什么不需要token_type_ids? 在Bert和Albert预训练模型中，token_type_ids值为0或1来区分token属于第一句还是第二句，为什么Roberta里不需要呢？
2021年了，有哪些效果明显强于bert和roberta的预训练模型？ - 知乎
英文领域： deberta v3：微软开源的模型，在许多任务上超过了bert和roberta，现在kaggle中比较常用此模型打比赛，也侧面反映了deberta v3的效果是最好的。 ernie 2.0：这个百度是只开源 …
现在的BERT等语言模型，最快训练要多久？ - 知乎
大概就是说你要达到RoBERTa base的效果，那么就必须付出大致相当于训练RoBERTa base的算力，就算你把Self Attention换成CNN、RNN、MLP都是这样，因为Transformer之所以慢，是 …