小伙伴们表示,插入替换的数据增强方式已经Out了,SimCSE才是现在的靓仔。
抱着一颗好奇的心,想看看这篇SimCSE到底有什么说法,又哪里见鬼了?小花认认真真拜读了原文,今天跟大家分享分享SimCSE用的什么神奇招数。 看完你可能不信,但它真的很神奇! SimCSE的全称是 Simple Contrastive Learning of Sentence Embeddings,S代表Simple。文中的方法完全对得起题目,它是真的简单!简单在哪儿呢?
这么简单的方法,真的work!?WHY? 下面我们一起领略一下这篇文章的风骚吧! 论文题目: 论文链接: SimCSE开篇讨论的问题是:对比学习为何work?写上一篇文的时候,我就在想对比学习为什么work呢?今天看到本文给出了很好的解释。
|
|