train_m3e细节 about uniem

[wangyuxinwhy]

text2vec-base-chinese

这有可能是基础模型的问题，可能 hfl/roberta 没有 hfl/macbert 适合你的使用场景。另外，微调的程度不同，模型的灾难性遗忘水平也不同。如果你微调的轮数比较多，那么模型的能力可能主要就取决于架构了，之前学习到的参数分布可能就不重要了（遗忘掉了）。当然，上述都是猜测，我只是根据过往的经验来推断的。

[wangyuxinwhy]

这个变量有点太多了，我没仔细研究过 text2vec 的代码... 我需要去调研一下，之后做一些实验才能解答。

数据层面上，max_length 是不是一致的？我记得 text2vec 的 max_length 好像默认不是 512

[kuku1128]

首先感谢答复！

max_length我也改成512了

此外，我还有个疑问：直接拿text2vec-base-chinese和m3e-model在我们自己的数据集上预测，m3e-model的指标明显高于text2vec-base-chinese，但是用我们的数据fintune后，m3e-model反而微弱于text2vec-base-chinese，这是为啥呀？