is CIR contrastive loss removed? about inttower

[archersama]

1.对比学习在这里比较难以调优，于是进行了清除
2.对比学习使用正样本的分数/总的样本分数，所以利用y进行索引正样本，这里是一种计算技巧，你可以带入一些case计算一下，结果没问题

[skks11]

谢谢你的 解答, 另外最近又发现一个现象 就是比如dssm 或者 inttower 训完一个movielens的双塔模型后 得到所有user 和 item的 embedding，然后可以item之间算similarity 或者算user-item的similarity, 然后我发现 排在前面的cos_sim都是1.0 或者0.99x, 这样的打分有很多, 远远超过正样本的数量 感觉不太正常? 然后全movie 的召回 最后指标也比较差

[skks11]

谢谢你的 解答, 另外最近又发现一个现象 就是比如dssm 或者 inttower 训完一个movielens的双塔模型后 得到所有user 和 item的 embedding，然后可以item之间算similarity 或者算user-item的similarity, 然后我发现 排在前面的cos_sim都是1.0 或者0.99x, 这样的打分有很多, 远远超过正样本的数量 感觉不太正常? 然后全movie 的召回 最后指标也比较差

ranking的AUC指标是没问题的, 但是既然是双塔 我就想试试召回 发现结果比较奇怪

[archersama]

这个模型是用于粗排的，用的point wise的loss，召回双塔建议使用负采样以及使用pair wise的loss