3.基线评测效果
本项目分别基于-1.0、Bert-base--Gram 3 个中文预训练模型训练了单塔 -wise 的匹配模型, 基于 -Gram 的模型效果显著优于其它 2 个预训练模型。
此外，在 -Gram 模型基础上我们也对最新的正则化策略 R-Drop 进行了相关评测, R-Drop 策略的核心思想是针对同 1 个训练样本过多次前向网络得到的输出加上正则化的 Loss 约束。
我们开源了效果最好的 2 个策略对应模型的 作为本次比赛的基线方案: 基于 -Gram 预训练模型 R-Drop 系数分别为 0.0 和 0.1 的 2 个模型, 用户可以下载相应的模型来复现我们的评测成果。
模型 -A -B -1.0-.086.9676.2077.-base-.086.9376.9077.60-gram-zh0.087.6680.8081.20-gram-zh0.187.9180.2080.-gram-zh0.287.4780.1081.004.最终成果仅执行一次没有表头遇到读不进来得设置=分开符设置 sep=’\t’%cd~
/home/
as pd
= pd.('//', sep = '\t',=None) = pd.('/OPPO/', sep = '\t',=None) = pd.('/BQ/', sep="\t", =None,=)b' line : 3 , saw 4\ line : 3 , saw 4\ line : 3 , saw 4\ line : 3 , saw 4\n'
=.().head()0120喜欢打篮球的男生喜欢什么样的女生爱打篮球的男生喜欢什么样的女生11我手机丢了，我想换个手机我想买个新手机，求推荐12大家觉得她好看吗大家觉得跑男好看吗？03求秋色之空漫画全集求秋色之空全集漫画14晚上睡觉带着耳机听音乐有什么害处吗？孕妇可以戴耳机听音乐吗?0
=.().head()0120充电提示音开启充电提示音01那叫你帮我找在这里香肠派对吗那麻烦帮我定下位好吗02导航去大理导航去观音桥手环怎么连接手机如何连接oppo 手环14我也没感觉我也没感触1
.head()0120用微信都6年，微信没有微粒贷功能4。 号码来微粒贷0.01微信消费算吗还有多少钱没还0.02交易密码忘记了找回密码绑定的手机卡也掉了怎么最近安全老是要改密码呢好麻烦0.03你好 我昨天晚上申请的没有打电话给我 明天之内一定会打吗？什么时候可以到账0.04“微粒贷开通"你好，我的微粒贷怎么没有开通呢0.0
=.()[2]=[2].(int)
.head(10)0120用微信都6年，微信没有微粒贷功能4。 号码来微粒贷01微信消费算吗还有多少钱没还02交易密码忘记了找回密码绑定的手机卡也掉了怎么最近安全老是要改密码呢好麻烦03你好 我昨天晚上申请的没有打电话给我 明天之内一定会打吗？什么时候可以到账04“微粒贷开通"你好，我的微粒贷怎么没有开通呢05为什么告贷后一直没有给我回拨电话怎么申请告贷后没有打电话过来呢！16为什么我每次都提前还款了最后却不给我贷款了30号我一次性还清可以不07请问一天是否都是限定只能转入或转出都是五万。微众多少可以赎回短期理财08微粒咨询电话号码多少你们的人工客服电话是多少19已经在银行换了新预留号码。我现在换了电话号码，这个需要更换吗1
= .() = .()
.info
.info 喜欢打篮球的男生喜欢什么样的女生爱打篮球的男生喜欢什么样的女生11我手机丢了，我想换个手机我想买个新手机，求推荐12大家觉得她好看吗大家觉得跑男好看吗？03求秋色之空漫画全集求秋色之空全集漫画14晚上睡觉带着耳机听音乐有什么害处吗？孕妇可以戴耳机听音乐吗?0......... ..申请的额度能取现吗取现一次性取完可以吗利钱与罚息如何计算咱这个利钱多高啊如何申请货款怎样开通我微粒贷多久才有贷款凌晨以后的申请何时到账你好 我要换卡怎么换 我卡掉了换卡失败0[ rows x 3 ]
=[0]=[1][1]=[0].head()0120爱打篮球的男生喜欢什么样的女生爱打篮球的男生喜欢什么样的女生11我想买个新手机，求推荐我想买个新手机，求推荐12大家觉得跑男好看吗？大家觉得跑男好看吗？03求秋色之空全集漫画求秋色之空全集漫画14孕妇可以戴耳机听音乐吗?孕妇可以戴耳机听音乐吗?0
=.()
.('.csv', sep = '\t', =None, =None)!head .csv
爱打篮球的男生喜欢什么样的女生爱打篮球的男生喜欢什么样的女生1我想买个新手机，求推荐我想买个新手机，求推荐1大家觉得跑男好看吗？大家觉得跑男好看吗？0求秋色之空全集漫画求秋色之空全集漫画1孕妇可以戴耳机听音乐吗?孕妇可以戴耳机听音乐吗?0手机学日语的软件手机学日语的软件1如何把带无线的电脑连接到打印机上如何把带无线的电脑连接到打印机上0侠盗飞车罪恶都市怎么改车侠盗飞车罪恶都市怎么改车1什么花一年四季都是开的什么花一年四季都是开的1看图猜电影！看图猜电影！15.合并测试集
仅执行一次
= pd.('//dev', sep = '\t', =None) = pd.('/OPPO/dev', sep = '\t', =None) = pd.('/BQ/dev', sep="\t", =None, =)= .() = .().()0120开初婚未育证明怎么弄？初婚未育情况证明怎么开？11谁知道她是网络美女吗？爱情这杯酒谁喝都会醉是什么歌02人和畜生的区别是什么？人与畜生的区别是什么！13男孩喝女孩的尿的故事怎样才知道是生男孩还是女孩04这种图片是用什么软件制作的？这种图片制作是用什么软件呢？1............9995您好，我还款了怎么还没扣款明天一直没有扣款有接洽方式吗？电话号码是多少昨天打的电话我没接到我开通却总是接不到你们的电话.05%是日利率如何告贷，利钱如何计算不使用可以关闭吗？额度申请成功后会短信通知吗0
!pip -U2.修改相关参数
据悉这个效果好，精度高，我来试试
45行.("--", =30, type=int, help=" of to .")47行.('--', =500, type=int, help="Step for .")202行if % args. == 0 and rank == 0 and :3.开始训练%cd ~////
/home/////
! -u -m .. --gpus "0" .py \-- /home//.csv \-- /home//.csv \-- gpu \-- 1000 \-- ./ \-- 50 \-- 0.0 \--seed 1024 \-- 1三、预测1.A TEST
修改////.py,让成果输出到 .csv
with open('.csv','w') as f:for idx, in () = [idx][""] = ()f.(str()+'\n')%cd ~////
! -u \.py \-- \-- ".///." \-- 128 \-- "${}" \-- ""2.查看!head .csv3. 下载并提交即可