[MOT Challenge]官方生成多目标跟踪算法性能评价指标结果,解决test数据集没有gt文件和官网注册问题

文章目录

前言

最近在做一个多目标跟踪相关项目,搞过多目标跟踪的都知道MOT Challenge这个benchmark数据集,其包含MOT15,MOT16等多个数据集,每个数据集又可以划分为test和train两类。

但是,官方提供的test数据集是不包含gt.txt的(即真实跟踪框的标注信息),所以我们无法用motmetrics得到MOTA,IDF1等性能结果。因为官方想避免某些人根据这些gt信息,拟合出性能看起来很高的算法,类似于拿着答案来考试,从而影响算法真实表现。

故我们需要将自己在本地得到gt.txt结果上传(submit)到官方,让官方给我们返回性能指标评测结果:

上传gt需要你注册一个官网账号,而注册账号和上传数据集流程又容易遇到坑,故我将自己的实现流程记录一下,帮助后来者。

一、账号注册

进入官网注册页面:https://motchallenge.net/register/

Affiliation填学校全名,Supervisor填导师英文名。

容易出现的问题主要是邮箱这块:

1.不要用QQ或163或gmail邮箱

这是国内常用的几个邮箱,一旦填入后,注册页面会显示以下信息:

要用学校的edu邮箱进行注册(基本每个大学都有免费办理自己edu.cn邮箱的渠道,自己可以去官网看看),导师的邮箱也需要用后缀为edu的邮箱。就跟论文投稿一样,用qq邮箱发送的邮件容易给收入垃圾箱,用edu邮箱的话比较正规。

2.正常注册流程

edu邮箱注册后,注册页面会提醒“你的账号正在接受审核”,接下来只要等官方发邮件到你邮箱就行。

第一封邮件是告诉你审核通过,让你到指定链接填写你的密码和其他信息,填完后提交会收到第二份邮件。
第二封邮件是让你点击指定链接进行账号激活

激活后就大功告成了。

也有人的情况是用edu邮箱注册后一直没反应(比如我),这时候一般需要写封小作文给官网邮箱info@motchallenge.net。跟管理员说明自己来自哪个学校,要用MOT干嘛干嘛,非商用,导师是谁,导师谷歌学术网站是什么等等等。
我发完邮件后的第三天就收到了对方的回信,然后就顺利注册成功了。

二、上传gt流程


官方其实写的很清楚了,要创建不同的方法,选择不同的数据集,最后将自己的所有gt文件(比如将MOT16-01 到 MOT16-14的所有gt.txt打包成压缩文件上传,注意test和train里的图片序列都要进行推理!)进行打包上传即可。

这里的主要问题有两个:
1.结果没法频繁上传评测(72小时一次,一个MOT数据集只能上传4次结果!),过于频繁还可能给ban,估计这也是为什么Tao宝上没有代测的服务,因为次数有限制。

2.官方的数据集里其实是用了自己的detector(DPM v5 ,ACF)来得到检测框,这些检测框信息也存在数据集的det文件夹下,如果你用的是自己的检测器,比如YOLOv5,官方会建议你将检测器也发给他们,但其实这个不影响。

1.使用步骤

创建Method:

点击Create new method,因为我用的是MOT系列数据集,我直接在MOT模块下Create,信息自己随意填即可:


创建完方法后点击右边的Submit


选择自己的要用来测试的数据集(我这里选MOT15),填写自己硬件数据,推理时间,和训练数据集范围,硬件数据和推理时间自己随意看着填。

填完后可以看到自己的方法下多了行MOT15的Challenge,点击Submit Results:

根据它的要求按顺序摆放好gt.txt的顺序,打包成压缩文件上传即可:
这里可能会有人上传的时候会遇到 Wrong number of result files! 0 results found in archive, but XXX needed. Please make sure sure that all required txt files are in the root folder of the zip archive,这个问题是因为你对一整个文件夹进行了压缩,其实是错的,正确的做法是右键全选所有txt文件,比如有10个txt文件,全选后进行压缩,这样上传才不会有错误。

上传后,可以看到Submit Results就不再给上传Not allowed(72h后刷新),单击Challenge里的MOT15就能看到自己上传的数据了。

我这里以MOT16为例,点击后可以看到性能指标:

总结

以上就是MOT Challenge的使用方法。

文章出处登录后可见!

已经登录?立即刷新

共计人评分,平均

到目前为止还没有投票!成为第一位评论此文章。

(0)
xiaoxingxing的头像xiaoxingxing管理团队
上一篇 2023年11月2日
下一篇 2023年11月2日

相关推荐