查看“Nlpcc-2019-shared-task”的源代码

== <font color="#FF0000">News </font> <font style="background-color:yellow">（最新消息）</font> == 
* 2019.5.15：发布最新测试数据（无答案）
* 2019.5.20：提交结果deadline

== NLPCC-2019依存句法分析领域移植评测 ==
* [http://tcci.ccf.org.cn/conference/2019/cfpt.php NLPCC-2019评测页面]
* [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/cfp-v2.0.pdf 我们的参赛邀请函pdf]

== 苏州大学汉语依存树库（SUCDT）标注情况介绍 ==
* [http://hlt.suda.edu.cn/index.php/SUCDT 网址]

==数据使用协议==

* [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/sucdt-share-2019.4.3.v2.doc 标注数据使用协议下载]（团队负责人签字，如果是公司，必须是公司法人签字）
* [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/alibaba-unlabeled-data-share-2019.4.4.doc 无标注数据使用协议下载] (机构、学院、学校或公司盖章）
* <font style="background-color:yellow">请仔细阅读两个协议，并根据要求签署两个协议，然后统一发邮件给彭雪同学</font>
* <font style="background-color:yellow">请用机构的官方邮箱发送协议</font>
** <font color="#FF0000">由于版权保护问题，我们只面向机构、单位等团体开放数据；对于公司，我们仅面向从事句法分析研究的公司开放数据，签署协议前请先咨询我们是否有可能共享数据；解释权归我们课题组。</font>
** <font color="#FF0000">如果您不需要无标注数据，那么只需要签署标注数据使用协议。</font>
* <font style="background-color:yellow">您还需要将[http://tcci.ccf.org.cn/conference/2019/dldoc/SharedTaskRegistrationForm.docx NLPCC评测报名表]发送给NLPCC评测组织方，也请同时发给彭雪同学。</font>

== 评测数据下载 ==
* [http://hlt.suda.edu.cn/index.php/Nlpcc-2019-shared-task-Readme 数据说明Readme]
* 训练集/开发集/无标注数据
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/train_dev_2019.4.8.zip 训练集开发集数据 下载]
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/unlabeled_2019.4.8.zip 无标注数据 下载]
** 解压密码，我们收到数据使用协议后回复邮件告知
* <font color="#FF0000">测试集数据 </font> 
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/test_2019.5.15.zip 无答案测试集数据 下载]
** 无答案测试集密码与“训练集开发集数据”解压密码相同
* 预训练词向量下载：我们分别提供了50维、100维、300维的预训练词向量：
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/word_embedding50.zip 50维下载]
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/word_embedding100.zip 100维下载]
** [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/word_embedding300.zip 300维下载]

== <font color="#FF0000">结果提交（2019.5.25 deadline）</font>  ==
*请在2019年5月25日23：59之前提交您的最终结果，您在提交时请注意以下几点
** 测试结果文件请参考 Dev 数据及 Readme，确保每个文件严格采用 CoNLL 格式；
** 测试结果文件中除了包含原有的信息外，还需要在对应列给出您预测出的对应词的核心词head及其依存关系标签label；
** 提交结果时，请将所有测试结果文件打包成一个压缩文件后（zip/tar.gz）发送给彭雪同学（xpeng1117@qq.com），压缩文件的名字为 “队伍名.tar.gz”或“队伍名.zip”，队伍名为英文；
** 压缩文件内请严格按照如下目录/文件命名和组织形式（没有参加的子任务忽略即可），方便我们后续处理：
*** subtask1-un-closed/PC-Test.out.conll
*** subtask1-un-closed/PB-Test.out.conll
*** subtask1-un-closed/ZX-Test.out.conll
*** subtask2-semi-closed/PC-Test.out.conll
*** ... 
*** subtask3-un-open/PC-Test.out.conll
*** ... 
*** subtask4-semi-open/PC-Test.out.conll
*** ... 
** 对于任何一个子任务，所有参赛队伍必须提交PC、PB、ZX 3 个目标领域的测试结果。


== <font color="#FF0000">评测结果</font>  ==

{| class="wikitable"
! style="text-align:left;"|Team
! subtask1
! subtask2
! subtask3
! Average_las
|-
!
!PC  !PB  !ZX
!
!
|- 
| 
| 
| 
|
|}

{| class="wikitable" style="text-align: center;"
|-
! Team
!   colspan="3" | subtask1-un-closed|| colspan="3" | subtask2-semi-closed || colspan="3" | subtask3-un-open || colspan="3" | subtask4-semi-open
|-
!   PC || Recall || F1 || Precision || Recall || F1 
|-
| BiLSTM-CRF + random_emb || 90.30 || 87.76 || 89.01 || 88.49 || 84.27 || 86.33
|-
| BiLSTM-CRF + pre_emb || 87.09 || 90.29 || 88.66 || 85.82 || 88.70 || 87.24
|-
|}

== 评价脚本下载 ==
* [http://hlt.suda.edu.cn/~zhli/nlpcc2019-shared-task/evaluate.py 评价脚本下载]
** 执行命令：python3 evaluate.py gold.conll sys.conll
** 数据集需要为CoNLL格式，与我们提供的数据集格式相同。