readme: ---
  
  language: zh
  widget:
  - text: "总[MASK]是水环境中的重要污染物。"
  - text: "气[MASK]变化是重要的全球环境问题。"
  
  tags:
  - pretrain
  - pytorch
  - environment
  ---
  
  环境领域的中文预训练Bert模型，在hlf/chinese-bert-wwm-ext的基础上进行训练，旨在学习到中文表达后进一步学习到环境领域的专业知识。
  1.5G的预训练语料包括水环境、大气环境、土壤环境、气候变化、中文期刊、国家政策等内容。
  
  项目正在进行中，后续会陆续更新相关内容。  
  清华大学环境学院课题组  
  有相关需求、建议，联系bi.huaibin@foxmail.com