readme: ---
  language: 
  - pt
  tags:
  - generated_from_trainer
  datasets:
  - lener_br
  metrics:
  - precision
  - recall
  - f1
  - accuracy
  model-index:
  - name: checkpoints
    results:
    - task:
        name: Token Classification
        type: token-classification
      dataset:
        name: lener_br
        type: lener_br
      metrics:
      - name: F1
        type: f1
        value: 0.8926146010186757
      - name: Precision
        type: precision
        value: 0.8810222036028488
      - name: Recall
        type: recall
        value: 0.9045161290322581
      - name: Accuracy
        type: accuracy
        value: 0.9759397808828684
      - name: Loss
        type: loss
        value: 0.18803243339061737
  widget:
  - text: "Ao Instituto Médico Legal da jurisdição do acidente ou da residência cumpre fornecer, no prazo de 90 dias, laudo à vítima (art. 5, § 5, Lei n. 6.194/74  de 19 de dezembro de 1974), função técnica que pode ser suprida por prova pericial realizada por ordem do juízo da causa, ou por prova técnica realizada no âmbito administrativo que se mostre coerente com os demais elementos de prova constante dos autos."
  - text: "Acrescento que não há de se falar em violação do artigo 114, § 3º, da Constituição Federal, posto que referido dispositivo revela-se impertinente, tratando da possibilidade de ajuizamento de dissídio coletivo pelo Ministério Público do Trabalho nos casos de greve em atividade essencial."
  - text: "Dispõe sobre o estágio de estudantes; altera a redação do art. 428 da Consolidação das Leis do Trabalho – CLT, aprovada pelo Decreto-Lei no 5.452, de 1o de maio de 1943, e a Lei no 9.394, de 20 de dezembro de 1996; revoga as Leis nos 6.494, de 7 de dezembro de 1977, e 8.859, de 23 de março de 1994, o parágrafo único do art. 82 da Lei no 9.394, de 20 de dezembro de 1996, e o art. 6o da Medida Provisória  no 2.164-41, de 24 de agosto de 2001; e dá outras providências."
  ---
  
  ## (BERT base) NER model in the legal domain in Portuguese (LeNER-Br)
  
  **ner-bert-base-portuguese-cased-lenerbr** is a NER model (token classification) in the legal domain in Portuguese that was finetuned on 20/12/2021 in Google Colab from the model [pierreguillou/bert-base-cased-pt-lenerbr](https://huggingface.co/pierreguillou/bert-base-cased-pt-lenerbr) on the dataset [LeNER_br](https://huggingface.co/datasets/lener_br) by using a NER objective.
  
  Due to the small size of BERTimbau base and finetuning dataset, the model overfitted before to reach the end of training. Here are the overall final metrics on the validation dataset (*note: see the paragraph "Validation metrics by Named Entity" to get detailed metrics*):
    - **f1**: 0.8926146010186757
    - **precision**: 0.8810222036028488
    - **recall**: 0.9045161290322581
    - **accuracy**: 0.9759397808828684
    - **loss**: 0.18803243339061737
    
  Check as well the [large version of this model](https://huggingface.co/pierreguillou/ner-bert-large-cased-pt-lenerbr) with a f1 of 0.908.
  
  **Note**: the model [pierreguillou/bert-base-cased-pt-lenerbr](https://huggingface.co/pierreguillou/bert-base-cased-pt-lenerbr) is a language model that was created through the finetuning of the model [BERTimbau base](https://huggingface.co/neuralmind/bert-base-portuguese-cased) on the dataset [LeNER-Br language modeling](https://huggingface.co/datasets/pierreguillou/lener_br_finetuning_language_model) by using a MASK objective. This first specialization of the language model before finetuning on the NER task improved a bit the model quality. To prove it, here are the results of the NER model finetuned from the model [BERTimbau base](https://huggingface.co/neuralmind/bert-base-portuguese-cased) (a non-specialized language model):
    - **f1**: 0.8716487228203504
    - **precision**: 0.8559286898839138
    - **recall**: 0.8879569892473118
    - **accuracy**: 0.9755893153732458
    - **loss**: 0.1133928969502449
    
  ## Blog post
  
  [NLP | Modelos e Web App para Reconhecimento de Entidade Nomeada (NER) no domínio jurídico brasileiro](https://medium.com/@pierre_guillou/nlp-modelos-e-web-app-para-reconhecimento-de-entidade-nomeada-ner-no-dom%C3%ADnio-jur%C3%ADdico-b658db55edfb) (29/12/2021)
    
  ## Widget & App
  
  You can test this model into the widget of this page.
  
  Use as well the [NER App](https://huggingface.co/spaces/pierreguillou/ner-bert-pt-lenerbr) that allows comparing the 2 BERT models (base and large) fitted in the NER task with the legal LeNER-Br dataset.
  
  ## Using the model for inference in production
  ````
  # install pytorch: check https://pytorch.org/
  # !pip install transformers 
  from transformers import AutoModelForTokenClassification, AutoTokenizer
  import torch
  
  # parameters
  model_name = "pierreguillou/ner-bert-base-cased-pt-lenerbr"
  model = AutoModelForTokenClassification.from_pretrained(model_name)
  tokenizer = AutoTokenizer.from_pretrained(model_name)
  
  input_text = "Acrescento que não há de se falar em violação do artigo 114, § 3º, da Constituição Federal, posto que referido dispositivo revela-se impertinente, tratando da possibilidade de ajuizamento de dissíd