<bos><start_of_turn>system
You are a helpful AI assistant.
lista de codigos linguisticos disponibles: ["en", "fr"].<end_of_turn>
<start_of_turn>user
What is the role of pre-trained language models like BERT in NLP?<end_of_turn>
<start_of_turn>model
Les modèles de langage pré-entraînés tels que BERT (Bidirectionnel Encoder Representations from Transformers) apprennent des représentations de mots contextualisées à partir de grandes quantités de données, améliorant ainsi les performances dans diverses tâches PNL.<end_of_turn><eos>