言語モデルは、トレーニング情報で発生する単語の統計を予測することによって学習された機械学習モデルの一種です。たとえば、エクササイズを行うのと同じように、ギャップに単語を追加するのと同様に、

問題：私は____ Suankularb学校です
回答：学生

このギャップに単語を正しく追加することを学ぶモデルにより、モデルは人間が言語で書いたり機能したりするように見えるメッセージを作成できます。（肯定的、テキスト、予測、単語の種類、略語などの否定的な予測。上記のサンプルの演習は、マスクされた言語モデリングと呼ばれます。（因果言語モデリング）など。
โมเดลภาษา (language model) คือโมเดล machine learning ชนิดหนึ่งที่เรียนรู้ด้วยการทำนายสถิติของหน่วยคำที่เกิดขึ้นในข้อมูลฝึกสอน ยกตัวอย่างง่ายๆคล้ายกับการทำแบบฝึกหัดเติมคำในช่องว่าง เช่น 

โจทย์: ฉันเป็น____โรงเรียนสวนกุหลาบ
ตอบ: นักเรียน

การที่โมเดลเรียนรู้ที่จะเติมคำในช่องว่างนี้ให้ถูกต้องจะทำให้โมเดลสามารถสร้างข้อความที่ดูเสมือนมนุษย์เขียนขึ้นมาหรือทำงานด้านภาษา (ทำนายความบวกลบของข้อความ, ทำนายชนิดของคำ, ย่อความ ฯลฯ) ได้ การทำแบบฝึกหัดเติมคำในตัวอย่างข้างต้นเรียกว่า masked language modeling นอกจากนี้ยังมีเทคนิคอื่นๆในการฝึกสอนโมเดลภาษาอีก เช่น เติมคำต่อไป (causal language modeling) เป็นต้น