<meta charset="utf-8" /><meta http-equiv="content-security-policy" content=""><meta name="hf:doc:metadata" content="{&quot;local&quot;:&quot;&quot;,&quot;title&quot;:&quot;Введение&quot;}" data-svelte="svelte-1phssyn">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/assets/pages/__layout.svelte-hf-doc-builder.css">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/start-hf-doc-builder.js">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/chunks/vendor-hf-doc-builder.js">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/chunks/paths-hf-doc-builder.js">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/pages/__layout.svelte-hf-doc-builder.js">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/pages/chapter2/1.mdx-hf-doc-builder.js">
	<link rel="modulepreload" href="/docs/course/pr_212/ru/_app/chunks/Tip-hf-doc-builder.js"> 





<h1 id="">Введение</h1>
<p>Как вы могли заметить в <a href="/course/chapter1">Главе 1</a>, модели трансформеров обычно бывают очень большие. Обучение и развертывание таких моделей с миллионами и даже десятками <em>миллиардов</em> параметров является сложной задачей. Кроме того, новые модели выпускаются почти ежедневно, и каждая из них имеет собственную реализацию, опробовать их все — непростая задача.</p>
<p>Библиотека 🤗 Transformers была создана для решения этой проблемы. Её цель — предоставить единый API, с помощью которого можно загружать, обучать и сохранять любую модель трансформера. Основными функциями библиотеки являются:</p>
<ul><li><strong>Удобство в использовании</strong>: Скачивание, загрузку и использование современной модели NLP для вывода данных, можно выполнять всего двумя строками кода.</li>
<li><strong>Гибкость</strong>: По своей сути все модели представляют собой простые классы библиотек PyTorch <code>nn.Module</code> или TensorFlow <code>tf.keras.Model</code> и могут обрабатываться, как и любые другие модели, в соответствующих средах машинного обучения (МО).</li>
<li><strong>Простота</strong>: В библиотеке практически не используются абстракции. “Все в одном файле” является основной концепцией: прямой проход модели полностью определяется в одном файле, так что сам код понятен, но при этом доступен для взлома.</li></ul>
<p>Последняя особенность сильно отличает библиотеку 🤗 Transformers от других библиотек машинного обучения. Модели не строятся на модулях, которые являются общими для всех файлов; вместо этого каждая модель имеет свои собственные слои. Это не только делает модели более доступными и понятными, но и позволяет легко экспериментировать с одной моделью, не затрагивая другие.</p>
<p>Эта глава начнается со сквозного примера, в котором мы используем модель и токенизатор вместе, чтобы воспроизвести функцию <code>pipeline()</code> представленную в <a href="/course/chapter1">Главе 1</a>. Далее мы обсудим API модели: углубимся в классы модели и конфигурации и покажем, как загружать модель и как она обрабатывает числовые входные данные для получения прогнозов. </p>
<p>Затем мы рассмотрим API токенизатора, который является другим основным компонентом функции <code>pipeline()</code>. Токенизаторы берут на себя первый и последний этапы обработки, обрабатывая преобразование текста в числовые входные данные для нейронной сети и обратное преобразование в текст, когда это необходимо. Наконец, мы покажем вам, как обработывается передача нескольких предложений в модель с помощью подготовленных пакетов, а затем завершим все это более детальным рассмотрением высокоуровневой функции <code>tokenizer()</code>.</p>


<div class="course-tip  bg-gradient-to-br dark:bg-gradient-to-r before:border-green-500 dark:before:border-green-800 from-green-50 dark:from-gray-900 to-white dark:to-gray-950 border border-green-50 text-green-700 dark:text-gray-400">⚠️ Чтобы воспользоваться всеми функциями, доступными в Model Hub и 🤗 Transformers, мы рекомендуем <a href="https://huggingface.co/join">создать учетную запись</a>.
</div>


		<script type="module" data-hydrate="131gbvr">
		import { start } from "/docs/course/pr_212/ru/_app/start-hf-doc-builder.js";
		start({
			target: document.querySelector('[data-hydrate="131gbvr"]').parentNode,
			paths: {"base":"/docs/course/pr_212/ru","assets":"/docs/course/pr_212/ru"},
			session: {},
			route: false,
			spa: false,
			trailing_slash: "never",
			hydrate: {
				status: 200,
				error: null,
				nodes: [
					import("/docs/course/pr_212/ru/_app/pages/__layout.svelte-hf-doc-builder.js"),
						import("/docs/course/pr_212/ru/_app/pages/chapter2/1.mdx-hf-doc-builder.js")
				],
				params: {}
			}
		});
	</script>
