import{S as Hr,i as Ir,s as Rr,e as p,k as c,t as l,w as m,M as Br,c as n,d as s,m as f,a as i,h as r,x as d,b as v,G as t,g as o,y as u,q as _,o as h,B as $,v as Jr}from"../../chunks/vendor-hf-doc-builder.js";import{T as Fr}from"../../chunks/Tip-hf-doc-builder.js";import{Y as Nr}from"../../chunks/Youtube-hf-doc-builder.js";import{I as Yr}from"../../chunks/IconCopyLink-hf-doc-builder.js";import{C as k}from"../../chunks/CodeBlock-hf-doc-builder.js";import{D as Qr}from"../../chunks/DocNotebookDropdown-hf-doc-builder.js";function Kr(Oe){let b,E,w,ee,L;return{c(){b=p("p"),E=l("\u270F\uFE0F "),w=p("strong"),ee=l("\u041F\u043E\u043F\u0440\u043E\u0431\u0443\u0439\u0442\u0435!"),L=l(" \u0418\u0437\u043C\u0435\u043D\u0438\u0442\u0435 \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B \u0442\u0430\u043A, \u0447\u0442\u043E\u0431\u044B \u0434\u043E\u043E\u0431\u0443\u0447\u0438\u0442\u044C \u043C\u043E\u0434\u0435\u043B\u044C \u043D\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 SST-2.")},l(g){b=n(g,"P",{});var P=i(b);E=r(P,"\u270F\uFE0F "),w=n(P,"STRONG",{});var D=i(w);ee=r(D,"\u041F\u043E\u043F\u0440\u043E\u0431\u0443\u0439\u0442\u0435!"),D.forEach(s),L=r(P," \u0418\u0437\u043C\u0435\u043D\u0438\u0442\u0435 \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B \u0442\u0430\u043A, \u0447\u0442\u043E\u0431\u044B \u0434\u043E\u043E\u0431\u0443\u0447\u0438\u0442\u044C \u043C\u043E\u0434\u0435\u043B\u044C \u043D\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 SST-2."),P.forEach(s)},m(g,P){o(g,b,P),t(b,E),t(b,w),t(w,ee),t(b,L)},d(g){g&&s(b)}}}function Vr(Oe){let b;return{c(){b=l('\u26A0\uFE0F \u0427\u0442\u043E\u0431\u044B \u0432\u043E\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C\u0441\u044F \u0443\u0441\u043A\u043E\u0440\u0435\u043D\u0438\u0435\u043C, \u043F\u0440\u0435\u0434\u043B\u0430\u0433\u0430\u0435\u043C\u044B\u043C \u043E\u0431\u043B\u0430\u0447\u043D\u044B\u043C\u0438 TPU, \u043C\u044B \u0440\u0435\u043A\u043E\u043C\u0435\u043D\u0434\u0443\u0435\u043C \u0434\u043E\u043F\u043E\u043B\u043D\u044F\u0442\u044C \u0434\u0430\u043D\u043D\u044B\u0435 \u0434\u043E \u0444\u0438\u043A\u0441\u0438\u0440\u043E\u0432\u0430\u043D\u043D\u043E\u0439 \u0434\u043B\u0438\u043D\u044B \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E \u0430\u0440\u0433\u0443\u043C\u0435\u043D\u0442\u043E\u0432 `padding="max_length"` \u0438 `max_length` \u0442\u043E\u043A\u0435\u043D\u0438\u0437\u0430\u0442\u043E\u0440\u0430.')},l(E){b=r(E,'\u26A0\uFE0F \u0427\u0442\u043E\u0431\u044B \u0432\u043E\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C\u0441\u044F \u0443\u0441\u043A\u043E\u0440\u0435\u043D\u0438\u0435\u043C, \u043F\u0440\u0435\u0434\u043B\u0430\u0433\u0430\u0435\u043C\u044B\u043C \u043E\u0431\u043B\u0430\u0447\u043D\u044B\u043C\u0438 TPU, \u043C\u044B \u0440\u0435\u043A\u043E\u043C\u0435\u043D\u0434\u0443\u0435\u043C \u0434\u043E\u043F\u043E\u043B\u043D\u044F\u0442\u044C \u0434\u0430\u043D\u043D\u044B\u0435 \u0434\u043E \u0444\u0438\u043A\u0441\u0438\u0440\u043E\u0432\u0430\u043D\u043D\u043E\u0439 \u0434\u043B\u0438\u043D\u044B \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E \u0430\u0440\u0433\u0443\u043C\u0435\u043D\u0442\u043E\u0432 `padding="max_length"` \u0438 `max_length` \u0442\u043E\u043A\u0435\u043D\u0438\u0437\u0430\u0442\u043E\u0440\u0430.')},m(E,w){o(E,b,w)},d(E){E&&s(b)}}}function Xr(Oe){let b,E,w,ee,L,g,P,D,As,W,Bt,Ke,Jt,Yt,Ds,se,xs,te,Qt,Os,x,Kt,Ve,Vt,Xt,Xe,Zt,ea,Ss,O,T,sa,Ze,ta,aa,es,la,ra,oa,A,pa,ss,na,ia,ts,ca,fa,as,ma,da,ua,ls,_a,Ts,G,ha,rs,$a,ba,Us,ae,Ls,Se,ka,Ws,le,Gs,Te,ja,Ms,re,Fs,Ue,va,Ns,oe,Hs,pe,Is,M,wa,os,Ea,ya,Rs,Le,qa,Bs,ne,Js,We,ga,Ys,ie,Qs,ce,Ks,F,za,ps,Ca,Pa,Vs,y,Aa,ns,Da,xa,is,Oa,Sa,cs,Ta,Ua,fe,La,Wa,Xs,me,Zs,N,Ga,fs,Ma,Fa,et,de,st,ue,tt,_e,Na,at,H,Ha,ms,Ia,Ra,lt,he,rt,$e,ot,Ge,Ba,pt,be,nt,Me,Ja,it,ke,Ya,ct,z,Qa,ds,Ka,Va,us,Xa,Za,_s,el,sl,ft,je,mt,ve,dt,Fe,tl,ut,I,_t,U,R,hs,we,al,$s,ll,ht,Ee,$t,B,rl,ye,ol,pl,bt,qe,kt,Ne,nl,jt,ge,vt,C,il,bs,cl,fl,ks,ml,dl,js,ul,_l,wt,j,hl,vs,$l,bl,ws,kl,jl,Es,vl,wl,ys,El,yl,qs,ql,gl,gs,zl,Cl,Et,J,yt,He,Pl,qt,ze,gt,Y,Al,zs,Dl,xl,zt,Ce,Ct,Ie,Ol,Pt,Re,Sl,At,Pe,Dt,Be,Tl,xt,Q,Ul,Cs,Ll,Wl,Ot,Ae,St,K,Gl,De,Ml,Fl,Tt;return g=new Qr({props:{classNames:"absolute z-10 right-0 top-0",options:[{label:"Google Colab",value:"https://colab.research.google.com/github/huggingface/notebooks/blob/master/course/chapter3/section4.ipynb"},{label:"Aws Studio",value:"https://studiolab.sagemaker.aws/import/github/huggingface/notebooks/blob/master/course/chapter3/section4.ipynb"}]}}),D=new Nr({props:{id:"Dh9CL8fyG80"}}),se=new k({props:{code:`



`,highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_dataset
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoTokenizer, DataCollatorWithPadding

raw_datasets = load_dataset(<span class="hljs-string">&quot;glue&quot;</span>, <span class="hljs-string">&quot;mrpc&quot;</span>)
checkpoint = <span class="hljs-string">&quot;bert-base-uncased&quot;</span>
tokenizer = AutoTokenizer.from_pretrained(checkpoint)


<span class="hljs-keyword">def</span> <span class="hljs-title function_">tokenize_function</span>(<span class="hljs-params">example</span>):
    <span class="hljs-keyword">return</span> tokenizer(example[<span class="hljs-string">&quot;sentence1&quot;</span>], example[<span class="hljs-string">&quot;sentence2&quot;</span>], truncation=<span class="hljs-literal">True</span>)


tokenized_datasets = raw_datasets.<span class="hljs-built_in">map</span>(tokenize_function, batched=<span class="hljs-literal">True</span>)
data_collator = DataCollatorWithPadding(tokenizer=tokenizer)`}}),ae=new k({props:{code:`tokenized_datasets = tokenized_datasets.remove_columns(["sentence1", "sentence2", "idx"])
tokenized_datasets = tokenized_datasets.rename_column("label", "labels")
tokenized_datasets.set_format("torch")
tokenized_datasets["train"].column_names`,highlighted:`tokenized_datasets = tokenized_datasets.remove_columns([<span class="hljs-string">&quot;sentence1&quot;</span>, <span class="hljs-string">&quot;sentence2&quot;</span>, <span class="hljs-string">&quot;idx&quot;</span>])
tokenized_datasets = tokenized_datasets.rename_column(<span class="hljs-string">&quot;label&quot;</span>, <span class="hljs-string">&quot;labels&quot;</span>)
tokenized_datasets.set_format(<span class="hljs-string">&quot;torch&quot;</span>)
tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>].column_names`}}),le=new k({props:{code:'["attention_mask", "input_ids", "labels", "token_type_ids"]',highlighted:'[<span class="hljs-string">&quot;attention_mask&quot;</span>, <span class="hljs-string">&quot;input_ids&quot;</span>, <span class="hljs-string">&quot;labels&quot;</span>, <span class="hljs-string">&quot;token_type_ids&quot;</span>]'}}),re=new k({props:{code:"",highlighted:`<span class="hljs-keyword">from</span> torch.utils.data <span class="hljs-keyword">import</span> DataLoader

train_dataloader = DataLoader(
    tokenized_datasets[<span class="hljs-string">&quot;train&quot;</span>], shuffle=<span class="hljs-literal">True</span>, batch_size=<span class="hljs-number">8</span>, collate_fn=data_collator
)
eval_dataloader = DataLoader(
    tokenized_datasets[<span class="hljs-string">&quot;validation&quot;</span>], batch_size=<span class="hljs-number">8</span>, collate_fn=data_collator
)`}}),oe=new k({props:{code:`for batch in train_dataloader:
    break
{k: v.shape for k, v in batch.items()}`,highlighted:`<span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dataloader:
    <span class="hljs-keyword">break</span>
{k: v.shape <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> batch.items()}`}}),pe=new k({props:{code:`{'attention_mask': torch.Size([8, 65]),
 'input_ids': torch.Size([8, 65]),
 'labels': torch.Size([8]),
 'token_type_ids': torch.Size([8, 65])}`,highlighted:`{<span class="hljs-string">&#x27;attention_mask&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">65</span>]),
 <span class="hljs-string">&#x27;input_ids&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">65</span>]),
 <span class="hljs-string">&#x27;labels&#x27;</span>: torch.Size([<span class="hljs-number">8</span>]),
 <span class="hljs-string">&#x27;token_type_ids&#x27;</span>: torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">65</span>])}`}}),ne=new k({props:{code:"",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AutoModelForSequenceClassification

model = AutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=<span class="hljs-number">2</span>)`}}),ie=new k({props:{code:`outputs = model(**batch)
print(outputs.loss, outputs.logits.shape)`,highlighted:`outputs = model(**batch)
<span class="hljs-built_in">print</span>(outputs.loss, outputs.logits.shape)`}}),ce=new k({props:{code:"tensor(0.5441, grad_fn=<NllLossBackward>) torch.Size([8, 2])",highlighted:'tensor(<span class="hljs-number">0.5441</span>, grad_fn=&lt;NllLossBackward&gt;) torch.Size([<span class="hljs-number">8</span>, <span class="hljs-number">2</span>])'}}),me=new k({props:{code:"",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AdamW

optimizer = AdamW(model.parameters(), lr=<span class="hljs-number">5e-5</span>)`}}),de=new k({props:{code:"",highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> get_scheduler

num_epochs = <span class="hljs-number">3</span>
num_training_steps = num_epochs * <span class="hljs-built_in">len</span>(train_dataloader)
lr_scheduler = get_scheduler(
    <span class="hljs-string">&quot;linear&quot;</span>,
    optimizer=optimizer,
    num_warmup_steps=<span class="hljs-number">0</span>,
    num_training_steps=num_training_steps,
)
<span class="hljs-built_in">print</span>(num_training_steps)`}}),ue=new k({props:{code:"1377",highlighted:'<span class="hljs-number">1377</span>'}}),he=new k({props:{code:"",highlighted:`<span class="hljs-keyword">import</span> torch

device = torch.device(<span class="hljs-string">&quot;cuda&quot;</span>) <span class="hljs-keyword">if</span> torch.cuda.is_available() <span class="hljs-keyword">else</span> torch.device(<span class="hljs-string">&quot;cpu&quot;</span>)
model.to(device)
device`}}),$e=new k({props:{code:"device(type='cuda')",highlighted:'device(<span class="hljs-built_in">type</span>=<span class="hljs-string">&#x27;cuda&#x27;</span>)'}}),be=new k({props:{code:`

`,highlighted:`<span class="hljs-keyword">from</span> tqdm.auto <span class="hljs-keyword">import</span> tqdm

progress_bar = tqdm(<span class="hljs-built_in">range</span>(num_training_steps))

model.train()
<span class="hljs-keyword">for</span> epoch <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(num_epochs):
    <span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dataloader:
        batch = {k: v.to(device) <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> batch.items()}
        outputs = model(**batch)
        loss = outputs.loss
        loss.backward()

        optimizer.step()
        lr_scheduler.step()
        optimizer.zero_grad()
        progress_bar.update(<span class="hljs-number">1</span>)`}}),je=new k({props:{code:`

`,highlighted:`<span class="hljs-keyword">from</span> datasets <span class="hljs-keyword">import</span> load_metric

metric = load_metric(<span class="hljs-string">&quot;glue&quot;</span>, <span class="hljs-string">&quot;mrpc&quot;</span>)
model.<span class="hljs-built_in">eval</span>()
<span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> eval_dataloader:
    batch = {k: v.to(device) <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> batch.items()}
    <span class="hljs-keyword">with</span> torch.no_grad():
        outputs = model(**batch)

    logits = outputs.logits
    predictions = torch.argmax(logits, dim=-<span class="hljs-number">1</span>)
    metric.add_batch(predictions=predictions, references=batch[<span class="hljs-string">&quot;labels&quot;</span>])

metric.compute()`}}),ve=new k({props:{code:"{'accuracy': 0.8431372549019608, 'f1': 0.8907849829351535}",highlighted:'{<span class="hljs-string">&#x27;accuracy&#x27;</span>: <span class="hljs-number">0.8431372549019608</span>, <span class="hljs-string">&#x27;f1&#x27;</span>: <span class="hljs-number">0.8907849829351535</span>}'}}),I=new Fr({props:{$$slots:{default:[Kr]},$$scope:{ctx:Oe}}}),we=new Yr({}),Ee=new Nr({props:{id:"s7dy8QRgjJ0"}}),qe=new k({props:{code:`




`,highlighted:`<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AdamW, AutoModelForSequenceClassification, get_scheduler

model = AutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=<span class="hljs-number">2</span>)
optimizer = AdamW(model.parameters(), lr=<span class="hljs-number">3e-5</span>)

device = torch.device(<span class="hljs-string">&quot;cuda&quot;</span>) <span class="hljs-keyword">if</span> torch.cuda.is_available() <span class="hljs-keyword">else</span> torch.device(<span class="hljs-string">&quot;cpu&quot;</span>)
model.to(device)

num_epochs = <span class="hljs-number">3</span>
num_training_steps = num_epochs * <span class="hljs-built_in">len</span>(train_dataloader)
lr_scheduler = get_scheduler(
    <span class="hljs-string">&quot;linear&quot;</span>,
    optimizer=optimizer,
    num_warmup_steps=<span class="hljs-number">0</span>,
    num_training_steps=num_training_steps,
)

progress_bar = tqdm(<span class="hljs-built_in">range</span>(num_training_steps))

model.train()
<span class="hljs-keyword">for</span> epoch <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(num_epochs):
    <span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dataloader:
        batch = {k: v.to(device) <span class="hljs-keyword">for</span> k, v <span class="hljs-keyword">in</span> batch.items()}
        outputs = model(**batch)
        loss = outputs.loss
        loss.backward()

        optimizer.step()
        lr_scheduler.step()
        optimizer.zero_grad()
        progress_bar.update(<span class="hljs-number">1</span>)`}}),ge=new k({props:{code:`






`,highlighted:`<span class="hljs-addition">+ from accelerate import Accelerator</span>
  from transformers import AdamW, AutoModelForSequenceClassification, get_scheduler

<span class="hljs-addition">+ accelerator = Accelerator()</span>

  model = AutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=2)
  optimizer = AdamW(model.parameters(), lr=3e-5)

<span class="hljs-deletion">- device = torch.device(&quot;cuda&quot;) if torch.cuda.is_available() else torch.device(&quot;cpu&quot;)</span>
<span class="hljs-deletion">- model.to(device)</span>

<span class="hljs-addition">+ train_dataloader, eval_dataloader, model, optimizer = accelerator.prepare(</span>
<span class="hljs-addition">+     train_dataloader, eval_dataloader, model, optimizer</span>
<span class="hljs-addition">+ )</span>

  num_epochs = 3
  num_training_steps = num_epochs * len(train_dataloader)
  lr_scheduler = get_scheduler(
      &quot;linear&quot;,
      optimizer=optimizer,
      num_warmup_steps=0,
      num_training_steps=num_training_steps
  )

  progress_bar = tqdm(range(num_training_steps))

  model.train()
  for epoch in range(num_epochs):
      for batch in train_dataloader:
<span class="hljs-deletion">-         batch = {k: v.to(device) for k, v in batch.items()}</span>
          outputs = model(**batch)
          loss = outputs.loss
<span class="hljs-deletion">-         loss.backward()</span>
<span class="hljs-addition">+         accelerator.backward(loss)</span>

          optimizer.step()
          lr_scheduler.step()
          optimizer.zero_grad()
          progress_bar.update(1)`}}),J=new Fr({props:{$$slots:{default:[Vr]},$$scope:{ctx:Oe}}}),ze=new k({props:{code:`





`,highlighted:`<span class="hljs-keyword">from</span> accelerate <span class="hljs-keyword">import</span> Accelerator
<span class="hljs-keyword">from</span> transformers <span class="hljs-keyword">import</span> AdamW, AutoModelForSequenceClassification, get_scheduler

accelerator = Accelerator()

model = AutoModelForSequenceClassification.from_pretrained(checkpoint, num_labels=<span class="hljs-number">2</span>)
optimizer = AdamW(model.parameters(), lr=<span class="hljs-number">3e-5</span>)

train_dl, eval_dl, model, optimizer = accelerator.prepare(
    train_dataloader, eval_dataloader, model, optimizer
)

num_epochs = <span class="hljs-number">3</span>
num_training_steps = num_epochs * <span class="hljs-built_in">len</span>(train_dl)
lr_scheduler = get_scheduler(
    <span class="hljs-string">&quot;linear&quot;</span>,
    optimizer=optimizer,
    num_warmup_steps=<span class="hljs-number">0</span>,
    num_training_steps=num_training_steps,
)

progress_bar = tqdm(<span class="hljs-built_in">range</span>(num_training_steps))

model.train()
<span class="hljs-keyword">for</span> epoch <span class="hljs-keyword">in</span> <span class="hljs-built_in">range</span>(num_epochs):
    <span class="hljs-keyword">for</span> batch <span class="hljs-keyword">in</span> train_dl:
        outputs = model(**batch)
        loss = outputs.loss
        accelerator.backward(loss)

        optimizer.step()
        lr_scheduler.step()
        optimizer.zero_grad()
        progress_bar.update(<span class="hljs-number">1</span>)`}}),Ce=new k({props:{code:"accelerate config",highlighted:"accelerate config"}}),Pe=new k({props:{code:"accelerate launch train.py",highlighted:'accelerate <span class="hljs-built_in">launch</span> train.py'}}),Ae=new k({props:{code:"",highlighted:`<span class="hljs-keyword">from</span> accelerate <span class="hljs-keyword">import</span> notebook_launcher

notebook_launcher(training_function)`}}),{c(){b=p("meta"),E=c(),w=p("h1"),ee=l("\u041F\u043E\u043B\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435"),L=c(),m(g.$$.fragment),P=c(),m(D.$$.fragment),As=c(),W=p("p"),Bt=l("\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u043F\u043E\u0441\u043C\u043E\u0442\u0440\u0438\u043C, \u043A\u0430\u043A \u0434\u043E\u0441\u0442\u0438\u0447\u044C \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u043E\u0432 \u0438\u0437 \u043F\u0440\u0435\u0434\u044B\u0434\u0443\u0449\u0435\u0439 \u0433\u043B\u0430\u0432\u044B \u0431\u0435\u0437 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u044F \u043A\u043B\u0430\u0441\u0441\u0430 "),Ke=p("code"),Jt=l("Trainer"),Yt=l(". \u0412 \u044D\u0442\u043E\u0439 \u0433\u043B\u0430\u0432\u0435 \u043C\u044B \u043F\u0440\u0435\u0434\u043F\u043E\u043B\u0430\u0433\u0430\u0435\u043C, \u0447\u0442\u043E \u0432\u044B \u0432\u044B\u043F\u043E\u043B\u043D\u0438\u043B\u0438 \u044D\u0442\u0430\u043F\u044B \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 \u0440\u0430\u0437\u0434\u0435\u043B\u0430 2. \u041D\u0438\u0436\u0435 \u043A\u043E\u0440\u043E\u0442\u043A\u0430\u044F \u0432\u044B\u0436\u0438\u043C\u043A\u0430 \u0442\u043E\u0433\u043E, \u0447\u0442\u043E \u0432\u0430\u043C \u043F\u043E\u043D\u0430\u0434\u043E\u0431\u0438\u0442\u0441\u044F:"),Ds=c(),m(se.$$.fragment),xs=c(),te=p("h3"),Qt=l("\u041F\u043E\u0434\u0433\u043E\u0442\u043E\u0432\u043A\u0430 \u043A \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E"),Os=c(),x=p("p"),Kt=l("\u041F\u0435\u0440\u0435\u0434 \u0440\u0435\u0430\u043B\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0446\u0438\u043A\u043B\u0430 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u0437\u0430\u0434\u0430\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u043E\u0431\u044A\u0435\u043A\u0442\u043E\u0432. \u041F\u0435\u0440\u0432\u044B\u0439: \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0438 \u0434\u0430\u043D\u043D\u044B\u0445 (\u0434\u0430\u043B\u0435\u0435 - dataloaders), \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043C\u044B \u0431\u0443\u0434\u0435\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0434\u043B\u044F \u0438\u0442\u0435\u0440\u0438\u0440\u043E\u0432\u0430\u043D\u0438\u044F \u043F\u043E \u0431\u0430\u0442\u0447\u0430\u043C \u0434\u0430\u043D\u043D\u044B\u0445. \u041F\u0435\u0440\u0435\u0434 \u044D\u0442\u0438\u043C \u043D\u0430\u043C \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u043F\u0440\u0438\u043C\u0435\u043D\u0438\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u043E\u043F\u0435\u0440\u0430\u0446\u0438\u0439 \u043F\u043E\u0441\u0442\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 \u043A \u043D\u0430\u0448\u0435\u043C\u0443 "),Ve=p("code"),Vt=l("tokenized_datasets"),Xt=l(". \u042D\u0442\u043E \u043D\u0443\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C: \u0432 \u043F\u0440\u043E\u0448\u043B\u044B\u0439 \u0440\u0430\u0437 \u0437\u0430 \u043D\u0430\u0441 \u044D\u0442\u043E \u0430\u0432\u0442\u043E\u043C\u0430\u0442\u0438\u0447\u0435\u0441\u043A\u0438 \u0434\u0435\u043B\u0430\u043B "),Xe=p("code"),Zt=l("Trainer"),ea=l(". \u041D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0441\u043B\u0435\u0434\u0443\u044E\u0449\u0435\u0435:"),Ss=c(),O=p("ul"),T=p("li"),sa=l("\u0423\u0434\u0430\u043B\u0438\u0442\u044C \u043A\u043E\u043B\u043E\u043D\u043A\u0438, \u0441\u043E\u043E\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044E\u0449\u0438\u0435 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F\u043C, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043C\u043E\u0434\u0435\u043B\u044C \u043D\u0435 \u043F\u0440\u0438\u043D\u0438\u043C\u0430\u0435\u0442 \u043D\u0430 \u0432\u0445\u043E\u0434 (\u043D\u0430\u043F\u0440\u0438\u043C\u0435\u0440, "),Ze=p("code"),ta=l("sentence1"),aa=l(" \u0438 "),es=p("code"),la=l("sentence2"),ra=l(")."),oa=c(),A=p("li"),pa=l("\u041F\u0435\u0440\u0435\u0438\u043C\u0435\u043D\u043E\u0432\u0430\u0442\u044C \u043A\u043E\u043B\u043E\u043D\u043A\u0443 "),ss=p("code"),na=l("label"),ia=l(" \u0432 "),ts=p("code"),ca=l("labels"),fa=l(" (\u043F\u043E\u0442\u043E\u043C\u0443 \u0447\u0442\u043E \u043C\u043E\u0434\u0435\u043B\u044C \u043E\u0436\u0438\u0434\u0430\u0435\u0442 \u0430\u0440\u0433\u0443\u043C\u0435\u043D\u0442, \u043D\u0430\u0437\u0432\u0430\u043D\u043D\u044B\u0439 "),as=p("code"),ma=l("labels"),da=l(")."),ua=c(),ls=p("li"),_a=l("\u0417\u0430\u0434\u0430\u0442\u044C \u0442\u0438\u043F \u0434\u0430\u043D\u043D\u044B\u0445 \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 pytorch tensors \u0432\u043C\u0435\u0441\u0442\u043E \u0441\u043F\u0438\u0441\u043A\u043E\u0432."),Ts=c(),G=p("p"),ha=l("\u041D\u0430\u0448 "),rs=p("code"),$a=l("tokenized_datasets"),ba=l(" \u043F\u0440\u0435\u0434\u043E\u0441\u0442\u0430\u0432\u043B\u044F\u0435\u0442 \u0432\u043E\u0437\u043C\u043E\u0436\u043D\u043E\u0441\u0442\u044C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0432\u0441\u0442\u0440\u043E\u0435\u043D\u043D\u044B\u0435 \u043C\u0435\u0442\u043E\u0434\u044B \u0434\u043B\u044F \u043A\u0430\u0436\u0434\u043E\u0433\u043E \u0438\u0437 \u043F\u0440\u0438\u0432\u0435\u0434\u0435\u043D\u043D\u044B\u0445 \u0432\u044B\u0448\u0435 \u0448\u0430\u0433\u043E\u0432:"),Us=c(),m(ae.$$.fragment),Ls=c(),Se=p("p"),ka=l("\u041C\u044B \u043C\u043E\u0436\u0435\u043C \u043F\u0440\u043E\u0432\u0435\u0440\u0438\u0442\u044C, \u0447\u0442\u043E \u0432 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u0435 \u0443 \u043D\u0430\u0441 \u043F\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044E\u0442 \u0442\u043E\u043B\u044C\u043A\u043E \u0442\u0435 \u043F\u043E\u043B\u044F, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043E\u0436\u0438\u0434\u0430\u0435\u0442 \u043D\u0430\u0448\u0430 \u043C\u043E\u0434\u0435\u043B\u044C:"),Ws=c(),m(le.$$.fragment),Gs=c(),Te=p("p"),ja=l("\u0422\u0435\u043F\u0435\u0440\u044C, \u043A\u043E\u0433\u0434\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0433\u043E\u0442\u043E\u0432, \u043C\u044B \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u0434\u0430\u0442\u044C dataloader:"),Ms=c(),m(re.$$.fragment),Fs=c(),Ue=p("p"),va=l("\u0414\u043B\u044F \u0442\u043E\u0433\u043E, \u0447\u0442\u043E\u0431\u044B \u0443\u0431\u0435\u0434\u0438\u0442\u044C\u0441\u044F \u0432 \u043E\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0438 \u043E\u0448\u0438\u0431\u043E\u043A \u0432 \u0441\u0434\u0435\u043B\u0430\u043D\u043D\u043E\u043C \u043D\u0430\u043C\u0438 \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0435, \u043C\u044B \u043C\u043E\u0436\u0435\u043C \u043F\u0440\u043E\u0432\u0435\u0440\u0438\u0442\u044C \u043E\u0434\u0438\u043D \u0431\u0430\u0442\u0447 \u0434\u0430\u043D\u043D\u044B\u0445:"),Ns=c(),m(oe.$$.fragment),Hs=c(),m(pe.$$.fragment),Is=c(),M=p("p"),wa=l("\u041E\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043D\u0438\u043C\u0430\u043D\u0438\u0435, \u0447\u0442\u043E \u0444\u0430\u043A\u0442\u0438\u0447\u0435\u0441\u043A\u0438\u0435 \u0440\u0430\u0437\u043C\u0435\u0440\u044B, \u0432\u0435\u0440\u043E\u044F\u0442\u043D\u043E, \u0431\u0443\u0434\u0443\u0442 \u043D\u0435\u043C\u043D\u043E\u0433\u043E \u043E\u0442\u043B\u0438\u0447\u0430\u0442\u044C\u0441\u044F \u0434\u043B\u044F \u0432 \u0432\u0430\u0448\u0435\u043C \u0441\u043B\u0443\u0447\u0430\u0435, \u0442\u0430\u043A \u043A\u0430\u043A \u043C\u044B \u0443\u0441\u0442\u0430\u043D\u043E\u0432\u0438\u043B\u0438 "),os=p("code"),Ea=l("shuffle=True"),ya=l(" \u0434\u043B\u044F \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0430 \u0434\u0430\u043D\u043D\u044B\u0445, \u0442\u0430\u043A\u0436\u0435 \u043C\u044B \u0434\u043E\u043F\u043E\u043B\u043D\u044F\u0435\u043C (padding) \u0434\u043E \u043C\u0430\u043A\u0441\u0438\u043C\u0430\u043B\u044C\u043D\u043E\u0439 \u0434\u043B\u0438\u043D\u044B \u0432\u043D\u0443\u0442\u0440\u0438 \u0431\u0430\u0442\u0447\u0430."),Rs=c(),Le=p("p"),qa=l("\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u043F\u043E\u043B\u043D\u043E\u0441\u0442\u044C\u044E \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u043B\u0438 \u044D\u0442\u0430\u043F \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 (\u043F\u0440\u0438\u044F\u0442\u043D\u044B\u0439, \u043D\u043E \u043D\u0435\u0443\u043B\u043E\u0432\u0438\u043C\u044B\u0439 \u043C\u043E\u043C\u0435\u043D\u0442 \u0434\u043B\u044F \u043B\u044E\u0431\u043E\u0433\u043E \u0441\u043F\u0435\u0446\u0438\u0430\u043B\u0438\u0441\u0442\u0430 \u043F\u043E \u043C\u0430\u0448\u0438\u043D\u043D\u043E\u043C\u0443 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E), \u043F\u0435\u0440\u0435\u0439\u0434\u0435\u043C \u043A \u043C\u043E\u0434\u0435\u043B\u0438. \u041C\u044B \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u043C \u0435\u0435 \u0442\u043E\u0447\u043D\u043E \u0442\u0430\u043A, \u043A\u0430\u043A \u0434\u0435\u043B\u0430\u043B\u0438 \u0432 \u043F\u0440\u0435\u0434\u044B\u0434\u0443\u0449\u0435\u043C \u043F\u0440\u0438\u043C\u0435\u0440\u0435:"),Bs=c(),m(ne.$$.fragment),Js=c(),We=p("p"),ga=l("\u0427\u0442\u043E\u0431\u044B \u0443\u0431\u0435\u0434\u0438\u0442\u044C\u0441\u044F, \u0447\u0442\u043E \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435 \u043F\u043E\u0439\u0434\u0435\u0442 \u0433\u043B\u0430\u0434\u043A\u043E, \u0432\u044B \u043F\u043E\u0434\u0430\u0434\u0438\u043C \u043D\u0430 \u0432\u0445\u043E\u0434 \u043C\u043E\u0434\u0435\u043B\u0438 \u043E\u0434\u0438\u043D \u0431\u0430\u0442\u0447:"),Ys=c(),m(ie.$$.fragment),Qs=c(),m(ce.$$.fragment),Ks=c(),F=p("p"),za=l("\u0412\u0441\u0435 \u043C\u043E\u0434\u0435\u043B\u0438 \u{1F917} \u0442\u0440\u0430\u043D\u0441\u0444\u043E\u0440\u043C\u0435\u0440\u043E\u0432 \u0432\u043E\u0437\u0432\u0440\u0430\u0449\u0430\u044E\u0442 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u0435 \u0444\u0443\u043D\u043A\u0446\u0438\u0438 \u043F\u043E\u0442\u0435\u0440\u044C, \u0435\u0441\u043B\u0438 \u0432 \u0434\u0430\u043D\u043D\u044B\u0445 \u0431\u044B\u043B\u0438 "),ps=p("code"),Ca=l("labels"),Pa=l(", \u0430 \u0442\u0430\u043A\u0436\u0435 \u043B\u043E\u0433\u0438\u0442\u044B (\u0432 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u0435 \u043F\u043E\u043B\u0443\u0447\u0430\u0435\u0442\u0441\u044F \u0442\u0435\u043D\u0437\u043E\u0440 8 \u0445 2)."),Vs=c(),y=p("p"),Aa=l("\u041C\u044B \u043F\u043E\u0447\u0442\u0438 \u0433\u043E\u0442\u043E\u0432\u044B \u043A \u043D\u0430\u043F\u0438\u0441\u0430\u043D\u0438\u044E \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0446\u0438\u043A\u043B\u0430! \u041C\u044B \u043F\u0440\u043E\u043F\u0443\u0441\u0442\u0438\u043B\u0438 \u0442\u043E\u043B\u044C\u043A\u043E \u0434\u0432\u0435 \u0432\u0435\u0449\u0438: \u043E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440 \u0438 \u043F\u043B\u0430\u043D\u0438\u0440\u043E\u0432\u0449\u0438\u043A \u0441\u043A\u043E\u0440\u043E\u0441\u0442\u0438 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F (learning rate scheduler). \u0412\u0432\u0438\u0434\u0443 \u0442\u043E\u0433\u043E, \u0447\u0442\u043E \u043C\u044B \u043F\u044B\u0442\u0430\u0435\u043C\u0441\u044F \u043F\u043E\u0432\u0442\u043E\u0440\u0438\u0442\u044C \u0432\u0440\u0443\u0447\u043D\u0443\u044E \u0442\u043E, \u0447\u0442\u043E \u0434\u0435\u043B\u0430\u043B \u0437\u0430 \u043D\u0430\u0441 "),ns=p("code"),Da=l("Trainer"),xa=l(", \u043C\u044B \u0431\u0443\u0434\u0435\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0442\u0430\u043A\u0438\u0435 \u0436\u0435 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E. \u041E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440, \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u0443\u0435\u043C\u044B\u0439 \u0432 "),is=p("code"),Oa=l("Trainer"),Sa=l(" - "),cs=p("code"),Ta=l("AdamW"),Ua=l(", \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u044F\u0432\u043B\u044F\u0435\u0442\u0441\u044F \u043F\u043E\u0447\u0442\u0438 \u043F\u043E\u043B\u043D\u043E\u0439 \u043A\u043E\u043F\u0438\u0435\u0439 Adam, \u0437\u0430 \u0438\u0441\u043A\u043B\u044E\u0447\u0435\u043D\u0438\u0435\u043C \u0442\u0440\u044E\u043A\u0430 \u0441 \u0441\u043E\u043A\u0440\u0430\u0449\u0435\u043D\u0438\u0435\u043C \u0432\u0435\u0441\u043E\u0432 (\u0434\u0430\u043B\u0435\u0435 - weight decay) (\u0441\u043C. "),fe=p("a"),La=l("\u201CDecoupled Weight Decay Regularization\u201D"),Wa=l(" \u0437\u0430 \u0430\u0432\u0442\u043E\u0440\u0441\u0442\u0432\u043E\u043C Ilya Loshchilov \u0438 Frank Hutter)."),Xs=c(),m(me.$$.fragment),Zs=c(),N=p("p"),Ga=l("\u041D\u0430\u043A\u043E\u043D\u0435\u0446, \u043F\u043B\u0430\u043D\u0438\u0440\u043E\u0432\u0449\u0438\u043A \u0441\u043A\u043E\u0440\u043E\u0441\u0442\u0438 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E - \u043F\u0440\u043E\u0441\u0442\u043E \u043B\u0438\u043D\u0435\u0439\u043D\u043E\u0435 \u0443\u043C\u0435\u043D\u044C\u0448\u0435\u043D\u0438\u0435 \u0432\u0435\u0441\u043E\u0432 \u0441 \u043C\u0430\u043A\u0441\u0438\u043C\u0430\u043B\u044C\u043D\u043E\u0433\u043E \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F (5e-5) \u0434\u043E 0. \u0427\u0442\u043E\u0431\u044B \u043A\u043E\u0440\u0440\u0435\u043A\u0442\u043D\u043E \u0437\u0430\u0434\u0430\u0442\u044C \u0435\u0433\u043E, \u043D\u0430\u043C \u043D\u0443\u0436\u043D\u043E \u0437\u043D\u0430\u0442\u044C \u0447\u0438\u0441\u043B\u043E \u0448\u0430\u0433\u043E\u0432 \u0432 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0438, \u043A\u043E\u0442\u043E\u0440\u043E\u0435 \u0437\u0430\u0434\u0430\u0435\u0442\u0441\u044F \u043A\u0430\u043A \u043F\u0440\u043E\u0438\u0437\u0432\u0435\u0434\u0435\u043D\u0438\u0435 \u0447\u0438\u0441\u043B\u0430 \u044D\u043F\u043E\u0445 \u0438 \u0447\u0438\u0441\u043B\u0430 \u0431\u0430\u0442\u0447\u0435\u0439 (\u0434\u043B\u0438\u043D\u044B \u043D\u0430\u0448\u0435\u0433\u043E \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0430 \u0434\u0430\u043D\u043D\u044B\u0445). \u0427\u0438\u0441\u043B\u043E \u044D\u043F\u043E\u0445 \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E \u0432 "),fs=p("code"),Ma=l("Trainer"),Fa=l(" \u0440\u0430\u0432\u043D\u043E 3, \u0442\u0430\u043A \u0436\u0435 \u043C\u044B \u0437\u0430\u0434\u0430\u0434\u0438\u043C \u0435\u0433\u043E \u0438 \u0441\u0435\u0439\u0447\u0430\u0441:"),et=c(),m(de.$$.fragment),st=c(),m(ue.$$.fragment),tt=c(),_e=p("h3"),Na=l("\u041E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B\u0430"),at=c(),H=p("p"),Ha=l("\u041F\u043E\u0441\u043B\u0435\u0434\u043D\u0438\u0439 \u043C\u043E\u043C\u0435\u043D\u0442: \u043C\u044B \u0445\u043E\u0442\u0438\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C GPU \u0432 \u0441\u043B\u0443\u0447\u0430\u0435, \u0435\u0441\u043B\u0438 \u0443 \u043D\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043A\u0430\u044F \u0432\u043E\u0437\u043C\u043E\u0436\u043D\u043E\u0441\u0442\u044C (\u043D\u0430 CPU \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u043D\u044F\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0447\u0430\u0441\u043E\u0432 \u0432\u043C\u0435\u0441\u0442\u043E \u043F\u0430\u0440\u044B \u043C\u0438\u043D\u0443\u0442). \u0427\u0442\u043E\u0431\u044B \u0434\u043E\u0431\u0438\u0442\u044C\u0441\u044F \u044D\u0442\u043E\u0433\u043E, \u043C\u044B \u043E\u043F\u0440\u0435\u0434\u0435\u043B\u0438\u043C \u043F\u0435\u0440\u0435\u043C\u0435\u043D\u043D\u0443\u044E "),ms=p("code"),Ia=l("device"),Ra=l(" \u0438 \xAB\u043F\u0440\u0438\u043A\u0440\u0435\u043F\u0438\u043C\xBB \u043A \u0432\u0438\u0434\u0435\u043E\u043A\u0430\u0440\u0442\u0435 \u043D\u0430\u0448\u0443 \u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u0434\u0430\u043D\u043D\u044B\u0435:"),lt=c(),m(he.$$.fragment),rt=c(),m($e.$$.fragment),ot=c(),Ge=p("p"),Ba=l("\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u0433\u043E\u0442\u043E\u0432\u044B \u043A \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E \u043C\u043E\u0434\u0435\u043B\u0438! \u0427\u0442\u043E\u0431\u044B \u0438\u043C\u0435\u0442\u044C \u043F\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043B\u0435\u043D\u0438\u0435 \u043E \u0442\u043E\u043C, \u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0432\u0440\u0435\u043C\u0435\u043D\u0438 \u044D\u0442\u043E \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u043D\u044F\u0442\u044C, \u043C\u044B \u0434\u043E\u0431\u0430\u0432\u0438\u043C \u043F\u0440\u043E\u0433\u0440\u0435\u0441\u0441-\u0431\u0430\u0440, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u0431\u0443\u0434\u0435\u0442 \u0438\u043B\u043B\u044E\u0441\u0442\u0440\u0438\u0440\u043E\u0432\u0430\u0442\u044C, \u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0448\u0430\u0433\u043E\u0432 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0443\u0436\u0435 \u0432\u044B\u043F\u043E\u043B\u043D\u0435\u043D\u043E. \u042D\u0442\u043E \u043C\u043E\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0441 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435\u043C \u0431\u0438\u0431\u0438\u043B\u0438\u043E\u0442\u0435\u043A\u0438 tqdm:"),pt=c(),m(be.$$.fragment),nt=c(),Me=p("p"),Ja=l("\u0412\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u0437\u0430\u043C\u0435\u0442\u0438\u0442\u044C, \u0447\u0442\u043E \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0432\u044B\u0433\u043B\u044F\u0434\u0438\u0442 \u043E\u0447\u0435\u043D\u044C \u043F\u043E\u0445\u043E\u0436\u0438\u043C \u043D\u0430 \u0442\u043E, \u043A\u0430\u043A \u043E\u043D \u0432\u044B\u0433\u043B\u044F\u0434\u0435\u043B \u0432 \u043D\u0430\u0448\u0438\u0445 \u043F\u0435\u0440\u0432\u044B\u0445 \u043F\u0440\u0438\u043C\u0435\u0440\u0430\u0445. \u041C\u044B \u043D\u0435 \u0443\u043A\u0430\u0437\u044B\u0432\u0430\u043B\u0438 \u043C\u043E\u0434\u0435\u043B\u0438, \u0447\u0442\u043E\u0431\u044B \u043E\u043D\u0430 \u043D\u0430\u043C \u0447\u0442\u043E-\u0442\u043E \u0432\u043E\u0437\u0432\u0440\u0430\u0449\u0430\u043B\u0430 \u0432 \u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F. \u0414\u043B\u044F \u044D\u0442\u043E\u0433\u043E \u043C\u044B \u0434\u043E\u0431\u0430\u0432\u0438\u043C \u0446\u0438\u043A\u043B \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u0438."),it=c(),ke=p("h3"),Ya=l("\u0412\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0439 \u0446\u0438\u043A\u043B"),ct=c(),z=p("p"),Qa=l("\u0420\u0430\u043D\u0435\u0435 \u043C\u044B \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043B\u0438 \u043C\u0435\u0442\u0440\u0438\u043A\u0443, \u043A\u043E\u0442\u043E\u0440\u0443\u044E \u043D\u0430\u043C \u043F\u0440\u0435\u0434\u043E\u0441\u0442\u0430\u0432\u043B\u044F\u043B\u0430 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0430 \u{1F917} Datasets. \u041C\u044B \u0443\u0436\u0435 \u0437\u043D\u0430\u0435\u043C, \u0447\u0442\u043E \u0435\u0441\u0442\u044C \u043C\u0435\u0442\u043E\u0434 "),ds=p("code"),Ka=l("metric.compute()"),Va=l(", \u043E\u0434\u043D\u0430\u043A\u043E \u043C\u0435\u0442\u0440\u0438\u043A\u0438 \u043C\u043E\u0433\u0443\u0442 \u043D\u0430\u043A\u0430\u043F\u043B\u0438\u0432\u0430\u0442\u044C \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F \u0432 \u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0435 \u0438\u0442\u0435\u0440\u0438\u0440\u043E\u0432\u0430\u043D\u0438\u044F \u043F\u043E \u0431\u0430\u0442\u0447\u0443, \u0434\u043B\u044F \u044D\u0442\u043E\u0433\u043E \u0435\u0441\u0442\u044C \u043C\u0435\u0442\u043E\u0434 "),us=p("code"),Xa=l("add_batch()"),Za=l(". \u041F\u043E\u0441\u043B\u0435 \u0442\u043E\u0433\u043E, \u043A\u0430\u043A \u043C\u044B \u043F\u0440\u043E\u0439\u0434\u0435\u043C\u0441\u044F \u043F\u043E \u0432\u0441\u0435\u043C \u0431\u0430\u0442\u0447\u0430\u043C, \u043C\u044B \u0441\u043C\u043E\u0436\u0435\u043C \u0432\u044B\u0447\u0438\u0441\u043B\u0438\u0442\u044C \u0444\u0438\u043D\u0430\u043B\u044C\u043D\u044B\u0439 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442 \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E "),_s=p("code"),el=l("metric.compute()"),sl=l(". \u0412\u043E\u0442 \u043F\u0440\u0438\u043C\u0435\u0440 \u0442\u043E\u0433\u043E, \u043A\u0430\u043A \u044D\u0442\u043E \u043C\u043E\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0432 \u0446\u0438\u043A\u043B\u0435 \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u0438:"),ft=c(),m(je.$$.fragment),mt=c(),m(ve.$$.fragment),dt=c(),Fe=p("p"),tl=l("\u041F\u043E\u0432\u0442\u043E\u0440\u0438\u043C: \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u044B, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043F\u043E\u043B\u0443\u0447\u0438\u0442\u0435 \u0432\u044B, \u043C\u043E\u0433\u0443\u0442 \u043D\u0435\u043C\u043D\u043E\u0433\u043E \u043E\u0442\u043B\u0438\u0447\u0430\u0442\u044C\u0441\u044F \u0438\u0437-\u0437\u0430 \u043D\u0430\u043B\u0438\u0447\u0438\u044F \u0441\u043B\u0443\u0447\u0430\u0439\u043D\u043E\u0441\u0442\u0435\u0439 \u043F\u0440\u0438 \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0430\u0446\u0438\u0438 \u043F\u0430\u0440\u0430\u043C\u0435\u0442\u0440\u043E\u0432 \u0441\u043B\u043E\u044F \u043C\u043E\u0434\u0435\u043B\u0438 \u0438 \u0438\u0437-\u0437\u0430 \u0441\u043B\u0443\u0447\u0430\u0439\u043D\u043E\u0433\u043E \u043F\u0435\u0440\u0435\u043C\u0435\u0448\u0438\u0432\u0430\u043D\u0438\u044F \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u043E\u0434\u043D\u0430\u043A\u043E \u0438\u0445 \u043F\u043E\u0440\u044F\u0434\u043E\u043A \u0434\u043E\u043B\u0436\u0435\u043D \u0441\u043E\u0432\u043F\u0430\u0434\u0430\u0442\u044C."),ut=c(),m(I.$$.fragment),_t=c(),U=p("h3"),R=p("a"),hs=p("span"),m(we.$$.fragment),al=c(),$s=p("span"),ll=l("\u0423\u0441\u043A\u043E\u0440\u0435\u043D\u0438\u0435 \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0446\u0438\u043A\u043B\u0430 \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E \u{1F917} Accelerate"),ht=c(),m(Ee.$$.fragment),$t=c(),B=p("p"),rl=l("\u041E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B, \u0437\u0430\u0434\u0430\u043D\u043D\u044B\u0439 \u0432\u044B\u0448\u0435, \u043E\u0442\u043B\u0438\u0447\u043D\u043E \u0440\u0430\u0431\u043E\u0442\u0430\u0435\u0442 \u043D\u0430 \u043E\u0434\u043D\u043E\u043C GPU \u0438\u043B\u0438 CPU. \u041E\u0434\u043D\u0430\u043A\u043E \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0438 "),ye=p("a"),ol=l("\u{1F917} Accelerate"),pl=l(" \u043F\u043E\u0437\u0432\u043E\u043B\u044F\u0435\u0442 \u0441 \u043D\u0435\u0431\u043E\u043B\u044C\u0448\u0438\u043C\u0438 \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F\u043C\u0438 \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u044D\u0442\u0443 \u043F\u0440\u043E\u0446\u0435\u0434\u0443\u0440\u0443 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u043D\u0430 \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E GPU \u0438\u043B\u0438 TPU. \u041D\u0430\u0447\u0438\u0438\u043D\u0430\u044F \u0441 \u043C\u043E\u043C\u0435\u043D\u0442\u0430 \u0441\u043E\u0437\u0434\u0430\u043D\u0438\u044F \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0445 \u0438 \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0445 \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u043E\u0432 \u0434\u0430\u043D\u043D\u044B\u0445, \u043D\u0430\u0448 \xAB\u0440\u0443\u0447\u043D\u043E\u0439\xBB \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B \u0432\u044B\u0433\u043B\u044F\u0434\u0438\u0442 \u0442\u0430\u043A:"),bt=c(),m(qe.$$.fragment),kt=c(),Ne=p("p"),nl=l("\u0410 \u0432\u043E\u0442 \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043D\u0443\u0436\u043D\u043E \u0432\u043D\u0435\u0441\u0442\u0438, \u0447\u0442\u043E\u0431\u044B \u0443\u0441\u043A\u043E\u0440\u0438\u0442\u044C \u043F\u0440\u043E\u0446\u0435\u0441\u0441:"),jt=c(),m(ge.$$.fragment),vt=c(),C=p("p"),il=l("\u041F\u0435\u0440\u0432\u0430\u044F \u0441\u0442\u0440\u043E\u043A\u0430 \u2013 \u044D\u0442\u043E \u0441\u0442\u0440\u043E\u043A\u0430 \u0438\u043C\u043F\u043E\u0440\u0442\u0430 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0438. \u0412\u0442\u043E\u0440\u0430\u044F \u0441\u0442\u0440\u043E\u043A\u0430 \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043E\u0431\u044A\u0435\u043A\u0442 "),bs=p("code"),cl=l("Accelerator"),fl=l(`, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u043F\u0440\u043E\u0430\u043D\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043E\u043A\u0440\u0443\u0436\u0435\u043D\u0438\u0435 \u0438 \u043E\u043F\u0440\u0435\u0434\u0435\u043B\u0438\u0442 \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u044B\u0435 \u043D\u0430\u0441\u0442\u0440\u043E\u0439\u043A\u0438. \u{1F917} Accelerate \u0430\u0432\u0442\u043E\u043C\u0430\u0442\u0438\u0447\u0435\u0441\u043A\u0438 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u0443\u0435\u0442 \u0434\u043E\u0441\u0442\u0443\u043F\u043D\u043E\u0435 \u043E\u0431\u043E\u0440\u0443\u0434\u043E\u0432\u0430\u043D\u0438\u0435, \u043F\u043E\u044D\u0442\u043E\u043C\u0443 \u0432\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u0443\u0434\u0430\u043B\u0438\u0442\u044C \u0441\u0442\u0440\u043E\u043A\u0438, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \xAB\u043F\u0440\u0438\u043A\u0440\u0435\u043F\u043B\u044F\u044E\u0442\xBB
\u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u0434\u0430\u043D\u043D\u044B\u0435 \u043A \u0432\u0438\u0434\u0435\u043E\u043A\u0430\u0440\u0442\u0435 (\u0438\u043B\u0438, \u0435\u0441\u043B\u0438 \u0432\u0430\u043C \u0442\u0430\u043A \u0443\u0434\u043E\u0431\u043D\u0435\u0435, \u043C\u043E\u0436\u0435\u0442\u0435 \u0438\u0437\u043C\u0435\u043D\u0438\u0442\u044C \u0438\u0445 \u043D\u0430 `),ks=p("code"),ml=l("accelerator.device"),dl=l(" \u0432\u043C\u0435\u0441\u0442\u043E \u043F\u0440\u043E\u0441\u0442\u043E "),js=p("code"),ul=l("device"),_l=l(")."),wt=c(),j=p("p"),hl=l("\u0414\u0430\u043B\u0435\u0435 \u0433\u043B\u0430\u0432\u043D\u0430\u044F \u0447\u0430\u0441\u0442\u044C \u0440\u0430\u0431\u043E\u0442\u044B \u0432\u044B\u043F\u043E\u043B\u043D\u044F\u0435\u0442\u0441\u044F \u0432 \u0441\u0442\u0440\u043E\u043A\u0435, \u043A\u043E\u0442\u043E\u0440\u0430\u044F \u043E\u0442\u043F\u0440\u0430\u0432\u043B\u044F\u0435\u0442 \u0434\u0430\u043D\u043D\u044B\u0435, \u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u043E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440 \u043D\u0430 "),vs=p("code"),$l=l("accelerator.prepare()"),bl=l(". \u042D\u0442\u043E\u0442 \u043C\u0435\u0442\u043E\u0434 \xAB\u043E\u0431\u0435\u0440\u043D\u0435\u0442\xBB \u0432\u0430\u0448\u0438 \u043E\u0431\u044A\u0435\u043A\u0442\u044B \u0432 \u043A\u043E\u043D\u0442\u0435\u0439\u043D\u0435\u0440 \u0438 \u0443\u0431\u0435\u0434\u0438\u0442\u0441\u044F, \u0447\u0442\u043E \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435 \u0432\u044B\u043F\u043E\u043B\u043D\u044F\u0435\u0442\u0441\u044F \u043A\u043E\u0440\u0440\u0435\u043A\u0442\u043D\u043E. \u041E\u0441\u0442\u0430\u0432\u0448\u0438\u0435\u0441\u044F \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F \u2013 \u0443\u0434\u0430\u043B\u0435\u043D\u0438\u0435 \u0441\u0442\u0440\u043E\u043A\u0438, \u043A\u043E\u0442\u043E\u0440\u0430\u044F \u043E\u0442\u043F\u0440\u0430\u0432\u043B\u044F\u0435\u0442 \u0431\u0430\u0442\u0447 \u043D\u0430 "),ws=p("code"),kl=l("device"),jl=l(" (\u043F\u043E\u0432\u0442\u043E\u0440\u0438\u043C: \u0435\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u043E\u0441\u0442\u0430\u0432\u0438\u0442\u044C \u044D\u0442\u0443 \u0441\u0442\u0440\u043E\u043A\u0443, \u0437\u0430\u043C\u0435\u043D\u0438\u0442\u0435 "),Es=p("code"),vl=l("device"),wl=l(" \u043D\u0430 "),ys=p("code"),El=l("accelerator.device"),yl=l(") \u0438 \u0437\u0430\u043C\u0435\u043D\u0438\u0442\u0435 "),qs=p("code"),ql=l("loss.backward()"),gl=l(" \u043D\u0430 "),gs=p("code"),zl=l("accelerator.backward(loss)"),Cl=l("."),Et=c(),m(J.$$.fragment),yt=c(),He=p("p"),Pl=l("\u0415\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u0441\u043A\u043E\u043F\u0438\u0440\u043E\u0432\u0430\u0442\u044C \u0438 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u044D\u0442\u043E\u0442 \u043A\u043E\u0434, \u044D\u0442\u043E \u043F\u043E\u043B\u043D\u0430\u044F \u0432\u0435\u0440\u0441\u0438\u044F \u0441 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435\u043C \u{1F917} Accelerate:"),qt=c(),m(ze.$$.fragment),gt=c(),Y=p("p"),Al=l("\u0414\u043E\u0431\u0430\u0432\u043B\u0435\u043D\u0438\u0435 \u044D\u0442\u043E\u0433\u043E \u0432 \u0441\u043A\u0440\u0438\u043F\u0442 "),zs=p("code"),Dl=l("train.py"),xl=l(" \u0441\u0434\u0435\u043B\u0430\u0435\u0442 \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0443\u043D\u0438\u0432\u0435\u0440\u0441\u0430\u043B\u044C\u043D\u044B\u043C \u0434\u043B\u044F \u043B\u044E\u0431\u043E\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u0441\u0438\u0441\u0442\u0435\u043C\u044B. \u041F\u043E\u043F\u0440\u043E\u0431\u0443\u0439\u0442\u0435 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u0435\u0433\u043E \u043D\u0430 \u0432\u0430\u0448\u0435\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u0441\u0438\u0441\u0442\u0435\u043C\u0435:"),zt=c(),m(Ce.$$.fragment),Ct=c(),Ie=p("p"),Ol=l("\u044D\u0442\u0430 \u0441\u0442\u0440\u043E\u043A\u0430 \u043F\u0440\u0435\u0434\u043B\u043E\u0436\u0438\u0442 \u0432\u0430\u043C \u043E\u0442\u0432\u0435\u0442\u0438\u0442\u044C \u043D\u0430 \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0432\u043E\u043F\u0440\u043E\u0441\u043E\u0432 \u0438 \u0441\u043E\u0445\u0440\u0430\u043D\u0438\u0442 \u0432\u0430\u0448\u0438 \u043E\u0442\u0432\u0435\u0442\u044B \u0432 \u043A\u043E\u043D\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0439 \u0444\u0430\u0439\u043B, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C\u0441\u044F \u043F\u0440\u0438 \u0432\u044B\u0437\u043E\u0432\u0435 \u043A\u043E\u043C\u0430\u043D\u0434\u044B:"),Pt=c(),Re=p("p"),Sl=l("which will prompt you to answer a few questions and dump your answers in a configuration file used by this command:"),At=c(),m(Pe.$$.fragment),Dt=c(),Be=p("p"),Tl=l("\u0437\u0430\u043F\u0443\u0441\u043A\u0430\u044E\u0449\u0435\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435."),xt=c(),Q=p("p"),Ul=l("\u0415\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u043F\u043E\u043F\u0440\u043E\u0431\u043E\u0432\u0430\u0442\u044C \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u044D\u0442\u043E\u0442 \u043A\u043E\u0434 \u0432 Jupyter Notebook (\u043D\u0430\u043F\u0440\u0438\u043C\u0435\u0440, \u043F\u0440\u043E\u0442\u0435\u0441\u0442\u0438\u0440\u043E\u0432\u0430\u0442\u044C \u0435\u0433\u043E \u0441 TPU \u043D\u0430 Google Colab), \u043F\u0440\u043E\u0441\u0442\u043E \u0432\u0441\u0442\u0430\u0432\u044C\u0442\u0435 \u043A\u043E\u0434 \u0432 "),Cs=p("code"),Ll=l("training_function()"),Wl=l(" \u0438 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u0435 \u043F\u043E\u0441\u043B\u0435\u0434\u043D\u044E\u044E \u044F\u0447\u0435\u0439\u043A\u0443:"),Ot=c(),m(Ae.$$.fragment),St=c(),K=p("p"),Gl=l("\u0412\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u043D\u0430\u0439\u0442\u0438 \u0431\u043E\u043B\u044C\u0448\u0435 \u043F\u0440\u0438\u043C\u0435\u0440\u043E\u0432 \u0432 \u0440\u0435\u043F\u043E\u0437\u0438\u0442\u043E\u0440\u0438\u0438 "),De=p("a"),Ml=l("\u{1F917} Accelerate repo"),Fl=l("."),this.h()},l(e){const a=Br('[data-svelte="svelte-1phssyn"]',document.head);b=n(a,"META",{name:!0,content:!0}),a.forEach(s),E=f(e),w=n(e,"H1",{id:!0});var Ps=i(w);ee=r(Ps,"\u041F\u043E\u043B\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435"),Ps.forEach(s),L=f(e),d(g.$$.fragment,e),P=f(e),d(D.$$.fragment,e),As=f(e),W=n(e,"P",{});var xe=i(W);Bt=r(xe,"\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u043F\u043E\u0441\u043C\u043E\u0442\u0440\u0438\u043C, \u043A\u0430\u043A \u0434\u043E\u0441\u0442\u0438\u0447\u044C \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u043E\u0432 \u0438\u0437 \u043F\u0440\u0435\u0434\u044B\u0434\u0443\u0449\u0435\u0439 \u0433\u043B\u0430\u0432\u044B \u0431\u0435\u0437 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u044F \u043A\u043B\u0430\u0441\u0441\u0430 "),Ke=n(xe,"CODE",{});var Nl=i(Ke);Jt=r(Nl,"Trainer"),Nl.forEach(s),Yt=r(xe,". \u0412 \u044D\u0442\u043E\u0439 \u0433\u043B\u0430\u0432\u0435 \u043C\u044B \u043F\u0440\u0435\u0434\u043F\u043E\u043B\u0430\u0433\u0430\u0435\u043C, \u0447\u0442\u043E \u0432\u044B \u0432\u044B\u043F\u043E\u043B\u043D\u0438\u043B\u0438 \u044D\u0442\u0430\u043F\u044B \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 \u0440\u0430\u0437\u0434\u0435\u043B\u0430 2. \u041D\u0438\u0436\u0435 \u043A\u043E\u0440\u043E\u0442\u043A\u0430\u044F \u0432\u044B\u0436\u0438\u043C\u043A\u0430 \u0442\u043E\u0433\u043E, \u0447\u0442\u043E \u0432\u0430\u043C \u043F\u043E\u043D\u0430\u0434\u043E\u0431\u0438\u0442\u0441\u044F:"),xe.forEach(s),Ds=f(e),d(se.$$.fragment,e),xs=f(e),te=n(e,"H3",{id:!0});var Hl=i(te);Qt=r(Hl,"\u041F\u043E\u0434\u0433\u043E\u0442\u043E\u0432\u043A\u0430 \u043A \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E"),Hl.forEach(s),Os=f(e),x=n(e,"P",{});var Je=i(x);Kt=r(Je,"\u041F\u0435\u0440\u0435\u0434 \u0440\u0435\u0430\u043B\u0438\u0437\u0430\u0446\u0438\u0435\u0439 \u0446\u0438\u043A\u043B\u0430 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u0437\u0430\u0434\u0430\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u043E\u0431\u044A\u0435\u043A\u0442\u043E\u0432. \u041F\u0435\u0440\u0432\u044B\u0439: \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0438 \u0434\u0430\u043D\u043D\u044B\u0445 (\u0434\u0430\u043B\u0435\u0435 - dataloaders), \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043C\u044B \u0431\u0443\u0434\u0435\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0434\u043B\u044F \u0438\u0442\u0435\u0440\u0438\u0440\u043E\u0432\u0430\u043D\u0438\u044F \u043F\u043E \u0431\u0430\u0442\u0447\u0430\u043C \u0434\u0430\u043D\u043D\u044B\u0445. \u041F\u0435\u0440\u0435\u0434 \u044D\u0442\u0438\u043C \u043D\u0430\u043C \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u043F\u0440\u0438\u043C\u0435\u043D\u0438\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u043E\u043F\u0435\u0440\u0430\u0446\u0438\u0439 \u043F\u043E\u0441\u0442\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 \u043A \u043D\u0430\u0448\u0435\u043C\u0443 "),Ve=n(Je,"CODE",{});var Il=i(Ve);Vt=r(Il,"tokenized_datasets"),Il.forEach(s),Xt=r(Je,". \u042D\u0442\u043E \u043D\u0443\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C: \u0432 \u043F\u0440\u043E\u0448\u043B\u044B\u0439 \u0440\u0430\u0437 \u0437\u0430 \u043D\u0430\u0441 \u044D\u0442\u043E \u0430\u0432\u0442\u043E\u043C\u0430\u0442\u0438\u0447\u0435\u0441\u043A\u0438 \u0434\u0435\u043B\u0430\u043B "),Xe=n(Je,"CODE",{});var Rl=i(Xe);Zt=r(Rl,"Trainer"),Rl.forEach(s),ea=r(Je,". \u041D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0441\u043B\u0435\u0434\u0443\u044E\u0449\u0435\u0435:"),Je.forEach(s),Ss=f(e),O=n(e,"UL",{});var Ye=i(O);T=n(Ye,"LI",{});var Qe=i(T);sa=r(Qe,"\u0423\u0434\u0430\u043B\u0438\u0442\u044C \u043A\u043E\u043B\u043E\u043D\u043A\u0438, \u0441\u043E\u043E\u0442\u0432\u0435\u0442\u0441\u0442\u0432\u0443\u044E\u0449\u0438\u0435 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F\u043C, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043C\u043E\u0434\u0435\u043B\u044C \u043D\u0435 \u043F\u0440\u0438\u043D\u0438\u043C\u0430\u0435\u0442 \u043D\u0430 \u0432\u0445\u043E\u0434 (\u043D\u0430\u043F\u0440\u0438\u043C\u0435\u0440, "),Ze=n(Qe,"CODE",{});var Bl=i(Ze);ta=r(Bl,"sentence1"),Bl.forEach(s),aa=r(Qe," \u0438 "),es=n(Qe,"CODE",{});var Jl=i(es);la=r(Jl,"sentence2"),Jl.forEach(s),ra=r(Qe,")."),Qe.forEach(s),oa=f(Ye),A=n(Ye,"LI",{});var V=i(A);pa=r(V,"\u041F\u0435\u0440\u0435\u0438\u043C\u0435\u043D\u043E\u0432\u0430\u0442\u044C \u043A\u043E\u043B\u043E\u043D\u043A\u0443 "),ss=n(V,"CODE",{});var Yl=i(ss);na=r(Yl,"label"),Yl.forEach(s),ia=r(V," \u0432 "),ts=n(V,"CODE",{});var Ql=i(ts);ca=r(Ql,"labels"),Ql.forEach(s),fa=r(V," (\u043F\u043E\u0442\u043E\u043C\u0443 \u0447\u0442\u043E \u043C\u043E\u0434\u0435\u043B\u044C \u043E\u0436\u0438\u0434\u0430\u0435\u0442 \u0430\u0440\u0433\u0443\u043C\u0435\u043D\u0442, \u043D\u0430\u0437\u0432\u0430\u043D\u043D\u044B\u0439 "),as=n(V,"CODE",{});var Kl=i(as);ma=r(Kl,"labels"),Kl.forEach(s),da=r(V,")."),V.forEach(s),ua=f(Ye),ls=n(Ye,"LI",{});var Vl=i(ls);_a=r(Vl,"\u0417\u0430\u0434\u0430\u0442\u044C \u0442\u0438\u043F \u0434\u0430\u043D\u043D\u044B\u0445 \u0432 \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0435 pytorch tensors \u0432\u043C\u0435\u0441\u0442\u043E \u0441\u043F\u0438\u0441\u043A\u043E\u0432."),Vl.forEach(s),Ye.forEach(s),Ts=f(e),G=n(e,"P",{});var Ut=i(G);ha=r(Ut,"\u041D\u0430\u0448 "),rs=n(Ut,"CODE",{});var Xl=i(rs);$a=r(Xl,"tokenized_datasets"),Xl.forEach(s),ba=r(Ut," \u043F\u0440\u0435\u0434\u043E\u0441\u0442\u0430\u0432\u043B\u044F\u0435\u0442 \u0432\u043E\u0437\u043C\u043E\u0436\u043D\u043E\u0441\u0442\u044C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0432\u0441\u0442\u0440\u043E\u0435\u043D\u043D\u044B\u0435 \u043C\u0435\u0442\u043E\u0434\u044B \u0434\u043B\u044F \u043A\u0430\u0436\u0434\u043E\u0433\u043E \u0438\u0437 \u043F\u0440\u0438\u0432\u0435\u0434\u0435\u043D\u043D\u044B\u0445 \u0432\u044B\u0448\u0435 \u0448\u0430\u0433\u043E\u0432:"),Ut.forEach(s),Us=f(e),d(ae.$$.fragment,e),Ls=f(e),Se=n(e,"P",{});var Zl=i(Se);ka=r(Zl,"\u041C\u044B \u043C\u043E\u0436\u0435\u043C \u043F\u0440\u043E\u0432\u0435\u0440\u0438\u0442\u044C, \u0447\u0442\u043E \u0432 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u0435 \u0443 \u043D\u0430\u0441 \u043F\u0440\u0438\u0441\u0443\u0442\u0441\u0442\u0432\u0443\u044E\u0442 \u0442\u043E\u043B\u044C\u043A\u043E \u0442\u0435 \u043F\u043E\u043B\u044F, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043E\u0436\u0438\u0434\u0430\u0435\u0442 \u043D\u0430\u0448\u0430 \u043C\u043E\u0434\u0435\u043B\u044C:"),Zl.forEach(s),Ws=f(e),d(le.$$.fragment,e),Gs=f(e),Te=n(e,"P",{});var er=i(Te);ja=r(er,"\u0422\u0435\u043F\u0435\u0440\u044C, \u043A\u043E\u0433\u0434\u0430 \u0434\u0430\u0442\u0430\u0441\u0435\u0442 \u0433\u043E\u0442\u043E\u0432, \u043C\u044B \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u0434\u0430\u0442\u044C dataloader:"),er.forEach(s),Ms=f(e),d(re.$$.fragment,e),Fs=f(e),Ue=n(e,"P",{});var sr=i(Ue);va=r(sr,"\u0414\u043B\u044F \u0442\u043E\u0433\u043E, \u0447\u0442\u043E\u0431\u044B \u0443\u0431\u0435\u0434\u0438\u0442\u044C\u0441\u044F \u0432 \u043E\u0442\u0441\u0443\u0442\u0441\u0442\u0432\u0438\u0438 \u043E\u0448\u0438\u0431\u043E\u043A \u0432 \u0441\u0434\u0435\u043B\u0430\u043D\u043D\u043E\u043C \u043D\u0430\u043C\u0438 \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0435, \u043C\u044B \u043C\u043E\u0436\u0435\u043C \u043F\u0440\u043E\u0432\u0435\u0440\u0438\u0442\u044C \u043E\u0434\u0438\u043D \u0431\u0430\u0442\u0447 \u0434\u0430\u043D\u043D\u044B\u0445:"),sr.forEach(s),Ns=f(e),d(oe.$$.fragment,e),Hs=f(e),d(pe.$$.fragment,e),Is=f(e),M=n(e,"P",{});var Lt=i(M);wa=r(Lt,"\u041E\u0431\u0440\u0430\u0442\u0438\u0442\u0435 \u0432\u043D\u0438\u043C\u0430\u043D\u0438\u0435, \u0447\u0442\u043E \u0444\u0430\u043A\u0442\u0438\u0447\u0435\u0441\u043A\u0438\u0435 \u0440\u0430\u0437\u043C\u0435\u0440\u044B, \u0432\u0435\u0440\u043E\u044F\u0442\u043D\u043E, \u0431\u0443\u0434\u0443\u0442 \u043D\u0435\u043C\u043D\u043E\u0433\u043E \u043E\u0442\u043B\u0438\u0447\u0430\u0442\u044C\u0441\u044F \u0434\u043B\u044F \u0432 \u0432\u0430\u0448\u0435\u043C \u0441\u043B\u0443\u0447\u0430\u0435, \u0442\u0430\u043A \u043A\u0430\u043A \u043C\u044B \u0443\u0441\u0442\u0430\u043D\u043E\u0432\u0438\u043B\u0438 "),os=n(Lt,"CODE",{});var tr=i(os);Ea=r(tr,"shuffle=True"),tr.forEach(s),ya=r(Lt," \u0434\u043B\u044F \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0430 \u0434\u0430\u043D\u043D\u044B\u0445, \u0442\u0430\u043A\u0436\u0435 \u043C\u044B \u0434\u043E\u043F\u043E\u043B\u043D\u044F\u0435\u043C (padding) \u0434\u043E \u043C\u0430\u043A\u0441\u0438\u043C\u0430\u043B\u044C\u043D\u043E\u0439 \u0434\u043B\u0438\u043D\u044B \u0432\u043D\u0443\u0442\u0440\u0438 \u0431\u0430\u0442\u0447\u0430."),Lt.forEach(s),Rs=f(e),Le=n(e,"P",{});var ar=i(Le);qa=r(ar,"\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u043F\u043E\u043B\u043D\u043E\u0441\u0442\u044C\u044E \u0437\u0430\u0432\u0435\u0440\u0448\u0438\u043B\u0438 \u044D\u0442\u0430\u043F \u043F\u0440\u0435\u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0438\u043D\u0433\u0430 (\u043F\u0440\u0438\u044F\u0442\u043D\u044B\u0439, \u043D\u043E \u043D\u0435\u0443\u043B\u043E\u0432\u0438\u043C\u044B\u0439 \u043C\u043E\u043C\u0435\u043D\u0442 \u0434\u043B\u044F \u043B\u044E\u0431\u043E\u0433\u043E \u0441\u043F\u0435\u0446\u0438\u0430\u043B\u0438\u0441\u0442\u0430 \u043F\u043E \u043C\u0430\u0448\u0438\u043D\u043D\u043E\u043C\u0443 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E), \u043F\u0435\u0440\u0435\u0439\u0434\u0435\u043C \u043A \u043C\u043E\u0434\u0435\u043B\u0438. \u041C\u044B \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u043C \u0435\u0435 \u0442\u043E\u0447\u043D\u043E \u0442\u0430\u043A, \u043A\u0430\u043A \u0434\u0435\u043B\u0430\u043B\u0438 \u0432 \u043F\u0440\u0435\u0434\u044B\u0434\u0443\u0449\u0435\u043C \u043F\u0440\u0438\u043C\u0435\u0440\u0435:"),ar.forEach(s),Bs=f(e),d(ne.$$.fragment,e),Js=f(e),We=n(e,"P",{});var lr=i(We);ga=r(lr,"\u0427\u0442\u043E\u0431\u044B \u0443\u0431\u0435\u0434\u0438\u0442\u044C\u0441\u044F, \u0447\u0442\u043E \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435 \u043F\u043E\u0439\u0434\u0435\u0442 \u0433\u043B\u0430\u0434\u043A\u043E, \u0432\u044B \u043F\u043E\u0434\u0430\u0434\u0438\u043C \u043D\u0430 \u0432\u0445\u043E\u0434 \u043C\u043E\u0434\u0435\u043B\u0438 \u043E\u0434\u0438\u043D \u0431\u0430\u0442\u0447:"),lr.forEach(s),Ys=f(e),d(ie.$$.fragment,e),Qs=f(e),d(ce.$$.fragment,e),Ks=f(e),F=n(e,"P",{});var Wt=i(F);za=r(Wt,"\u0412\u0441\u0435 \u043C\u043E\u0434\u0435\u043B\u0438 \u{1F917} \u0442\u0440\u0430\u043D\u0441\u0444\u043E\u0440\u043C\u0435\u0440\u043E\u0432 \u0432\u043E\u0437\u0432\u0440\u0430\u0449\u0430\u044E\u0442 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u0435 \u0444\u0443\u043D\u043A\u0446\u0438\u0438 \u043F\u043E\u0442\u0435\u0440\u044C, \u0435\u0441\u043B\u0438 \u0432 \u0434\u0430\u043D\u043D\u044B\u0445 \u0431\u044B\u043B\u0438 "),ps=n(Wt,"CODE",{});var rr=i(ps);Ca=r(rr,"labels"),rr.forEach(s),Pa=r(Wt,", \u0430 \u0442\u0430\u043A\u0436\u0435 \u043B\u043E\u0433\u0438\u0442\u044B (\u0432 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u0435 \u043F\u043E\u043B\u0443\u0447\u0430\u0435\u0442\u0441\u044F \u0442\u0435\u043D\u0437\u043E\u0440 8 \u0445 2)."),Wt.forEach(s),Vs=f(e),y=n(e,"P",{});var S=i(y);Aa=r(S,"\u041C\u044B \u043F\u043E\u0447\u0442\u0438 \u0433\u043E\u0442\u043E\u0432\u044B \u043A \u043D\u0430\u043F\u0438\u0441\u0430\u043D\u0438\u044E \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0446\u0438\u043A\u043B\u0430! \u041C\u044B \u043F\u0440\u043E\u043F\u0443\u0441\u0442\u0438\u043B\u0438 \u0442\u043E\u043B\u044C\u043A\u043E \u0434\u0432\u0435 \u0432\u0435\u0449\u0438: \u043E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440 \u0438 \u043F\u043B\u0430\u043D\u0438\u0440\u043E\u0432\u0449\u0438\u043A \u0441\u043A\u043E\u0440\u043E\u0441\u0442\u0438 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F (learning rate scheduler). \u0412\u0432\u0438\u0434\u0443 \u0442\u043E\u0433\u043E, \u0447\u0442\u043E \u043C\u044B \u043F\u044B\u0442\u0430\u0435\u043C\u0441\u044F \u043F\u043E\u0432\u0442\u043E\u0440\u0438\u0442\u044C \u0432\u0440\u0443\u0447\u043D\u0443\u044E \u0442\u043E, \u0447\u0442\u043E \u0434\u0435\u043B\u0430\u043B \u0437\u0430 \u043D\u0430\u0441 "),ns=n(S,"CODE",{});var or=i(ns);Da=r(or,"Trainer"),or.forEach(s),xa=r(S,", \u043C\u044B \u0431\u0443\u0434\u0435\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C \u0442\u0430\u043A\u0438\u0435 \u0436\u0435 \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E. \u041E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440, \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u0443\u0435\u043C\u044B\u0439 \u0432 "),is=n(S,"CODE",{});var pr=i(is);Oa=r(pr,"Trainer"),pr.forEach(s),Sa=r(S," - "),cs=n(S,"CODE",{});var nr=i(cs);Ta=r(nr,"AdamW"),nr.forEach(s),Ua=r(S,", \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u044F\u0432\u043B\u044F\u0435\u0442\u0441\u044F \u043F\u043E\u0447\u0442\u0438 \u043F\u043E\u043B\u043D\u043E\u0439 \u043A\u043E\u043F\u0438\u0435\u0439 Adam, \u0437\u0430 \u0438\u0441\u043A\u043B\u044E\u0447\u0435\u043D\u0438\u0435\u043C \u0442\u0440\u044E\u043A\u0430 \u0441 \u0441\u043E\u043A\u0440\u0430\u0449\u0435\u043D\u0438\u0435\u043C \u0432\u0435\u0441\u043E\u0432 (\u0434\u0430\u043B\u0435\u0435 - weight decay) (\u0441\u043C. "),fe=n(S,"A",{href:!0,rel:!0});var ir=i(fe);La=r(ir,"\u201CDecoupled Weight Decay Regularization\u201D"),ir.forEach(s),Wa=r(S," \u0437\u0430 \u0430\u0432\u0442\u043E\u0440\u0441\u0442\u0432\u043E\u043C Ilya Loshchilov \u0438 Frank Hutter)."),S.forEach(s),Xs=f(e),d(me.$$.fragment,e),Zs=f(e),N=n(e,"P",{});var Gt=i(N);Ga=r(Gt,"\u041D\u0430\u043A\u043E\u043D\u0435\u0446, \u043F\u043B\u0430\u043D\u0438\u0440\u043E\u0432\u0449\u0438\u043A \u0441\u043A\u043E\u0440\u043E\u0441\u0442\u0438 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E - \u043F\u0440\u043E\u0441\u0442\u043E \u043B\u0438\u043D\u0435\u0439\u043D\u043E\u0435 \u0443\u043C\u0435\u043D\u044C\u0448\u0435\u043D\u0438\u0435 \u0432\u0435\u0441\u043E\u0432 \u0441 \u043C\u0430\u043A\u0441\u0438\u043C\u0430\u043B\u044C\u043D\u043E\u0433\u043E \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F (5e-5) \u0434\u043E 0. \u0427\u0442\u043E\u0431\u044B \u043A\u043E\u0440\u0440\u0435\u043A\u0442\u043D\u043E \u0437\u0430\u0434\u0430\u0442\u044C \u0435\u0433\u043E, \u043D\u0430\u043C \u043D\u0443\u0436\u043D\u043E \u0437\u043D\u0430\u0442\u044C \u0447\u0438\u0441\u043B\u043E \u0448\u0430\u0433\u043E\u0432 \u0432 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0438, \u043A\u043E\u0442\u043E\u0440\u043E\u0435 \u0437\u0430\u0434\u0430\u0435\u0442\u0441\u044F \u043A\u0430\u043A \u043F\u0440\u043E\u0438\u0437\u0432\u0435\u0434\u0435\u043D\u0438\u0435 \u0447\u0438\u0441\u043B\u0430 \u044D\u043F\u043E\u0445 \u0438 \u0447\u0438\u0441\u043B\u0430 \u0431\u0430\u0442\u0447\u0435\u0439 (\u0434\u043B\u0438\u043D\u044B \u043D\u0430\u0448\u0435\u0433\u043E \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u0430 \u0434\u0430\u043D\u043D\u044B\u0445). \u0427\u0438\u0441\u043B\u043E \u044D\u043F\u043E\u0445 \u043F\u043E \u0443\u043C\u043E\u043B\u0447\u0430\u043D\u0438\u044E \u0432 "),fs=n(Gt,"CODE",{});var cr=i(fs);Ma=r(cr,"Trainer"),cr.forEach(s),Fa=r(Gt," \u0440\u0430\u0432\u043D\u043E 3, \u0442\u0430\u043A \u0436\u0435 \u043C\u044B \u0437\u0430\u0434\u0430\u0434\u0438\u043C \u0435\u0433\u043E \u0438 \u0441\u0435\u0439\u0447\u0430\u0441:"),Gt.forEach(s),et=f(e),d(de.$$.fragment,e),st=f(e),d(ue.$$.fragment,e),tt=f(e),_e=n(e,"H3",{id:!0});var fr=i(_e);Na=r(fr,"\u041E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B\u0430"),fr.forEach(s),at=f(e),H=n(e,"P",{});var Mt=i(H);Ha=r(Mt,"\u041F\u043E\u0441\u043B\u0435\u0434\u043D\u0438\u0439 \u043C\u043E\u043C\u0435\u043D\u0442: \u043C\u044B \u0445\u043E\u0442\u0438\u043C \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C GPU \u0432 \u0441\u043B\u0443\u0447\u0430\u0435, \u0435\u0441\u043B\u0438 \u0443 \u043D\u0430\u0441 \u0431\u0443\u0434\u0435\u0442 \u0442\u0430\u043A\u0430\u044F \u0432\u043E\u0437\u043C\u043E\u0436\u043D\u043E\u0441\u0442\u044C (\u043D\u0430 CPU \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u043D\u044F\u0442\u044C \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0447\u0430\u0441\u043E\u0432 \u0432\u043C\u0435\u0441\u0442\u043E \u043F\u0430\u0440\u044B \u043C\u0438\u043D\u0443\u0442). \u0427\u0442\u043E\u0431\u044B \u0434\u043E\u0431\u0438\u0442\u044C\u0441\u044F \u044D\u0442\u043E\u0433\u043E, \u043C\u044B \u043E\u043F\u0440\u0435\u0434\u0435\u043B\u0438\u043C \u043F\u0435\u0440\u0435\u043C\u0435\u043D\u043D\u0443\u044E "),ms=n(Mt,"CODE",{});var mr=i(ms);Ia=r(mr,"device"),mr.forEach(s),Ra=r(Mt," \u0438 \xAB\u043F\u0440\u0438\u043A\u0440\u0435\u043F\u0438\u043C\xBB \u043A \u0432\u0438\u0434\u0435\u043E\u043A\u0430\u0440\u0442\u0435 \u043D\u0430\u0448\u0443 \u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u0434\u0430\u043D\u043D\u044B\u0435:"),Mt.forEach(s),lt=f(e),d(he.$$.fragment,e),rt=f(e),d($e.$$.fragment,e),ot=f(e),Ge=n(e,"P",{});var dr=i(Ge);Ba=r(dr,"\u0422\u0435\u043F\u0435\u0440\u044C \u043C\u044B \u0433\u043E\u0442\u043E\u0432\u044B \u043A \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E \u043C\u043E\u0434\u0435\u043B\u0438! \u0427\u0442\u043E\u0431\u044B \u0438\u043C\u0435\u0442\u044C \u043F\u0440\u0435\u0434\u0441\u0442\u0430\u0432\u043B\u0435\u043D\u0438\u0435 \u043E \u0442\u043E\u043C, \u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0432\u0440\u0435\u043C\u0435\u043D\u0438 \u044D\u0442\u043E \u043C\u043E\u0436\u0435\u0442 \u0437\u0430\u043D\u044F\u0442\u044C, \u043C\u044B \u0434\u043E\u0431\u0430\u0432\u0438\u043C \u043F\u0440\u043E\u0433\u0440\u0435\u0441\u0441-\u0431\u0430\u0440, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u0431\u0443\u0434\u0435\u0442 \u0438\u043B\u043B\u044E\u0441\u0442\u0440\u0438\u0440\u043E\u0432\u0430\u0442\u044C, \u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0448\u0430\u0433\u043E\u0432 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0443\u0436\u0435 \u0432\u044B\u043F\u043E\u043B\u043D\u0435\u043D\u043E. \u042D\u0442\u043E \u043C\u043E\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0441 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435\u043C \u0431\u0438\u0431\u0438\u043B\u0438\u043E\u0442\u0435\u043A\u0438 tqdm:"),dr.forEach(s),pt=f(e),d(be.$$.fragment,e),nt=f(e),Me=n(e,"P",{});var ur=i(Me);Ja=r(ur,"\u0412\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u0437\u0430\u043C\u0435\u0442\u0438\u0442\u044C, \u0447\u0442\u043E \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0432\u044B\u0433\u043B\u044F\u0434\u0438\u0442 \u043E\u0447\u0435\u043D\u044C \u043F\u043E\u0445\u043E\u0436\u0438\u043C \u043D\u0430 \u0442\u043E, \u043A\u0430\u043A \u043E\u043D \u0432\u044B\u0433\u043B\u044F\u0434\u0435\u043B \u0432 \u043D\u0430\u0448\u0438\u0445 \u043F\u0435\u0440\u0432\u044B\u0445 \u043F\u0440\u0438\u043C\u0435\u0440\u0430\u0445. \u041C\u044B \u043D\u0435 \u0443\u043A\u0430\u0437\u044B\u0432\u0430\u043B\u0438 \u043C\u043E\u0434\u0435\u043B\u0438, \u0447\u0442\u043E\u0431\u044B \u043E\u043D\u0430 \u043D\u0430\u043C \u0447\u0442\u043E-\u0442\u043E \u0432\u043E\u0437\u0432\u0440\u0430\u0449\u0430\u043B\u0430 \u0432 \u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F. \u0414\u043B\u044F \u044D\u0442\u043E\u0433\u043E \u043C\u044B \u0434\u043E\u0431\u0430\u0432\u0438\u043C \u0446\u0438\u043A\u043B \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u0438."),ur.forEach(s),it=f(e),ke=n(e,"H3",{id:!0});var _r=i(ke);Ya=r(_r,"\u0412\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0439 \u0446\u0438\u043A\u043B"),_r.forEach(s),ct=f(e),z=n(e,"P",{});var X=i(z);Qa=r(X,"\u0420\u0430\u043D\u0435\u0435 \u043C\u044B \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043B\u0438 \u043C\u0435\u0442\u0440\u0438\u043A\u0443, \u043A\u043E\u0442\u043E\u0440\u0443\u044E \u043D\u0430\u043C \u043F\u0440\u0435\u0434\u043E\u0441\u0442\u0430\u0432\u043B\u044F\u043B\u0430 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0430 \u{1F917} Datasets. \u041C\u044B \u0443\u0436\u0435 \u0437\u043D\u0430\u0435\u043C, \u0447\u0442\u043E \u0435\u0441\u0442\u044C \u043C\u0435\u0442\u043E\u0434 "),ds=n(X,"CODE",{});var hr=i(ds);Ka=r(hr,"metric.compute()"),hr.forEach(s),Va=r(X,", \u043E\u0434\u043D\u0430\u043A\u043E \u043C\u0435\u0442\u0440\u0438\u043A\u0438 \u043C\u043E\u0433\u0443\u0442 \u043D\u0430\u043A\u0430\u043F\u043B\u0438\u0432\u0430\u0442\u044C \u0437\u043D\u0430\u0447\u0435\u043D\u0438\u044F \u0432 \u043F\u0440\u043E\u0446\u0435\u0441\u0441\u0435 \u0438\u0442\u0435\u0440\u0438\u0440\u043E\u0432\u0430\u043D\u0438\u044F \u043F\u043E \u0431\u0430\u0442\u0447\u0443, \u0434\u043B\u044F \u044D\u0442\u043E\u0433\u043E \u0435\u0441\u0442\u044C \u043C\u0435\u0442\u043E\u0434 "),us=n(X,"CODE",{});var $r=i(us);Xa=r($r,"add_batch()"),$r.forEach(s),Za=r(X,". \u041F\u043E\u0441\u043B\u0435 \u0442\u043E\u0433\u043E, \u043A\u0430\u043A \u043C\u044B \u043F\u0440\u043E\u0439\u0434\u0435\u043C\u0441\u044F \u043F\u043E \u0432\u0441\u0435\u043C \u0431\u0430\u0442\u0447\u0430\u043C, \u043C\u044B \u0441\u043C\u043E\u0436\u0435\u043C \u0432\u044B\u0447\u0438\u0441\u043B\u0438\u0442\u044C \u0444\u0438\u043D\u0430\u043B\u044C\u043D\u044B\u0439 \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442 \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E "),_s=n(X,"CODE",{});var br=i(_s);el=r(br,"metric.compute()"),br.forEach(s),sl=r(X,". \u0412\u043E\u0442 \u043F\u0440\u0438\u043C\u0435\u0440 \u0442\u043E\u0433\u043E, \u043A\u0430\u043A \u044D\u0442\u043E \u043C\u043E\u0436\u043D\u043E \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u0432 \u0446\u0438\u043A\u043B\u0435 \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u0438:"),X.forEach(s),ft=f(e),d(je.$$.fragment,e),mt=f(e),d(ve.$$.fragment,e),dt=f(e),Fe=n(e,"P",{});var kr=i(Fe);tl=r(kr,"\u041F\u043E\u0432\u0442\u043E\u0440\u0438\u043C: \u0440\u0435\u0437\u0443\u043B\u044C\u0442\u0430\u0442\u044B, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043F\u043E\u043B\u0443\u0447\u0438\u0442\u0435 \u0432\u044B, \u043C\u043E\u0433\u0443\u0442 \u043D\u0435\u043C\u043D\u043E\u0433\u043E \u043E\u0442\u043B\u0438\u0447\u0430\u0442\u044C\u0441\u044F \u0438\u0437-\u0437\u0430 \u043D\u0430\u043B\u0438\u0447\u0438\u044F \u0441\u043B\u0443\u0447\u0430\u0439\u043D\u043E\u0441\u0442\u0435\u0439 \u043F\u0440\u0438 \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0430\u0446\u0438\u0438 \u043F\u0430\u0440\u0430\u043C\u0435\u0442\u0440\u043E\u0432 \u0441\u043B\u043E\u044F \u043C\u043E\u0434\u0435\u043B\u0438 \u0438 \u0438\u0437-\u0437\u0430 \u0441\u043B\u0443\u0447\u0430\u0439\u043D\u043E\u0433\u043E \u043F\u0435\u0440\u0435\u043C\u0435\u0448\u0438\u0432\u0430\u043D\u0438\u044F \u0434\u0430\u0442\u0430\u0441\u0435\u0442\u0430, \u043E\u0434\u043D\u0430\u043A\u043E \u0438\u0445 \u043F\u043E\u0440\u044F\u0434\u043E\u043A \u0434\u043E\u043B\u0436\u0435\u043D \u0441\u043E\u0432\u043F\u0430\u0434\u0430\u0442\u044C."),kr.forEach(s),ut=f(e),d(I.$$.fragment,e),_t=f(e),U=n(e,"H3",{class:!0});var Ft=i(U);R=n(Ft,"A",{id:!0,class:!0,href:!0});var jr=i(R);hs=n(jr,"SPAN",{});var vr=i(hs);d(we.$$.fragment,vr),vr.forEach(s),jr.forEach(s),al=f(Ft),$s=n(Ft,"SPAN",{});var wr=i($s);ll=r(wr,"\u0423\u0441\u043A\u043E\u0440\u0435\u043D\u0438\u0435 \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0446\u0438\u043A\u043B\u0430 \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E \u{1F917} Accelerate"),wr.forEach(s),Ft.forEach(s),ht=f(e),d(Ee.$$.fragment,e),$t=f(e),B=n(e,"P",{});var Nt=i(B);rl=r(Nt,"\u041E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B, \u0437\u0430\u0434\u0430\u043D\u043D\u044B\u0439 \u0432\u044B\u0448\u0435, \u043E\u0442\u043B\u0438\u0447\u043D\u043E \u0440\u0430\u0431\u043E\u0442\u0430\u0435\u0442 \u043D\u0430 \u043E\u0434\u043D\u043E\u043C GPU \u0438\u043B\u0438 CPU. \u041E\u0434\u043D\u0430\u043A\u043E \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0438 "),ye=n(Nt,"A",{href:!0,rel:!0});var Er=i(ye);ol=r(Er,"\u{1F917} Accelerate"),Er.forEach(s),pl=r(Nt," \u043F\u043E\u0437\u0432\u043E\u043B\u044F\u0435\u0442 \u0441 \u043D\u0435\u0431\u043E\u043B\u044C\u0448\u0438\u043C\u0438 \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F\u043C\u0438 \u0441\u0434\u0435\u043B\u0430\u0442\u044C \u044D\u0442\u0443 \u043F\u0440\u043E\u0446\u0435\u0434\u0443\u0440\u0443 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u043D\u0430 \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E GPU \u0438\u043B\u0438 TPU. \u041D\u0430\u0447\u0438\u0438\u043D\u0430\u044F \u0441 \u043C\u043E\u043C\u0435\u043D\u0442\u0430 \u0441\u043E\u0437\u0434\u0430\u043D\u0438\u044F \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0445 \u0438 \u0432\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0445 \u0437\u0430\u0433\u0440\u0443\u0437\u0447\u0438\u043A\u043E\u0432 \u0434\u0430\u043D\u043D\u044B\u0445, \u043D\u0430\u0448 \xAB\u0440\u0443\u0447\u043D\u043E\u0439\xBB \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B \u0432\u044B\u0433\u043B\u044F\u0434\u0438\u0442 \u0442\u0430\u043A:"),Nt.forEach(s),bt=f(e),d(qe.$$.fragment,e),kt=f(e),Ne=n(e,"P",{});var yr=i(Ne);nl=r(yr,"\u0410 \u0432\u043E\u0442 \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \u043D\u0443\u0436\u043D\u043E \u0432\u043D\u0435\u0441\u0442\u0438, \u0447\u0442\u043E\u0431\u044B \u0443\u0441\u043A\u043E\u0440\u0438\u0442\u044C \u043F\u0440\u043E\u0446\u0435\u0441\u0441:"),yr.forEach(s),jt=f(e),d(ge.$$.fragment,e),vt=f(e),C=n(e,"P",{});var Z=i(C);il=r(Z,"\u041F\u0435\u0440\u0432\u0430\u044F \u0441\u0442\u0440\u043E\u043A\u0430 \u2013 \u044D\u0442\u043E \u0441\u0442\u0440\u043E\u043A\u0430 \u0438\u043C\u043F\u043E\u0440\u0442\u0430 \u0431\u0438\u0431\u043B\u0438\u043E\u0442\u0435\u043A\u0438. \u0412\u0442\u043E\u0440\u0430\u044F \u0441\u0442\u0440\u043E\u043A\u0430 \u0438\u043D\u0438\u0446\u0438\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043E\u0431\u044A\u0435\u043A\u0442 "),bs=n(Z,"CODE",{});var qr=i(bs);cl=r(qr,"Accelerator"),qr.forEach(s),fl=r(Z,`, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u043F\u0440\u043E\u0430\u043D\u0430\u043B\u0438\u0437\u0438\u0440\u0443\u0435\u0442 \u043E\u043A\u0440\u0443\u0436\u0435\u043D\u0438\u0435 \u0438 \u043E\u043F\u0440\u0435\u0434\u0435\u043B\u0438\u0442 \u043D\u0435\u043E\u0431\u0445\u043E\u0434\u0438\u043C\u044B\u0435 \u043D\u0430\u0441\u0442\u0440\u043E\u0439\u043A\u0438. \u{1F917} Accelerate \u0430\u0432\u0442\u043E\u043C\u0430\u0442\u0438\u0447\u0435\u0441\u043A\u0438 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u0443\u0435\u0442 \u0434\u043E\u0441\u0442\u0443\u043F\u043D\u043E\u0435 \u043E\u0431\u043E\u0440\u0443\u0434\u043E\u0432\u0430\u043D\u0438\u0435, \u043F\u043E\u044D\u0442\u043E\u043C\u0443 \u0432\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u0443\u0434\u0430\u043B\u0438\u0442\u044C \u0441\u0442\u0440\u043E\u043A\u0438, \u043A\u043E\u0442\u043E\u0440\u044B\u0435 \xAB\u043F\u0440\u0438\u043A\u0440\u0435\u043F\u043B\u044F\u044E\u0442\xBB
\u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u0434\u0430\u043D\u043D\u044B\u0435 \u043A \u0432\u0438\u0434\u0435\u043E\u043A\u0430\u0440\u0442\u0435 (\u0438\u043B\u0438, \u0435\u0441\u043B\u0438 \u0432\u0430\u043C \u0442\u0430\u043A \u0443\u0434\u043E\u0431\u043D\u0435\u0435, \u043C\u043E\u0436\u0435\u0442\u0435 \u0438\u0437\u043C\u0435\u043D\u0438\u0442\u044C \u0438\u0445 \u043D\u0430 `),ks=n(Z,"CODE",{});var gr=i(ks);ml=r(gr,"accelerator.device"),gr.forEach(s),dl=r(Z," \u0432\u043C\u0435\u0441\u0442\u043E \u043F\u0440\u043E\u0441\u0442\u043E "),js=n(Z,"CODE",{});var zr=i(js);ul=r(zr,"device"),zr.forEach(s),_l=r(Z,")."),Z.forEach(s),wt=f(e),j=n(e,"P",{});var q=i(j);hl=r(q,"\u0414\u0430\u043B\u0435\u0435 \u0433\u043B\u0430\u0432\u043D\u0430\u044F \u0447\u0430\u0441\u0442\u044C \u0440\u0430\u0431\u043E\u0442\u044B \u0432\u044B\u043F\u043E\u043B\u043D\u044F\u0435\u0442\u0441\u044F \u0432 \u0441\u0442\u0440\u043E\u043A\u0435, \u043A\u043E\u0442\u043E\u0440\u0430\u044F \u043E\u0442\u043F\u0440\u0430\u0432\u043B\u044F\u0435\u0442 \u0434\u0430\u043D\u043D\u044B\u0435, \u043C\u043E\u0434\u0435\u043B\u044C \u0438 \u043E\u043F\u0442\u0438\u043C\u0438\u0437\u0430\u0442\u043E\u0440 \u043D\u0430 "),vs=n(q,"CODE",{});var Cr=i(vs);$l=r(Cr,"accelerator.prepare()"),Cr.forEach(s),bl=r(q,". \u042D\u0442\u043E\u0442 \u043C\u0435\u0442\u043E\u0434 \xAB\u043E\u0431\u0435\u0440\u043D\u0435\u0442\xBB \u0432\u0430\u0448\u0438 \u043E\u0431\u044A\u0435\u043A\u0442\u044B \u0432 \u043A\u043E\u043D\u0442\u0435\u0439\u043D\u0435\u0440 \u0438 \u0443\u0431\u0435\u0434\u0438\u0442\u0441\u044F, \u0447\u0442\u043E \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435 \u0432\u044B\u043F\u043E\u043B\u043D\u044F\u0435\u0442\u0441\u044F \u043A\u043E\u0440\u0440\u0435\u043A\u0442\u043D\u043E. \u041E\u0441\u0442\u0430\u0432\u0448\u0438\u0435\u0441\u044F \u0438\u0437\u043C\u0435\u043D\u0435\u043D\u0438\u044F \u2013 \u0443\u0434\u0430\u043B\u0435\u043D\u0438\u0435 \u0441\u0442\u0440\u043E\u043A\u0438, \u043A\u043E\u0442\u043E\u0440\u0430\u044F \u043E\u0442\u043F\u0440\u0430\u0432\u043B\u044F\u0435\u0442 \u0431\u0430\u0442\u0447 \u043D\u0430 "),ws=n(q,"CODE",{});var Pr=i(ws);kl=r(Pr,"device"),Pr.forEach(s),jl=r(q," (\u043F\u043E\u0432\u0442\u043E\u0440\u0438\u043C: \u0435\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u043E\u0441\u0442\u0430\u0432\u0438\u0442\u044C \u044D\u0442\u0443 \u0441\u0442\u0440\u043E\u043A\u0443, \u0437\u0430\u043C\u0435\u043D\u0438\u0442\u0435 "),Es=n(q,"CODE",{});var Ar=i(Es);vl=r(Ar,"device"),Ar.forEach(s),wl=r(q," \u043D\u0430 "),ys=n(q,"CODE",{});var Dr=i(ys);El=r(Dr,"accelerator.device"),Dr.forEach(s),yl=r(q,") \u0438 \u0437\u0430\u043C\u0435\u043D\u0438\u0442\u0435 "),qs=n(q,"CODE",{});var xr=i(qs);ql=r(xr,"loss.backward()"),xr.forEach(s),gl=r(q," \u043D\u0430 "),gs=n(q,"CODE",{});var Or=i(gs);zl=r(Or,"accelerator.backward(loss)"),Or.forEach(s),Cl=r(q,"."),q.forEach(s),Et=f(e),d(J.$$.fragment,e),yt=f(e),He=n(e,"P",{});var Sr=i(He);Pl=r(Sr,"\u0415\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u0441\u043A\u043E\u043F\u0438\u0440\u043E\u0432\u0430\u0442\u044C \u0438 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u044D\u0442\u043E\u0442 \u043A\u043E\u0434, \u044D\u0442\u043E \u043F\u043E\u043B\u043D\u0430\u044F \u0432\u0435\u0440\u0441\u0438\u044F \u0441 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u043D\u0438\u0435\u043C \u{1F917} Accelerate:"),Sr.forEach(s),qt=f(e),d(ze.$$.fragment,e),gt=f(e),Y=n(e,"P",{});var Ht=i(Y);Al=r(Ht,"\u0414\u043E\u0431\u0430\u0432\u043B\u0435\u043D\u0438\u0435 \u044D\u0442\u043E\u0433\u043E \u0432 \u0441\u043A\u0440\u0438\u043F\u0442 "),zs=n(Ht,"CODE",{});var Tr=i(zs);Dl=r(Tr,"train.py"),Tr.forEach(s),xl=r(Ht," \u0441\u0434\u0435\u043B\u0430\u0435\u0442 \u043F\u0440\u043E\u0446\u0435\u0441\u0441 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044F \u0443\u043D\u0438\u0432\u0435\u0440\u0441\u0430\u043B\u044C\u043D\u044B\u043C \u0434\u043B\u044F \u043B\u044E\u0431\u043E\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u0441\u0438\u0441\u0442\u0435\u043C\u044B. \u041F\u043E\u043F\u0440\u043E\u0431\u0443\u0439\u0442\u0435 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u0435\u0433\u043E \u043D\u0430 \u0432\u0430\u0448\u0435\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0439 \u0441\u0438\u0441\u0442\u0435\u043C\u0435:"),Ht.forEach(s),zt=f(e),d(Ce.$$.fragment,e),Ct=f(e),Ie=n(e,"P",{});var Ur=i(Ie);Ol=r(Ur,"\u044D\u0442\u0430 \u0441\u0442\u0440\u043E\u043A\u0430 \u043F\u0440\u0435\u0434\u043B\u043E\u0436\u0438\u0442 \u0432\u0430\u043C \u043E\u0442\u0432\u0435\u0442\u0438\u0442\u044C \u043D\u0430 \u043D\u0435\u0441\u043A\u043E\u043B\u044C\u043A\u043E \u0432\u043E\u043F\u0440\u043E\u0441\u043E\u0432 \u0438 \u0441\u043E\u0445\u0440\u0430\u043D\u0438\u0442 \u0432\u0430\u0448\u0438 \u043E\u0442\u0432\u0435\u0442\u044B \u0432 \u043A\u043E\u043D\u0444\u0438\u0433\u0443\u0440\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0439 \u0444\u0430\u0439\u043B, \u043A\u043E\u0442\u043E\u0440\u044B\u0439 \u0431\u0443\u0434\u0435\u0442 \u0438\u0441\u043F\u043E\u043B\u044C\u0437\u043E\u0432\u0430\u0442\u044C\u0441\u044F \u043F\u0440\u0438 \u0432\u044B\u0437\u043E\u0432\u0435 \u043A\u043E\u043C\u0430\u043D\u0434\u044B:"),Ur.forEach(s),Pt=f(e),Re=n(e,"P",{});var Lr=i(Re);Sl=r(Lr,"which will prompt you to answer a few questions and dump your answers in a configuration file used by this command:"),Lr.forEach(s),At=f(e),d(Pe.$$.fragment,e),Dt=f(e),Be=n(e,"P",{});var Wr=i(Be);Tl=r(Wr,"\u0437\u0430\u043F\u0443\u0441\u043A\u0430\u044E\u0449\u0435\u0439 \u0440\u0430\u0441\u043F\u0440\u0435\u0434\u0435\u043B\u0435\u043D\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435."),Wr.forEach(s),xt=f(e),Q=n(e,"P",{});var It=i(Q);Ul=r(It,"\u0415\u0441\u043B\u0438 \u0432\u044B \u0445\u043E\u0442\u0438\u0442\u0435 \u043F\u043E\u043F\u0440\u043E\u0431\u043E\u0432\u0430\u0442\u044C \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u044C \u044D\u0442\u043E\u0442 \u043A\u043E\u0434 \u0432 Jupyter Notebook (\u043D\u0430\u043F\u0440\u0438\u043C\u0435\u0440, \u043F\u0440\u043E\u0442\u0435\u0441\u0442\u0438\u0440\u043E\u0432\u0430\u0442\u044C \u0435\u0433\u043E \u0441 TPU \u043D\u0430 Google Colab), \u043F\u0440\u043E\u0441\u0442\u043E \u0432\u0441\u0442\u0430\u0432\u044C\u0442\u0435 \u043A\u043E\u0434 \u0432 "),Cs=n(It,"CODE",{});var Gr=i(Cs);Ll=r(Gr,"training_function()"),Gr.forEach(s),Wl=r(It," \u0438 \u0437\u0430\u043F\u0443\u0441\u0442\u0438\u0442\u0435 \u043F\u043E\u0441\u043B\u0435\u0434\u043D\u044E\u044E \u044F\u0447\u0435\u0439\u043A\u0443:"),It.forEach(s),Ot=f(e),d(Ae.$$.fragment,e),St=f(e),K=n(e,"P",{});var Rt=i(K);Gl=r(Rt,"\u0412\u044B \u043C\u043E\u0436\u0435\u0442\u0435 \u043D\u0430\u0439\u0442\u0438 \u0431\u043E\u043B\u044C\u0448\u0435 \u043F\u0440\u0438\u043C\u0435\u0440\u043E\u0432 \u0432 \u0440\u0435\u043F\u043E\u0437\u0438\u0442\u043E\u0440\u0438\u0438 "),De=n(Rt,"A",{href:!0,rel:!0});var Mr=i(De);Ml=r(Mr,"\u{1F917} Accelerate repo"),Mr.forEach(s),Fl=r(Rt,"."),Rt.forEach(s),this.h()},h(){v(b,"name","hf:doc:metadata"),v(b,"content",JSON.stringify(Zr)),v(w,"id",""),v(te,"id",""),v(fe,"href","https://arxiv.org/abs/1711.05101"),v(fe,"rel","nofollow"),v(_e,"id",""),v(ke,"id",""),v(R,"id","accelerate"),v(R,"class","header-link block pr-1.5 text-lg no-hover:hidden with-hover:absolute with-hover:p-1.5 with-hover:opacity-0 with-hover:group-hover:opacity-100 with-hover:right-full"),v(R,"href","#accelerate"),v(U,"class","relative group"),v(ye,"href","https://github.com/huggingface/accelerate"),v(ye,"rel","nofollow"),v(De,"href","https://github.com/huggingface/accelerate/tree/main/examples"),v(De,"rel","nofollow")},m(e,a){t(document.head,b),o(e,E,a),o(e,w,a),t(w,ee),o(e,L,a),u(g,e,a),o(e,P,a),u(D,e,a),o(e,As,a),o(e,W,a),t(W,Bt),t(W,Ke),t(Ke,Jt),t(W,Yt),o(e,Ds,a),u(se,e,a),o(e,xs,a),o(e,te,a),t(te,Qt),o(e,Os,a),o(e,x,a),t(x,Kt),t(x,Ve),t(Ve,Vt),t(x,Xt),t(x,Xe),t(Xe,Zt),t(x,ea),o(e,Ss,a),o(e,O,a),t(O,T),t(T,sa),t(T,Ze),t(Ze,ta),t(T,aa),t(T,es),t(es,la),t(T,ra),t(O,oa),t(O,A),t(A,pa),t(A,ss),t(ss,na),t(A,ia),t(A,ts),t(ts,ca),t(A,fa),t(A,as),t(as,ma),t(A,da),t(O,ua),t(O,ls),t(ls,_a),o(e,Ts,a),o(e,G,a),t(G,ha),t(G,rs),t(rs,$a),t(G,ba),o(e,Us,a),u(ae,e,a),o(e,Ls,a),o(e,Se,a),t(Se,ka),o(e,Ws,a),u(le,e,a),o(e,Gs,a),o(e,Te,a),t(Te,ja),o(e,Ms,a),u(re,e,a),o(e,Fs,a),o(e,Ue,a),t(Ue,va),o(e,Ns,a),u(oe,e,a),o(e,Hs,a),u(pe,e,a),o(e,Is,a),o(e,M,a),t(M,wa),t(M,os),t(os,Ea),t(M,ya),o(e,Rs,a),o(e,Le,a),t(Le,qa),o(e,Bs,a),u(ne,e,a),o(e,Js,a),o(e,We,a),t(We,ga),o(e,Ys,a),u(ie,e,a),o(e,Qs,a),u(ce,e,a),o(e,Ks,a),o(e,F,a),t(F,za),t(F,ps),t(ps,Ca),t(F,Pa),o(e,Vs,a),o(e,y,a),t(y,Aa),t(y,ns),t(ns,Da),t(y,xa),t(y,is),t(is,Oa),t(y,Sa),t(y,cs),t(cs,Ta),t(y,Ua),t(y,fe),t(fe,La),t(y,Wa),o(e,Xs,a),u(me,e,a),o(e,Zs,a),o(e,N,a),t(N,Ga),t(N,fs),t(fs,Ma),t(N,Fa),o(e,et,a),u(de,e,a),o(e,st,a),u(ue,e,a),o(e,tt,a),o(e,_e,a),t(_e,Na),o(e,at,a),o(e,H,a),t(H,Ha),t(H,ms),t(ms,Ia),t(H,Ra),o(e,lt,a),u(he,e,a),o(e,rt,a),u($e,e,a),o(e,ot,a),o(e,Ge,a),t(Ge,Ba),o(e,pt,a),u(be,e,a),o(e,nt,a),o(e,Me,a),t(Me,Ja),o(e,it,a),o(e,ke,a),t(ke,Ya),o(e,ct,a),o(e,z,a),t(z,Qa),t(z,ds),t(ds,Ka),t(z,Va),t(z,us),t(us,Xa),t(z,Za),t(z,_s),t(_s,el),t(z,sl),o(e,ft,a),u(je,e,a),o(e,mt,a),u(ve,e,a),o(e,dt,a),o(e,Fe,a),t(Fe,tl),o(e,ut,a),u(I,e,a),o(e,_t,a),o(e,U,a),t(U,R),t(R,hs),u(we,hs,null),t(U,al),t(U,$s),t($s,ll),o(e,ht,a),u(Ee,e,a),o(e,$t,a),o(e,B,a),t(B,rl),t(B,ye),t(ye,ol),t(B,pl),o(e,bt,a),u(qe,e,a),o(e,kt,a),o(e,Ne,a),t(Ne,nl),o(e,jt,a),u(ge,e,a),o(e,vt,a),o(e,C,a),t(C,il),t(C,bs),t(bs,cl),t(C,fl),t(C,ks),t(ks,ml),t(C,dl),t(C,js),t(js,ul),t(C,_l),o(e,wt,a),o(e,j,a),t(j,hl),t(j,vs),t(vs,$l),t(j,bl),t(j,ws),t(ws,kl),t(j,jl),t(j,Es),t(Es,vl),t(j,wl),t(j,ys),t(ys,El),t(j,yl),t(j,qs),t(qs,ql),t(j,gl),t(j,gs),t(gs,zl),t(j,Cl),o(e,Et,a),u(J,e,a),o(e,yt,a),o(e,He,a),t(He,Pl),o(e,qt,a),u(ze,e,a),o(e,gt,a),o(e,Y,a),t(Y,Al),t(Y,zs),t(zs,Dl),t(Y,xl),o(e,zt,a),u(Ce,e,a),o(e,Ct,a),o(e,Ie,a),t(Ie,Ol),o(e,Pt,a),o(e,Re,a),t(Re,Sl),o(e,At,a),u(Pe,e,a),o(e,Dt,a),o(e,Be,a),t(Be,Tl),o(e,xt,a),o(e,Q,a),t(Q,Ul),t(Q,Cs),t(Cs,Ll),t(Q,Wl),o(e,Ot,a),u(Ae,e,a),o(e,St,a),o(e,K,a),t(K,Gl),t(K,De),t(De,Ml),t(K,Fl),Tt=!0},p(e,[a]){const Ps={};a&2&&(Ps.$$scope={dirty:a,ctx:e}),I.$set(Ps);const xe={};a&2&&(xe.$$scope={dirty:a,ctx:e}),J.$set(xe)},i(e){Tt||(_(g.$$.fragment,e),_(D.$$.fragment,e),_(se.$$.fragment,e),_(ae.$$.fragment,e),_(le.$$.fragment,e),_(re.$$.fragment,e),_(oe.$$.fragment,e),_(pe.$$.fragment,e),_(ne.$$.fragment,e),_(ie.$$.fragment,e),_(ce.$$.fragment,e),_(me.$$.fragment,e),_(de.$$.fragment,e),_(ue.$$.fragment,e),_(he.$$.fragment,e),_($e.$$.fragment,e),_(be.$$.fragment,e),_(je.$$.fragment,e),_(ve.$$.fragment,e),_(I.$$.fragment,e),_(we.$$.fragment,e),_(Ee.$$.fragment,e),_(qe.$$.fragment,e),_(ge.$$.fragment,e),_(J.$$.fragment,e),_(ze.$$.fragment,e),_(Ce.$$.fragment,e),_(Pe.$$.fragment,e),_(Ae.$$.fragment,e),Tt=!0)},o(e){h(g.$$.fragment,e),h(D.$$.fragment,e),h(se.$$.fragment,e),h(ae.$$.fragment,e),h(le.$$.fragment,e),h(re.$$.fragment,e),h(oe.$$.fragment,e),h(pe.$$.fragment,e),h(ne.$$.fragment,e),h(ie.$$.fragment,e),h(ce.$$.fragment,e),h(me.$$.fragment,e),h(de.$$.fragment,e),h(ue.$$.fragment,e),h(he.$$.fragment,e),h($e.$$.fragment,e),h(be.$$.fragment,e),h(je.$$.fragment,e),h(ve.$$.fragment,e),h(I.$$.fragment,e),h(we.$$.fragment,e),h(Ee.$$.fragment,e),h(qe.$$.fragment,e),h(ge.$$.fragment,e),h(J.$$.fragment,e),h(ze.$$.fragment,e),h(Ce.$$.fragment,e),h(Pe.$$.fragment,e),h(Ae.$$.fragment,e),Tt=!1},d(e){s(b),e&&s(E),e&&s(w),e&&s(L),$(g,e),e&&s(P),$(D,e),e&&s(As),e&&s(W),e&&s(Ds),$(se,e),e&&s(xs),e&&s(te),e&&s(Os),e&&s(x),e&&s(Ss),e&&s(O),e&&s(Ts),e&&s(G),e&&s(Us),$(ae,e),e&&s(Ls),e&&s(Se),e&&s(Ws),$(le,e),e&&s(Gs),e&&s(Te),e&&s(Ms),$(re,e),e&&s(Fs),e&&s(Ue),e&&s(Ns),$(oe,e),e&&s(Hs),$(pe,e),e&&s(Is),e&&s(M),e&&s(Rs),e&&s(Le),e&&s(Bs),$(ne,e),e&&s(Js),e&&s(We),e&&s(Ys),$(ie,e),e&&s(Qs),$(ce,e),e&&s(Ks),e&&s(F),e&&s(Vs),e&&s(y),e&&s(Xs),$(me,e),e&&s(Zs),e&&s(N),e&&s(et),$(de,e),e&&s(st),$(ue,e),e&&s(tt),e&&s(_e),e&&s(at),e&&s(H),e&&s(lt),$(he,e),e&&s(rt),$($e,e),e&&s(ot),e&&s(Ge),e&&s(pt),$(be,e),e&&s(nt),e&&s(Me),e&&s(it),e&&s(ke),e&&s(ct),e&&s(z),e&&s(ft),$(je,e),e&&s(mt),$(ve,e),e&&s(dt),e&&s(Fe),e&&s(ut),$(I,e),e&&s(_t),e&&s(U),$(we),e&&s(ht),$(Ee,e),e&&s($t),e&&s(B),e&&s(bt),$(qe,e),e&&s(kt),e&&s(Ne),e&&s(jt),$(ge,e),e&&s(vt),e&&s(C),e&&s(wt),e&&s(j),e&&s(Et),$(J,e),e&&s(yt),e&&s(He),e&&s(qt),$(ze,e),e&&s(gt),e&&s(Y),e&&s(zt),$(Ce,e),e&&s(Ct),e&&s(Ie),e&&s(Pt),e&&s(Re),e&&s(At),$(Pe,e),e&&s(Dt),e&&s(Be),e&&s(xt),e&&s(Q),e&&s(Ot),$(Ae,e),e&&s(St),e&&s(K)}}}const Zr={local:"",sections:[{local:"",title:"\u041F\u043E\u0434\u0433\u043E\u0442\u043E\u0432\u043A\u0430 \u043A \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u044E"},{local:"",title:"\u041E\u0431\u0443\u0447\u0430\u044E\u0449\u0438\u0439 \u0446\u0438\u043A\u043B\u0430"},{local:"",title:"\u0412\u0430\u043B\u0438\u0434\u0430\u0446\u0438\u043E\u043D\u043D\u044B\u0439 \u0446\u0438\u043A\u043B"},{local:"accelerate",title:"\u0423\u0441\u043A\u043E\u0440\u0435\u043D\u0438\u0435 \u043E\u0431\u0443\u0447\u0430\u044E\u0449\u0435\u0433\u043E \u0446\u0438\u043A\u043B\u0430 \u0441 \u043F\u043E\u043C\u043E\u0449\u044C\u044E \u{1F917} Accelerate"}],title:"\u041F\u043E\u043B\u043D\u043E\u0435 \u043E\u0431\u0443\u0447\u0435\u043D\u0438\u0435"};function eo(Oe){return Jr(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class po extends Hr{constructor(b){super();Ir(this,b,eo,Xr,Rr,{})}}export{po as default,Zr as metadata};
