import{s as Q,n as I,o as K}from"../chunks/scheduler.37c15a92.js";import{S as V,i as W,g as i,s as n,r as k,A as X,h as o,f as l,c as r,j as J,u as z,x as w,k as O,y as Z,a,v as A,d as S,t as U,w as j}from"../chunks/index.2bf4358c.js";import{Y as tt}from"../chunks/Youtube.1e50a667.js";import{C as et}from"../chunks/CourseFloatingBanner.9ff4c771.js";import{H as lt,E as at}from"../chunks/getInferenceSnippets.39afd8fb.js";function nt(q){let s,v,d,x,m,C,f,T,p,E,u,N="Кодировщики используют только компонент кодировщика трансформера. На каждом этапе слой внимания может использовать все слова исходного предложения. Эти модели часто характеризуют как имеющие двунаправленное внимание (англ. bi-directional attention), и часто называют моделями <em>автокодировщиками</em>.",P,c,Y="Предварительное обучение этих моделей обычно заключается в том, чтобы как-то исказить предложение (например, путем маскировки в нем случайных слов) и поставить перед моделью задачу найти или восстановить исходное предложение.",L,h,D="Кодировщики лучше всего подходят для задач, требующих <em>понимания</em> всего предложения, таких как классификация предложений, распознавание именованных сущностей (и, в более общем смысле, классификация слов) и ответы на вопросы с извлечением информации из контекста (выделительные вопросно-ответные системы).",M,$,F="К представителям этого семейства моделей относятся:",H,g,G='<li><a href="https://huggingface.co/transformers/model_doc/albert.html" rel="nofollow">ALBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/bert.html" rel="nofollow">BERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/distilbert.html" rel="nofollow">DistilBERT</a></li> <li><a href="https://huggingface.co/transformers/model_doc/electra.html" rel="nofollow">ELECTRA</a></li> <li><a href="https://huggingface.co/transformers/model_doc/roberta.html" rel="nofollow">RoBERTa</a></li>',R,_,y,b,B;return m=new lt({props:{title:"Модели-кодировщики",local:"модели-кодировщики",headingTag:"h1"}}),f=new et({props:{chapter:1,classNames:"absolute z-10 right-0 top-0"}}),p=new tt({props:{id:"MUqNwgPjJvQ"}}),_=new at({props:{source:"https://github.com/huggingface/course/blob/main/chapters/ru/chapter1/5.mdx"}}),{c(){s=i("meta"),v=n(),d=i("p"),x=n(),k(m.$$.fragment),C=n(),k(f.$$.fragment),T=n(),k(p.$$.fragment),E=n(),u=i("p"),u.innerHTML=N,P=n(),c=i("p"),c.textContent=Y,L=n(),h=i("p"),h.innerHTML=D,M=n(),$=i("p"),$.textContent=F,H=n(),g=i("ul"),g.innerHTML=G,R=n(),k(_.$$.fragment),y=n(),b=i("p"),this.h()},l(t){const e=X("svelte-u9bgzb",document.head);s=o(e,"META",{name:!0,content:!0}),e.forEach(l),v=r(t),d=o(t,"P",{}),J(d).forEach(l),x=r(t),z(m.$$.fragment,t),C=r(t),z(f.$$.fragment,t),T=r(t),z(p.$$.fragment,t),E=r(t),u=o(t,"P",{"data-svelte-h":!0}),w(u)!=="svelte-lr7kkl"&&(u.innerHTML=N),P=r(t),c=o(t,"P",{"data-svelte-h":!0}),w(c)!=="svelte-1w67d0g"&&(c.textContent=Y),L=r(t),h=o(t,"P",{"data-svelte-h":!0}),w(h)!=="svelte-1cwwm6b"&&(h.innerHTML=D),M=r(t),$=o(t,"P",{"data-svelte-h":!0}),w($)!=="svelte-bflasu"&&($.textContent=F),H=r(t),g=o(t,"UL",{"data-svelte-h":!0}),w(g)!=="svelte-18kzzol"&&(g.innerHTML=G),R=r(t),z(_.$$.fragment,t),y=r(t),b=o(t,"P",{}),J(b).forEach(l),this.h()},h(){O(s,"name","hf:doc:metadata"),O(s,"content",rt)},m(t,e){Z(document.head,s),a(t,v,e),a(t,d,e),a(t,x,e),A(m,t,e),a(t,C,e),A(f,t,e),a(t,T,e),A(p,t,e),a(t,E,e),a(t,u,e),a(t,P,e),a(t,c,e),a(t,L,e),a(t,h,e),a(t,M,e),a(t,$,e),a(t,H,e),a(t,g,e),a(t,R,e),A(_,t,e),a(t,y,e),a(t,b,e),B=!0},p:I,i(t){B||(S(m.$$.fragment,t),S(f.$$.fragment,t),S(p.$$.fragment,t),S(_.$$.fragment,t),B=!0)},o(t){U(m.$$.fragment,t),U(f.$$.fragment,t),U(p.$$.fragment,t),U(_.$$.fragment,t),B=!1},d(t){t&&(l(v),l(d),l(x),l(C),l(T),l(E),l(u),l(P),l(c),l(L),l(h),l(M),l($),l(H),l(g),l(R),l(y),l(b)),l(s),j(m,t),j(f,t),j(p,t),j(_,t)}}}const rt='{"title":"Модели-кодировщики","local":"модели-кодировщики","sections":[],"depth":1}';function st(q){return K(()=>{new URLSearchParams(window.location.search).get("fw")}),[]}class ut extends V{constructor(s){super(),W(this,s,st,nt,Q,{})}}export{ut as component};
