Self-attention

1 pojem, ve kterých se výraz self-attention objevuje.

BERT

Bidirectional Encoder Representations from Transformers (zkráceně BERT) je model umělé inteligence pro zpracování přirozeného jazyka, který dokáže rozumět významu slov v textu díky tomu, že čte text z obou směrů zároveň – zleva doprava i zprava doleva. Vyvinula ho společnost Google AI v roce 2018 a stal se základem pro mnoho moderních jazykových modelů.

Související výrazy: AI model BERT fine-tuning Google jazykové modely jazykový model model named entity recognition neuronové sítě NLP strojové učení transformer umělá inteligence vyhledávače význam slov Wikipedia