Attention
Attention — механизм в нейросетях, который позволяет модели фокусироваться на важных частях данных.
Как работает
Модель оценивает важность каждого элемента входных данных.
Зачем нужен
- повышает точность
- улучшает понимание контекста
Связанные термины
Transformer
LLM