GPT

GPT (Generative Pre-trained Transformer) — это тип языковой модели, основанный на архитектуре Transformer и обученный на больших объёмах текста.

Что это такое

GPT используется для генерации текста, ответов на вопросы, перевода и других задач обработки языка. Модель сначала проходит предварительное обучение (pretraining), а затем может адаптироваться под конкретные задачи.

Особенности

Связанные термины

Transformer Language Model Pretraining