Просто и подробно о том, как работают ChatGPT и другие GPT подобные модели. С картинками

Эта статья — длиннопост о том, как работают ChatGPT и другие GPT подобные модели
Внутри
🔠 Подробно про токены, токенизатор и контекстное окно
❓ Почему GPT модели работают лучше на английском, чем на русском
🔢 Как большие языковые модели работают с числами
Два моих убеждения о том, почему важно понимать принцип работы нейросетей
Непонятная технология воспринимается как магия
Люди любят наделять неживое свойствами живого
LLM сочетают в себе эти два свойства: они достаточно сложны в устройстве и естественны в общении. Это сочетание снижает критичность восприятия — люди могут воспринимать ChatGPT и подобные интерфейсы как разумных существ, что приводит к переоценке их возможностей, повышенной внушаемости и определенным психологическим рискам — эмоциональной зависимости или мании величия от «особых отношений» с ИИ.