Такое ощущение что разработчики, инвесторы, собственники компаний и менеджеры вообще не понимают что такое современный ИИ. Современные ИИ-модели обучаются на больших корпусах текста и кода, предсказывая следующий токен в последовательности. Обучение идёт через градиентный спуск: модель сравнивает прогноз с правильным ответом и корректирует веса. Сначала её учат на общем корпусе, потом дообучают на узких задачах, а затем корректируют с помощью обратной связи человека. На определенном этапе возникает проблема переобучения, когда модель запоминает данные вместо обобщения закономерностей. Тогда она идеально решает примеры из тренировки, но ошибается на новых. Основной принцип устройства этих моделей никуда не девается. Чтоб модель была полностью автономна, нужны совершенно новые технологии и подходы. Что касается GPT-5, он остаётся тем же генеративным ИИ, предсказывающим следующий токен, но стал умнее за счёт улучшения параметров и датасета для обучения.
Такое ощущение что разработчики, инвесторы, собственники компаний и менеджеры вообще не понимают что такое современный ИИ. Современные ИИ-модели обучаются на больших корпусах текста и кода, предсказывая следующий токен в последовательности. Обучение идёт через градиентный спуск: модель сравнивает прогноз с правильным ответом и корректирует веса. Сначала её учат на общем корпусе, потом дообучают на узких задачах, а затем корректируют с помощью обратной связи человека. На определенном этапе возникает проблема переобучения, когда модель запоминает данные вместо обобщения закономерностей. Тогда она идеально решает примеры из тренировки, но ошибается на новых. Основной принцип устройства этих моделей никуда не девается. Чтоб модель была полностью автономна, нужны совершенно новые технологии и подходы. Что касается GPT-5, он остаётся тем же генеративным ИИ, предсказывающим следующий токен, но стал умнее за счёт улучшения параметров и датасета для обучения.