Comments 5
Согласен с фразой SÉBASTIEN BUBECK:
GPT-4 обладает типом обобщенного интеллекта и демонстрирует гибкое понимание концепций. Но ему не хватает некоторых фундаментальных составляющих человеческого интеллекта, таких как память и способность к обучению.
В ожиданни GPT со способностью накапливать контекст взаимодействия и обучаться.
Допускаю, что текущие сохраняемые GPT диалоги (chat) частично служат цели сбора простых вариантов контекста.
А всё-таки, зачем GPT обучаться? Добавление некоторого количества данных в промт, few-shot, файн-тюнинг накрайняк решает 99,9% проблем, которые могут возникнуть от недостатка каких-либо знаний у модели. Контекст в 32 тысячи токенов располагает к этому, а вот какой-то вариант самообучения сложен в реализации, дорог в использовании и скорее вреден, чем полезен в отношении "знаний модели".
А всё-таки, зачем GPT обучаться?
Чтоб получить настоящего цифрового ассистента, со знанием вашей области интересов, ваших запросов и задач. Для более осмысленных ответов и предвосхищения событий.
Допустим, ваш цифровой двойник вместе с вами большую часть времени, анализирует получаемую информацию.
В этом случае он более полезный помощник (далее моя не очень широкая фантазия):
- вам пора отдохнуть
- вы перегружены и на гране срыва, нужно сторонняя помощь
- вы в поездке в город Н-ск и нужно продумать питание, отдых, встречи.
- вы заняты задачей Х и открыты к сотрудничеству.
Ассистент запрашивает занятых аналогичной задачей на обмен информацией.
Потребности разные.
Ну, с вышеперечисленными задачами отлично справляются простые нейросети и даже непростые классические алгоритмы. GPT это в первую очередь очень продвинутый генератор текста, а не личный помощник или Википедия.
Википедия хорошо работает и без всяких GPT, а прикрутить к личному ассистенту поиск по некоторому объему информации, как оказалось, не так и сложно. Лично я думаю, что все будет развиваться именно в эту сторону.
Алармистские настроения в основном у не специалистов по технологии ИНС, до конца не понимающих их возможностей и ограничений. Не понимаю поэтому боюсь. Потенциально угроза только от злонамеренного или не компетентного использования, как и любой достаточно сложной технологии. Пока в основном это база для нового поколения интеллектуальных ассистентов, и исследовательская база за агентов, включая воплощенных. Перспектива, имхо, как-то так видится.
Угроза или новые возможности: мнение ведущих экспертов о больших языковых моделях, таких как GPT-4