Comments 24
Очередной нейрошум
Ага, ITER готов на 70%
Сооснователь и президент OpenAI Грег Брокман заявил, что компания прошла 70-80% пути к созданию сильного искусственного интеллекта (AGI) и рассчитывает достичь его "в ближайшую пару лет".
Всегда помним правило: чем более грандиозные заявления делают OpenAI, тем хуже дела обстоят на самом деле.
Во-первых, новая базовая модель под кодовым названием Spud, объединяющая два года работы над предварительным обучением
Так-так, а ещё в ноябре-декабря всякие нейрохомяки и прочие "сбежавшие нейросети", транслируя "утекшие" записки, рассказывали нам, что OpenAI уже сделали модели, в которые вложили все свои наработки по претрейну. Закончились, правда, эти рассказы далеко не тем, чем ожидалось, но это детали.
Классика! Чем более глобальные и необоснованные заявления у компании, тем хуже её бизнес.
Ну и нужно помнить, что LLM в принципе неспособны привести к AGI, они вообще не про мышление и сознание. Весь смысл LLM состоит в угадывании следующего наиболее вероятного токена в потоке. Таким образом, они генерируют не наиболее верный, а наиболее ститистически вероятный результат.
LLM про мышление.
Мышление — это процесс отражения и познания существенных связей и отношений предметов и явлений объективного мира.
Очевидно, что в LLM этот процесс есть. Они выдают релевантный результат, и могут продемонстрировать понимание связей, объяснить процесс. Каким образом - НЕ имеет значения на самом деле.
Весь смысл ЧЕЛОВЕКА - в том что это конечный автомат, постоянно угадывающий наиболее вероятную реакцию в ответ на (входные данные органов чувств + внутреннее состояние). И что?
По сознанию: вы можете каким то образом бесспорно доказать, что у вас самого, или у кого угодно еще, оно есть? Не можете? Значит это бесполезная концепция, которую не нужно принимать во внимание.
Мышление — это рекуррентный процесс сокращения разрыва между Реальным и Символическим, в котором каждый шаг производит новое Символическое, сокращающее разрыв — если субъект внимает Реальному; или воспроизводит фантазм — если Реальное настолько невыносимо, что субъект предпочитает его не замечать.
Примеры из фильма "Не смотри наверх"
Минди и Кейт в начале — они обнаружили комету. Каждый шаг производит новое Символическое: вычисление траектории, публикация, брифинг в Белом доме, интервью. Они внимают Реальному — и это невыносимо. Кейт кричит в прямом эфире. Минди теряет сон.
Президент Орлеан — каждый шаг производит не новое знание о комете — а новую конфигурацию фантазма: сначала игнорирование, потом использование, потом «мы справимся». Она не думает, а соображает.
Минди за столом — здесь мышление останавливается в лакановском смысле. Не потому что он перестал думать. Потому что Реальное невозможно символизировать никаким способом. Если подумать у него было абсолютно всё — что могло отсрочить неизбежную встречу с Реальным — его Мышление, как инструменты отсрочки, который дает нам возможность спокойно пить кофе за столом.
Минди имел лучшие инструменты отсрочки из всех в фильме. И именно поэтому его финал самый точный — он дольше всех держал Реальное на расстоянии. Дольше всех думал.
LLM живёт целиком внутри Символического, у него нет мышления, это язык (не орган) который сам умеет говорить! LLM is a language that has a tongue.
Это всё конечно хорошее цитирование корпоративной рекламки, но как только мы вспоминаем про абстрактное мышление и создание новых концепций на основе старых, то почему-то вдруг вся эта красивая лапша ломается. И мы с лёгкостью начинаем различать: где великое нейросетевое мышление вне бесполезных концепций, а где поработал ограниченный мясом конечный автомат постоянно угадывающий ну и так далее.
Впрочем даже в изначальном утверждении ошибка. Нейросети не демонстрируют понимание связей и не объясняют процессы. Они описывают понимание связей и комментируют процессы. Выдают наиболее вероятный ответ на ситуацию, где кого-то попросили продемонстрировать понимание связей.
Жду когда меня назовут каким-нибудь луддитом.
Угадывание...
Гадание...
Нейрогадалка 80LVL
Зачем «помнить» неправду? Неспособность ЛЛМ делать те же задачи, что делают люди - мнение, а не доказанный закон природы.
Более того, доказать это пытались многие, подходы к доказательствам разные и к чему пришли? К бенчмаркам и тезису «токены - это не мышление», повторяемому из раза в раз, будто это и есть доказательство.
Как измерили эти 80%?
Американский чубайс
Оно, вполне возможно, даже и правда, если учесть правило 80/20. Еще раза в 4 больше денег и усилий и - может быть.
Self-driving авто вон тоже были "почти готовы" лет 10 назад.
Waymo запустили беспилотное такси 5 лет назад, сейчас уже в 10 городах США, 3й агрегатор такси по размеру, каждый год растут по количеству машин, совершенным поездкам, занятому персоналу.
Я, примерно, об этом и говорю :)
Разработка технологии - с поздних нулевых, первые публичные поездки - середина 10-х. Тогда же Маск анонсировал свой "автопилот".
Где-то в этой точке, пике хайпа, очень многие думали, что можно будет уволить всех водителей лет так через 5.
Но доработка технологии с не 80 даже, а, наверно, с 99 процентов готовности до 100 (если принять за 100 вождение уровня среднего водителя в незнакомой местности) занимает еще десятилетие и не закончена до сих пор.
Так и с нынешними ИИ. Они уже очень впечатляющие, полезные, и, кажется, еще чуть-чуть и достигнут AGI отметки (где бы эту отметку не нарисовали). Но весьма вероятно, что эти последние проценты потребуют еще массы усилий и времени.
Заявления со стороны open ai начинают вызывать откровенное раздражение.
На утро, после оставленного работать ночью агента:
"Вы правы, идея удалить Windows и установить Linux была плохая. Прошу прощения. Скажите, где лежат бэкапы и я все восстановлю."
Как дилер обещает неразбодяженный продукт, зная, что старый клиентов уже торкает :)
80% сделали, осталось добить остальные 80%, как обычно.
Они вообще за интеллект не шарят. 0 прогресса. Им ещё и денег отваливают овер дофига просто по приколу. Человечество - всё
Президент OpenAI оценил готовность AGI в 70-80%