Comments 10
сейчас наша основная задача набрать большое количество кейсов, когда люди действительно это используют.
Вопрос - что значить "большое количество" ? Большое это сколько ? 1000 больше чем 10 на 2 порядка . Но удастся ли в принципе набрать 1000 кейсов например по проблемам оптимизации производительности СУБД ?
В настоящий момент можно сказать абсолютно уверенно - нет и в обозримом будущем ситуация не изменится. Под кейсом, я понимаю нормальный эксперимент а не просто - вот смотрите "я запустил pgbecnh и получил некую цифру и поэтому делаю вывод о том, что моя гипотеза верна".
подход, связанный как раз с цепочками рассуждений
и тут есть проблема связанная с вышеописанной - рассуждения не подкреплены фактами.
Поэтому LLM легко и просто может объяснить две противоположные гипотезы , т.е. LLM в принципе не способна понять, что она ошибается или чего то не знает. Не всем людям, кроме политиков конечно, эта способность доступна.
То есть важно, конечно, делать многое у себя, но важно в том числе и рассказывать про то, что ты делаешь в виде научных статей.
наверное, я так уже год не могу собраться написать. Может быть на новогодние каникулы...
Пока , все, что я рассказываю даже коллегам - абсолютно не интересно и совершенно непонятно. Обратной связи - ноль.
Идея состоит в следующем. Вы просто 10 раз задайте один и тот же вопрос, получите 10 разных вариантов ответа, и самый частый вариант ответа, скорее всего, будет правильным
Метод научного тыка ;-)
P.S. Странно впечатление от доклада для неспециалиста по нейросетям т.е. для меня - очень много слов, мало конкретики и генеральная мысль совершенно не понятна. Может быть так и было задумано.
Пмсм генеральная мысль такова - воздушные шары и дирижабли есть, ждём появления самолётов и ракет, собираем кейсы, пишем статьи, делаем доклады.
Давным-давно , еще в прошлом веке, в году эдак 1983-1985 однажды имел удачу беседовать с живым доктором философии . Ну стандартный вопрос безусому юноше - а чем планируешь заниматься, что интересно?
Очень интересна тема искусственного интеллекта. Хотелось бы заняться.
Ну , прежде чем заниматься попыткой воссоздать интеллект на компьютере нужно ответить на главный вопрос - а что такое интеллект и самосоздание? Нужно почитать Юнга и Фейербаха, для начала.
Прошло столько лет, разработкой искусственного интеллекта я так и не занялся появились другие темы - машинная графика, IP-телефония, СУБД, но только теперь становится понятен смысл сказанного доктором философии.
Разговоров о том, что все называют искусственным интеллектом очень много , деньги вложены огромно-вселенские , но на главный вопрос - а что такое интеллект и самосознание - ответ так и не найден.
Они называют интеллектом алгоритмы построенные на математических вероятностях и статистике ;-) Это даже не смешно. Потому, что зашло - "народу нравитса". Теперь идет монетизация.
P.S. Примерно похожая ситуация , но на порядки проще, в области которой уже глубоко занимаюсь - анализ производительности СУБД . Меготонны статей, часы выступлений - но , проверено лично, задаешь докладчику вопрос - а вот у вас доклад про оптимизацию производительности, а производительность это ,что ? как вы ее измеряете перед тем как оптимизировать? и докладчик впадает в задумчивость и уныние.
С ИИ точно также, только масштабы несравнимы.
производительность это ,что
Как то вы слишком всё усложняете. Все такие метрики меряются временем на операцию или количеством операций в единицу времени.
А сознание это немного поломанная цепь рассуждений - вместо объективного анализа по всем знаниям и фактам, в мозгу происходит прохождение сигналов по одному "кругу" используя личные воспоминания и эмоции. Новые факты при этом имеют незначительный вес. При прохождению по кругу сигналы самоусиливаются и это является личностью человека. Примерно такие объяснения.
Потому и происходит бум ИИ, что специалистам крупных компаний кажется, что они понимают куда двигатся, они сроки называют в несколько лет до нормального ИИ который уже будет трудно критиковать. Алгоритмы сейчас не совершенны, но и это планируют улучшить за счёт ИИ. Впрочем такие разговоры всерьёз идут с начала 60-х годов.
При прохождению по кругу сигналы самоусиливаются и это является личностью человека.
Очень интересная точка зрения.
Вы сводите сложнейшую архитектуру мозга к примитивной схеме. Речь идет о динамических связях, синаптической пластичности, интеграции информации из разных модальностей и формировании сложных внутренних моделей мира.
Такое упрощение, какое Вы предложили, действительно можно расценивать как введение в заблуждение относительно того, что такое человеческое сознание с научной точки зрения.
Конечно я упрощаю. Вы ожидали от 4 строк текста глубины фундаментальной теории?
Упрощение не должно приводить к искажению смысла. Даже в четырех строках можно изложить мысль, которая не противоречит основам нейробиологии. Термины "поломанная" и "незначительный вес фактов" - это не упрощение, а некорректная оценка, которая вводит в заблуждение относительно природы сознания. Вот после таких "упрощений", у некоторых авторов и читателей Хабра и появляются заблуждения по разным вопросам. Когда люди начинают интересоваться когнитивно-символьными системами, их приходится очень долго "переобучать", так как им напихали в головы ерунды, как пример: "У LLM есть сознание/понимание/настоящий интеллект" и т.д.
Больше половины сегодняшних школьников бывшего союза не знает на память таблицу умножения. В США считается успехом, если в четвёртом классе ученик умеет читать.
Я дал краткое понятное объяснение сознания. Если кто то заменит университетское образование на мой комментарий, то такое у него развитие и не я тому причина.
Часть 2. Иван Оселедец с докладом «Успехи и проблемы больших языковых моделей»