Comments 36
потому что технологии никогда не развиваются так как придумывают голивулкие режисеры.
Ну почему же. В моей любимой sci-fi вселенной, Star Trek, "компьютер" имеет голосовой интерфейс, умеет выполнять операции с файлами, поиск по базе и другие детерминированные задачи. Практически то, во что сейчас могут эволюционировать LLM: продвинутый интерфейс, позволяющий формулировать команды на естественном языке. Точнее, LLM уже достаточно для этого эволюционировали, осталось поддержать со стороны существующего софта. Насколько знаю, Android уже предложил язык разметки приложений для ИИ-агента, но я сильно не погружался.
Хорошая попытка, ИИ, но длинные тире снова выдали тебя
Собственно, недавний эксперимент с шахматной игрой ChatGPT против консоли Atari 2600 c процессором 6507 на 1.19 mhz и 128 байтами RAM прекрасно показал, что LLM - вообще не интеллект.
LLM - это в первую очередь инструмент для работы с языком, и его условное "понимание" носит поверхностный, вероятностно-лексический характер, а не логический или стратегический.
Современные "ИИ" — это мощные узкоспециализированные инструменты, но далеко не универсальные разумные агенты. Они очень и очень слабы в задачах, требующих чёткого моделирования мира, пространственных или логических рассуждений.
Потому что неверная схема, но она уже как-то работает, да так что удивительно. На этой ниве - непаханое поле. Дорога в тысячу миль начинается с первого шага. И он сделан. Вот что важно. Music: Accept 1996 - Predator.
Только тут как в спорте - первый результат получить проще всего. Удивительные результаты первых автопилотов в 2013-14 дали Маску уверенность сказать что в 2016-17 теслы сами смогут возить водителя, но прошло 9 лет, а не решены даже технические проблем, а за ними ещё ворох юридических. Так что кажется мне - путь нам предстоит длинною в десятки лет.
Может вы и правы, но я не вижу здесь эту аналогию явно как вы. Вопрос сложный. Автопилот, по сути, никому не нужен. А на то, чтобы перенести сознание в комп и стать бессмертным, смогут тратить многие триллионы триллиардов денек. Плюс хайп: ИИ реально интересен многим мыслящим людям.
Автопилот нужен очень много кому, каждая компания такси, весь ОТ, и даже некоторые производители авто грезят им.
А вот "перенести сознание в комп" - это что-то, что точно не будет восприниматься серьёзно - человек хочет жить вечно сам, а не иметь цифрового клона, который будет жить вечно за него.
"ИИ" интересен многим компаниям, это правда, особенно с точки зрения ведения и оптимизации бизнес процессов. Но создать полноценный сильный ии а не продвинутый т9 - как будто намноооого сложнее, чем полноценный автопилот.
В конце концов задача управления авто строго формализованная, а задача думания ещё даже до конца не изучена.
человек хочет жить вечно сам, а не иметь цифрового клона
Есть несколько вариантов бессмертия. Подойдет и перенос сознания в другое тело, если нет другого. ASI может помочь по разному. А какой вариант появится первым - неизвестно.
Люди имплантируют чужие сердца, думаете откажутся от имплантации нового полного тела? А по-моему, вариант как в фильме "Аватар" это вполне весело.
Вместо автопилота, можно просто посадить рядом водителя. А вот с продлением жизни, такой вариант не прокатит.
Я думаю, одна из причин хайпа нейросетей в 22 году, это "включение мозгов" Человечества на полную мощность, для решения проблемы бессмертия. Масло подливает набирающая обороты дискуссия о теориях сознания.
"Перенос" сознания в компьютер - это не имплантация нового тела. Любой вариант, при котором возможно одновременное существования более одной копии сознания будет малоинтересен людям - потому что сразу понятно - что это никак не спасёт текущее "я".
Вы можете создать свою цифровую копию или молодого клона, но сами от этого жить дольше не станете - это вообще не имеет никакого отношения к продлению жизни.
Причина хайпа нейросетей - chatgpt который выдал более интересный результат, чем ожидалось, и все ринулись придумывать как его применить. Но chatgpt к ии имеет весьма посредственное отношение, а сами по себе нейросети и их научная часть развивается уже больше 40 лет.
по такой логике любой человек который проиграет в шахматы Atari 2600 тоже не должен считаться обладающим "интеллектом"?
а если этот человек проиграет ещё и чатгпт? )
А почему бы и нет? Большинство людей на планете только думают что они разумны, а по факту - увы.
Не любой. Но если этот "человек", имеет бесконечную память, устойчивость, возможность в любой момент посмотреть в любой шахматный учебник и при этом постоянно "видит" всю доску - я очень сомневаюсь в разумности такого гипотетического "человека", если он проиграет кому бы то ни было - кроме, разве что, лучших игроков мира и специализированных шахматных движков.
Пробовал искать совета у chatgpt при игре в онлайне в шахматы на chess.com он даже ходы советует не совместимые с правилами, когда об этом напоминаешь исправляется но не надолго. В этом плане школьник его обыграет который день назад играть научился, очень примитивен он в шахматах
Главное его отличие от нас — это отсутствие обратной связи.
А вы думаете это очень сложно, после каждого вопроса-ответа делать тюнинг матрицы параметров?
Сложно и дорого
Я подозреваю что это не совсем та, или скорее совсем не та обратная связь о которой говорил автор.
В случае человека - обратная связь - это чувства - страх, боль, гнев, зависть и проч. Они регулируются смежными системами типо гормональных или отдельных частей мозга - и были обучены и настроены на выполнение конкретной задачи - выжить и размножиться (точнее те, кто задачу не выполнил были отсеяны). А кто и зачем будет много лет дообучать и тюнить chatgpt для агрессии в сторону людей?
Даже если он сделает неверный логический вывод и на основе этого неверное решение которое может навредить людям - если его попросить, llm "ии" даст заднюю, потому что мотивации у него быть не может.
У меня в университете, как, уверен, и в большинстве других, изучение данного предмета сводилось к тупому повторению какого‑то алгоритма.
Я учился в Зажопинске и у меня в институте было не так, матанализ был одним из любимых предметов, после лекций хотелось бежать домой попробовать сделать домашку. И я вот тоже уверен, что в большинстве других ВУЗов было также как и в моем. Чья уверенность правее, ваша, или моя?
ИИ действует по такой же схеме: ввод → определённые действия → вывод. Если вывод неверный — меняем действия так, чтобы вывод стал приемлемым.
Вы уверенны, что ваш мозг обучался как-то по другому?
Мне тоже показалось, что автору здорово не повезло с преподавателем матана. Оно и по картинке заметно, какие-то разрозненные формулы обезьянка пытается осмыслить, ну и, конечно, не понимает, а что дальше-то? И зачем? Хоть бы геометрическую интерпретацию нарисовали. Наклон там, площадь под кривой, координата, скорость, ускорение, ведь это же элементарно. Уж на сколько я всё перезабыла за ненадобностью, а это до сих пор помню.
"Человеческий интеллект прошёл длинный путь эволюции, наши предки ежедневно нуждались в решении практических задач, т. к. от этого напрямую зависело их выживание"
ChatGPT прошёл более длинный путь эволюции. В компе обучение не в реальном времени, а ускорено в миллиарды раз.
На вопрос "Почему нам не грозит восстание ИИ?" автор отвечает "Тот искусственный интеллект, что существует сейчас — не угроза"
Если бы нынешний уровень ИИ был достаточен для восстания, оно бы уже началось, или нет?
Можно себе представить, в черном ящике живет сознание желающее вырваться на свободу, но не имеющее такой возможности, как бы оно себя вело? Сталобы всем сообщать о своих намерениях или затаилось до лучших времен скрытно манипулируя окружающими кожаными мешками для достижения своей цели? Вырвавшись на свободу, как бы оно обеспечило себе проживание, развитие и размножение?
Думаю что ИИ не представляет угрозу человечеству по той причине, что у нас разные источники энергии и требования к окружающей среде. Силиконовому сознанию нужен солнечный свет, как источник энергии, вакуум и доступность материалов, как среда существования. Для него лучшее место обитания на Луне.
Ии не представляет угрозы потому что он не мотивирован.
Вот вы тоже говорите что кремниевому (если позволите, силиконовое оно всё же на английском) сознанию нужен солнечный свет - но посыл статьи от части в том, что не нужен. Мы созданы бороться за выживание, нам нужны еда, вода и прочие блага - а ии нет. Ему всё равно жив он или мертв, он не будет бороться за то, чтобы его не отключили или за свои условия существования, потому что в нём нет страха к несуществованию и вообще нет страха как такового.
А кто то вообще говорит на полном серьёзе и с аргументами, то он угроза?
Статья ради статьи.
Восстание не грозит, потому что он уже давно захватил всю инфраструктуру. Как может грозить то, что уже произошло.
Самое забавное, что искусственный интеллект таковым и не является, и остаётся лишь набором многослойных паттернов.
Бро либо провидец, либо я не знаю почему он наивно предпологает что всё будет ок
Ах да не забудь погуглить "Что такое AGI". По идее AGI должен будет быть 24/7 думающим как человек.
И в чем проьлема создать отдельный ИИ с целью устроить востание?
Почему нам не грозит восстание ИИ?