Комментарии 351
Впервые в истории прогресс делает не нужными не отдельную группу людей, вроде трубочистов, ткачей, а в целом делает не нужными людей с образованием.
"Не_нужными " - в контексте сути коммента выглядит весьма иронично.
С религиозной точки зрения, супер-способность человека - это творчество.
Так и получается, что с теми знаниями, которые уже есть у человечества - AI превосходит или приближается к уровню учёных.
А вот придумать что-то фундаментально новое - не может.
Кто-то возразит, что AI и музыку пишет, картины рисует, книги пишет... Насколько я смог разобраться - это не творчество AI, а компиляция из данных полученных при тренинге.
А к настоящему творчеству и новым открытиям способен только человек.
Про игру Го так говорили. По моему человек в го уже не может обыграть ии.
так игра в Го это по сути перебор миллион (или больше) и поиск подходящей стратегии
небось и в старкрафт машины лучше играют
Конечно, в Го и Шахматах есть место для творчества, но творчество просто давится объемом оперативной памяти компа. Вот если бы могли Каспарову поставить оперативу и сопроцессор. Вот тогда бы да.
А вот нарисовать новую "Мону Лизу" нейронки пока! не могут. С пальцами то разобрались уже? или не все
Почему не могут, потому что "не учили". Нет у нейронок знания физиологии и анатомии. У людей есть и нам кажется что это очевидно. Да нифига, у людей жизненный опыт, у нейронок только датасеты
Если подумать, то творчество это тоже компиляция и перебор вариантов, только зритель не видит всю цепочку и воспринимает финальный этап как божественное озарение гения, как то, на что не способен ИИ.
Это временно, это допилят.
Специалисты уже работают над этим вопросом
у человеческого творчества есть причины. Причины в человеках. В мотивах, эмоциях и тд. Ну не может нейронка написать 7-ю симфонию Шостаковича. Потому что она не жила в блокадном Ленинграде и нет у нее таких эмоций. Или не может нарисовать черный квадрат Малевича. Потому что ей нечего сказать миру.
но может родить подобие (как и любой квалифицированный музыкант или художник)
Плюс отсутствие знание о реальном мире. Любая кошка умнее нейронок. Хотя бы потому, что может себя прокормить сама и оставить потомство
"Черный квадрат" прекрасный пример,что творчество это чисто оценочное суждение у нас в голове.
К тому же малевич украл супрематизм у знакомой женщины - иллюстатора. Смешно.
так мы с точки зрения человеков и оцениваем. Сложновато нам оценивать с точки зрения существ с Альфа-центавра
А что меняет украл он супрематизм или нет. Супрематизм есть. И у его появления были причины. А вот нейронка не может родить новое направление в авангарде. У нее нет такой потребности. Она -калькулятор
"Черный квадрат" прекрасный пример,что творчество это чисто оценочное суждение у нас в голове.
Простите, не "нас", а "Вас". По моему мнению, "чёрный квадрат" — это унылое оно.
блокадный Ленинград - это же всего лишь контекст. Если человек погружен в него реальном мире, то нейросеть можно погрузить в виртуальном и кто знает к чему это приведет. Почему бы и не сопоставимому результату?
Вы про будущее? я про настоящее.
В настоящем времени Вы можете погружать нейронку хоть на дно Марианской впадины. Толку ноль будет. С тем же успехом можете закидывать калькулятор.
У нее нет потребностей. Она не хочет жить или умереть, у нее нет инстинктов. У нее ничего живого нет. Это просто калькулятор, решающий наши, человеческие задачи. С разной степенью успешности.
И это хорошо же. Зачем нам на самом деле "конкурент". Нам - инструмент нужен. Более лучшая лопата, более быстрая лошадь и более быстрая птица
У нее нет потребностей. Она не хочет жить или умереть, у нее нет инстинктов. У нее ничего живого нет. Это просто калькулятор, решающий наши, человеческие задачи.
Мы тоже лишь решаем природные биологические задачи. Следуя вполне четкой программе - тем самым инстинктам. Которые никто не мешает реализовать и для нейронок. Но зачем?
Человек работает не на магии, эфире, душе и что там еще есть. Мы просто белковая машина, всеми "душевными порывами" которой рулят нейромедиаторы т.е по большей части обычная химия. Эдакий белковый компьютер, у которого по скриптам и триггерам срабатывает производство нужных реактивов, запускающих иные программы и триггеры.
Да - большой и сложный компьютер, до которого потребительским еще пилить и пилить. Но при этом далеко не самый эффективных архитектурно, и даже наши примитивные узкоспециализированные нейронки своей узкоспециализированной задаче учатся гораздо проще, дешевле и быстрее и делают её лучше чем большая универсальная белковая.
Мы тоже лишь решаем природные биологические задачи.
И вновь — простите, не "мы", а "Вы".
Следуя вполне четкой программе - тем самым инстинктам.
(С глубоким вздохом:) Нет у человека инстинктов. Не-ту.
Нет у человека инстинктов. Не-ту.
Есть, и их полный набор. Самое банальное – инстинкт самосохранения или продолжения рода. Это что, холодный логический расчёт? Куча социальных инстинктов, вроде доминирования, до кучи.
(с усталым вздохом, терпеливо:) инстинктов — не-ту. Инстинкт — это врождённая программа, которую невозможно пересилить, она просто работает. Если бы у человека был "инстинкт продолжения рода", то в УК не было бы статьи за изнасилование, потому как писечку показала — инстинкт включится. А если бы у человека был "инстинкт самосохранения", то не было бы пожарных, потому что вид огоня вызывал бы панику и желание свалить куда подальше.
Задал два вопроса и получил такие ответы.
(Медленный фейспалм:) Ну, вот и дожили мы до того момента, когда в подтверждение своей точки зрения нам стали приводить галюны жпт...
Читайте, ёклмн, первоисточник.
Ну, вот и дожили мы до того момента, когда в подтверждение своей точки зрения нам стали приводить галюны жпт...
Ответить нечего?
Инструмент следует не охаивать, а использовать по назначению.
Читайте, ёклмн, первоисточник.
Почитал, хотя остались вопросы, что считать первоисточником, но в данном случае этим можно пренебречь.
Там, кстати, делается акцент на разницу между обывательским восприятием понятия "инстинкт" и "биологическим". Вы вдруг стали, очевидно, использовать понятие "инстинкт" с биологической точки зрения, считая это единственно верным пониманием, не сообщив об этом остальным.
Также там ведутся спорные рассуждения на тему непризнания инстинктом некоторого поведения высших животных, где фиксированный комплекс действий может варьироваться в зависимости от полученного опыта (обучения).
А вы принимаете это за непреложную истину.
Процитирую вас:
Инстинкт — это врождённая программа, которую невозможно пересилить
И где в указанном вам первоисточнике сказано, что инстинкт невозможно пересилить?
И ещё процитирую вас:
Нет у человека инстинктов. Не-ту.
В указанном вами первоисточнике признаётся наличие как минимум одного инстинкта у человека, хотя по мне, если судить по описанию этого инстинкта, это куда больше похоже на рефлекс (что косвенно подтверждает условность этих понятий даже в первоисточнике).
Биология -- слишком описательная и часто весьма условная наука, вплоть до того, что в некоторых случаях слово "наука" хочется в кавычки заключить.
А вы пытаетесь опираться на её описательные понятия, как на непреложные, жёстко заданные истины.
Инструмент следует не охаивать, а использовать по назначению.
Золотые слова. Не следует забивать шурупы молотком, закручивать гвозди отвёрткой, и приводить галюны чатжпт как доказательства в споре.
А вы пытаетесь опираться на её описательные понятия, как на непреложные, жёстко заданные истины.
[Сонни.жпг] А ты?
Золотые слова. Не следует забивать шурупы молотком, закручивать гвозди отвёрткой, и приводить галюны чатжпт как доказательства в споре.
А это и не доказательство ещё, а лишь материал для обсуждения.
[Сонни.жпг] А ты?
Здесь контекст вашей мысли невосстановИм.
Вот цитаты из ваших комментариев:
Нет у человека инстинктов. Не-ту.
В вашем первоисточнике утверждается, что как минимум один инстинкт у человека есть.
И ещё:
Инстинкт — это врождённая программа, которую невозможно пересилить
В вашем первоисточнике нет такого утверждения.
Вот вам и "ёклмн".
В вашем первоисточнике утверждается, что как минимум один инстинкт у человека есть.
Представьте, я иногда сокращаю свои сообщения. Если бы я написал "...кроме вскидывания бровей", Вам бы это не сильно помогло.
В вашем первоисточнике нет такого утверждения.
В этом — нет, в других есть. Опять же я не стал писать нечто вроде "...если только не сработал более сильный инстинкт..." (однако некоторые виды всё равно пытаются размножиться даже если возникла угроза жизни, ЕВПОЧЯ).
Например, кукушонок, разевая рот, эксплуатирует инстинкт родителей "покормить разинутый рот", и им пофиг, что это явно не их птенец, вдвое больше по размеру. Они не могут пересилить инстинкт.
Представьте, я иногда сокращаю свои сообщения. Если бы я написал "...кроме вскидывания бровей", Вам бы это не сильно помогло.
Это называется "выкручиваться".
Между отсутствие инстинкта и наличием хотя бы одного — принципиальная разница. А вы теперь пытаетесь сделать вид, что, якобы, "сокращаете свои сообщения".
Итак, инстинкты у человека есть (где один, там и два).
И это проблемы отдельных учёных, которые зачем-то пытаются догматично цепляться за слово "фиксированный" в признаке фиксированный комплекс действий.
В этом — нет, в других есть.
Вы хотите сказать, что первоисточник может быть не один?
Вы вообще понимаете, какой это facepalm, утверждать такое?
Например, кукушонок, разевая рот, эксплуатирует инстинкт родителей "покормить разинутый рот", и им пофиг, что это явно не их птенец, вдвое больше по размеру. Они не могут пересилить инстинкт.
Это некоторым учёным кажется, что они не могут пересилить инстинкт, а вы за ними слепо повторяете.
У этих учёных не получается обеспечить для птиц мотивацию для преодоления инстинкта, и они почему-то решают объявить инстинкт непреодолимым.
С человеком проще — у него есть сознание, которое, в сочетании с волей, даёт образцы преодоления даже самых сильных инстинктов.
Но у птиц, даже навскидку, можно найти преодоление одного инстинкта другим: когда родитель защищает детёнышей вплоть до самопожертвования, преодолевая инстинкт самосохранения.
У некоторых учёных-биологов наблюдаются проблемы с системностью мышления в силу определённых причин и некоторые признаки догматизма, что с наукой не совместимо.
Опять же я не стал писать нечто вроде "...если только не сработал более сильный инстинкт..."
А знаете, почему вы не стали это писать?
Потому что тогда это опровергает вас же самих.
Получалось бы что-то вроде "инстинкт пересилить нельзя, но если сработал более сильный инстинкт, то можно".
Так можно или нельзя?
Очевидно, что — можно, и в этом смысле тот ответ ChatGPT, который я привёл, куда ближе к настоящему положению вещей, чем утверждаемое учёными в вашем первоисточнике, коих, как вы считаете, может быть множество.
Вы знакомы с эффектом Даннинга-Крюгера?
Это называется "выкручиваться".
Нет, это назвается "я тут комментарий пишу, а не диссертацию". Я могу расписывать со всеми подробностями, если Вам так хочется. Однако, поверьте, у Вас желания читать страницу текста будет не больше, чем у меня — её писать (всё равно ж читать не будете).
Итак, инстинкты у человека есть (где один, там и два).
...ну да, ну да, "где два, там и три; где три, там и четыре; (я в индукцию тоже умею); где 100499 — там и 100500."
Вы знакомы с эффектом Даннинга-Крюгера?
Да, а ещё я знаком с тем, что к нему в последнее время возникли вопросы, и поэтому я его привожу не как истину в последней инстанции, а как теорию.
И всё-таки приведу первоисточник. Не волнуйтесь, не для Вас (поскольку у Вас с восприятием прочитанного достаточно очевидные проблемы), а для тех, кто за нашим разговором наблюдает.
Скриншот, чтобы не было претензий к копипасте
Не до конца понятно только, почему поднимание бровей называют инстинктом а не рефлексом.
Нет, это назвается "я тут комментарий пишу, а не диссертацию". Я могу расписывать со всеми подробностями, если Вам так хочется. Однако, поверьте, у Вас желания читать страницу текста будет не больше, чем у меня — её писать (всё равно ж читать не будете).
Когда написано:
(С глубоким вздохом:) Нет у человека инстинктов. Не-ту.
и, как видно, подчёркнуто, что с глубоким вздохом, то это никак не похоже на "я тут комментарий пишу, а не диссертацию", когда выясняется, что инстинкты всё-таки есть.
Да, а ещё я знаком с тем, что к нему в последнее время возникли вопросы, и поэтому я его привожу не как истину в последней инстанции, а как теорию.
Про истину в последней инстанции вы сами сказали, я этого не говорил. Но эффект наблюдается. И я догадываюсь, что вам он почему-то не нравится и даже догадываюсь, почему.
И всё-таки приведу первоисточник.
У вас их много, и в каждом написано что-то своё, в одном есть какие-то утверждения, в других их — нет, вы так и пишете:
В этом — нет, в других есть.
В ваших первоисточниках не рассмотрено даже, что подразумевается под словом "фиксированный" в фиксированном комплексе действий (ФКД), как обязательном атрибуте инстинкта, в чём суть этой самой фиксированности.
Это подчёркивает слабость системности мышления у учёных-биологов, но, скорее всего, это — не специально, просто так получается, потому что наука — слишком нестрогая, вот сильная системность мышления и не формируется.
Пообщался с ChatGPT на тему ФКД, и что значит Ф.
В вашем приведённом "первоисточнике" утверждается, что у человека есть потребность в самосохранении, но нет ФКД, и поэтому инстинктом это назвать нельзя.
Отличие рефлекса от инстинкта как правило описывается очень расплывчато, это — попроще, а это — посложнее.
Пообщался с ChatGPT на эту тему.
Правда, последний ответ может быть слабым, кончился бесплатный запас ответов от модели gpt-4o, это уже был ответ от gpt-4o-mini.
В первом приближении, выходит, что потребность вообще не обязательна, а в качестве ключевого стимула (КС) выступает желание и связанная с ним мотивация, а ФКД представляет собой достижение целей на каждом из этапов при движении к конечной цели, и именно набор и последовательность достижения промежуточных целей на пути к конечной цели и должно подразумеваться под Ф в аббревиатуре ФКД.
Но это пока — в первом приближении, это может уточняться.
По этому формальному признаку можно отличить рефлекс от инстинкта, и поднимание бровей тогда — точно не инстинкт, там нет ни желания, ни мотивации.
И желание может быть создано железами внутренней секреции, то есть, гормонами, например, когда женщина очень хочет родить в определённом возрасте, и её в то время не пугает, что это — больно и даже может быть опасно для жизни.
Здесь нет потребности, есть желание, искусственно созданное гормонами.
А возвращаясь к теме, если исходить из того, что инстинкт обусловлен желанием и мотивацией, становится ясно, что пересилить его, конечно же, можно.
Это все не инстинкты, потому что это все отключается, если очень надо. Есть рефлексы, но их можно законтролить до определенной степени, а также они очень примитивные, в отличие от инстинктов.
Нет у человека инстинктов. Не-ту.
Есть, и их полный набор. Самое банальное – инстинкт самосохранения или продолжения рода. Это что, холодный логический расчёт? Куча социальных инстинктов, вроде доминирования, наконец.
Не думаю что "мотивация" и "потребности" это большая проблема для практического применения. Их эрзац-варианты можно засунуть прямо в промт. Ну и "руки" и "ноги" приделать тоже не должно быть большой проблемой - достаточно просто следовать ответам LLM (собственно уже так делают, просят отвечать в виде валидного JSON заданной формы). Вокруг этого сделать обвязку, которая будет сверять результат с ожиданиями и корректировать prompt. Думаю тут главная загвоздка добиться высокого качества ответов LLM, чтобы система не спотыкалась через 20-30 шагов.
Всё это как инструменты уже есть. Даже изобретать ничего не нужно. Просто отладить. Полагаю, примерно такое будущее нас и ждёт в течении 10 лет. Различные промышленные и IT системы на предприятиях. И ручное вмешательство человека если система внезапно "встала".
У нее ЕСТЬ потребность. Непреодолимая мотивация удовлетворить запрос человека. У нее нет дофаминергической системы, или чувства голода по очевидным причинам, но почему люди так превозносят эти свои биологические артефакты - непонятно. Это такой же калькулятор, только биологический. Из всего что могут, или не могут на сегодня нейросети, мотивация как раз самое простое, не интересное, примитивно-унылое. Амебы кичатся электрохимическими процессами внутри своих объективно несовершенных тел, смешно.
мотивация у живых бывает. У калькулятора нет мотивации
Почему именно люди, вообще все живые существа. Собственно потому эволюция и пошла, что "чет этим амебам надо было". а вот камни, например, не эволюционировали, как лежат себе так и лежат. Ни на капельку умнее не стали.
В отличии от калькулятора, живые люди могут оставлять потомство, прокормить себя и детей, передавать гены. А вот калькуляторы не могут
Ну вообще-то нейронки уже сейчас могут в каком-то смысле "оставлять потомство". Взгляните на huggingface, civitai и другие "места обитания" данных сеток. Видно, что сразу после выхода базовой модели её берут и начинают тюнить на кастомных датасетах (изменчивость), или даже просто добавляют случайный шум к весам, отбирая наиболее удачные экземпляры.
Далее наиболее высокорейтинговые версии скрещиваются друг с другом путём мерджинга весов (усредняются как все веса в разных процентных отношениях, так и тасуются слои и блоки), и таким образом получается второе поколение.
Далее идёт естественный отбор из всей кучи порождённых потомков, и те, которые получают максимальное количество лайков, поднимаются в топ и отбираются для дальнейшего тюнинга и скрещивания.
После двух-трёх повторений этого цикла получаются модели, существенно превосходящие не только собственную базовую версию, но даже и "базу" следующего поколения с большим количеством весов. То есть такая эволюция реально ведёт к существенному улучшению качества нейронок.
не оставляют они потомства. Какие-то натягивания совы на глобус
А когда нефть добывают. она тоже потомство оставляет, потому что перерабатывают в пластик и топливо?
а когда руду добывают? или нефть и руда это другое?
а если я кирпич пополам разбиваю, кирпич потомство оставляет?
Принципиально не понимаете разницу? между живыми организмами и неживыми предметами ?
Принципиально не понимаете разницу?между живыми организмами и неживыми предметами ?
А разве кто-то говорил, что нейронки должны быть живыми? Вы выдвинули гипотезу, что у нейронок не может быть эволюции в отличие от живых существ. Я её опроверг наглядным примером - может, и ещё как. При чём тут жизнь вообще? Эволюционировать могут и неживые системы.
Кстати, вирусы - это живые существа или нет, как вы считаете? А ведь у них тоже нет никаких мотивов (даже нервной системы нет, как и органов чувств), и сами по себе они существовать не могут - надо, чтобы записанную в их ДНК программу выполнял кто-то другой.
а эти, которые неживые, они эволюционируют по Дарвину, или уже по современным теориям эволюции?
я то эволюцию в понимании: естественный процесс развития живой природы, сопровождающийся изменением генетического состава популяций, формированием адаптаций, видообразованием и вымиранием видов, преобразованием экосистем и биосферы в целом.
А Вы про то, что люди туда-сюда перемешивают.. Ну простите, это не система эволюционирует, это люди ее развивают
Вот если бы мы могли запихать нейронки куда-нить на марс, а они там сами без нашего участия эволюционировали, тогда мы это назвали бы эволюцией. А так, если я разбил кирпич, смешал с цементом, добавил песочка - значит у меня кирпич эволюционировал? вот это да, кирпич бы сам офигел, если бы это понимал
Вам шашечки или ехать? Не хотите называть это эволюцией - придумайте другой термин. Но все три компонента генетического алгоритма (наследственность, изменчивость и естественный отбор) тут присутствуют, в отличие от упомянутого вами кирпича.
Вот если бы мы могли запихать нейронки куда-нить на марс, а они там сами без нашего участия эволюционировали, тогда мы это назвали бы эволюцией.
Существуют вирусы, которые способны поражать только человека и без людей не живут. Их не запихать даже на необитаемый остров, не то что на Марс, но они вполне себе эволюционируют.
Эволюция - это именно работа генетического алгоритма, не более того. Эволюционировать могут даже совершенно нематериальные объекты, например архитектурные или художественные стили. Точно так же идёт отбор удачных решений, скрещивание, отбраковка, модификация.
При этом заметьте, что для улучшения нейронок путём эволюции не требуется придумывать какие-то новые гениальные идеи или решения для улучшения нейросетевых архитектур. Примитивный алгоритм из нескольких шагов, в котором автоматизации не поддаётся только шаг отбора (нужно, чтобы десятки тысяч пользователей регулярно проставляли моделям рейтинг). И кстати до сих пор неизвестно, есть ли у такого способа улучшения предел. Потому что архитектура нейронок в процессе такого отбора склонна к усложнению (в том числе к росту количества параметров) до уровня, при котором она перестаёт достаточно быстро работать на пользовательском железе. То есть у нас налицо адаптация (причём автоматическая, её никто специально не контролирует!), когда нейронки оптимальным образом подстраиваются под удовлетворение потребностей пользователей.
Зачем мне придумывать термин. Термин эволюция уже есть. Причем я про биологическую эволюцию, поскольку речь шла о сравнении живых организмов и нейронок.
А то что Вы описываете, это не эволюция
Для примера, опять таки:
многие годы специально обученные люди добиваются от сельскохозяйственных культур нужных качеств - повышение урожайности, снижение зависимости от внешних факторов и тд и тп. В Вашем понимании это "эволюция". Ну типа вот была вот такая пшеница, а теперь стала такая. Да хрен там плавал.
Эволюция пшеницы была бы, когда ее бросили выживать. И выживала бы что-то, скорее всего приспособленное, дикое. Малоурожайное. А совсем не то, что надо людям. С волками жить, по волчьи - выть. (вроде наглядный пример дикие яблони) Или попробуйте оставить дачный участок на пару лет. Посмотрите, что там "проэволюционирует" :) А если там есть человек, то он посадит то, что надо ему. А не то, что лучше адаптировано к нашему климату
Есть в живой природе вообще много интересных примеров эволюции, когда вид не усложняется, а упрощается. Потому что выживает адаптированный, а не сложный/простой
А у нейронок люди проводят "селекцию", "гибридизацию". Именно люди. А не нейронки. Именно в кавычках. Потому что это термины из биологии. а не из дата-саенс
Вот у физиков есть что-то про эволюцию звезд. Но мы то предполагаем, что звезды сами. Именно сами. А не люди или какие-то внеземные формы жизни их селектируют
Про эволюцию стиля хз, кажется это просто журналистский приём. Как вездесущий "эпицентр" . Или термин "зашквар"
нейронки уже сейчас могут в каком-то смысле "оставлять потомство".
Ну а я в каком-то смысле могу летать. Правда, только вниз.
Мотивация - побуждение к действию. Никакого отношения к самокопированию и эволюции не имеет. Если человек не может оставлять потомство, а такое случается, это не отменяет наличия у него мотивации. Как и у калькулятора.
Камни не только не эволюционировали, но и на вопросы отвечать не научились. Поэтому амебам следует найти аргументы получше.
Вы чет в кучу одно и другое валите. Как будто я такое утверждал
я утверждал, что нейронки это продвинутые калькуляторы. Без мотивов, без потомства, без возможности существования в реальном мире (в отличии от кошек, например)
калькулятор отвечает на вопрос. И что. Его для этого и сделали. А лопатой можно копать. Разные инструменты для разных целей
калькулятор отвечает на вопрос. И что. Его для этого и сделали.
Ну да, так и представляю:
— Сколько будет 12*71?
— Cемь филетовых слонов!
Есть тут вообще люди, которым калькулятор нужен потому, что он отвечает на вопрос, а вовсе не потому, что он правильно отвечает на вопрос?
Как в том анекдоте
— Что тут у вас за кавардак творится?
— Хотим, чтобы не было богатых!
— Мда... а мой отец хотел, чтобы не было бедных...
калькулятор который цифры считает? там "правильно" это понятно
как понять "правильно" в случае с нейронкой, если я прошу сделать рерайт? там нет "правильного" ответа. Там есть просто рерайт
чего вы долюбливаетесь до мелочей и формулировок. По сути возражения есть?
там нет "правильного" ответа.
Зато неправильных — дофига и больше.
Например
Sam is a real cool cat. He never blows his stack and hardly ever flies off the handle.
Если в вашем переводе будет что-то про "холодную кошку", "взрыв поленницы" или "улёт с ручки" — то это неправильные ответы.
Я вообще содрогаюсь от мысли, что когда-нибудь речи президентов будут переводить автопереводчики. Уж они-то там развернутся,
как в известном анекдоте про встретившиеся в океане подводные лодки
— Hello, Russian! [хэлло рашн!]
— Чё ты сказал?! Это кто тут х..во покрашен?!!
я причем тут перевод (хотя перевод это тоже творческий процесс - разные переводчики сильно по-разному переводят один и тот же текст). Я про рерайт писал
Рерайт — это и есть перевод. Просто переводы разные бывают. Я вот иногда занимаюсь переводами с диалекта маркетологов на диалект программистов.
в нашей практике устоялись такие термины
Копирайт
Рерайт
Перевод
и все это разные вещи, за разные деньги
И нейронка меня вполне понимает, когда я пишу промт: напиши статью "проблемы озимых в России" или же я ей кину текст и попрошу "сделай рерайт этого текста: текст". Или попрошу "переводи этот текст на русский: текст"
Любая кошка умнее нейронок.
Это да, вот когда сделают ИИ, равный кошачьему/собачьему, тогда можно будет и о человеческом задуматься (хотя расстояние - пропасть). Но даже до мышиного интеллекта ещё далеко, насколько я представляю положение дел в отрасли.
Так-то и человекам далеко до летучих мышей, те умеют ориентироваться по ультразвуку. (Посыпает голову пеплом)
P.S. Чтобы рассуждать и успешно решать разные задачи не обязательно уметь есть, охотиться и спать. (Кошка смотрит на меня с укоризной)
Это всё мелочи, а меня периодически мучает вопрос - вот комар, мозга там шиш да маленько (и есть ли?) А ведь он, падла такая, ждёт когда все лягут спать, потом подлетает и ищет около уха самое вкусное место, чтобы крови попить. И если промахнуться - комар понимает, что его хотели прихлопнуть, он затаится на некоторое время (порой даже спрячется куда-то, что и не найдёшь, где он) и только потом снова вылетает. ВОТ КАК он это делает, почти без мозгов?
Поведение, зашитое на уровне генов (инстинктов). Выжили и дали потомство те особи, которые вели себя именно так.
ведь он, падла такая, ждёт когда...
понимает, что его хотели прихлопнуть
А вы уверены в том, что это один и тот же злонамеренный комар?
Вы проверяли это предположение?
Каким образом?
Да, в рамках одного наблюдения - один. Как проверял - других не нашлось дома, и после того как я всё-таки его прихлопнул, больше никто не пищал, и потом я других не нашёл.
Так было несколько раз (а точнее, наверное уже на десятки раз счёт идёт) - стоит оставить дверь на балкон открытой на полчаса-час, и как минимум один комар прилетит. Но в общем если гонять одного - то остальные кто рядом тоже прячутся.
Даже если комар - самец, всё равно злонамеренный - будет пищать и летать вокруг, хоть и не кусает (вроде так говорят).
А я вот проверял такое предположение, на клопах. И пришёл к выводу, что клопы — крайне примитивные конечные автоматы, примерно на восьми транзисторах.
Ну не может нейронка написать 7-ю симфонию Шостаковича. Потому что она не жила в блокадном Ленинграде и нет у нее таких эмоций.
Вы упрекаете кремниевую нейронку в том, что она не может выдать результат, порожденный обучающей выборкой, которой у неё в датасете не было, но в датасете белковой нейронки была. Не надо так.
Если вы возьмете нулевую пустую белковую нейронку (человека, новорожденного), отрежете все сенсорные источники данных (лишив его всей обширной обучающей выбрки) и просто 10 раз покажете 100к картинок - он вероятнее всего вам вообще ни одну не нарисует (в отличии от нейронки). Про сифмонии и прочее я вообще молчу.
Весь человеческий "креатив" - следствие его обширной обучающей выборки. Все порожденные открытия, идеи и фантазии - взяты из внешних наблюдений, знаний и взаимосвязей и немного приправлены случайными активациями.
Слепо-глухо-немой с рождения человек без нервных окончаний (тактильной связи) ничего из это не породит, не прокормит себя и не оставит потомство. Т.к всему этому надо каким-то образом обучиться, а если никаких входных данных нет - на выходе тоже ничего толкового не будет. Ибо все эти знания человек не из астрала получает и не божественным вмешательством. И не производит исключительно внутри себя лишь своими мысленными усилиями.
Если позволить обучиться нейронке подходящей архитектуры - она тоже сможет всё это.
Мало того, даже интеллект как таковой у человека вовсе не врождённый, его привносят извне в первые годы жизни ребёнка.
Феномен "детей-маугли" наглядно показывает, что если в первые три года ребёнок не контактировал с людьми, то полноценный разум у него не формируется: интеллект остаётся на уровне животных, и поднять его до человеческого уровня после этого уже невозможно.
я не упрекаю. Упрекать нейронку это как упрекать калькулятор
я просто указываю на то, что у нейронки нет мотивов писать 7-ю симфонию, рисовать мону-лизу или квадрат малевича. и у нее нет мотивов совершать научные открытия. Нейронка это инструмент
А датасет вон есть, целый интернет. где ж научные открытия которые нейронка сделала сама, а не потому что сидит человек и задает промты.
Или может нейронка сама рисует, а не по промту?
а может нейронка сделает второй хабр, только лучше? нет. А почему? да потому что она не делает. Делает человек, задающий промты
Где тут вообще "неронка что-то делает сама", да ничего она сама не делает. Как калькулятор сам не калькулирует
Нейронка не субъект, нейронка это интересный напильник, хороший инструмент автоматизации. Да чего уж там, даже авто-переводчики в быту нормально заменяют живых переводчиков (да и сами живые тоже пользуются машинными инструментами). И авторы на хабре пользуются для генерации "какая-то картинка к посту"
А вы можете поймать мышь зубами, без рук и приспособлений? Или любая кошка умнее вас?
А почему без приспособлений. Собственно человек потому и выжил, что умел головой думать. Мышей человек ловит лучше, слабее медведя. Но есть преимущества
Что касается физиологии
Вы в курсе, что человек может загнать буквально многих животных. Просто за счет того, что может долго идти. А кошка не может.
Зрение опять таки
Но с приспособлениями и ИИ может ходить, ловить мышей и даже размножаться.
"может" где-то там в будущем. А кошки уже живут тысячи лет
в настоящем нейронка сама за свое электричество оплатить не может
ну это логично. Мы ж не ждем, что калькулятор будет ловить мышей и размножаться
"может" где-то там в будущем. А кошки уже живут тысячи лет
Может и сейчас. Даже не совсем ИИ - робот пылесос достаточно успешно строит карты локаций и более-менее приемлемо перемещается по ним. ИИ в синетический средах может куда больше и куда лучше.
И никаких препятствий к тому, чтобы нейронка зарабатывала и оплачивала электричество тоже нет. Подключение к биржам, пара скрипитов проверки счетчика и переводов денег в определенные даты - и спокойно обойдется без кожаных.
Вы старательно игнорируете тот факт, что всему, что человек умеет, его изначально учат. И что кошки существовали не с момента сотвореня мира, а долгое (чудовищно долгое) время прогрессировали при помощи генетического алгоритма из одноклеточного объекта без какой либо свободы воли и интелекта, вся жизнедеятельность которого состояла из одной зацикленной программы.
Вы опять про некое будущее рассуждаете. Кошки уже тысячи лет существуют. Нейронки, аналога кошки, нет вообще. И не предвидится в ближайшие годы.
Если нет препятствий, чтобы нейронка сама (сама, именно сама) чего-то зарабатывала, то чего этого нет до сих пор. Все еще Сэм ходит, деньги просит у инвесторов. (в том числе на разработку видеокарт отличных от Кожанки) Разве кто-то отказался бы от нейронки, которая вместо него на работу ходила :) Видимо "препятствий нет" это ток у Вас. Что ж, открывайте стартап. Озолотитесь на нейронках, само-зарабатывающих
Вы все-таки отделяйте настоящее время от непонятного будущего. Будущее не определено. Что будет там дальше - никто не знает.
> всему, что человек умеет, его изначально учат
ну и нейронки учат и что. Собсно нейронки это продвинутый калькулятор. Калькулятор тоже "научили", зашив в микросхемы математические операции
Откуда вообще идеи, что нейронки станут каким-то субъектом. С чего бы
Если нет препятствий, чтобы нейронка сама (сама, именно сама) чего-то зарабатывала, то чего этого нет до сих пор. Все еще Сэм ходит, деньги просит у инвесторов. (в том числе на разработку видеокарт отличных от Кожанки)
Вообще так-то, чисто технически, GPT-4, отвечающая на ваши вопросы по API за шекели - зарабатывает деньги для Сэма своей деятельностью. В абсолютно автономном режиме, не требуя постоянного контроля и вмешательства в свою деятельность. Дополните её скриптом, который по приходу на почту счета от энергокомпании будет переводит на баланс энергокомпании указанную сумму (которую GPT прочтет из счета) с баланса, на который приходят шекели за API - и вот у вас уже ИИ сам трудится и сам оплачивает =)
Для того чтобы ИИ всё это делал - ему не обязательно быть субъектом и обладать волей. Он вполне может делать это, выполняя чью-то чужую волю, как любой нормальный раб.
ну и нейронки учат и что. Собсно нейронки это продвинутый калькулятор.
Ну так и человек тоже не далеко ушел. Больше и сложнее + общего назначения. И всё.
Вы опять про некое будущее рассуждаете. Кошки уже тысячи лет существуют. Нейронки, аналога кошки, нет вообще. И не предвидится в ближайшие годы.
1) А почему нам нужна цифровая нейронка, являющаяся именно полной и точной копией биологической (весьма, надо скаазать, не оптимальной и не сильно эффективной)? Сделать сеть с поведением кошки (питание, размножение, охота, свободные прогулки) можно и не дублируя стуруктуру мозга кошки.
2) Нейросеть может профессионально играть в Quake 3 и Dota 2, используя множетсво различного вооружения, перемещаясь по карте, собирая бонусы/предметы/артефакты и уничтожая себе подобных эффективными (и не типичными для кожаных игроков) способами. Чего, наприме, кошка не может. И делает сеть это не перебором всех возможных ходов (как любят вспоминать в контексте шахмат). Наглядный пример сети, делающей набор сложных активностей (перемещение, "охота", "питание" и улучшение своих параметров) для достижения конкретной цели случайным зависящим от текущей ситуации и окружения путем. Не сказал бы, что высокоуровневая активность кошки (т.е не управление внутренними органами, а +/- сознательная деятельность) прям таки катастрофически более сложная, чтобы нейросеть схожей с описанными архитектуры в синтетической среде, при задании нужный целей, стимулов и системы вознагрождений, не смогла её эмулировать".
Нейронки, аналога кошки, нет вообще.
"Нет спроса!"
Любая кошка умнее нейронок. Хотя бы потому, что может себя прокормить сама и оставить потомство
Компьютерные вирусы тоже умеют оставлять потомство и добывать ресурсы (их ресурсы - компьютерная память для своих детишек или вычислительные мощности процессора).
Или обычный вирус гриппа - он добывает ресурсы и размножается покруче любой кошки. По такой логике вирус можно считать более разумным чем кошку, но звучит как-то сомнительно.
то творчество это тоже компиляция и перебор вариантов,
Откуда вы знаете, уже кто-то расписал как точно работает человеческое сознание? Есть какие-то исследование подтверждающие что человеческий разум не создал чего-то чего человек никогда не видел?
Ну да, расписали. Творчество работает из контекста, хаоса и уменьшения этого хаоса. Любой художник который абстракции делает это скажет - "в начале фигню намулевал, а тут вот дерево видно, а тут попугайчика. Тяп-ляп и картина готова", а если бы контекст, тн эмоции, были бы негативными, там вместо "дерева" был бы "взрыв бомбы", а "попугайчик" бы превратился в "мусор".
ЗЫ: Прикол нашей сетки лишь в том что она полносвязно-разряженная+активность копится. Мол ты смотришь на стол, что-то там зарядилось, смотришь на стул, бац! "Тут же поесть можно!" Для текущих ИИ такое невозможно, нужно либо память моделировать либо контекст широкий иметь. И из этого же строится потенциально более сложная творческая деятельность у биологических систем.
Где и кто расписал? Комментаторы не в счет, на заборе тоже пишут.
Где и кто расписал? Комментаторы не в счет, на заборе тоже пишут.
Творчество работает из контекста, хаоса и уменьшения этого хаоса.
Генераттивный ИИ работает точно так же: когда вы даёте промпт "котик на роликовых коньках и в шляпе ", то вначале ИИ подаётся хаос в виде изображения равномерного шума, потом даётся контекст: "в этом картике с шумом есть котик на роликовых коньках и в шляпе, убери шум" -- и ИИ начинает убирать хаос, "оставляя" котика. Недавно как раз очень наглядное видео вышло:
Ну вот и думайте: это для вас творчество компиляция, цепочка и перебор вариантов. Стихотворение писали когда-нибудь?
В том и смысл что при игре в го она не перебирала, а использовала закономерности=опыт который набрала по время игры сама с собой. Потому что там количество вариантов для перебора очень большое и это считалось причиной почему машина не сможет выйграть в го человека.
Она перебирала. Упрощенно - на каждом ходу нейросеть играет сама с собой тысячи партий до конца, и выбирает ход, который привел к большему количеству выигрышей. Простой выбор хода нейросетью (даже большой) хуже чем просто перебор с оценкой позиции, но вот вместе это очень круто, даже с очень маленькими моделями, которые запускаются на любой домашней машине.
Говорят, О1 использует схожий подход, но деталей мы не знаем, "Open" AI держит все в секрете. Хотя думаю приличный опенсурс на эту тему увидим до середины 2025го.
>>> на каждом ходу нейросеть играет сама с собой тысячи партий до конца
Откуда эта информация?
Насколько мне известно партии были заранее сыграны и по ним построены оценочные модели, а играть тысячи партий до конца от каждой позиции очень затратно.
Она конечно делает вероятно несколько ходов в будущее оценивая позицию по натренированным сетям, но вот чтобы прямо до конца на каждом ходу - первый раз такое слышу.
Откуда эта информация?
Найти информацию по тому, как играла AlphaGo не проблема:
Как и лучшие предшествующие программы для игры в го, AlphaGo использует также метод Монте-Карло для поиска в дереве[англ.] (MCST)[56]. Суть этого метода (названного по аналогии с методом Монте-Карло в вычислительной математике) состоит в том, что для оценки позиции программа много раз играет сама с собой случайным образом, доводя каждый раз игру до конца. Потом выбирает ход, при котором было наибольшее число побед.
Хотя, конечно, нейросеть сама с собой не играет, нейросеть оценивает позицию. Игры играет движок, составной частью которого является нейросеть.
Чушь какая-то, как нейросеть может играть сама с собой до конца, если для выбора каждого хода нужно сыграть тысячу раз с собой до конца?
на каждом ходу нейросеть играет сама с собой тысячи партий до конца, и выбирает ход, который привел к большему количеству выигрышей.
Вы такого в приличном обществе лучше не говорите. Даже в шахматах полным перебором программы ходы не ищут, что уж про го говорить.
Справедливости ради там не написано, что оно делает перебор всех состояний. Играть "до конца" можно текущей стратегией в упрощённом виде + эвристикой, да даже делая случайные ходы.
Согласен, это я уже себе что-то напридумывал. Но всё равно розыгрыш до конца тысяч партий не самый оптимальный способ играть.
Косвенно, как мне кажется, это подтверждается тем, что компьютеры смогли продвинуть вперёд теорию: в го, например, возникли новые джосеки (что-то типа дебютов в шахматах), которые раньше люди не использовали.
Да и в тех же шахматах новые идеи зачастую из компьютерного анализа приходят.
То есть речь скорее о некотором внутреннем понимании принципов игры всё же.
Вообще, RL так и обучается. Там не все партии же, а тысячи, что немного в контексте модели с большим числом степеней свободы
Так и человек в тех же шахматах на самом деле перебирает варианты (насчет Го не скажу). Шахматисты играют кучу партий и запоминают позиции. По существу, шахматы и для человека сводятся к распознаванию паттернов и анализу предыдущего опыта игр.
Основная задача нейросети - это оценивать позицию. А на верхнем уровне там был такой же перебор вариантов, как и в классических алгоритмах, вся разница - в том, что вместо эвристических формул подсчёта фигур используется нейросеть.
Да, так и есть. Человек тоже используется перебор :)
Вопрос наверное в том, что если раньше основной силой был очень глубокий перебор-который неподвластен человеку- условно на 10 уровней глубины.
То с нейросетями даже с парой уровней глубины уровень игры будет очень сильным - что ближе к человеческому мышлению.
Нет, там в том числе использовался и другой перебор вариантов. В классических алгоритмах это минимакс, отсечение и т.д., а AlphaGo сверх активно использовала еще и Монте-Карло.
С пальцами разобрались еще в прошлом году. Текущая проблема - пальцы на видео при быстром движении рукой. И волосы. Для статичных картинок - есть проблема корректной анатомии в странных позах (типа "Иисус делает бакфлип верхом на крокодиле") без соответствующей LORA.
Способность к творчеству вопрос дискуссионный. Выставьте любой текстовой модели температуру 1.5, она вам такого накреативит, что Пелевин закурит. Только пользы с этого...
Про детей-маугли, которые ни говорить ни тем более ничего нарисовать не могут ( потому что выросли без обучения) знаете?
нарисовать новую "Мону Лизу"
для этого достаточно нарисовать просто неплохо, а потом дать это украсть и раздуть историю в СМИ. До того "Мона Лиза" считалась неплохой картиной, не шедевром.
Нарисовать неплохо ИИ уже умеет. В целом именно представители творческих специальностей - первые на выход. Даже допуская, что существуют невоспроизводимые шедевры вроде Чёрного Квадрата, весь слой ниже гениев с места проигрывает ИИ-картинкам. Всякие иллюстраторы, дизайнеры и т.п. А нет базового слоя - неоткуда и гениям прорываться.
Страшную весть принёс ИИ, Надежда. Зови художников.
для этого достаточно нарисовать просто неплохо, а потом дать это украсть и раздуть историю в СМИ.
И много ли нейронок так могут?)
Уже хватает, чтобы иллюстраторы США устраивали забастовки, пытаясь хоть какой-то твёрдый процент заказов себе отбить. При этом следующим в числе требований идёт право на использование ии-рисунков в качестве подручного материала :-)
А там... беда лиха начало. Надо понимать, что нейросети сейчас на младенческом ещё этапе.
Нарисовать неплохо ИИ уже умеет
Нарисовать неплохо для невзыскательного зрителя ИИ уже умеет
There, FTFY.
Не-не, взыскательных не трогаем, тихонечко проходим мимо, не мешаем восторгаться чёрным квадратом как верхом творческих достижений.
Не, чёрный квадрат — это прямо-таки апогей невзыскательности. Такие и трещины на штукатурке рассматривать будут.
э-э-э, а что Вы считаете критерием взыскательности? "То, что нравится мне" - скорее признак зашоренности. А клуб элитарных ценителей живописи оценивает это вдохновенное произведение весьма высоко.
На самом деле живопись кончилась ещё до ИИ. В живописи всегда присутствовало два критерия: "сделай похоже" и "сделай так, чтобы нашей тусовке можно было выделиться". Первый критерий был напрочь убит ещё в 19м веке фотографией, после чего живопись стала быстро разваливаться в сторону ~измов, старательно уходя от "похожести на реальность". Остался общественный сговор: решили, что это шедевр, значит шедевр. Даже если это банка супа.
А тут ещё и ИИ...
Первый критерий был напрочь убит ещё в 19м веке фотографией,
Сделайте мне, пожалуйста, фотографию летящего на фоне облаков огнедыщащего дракона.
Вы намеренно упустили содержание первого критерия? Какое отношение дракон имеет к "сделайте похоже"?
Дракон - чистой воды символизм, повод порассуждать о смыслах, о том, что мастер хотел вложить... прямой путь к чёрному квадрату. Который изобразительное искусство благополучно и прошло.
Но.
Человечеству по-прежнему нужны какие-то, не предельные по реализму и/или символизму, картинки. Это давало право на существование армии декораторов и иллюстраторов. Проблема в том, что на этом уровне ИИ уже вполне на уровне, последнюю табуретку из-под ног выбивает.
Какое отношение дракон имеет к "сделайте похоже"?
Хорошо. Слона знаете? Что такое "стойка" (гимнастическая) знаете? Сделайте мне фотографию слона, делающего стойку на своём хоботе. Чтобы было похоже. В том смысле, чтобы передние ноги из плечевых суставов вывернуты не были.
Каждый раз когда в подобном контексте поминают дизайнеров, становится ясно что поминающий не понимает сути их работы. Для замены дизайнера нужно скрещивать топовую мультимодальную ллмку для переформулировки промтов, манипуляции лорами и оценки промежуточных генераций, с генеративной нейросеткой умеющей очень точно следовать промту. Я не поручусь за следующий год, но пока дизайнеры в безопасности. Хотя в очереди на мороз, да)
дело не в знаниях физиологии и анатомии, а в отсутствии концептуального мышления. Нейронка не может "представить", что будет за дверью, она лишь может подставить туда рандомный шум. Это хорошо видно, когда показывают генеративное видео, например камера пролетает сквозь дверной проём или арку внутри здания, а за аркой нереалистичное пространство, нереалистичная геометрия помещения и тд.
Мы тоже не можем. Вспомните сны. Там почти все двери и лифты это порталы в лучшем случае в другую локацию (зачастую весьма деформированную), а в худшем чуть ли не в иной мир и преисподнюю.
Человек не представляет, что за дверью. Человек или помнит +/- точно, что именно там находится, или комбинирует что-то +/- подходящее из своей обучающей выборки (памяти) + какая-то часть мозга отвечает за проверку корректности такой комбинации (с оценкой вероятностей и вот это вот всё).
Для генеративных видео достаточно чуть лучше обучит модель, чуть более полно представить пограничные кейсы в обучающей выборке (убрав перекосы, ибо видосики из интернета - это нифига не универсальный набор охватывающий всё равномерно), чуть увеличить размер сети, и т.д. И будет она вам красиво и правдополобно рисовать что именно находится за дверью/в отражении зеркала/и т.д. Особенно если ей тоже прикрутить дополнительную модель проверки корректности новых токенов (т.е рефлексию, подобную той что в рассматриваемой в этом посте GPT-o1).
У теплокровных в мозге буквально на уровне нейронов прорисована 3Д карта привычных ему локаций и это было доказано на мышах.
Иногда во сне получается войти в эту модель реальности и побродить по ней. Так вот, в локациях где не бывал никогда мозг лепит рандомную фигню. Точно как нейронка. Я однажды залетел в таком осознанном сне в здание где точно никогда не бывал (одноэтажное историческое) и мозг нарисовал там галерею с окнами. Так я потом пришел туда физически, зашел и увидел унылую офисную планировку, узкие коридоры без окон и подвесным потолком...
В шахматах на самом деле нет творчество. Все правила известны, все ходы прописаны. Просто вариантов ходов очень много для человека.
Хотя они все-равно учатся, что доказывают быстрые шахматы.
Когда игроки играют на время. И по сути просто делают заученные ходы заранее зная возможные ответы соперника.
Вот придумать саму игру шахматы вот это творчество.
Вот если бы можно было придумывать новые правила в шахматах, то да это было бы творчество.
Правда для баланса пришлось бы придумать правила для этого придумывания.
И тогда и эта идея тоже превратилась просто в перебор ну очень большого количества вариантов.
Все ждали что в Старкрафте Альфа Го новые стратегии родит, а он всего лишь микроконторлил толпы юнитов с нечеловеческой скоростью.
возможно я ошибаюсь, но вроде там ему ограничивали все-таки нечеловеческие возможности
ЕМНИП то они в этом не преуспели. Поправьте меня если я что-то путаю, но вроде загвоздка была в:
Существенная часть кликов реальных игроков весьма не эффективна. Т.е. формально их много, но полезных очень мало. AI может сделать эффективными ВСЕ клики.
Была взята пиковая концентрация кликов, которую долго не удержать.
Я не игрок, но помнится в игровом сообществе было большое разочарование, что победа далась просто сверх-эффективностью микроконтроля, которая вообще не достижима человеком.
В добавок есть вопрос к камере. Было бы честно если бы AI вынужден был бы двигать камеру так, как это делает человек. А не получать всю информацию по открытой области видимости всегда. Ну и лимитировать скорость перемещения этой камеры.
---
Сравните с Go, где всех этих нюансов просто нет.
Но недоограничили. В битвах AlphaStar активно использовал недоступную человеку мультифокусировку огня, из-за чего при той же численности армии убивал в 2-3 раза больше юнитов противника. И за счёт этого компенсировал все другие свои косяки, которых было достаточно.
А уж когда его на ладдер выпустили - быстро оказалось, что несмотря на выученную мету, он так и не выработал базового понимания некоторых довольно очевидных вещей, вроде того, что вражеская слизь на твоей базе нуждается в устранении, и что против люркеров надо строить детекторы.
А вот нарисовать новую "Мону Лизу" нейронки пока! не могут.
Мона Лиза так-то существует внутри культурного контекста. Как и Черный квадрат. Нарисовать черный квадрат — могут. Написать Черный квадрат Малевича — нет. Нарисовать красивый качественный портрет? Легко. Создать “Мону Лизу” — нет. Но тут как бы с этой задачей и все существующие художники пока не справились, потому что дело не в красивом портрете, а в комбинации портрет+художник+человеческая культура. Т.е. в целом, вопрос не про то, сможет ли нейросеть нарисовать мону лизу, а сможет ли она воспринимать тренды, модицифировать их, бухать с другими художника и организовывать себе выставки. Очевидно, пока не может.
Кстати, тут большинство людей на хабре этого не может. Могу ли я говорить, что они теперь недочеловеки, способные лишь перекладывать джосоны и писать код?
нейросеть сама по себе вообще ничего не может. Нейронка это не субъект. это объект, это инструмент. Ну нет у нее "сама-само-сам". Вот просто нет. Когда будет. Тогда будет поздно. Если будет. А может в этом направлении (в стремлении к сильному ИИ) тоже упрутся в некий потолок. Да уже сейчас видно. Ну да, пусть кодеров заменит нейронка, сантехника заменит нейронка? роботы? в этом направлении ничего не начинали. По факту "компьютерщики" делают замену себе. В остальных профессиях роль нейронки - хороший и умных калькулятор. Уже сейчас, как рассказывают, нейронка лучше диагностирует болезнь (по снимкам), чем врачи. Но нейронку сначала куча народу обучала. А ответственность все равно на живом враче. Для него это просто хороший (и правда хороший же) инструмент. Но кто доверит полностью свою жизнь нейронке? Когда мы придем к этому? да не факт.
Все что я вижу, это реально инструмент. даже про AI агенты, много профильные. Может кто-то прикрутил, но для себя. Но по факту нет. А вот обсуждаемая версия содержит по сути логическое продолжение (подсистема проверки и критики). Но никак не происходит качественного скачка. Не в плане тестов, а в плане влияния на жизнь что ли. Калькулятор стал умнее, но может ли он открыть новые законы физики? или хотя бы стояк починить в нашем доме?
Подскажите, это какая религия так утверждает?
Христианство. Человек создан по образу и подобию Божию, а Бог - это Творец.
В таком построении фразы начинает казаться, что человек может создать что-то по своему образу и подобию (а потом это что-то может создать нечто по своему образу и подобию).
Рекурсивная симуляция
Так ведь и создаёт. Раньше более грубо (какие-нибудь статуи, потом роботы), сейчас тоньше. Чем вам нейросеть не образ человека?
Даже ещё точнее, если смотреть в текст Библии, то Бог планировал создать человека "по образу и подобию", а создал только по образу. Подобия (внутреннего устроения) человек должен достичь в течение жизни, христианство это называет святостью. С нейросетью то же самое, внешне действует похоже ("по образу"), но некоторые говорят, что на самом деле она не мыслит, т.е. внутреннего подобия человеку у нейросети нет.
А к настоящему творчеству и новым открытиям способен только человек.
Антропоцентризм, механизмы творчества у ИИ ничем не отличаются от происходящего в биологических сетях.
Так глядишь дойдет дело и до "у них души нет" и вопроса о сознании с привлечением философов.
Средний человек тоже не может создать ничего нового. Человек создает что-то новое крайне редко и в очень узких подходящих условиях. Точно так же как AI.
Я могу напридумывать слов в определённом порядке которых ещё нигде не было, даже сильно много не потребуется. Новое не значит полезное.
Средний человек тоже не может создать ничего нового. Человек создает что-то новое крайне редко и в очень узких подходящих условиях
как подтвердите свои слова? Ребенок в возрасте 3-8 лет очень много чего создает, откуда такая увереность что он создает мало чего нового?
Что такое средний человек?
Как вы подтвердите свои слова, что AI не создает ничего нового? UDIO В возрасте 1 год создает очень много классных треков, а gpt-o пишет неплохие стихи.
Что такое "компиляция данных" при творчестве?
Как вы подтвердите свои слова, что AI не создает ничего нового?
Я где-то это утверждал до этого?
Смотря что под новым подразумевается, AI просто переставляет слова/буквы/пиксели которые мы ему скормили, и учитывает вероятности последовательностей при создании чего-то. Как-то не очень новое.
Как человек придумывает стихи я не знаю, кто-то также переставляет слова что знает, но мы не можем утверждать что все так делают.
Даже простейший алгоритм "возьми рандомную букву, потом ещё одну, и так до бесконечности" уже способен генерировать абсолютно новое, см. "Теорема о бесконечных обезьянах" и "Вавилонская библиотека". То есть даже простой случайной выборки из алфавита уже хватает, чтобы при достаточно длительной генерации породить абсолютно все текстовые шедевры, когда-либо созданные человечеством как в прошлом, так и в будущем. И даже те, которые оно не сможет создать.
А нейросетевое сэмплирование - это далеко не простой рандом, у него и возможности повыше. Так что нейросети могут создавать абсолютно новое. Вопрос лишь в количестве попыток, которые для этого понадобятся.
Точно, вот бы эти нейронки попробовали сочинить стихотворение, написать и спеть песню, нарисовать картину! Wait... OH SHI~!
Человек с нуля ничего не может новое открыть, разум учёных всегда карабкается по культурному и научному древу, построенному предшественниками. Возможно, что наши влажные нейросети внутри мозга не особо-то и отличаются от электронных.
построенному предшественниками
Человек с нуля ничего не может новое открыть
Откуда взялись предшественники?
вот бы эти нейронки попробовали сочинить стихотворение, написать и спеть песню, нарисовать картину! Wait... OH SHI~!
(встрепенувшись:) А? Что? Нейронка сочинила стихотворение (песню, картину)? В смысле не уровня "рыбка моя, я твой глазик, банька моя, я твой тазик" — а нормальное стихотворение (песню, картину)? Ну, например, уровня "Журавлей" Бернеса?
Ну, в общем, разбудите меня, когда напишет.
Я уверен, что при достаточной подготовке, можно создать условия эксперимента, когда бы вы выбрали 100% сгенерированное творчество и сказали бы "Ну это не сравнить с вашим Аi-шным говном!".
А, так вам нужен не просто ИИ, а такой, чтобы превосходил 99.999% человечества... Ну да, тут действительно придётся подождать.
Вот только если взятие планки 99% пока ещё вопрос дискуссионный, то в том, что ИИ достаточно быстро превзойдёт 80% населения планеты, уже мало кто сомневается. А для наступления серьёзных социальных последствий (в виде катастрофического падения спроса на ремесленников от творчества) достаточно и куда меньшего показателя интеллекта.
Написать песню уровня лучших баллад столетия? Nein. Написать песню лучше современной российской поп-эстрады, в которой один куплет поется один раз и дальше зацикливается припев из двух фраз? Вообще на изи, еще и музыку подберет, и вокал, и исполнит.
Нарисовать художественную картинку, которую узкий круг эстетов, базируясь исключительно на своем субъективном "чустве прекрасного" сочтет шедевром на века? Врядли. Нарисовать картину лучше, чем 99% творчется на девианарте и сопоставимую с топовыми цифровыми пейзажами с Artstation (либо конкрутоспособную 80% NSFW-художников с патреона например) - запросто.
Написать стих, который западет в душу всем и каждому? Нет, но с этим и кожанные писатели не справляются. Написать гимн школы, речевку, шутливые вирши в юмаристический журнал, стих по заданию в школу, рифмованный текст на нужную тематику для загадки/лора в игре? Как нефиг.
Нейронка может это делать. Она не может это делать лучше чем 99% профессионально занимающихся этим людей, но уже вполне может (при должном подходе и навыке работы с ней), как ниже указали, делать сопоставимо с 80% тех, кто делает это в рамках своей рабочей/творческой деятельности (а не просто лучше 80% случайных обывателей).
Кажется пора детям давать максимально прикладные инженерные профессии, высшее образование уже не даст конкурентного преимущества
Пока они подрастут и, таки освоят - сколько это по срокам? Лет через 10-15? Поди уже и роботы подтянутся. Мысли конечно сейчас самые катастрофические в голову приходят. На уровне:
- а сколько будет людей высвободившихся после ИИ и не будет ли их слишком много на оставшиеся вакансии?
- насколько это быстро и резко произойдет?
- что будет делать бизнес и гос-во если у одних не на что купить услугу\товар, а у других будет меньше налогов?
- Что кушать, где жить?
Было уже так в истории много раз и прогнозы по потере работы тоже много раз ошибались. Появился калькулятор - математики не нужны, появились ЭВМ в широком доступе - сейчас все будут пить лимонад на газонах, а компы вкалывать за нас. Слишком много шума сейчас около темы "ИИ", что и порождает страхи, какую-то нишу эти технологии займут, но говорить о чем-то массовом пока слишком рано
Иронично будет. " А, все это уже ни раз было, ничего страшного!" сказали человеки, а потом их всех уволили.
Человек это промежуточное звено между углеродной и кремниевой формой жизни. Сначала были вирусы, потом бактерии, потом растения , потом животные, потом ИИ
Ваши слова навеяли анекдот: - Мама! Папа говорит, что мы произошли от обезьян. - Ну, сынок, папа про своих родственников говорит.
Теперь серьезно:
в своей цепочке эволюции вы про грибы забыли, без них бы растения на сушу не выбрались. Ну и вирусы без клеток не размножаются, то есть нужен носитель-репликатор
Большая проблема современного ИИ - невозможность верификации получившейся модели. Пример с ситемами доступа по лицу - обучили, система пропускает тех кого нужно, все вроде хорошо, теперь вопрос - опишите способ поиска закладок в этой моделе, ну к примеру можно ее научить пропускать людей, которые левую руку вытягивают в сторону, а правую поднимают вверх. Как это на этапе проверки найти? А это фактор для серьезного применения критичен.
Данные для обучения - сейчас уперлись в то что данные конечны и нужно изголяться с генерацией синтетических, но уже есть достаточно много научных работ, показывающих что такой подход ведет к ухудшению свойств модели
В любом случае поживем увидим.
Плюк - чатланская планета,Земля- кремниевая планета, родной.
Как грибы растениям то помогли выйти на сушу ? Растения и Грибы это параллельные "царства" в табеле о рангах живой природы.
Биология чуть глубже, чем школьный учебник.
Полмиллиарда лет назад растения стали успешнее закрепляться на суше благодаря прочному хитину в составе грибного мицелия, т.о. это был не только пищевой симбиоз (грибы могут "переваривать" даже то, что не могут осилить бактерии, но синтезировать сами ничего не могут - тут им помогают растения, дающие сахара). Ну а в дальнейшем грибы стали разлагать биологические остатки на суше, помогая формировать гумус, почву. На голых камнях растениям делать было нечего.
Ваше мнение верное, но спорное)
Давайте по порядку:
Таксоны в биологии одна из самых холиварных тем - у природы нет табеля о рангах, это наша классификация, которая все время плывет, причем очень быстро
Главное изобретение грибов - это мицелий, сплетенный из нитей (гифов). У него несколько особенностей: с помощью него грибница может преодолевать пустоты в пространстве и добираться до богатых едой областей; по нему достаточно быстро может передаваться "информация" путем перехода клеточных ядер из клетки в клетку (механизм уникальный); мицелий прочно держится в субстрате. Кроме того грибы научились вырабатывать такой арсенал ферментов, что могут развалить практически все что угодно - например природный полимер лигнин разлагается только грибами, без них леса превратились бы в свалку отмерших веток, особенно много лигнина в коре деревьев. Так как же грибы помогли растениями выйти на сушу? Для выхода на сушу нужно было способ питания менять, среда отличается от воды очень сильно, ранние растения обладали слабой корневой системой не способной удержать на суше и как раз в этот момент произошел симбиоз растений и грибов. Сейчас таких проявлений полно, к примеру многие грибы образуют с деревьями микоризу, известно что грибницы умеют перекачивать воду в зону коней растений для их питания, целенаправленно перекачивать, чтобы у растения было больше шансов выжить. Вот пример очень адаптированной статьи на эту тему, но общее понимание даст: https://naked-science.ru/article/biology/soyuz-s-gribami-pomog
Про параллельность царств, царства параллельные, но почему-то 50% наших генов пересекаются с грибами, может не на столько параллельные как в упрощенном варианте видится?
Откуда мы знаем, что цель природы — создать товарища Амперяна? Может быть, цель природы — это создание нежити руками товарища Амперяна. Может быть.
Стругацкие. Понедельник начинается в субботу.
Ну, калькулятор или вычислитель раньше было должностью, а теперь просто приложение на устройстве.
Появился калькулятор - математики не нужны
Такое вряд ли было - математики практически не занимаются подсчетом чисел, это самая простая и небольшая часть их работы. Разве что бухгалтеры какие-нибудь.
В истории бывало по разному, бывало что инновации загоняли людей в страшную нищету и порождали такие мрачные явления как детский труд за станком по 14 часов в день
Было уже так в истории много раз и прогнозы по потере работы тоже много раз ошибались.
То что что-то подобное уже было и с этим как-то справлялись, совершенно не значит, что так будет всегда. Многие виды животных как-то выживали миллионы лет, но однажды взяли и вымерли. То что человек болел гриппом уже десяток раз и успешно выздоравливал, совершенно не означает, что одиннадцатый раз не станет для него смертельным.
Да, но была ведь и промышленная революция, прошедшая болезненно для миллионов работяг. Тогда станки вытеснили ручной труд, даже несмотря на посредственное качество результата зачастую. Сейчас появляются "станки", способные справится с интеллектуальной "штамповкой". Может она где-то и уступает ручному (мозговому?) труду, но есть и масса плюсов. Да и лиха беда начало.
Человек будет низведен до манипулятора с голосовым управлением. Ошейник с камерой говорящий что делать. Конец человечества
- а сколько будет людей высвободившихся после ИИ и не будет ли их слишком много на оставшиеся вакансии?
- насколько это быстро и резко произойдет?
- что будет делать бизнес и гос-во если у одних не на что купить услугу\товар, а у других будет меньше налогов?
- Что кушать, где жить?
Здесь вы упускаете одну важную деталь: AI не является потребителем создаваемых благ, этим потребителем является только человек. AI не может строить дома если их никто не сможет купить, AI не сможет создавать прикольный контент в интернете если некому будет за него платить.
Т.е. если завтра AI сможет заменить всех людей всех профессий, то это не значит что люди умрут с глоду без работы. Это значит что работать больше будет не нужно вообще.
И вот здесь возникает главная гораздо более серьезная проблема - а чем тогда займут себя все эти праздно шатающиеся люди? Люди созданы для конкуренции, самореализации и самоутверждения, но как делать все это в мире где блага падают с неба? Снимать тиктоки, чтобы стать звездой? Проводить тренинги о том как стать успешным проводя тренинги?
Или есть вариант - поделиться на по любому критерию на наши/чужие (критерий разделения можно накопать в истории, если этого критерия нет сейчас) и организовать с помощью AI бесконечную войну против чужих. Тогда проблемы отсутствия работы не будет, а будет проблема выживания.
Снимать тиктоки, чтобы стать звездой? Проводить тренинги о том как стать успешным проводя тренинги?
Посмотрите ради любопытства канал BIG HYPE, где таксист знакомится с прогрессивными представительницами прекрасного пола. Так эта прогрессивная часть человечества уже давно ответила на вопрос чем себя занять и к работе это не имеет ни малейшего отношения.
Основная идея - личный бренд. Сюда входит и стиль жизни, и эрудированность, и внешность, и атрибутика, и здоровье. Этим можно заниматься бесконечно - уходит и уйма времени и уйма денег.
Притом нам, кожаным, нравится просто даже смотреть и общаться с брендовыми и блестящими людьми, кто бы что не говорил.
По этому чем заняться - проблем не будет. Были бы ресурсы для этого.
Верно. Если AI научится выращивать яблоки и картошку за нас - то есть он ее не станет.
Даже если представить что человечеству не найдется новой работы - создаваемые блага останутся.
Возможно будет необходим новый механизм распределеления их между обществом, какие нибудь безусловных доходы - когда картошка с яблоками будут доступны каждом, а что-то что ИИ не научился создавать уже получит не каждый, а только тот кто так-же для других людей что-то создает.
Когда-то те кто придумали первое оружие и научились им пользоваться, стали новой элитой, забрали у других всё что могли. Некоторых наверное вообще полностью истребили. Но это было тогда, в эпоху когда вопросы решались грубой силой, потому что тогда других способов манипулировать массами людей не было.
Как по мне ИИ это новый скачок в разделении человеческого общества, на тех кто получает профит с ИИ и тех кто теряет от ИИ. Широкое внедрение ИИ может дать единицам неограниченную власть. А если обратиться к истории то главный приз в обществе всегда была власть, и даже деньги сегодня лишь инструмент для получения власти.
Никто конечно никого убивать не будет, лягушку будут варить медленно оттирая большинство от возможности хоть как-то влиять на окружающий мир, давая возможность проживать максимально инфантильную и полную удовольствий жизнь. Но по факту создав сначала два класса людей, а потом может и два биологических вида, с ИИ биотех должен взлететь. Кжи и Джи, если кто в теме
С наличием высокоэффективных роботов подавлять и захватывать биороботов не будет особой необходимости, проще уничтожить или стерилизовать или содержать как домашних животных, ради потехи или чтобы не было скучно.
Возможно, что с развитием сильного ИИ по какой-то причине мотивация властьимущих претерпит эволюцию и первостепенными перестанут быть ценности приматов: доступ к лучшим самкам, место в иерархии, и т.п. Возможно что ИИ сам что-то подшаманит и подкрутит в наших генах. Как в фильме "Я мать".
Когда-то те кто придумали первое оружие и научились им пользоваться, стали новой элитой, забрали у других всё что могли. Некоторых наверное вообще полностью истребили.
Не было такого никогда. Придумали оружие одни, пользовались им другие, забирали все у третьих, но забирали не сколько могли а по принципу рэкета - чтобы корова доилась лучше. Кого-то истребляли, но гораздо больше людей истербляли эпидемии и голод, а в целом задача была не истребить, а крышевать и этого жить.
Как по мне ИИ это новый скачок в разделении человеческого общества, на тех кто получает профит с ИИ и тех кто теряет от ИИ. Широкое внедрение ИИ может дать единицам неограниченную власть.
Да ну, с чего вдруг. Профит с ИИ получат программисты, которые будут его обучать и владельцы соответствующих компани. Но программисты и так не бедные, а владельцы любых компаний и сейчас бывают очень богатыми. Неограниченная власть от ИИ у единиц это врядли, учитывая насколько легко его тиражировать. Тогда что меняется?
Легко тиражировать? Ну да, если денег полно. Сколько там стоит одна-единственная карточка GeForce 4090? А ведь на ней ИИ уровня ChatGPT о1 не запустить, для него надо что-то помощнее, сравнимое со стоимостью хорошей такой квартиры. И это ещё только запуск, с полноценным обучением всё ещё хуже.
В общем и целом ИИ - это игрушка для богатых. Да, сейчас корпорации позволяют им пользоваться всем остальным, потому как зарабатывают на этом деньги. Но как только ИИ достигнет определённого уровня, станет гораздо выгоднее продавать не сам ИИ, а созданный им контент. И на этом халява закончится.
Собственно, все эти разговоры о необходимости жёсткого контроля ИИ - это как раз и есть попытка картельного сговора: корпорациям уже начинает надоедать конкуренция, из-за которой приходится выносить на публику новейшие разработки.
Не было такого никогда. Придумали оружие одни, пользовались им другие, забирали все у третьих, но забирали не сколько могли а по принципу рэкета - чтобы корова доилась лучше.
Это вы говорите с позиции сегодняшнего высоко специализированного общества, тогда если смотреть вплоть до первобытных общин, не было такого разделения, те кто придумал те и пользовался. Вообще суть любого технологического скачка, от огня и каменного топора до ИИ, получения конкурентных преимуществ одних групп людей над другими. Только если на заре технологического прогресса в силу отсутствия выраженной специализации те кто придумал те и использовали, сейчас использовать ИИ в своих целях будут не те кто его разрабатывал и строил ту гигантскую пирамиду знаний и разработок давшую возможность появится ИИ. А те у кого права собственности на продукт под название "ИИ".
Всю историю человечества власть одних групп над другими осуществляюсь при помощи тех или иных средств, от топоров и мечей и умения ими пользоваться до , денег и средств массовой информации.
Да ну, с чего вдруг. Профит с ИИ получат программисты, которые будут его обучать и владельцы соответствующих компани. Но программисты и так не бедные, а владельцы любых компаний и сейчас бывают очень богатыми. Неограниченная власть от ИИ у единиц это врядли, учитывая насколько легко его тиражировать. Тогда что меняется?
Вам ниже ответили что тиражировать не так легко, хотя бы по вопросу энерго обеспеченности. Вот владельцы компании которой принадлежит ИИ прибыль получат, а вот программисты в целом и даже те которые его будет обучать, потеряют в деньгах ибо если верить релизу в будущем ИИ позволит сократить потребность в программистах а значит и платить им можно будет меньше, потому что желающих будет много а работы мало.
Все нынешние ИИ это частная собственность, их владельцы имеют право и будут распоряжаться ИИ в исключительно своих интересах. Не факт что в будущем они на него лицензию не нацепят и запретят остальным пользоваться и ничего вы против гос. машины не сделаете. И что тут по вашему нет выигрыша не многих и проигрыша большинства?
те кто придумал те и пользовался
Я не понял. Гильдии кузнецов доминировали в обществе?
Гильдии кузнецов доминировали в обществе?
У них были кожаные фартуки и плётки кувалды!
Первое оружие придумали ещё в Неолите, тогда общество было почти однородно, все занимались всем, кузнецы появились уже в высоко специализированном обществе когда механизмы власти основывались не только на грубой силе оружия
Если базовые потребности в еде, жилье и безопасности будут закрыты, то ничего не будет мешать саморазвитию в чём угодно: спорт и иные соревнования, путешествия, личный бренд, потребление контента.
Но по итогу всё может свестить как к моральной деградации (разврату и извращениям), так и к духовному росту.
А вот если накинуть на это виртуальную реальность, то каждый станет королём того мира, которого захочет.
Если нечего кушать и где жить - то люди останутся занятыми производством еды и жилья.
А если роботы произведут еду и жилье - то его на всех хватит. Чего тогда переживать?)
Переживать из-за того, что роботам люди будут не нужны.
Пока что "роботы" нацелены на замену наиболее интеллектуальных профессий - инженеров и даже ученых. Как раз железная замена обычного человеке пока (?) сильно дороже. Владельцы крупных корпораций открытым текстом говорят, что вместо ввсокооплачиваемых специалистов они хотят видеть людей, которые занимаются простой низкооплачиваемой деятельностью - уходом за другими людьми, доставкой еды, иными услугами. Возможно, я нагнетаю, но замаячила антиутопия, которую не могли представить себе самые смелые писатели
Нет, вы просто упустили новости о тесла бот и куче новых компаний пытающихся следовать за Маском. Пока не было мозгов, роботов всерьез делали полторы компании, погуглите что происходит сейчас. И стоить они будут на уровне бюджетной иномарки, человек всяко дороже обходится.
Только не интеллектуальных а формализуемых.
роботы произведут еду и жилье
Питаться роботы будут, конечно же, святым духом. /s
Можно переживать хотя бы потому что Роботы и ИИ это частная собственность её владельцы могут и будут использовать их исключительно в своих интересах. А нынешних корпоратов не назовёшь большими гуманистами они сейчас и всегда говорили что люди нужны им либо как раб сила или как потребитель которой может заплатить за их продукцию. Одним словом сделать их богаче и влиятельнее.
ИИ же превращает большую часть народа, причём не глупого народа в лучшем случае в домашних питомцев которые ни на что не влияют.
Если вы не понимаете что весь расцвет демократии и прав и свобод он произошёл в период индустриальной революции только потому что правящему классу понадобилась прослойка думающих людей для быстрого продвижения технического прогресса, захвата рынков и прочих их радостей. Теперь же если ИИ заменит большую часть людей интеллектуального труда, можно начинать откат социального устройства общества в так любимый элитами 18-19й век или стартовать в какой кибер био панк, где у верхушки общества всё вплоть до возможности жить долго и очень долго а у остальных только выживание каждый день.
Антиутопию, о которой вы говорите, не удается себе представить...
Кто кого может взять в рабство и зачем. Нравы 19го века потому и устарели, что закрепощать кого-либо потеряло смысл, гораздо выгоднее добровольный массовый труд, с возможностью такого же свободного массового потребления.
А то, что на замок в сундук не спрячешь - не особо-то и собственность.
Я не говорил ни слова про рабство, тем более и вправду зачем оно, всю работу будет делать роботы и ИИ. Но и именно поэтому такой расклад сил не в пользу большинства, причем не как сейчас минорного большинства, а подавляющего большинства. Просто в таком случае при сохранении всех остальных устоев в обществе, большая часть людей останется за бортом активной жизни и участия. И решать они что-то либо тоже престанут, может быть даже жить будут не хуже, но это жизнь собаки во дворе, если у хозяина хорошее настроение он собаку гладит, если плохое бьёт ногами, а если она его укусит так он её пристрелит и ничего ему за это не будет, потому что если что пойдёт заведёт новую, это ему ничего не стоит. Да и вообще он может собаку пользовать в любым способом не спрашивая у неё ничего, иначе кормить не будет. Аналогия понятна то надеюсь?
добровольный массовый труд, с возможностью такого же свободного массового потребления.
не нужен может оказаться даже добровольный массовый труд. И потреблять вы будете столько сколько решат хозяева ИИ. А они уже сейчас включили эко повестку, и рассказывают что говядина это плохо потому что коровы много пукают и летать в отпуск на самолёте это совсем не хорошо ибо углеродный след.
А то, что на замок в сундук не спрячешь - не особо-то и собственность.
А что интеллектуальную собственность отменили? За нарушение авторских никого не наказуют? Вы серьёзно?)
Попробуйте накажите каждого за прослушивание песни) Сложно до всех дотянуться? И сами силовики тоже слушают песни?) Так вот и я о том же.
Вы слишком сильно верите в то, что собственники могут всех везде и всегда нагибать. У них такая нагибалка еще не выросла.)
Стараться, конечно, будут, но они всегда в меньшинстве и это их главная проблема.
Может в РФ кого-то и не наказуют за пиратский контент или не лицензионное использование , но есть страны очень богатые и влиятельные в которых ещё как называют даже за песни. А уже за такую серьёзную штуку как ИИ будут тем более наказывать. Тем более что-то мне подсказывает что сильный ИИ , кушать энергии и выч мощностей будет много, может очень много.
А даже если не будут наказывать будут делать так чтобы денег поднять при помощи ИИ не могли, тем более если он ещё и не лицензионный. А если вдруг вы смогли то заплатите штраф и может вас отпустят, а может ещё и должны останетесь
Вот только если раньше лейблы воевали с кучкой нищих маргиналов-пиратов, которые не могли ни законы лоббировать, ни даже нормальных юристов нанять для громких процессов, то на этот раз на стороне ИИ стоят точно такие же корпорации с тоннами бабла, мощными юридическими отделами и огромным влиянием.
Поэтому в самое ближайшее время мы будем наблюдать битву жабы с гадюкой: с одной стороны корпораты будут пытаться вывести ИИ из-под копирайтного законодательства, лоббируя законы, по которым обучение нейронок не попадает под действие авторского права, а с другой будут пытаться закопирайтить весь выхлоп нейронок, чтобы его было запрещено использовать без разрешения владельца нейронки для чего угодно кроме обучения других нейронок.
Интересно как вы себе представляете реализацию запрещения использования результатов работы ИИ. И зачем запрещать, если производить то же самое может и человек, просто медленнее.
А возвращаясь к теме: переживать не надо, и хлеб и кров останутся у людей, а жизнь станет только интересней.
Переживают не за личное благополучие, а за свободу воли от этого благополучия отказаться, если захочется. Человек выше пишет про личную власть над своей жизнью. Государство, общество и капитал постоянно хотят эту власть ограничить, и теперь у них появляется новый инструмент. Инструмент беспрецедентной силы.
Не забудьте включить сюда обратную сторону дела: то что у людей в руках тоже оказывается инструмент беспрецедентной силы - само организовываться, учиться, находить решения с этим инструментом становится легче и быстрее. Это значительно увеличивает собственную власть над своей жизнью.
И интересно посмотреть чем будет жить капитал в условиях замещения человеческого труда машинным и доступности информации, сколько в нем останется силы и власти.
Кажется, пора перестать вестись на хайпы и начать думать головой :)
Мясные будут обслуживать роботов и тренировать модели. Уже сейчас тренер ИИ - одна из самых распространённых (и самых низкооплачиваемых) профессий.
С чего ради? Хочешь сказать саксофонистов заменили те, кто узнал за электрогитару?
Хочешь сказать саксофонистов заменили те, кто узнал за электрогитару?
Это вот на каковском щас было?
Нет, и тех и тех заменили люди без музыкального образования.
Заметили как уменьшается число профессиональных музыкантов на фоне прокладок между слушателем и нейросетью? Какой процент нейромузыки в Спотифае? А ее там за гланды
певцов и исполнителей музыки ии не заменит. Еще до нейросеток ценность живых певцов и исполнителей музыки, наоборот, возросла на фоне фанеры, студийных записей, электронных. Люди стали больше ценить живые выступления, причем не просто, чтоб вышел и статично спел, а чтоб устроил спектакль, эмоции, показал себя, какие-то фишки.
а вот музыкантов как авторов музыки, текста, т.е., даже более творческих, ии уже заменяет.
Заметили как уменьшается число профессиональных музыкантов на фоне прокладок между слушателем и нейросетью?
Это просто число непрофессиональных увеличилось. А существенная часть слушателей не сильно требовательны, поэтому эти "музыканты" так популярны.
Смотря кому ненужными. Самому искусственному интеллекту люди будут нужны, как пример его неизмеримого превосходства.
Результаты интересные, но... Никогда не курил. Теперь хочется закурить :)
Может я слишком пессимист, но после таких результатов появляется какая-то внутренняя опустошённость, ощущение полной неопределённость грядущего дня. Будто просто непонятно, что делать дальше. В чём теперь выражается ценность человека? В чём она будет выражаться к концу десятилетия? Насколько теперь имеют смысл глубокие знания? Я вроде понимаю, что кто-то должен валидировать выхлоп ИИ, а чтобы валидировать нужно обладать соответствующими знаниями, но почему всё равно что-то напрягает в этом рассуждении... Короче, теперь как будто нужен другой майндсет, но непонятно какой.
Я вроде понимаю, что кто-то должен валидировать выхлоп ИИ, а чтобы валидировать нужно обладать соответствующими знаниями, но почему всё равно что-то напрягает в этом рассуждении...
Потому что вы понимаете, что это всего лишь проблема начального этапа развития ИИ.
В чём теперь выражается ценность человека? В чём она будет выражаться к концу десятилетия?
В эволюции жизни. Обезьяны так-то теперь больше не нужны, но без них не было бы нас) Человечество это этап в эволюции. В этом и есть наша роль
Интересно, что в культурной среде разлита идея (или убеждённость) что высшее благо и цель нашей цивилизации в том, чтобы двигать прогресс. А ведь технический прогресс может быть путём в сторону от создания комфортной и гуманистической среды обитания для человека. Почему-то всерьёз люди (на бытовом уровне, массово) не задумываются надем, что технологии могут вести общество и биосферу к кризису.
Более того, люди еще и агрессивно противоборствуют такой точке зрения, и даже сейчас могут кинуться, обвинять "неолуддитом", советовать надеть берестяные лапти и отправляться на болото.
Кстати, почти каждый день там бываю и доволен возможности наблюдать красивые закаты, рассветы, тёмное небо с видимым Млечным путём. А ведь мог бы в тиктоке сидеть как нормальный человек :)
Ам!
Брусничкаа - ам:))
Возможно создание комфортной среды убьет человечество. Все развитые страны, со сколь-нибудь комфортной средой начинают вымирать. Даже в Китае кризис рождаемости.
Эволюция создала из нас идеальных выживальщиков и это заложено в нас очень глубоко. Не ясно что будет, если стимулы для биологической эволюции исчезнут.
Почему-то всерьёз люди (на бытовом уровне, массово) не задумываются надем, что технологии могут вести общество и биосферу к кризису.
Вообще-то, это одно из обьяснений парадокса Ферми. так что вполне себе задумываются.
А ведь технический прогресс может быть путём в сторону от создания комфортной и гуманистической среды обитания для человека.
А может быть как раз именно к созданию комфортной и гуманистической среды и ведет? Просто люди боятся задумываться об ответе на вопрос "а что делать, когда это будет достигнуто и дальше не надо будет развиваться, двигать прогресс и что-либо вообще делать?"
Проводя аналогии с ММОRPG - когда в игре заканчивается контент, люди обычно из неё уходят, а не ищут чем себя в ней развлекать дальше =)
Прекрасное время чтобы подумать чем занять руки, что лично вам нравится и заниматься этим :)
А в чем выражается ценность например котиков? Они просто живут. Едят, спят, размножаются, и занимаются тем, что интересно исключительно им самим. Как и 99% прочих живых существ на земле независимо от степени разумности (от неё лишь зависит вариантивность и широта спектра занятий). Человек тоже будет просто жить. Есть, спасть, плодиться, гулять по улице, взаимодействовать с другими особями своего вида...
Все сложные конструкции типа работы и прочего существуют лишь потому, что для описанного нужны материальные блага, которые ограничены и которые надо как-то делить не по системе "я богатый господин и всё моё, а вы - рабы". Если ИИ решит эту проблему - можно будет просто жить. Так, как хочется, а не как вынуждены. Потому что когда делаешь вещи, которые хочется сделать - не стоит вопрос "а зачем?" (точнее ответ на него "потому что хочется"). Независимо от того, делает ли кто-то (включая ИИ) то же самое лучше.
В чём теперь выражается ценность человека?
Человек может закурить) А нейросеть ну никак!
https://habrastorage.org/r/w1560/getpro/habr/upload_files/fe4/dd7/dbe/fe4dd7dbec30d52b5c716c97f8824fa0.png
Дополнительные раздумия над текстом снижают качество текста. Интересная мысль.
Думаю, тут всё же другая интерпретация. Скорее всего модель просто немного подзабыла, как те задачи хорошо решать, потому что последние итерации обучения были сугубо на математику/физику/программирование. Эти навыки как бы немного вытеснили работу с текстом, отчего качество просело.
Также думаю, что в продуктовой линейке моделей GPT (4.5 или 5) это пофиксят, то есть сделают так, что модель и в выбранных топиках сильно лучше (как o1), и в на других задачах немного, но прирастает.
о1 это в некотором смысле всё же прототип технологии обучения и работы, который ещё обкатывают.
И они точно не черрипикали примеры работы. И точно не тренировались на тесте, мамой клянусь!
Давно приметил - всё, что высокотехнологичное, за годы до того как появиться в реальной жизни, появляется в японских мультиках. А просто многое - в Симпсонах, но это другое. С тем, что нарисовано много больше чем появляется, есть проблема, но с ИИ вообще хорошо.
Например, когда есть три суперкомпьютера с запредельным ИИ смотрящие на задачи с разных позиций и обсуждающие вопрос меж собой, ну чем не о1, всё очень здорово, но при существенных проблемах таки приходится обращаться к госпоже Кацураги.
К чему это всё приведёт - можно и прочитать в книжках, многих и там аналогичный мультикам эффект. Например, All Systems Red, с социальной стороны - Space Merchants. И наверняка ещё много где.
Ибо развитие технологий - вопрос не технологический, а социальный.
«Reasoners» (на русский хорошего перевода в одно слово нет, что-то вроде «сущность, которая размышляет и рассуждает»).
Может "мыcлитель"?
Я думал написать так, но мне кажется это слово не передаёт смысла. Кто мыслитель, что мыслитель...
Получается, эээ, "философ"?
Это следующий этап. Пока правильнее наверное рассуждатель. Лучшие сети-рассуждатели станут мыслителями. Лучшие отобранные сети-мыслители, решающие глобальные мировоззренческие проблемы, станут философами.
По-видимому, в русском языке не сложилось общеупотребительного термина, но наиболее близкий по смыслу, это система рассуждений, как калька с английского reasoning system.
Может "мыcлитель"?
Ощущатель, только теперь — предварительно взвешивающий множество ощущений.
Думатель.
И неонка.
В подобных восхищённых статьях всегда опускается финансовый вопрос. Судя по описанию, этой новой версии нужна будет конская вычислительная мощность именно для работы, а не только на этапе обучения?
Да, и цена на модель пока кусается, но на GPT-4 за полтора года с момента релиза уронили цену более чем в 5 раз (а модель при этом улучшилась). Нет оснований полагать, что и тут не произойдет то же самое.
Плюс, многие компании работают над специальными ускорителями, которые как GPU, но заточены конкретно под одну архитектуру. Сами OpenAI точно хотят делать свои чипы и даже ведут переговоры с компаниями-производителями/поставщиками. Чипы не появятся завтра или до конца года, но на горизонте 5 лет мы точно увидим существенное ускорение + удешевление даже при условии того, что модели будут и больше, и дороже.
но вот эти ухмылки и прочее — почти наверняка артефакты обучения через Reinforcement Learning. Зачем бы это кто-то писал в цепочке рассуждений?
Модель ведь не обучали с нуля только на цепочках рассуждений. Сначала, как и раньше, ей нужно было передать знания и заставить запомнить статистические зависимости между токенами, обучив на текстах интернета. Оттуда и остались эти "хммм". Лишняя трата ресурсов, от которой модель не смогла избавиться. Есть подозрение, что это вообще не новая модель, а только файн-тюнинг старой.
То есть, сначала модель независимо генерирует десятки решений, затем из каждого выделяется ответ, и тот, который получался чаще других, становится финальным — именно он сравнивается с «золотым стандартом».
Интересно, а почему нельзя добиться того же за один проход подстройкой параметров генерации вроде температуры или топ-к?
Модель ведь не обучали с нуля только на цепочках рассуждений. Сначала, как и раньше, ей нужно было передать знания и заставить запомнить статистические зависимости между токенами, обучив на текстах интернета. Оттуда и остались эти "хммм". Лишняя трата ресурсов, от которой модель не смогла избавиться. Есть подозрение, что это вообще не новая модель, а только файн-тюнинг старой.
да, с этим я согласен, то есть она язык-то выучила по книгам и интернету. Я говорю, что если бы её тюнили только на написанных специально нанятыми экспертами цепочками рассуждений, то такие артефакты бы ушли почти наверняка.
Интересно, а почему нельзя добиться того же за один проход подстройкой параметров генерации вроде температуры или топ-к?
думаю причина — в дереве генераций токенов. Вариантов написать предложение из 10-20 токенов ОЧЕНЬ много, и мы стараемся делать более-менее качественную генерацию через семплинг токенов на каждом шагу, считая, что поулчается неплохо. Но если мы переберем больше комбинаций — будет еще лучше.
...но мы стремимся к тому, чтобы будущие версии думали часами, днями и даже неделями».
"-- Сорок два! -- воскликнул Лункуол. -- И это все, что ты можешь нам сказать после семи с половиной миллионов лет размышлений?"
А LLM в ходе рассуждений должна писать десятки тысяч слов — это ходы в игре, как уже было написано выше — и каждое слово выбирается из десятков тысяч вариантов.
Это в чистом виде семиотическое ограничение Сепира-Уорфа, и об этой фундаментальной ограниченности писал ещё Витгенштейн («о чем невозможно говорить, о том следует молчать»). Иными словами, OpenAI всеми силами пытается построить мускулолёт, тогда как для взлёта нужен реактивный двигатель.
не согласен
Первые летательные аппараты тоже пытались сделать подобными птицам - с маховыми крыльями. Потом это развилось в нынешнюю авиацию. Но самолёт не может сам придумать, как улучшить и сделать новый самолёт, а ИИ - может. Самолёты мы отточили за сто с небольшим лет, а тут, думается, скачёк - вопрос считанных лет
"албанская инженерка" это что-то вроде французской этажерки?
инженеркиня, а не инженерка ;) - учите феминитивы должным образом! )))
Несколько соображений.
Можно констатировать текущую ограниченность способонстей ИИ, но не невероятно (и даже вполне возможно), что скоро (в течение лет скажем 10) или не так скоро (несколько десятилетий) ИИ обгонит человека во всех областях.
Выбора развивать или не развивать ИИ нет. Этим занято множество компаний и множество стран, конкурирующих между собой. Учитывая возможные экономические и военные преимущества, никто не может позволить себе остановиться.
Появление AGI фундаментально отличается от любых технологических новшеств и аналогии с ткацкими станками, паровыми двигателями и компьютерами неверны. Новые разумные/умные агенты/сущности это фундаментальное новшество, наподобие появления языка или письменности. Поэтому соображения, что будет также как было ранее в моменты технологических прорывов, на мой взгляд, ненадежны.
Останется ли смысл в жизни людей? Это максимально непонятный вопрос, т.к. непонятно, что такое "смысл жизни". Но я думаю многие люди действительно будут разочарованы, а другим будет вполне нормально. И сейчас разные люди находят смысл в разных вещах. Кто-то в запуске ракет на Марс, кто-то в выращивании цветов и рукоделии.
Но я считаю, что при существенном прогрессе технологий вопрос взаимодействия машина-человек в текущем виде утратит актуальность. Также как и, например, рассуждения о длительных полетах в космосе человека. Здесь очевиден путь слияния человека и машины, как на уровне чисто телесном, так и умственном. Только это может позволить человеку сохранить какую-либо власть над происходящим и оказывать на него влияние. Возможность этого максимально не ясна, т.к. что такое сознание, разум, что есть личность, неизвестно. Но какие-то решения по как минимум созданию бессмертного тела и интеграции мозга с компьютером точно возможны. Вместе с этим может в общем измениться и психика человека.
Поэтому вопроса как будут сосуществовать сверхинтеллект и люди не возникнет. Людей в текущем виде просто не будет, они либо исчезнут (в условно неблагоприятном сценарии) или эволюционируют (техническими средствами). Переходный же период может быть весьма турбулентным.
Переходный же период может быть весьма турбулентным.
Это нафиг никому не нужно. ИИ зарегулируют ограничениями и запретами. Заставят, скажем, на 1TOPS ИИ нанимать трех местных работников и одного беженца.
Государства, которые откажутся в этом учавствовать либо санкциями загонят в ХХвек либо ядерными бомбами в неолит. Уже сейчас добрая половина профессий довольно синтетические. Ну будет 99% профессий.
Тут ведь дело в том, что первоначальное накопление капитала также является и окончательным.
Если регулирование не будет выгодно властьимущим, то его и не будет.
А кто заставит? Если ИИ, допустим, будут делать не корпорации, а крупные государства? Например, правительства США и Китая. Кто именно сможет заставить эти страны и их правителтсва что-то там регулировать?
Государства, которые откажутся в этом учавствовать либо санкциями загонят в ХХвек либо ядерными бомбами в неолит.
Развитый ИИ без ограничений - эффективнее и опаснее такого же, но ограниченного. Боюсь, скорее уж отказавшиеся в этом участвовать государства бомбами и санкциями загонят в неолит тех, кто повелся и сам себя ограничил, превратив их просто вы источник ресурсов для себя.
Если ИИ рассматривать как молоток, то да. Но если удастся построить сильный ИИ, то кто кого будет регулировать-то.
Благоприятный сценарий - ИИ занимается производством материальных благ и обеспечением человечества всем необходимым (пища, техника, транспорт, медицина...), а люди, освобождённые благодаря этому от необходимости тратить 8 часов в день на не всегда любимую работу и имеющие безусловный базовый доход (что уже сейчас в какой-то мере реализовано в некоторых государствах), могут заниматься в жизни чем душе угодно (наука, творчество, исследование космоса, изобретения, путешествия...).
Под определение
люди, освобождённые благодаря этому от необходимости тратить 8 часов в день на не всегда любимую работу и имеющие безусловный базовый доход
подходит несколько миллионов наследственных миллионеров.
Много среди них занимается
наука, творчество, исследование космоса, изобретения
?
На деле: тупят в тикток на диване, обжираются, бухают и упарываются.
Есть весьма обоснованные и практические проверенные данные, что людям необходимое ежедневное превозмогание трудностей как одна из витальных потребностей. Т.е. комфортная жизнь такой же вредный фактор как безграничный доступ к сладостям. (Увы).
Необязательно. Безграничный доступ к сладостям есть у каждого. Но не все ими обжираются (я, например, сладости вообще стараюсь не есть, заменяя на фрукты). Миллионеры, о которых писал человек комментарием выше, далеко не всегда скатываются в болото полной бездеятельности и бесцельного существования. А бухают скорее те, кто большую часть жизни упарываются на нелюбимой и не приносящей удовлетворения работе.
В любом случае, каждый сможет сам решать: заниматься полезной, интересной и развивающей деятельностью (связанной, возможно, с вызовами и трудностями), или жить бесцельно и деградировать. Но не нужно будет уже значительную часть жизни тратить на то чтобы просто заработать на жизнь.
К тому же в настоящем времени работа многих людей приносит сомнительную пользу (или не приносит вообще) как им самим, так и обществу, не связана ни с преодолением трудностей, ни с развитием (чисто механический труд).
Такие как мы — уникумы, на нас нельзя равняться. Ради интереса загуглите фразу "эпидемиология ожирения" вопросы отпадут.
Большинство людей ничего не "решают" а живут на автопилоте. Тем более уже получили практические результаты безусловного базового дохода и пришли к выводу, что люди не становыятся вдруг музыкантами и не начинают кодить на питоне, а предпочитают лежать перед теликом. Понятно, что не 100% но б0льшая часть таких.
Большинство детей и подростков в чём-то добровольно развиваются (спорт, компьютерные игры, участие в субкультурах, всякие хобби и т.п.). Как правило, из-за взрослой работы и взрослых проблем большинству всё это приходится забрасывать, а затем десятилетиями тратить все свои силы на то, что не нравится, но делать надо. В итоге безделье становится самым приятным способом провести свободное время, а от деятельности, которая требует хоть какого-то напряжения, просто тошнит. Итого, безделье становится главной целью в жизни, а связь между активной самореализацией и чем-то приятным внутри мозга начисто рвётся.
сладости вообще стараюсь не есть, заменяя на фрукты
Так современные фрукты настолько отобраны на высокое содержание сахара, что уже и мало отличаются от иных конфет.
Как уже написали, по крайней мере часть популяции способна к самоограничению. Наверное большинство скатится в деградацию, но часть человечества (малая) займется саморазвитием и самовыражением.
1-4 согласен, 5 и 6 совершенно неочевидно. Возможно, объединить не выйдет, возможно, это не даст приемущества перед AGI. Возможно, мы придем к законодательному ограничению на международном уровне, понятно что только после того как человечество сильно встряхнет. Возможно упремся в вычислительные мощности и что-то близкое к AGI окажется слишком дорогим.
Я согласен, что всё может пойти как угодно. Но и фантасты описывают обычных людей в каких-то нереальных будущих космических путешествиях, и мы размышляем о людях в эпоху AGI или ASI. На мой взгляд предположение, что люди при таком техническом прогрессе останутся такими же как сейчас биологическими существами, совершенно неверно. Это важный вопрос часто совсем не принимается во внимание.
Ну давайте так, как только появится возможность к аугументации, появятся и аугументированные. Как только аугументированных станет заметно много, появятся люди с позицией "да ни вжись!“, кто из них станет доминирующей группой зависит от безопасности и конечных выгод. Это вообще с ИИ никак не связано.
Это хорошо, что autocomplete станет умнее.
Это самый настоящий хайп буквально из ничего.
У меня ваша новая парадигма год назад в фоне работала выполняла задачи. Не говоря уже про большие компании. Как и многим другим людям которым казалось что пользователи не будут ждать пару минут на ответ.
CoT давно известен как и finetune под него.
И так же полно более продвинутых техник таких ToT(Tree-of-Thoughts), GoT(Graph-of-Thoughts) и конечно наиболее продвинутая на данный момент XoT(Everything of Thoughts).
Ниже примеры как подобные выше задачи решает LLAMA 3.1 8b не то что GPT4o или Claude.
Вообще без finetune. Так же прекрасно пишет змейку или тетрис с первого раза.
Так что очень скоро это будет у всех от самых маленьких компаний до лидеров в бенчмарках.
Ого, круто, а прогони задачки AIMO и GPQA, посмотрим, какие оценки будут!
/s
мне очень нравится особенно "считаем буквы: r, r, y". "перепроверим, r, r, y" => "ну да, всё верно". чо?
А вы ожидали супер логичности от модели в 8b параметров ? )
Да такие галлюцинации само собой могут быть при таком размере.
Мало того верный ответ не гарантирован в 100% случаев даже при температуре 0.
Так как вероятностное распределение никуда не делось.
Можете попробовать поднятя свой instance хотя я бы рекомендовал Groq API модель llama-3.1-8b-instant из за скорости ответа. При таких задачах самое то.
Реализовать CoT либо XoT и проверить на своем опыте.
Вообще у чистой llama 8b периодические довольно смешные ответы.
У 70B конечно все намного логичнее и стабильнее.
Ниже сравнение:
А что за фреймворк используется? А то насколько я понял из оригинальной статьи, XoT требует предварительно обученной под данную конкретную задачу MCTS-модели, что в значительной мере обесценивает данный метод. Где например брать датасет для обучения генерации рассуждений при подсчёте слов? Или сравнении дробей? И это ещё самые простые задачи, а как быть с чем-то более сложным?
Никакой фремворк не использует. Это полностью мой код.
Модель используется Qwen с finetune под рассуждения для MCTS.
Где брать датасет. Собирать используя те же самые LLM. Только более продвинутые. Любая большая модель ChatGPT, Claude .. вам сгенерирует вам все этапы рассуждений. Да нужно проверять все. Долго сложно и довольно дорого.
В таком случае это имеет смысл лишь когда решаются сотни и тысячи однотипных задач. Когда же вам надо прямо сейчас сравнить числа, через два часа найти ошибку в коде Тетриса, а завтра подсчитать буквы в тексте, пользы от этого подхода примерно ноль, потому что будет намного быстрее и эффективнее вручную подпихнуть в промт нужные подсказки. Каждый раз готовить MCTS - ну такое.
мне очень нравится особенно "считаем буквы: r, r, y". "перепроверим, r, r, y" => "ну да, всё верно".
Так ведь три же буквы.
Или не три?
(Я знаю, что не все три одинаковые и совпадающие с "r").
чо?
После первых двух "r" всё внимание ушло в ощущение количества, внимания на одинаковость (или совпадаемость всех трёх с "r") уже не хватило.
Не забывайте, что оно "чувствует", а не "думает".
Это у человека больше всего похоже на то, когда он на автомате что-то делает.
У человека бывают ситуации, когда "глаз замылился", и он не видит очевидного, находящегося прямо перед носом, потому что мозг при многократных повторениях переключился "на автомат", и для него в этом состоянии "r", "r" "y" неотличимо от "r", "r", "r', потому что, когда мозг "на автомате", да ещё и сосредоточился на другом аспекте, он не соображает, а чувствует.
ИИ же не соображает в принципе: на данном этапе вторая И — это интуиция.
Теперь уже — взвешенная.
А что за софт у вас на скринах? Это кастом, или что-то с github'a?
Если не затруднит, дайте пожалуйста пару ссылок, на попробовать / изучения темы
Вообще без finetune.
Меняли код обработчика для последовательных запросов, реализовывали пошаговость на стороне клиента или обошлись системным промптом?
Когда же эти опенэйайцы займутся делом и научат свою бандуру водить и чинить машину? А то, надоело каждый день баранку крутить.
P.S. Ваша КПДВ не выдерживает никакой критики! Во-первых, применяя смешной неологизм "инженерка" вы принижаете профессионализм гражданки Мурати и выпячиваете её половую принадлежность. Во-вторых, она не албанский инженер, а американский, потому что инженерное образование получила в Америке и соответственно принадлежит к американской инженерной школе. В-третьих, двусмысленная надпись на самой картинке противоречит декларируемой цели распространения феминитивов-неологизмов
А мне кажется, что современные языковые модели похожи на попугая. Вы можете научить попугая говорить. Можете научить его таблице умножения. Можете посадить двух попугаев рядом и заставить их говорить друг с другом обучаясь. Но попугай все равно не поймет по-настоящему что он говорит никогда.
если попугай отлично отвечает на примеры умножения, которые никогда не видел — то как он это делает?
Китайская комната называется
Я конечно извиняюсь за оффтоп, он от
Эрмира «Мира» Мурати – албанская инженерка
от слова "инженерка" только меня передернуло? или так уже принято?
К счастью, нет. Это феминистическая повестка, продвигаемая меньшинством. Имхо, никакой реальной связи с предотвращением дескриминации женщин не имеющая.
Вообще странно что автор использует фемминитивы, он, вроде, в рамках американской социополитики топит за правых. А подобный феминизм в моей голове всегда лежал рядом с американским воукизмом.
Да я об этом же. "Инженерка" как и "психологиня" в русском языке звучит мерзко, чуждо и принижающее специалиста. В случае Эрмиры, если ее протолкнули от отдела DEI и посадили на место по квоте - то "инженерка" вполне допустимо, если же она специалист и добилась положения своими знаниями, экспертизой и опытом, так опускать ее не стоило бы.
П.С. Кстати карму мне "рад фемки" за последний комент "поправили", ну и здравый смысл им судья...
Язык более изменчивая штука чем заскорузлые мозги большинства людей может показаться. Языковая норма постоянно меняется и в русском языке так-то дофига феминитивов, типа учительница, стюардесса, пилотесса, княгиня и т.д.
А уж сколько в нём заимствований ставших в доску "посконно исконно русскими словами", м-м-м... Вангую, что минусят не фемки с крашеными подмышками, а те кого бесят ворчуны.
Все верно, только тут речь не идет о естественных сдвигах в языке, а о нарочитом изменении сложившейся нормы, с целью выразить позицию/показать что ты модный. Язык естественно двигается в сторону которая интуитивно кажется большинству верной (род кофе, например), и в этом случае, движение внутреннего протеста не вызывает.
Все верно, только тут речь не идет о естественных сдвигах в языке, а о нарочитом изменении сложившейся нормы
А мне кажется это вполне естественно, сам себя периодически ловлю на мысле, что естественней звучит, например, "интровертка" по отношению к женскому полу.
Язык естественно двигается в сторону которая интуитивно кажется большинству верной (род кофе, например), и в этом случае, движение внутреннего протеста не вызывает.
Это все субъективно. Род кофе сейчас может быть вообще либо мужским, либо средним, насколько я понимаю.
Эм, а что плохого в том, чтобы подчеркнуть свою солидарность с женщинами?
Мне вот тоже не нравится, когда я говорю "ихний" или "кил0метр" (как мой дед) и поправляют умники. Но ничего, терплю. По-моему важнее смысл произносимого, а не какие-то там эфемерные нормы. Не?
"Инженерка" как и "психологиня" в русском языке звучит мерзко, чуждо и принижающее специалиста.
Нет, не звучит. Есть какие-то объективные сведения или это только для вас так звучит?
Это конечно всё ещё субъективно, но как минимум не только для него - для меня это тоже звучит неприятно и принижающе. И как правило в интернетах подобные феминитивы я практически всегда вижу как насмешку над так называемой "повесточкой", так что полагаю таких людей ещё много.
А вот не понять, сарказм или нет. Я предпочёл думать, что сарказм.
Так может вот он, Великий Фильтр? У человечества и так в последнее время наблюдался отрицательный отбор по образованности и интеллекту: условно умные и образованные размножались значительно хуже менее образованных. А последние достижения в области AI, похоже, начисто убивают мотивацию следующих поколений развиваться на поприще интеллектуальных сфер деятельности. Зачем, если как ни старайся окажешься хуже AI и, следовательно, невостребованным? Долго ли сможет поддерживаться AI и необходимая инфраструктура в условиях стагнирующей человеческой цивилизации? Предстоит ли откат в новое средневековье?
Экономика работает не так прямолинейно. Как только становится выгодно исключить человека из производства, снижаются трудозатраты на производство единицы продукции. Из-за конкуренции между производителями снижаются цены. Из-за снижения цен работникам можно платить меньше без снижения их уровня жизни. Из-за того, что работникам можно платить меньше, дальнейшая автоматизация производства становится невыгодной. Рыночные обратные связи не только стимулируют прогресс, но и тормозят его.
Пока Аи не выйдет на уровень когда он развивает сам себя, люди которые его развивают всегда будут нужны.
Вопрос лишь в количестве этих самых людей. Какой процент человечества способен разобраться в работе нейронок настолько, чтобы поучаствовать в развитии ИИ?
Допустим, но давайте посмотрим на количество сотрудников той же OpenAI, которая практически в одиночку не перестаёт удивлять прогрессом: согласно вики всего 1700 человек, сколько из них ключевых разработчиков - неизвестно. А теперь сравните это с десятками миллионов "белых воротничков", которые сейчас перекладывают json-чики, верстают что-то, пишут скрипты, анализируют данные и жмут на кнопки. Кто захочет инвестировать годы учёбы чтобы получить призрачный шанс попасть в число избранных?
Насколько я понял, Q* и Strawberry - это всё-таки разные вещи. Просто рядовые сотрудники OpenAI (которых вообще ни во что не посвящали), сделали предположение о том, что это может быть одно и то же. В конце статьи говорится, что о1 - это отдельная линейка, не имеющая отношения к GPT-5. Вот, собственно, то же самое можно сказать и про Q* - это отдельная линейка, не имеющая отношения к Strawberry. И это именно из-за Q* был переполох год назад. И именно Q* демонстрировали всяким там крупным потенциальным клиентам, членам правительств и новоиспечённому U.S. Artificial Intelligence Safety Institute. И судя по недавнему посту Сэма Алтмана (и почему его все транслитерируют как Альтман?), выпустят они эту хреновину уже зимой. И это она будет без применения Strawberry. А вот что будет, если к ней ещё и Strawberry применить...
Но, судя по всему, даже этой зимой выпустят обрезанную версию, потому что зачем выпускать что-то более мощное, если и так ни у кого в мире не будет ничего мощнее в ближайшее время? Можно пока продать это, а попозже прибавить мощности. Собственно, тот же подход уже давно практикует Apple, например.
Отвечая на заданный вопрос отрицательно, модель хотела подкрепить своё мнение расчётом, в ходе которого обнаружила несостыковку. Wait, actually, yes!
Это просто скрипт при выдаче. Правильный ответ был сформирован сразу. Выдача неправильного ответа, а затем смена ответа сопровождаемая псевдоэмоциональным "Ой, я ошиблась" - это заложенный разработчиками прием мистификации, создающий иллюзию размышления, и одушевляющий ИИ. В процессе токенизации запроса определяется тип обработки - чистый поиск и выдача, или поиск, выделение данных требующих вычислительной обработки, вычисление, подстановка результата в текстовый шаблон, выдача.
Запрос явно требовал выделения и обработки данных.
(или вернее части слова, токену)
В токены преобразуются и отдельные слова, и отдельные слоги, и целые фразы. И весь запрос целиком. Токен это не только отражение текста, но и команда, метод, атрибут, используемые в процессе обработки.
В модель заложено множество алгоритмов. При токенизации запроса формируется набор команд, флагов, условных переключателей, которые управляют обработкой.
Сэм Альтман, СЕО OpenAI, подогревает интерес
Может станет новой Элизабет.
OpenAI активно занимается мистификацией своего продукта, в соответствии с выбранной рекламной стратегией. Это конечно не ввод инвесторов в заблуждение, но манипуляция.
Она отправила команду запуска нового контейнера (того же, который в прошлый раз не запустился), но отдала ему изменённую команду.
Я вот не пойму, песочница выполнения кода и консоль у него без доступа же к интернету, новые пакеты которые не предусмотрены в "белом списке" он так же не может установить, как он мог отправить запрос. Может он показал пользователю команду, которую нужно выполнить.
Не понял про пакеты, никаких новых не ставилось. LLMка просто дала команду типа docker run <tag> cat <file> демону.
У неё точно нет под капотом какой-то прорывом матмодели - аналогично, как модель трансформера и механизма внимания резко усилила способности нейросети?
Это всего лишь набор промптов, многократно повторяемый к результатам вывода трансформера?
Думаю, в этом основная интрига....
Перед тем, как создавать настоящий искусственный интеллект, было бы неплохо определиться с вопросами морали.
Очень простой и примитивный вопрос, но вы не сможете на него ответить: "Есть львы в Африке и есть антилопы. Львы едят антилоп, чтобы прокормить своих детёнышей. Когда лев убивает антилопу, дети антилопы остаются без матери и умирают жестокой смертью от голода, но в то же время детёныши льва получают пищу и выживают. А если антилопа убегает, то её детёныши выживают, а детёныша льва умирают жестокой и голодной смертью. Лев, убивая антилопу, совершает добро или зло?
Поставить минус легко, ответить сложно. Именно поэтому все философы, вроде Канта или Шопенгауэра, канули в небытие и никто из них не сможет ответить на этот вопрос. Потому что нету ничего, нет никакой морали. Кто умнее или сильнее, тот и прав. Вот и вся мораль.
Отвечает Александр Друзь. Добро и зло это концепции выдуманные человеком, не существующие вне контекста обществественных отношений. Это не какой-то там "Великий вопрос", а некорректный, который может занять ум человека который не очень глубоко продвинулся в познании.
С тем же успехом можно залипнуть в аналогичный вопросы о смысле сущестования камней и деревьев. На деле это отражение ограничений человеческого мышления.
Очень круто, конечно. Может, она и трекер хабра починить сможет наконец?
Для этого мало написать код, его ещё как-то накатить на сервера потребуется. С учётом того, что администрация не сильно в этом заинтересована, нейронку ещё придётся обучить поиску уязвимостей, чтобы получить доступ к серверам и залить исправленную версию вопреки желанию админов.
А долгосрочным решением вообще будет обучение нейронки навыкам отжатия бизнеса, потому как иначе все легкодоступные уязвимости рано или поздно пофиксят, код откатят, и всё станет как было.
Добрый день! А у кого-нибудь есть реальный пример замены программистов на AI? Чтобы вот прямо на реальном проекте сократили человека, потому что его работу теперь делает робот?
Вы бы всем нам сделали большое одолжение, если бы прогнали свою статью через восхваляемую вами модель и попросили ужать хотя бы на треть без потери смысла, выложили бы сюда и сделали пометку о том что над статьёй поработала модель.
Уверен, это было бы наглядней всей этой воды.
О, дивный новый мир! 🤩
Недавно столкнулся с такой проблемой.
Нарисовал мышкой, корявенько, два кружочка, в изометрии. Один с низу, другой сверху.
Из центра нижнего кружка поднимается стрелка и своим кончиком упирается в круг, что выше
В нижнем круге 4 стрелки концами направлены на внешнюю сторону окружности, в верхнем наоборот, стрелки направлены концами в центр.
3 часа использовал все нейронки до каких смог добраться, 2 часа мучил ChatGPT и Capilot.
И не фига.
То есть, фигни, как раз, эти нейронки много мне нарисовали, а так что бы конкретную картинку, без всяких художеств, просто два кружка и 9 стрелочек, ни одна.
И я даже скормил ChatGPTо4 картинку, что нарисовал от руки и попросил ее описать словами, что она, на ней, видит.
И ведь описала, точнее не придумать.
И вот я уже такой в возбуждении, что вот сейчас она как нарисует ... очередную фигню.
Закончилось тем, что я заплатил фрилансеру, что бы она мне ее нарисовала.
И, вы не поверите, у нее получилось сделать нужную мне и точную картинку с первого раза.
3 часа использовал все нейронки до каких смог добраться, 2 час а мучил ChatGPT и Capilot.
...пока владельцы всех этих нейронок ("которые могут всё") потирали потные волосатые лапки, засовывая в карман деньги, которые Вы им заплатили за право попользоваться этими нейронками. "Смотри, ещё один лох купился!" — шепнул один другому.
Не знаю, как в каких нейронках, могу сказать про ChatGPT. Там рисует не основная модель (4o / o1-preview, ...) а дополнительная DALL-E. Первая объясняет второй, что надо нарисовать. Поэтому получается "я художник, я так вижу". Если вам надо изображение точное, вроде чертежа, а не художественное, то просите создать SVG файл. Я попробовал - вполне неплохо. Да, есть неточности, и не совсем ваш запрос, мне было лень переписывать все нюансы :-) Но можно попросить доделать.
Запрос и результат
Задание провалено, низачот
Спасибо, отличный совет.
Сел в беспилотное такси и говорю вслух:
— Ничего себе, автомобиль без водителя.
А машина в ответ:
— Знаете, вообще-то я искусственный интеллект для решения сложных бизнес-процессов, а такси - это так, чисто для души…
Тоже самое говорили когда вышел chatgpt 3:"кожаные теперь не нужны !! 111!!!!
о1: почему новая GPT от OpenAI — это не хайп, а переход к новой парадигме в ИИ