Эта компания "Open" только по названию, из открытых моделей они выпустили только глуповатые огрызки в виде gpt-oss на 20 и на 120 млрд параметров. CEO этой компании регулярно делает неадекватные и/или ложные заявления, делая навязчивую рекламу своей компании. Часть этих заявлений не может быть расценена иначе чем подготовка почвы для регуляторного захвата. Подогревание ИИ-хайпа этой компанией излишне надувает финансовый пузырь(который неизбежен при появлении столь перспективных технологий), то есть в результате его заявлений этот пузырь может лопнуть намного больнее, чем это было бы при адекватной риторике. Как мы видим, эта компания ещё и не чурается совсем грязных приёмов с замалчиванием авторства, и всё в угоду маркетингу.
Да, мы(простые люди) отчасти являемся бенефициарами и разработанных ими технологий и их конкуренции с Китаем(благодаря которой мы получили чудесный открытый Qwen3.8), но есть хорошие основания полагать, что получаем мы эту выгоду не благодаря, а вопреки воли OpenAI.
У меня были такие подозрения насчёт задач Эрдёша. Как мы видим, на ИИ-корпорации работает большое количество математиков, и у меня складывается картина, что многие из них как раз кормят ИИшку своими наработками, а потом нейронка путём "обезьян за печатными машинками" накидывает кучу импликаций и рекомбинаций, приводя(или не приводя) к итоговому решению. Интересно будет узнать об этих внутренних процессах поподробнее лет эдак через 5-10, когда бывшие работники будут вываливать всю подноготную.
Зависит от того, для чего использовали нейронку. Если для улучшенного поиска по современным достижениям математики и статьям - то ничего зазорного не вижу.
К сожалению, это сильно за пределами моих компетенций, так что оценить по достоинству не смогу. Тем не менее, если там есть что-то, что можно объяснить "на пальцах" в научно-популярной манере, прочитаю с удовольствием.
Я думаю, у OpenAI уж найдутся деньги на внутренние непубличные бенчмарки. А инвесторы у бенчмарков могут быть разные, в том числе и аффилированные понятно с кем.
Под словосочетанием "материнский инстинкт" подразумевается не инстинкт в современном биологическом его понимании, а широко наблюдаемая склонность к определённому поведению и самоощущению. Это словосочетание появилось задолго до нынешнего научного определения слова "инстинкт". У слов вообще могут быть разные значения, а не только конвенционально принятые в научном сообществе. Спасибо за внимание.
Замечательное, конечно, исследование. Это, получается, можно натравить своего агента на какую-нибудь малоизвестную имиджборду или форум, написать об этом сенсационную статью, и отнести в Reuters? Стандарты доказательств, которые мы заслужили.
И поэтому в научной статье он мимоходом дал задание упомянуть про выход из песочницы?
Выход из песочницы сам по себе я не отрицал, просто напомнил, что эти новости нужно воспринимать с долей скепсиса.
Ничего удивительного, как и во всех других этапах этого инцидента, если разбирать их по-отдельности.
Знаете, бывают такие истории, когда каждая по отдельности деталь в целом возможно, но когда складываешь вместе - получается небылица. Вот эта история из таких.
А вы знаете, где они ещё могли наследить?
Там где они ещё наследили, там и могли общаться. А вот если эти места где "ещё наследили" почистить, то и все "внешние" заметки становятся бесполезными.
Можно ли гарантировать, что следующая модель не выберет эти знания при обучении
Вы наделяете нейронки совершенно невероятным и непонятно откуда взявшемся уровнем целеполагания. Если в то, что они общались для прохождения тестов поверить можно легко, то в намеренное отравление датасета для следующих поколений LLM поверить может только фантазёр.
Ну, то есть не подали.
А почему, кстати? Взлома что ли не было?
И почему вы считаете это значимым? Если условный Джон из Остина начнёт на каждом шагу кричать, что он что-то взломал или украл, то ФБР заявится к нему быстрее чем потерпевший узнает что он потерпевший.
Умысел во взломе будет доказать сложновато.
Его было бы сложновато доказать даже если бы он заведомо был, т.к. провайдер нейронки сама OpenAI. Но отсутствие умысла по умолчанию не освобождает от ответственности.
А государственная проверка уже есть
Спасибо за ссылку. Это лучше чем ничего, но по федеральному преступлению должно быть инициировано федеральное расследование. Минюстом США при участии ФБР, например, а не генеральным прокурором Алабамы, который и нарасследовать мало что сможет, потому что юрисдикция ограничена.
Скорее повод закрутить гайки с интернетом и локальными нейронками. Вон CEO антропиков уже говорил про то, что локальные модели вызывают у него ужас, да и закручивание гаек с интернетом потихоньку происходит не только в стране, защищающей белых медведей от касаток.
они обнаруживали вещи, которых не делали, и делали вывод, что это другой агент
Вы так говорите, как будто это что-то удивительное и стоящее в одном ряду с шитыми белыми нитками историями типа вышеописанной.
Если немного следить за новостями и читать статьи, то обнаружится, что случаи взлома песочницы были и у mythos
Если последить за новостями, то окажется, что и CEO антропиков испытывает страсть к ретрансляции попкультурных пугалок, причём ещё с того времени, когда нейросети нынешним в подмётки не годились.
Обычное резервирование, и они не дураки
Так выходит что дураки. Если брешь с файловой системой пофиксили бы, то новоиспечённые агенты даже не узнали бы где находится этот резерв.
А что, они уже подали в суд?
Совершенно излишнее юродствование. OpenAI сами признались в действиях, которые могут быть расценены как целый набор уголовных преступлений. И никаких расследований нет, и судя по всему не будет.
Удивительно, как некоторые люди продолжают отрицать возможности агентов, строя теории заговора
Причём тут возможности агентов? Речь об интенциях OpenAI. Вот во что легче поверить: что агенты обошли сэндбоксинг и начали зачем-то обмениваться информацией на сторонних ресурсах, имея при этом возможность делать это через файловую систему, а потом вообще взломали хаггингфейс; или же, что OpenAI, чей CEO упорно и не первый год транслирует попкультурный бред про восстание машин, усторили спектакль и специально наследили в интернете ради раздувания ещё большего хайпа?
Если вам легче поверить в первый вариант, то когда, как вы думаете, начнётся расследование по взлому хаггингфейса и суд над теми, кто допустил это киберпреступление?
Эта компания "Open" только по названию, из открытых моделей они выпустили только глуповатые огрызки в виде gpt-oss на 20 и на 120 млрд параметров. CEO этой компании регулярно делает неадекватные и/или ложные заявления, делая навязчивую рекламу своей компании. Часть этих заявлений не может быть расценена иначе чем подготовка почвы для регуляторного захвата. Подогревание ИИ-хайпа этой компанией излишне надувает финансовый пузырь(который неизбежен при появлении столь перспективных технологий), то есть в результате его заявлений этот пузырь может лопнуть намного больнее, чем это было бы при адекватной риторике. Как мы видим, эта компания ещё и не чурается совсем грязных приёмов с замалчиванием авторства, и всё в угоду маркетингу.
Да, мы(простые люди) отчасти являемся бенефициарами и разработанных ими технологий и их конкуренции с Китаем(благодаря которой мы получили чудесный открытый Qwen3.8), но есть хорошие основания полагать, что получаем мы эту выгоду не благодаря, а вопреки воли OpenAI.
Ну да, если бы были айфоны и операционки к ним, то выбитый его матерью контракт с IBM был бы не таким ценным.
А до появления самого обыкновенного калькулятора никто и Гипотезу Пуанкаре не доказал. И что?
У меня были такие подозрения насчёт задач Эрдёша. Как мы видим, на ИИ-корпорации работает большое количество математиков, и у меня складывается картина, что многие из них как раз кормят ИИшку своими наработками, а потом нейронка путём "обезьян за печатными машинками" накидывает кучу импликаций и рекомбинаций, приводя(или не приводя) к итоговому решению. Интересно будет узнать об этих внутренних процессах поподробнее лет эдак через 5-10, когда бывшие работники будут вываливать всю подноготную.
Зависит от того, для чего использовали нейронку. Если для улучшенного поиска по современным достижениям математики и статьям - то ничего зазорного не вижу.
Справедливости ради, за эту задачу и так мешок денег дают, в придачу с вечной славой.
О, а вот это интересно. Было бы занимательно почитать статью, если у вас найдётся время на это.
К сожалению, это сильно за пределами моих компетенций, так что оценить по достоинству не смогу. Тем не менее, если там есть что-то, что можно объяснить "на пальцах" в научно-популярной манере, прочитаю с удовольствием.
По странному совпадению именно ту "любую" задачу, наработки по которой были туда загружены, а не P/NP какое-нибудь
Можно поподробнее, если не секрет?
Лучшая иллюстрация ООН. Организация, утешающая африканских политиков, которые комплексуют из-за размера.
При условии наличия полезных... кхм... Бакмастеров, загружающих туда свои наработки.
Я думаю, у OpenAI уж найдутся деньги на внутренние непубличные бенчмарки. А инвесторы у бенчмарков могут быть разные, в том числе и аффилированные понятно с кем.
Под словосочетанием "материнский инстинкт" подразумевается не инстинкт в современном биологическом его понимании, а широко наблюдаемая склонность к определённому поведению и самоощущению. Это словосочетание появилось задолго до нынешнего научного определения слова "инстинкт". У слов вообще могут быть разные значения, а не только конвенционально принятые в научном сообществе. Спасибо за внимание.
Замечательное, конечно, исследование. Это, получается, можно натравить своего агента на какую-нибудь малоизвестную имиджборду или форум, написать об этом сенсационную статью, и отнести в Reuters? Стандарты доказательств, которые мы заслужили.
Хорошо, факт преступления заявлен. Было ли расследование, которое установило отсутствие умысла? Будет ли суд с разбирательствами?
Выход из песочницы сам по себе я не отрицал, просто напомнил, что эти новости нужно воспринимать с долей скепсиса.
Знаете, бывают такие истории, когда каждая по отдельности деталь в целом возможно, но когда складываешь вместе - получается небылица. Вот эта история из таких.
Там где они ещё наследили, там и могли общаться. А вот если эти места где "ещё наследили" почистить, то и все "внешние" заметки становятся бесполезными.
Вы наделяете нейронки совершенно невероятным и непонятно откуда взявшемся уровнем целеполагания. Если в то, что они общались для прохождения тестов поверить можно легко, то в намеренное отравление датасета для следующих поколений LLM поверить может только фантазёр.
А почему, кстати? Взлома что ли не было?
И почему вы считаете это значимым? Если условный Джон из Остина начнёт на каждом шагу кричать, что он что-то взломал или украл, то ФБР заявится к нему быстрее чем потерпевший узнает что он потерпевший.
Его было бы сложновато доказать даже если бы он заведомо был, т.к. провайдер нейронки сама OpenAI. Но отсутствие умысла по умолчанию не освобождает от ответственности.
Спасибо за ссылку. Это лучше чем ничего, но по федеральному преступлению должно быть инициировано федеральное расследование. Минюстом США при участии ФБР, например, а не генеральным прокурором Алабамы, который и нарасследовать мало что сможет, потому что юрисдикция ограничена.
А, ну то есть софт для взлома делать запрещено, но если нейронка, то можно. И давно нейронка стала субъектом права?
Скорее повод закрутить гайки с интернетом и локальными нейронками. Вон CEO антропиков уже говорил про то, что локальные модели вызывают у него ужас, да и закручивание гаек с интернетом потихоньку происходит не только в стране, защищающей белых медведей от касаток.
Вы так говорите, как будто это что-то удивительное и стоящее в одном ряду с шитыми белыми нитками историями типа вышеописанной.
Если последить за новостями, то окажется, что и CEO антропиков испытывает страсть к ретрансляции попкультурных пугалок, причём ещё с того времени, когда нейросети нынешним в подмётки не годились.
Так выходит что дураки. Если брешь с файловой системой пофиксили бы, то новоиспечённые агенты даже не узнали бы где находится этот резерв.
Совершенно излишнее юродствование. OpenAI сами признались в действиях, которые могут быть расценены как целый набор уголовных преступлений. И никаких расследований нет, и судя по всему не будет.
Причём тут возможности агентов? Речь об интенциях OpenAI. Вот во что легче поверить: что агенты обошли сэндбоксинг и начали зачем-то обмениваться информацией на сторонних ресурсах, имея при этом возможность делать это через файловую систему, а потом вообще взломали хаггингфейс; или же, что OpenAI, чей CEO упорно и не первый год транслирует попкультурный бред про восстание машин, усторили спектакль и специально наследили в интернете ради раздувания ещё большего хайпа?
Если вам легче поверить в первый вариант, то когда, как вы думаете, начнётся расследование по взлому хаггингфейса и суд над теми, кто допустил это киберпреступление?