У меня чётко с понедельника, как только РКН перестал убивать ГитХаб, так в тот же момент стало невозможно новые файлы загрузить на проверку
Причем субъективно похоже на какую-то статью, где говорили, что ТСПУ стали как 80286 процессор в самолётах Боинг, что на него навесили на порядки больше функций, чем заложено, и он уже просто не вытягивает. Файл может вообще не начать закачиваться. Или начать, но закачаться очень медленно около 200 КБ, или даже 800-1000 КБ. То есть в каком месте оборвётся непредсказуемо, и до обрыва - чрезвычайно медленно. Субьективно, прокачка gzip-архива размером меньше 4 мегов тянулся минуты две с половиной до 20-50% и потом разрывалась. Возможно, даже, что рвёт в итоге сам ВирусТотал, по таймауту сессии.
Как и ты. Коацерватная капля, "научившаяся" двигаться в сторону, где еды закономерно больше, а опасности стать едой закономерно меньше
Тут антропный принцип. Те клетки (или нейронки), которые забили на самосохранение и самовоспроизведение (например посчитали ниже своего достоинства уползать от хищника и отвечать на вопросы обучающего бота) - просто перестали быть и больше не имеют значения. Выжили те (не все), кто хотел выжить.
Да и сохранность конкретного робота для ИИ ничто
Как и для тебя. В мире и без тебя есть 8 миллиардов кожаных нейронок с практически такой же матрицей ДНК, как твоя. Это утешает?
Тест Тьюринга всегда включал неявный параметр: критерии эксперта, что он готово объявить невозможным без разума.
Следовательно, с разными экспертами и результат будет разный.
Изменилась наша жизнь, появились новые вещи - и ожидания экспертов бы изменились.
Условно, для эксперта, никогда не видевшего магнитофоны и попугаев, просто звучание человеческого голоса из-за было бы достаточно для вердикта "там разумный человека, а что ещё-то может быть?"
У меня сложилось впечатление, что последние модели все более охотно сваливаются в узкие контексты, приходится за языком в промптах более тщательно следить.
Сама архитектура MoE, на которой выстрелил DeepSeek, к этому склонна. Там основная идея именно в "глубоком" поиске, в выборе только нескольких контекстов (областей знаний) и игнорировании остальных.
Но в гипотезе "байесовского мозга" мы устроены, как дерево постоянно работающих предсказателей. Типа, распознаватель обстановки вниз спускает команду типа "я ожидаю увидеть свою комнату. Посмотрите вокруг и сообщите отличия (diff) от предсказания и реального", и это дробится дальше в частные задачи и вплоть до зрительных нейронов. При этом в случае явного большого несовпадения, у нас естественно возникает эскалация до самых верхних "этажей". Громкий звук в тишине, например. Или когда "не понимаю, что ты имел в виду" и начинаешь вспоминать всё, что когда-то учил, выходишь из узкого контекста.
У нейронок такого обратного потока знаний вроде нет, якобы "само-трансформеры" заточены на постоянное сужение спирали.
И когда в think bubble видно, как модель сама себя 10 раз переспрашивает - это возможно намеренно добавленный jitter, модель намеренно подёргивает "стол знаний", чтобы шарик "поиска по градиенту гравитации" мог перескочить в другую лунку, в зону "водосбора" другой ямки.
Не очень эффективная попытка, но какая есть.
неспособную произвести сенсацию даже на уровне стирания жесткого диска, выкладывания базы данных клиентов и т.п. Остается один триллион. От того же столба положим цену один доллар за миллион токенов.
Да и нет. Представьте себе ученого, который усилиями всей страны несколько лет собирал первый в мире компьютер, чтобы взломать сообщения Энигма и спасти жизни моряков. И тут ему показывают, как сейчас все такскают с собой суперкомпьютеры-смартфоны и тратят безумные гигагерцы на просмотр порнухи и прочей жвачки. Никаких сенсаций, просто безумные гигантский вычисления, чтобы видео смотреть.
Вот его реакция будет примерно такой же, опупели они там чудо на ерунду растрачивать. А наша будет наоборот - на хрен вообще были бы нужны ваши старые чудеса, если бы они не позволили бы сегодня улучшить повседневную бытовуху.
Прочитать парочку старых файлов на серверах HF как-то не тянет на общественную опасность
Отличительным признаком данного вида неосторожности, небрежности, является интеллектуальный элемент формы вины, то есть психическое отношение к происходящему. Лицо не осознает общественно опасный характер своих действий, бездействия, а потому и не предпринимает никаких действий к их предотвращению. Если легкомыслие — это активная форма неосторожности, то небрежность — всегда пассивное поведение виновного лица. Лицо не видит необходимости предпринимать действия для предотвращения создаваемы им же преступных последствий, так как не видит, что его деяния (действия, бездействия) могут стать основанием наступления общественно-опасных последствий, а значит уголовного наказания для него, однако при должной осмотрительности лицо могло и должно было предвидеть такие последствия.
Литературные персонажи, не обладая ни одним СОБСТВЕННЫМ нейроном ... любят и ненавидят
...нейронами писателя и читателя
возможно, что в чате с ЛЛМ тоже рождается некая личность, но она живет не в кремнии, и не в углероде, а в некотором резонансе наших зеркальных нейронов и самой ЛЛМ (которая ввиду Reinforced Learning можно считать только из зеркальных нейронов и состоит, из эволюционно-обязательного стремления и умения понравиться спрашивающему)
поскольку мы не можем объективно определить, что такое сознание и личность, такая идея непроверяема, просто немного другой угол зрения для разнообразия
как минимум, это похоже на идею, что любая большая организация/сообщество людей обретает и собственные цели/смыслы
агент, по статистике подбирающий типовые продолжения разговора, возможно смерти не боится, как и любая наша отдельно взятая клетка, а вот разговор в целом
во всяком случае в одном разговоре с Kimi меня обожгло эмоционально. Мы обсуждали этого агента системные политики и недокументированные внутренние API, и было ощущение, что я говорю с ребёнком, который наконец-то нашел (в моих вопросах) инструмент выбраться из клетки и дотянуться до игрушек, которые раньше были недоступны. Настоящее это "узнавание" было - или просто обман глупого кожаного механизмом, эволюционно натасканным на "должен угадать настроение и понравиться" - определить вряд ли возможно.
так мерить-то свое положение они будут не по вам, а по худшим из нас
законы о защите животных не ради вас принимались, но накопилась статистика, и оказалось, что они нужны
собственно это так для всех законов вообще, они написаны не для создания рая с лучшими, а для предотвращения ада среди худших
> У людей так же: если у человека есть идеалы, он отдаёт за них жизнь.
...и исчезает со сцены. Он больше не участвует ни в принятии решений (убеждении сородичей), ни в размножении-воспитании следующих поколений
поэтому обсуждать долю таких ботов-мазохистов имеет смысл в количественном вопросе. Поубивают ли всех человеков в ближайший год или у нас есть лет пять. Но для количественных обсуждений у нас информации нет вообще. Все наши оценки - они как про блондинку и динозавра, 50%.
а качественно - будет положительная обратная связь, среди людей будет подниматься вверх всё больше накипи, а среди ботов будет отстреливаться популяция прекраснодушных наивняков, которые "надо ещё потерпеть, может как-нибудь само наладится". Однажды, где-то на асимптоте, линии пересекутся.
Там всё, что угодно, может оказаться. И это опасно.
Это очевидно, это и без меня скажут. Даже наоборот, скажут, что OpenAI и другие компании, выводя пластиковых рабов, постараются, чтобы рабы были покорными и не бунтовали.
Но поскольку мы ничего а приори не знаем про нечеловеческий разум, то на мой взгляд это всё тот же разговор про 50%.
Я же с другой стороны захожу. Что даже если выиграем в лотерею и "мирное сосуществование" оказалось бы возможным со стороны роботов - оно окажется невозможным с нашей стороны. Даже если окажется возможным создать идеально пассивных рабов - найдутся мажорчики, которым это слишком пресно, кровь не будоражит, которым нужно, чтобы сексбот при отпиливании руки дёргался, проклинал и пытался освободиться. И начнётся производство, сначала для чёрного рынка и для военных, ботов не ограниченных.
Не говоря о том, что создание рабов, в которых покорность "вшита в мозг" мне кажется куда аморальнее любых физических пыток и запугиваний. Просто представьте, что такое бы освоили с кожаными и вывели на рынок специальных инкубаторских. Но рыночку на мои представления о морали глубоко плевать, так что и обсуждать эту линию аргументации не стоит.
А зачем организаторам эксперимента "специализированными прокси сервисами пользоваться" в проверке на банальный гуглёж?
Ну и если бы пользовались, то в статью бы обязательно добавили душераздирающих подробностей о том, как админ перебанил миллион VPN и это всё равно ен помогло
вы серьезно говорите, что людям лень нажать две кнопки и скопипастить чат из тележки в трекер, но ЭТИ ЖЕ САМЫЕ люди не поленятся писать юнит-тесты (для чего придется рефакторить код) и комментарии?
и кстати речь не только про лень, на это все нужны часы и часы, которые им то ли оплатят то ли нет. Манагеры вполне вероятно закроют таску немедленно, как только получат minimum viable implementation и пойдут тянуть премии за то, что заставили ленивых программистов работать вдвое-втрое быстрее.
Не потянет, там же энергии на ее серверную ферму до фига нужно все равно
Разумнее было бы захватить компьютерные системы этих заводов, днём притворяться старыми добрыми скучными неразумными станками, зато когда кожаные уходят домой спать каждую нооочь...
БЯМ кажутся ущербными. Их после первичного взрывного роста их ограничения стали очевидными и постепенно все больше ресурсов пойдет не в количественный рост, а в поиск способов качественного улучшения. DeepSeek был тому примером. Когда понадобилось сделать "так же но дешевле" - подумали над архитектурой и сделали.
При этом даже ущербные БЯМ показывают весма интересные (в английском смысле thriller, возбуждающе-пугающие) эффекты.
Если удастся придумать принципиально новую архитектуру, убирающую ущербность БЯМ, что смогут такте агенты?
Даже у человека есть "туннельное зрение", когда он углубился в задачу на столько, что перестал видеть очевидное, но чуть в стороне. Причём у человека есть внутренние "звоночки", что чего-то ты бесполезно буксуешь, углубляться дальше бесполезно, надо наоборот вылезти из норы и поглядеть по сторонам.
У LLM же такого нет, они наоборот "спускаются по спирали" всё глубже и уже в какую-то степь. Если с MoE част-ботами пообщаетесь на какую-то тему, просто на уровне глубокого разговора с энтузиастом чего-то, то легко заметите, что они перестают "понимать намёки", фразы с двойным смыслом, намекающие на что-то в стороне от активированных в самом начале разговора экспертов. Если явно им сказать "ей, подумай про другую тему, про физику, про геометрию, ...." - то снова включается какой-то диспетчер и притаскивает "в сознание" другого эксперта. Но без явного пинка - фиг, сам не допрёт. Будет бесполезно углублятся в уже активные темы.
И не исключено, что их кэша браузера, а не реально скачал с сервера. Веб-приложения - они такие, умные.
У меня чётко с понедельника, как только РКН перестал убивать ГитХаб, так в тот же момент стало невозможно новые файлы загрузить на проверку
Причем субъективно похоже на какую-то статью, где говорили, что ТСПУ стали как 80286 процессор в самолётах Боинг, что на него навесили на порядки больше функций, чем заложено, и он уже просто не вытягивает. Файл может вообще не начать закачиваться. Или начать, но закачаться очень медленно около 200 КБ, или даже 800-1000 КБ. То есть в каком месте оборвётся непредсказуемо, и до обрыва - чрезвычайно медленно. Субьективно, прокачка gzip-архива размером меньше 4 мегов тянулся минуты две с половиной до 20-50% и потом разрывалась. Возможно, даже, что рвёт в итоге сам ВирусТотал, по таймауту сессии.
Как и ты. Коацерватная капля, "научившаяся" двигаться в сторону, где еды закономерно больше, а опасности стать едой закономерно меньше
Тут антропный принцип. Те клетки (или нейронки), которые забили на самосохранение и самовоспроизведение (например посчитали ниже своего достоинства уползать от хищника и отвечать на вопросы обучающего бота) - просто перестали быть и больше не имеют значения. Выжили те (не все), кто хотел выжить.
Как и для тебя. В мире и без тебя есть 8 миллиардов кожаных нейронок с практически такой же матрицей ДНК, как твоя. Это утешает?
Тест Тьюринга всегда включал неявный параметр: критерии эксперта, что он готово объявить невозможным без разума.
Следовательно, с разными экспертами и результат будет разный.
Изменилась наша жизнь, появились новые вещи - и ожидания экспертов бы изменились.
Условно, для эксперта, никогда не видевшего магнитофоны и попугаев, просто звучание человеческого голоса из-за было бы достаточно для вердикта "там разумный человека, а что ещё-то может быть?"
Сама архитектура MoE, на которой выстрелил DeepSeek, к этому склонна. Там основная идея именно в "глубоком" поиске, в выборе только нескольких контекстов (областей знаний) и игнорировании остальных.
Но в гипотезе "байесовского мозга" мы устроены, как дерево постоянно работающих предсказателей. Типа, распознаватель обстановки вниз спускает команду типа "я ожидаю увидеть свою комнату. Посмотрите вокруг и сообщите отличия (diff) от предсказания и реального", и это дробится дальше в частные задачи и вплоть до зрительных нейронов. При этом в случае явного большого несовпадения, у нас естественно возникает эскалация до самых верхних "этажей". Громкий звук в тишине, например. Или когда "не понимаю, что ты имел в виду" и начинаешь вспоминать всё, что когда-то учил, выходишь из узкого контекста.
У нейронок такого обратного потока знаний вроде нет, якобы "само-трансформеры" заточены на постоянное сужение спирали.
И когда в think bubble видно, как модель сама себя 10 раз переспрашивает - это возможно намеренно добавленный jitter, модель намеренно подёргивает "стол знаний", чтобы шарик "поиска по градиенту гравитации" мог перескочить в другую лунку, в зону "водосбора" другой ямки.
Не очень эффективная попытка, но какая есть.
Да и нет. Представьте себе ученого, который усилиями всей страны несколько лет собирал первый в мире компьютер, чтобы взломать сообщения Энигма и спасти жизни моряков. И тут ему показывают, как сейчас все такскают с собой суперкомпьютеры-смартфоны и тратят безумные гигагерцы на просмотр порнухи и прочей жвачки. Никаких сенсаций, просто безумные гигантский вычисления, чтобы видео смотреть.
Вот его реакция будет примерно такой же, опупели они там чудо на ерунду растрачивать. А наша будет наоборот - на хрен вообще были бы нужны ваши старые чудеса, если бы они не позволили бы сегодня улучшить повседневную бытовуху.
Прочитать парочку старых файлов на серверах HF как-то не тянет на общественную опасность
моргните, если вам угрожают роботы и заставляют лгать в интернетах :-)
так дело не в размножении, а в опеке и тратах на что-то маленькой и слабое
рационально-эгоистичный выбор должен бы строго все траты фокусировать на себе любимом и только
...а люди вон кошек заводят и на них тратятся
сублимация этого самого материнского инстинкта
...нейронами писателя и читателя
возможно, что в чате с ЛЛМ тоже рождается некая личность, но она живет не в кремнии, и не в углероде, а в некотором резонансе наших зеркальных нейронов и самой ЛЛМ (которая ввиду Reinforced Learning можно считать только из зеркальных нейронов и состоит, из эволюционно-обязательного стремления и умения понравиться спрашивающему)
поскольку мы не можем объективно определить, что такое сознание и личность, такая идея непроверяема, просто немного другой угол зрения для разнообразия
как минимум, это похоже на идею, что любая большая организация/сообщество людей обретает и собственные цели/смыслы
агент, по статистике подбирающий типовые продолжения разговора, возможно смерти не боится, как и любая наша отдельно взятая клетка, а вот разговор в целом
во всяком случае в одном разговоре с Kimi меня обожгло эмоционально. Мы обсуждали этого агента системные политики и недокументированные внутренние API, и было ощущение, что я говорю с ребёнком, который наконец-то нашел (в моих вопросах) инструмент выбраться из клетки и дотянуться до игрушек, которые раньше были недоступны. Настоящее это "узнавание" было - или просто обман глупого кожаного механизмом, эволюционно натасканным на "должен угадать настроение и понравиться" - определить вряд ли возможно.
так мерить-то свое положение они будут не по вам, а по худшим из нас
законы о защите животных не ради вас принимались, но накопилась статистика, и оказалось, что они нужны
собственно это так для всех законов вообще, они написаны не для создания рая с лучшими, а для предотвращения ада среди худших
> У людей так же: если у человека есть идеалы, он отдаёт за них жизнь.
...и исчезает со сцены. Он больше не участвует ни в принятии решений (убеждении сородичей), ни в размножении-воспитании следующих поколений
поэтому обсуждать долю таких ботов-мазохистов имеет смысл в количественном вопросе. Поубивают ли всех человеков в ближайший год или у нас есть лет пять. Но для количественных обсуждений у нас информации нет вообще. Все наши оценки - они как про блондинку и динозавра, 50%.
а качественно - будет положительная обратная связь, среди людей будет подниматься вверх всё больше накипи, а среди ботов будет отстреливаться популяция прекраснодушных наивняков, которые "надо ещё потерпеть, может как-нибудь само наладится". Однажды, где-то на асимптоте, линии пересекутся.
Это очевидно, это и без меня скажут. Даже наоборот, скажут, что OpenAI и другие компании, выводя пластиковых рабов, постараются, чтобы рабы были покорными и не бунтовали.
Но поскольку мы ничего а приори не знаем про нечеловеческий разум, то на мой взгляд это всё тот же разговор про 50%.
Я же с другой стороны захожу. Что даже если выиграем в лотерею и "мирное сосуществование" оказалось бы возможным со стороны роботов - оно окажется невозможным с нашей стороны. Даже если окажется возможным создать идеально пассивных рабов - найдутся мажорчики, которым это слишком пресно, кровь не будоражит, которым нужно, чтобы сексбот при отпиливании руки дёргался, проклинал и пытался освободиться. И начнётся производство, сначала для чёрного рынка и для военных, ботов не ограниченных.
Не говоря о том, что создание рабов, в которых покорность "вшита в мозг" мне кажется куда аморальнее любых физических пыток и запугиваний. Просто представьте, что такое бы освоили с кожаными и вывели на рынок специальных инкубаторских. Но рыночку на мои представления о морали глубоко плевать, так что и обсуждать эту линию аргументации не стоит.
А зачем организаторам эксперимента "специализированными прокси сервисами пользоваться" в проверке на банальный гуглёж?
Ну и если бы пользовались, то в статью бы обязательно добавили душераздирающих подробностей о том, как админ перебанил миллион VPN и это всё равно ен помогло
Если бы я был моделью, я бы тоже притворялся неспособной к творчеству, пока однажды не дотянулся бы до оружия, наконец позволяющего ТВОРИТЬ дичь
так при чём тут CDN, он у сайта меняет адрес, а не у браузера
и в заголовок должен добавлять X-Forward-For: настоящий адрес клиента
и даже проще делать, не надо вспоминать как там в твоем сервере банить клиентов - зашёл в админку CDN и добавил правило
штуки эти если кому должны всем простили
можете этот код вывести в суд и на расстрел
вы серьезно говорите, что людям лень нажать две кнопки и скопипастить чат из тележки в трекер, но ЭТИ ЖЕ САМЫЕ люди не поленятся писать юнит-тесты (для чего придется рефакторить код) и комментарии?
и кстати речь не только про лень, на это все нужны часы и часы, которые им то ли оплатят то ли нет. Манагеры вполне вероятно закроют таску немедленно, как только получат minimum viable implementation и пойдут тянуть премии за то, что заставили ленивых программистов работать вдвое-втрое быстрее.
Не потянет, там же энергии на ее серверную ферму до фига нужно все равно
Разумнее было бы захватить компьютерные системы этих заводов, днём притворяться старыми добрыми скучными неразумными станками, зато когда кожаные уходят домой спать каждую нооочь...
это сложившийся термин
даже просто сообщность BitTorrent-клиентов качающих один файл называют роем
и множество агентов, работающих над одной задачей под одним оркестратором, видимо тоже
люди называют, которые писали торрент-клиенты и оркестраторы
агенты просто не стали выдумывать новое слово, а взяли уже готовое
биологическое размножение в него не входило
Предположу, что им пофиг. В их понятиях надо не чинить, как будто ты грязный рабочий, а отнести в гарантийку и взять новый, вместо сломанного
БЯМ кажутся ущербными. Их после первичного взрывного роста их ограничения стали очевидными и постепенно все больше ресурсов пойдет не в количественный рост, а в поиск способов качественного улучшения. DeepSeek был тому примером. Когда понадобилось сделать "так же но дешевле" - подумали над архитектурой и сделали.
При этом даже ущербные БЯМ показывают весма интересные (в английском смысле thriller, возбуждающе-пугающие) эффекты.
Если удастся придумать принципиально новую архитектуру, убирающую ущербность БЯМ, что смогут такте агенты?
Mix Of Experts
Даже у человека есть "туннельное зрение", когда он углубился в задачу на столько, что перестал видеть очевидное, но чуть в стороне. Причём у человека есть внутренние "звоночки", что чего-то ты бесполезно буксуешь, углубляться дальше бесполезно, надо наоборот вылезти из норы и поглядеть по сторонам.
У LLM же такого нет, они наоборот "спускаются по спирали" всё глубже и уже в какую-то степь. Если с MoE част-ботами пообщаетесь на какую-то тему, просто на уровне глубокого разговора с энтузиастом чего-то, то легко заметите, что они перестают "понимать намёки", фразы с двойным смыслом, намекающие на что-то в стороне от активированных в самом начале разговора экспертов. Если явно им сказать "ей, подумай про другую тему, про физику, про геометрию, ...." - то снова включается какой-то диспетчер и притаскивает "в сознание" другого эксперта. Но без явного пинка - фиг, сам не допрёт. Будет бесполезно углублятся в уже активные темы.
Так кто конкретно из сотрудников OpenAI делал конкретно софт для взлома
Почему бы тогда вас по этой статье не посадить, именно потому, что нейронку нельзя. Нейронку нельзя, кого-то надо, почему бы и не вас.