Обновить
197
Михаил@mikhanoid

ИММ УрО РАН

0,3
Рейтинг
53
Подписчики
Отправить сообщение

Мессенджеры и протоколы бывают разные. Может быть, в каких-то и так же. Но вот в Telegram и многих других не так же. То есть принципиальных проблем гарантировать, что сообщение подписанное пользователем X действительно создано под учёткой пользователя X, никаких нет. То, что Государственный Мессенджер, на который завязаны государственные процессы, этого не обеспечивает -- саботаж, вредительство и вообще государственное преступление.

Я так понимаю, надо просить написать ровно то, что делает Ze-Post? Делать посты и комментарии к ним от имени пользователя?

Наверное. У меня нет большого опыта работы с Claude Code. Но в качестве эксперимента, было бы интересно проверить, сможет ли он end-to-end написать.

Судя вот по этому: https://dev.max.ru/docs/webapps/bridge#WebAppData - id пользователя подделывается в каком-то другом запросе. Валидировать можно не запрос, а именно сессию, что данные идут от конкретного пользователя.

А то, от чьего имени делается пост - это уже другая история. И вообще странно, что MAX вообще позволяет от имени другого пользователя создать сообщение.

P.S. И вообще, я, конечно, немного офигеваю от доступных webapp-ам действий: updateBiometricToken -- это как!? Дыра в безопасности не у бота, а у всего MAX.

Так там так написано, что и человеку-то не понять. Ну, и насколько понял я, это не про валидацию самого сообщения, а про валидацию того, что сообщение принято от реального пользователя. Ну, так оно и принято от реального. Просто в нём написано, что перепостить надо от имени другого реального пользователя.

Проблема в другом. Проблема в том, что мессенджер вообще позволяет создать сообщение от имени любого пользователя вне сессий этого пользователя.

Это не программисты, это вайбкодеры.

Вот это, наверное, меня и смущает в такой модели. Жильё же покупают не только арендаторы. Но и арендаторы, лично по моему опыту общения с людьми, которые снимают жильё, переезжают чаще.

Экспоненциальное распределение - оно про то, как распределено расстояние между точками, выкинутыми в пуассоновском процессе. В нашем случае между брошенными на ось времени событиями переезда, в каждом временном отрезке должно быть распределение Пуассона по их количеству в этом отрезке. То есть мы говорим, что в среднем у нас в каждом интервале времени переезжают раз в три года, и редко отклоняются от этого интервала.

Вот это может исказить картинку, потому что, мы, вроде как, размазываем это стандартное поведение по всем записям, средние интервалы встречаются чаще, чем короткие. И если доля отказов тоже небольшая во всей статистике, то значимость этого признака повышается.

Но, возможно, лучшего способа это промоделировать и нет. Это я так... Поворчать.

Спасибо за статью. Хабр пока ещё торт. Но возник вопрос: Из каких соображений модель переездов именно такая?

df_extended['months_at_address'] = np.random.exponential(scale=36, size=n).astype(int)

А как Вы планируете гарантировать достоверность? Или хотя бы контролировать?

Тут вопрос больше гуманитарный, чем технологический. Готовы ли мы машине отдать право выносить приказ на убийство. Простой системе: тепловое пятно -> человек -> стреляй - не готовы. А вот ИИ доверять готовы. Типа, ИИ проанализировал профиль человека, сказал, что это террорист, можно мочить без суда и следствия.

Качество анализа тут никакого значения не имеет. Как бы, есть же присказка у сторонников AI, что человек тоже ошибается. Тут важно именно изменение психологии войны: машина отдаёт приказы. Буквально (см. истории об израильской Лаванде). И войнушка на вершинах власти идёт именно за власть. У кого власть будет: у ИИ-корпораций, или у генералов.

P.S. Дополнительно всё усугубляется огромными долгами ИИ-компаний https://habr.com/ru/companies/bothub/articles/1005828/ Поэтому грызня за внедрение ИИ на уровень государственного и военного управления будет отчаянной. Потому что это гарантированный доход.

Тогда не понятно, в чём суть проблемы. Если у минвойны (в США же сейчас так?) свой контур, зачем им спрашивать что-то у гражданского контура Anthropic? Больше похоже на представление для публики с конями, блэкджеком, зеркалами и дымом, чтобы какую-нибудь ещё большую пакость протащить незаметно.

Тот венесуэльский эпизод резко изменил тон отношений: когда боссы Anthropic попытались узнать детали того, как именно Claude используется в реальных боевых операциях, Пентагон воспринял это как «этические нравоучения». Ответ был жестким: если Claude находится в системе, военные будут использовать его так, как сочтут нужным.

А что, они там в Anthropic промпты не записывают что ли? Really?!

А точно только на 1%?

Ну, я за других спецов не знаю, могу только о программировании говорить.

  1. Давайте сначала разберёмся, что такое настоящая автоматизация на примерах.

  • Это, например, автоматическая коробка передач в автомобиле - водитель избавляется от необходимости размышлять о переключении передач во время управления, автоматика гарантирует ему некоторое качество переключения передач.

  • Это, например, автоматическая линия по производству болтов. Строится линия, нажимается кнопка, и автоматика гарантирует, что на входе у нас прутья стали, а на выходе болты с гарантированными характеристиками. Мы можем проверить несколько болтов (по критерию Стьюдента, например) на качество, и быть уверенными в свойствах всей партии.

  • Это, например, лебёдка: строитель нажал кнопку и лебёдка гарантировано затащила ему на этаж поддон кирпичей - гораздо быстрее, чем рабочие, знай только, смазывай механизмы.

  1. Ничего похожего при использовании ИИ для программирования не происходит. Нет волшебной кнопки: поставил задание и не думаешь о результате. Созданный код надо внимательно вычитывать, особенно, если это не тривиальная задача. Зачастую полученный код очень плохого качества, не оптимизированный, не эффективный, избыточный, с плохой обработкой ошибок и так далее. Нормальный специалист не может такому коду доверять так, как доверяет строитель лебёдке. Не очень понятно, о каком именно избавлении от рутины Вы говорите? Это просто превращение одной рутины в другую. Менее приятную, кстати, и более дорогую. Например, я недавно пытался добиться генерации кода оптимального представления матриц в памяти, с учётом локальности кэшей для NUMA систем. Потратил два часа на то, что хороший студент делает за 40 минут, когда ему объяснишь, что к чему. Удовлетворительный результат я так и не получил. О какой автоматизации и экономии времени идёт речь? В типовых задачах? Так типовые задачи решены много раз и оформлены в библиотеки.

  2. Почему считается, что описание задачи на естественном языке будет проще, чем описание её в коде? Вот генератор простых чисел на Haskell:

[n | n<-[2..], product [1..n-1] `rem` n == n-1]

сколько времени займёт описание этого алгоритма словами для нейросети (не просто: дай мне список простых чисел, а построй такой-то и такой-то список), и как долго потом потребуется отлаживать результат генерации? Призываю вас произвести эксперимент. Код я набрал и проверил менее, чем за минуту.

  1. Я не знаю, как в других специальностях, но у программистов, как бы, есть инструменты, чтобы абстрагировать рутину: функции, макросы, классы, библиотеки и так далее. Если программист не может абстрагировать свою рутину при помощи этих инструментов - он не специалист. Думаю, не ошибусь, если скажу, что 75% мастерства программирования - это как раз умение выделять и абстрагировать рутину.

  2. Поэтому нейросети будут популярны больше у неспециалистов. Специалисты уже наработали для себя библиотеки, подходы, паттерны проектирования и так далее. Им не надо обращаться к нейросети для решения решённых задач, они могут просто взять свой код. Кроме того, для сложной задачи они могут быстрее сформулировать решение на языке программирования, а не на естественном языке. Задумайтесь: зачем люди придумали язык математики, если на естественном языке сложные понятия объяснять проще?

  3. Судьбе software-компаний, которые полагаются на AI-ассистентов, я бы не позавидовал. Они всё больше будут зависеть не от навыков их персонала, а от нейросетей и от доброй воли владельцев этих нейросетей. Как первое следствие, само качество кода будет падать, потому что тонкие ошибки не специалисты, у которых нет опыта самостоятельного программирования и кодирования просто не будут замечать. Как второе следствие, их код будет быстро обесцениваться, потому что вся информация и код из компаний будут со свистом улетать в руки владельцев нейросетей. И даже если у этих владельцев нет никаких коммерческих помыслов воспользоваться своими ресурсами для борьбы с конкурентами (что маловероятно, согласитесь), то они на истории взаимодействия программистов клиентских компаний и своих нейросетей будут обучать новые версии нейросетей, потому что им просто больше негде брать материал, весь opensource они уже поглотили. В итоге, тот код, на котором компания пытается зарабатывать, будут легко воспроизводить конкуренты, что резко его обесценит.

Если спец квалифицированный, зачем ему ИИ? Поэтому не логично. Более логично, что заменят на не более квалифицированных, а на менее квалифицированных, которые дешевле, просто из-за рыночных механизмов. Ну, и в итоге, технологические цепочки постепенно накроет энтропия.

Тезис в том, что в JS можно незаметно допускать ошибки в типах, которые не приводят к исключениям, которые можно отловить на этапе тестирования и отладки. Самое знаменитое: сравнение по указателям вместо сравнения по значениям, сложение строк и чисел. В том отчёте об исправленных 15% ошибок большинство ошибок подобного рода.

JS, конечно, прекрасен: на JS сделано много прекрасных проектов. Просто есть динамические языки и с более строгой семантикой.

Мутная логика, что впрочем не удивительно, она всегда мутная в продвижении нейросетей. Считать надо не количество новых вопросов, а количество просмотров. За 17 лет SO накопил огромную базу решений, в большинстве случаев достаточно поискать, чтобы найти необходимое. Естественно, со временем количество новых вопросов будет уменьшаться.

Предлагаю перевести Ваше высказывание на более точный математический язык: "может быть, через 2 года никакие познания не будут иметь смысла, вычислимая функция из одного многомерного пространства в друге сама поставит цель и достигнет, человек ей зачем?"

Вы в это серьёзно верите? В наличие целей у математических функций? Слово вычислимая имеет важный смысл, потому что в физической реальности нас окружает уйма невычислимых функций.

Цели, скорее, есть у владельцев ИИ. И, скорее всего, главная там цель - это сделать себя неотъемлемой частью любых интеллектуальных процессов за счёт деградации участников этих процессов, и получать с этого прибыль. А долгосрочные последствия этого их, конечно, не волнуют.

А с чего вдруг он не ворует и не врёт? :) ИИ учат на существующих записях активности людей. Если у Вас обычные CEO врут, воруют и подделывают отчётность, с чего вдруг нейросетевой CEO этого делать не будет?

Ну, и радикальной эффективности тут тоже не будет, потому что такой CEO будет просто воспроизводить существующие практики, и со временем качество будет убывать, потому что новые версии будут обучаться на данных, которые сформированы предыдущими версиями. Любая компания будущего, которая примет революционное решение нанять живого человека, который книжек 20 века начитался, порвёт рынок, как тузик грелку.

Вы в этом уверены? Я, конечно, не ученый, но от людей, близких к науке, слышал о том, что область исследований сейчас стала крайне узкой, и объем информации, который нужно обрабатывать, ничем не сравним с тем, что было в XIX веке.

Да, уверен. Даже чисто формально: недавно подсчитали, что ссылок на статьи из прошлого века в современных работах больше, чем на современные статьи. Ну, и проблема именно в том, что современный учёный больше вовлечён не в размышления, а в чтение. ИИ только усугубит эту ситуацию: вместо мышления люди будут заниматься коммуникацией.

Помните, что говорил Сократ о письменности? А когда появился калькулятор? ПК? Уже сейчас я с удовольствием использую GPT как репетитора по теорверу, английскому, проверяя на верность цепь моих рассуждений. GPT также анализирует мой код, говоря, где я мог ошибиться. $20 в месяц всего. Сущие копейки.

А что? Сократ был не прав? Сколько философов из Древней Греции Вы можете назвать, не заглядывая в Википедию, и сколько философов, скажем, из нового времени? Но книга не так плющит мозг, как телевидение, интернет и ИИ. Она оставляет возможность подумать.

Про влияние же современных технологий есть интересное наблюдение у клинических психиатров: бред у пациентов резко начал утрачивать сложность. Генетика заболеваний не изменилась, а вот сложность мозга пациентов резко упала с распространением телевидения и интернета. Догадайтесь с трёх раз, с чем именно это связано?

Сколько лет нужно человеку, чтобы он мог оперировать тем объёмом информации, который обрабатывает ИИ? 10? 15? А тут 15-летний школьник может выдать результат профессионала со стажем. Пока хуже, но прогресс есть.

Это очевидная подмена понятий. Выдавать результат будет не школьник, а ИИ. Школьник, скорее всего, никакого сложного результата не выдаст, потому что не сможет осознать прочитанное (да и читать, скорее всего не будет; даже студенты читать не будут, уже пошёл вал работ, написанных ChatGPT, и такой подход автора умнее не делает) и выдать следующий осмысленный промпт.

Кроме того, а с чего Вы взяли что прогресс в знаниях должен быть связан исключительно с ростом объёма информации? Наоборот, прогресс в науке достигается поиском общих принципов, которые, грубо говоря, сжимают информацию до небольшого количества базовых понятий.

Почти мгновенная выдача решения, для построения которого ноунейму, вроде меня, потребовалось бы потратить уйму времени. Например я застрял над решением задачки с литкода, или ответ в задачах по терверу у меня не сходится с верным.

Так смысл задачек как раз и в том, чтобы потратить уйму времени, чтобы в Вашем мозге сформировались нужные связи. Если Вы теперь обращаетесь постоянно к ИИ в любой "тупиковой" ситуации, значит, Вы не развиваете свой мозг. И "тупиковых" ситуаций для Вас меньше не становится.

В этом ключевая проблема всей этой технологии. Это не ИИ станет умнее человека, это люди под воздействием ИИ станут тупее ИИ.

1
23 ...

Информация

В рейтинге
2 903-й
Зарегистрирован
Активность

Специализация

Системный инженер, scientific programming
Scheme
C
Assembler
Linux
Математика
Julia
Компиляторы
Математическое моделирование
Машинное обучение
Computer Science