Хабр Курсы для всех
РЕКЛАМА
Большая витрина: от крупнейших школ до частных авторов. Сравнивайте по цене, длительности, формату и выбирайте самый подходящий курс!
Поток Научпоп доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 51
Блин... Кастую вагон поп-корна )
Твиттер там уже весь день по стенам прыгает) Думаю, интереснее всего будет после публикации полного ответа Бубека завтра
10 тысяч агентов, 130 миллиардов токенов, миллионы сообщений, отдельные исследовательские группы, обмен удачными идеями и ещё 17 часов Lean после финиша. Это уже не чатик, которому удачно сформулировали промпт, а натуральный вычислительный НИИ, которому вместо зарплаты выдают GPU. )))
10 тысяч агентов, 130 миллиардов токенов, миллионы сообщений, отдельные исследовательские группы, обмен удачными идеями и ещё 17 часов Lean после финиша. Это уже не чатик, которому удачно сформулировали промпт, а натуральный вычислительный НИИ, которому вместо зарплаты выдают GPU. )))
Но работает ведь!
При условии наличия полезных... кхм... Бакмастеров, загружающих туда свои наработки.
При условии наличия полезных... кхм... Бакмастеров, загружающих туда свои наработки.
Да нет конечно) Сам сталкивался с ситуацией, когда Opus 5 ускорил алгоритм, примерно раз в 50, при том, что я смог добиться только раз в 20, предложив достаточно оригинальную идею, которая до этого не использовалась. И это был один, достаточно старый на сегодня Opus 5. Понятно, что фронтирные модели запущенные в количестве 10 000 инстансов вам решат любую задачу.
Понятно, что фронтирные модели запущенные в количестве 10 000 инстансов вам решат любую задачу.
По странному совпадению именно ту "любую" задачу, наработки по которой были туда загружены, а не P/NP какое-нибудь
когда Opus 5 ускорил алгоритм, примерно раз в 50
Можно поподробнее, если не секрет?
У меня ускорял 500 раз. Сложный алгоритм последовательностей на графах. Сам я выжал всё, что знаю - минимум O, аллокаций, быстрые хеши, предельно сжатые в примитивы типы.
Но пришел Опус и в коде учел особенности графа, добавил MITM (Meet In The Middle).
То, что считалось неделю - посчиталось за 15 минут
Американский бигтех берет на вооружение метод Китая: Понравилось? Забирай! :D Какая историческая ирония :D
Чую кто то кого то скоро будет отменять :D
И чему тут удивляться? Я думал, адекватный человек, пользующийся облачными (не локальными) нейронками понимает, что логи общения с моделями могут быть использованы для внутренних целей компаний даже если в оферте про это ни слова. И осторожные люди работают по приницпу, не кидать туда пароли, свои фотки, фамилии, корпоративный код и т.п., Те кому сильно надо или лень, готовы осознанно плюнуть и немножко рискнуть (вряд ли какой-нибудь местечковый сайт хакнут по утекшему во время разработки паролю). Но млин когда решаешь задачи тысячелетия, ты явно не наивный человек.
Тут скорее трабла в том, что только наивный чел скорее решит проблему тысячелетия, потому как не тратит ограниченные ресурсы своего мозга на всю отвлекающую возню с паролями и прочей параноей.
Так локальные модели им бы не помогли, у них размера не хватило бы для построения необходимых ассоциаций.
Что значит могут? Они 1000% будут учитывая обязательства перед инвесторами и их собственные заявления что в интернете почти не осталось доступной качественной информации для обучения
Это что же, получается, если вы разрабатываете что-то новаторское и в процессе активно используете ChatGPT – Сэм Альтман может в любой момент скормить ваши наработки своей внутренней нейросети и попросить ее сделать то же самое, только в сто раз быстрее
А то все прям забыли, как титька-банк начал всех своих клиентов-юриков потрошить на очень интимные детали бизнес-операций. Не помню, были ли прямые обвинения в уводе бизнеса через такой вот шпионаж, но опасения точно высказывались. Это, кстати, происходило примерно в то же самое время, когда уйти в другой банк стало можно за 25% остатков на счетах в титьке.
По итогу двух последних скандалов сделал для вас краткое визуальное резюме политики OpenAI по работе с данными.
Писал рассказ 10 лет назад про что-то похожее
Математикам не дают "Нобелевки". Премия Филдса, может быть?
Нужно подождать проверку математического сообщества, или доказательство на каком нибудь lean.
Вопрос в тему, а есть готовое решение, которое заменяет в тексте все имена, фамилии, адреса, номера телефонов, заказов, любые идентификаторы и т.п. на случайную биллиберду, чтоб можно было обезличенные данные скармливать нейронке, а потом автоматически преобразовает беллиберду в ответе на изначальные значения? С проверяемой прозрачностью намерений и стойкостью к атакам, т.е. условно локальный скрипт на питоне.
Можно запустить локальную модель и написать skill
https://habr.com/ru/posts/1078988/
вот тут описывается решение AI-Gateway наверное взяв за основу можно допилить до нужной кондиции
Навье и Стокс — это два разных человека, поэтому надо писать через длинное тире, а не через дефис, как двойную фамилию.
Это уже становится забавным. В прошлый раз с Перельманом и задачей тысячелетия была история не менее запутанная. Ждем серию детективов “Парни публикуют решение задачи тысячелетия”. Я так понимаю второй том пишется прям ша
Кратенько, про что сыр-бор.
Уравнение Навье-Стокса на минималках описывает движение несжимаемой жидкости. Его можно дополнить уравнением состояния и описывать течение сжимаемых жидкостей и газов, а с учётом процессов ионизации - и плазмы.
Используется для расчётов кучи всего, от банальных труб и баков до погоды, реактивных двигателей и термоядерных реакторов. А также движения всякого-разного ездящего, плавающего и летающего в условно-спокойной среде на неспокойных скоростях. Ну и анекдоты по типу "может ли вёсельная лодка двигаться в озере сверхтекучего гелия" (может, но не так как вы это ожидаете)
Аналитические решения известны только для совсем уж сферических коней в вакууме, все считают численно. А поскольку базовая сложность O(N^4) с огромными константами, за новый способ решения вполне можно получить доктора наук.
Уравнение очень плохо себя ведёт. Тут вам и эффект бабочки, и турбулентность (хаотические резкие скачки параметров в соседних областях среды), и различные ударные / приграничные / критические слои с более стабильными скачками. Вот особенно скачки считать совсем сложно: конечные разности ("производные") становятся огромными, что для вычислений в числах с плавающей запятой быстро приводит к разносу решения в бесконечность и далее NaN-ы. Скачки приходится сглаживать (типа блура) на каждом шаге расчёта, фактически увеличивая вязкость и считая не совсем то, что изначально хотелось.
Так вот, проблема тысячелетия состоит в том, чтобы доказать существование гладких решений (пусть с большими значениями производных, но без разрывов) в общем случае. С практической точки зрения все надеются, что доказательство существует и будет конструктивным, т.е. позволит создать алгоритмы без сглаживания и огрублений.
Дополнительную перчинку добавляет то, что потенциальных доказательств, на самом деле, известно достаточно много, как и опровержений, но обычно там такая лютая дичь, что они годами лежат без рецензий — никто не хочет в этом полгода разбираться. Если вы непризнанный гений из пединститута условной Караганды (не то чтобы шутка), скорее всего, вашу работу просто проигнорируют. В общем, без мощного пиара признания не будет, и совсем не факт, что в этой статье нет признаков сговора.
Мне понравилось, как Теренс Тао в одном из интервью рассказывал на пальцах идею своей попытки опровержения, что можно из уравнений Навье-Стокса построить логические гейты и задать такие начальные параметры системы, чтобы получился этакий жидкостный компьютер. И потом он пытался построить робота из жидкостных вихрей, который строит свою уменьшенную копию, потом передает ей всю свою энергию, копия делает то же самое, но быстрее... и в итоге за конечное время вся энергия фокусируется в одной точке, что приводит к взрыву решения. Подробностей не знаю.
Это что же, получается, если вы разрабатываете что-то новаторское и в процессе активно используете ChatGPT – Сэм Альтман может в любой момент скормить ваши наработки своей внутренней нейросети и попросить ее сделать то же самое
Разумеется, если вы согласились на использование своих данных для обучения. Не нравится -- платите по тарифу, не предусматривающему хранение и использование данных, или идите к другому провайдеру.
Дополнил материалом фрагментом о выложенном OpenAI доказательстве и пресс-релизе.
Что-то я не понял, откуда возникли претензии. В настройках ChatGPT в разделе "Управление данными" есть пункт об использовании содержимого чатов для обучения модели. Его можно выключить. Бакмастер его выключил? Если нет, то какого хрена он вообще вякает? Он сам согласился скормить своё "решение тысячелетия" и разрешил его использовать. Или он всё же галочку снял?
Ну и в принципе там этот егермейстер решал с помощью ИИ и ИИ решил, так в чем проблема, решил то ИИ в результате и так и так бы, без ИИ он бы и не решил, а может кто то ещё решал. Короче пусть отдыхает и не рыпается, превратили науку в ярмарку тщеславия.
ты решил задачу с помощью калькулятора. Так и запишем: +1млн долларов Арзамасскому заводу радиодеталей
Ну и в принципе там этот егермейстер решал с помощью ИИ и ИИ решил, так в чем проблема, решил то ИИ в результате и так и так бы, без ИИ он бы и не решил
А LLM бы решила эту задачу без наводящих вопросов и комментариев того товарища, основанных на его опыте и знаниях? Стреляет автомат или человек?
Был скандал, что с торрентов качали для обучения. А тут на полном серьезе думают, что включенная галочка кого-то остановит.
Одни делают вид, что предоставляют выбор в виде галочки, другие делают вид, что верят, тыкая в галочку. Но, всем плевать на галочку, т.к. ситуация вин-вин. Но обязательно появятся всякие раскачивающие лодку математики. ))
Это что же, получается, если вы разрабатываете что-то новаторское и в процессе активно используете ChatGPT – Сэм Альтман может в любой момент скормить ваши наработки своей внутренней нейросети и попросить ее сделать то же самое, только в сто раз быстрее (т.к. лимит компьюта у них немереный)? Зашибись, дайте две.
Пфф. По-моему надо быть редкостным эльфом, чтобы этого не осознавать. Ну или причислять себя к выгодоприобретателям ИИ-хайпа, хотя бы минорным или воображаемым, и поэтому истерично отрицать.
Чтобы не повторяться: https://habr.com/ru/articles/1026752/comments/#comment_29875978
Хотя в данном случае (слишком громкий, и слишком на виду) я бы поставил сто к одному, что это срежиссированный пиар. Скорее всего ученым, наверняка не только этим, втихаря дали/пообещали мешок денег и все ресурсы какие можно, чтобы они что-нить эдакое эпохальное сдвинули с мертвой точки, под условие, что они подарят потом первенство в открытии “ИИ”, или замутят вот такую “драму”. По принципу “все пиар, кроме некролога, хотя можно и его, если с последующим опровержением”.
Скорее всего ученым, наверняка не только этим, втихаря дали/пообещали мешок денег
Справедливости ради, за эту задачу и так мешок денег дают, в придачу с вечной славой.
Уверен, что даже среди топовых ученых, есть некоторый процент прагматиков, которые согласятся обменять мешок_денег+вечная_слава на мешок_денег*(2…10)+вечная_слава/(2…10).
А идеалистов можно подкупить обещаниями, что так они поспособствуют прогрессу не только в математике, но и в развитии (настоящего) ИИ.
«глубинная цель ИИ — позволить богатству получить доступ к навыкам, одновременно лишая одарённых мастеров возможности получать богатство»
https://x.com/AbakpaJob/status/2095864771635474814
глубинная цель ИИ — позволить богатству получить доступ к навыкам, одновременно лишая одарённых мастеров возможности получать богатство
У ИИ как такового нет цели. Просто мы пришли к такой точки нашей цивилизации когда ИИ становится мощнейшим инструментом исследователя. И теперь нам всем с этим жить. Да, есть некая, даже сильная демотивация от этого. Если раньше была мотивация, почему бы не изучить соседнюю область, теперь бродят мысли, а нафига все это надо, если ИИ все равно сделает лучше меня.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Нейронный Навье‑Стоксгейт: скандал с OpenAI вокруг решения «задачи тысячелетия» на $1'000'000