3й курс университета - разве ворк & тревал в США не работает ? Если уж так не нравится РФ, зачем себя мучать - что мешало бросить всё и уехать на Украину, Прибалтику, Армению, Грузию, Азербайджан, Турцию, Среднюю Азию ? нет 10 т.р. на билет ?
в АНБ не идиоты же сидят ... Вы реально считаете что АНБ позволит, чтобы у них подносом, за их счёт разрабатывали массовый протокол в который они при желании не смогут залезть ?
Ускорить подключение можно зарегистрировавшись разработчиком https://developers.sber.ru/ на СберДевайсес - там же можно получить доступ и к остальным ИИ моделям сбера ...
Используется ли "сжатие"/''нормализация" датасетов ? Объясню на примере что я имею ввиду - допустим имеется код на Си. В одном случае он использует для форматирования пробелы, другая его версия использует символ табуляции - с логической точки зрения оба кода полностью идентичны, возможны и другие его вариации с разным форматированием но одинаковыми exe-шниками при компиляции. Логично преобразовать все эти тексты, ПЕРЕД токенизацией, какому-то одному стандарту. Т.е. удалить весь шум из "датасета".
Развивая эту идею - можно сжать датасет и попробовать обучить сеть на сжатых текстах (ведь архиватор фактически некоторый аналог токенизатора). Идея вроде лежит на поверхности и её наверное кто-то уже попробовал ... но я что то не могу найти примеров ...
Насколько реально обучить нейросеть для перевода кода с С++14 на С++ 17, с Python 2 на Python 3 ?
Или для оптимизации/ рефакторинга кода. Задачу сильно упростит, если выдачу клиенту можно пропускать через компилятор, отладчик до тех пор пока не будет появляется ошибок компиляции, и варнингов. т.е. скрестить нейросеть не с ВольфрамАльфой, а с GitHub и онлайн компиляторами.
А зачем Яндексу был нужен Uber ? Технологически Яндекс Такси не хуже Ubera. Как минимум. Организационно и по качеству услуг лучше на порядок. Клиенты в США часто жалуются, что заказанное такси очень долго не едет ... что в России нонсенс.
На среди миноритарных акционеров Яндекса на Смарт Лабе ходят нехорошие слухи, что привлечение непонятно зачем Ubera в партнёры, а потом выкуп у него этой доли - просто закамуфлированный вывод денег из менеджментом из Яндекс-Такси в офшоры.
про инфляцию не слышали ? Это ещё было актуально во времена золотых денег, но и тогда была добыча, золота, были серебряные монеты, и медные монеты + золотые и серебряные деньги при необходимости разбавляли медью и другими металлами. так что схемы были :-).
"Я имею в виду угрозу экономическую. Благодаря плановой политике и своеобразному сочетанию моральных и материальных стимулов Советскому Союзу удалось достигнуть высоких экономических показателей. Процент прироста валового национального продукта у него был примерно в два раза выше, чем в наших странах."
КНР начавший свою перестройку с изучения Сталинской модели экономики (стратегическое планирование наверху, госсобственность на инфраструктуру, энергетику, банки, тяжёлую промышленность + рыночная экономика внизу (при Сталине масса артелей, весь лег.пром, и кооперативы + 1 га подсобные хозяйства у крестьян + % от доли продаж с/х продукции в колхозе - рассчитывался на основе трудодней)) даёт ~ 10% роста ВВП по GDP
Обычная рыночная эффективность. расписано в книге "Дифференцируйся или умирай" Джека Траута https://medium.com@page699.inbox/%D0%B4%D0%B8%D1%84%D1%84%D0%B5%D1%80%D0%B5%D0%BD%D1%86%D0%B8%D1%80%D1%83%D0%B9%D1%81%D1%8F-%D0%B8%D0%BB%D0%B8-%D1%83%D0%BC%D0%B8%D1%80%D0%B0%D0%B9-b1c6078334a6
Если прям вообще интересует современная экономика без либеральной цензуры и штампов - Хазин "воспоминание о будущем" и Уильям Энгдаль "Боги денег"
Теорию коммунизма - "Марксизм" - на западе разрабатывал Маркс на деньги капиталиста Энгельса. Причиной спонсирования Энгельсом работы Маркса - было то, что теория капитализма Адама Смита прямо указывает что, капитализм может существовать только непрерывно расширяясь, при этом расширении углубляется разделение труда (для повышения эффективности). Но как только все страны на планете станут капиталистическими, т.е. расширятся будет некуда, дальнейшее углубление разделение труда остановится наступит затяжная стагфляция (как в США 1970-1980 годы). Капитализм - как экономическая система перестанет работать.
Выход из этого - фашизм (как в Италии при Муссолини) -т.е. государственно монополистический капитализм с диктатурой - как наиболее экономичный и эффективный. Естественно людям не нравилось перспектива быть рабами/работать по 12 часов без отпусков и мед обеспечения (что тогда было нормой) на горстку олигархов. Вот на Западе и искали альтернативу фашизму/(гос. монополистическому социализму.) - Марксизм выглядел тогда отличной альтернативой - ПОСЛЕ конца капитализма - для следующей экономической формации. Все плюшки капитализма + демократия + интернационализм + конец всем войнам.
Только Марксизм разрабатывали для стран где капитализм уже был развитой и у подходил к следующей стадии - империализм/ГМК. Т.е. для Германии, Европы и Англии, а не для страны недавно вышедшей из феодализма, и 90% неграмотного населения.
Но даже там (в России) он показал феноменальную эффективность. По расчётам США в 70-80 годах - Коммунистические страны могли при эффективном управлении расти примерно 10%/ в год. Капиталистические ~ 5%. (ну собственно рост КНР и стран Скандинавии за последние 40 лет показывает точность расчёта США).
К сожалению советские коммунисты не понимали этого и соц. строй выродился. В США и Англии прекрасно понимают конечность капитализма как экономической системы - отсюда и романы типа "1984" (про социализм в Англии), и отсюда растут ноги нынешнего псевдо "социалистического движения" в США.
Вопрос немножко не про вашу сеть но всё же спрошу:
Как вы относитесь к идее с помощью ChatGPT-4 отчистить датасет (хотя бы частично) на котором обучалась ChatGPT-4 и переобучить её заново на отчищенном датасете. Чем эта идея не нравится разработчикам сетей?
FRED-T5-1.7B по качеству распознавания русского языка находится примерно на уровне GPT-3 ?
Нет, а действительно, как Лаборатория Касперского оценивает Rust с точки зрения практической безопасности ? Они где-нибудь высказывались по этому поводу ?
Кто ни будь пробовал обучать одни у туже сеть несколько раз на одних и тех же данных каждый раз ограничивая минимальный размет токенов? Т.е. в начале размер токена - минимум 1 буква, второй проход минимум 2 слово, 3й проход минимум 3-4 слова. т.о. сеть будет видеть не только деревья, но и лес.
Можете рассказать или дать ссылку на то как объединяют нейронные сети с блоками логического вывода? Почему в ЧатГПТ не удалось встроить простейший калькулятор, чтобы она не искала ответ сколько будет 2+2 в вычисляла - я так понимаю такие вычислительные блоки встраиваемые в нейросеть аналог программы для операционной системы. Т.е. ЧатГПТ - это операционка, а подключённый к ней Wolfram - это аналог экселовской таблицы.
Я сейчас изучаю про bash и по bash полно документации и достаточно хорошей. Проблема в том что сам bash жуткое старьё. Стал искать альтернативу. Остановился на zsh - который стандарт на osx.
Я смотрю вы используете zsh. Мне кажется более актуально написать не очередную статью о bash, а от том как перейти с bash на zsh т.е. пример на bash -> Пример на zsh.
Это один из первых реактивных истребителей. Они все летают как большой утюг с маленькими крылышками. У реактивной турбины приёмистость ~ 50 с - т.е. сбросил скорость на посадке, больше чем нужно, набрать её уже не удастся. Удар птицы/зонда в лобовое стекло, разгерметизация, один пилот штурвал и педали крутит в одно направлении другой в другом + и за резкого манёвра срыв потока и самолёт фактически неуправляем. На всё про всё 60 с ... Именно по этому лётчики истребители считались элитой ВВС. А старые истребители были адски сложные в пилотировании.
Общее впечатление — в связи с анонсом Сбера на следующей неделе открытия доступа к ГигаЧату Яндекс спешно выпустил свой аналог ЧатГПТ.
В общем каждый может составить собственное впечатление. И сравнить. Из плюсов только интеграция с Алисой и колонкой.
yandex.ru/project/alice/yagpt/ Яндекс ГПТ
koala.sh/ бесплатная нейросеть Koala
www.sberbank.com/promo/kandinsky/ Кандинский — генератор изображений от Сбера
shedevrrum.ru/ Шедеврум — генератор изображений от Яндекса
https://koala.sh/ - вот ещё бесплатный GPT3.5 на нейросети Koala
3й курс университета - разве ворк & тревал в США не работает ? Если уж так не нравится РФ, зачем себя мучать - что мешало бросить всё и уехать на Украину, Прибалтику, Армению, Грузию, Азербайджан, Турцию, Среднюю Азию ? нет 10 т.р. на билет ?
в АНБ не идиоты же сидят ... Вы реально считаете что АНБ позволит, чтобы у них подносом, за их счёт разрабатывали массовый протокол в который они при желании не смогут залезть ?
Всем пофиг :(
Кому очень нужно - лайфхак:
Ускорить подключение можно зарегистрировавшись разработчиком https://developers.sber.ru/ на СберДевайсес - там же можно получить доступ и к остальным ИИ моделям сбера ...
Используется ли "сжатие"/''нормализация" датасетов ? Объясню на примере что я имею ввиду - допустим имеется код на Си. В одном случае он использует для форматирования пробелы, другая его версия использует символ табуляции - с логической точки зрения оба кода полностью идентичны, возможны и другие его вариации с разным форматированием но одинаковыми exe-шниками при компиляции. Логично преобразовать все эти тексты, ПЕРЕД токенизацией, какому-то одному стандарту. Т.е. удалить весь шум из "датасета".
Развивая эту идею - можно сжать датасет и попробовать обучить сеть на сжатых текстах (ведь архиватор фактически некоторый аналог токенизатора). Идея вроде лежит на поверхности и её наверное кто-то уже попробовал ... но я что то не могу найти примеров ...
Насколько реально обучить нейросеть для перевода кода с С++14 на С++ 17, с Python 2 на Python 3 ?
Или для оптимизации/ рефакторинга кода. Задачу сильно упростит, если выдачу клиенту можно пропускать через компилятор, отладчик до тех пор пока не будет появляется ошибок компиляции, и варнингов. т.е. скрестить нейросеть не с ВольфрамАльфой, а с GitHub и онлайн компиляторами.
А зачем Яндексу был нужен Uber ? Технологически Яндекс Такси не хуже Ubera. Как минимум. Организационно и по качеству услуг лучше на порядок. Клиенты в США часто жалуются, что заказанное такси очень долго не едет ... что в России нонсенс.
На среди миноритарных акционеров Яндекса на Смарт Лабе ходят нехорошие слухи, что привлечение непонятно зачем Ubera в партнёры, а потом выкуп у него этой доли - просто закамуфлированный вывод денег из менеджментом из Яндекс-Такси в офшоры.
Такая вот нехорошая версия :(
про инфляцию не слышали ? Это ещё было актуально во времена золотых денег, но и тогда была добыча, золота, были серебряные монеты, и медные монеты + золотые и серебряные деньги при необходимости разбавляли медью и другими металлами. так что схемы были :-).
Из доклада Маргарет Тэтчер о развале СССР. США, Хьюстон, ноябрь 1991 года
https://history.wikireading.ru/188660
"Я имею в виду угрозу экономическую. Благодаря плановой политике и своеобразному сочетанию моральных и материальных стимулов Советскому Союзу удалось достигнуть высоких экономических показателей. Процент прироста валового национального продукта у него был примерно в два раза выше, чем в наших странах."
КНР начавший свою перестройку с изучения Сталинской модели экономики (стратегическое планирование наверху, госсобственность на инфраструктуру, энергетику, банки, тяжёлую промышленность + рыночная экономика внизу (при Сталине масса артелей, весь лег.пром, и кооперативы + 1 га подсобные хозяйства у крестьян + % от доли продаж с/х продукции в колхозе - рассчитывался на основе трудодней)) даёт ~ 10% роста ВВП по GDP
Подробно это расписано у Адама Смита в книге "Богатство народов" в про разделение труда. В википедии есть немного про это.
https://ru.wikipedia.org/wiki/Смит,_Адам
Обычная рыночная эффективность. расписано в книге "Дифференцируйся или умирай" Джека Траута https://medium.com@page699.inbox/%D0%B4%D0%B8%D1%84%D1%84%D0%B5%D1%80%D0%B5%D0%BD%D1%86%D0%B8%D1%80%D1%83%D0%B9%D1%81%D1%8F-%D0%B8%D0%BB%D0%B8-%D1%83%D0%BC%D0%B8%D1%80%D0%B0%D0%B9-b1c6078334a6
Если прям вообще интересует современная экономика без либеральной цензуры и штампов - Хазин "воспоминание о будущем" и Уильям Энгдаль "Боги денег"
Теорию коммунизма - "Марксизм" - на западе разрабатывал Маркс на деньги капиталиста Энгельса. Причиной спонсирования Энгельсом работы Маркса - было то, что теория капитализма Адама Смита прямо указывает что, капитализм может существовать только непрерывно расширяясь, при этом расширении углубляется разделение труда (для повышения эффективности). Но как только все страны на планете станут капиталистическими, т.е. расширятся будет некуда, дальнейшее углубление разделение труда остановится наступит затяжная стагфляция (как в США 1970-1980 годы). Капитализм - как экономическая система перестанет работать.
Выход из этого - фашизм (как в Италии при Муссолини) -т.е. государственно монополистический капитализм с диктатурой - как наиболее экономичный и эффективный. Естественно людям не нравилось перспектива быть рабами/работать по 12 часов без отпусков и мед обеспечения (что тогда было нормой) на горстку олигархов. Вот на Западе и искали альтернативу фашизму/(гос. монополистическому социализму.) - Марксизм выглядел тогда отличной альтернативой - ПОСЛЕ конца капитализма - для следующей экономической формации. Все плюшки капитализма + демократия + интернационализм + конец всем войнам.
Только Марксизм разрабатывали для стран где капитализм уже был развитой и у подходил к следующей стадии - империализм/ГМК. Т.е. для Германии, Европы и Англии, а не для страны недавно вышедшей из феодализма, и 90% неграмотного населения.
Но даже там (в России) он показал феноменальную эффективность. По расчётам США в 70-80 годах - Коммунистические страны могли при эффективном управлении расти примерно 10%/ в год. Капиталистические ~ 5%. (ну собственно рост КНР и стран Скандинавии за последние 40 лет показывает точность расчёта США).
К сожалению советские коммунисты не понимали этого и соц. строй выродился. В США и Англии прекрасно понимают конечность капитализма как экономической системы - отсюда и романы типа "1984" (про социализм в Англии), и отсюда растут ноги нынешнего псевдо "социалистического движения" в США.
Вопрос немножко не про вашу сеть но всё же спрошу:
Как вы относитесь к идее с помощью ChatGPT-4 отчистить датасет (хотя бы частично) на котором обучалась ChatGPT-4 и переобучить её заново на отчищенном датасете. Чем эта идея не нравится разработчикам сетей?
FRED-T5-1.7B по качеству распознавания русского языка находится примерно на уровне GPT-3 ?
Нет, а действительно, как Лаборатория Касперского оценивает Rust с точки зрения практической безопасности ? Они где-нибудь высказывались по этому поводу ?
А есть какие либо способы сжатия нейросетей с небольшой потерей качества по аналогии с JPEG ?
Кто ни будь пробовал обучать одни у туже сеть несколько раз на одних и тех же данных каждый раз ограничивая минимальный размет токенов? Т.е. в начале размер токена - минимум 1 буква, второй проход минимум 2 слово, 3й проход минимум 3-4 слова. т.о. сеть будет видеть не только деревья, но и лес.
Можете рассказать или дать ссылку на то как объединяют нейронные сети с блоками логического вывода? Почему в ЧатГПТ не удалось встроить простейший калькулятор, чтобы она не искала ответ сколько будет 2+2 в вычисляла - я так понимаю такие вычислительные блоки встраиваемые в нейросеть аналог программы для операционной системы. Т.е. ЧатГПТ - это операционка, а подключённый к ней Wolfram - это аналог экселовской таблицы.
Да хотя бы просто российский гитхаб сделали бы, наверняка для себя сделали ... хотя ребята уже запилили в шестером за 6-12 мес ... https://gitflic.ru/
Я сейчас изучаю про bash и по bash полно документации и достаточно хорошей. Проблема в том что сам bash жуткое старьё. Стал искать альтернативу. Остановился на zsh - который стандарт на osx.
Я смотрю вы используете zsh. Мне кажется более актуально написать не очередную статью о bash, а от том как перейти с bash на zsh т.е. пример на bash -> Пример на zsh.
Это один из первых реактивных истребителей. Они все летают как большой утюг с маленькими крылышками. У реактивной турбины приёмистость ~ 50 с - т.е. сбросил скорость на посадке, больше чем нужно, набрать её уже не удастся. Удар птицы/зонда в лобовое стекло, разгерметизация, один пилот штурвал и педали крутит в одно направлении другой в другом + и за резкого манёвра срыв потока и самолёт фактически неуправляем. На всё про всё 60 с ... Именно по этому лётчики истребители считались элитой ВВС. А старые истребители были адски сложные в пилотировании.