Как стать автором
Обновить
27
Карма
0
Рейтинг
Владимир @Roaming

Data Scientist at Octadero

Сбер выложил русскоязычную модель GPT-3 Large с 760 миллионами параметров в открытый доступ

Сбер выложил русскоязычную модель GPT-3… в открытый доступ

Не вижу ссылку на модель и ее использование, Я что — то упустил?
UPD: github.com/sberbank-ai/ru-gpts

Закат архитектуры фон Неймана, о котором вы еще не слышали и что будет дальше?

Вы наверное не прочли ни статью ни дисклеймер.

Intel Pohoiki Springs — нейроморфный кластер в одну мышиную силу

Intel должен был презентовать данный агрегат на NICE Workshop Series, но мероприятие отменили, очень жаль.

Учебное пособие по TensorFlow: 10 минутное практическое занятие по TensorFlow для начинающих [перевод]

Порекомендовать почитать или использовать в работе(учебе/исследованиях)?
Поймите меня правильно я не могу ничего порекомендовать не зная какую цель Вы преследуете и с каким кругом задач Вы планируете работать.
Каков ваш уровень знаний в данной отрасли?

Учебное пособие по TensorFlow: 10 минутное практическое занятие по TensorFlow для начинающих [перевод]

Google и сообщество TensorFlow приняло решение в 2018 году перейти к версии TensorFlow 2.0 и полностью переработать API. БОльшая часть указаных методов уже помечены как deprecated. Не советую начинать изучение этого фреймворка с этой статьи.

О чем говорит YouTube

Да, берете свой датасет, тренируете модель (длительная операция) и понимает русский.

Swift для дата-сайентиста: быстрое погружение за 2 часа

>>If you need to use a different version of CUDA, or if you want GPU support on Mac OS X, you can compile libtensorflow from source.

Очень не тривиально собрать из исходников для JS библиотеки.

Swift для дата-сайентиста: быстрое погружение за 2 часа

Не просто Swift а еще и LLVM.

Swift для дата-сайентиста: быстрое погружение за 2 часа

Спасибо за статью. Больше Swift богу Swift!
Хочу подчеркнуть несколько важных (на мой взгляд) моментов.
1) Swift (оригинальный) и Swift for TensorFlow это разные вещи. То есть Swift for TensorFlow это отдельный Toolchain (компилятор, библиотеки, синтаксис, функционал и тд). То есть, надо идти в репозиторий, качать и устанавливать отдельный Toolchain и тогда у вас появляется эти функции. Думаю, что так будет очень долго (читай всегда).

2) Примеров уже доступна целых два :).
3) API будет сильно меняться еще несколько месяцев. В комьюнити обсуждается много изменений.
4) Уже есть первая документация, которая будет рости по мере появления новых сборок.

Сколько стоит компилятор?

С другой стороны, очень похоже на правду, если вы Крис Латнер, вы последнии 20 лет разрабатываете LLVM, то все сходится. В декабре сделал бранч. В марте показал рабочий концепт.

Автоэнкодер в задачах кластеризации политических событий

Так же Вы можете обратить внимание на то, что в примере два набора:
  1. '11999 — Учитываются только «за» — 1, «против» — (-1), остальное — 0.
  2. '23998 — и более детальный вектор с голосованиями в более расширенной форме.

Автоэнкодер в задачах кластеризации политических событий

Спасибо за внимательное прочтение статьи. Это моя ошибка, как я и писал, подбирал несколько слоев и на момент написания статьи были 256x128x128x256 слои. В конечной реализации добавился еще один слой 64.
>>почему не сделать четвертый скрытый слой без сигмоида шириной 2
Такая идея в голову не пришла, обязательно попробую.

>> Интересно, а можно выделить «знаковые» голосования по особенностям поведения выборки
Сейчас это только промежуточные результаты. Есть желание разобрать и детализировать каждое голосования по действиям:
  • Выделение бюджета;
  • Внесение поправок в нормативную базу;

Отрасль:
  • Наука / Образование;
  • Медицина;
  • ОК;
  • Внешняя политика;

Так что идей много как и данных, есть с чем поработать.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Что непосредственно вы хотите видеть, как это должно выглядеть?
У вас есть тенсор n*m (скорее всего вектор, n*1). Он изменяется во времени.
В TensodBoard нет представления для такой конструкции. Можно конечно поиграться с image. Но скорее всего ваши данные нельзя представить в виде image.

В идеале что — то такое должно быть.
image
Но такого нет.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Скорее всего, Вы имеете в виду Histogram:

tf.summary.histogram('histogram', var)


Но это «свернутое» отображение в виде распределения:
The TensorBoard Histogram Dashboard displays how the distribution of some Tensor in your TensorFlow graph has changed over time. It does this by showing many histograms visualizations of your tensor at different points in time.


Так, что будьте внимательны.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Сам summary это только контейнер для SummaryValue.

# То есть Вам надо создать value:
tf.summary.scalar("Reward", episode_reward)
tf.summary.scalar("Reward2", episode_reward2)

# Смержить все Summary в один Output
summary_op = tf.summary.merge_all()

# Добавить summary на "просчет" в сессию.
summary_str = session.run(summary_op)

# Передать результат в контроллер которые сохранит в файл.
...
writer = writer_summary(summary_dir + "/tmp/", session.graph)
writer.add_summary(summary_str, float(T))

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Да, все что вы видите в этой статье реализовано полностью средствами Swift.
Скажите, на каком языке Вы пробовали и если можно, покажите пример того, что не работает.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Да, в бибилиотеке TensorFlowKit (автором которой являюсь я), реализован аналог Python API (tf.summary.tensor_summary) класс Summary. Об этом статья и написана.
У меня складывается впечатление, что Вы не владеете темой TensorFlow in other languages. Советюую ознакомится с этой статьей.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

О какой swift библиотеке вы говорите? Не существует официальной реализации (как и полноценной не официальной) TensorFlow для Swift.
Именно по этой причине я написал свою реализацию — TensorFlowKit.

Визуализация процесса обучения нейронной сети средствами TensorFlowKit

Вы говорите, о вызове метода на языке Python. Вся статья (как и предыдущая) рассказывает о том, как использовать TensorFlow в языке Swift.

Swift и TensorFlow

Конечно, сборку тестировал на:
$ name -a
Linux kraken 4.4.0-98-generic #121-Ubuntu SMP Tue Oct 10 14:24:03 UTC 2017 x86_64 x86_64 x86_64 GNU/Linux

$ swift -v
Swift version 4.0 (swift-4.0-RELEASE)
Target: x86_64-unknown-linux-gnu


$ swift build -Xlinker -rpath -Xlinker /server/repository/tensorflow/bazel-bin/tensorflow


$ ./.build/x86_64-unknown-linux/debug/01_MNIST 

Информация

В рейтинге
Не участвует
Зарегистрирован
Активность