Погрузившись в тему DL NLP, набрел на просторах интернета на любопытный репозиторий. Это не много не мало — Русская GPT-2! Ну, т.е. русскоязычная. Причем не какая-нибудь мелкая 117М, а вполне себе 1250М, что уже довольно серьезно. Автор проделал немалую работу по адаптации исходной модели и подготовке корпуса для обучения. Да и само обучение, надо полагать заняло немало времени и мощностей. В общем, респект товарищу l4rz! Планирую пойти по его стопам и обучить систему на своем корпусе (в процессе подготовки которого сейчас нахожусь) — благо автор оставил довольно подробные инструкции, как именно подступиться к столь масштабной задаче… По итогам отчитаюсь! ;)

В пока, чисто развлечения ради, предлагаю на суд общественности некоторые эксперименты с системой, по мотивам поста о более крутой GPT-3 (хотя там автор, очевидно, и GPT-3 не считает чем-то выдающимся). С одной стороны представленная здесь система заметно проще GPT-3, с другой — все-таки обученная русскоязычная модель! Мне кажется это забавно.

От переводчика: вопросы, поднятые в прошлой моей статье (видимо не слишком удачной) тем не менее вывели меня (огромное спасибо комраду Kilorad за ссылку!) на материал, который я посчитал необходимым перевести и выложить сюда. Да, я, к сожалению, посредственно владею как языком оригинала, так и собственно темой, но… Этот материал должен здесь быть! Готов к всяческим дополнениям/поправкам/критике (перевода, ибо исходная работа не моя) — дабы все было корректно.

Аннотация

Мы исследуем построение моделей популярных сред обучения с подкреплением генеративными нейронными сетями. Наша модель мира может быть быстро обучена (без учителя), чтобы сформировать сжатое пространственное и временное представление окружающей среды. Используя паттерны (features), из модели мира в качестве входных данных для агента, мы можем получить очень компактную и простую стратегию для достижения поставленных целей. Мы даже можем обучить агента полностью в «его воображении» (в среде, воссозданной по его модели мира) и перенести полученную стратегию обратно в реальный исходный мир.

Слово о процессах, или все мы немного контрамоты.

Продолжения размышлений на тему разума как естественного, так и искусственного (ИИ), Первая часть здесь

Вопрос на засыпку: живет ли человек в сейчас? Не, когда мы идем по улице и непосредственно созерцаем окружающий мир мы действуем более или менее realtime… Хотя на самом деле — пока то, что мы видим, пройдет обычные механизмы распознавания/классификации — все это будет недавним, но все-таки прошлым. Т.е. человек живет в прошлом?

В прошлой статье я неосторожно анонсировал вторую часть, тем более что материал уже казалось был и даже частично оформленный. Но все оказалось несколько сложнее, чем на первый взгляд. Частично этому поспособствовали дискуссии в комментариях, частично — не достаточная внятность изложения мыслей, которые мне самому кажутся чертовски важными… Можно сказать, что пока материал не пропускает мой внутренний критик! )

Однако, для этого «опуса» он сделал исключение. Так как текст в общем-то чисто художественный, он ни к чему не обязывает. Однако, думаю на его основе можно будет сделать некие полезные умозаключения. Это как бы формат притчи: поучительной истории, не обязательно произошедшей на самом деле, которая заставляет задуматься. Ну… Должна заставлять. ;) Если притча хорошая!

Итак…

• Что такое разум, сознание.
• Чем отличается познание от осознания?
• Сознание, самосознание — одно и то же?
• Мысль — что такое мысль?
• Творчество, воображение — что-то загадочное, присущее человеку, или…
• Как устроен разум.
• Мотивация, целеполагание — зачем вообще что-то делать.

Искусственный интеллект — Святой Грааль любого человека, связавшего свою жизнь с ИТ. Венец развития любой автоматизации, программирования, конструирования механизмов — вершина всего. Однако, до сих пор вопрос «Что же такое сознание, интеллект?» остается открытым. Я не понимаю, как огромное количество людей может заниматься предметом, для которого не существует определения, но я действительно не нашел такой концепции, которая удовлетворила бы меня. И мне пришлось придумать ее самому.

Disclaimer: Данный опус не претендует на революцию в парадигме ИИ, или откровение свыше, это просто результат размышлений на данную тему и в какой-то степени самоанализа. Так же я не имею каких-то сколько-нибудь серьезных практических результатов, так что текст более философский, нежели технический.

UPD: Пока готовил статью, наткнулся на несколько очень близких концепций (вот, например, и даже на хабре). С одной стороны — немного обидно, что заново «переоткрыл велосипед». С другой — не так страшно выносить свои мысли на суд общественности, когда они уже не только мои!

Вторая часть.

На Хабре есть два типа статей про робототехнику компании Лего: условно «хейтерские», с лейтмотивом «Lego не нужен» и от самой компании Лего. Оправдано это, или не очень – тема отдельной статьи, но, по всей видимости, в Лего понимают, что робо-конструкторы становятся все более востребованными и нужно быть гибче, если не хочешь полностью потерять эту нишу. До сих пор на рынке были представлены два основных набора: это Mindstorms EVE3 и WeDo 2.0. Что изменилось и чем Boost круче? Я попробую сравнить «новичка» с этими двумя решениями, что бы вы поняли, насколько Лего продвинулись вперед.

Привет, Хабр и хабровчане. Хочу рассказать об одном эксперименте, который провел на днях. Очень мне понравились два девайса из статей от Madrobots: лампы Marlight и часы Pebble. Причем понравились именно тем, что конфигурируемы, т.е. подвластны так сказать воле и воображению хозяина. Пока ребенок на даче, решил я устроить ему сюрприз и показать настоящую современную «техномагию», а именно: управление светом жестами.

Задача: с помощью неких движений выбирать комнату, а затем взмахом руки или включаем, или выключаем свет в выбранной комнате.

В процессе работы над поставленной задачей, было использовано несколько любопытных решений, которые могут пригодится в разнообразных проектах домашней автоматизации, кому интересно — добро пожаловать под кат.