Search
Write a publication
Pull to refresh
18
3
Хуснутдинов Алмаз @neuromancertdi

Интересна деятельность в направлении создания СИИ

Send message

Система команд. Основы динамической логики

Level of difficultyEasy
Reading time8 min
Views1.8K

Эта идея — основа для понимания моей концепции интеллекта (саморазвивающейся программы). Если интересует создание саморазвивающейся программы, то эта идея не будет лишней. В начале описание идеи, потом описание реализации и описание некоторого дополнительного функционала.

Рассказал идею о создании логики программы динамически. Причём, эта логика не представлена чисто в виде инструкций языка программирования. Она работает на основе конструкций, которые работают на основе инструкций ЯП — это абстракции над ЯП, что-то типа ЯП более высокого уровня, чем python.

Читать далее

Как начать мыслить о создании цифрового интеллекта

Level of difficultyEasy
Reading time8 min
Views1.1K

С чего можно начать мыслить о создании цифрового интеллекта, даже если он будет очень простым. Несколько идей, которые должны показать, как можно мыслить о ИИ по-другому, какими основными свойствами должна обладать программа и с чего можно начать мыслить в направлении создания цифрового интеллекта.

Рассмотрим небольшую программу на основе некой обобщённой логики, с помощью которой можно изменять логику работы программы динамически, не изменяя её кода. Оригинальный взгляд на программирование.

Читать далее

Основы глубокого обучения. Часть 4: Рекуррентный слой. Теория и реализация на torch

Level of difficultyEasy
Reading time13 min
Views3.4K

Очередной туториал по рекуррентному слою. Эта статья для новичков. Изначально хотел сделать на собственной реализации autograd, но в этом нужно дополнительно разбираться, там много нюансов. Да и не думаю, что это кому-то нужно, поэтому сделал всё-таки на torch.

Читать далее

Пример реализации простейшей функциональной системы для табличной модели «агента»

Level of difficultyMedium
Reading time17 min
Views849

Приветствую. Здесь я приведу пример реализации простейшей функциональной системы на python, подробно опишу как в этом примере все работает и расскажу некоторые идеи о том, как можно развивать этот подход.

Меня зовут Алмаз Хустнутдинов. Я занимаюсь проектом «Теория цифрового интеллекта», создаю различные материалы по машинному обучению и рассказываю идеи о цифровом интеллекте, цель проекта — развитие мышления в области создания СИИ.

Читать далее

Представления о естественном интеллекте: Модель эволюции жизни

Level of difficultyEasy
Reading time17 min
Views1.8K

Всем привет. Меня зовут Алмаз Хуснутдинов. Я занимаюсь проектом «Теория цифрового интеллекта», создаю различные материалы по машинному обучению и рассказываю идеи о ИИ и о интеллекте, цель проекта — развитие мышления в направлении создания цифрового интеллекта. Эту статью я сделал для этого проекта, эта статья должна помочь в понимании того, что такое интеллект и как его создавать в программировании. Почему это важная тема? - Потому, что организм строится на основе выраженности определенных участков ДНК в каждой клетке, выраженность генов — это результат эволюционных изменений.

Эта модель нужна не для того, чтобы попытаться описать, как все было на самом деле, а для того, чтобы развивать представления о том, как происходит эволюция и что это такое. Также эта модель должна помочь в развитии понимания того, что такое интеллект. Чтобы понять, что такое интеллект, необходимо понимать на основе чего он существует, почему клетки живые и почему они вообще функционируют. Откуда у существ появляются желания — в основе человеческого интеллекта лежат клетки нервной системы, которые функционируют на основе биохимических реакций. Любое желание исходит от механизмов нервной системы, сформированных эволюционно.

Содержание: введение, зарождение неклеточной жизни, появление первых клеток, ДНК, клетка, эмерджентность, эволюция и естественный отбор.

P. S. Я не разбираюсь в биологии, генетике или биохимии, поэтому могут быть неточности. Все описанное в статье я взял из общедоступных источников и представил основные факты о появлении жизни и эволюции в виде небольшой модели. Основная цель статьи — показать идею эволюции (и о том, на основе чего функционирует ЕИ), а не рассказать о современных представлениях о появлении человека на Земле. Также любые утверждения или идеи в этой статье, отличные от общих представлений, не следует рассматривать как истину, скорее просто как рассуждения автора.

Читать далее

Глубокое обучение: Слой линейного преобразования и полносвязная нейросеть. Теория и реализация на самодельном autograd

Level of difficultyEasy
Reading time14 min
Views2.9K

Всем привет. В этой статье я расскажу про слой линейного преобразования. Идею для реализации я взял из книги «Грокаем глубокое обучение». Здесь рассмотрим как использовать самодельный алгоритм автоматического дифференцирования при создании и обучении нейросети, про который я сделал разбор ранее.

Меня зовут Алмаз Хуснутдинов. Я занимаюсь проектом "Теория цифрового интеллекта" - бесплатный и открытый проект, направленный на развитие мышления в направлении создания программы, обладающей интеллектом.

Если вам не нужно разбираться в том, как работает нейросеть на низком уровне, то просто прочитайте ту часть статьи, где рассказывается про использование слоев и реализацию нейросети.

Содержание: идея слоя прямого распространения, новые операции: операция умножения и деления матрицы на число, линейный слой и дополнительный функционал, задача «логическое или», как происходит обучение линейного слоя и набор данных digits.

Читать далее

Обладает ли современная LLM интеллектом?

Level of difficultyMedium
Reading time4 min
Views4K

Интеллект — способность системы развиваться (адаптироваться).

Придумал одну интересную мысль про то, обладают ли современные БЯМ интеллектом. Я занимаюсь тем, что придумываю идеи о том, как создать ИИ. Только я называю это цифровым интеллектом — то есть программа, которая может развиваться самостоятельно.

P. S. В пост этот текст не влезает, поэтому сделал статью. Также для понимания этой идеи необходимы некоторые познания в математике и программировании, поэтому уровень сложности поставил "средний".

Читать далее

Импульсные нейронные сети: От обратного распространения ошибки к обучению Хебба. Идея о динамической нейронной сети

Level of difficultyEasy
Reading time10 min
Views3.9K

Приветствую. Меня зовут Алмаз Хуснутдинов. Я придумываю различные идеи о создании цифрового интеллекта. В этой статье я расскажу как можно вывести правило обучения Хебба из алгоритма обратного распространения ошибки и про идею о динамической нейросети. Я думаю над тем, как создавать знания в системе ИИ динамически, и как можно создать ИИ в принципе. Я не занимаюсь глубоким обучением, так как считаю, что имеет смысл развивать общие представления о создании ИИ.

Этот переход (или правило) я обнаружил случайно. Моей целью было придумать то, как сделать запоминание каждого примера нейросетью по одному. В итоге я пришел к тому, что для этого потребуются нейроны с двумя состояниями. Таким образом я открыл для себя импульсные нейросети, хотя изначально они вроде как основаны на биологической правдоподобности — испускание нейроном электрического потенциала.

Содержание: Как работает оптимизация, описание задачи, модель обычного нейрона, модель нейрона «пороговый интегратор».

Читать далее

Идеи о системе ИИ: Система команд. Часть 1

Level of difficultyEasy
Reading time12 min
Views1.4K

Всем привет. Меня зовут Алмаз Хуснутдинов. Я делаю материалы, связанные с созданием ИИ. В этой статье я начну рассказывать про идею о некой системе команд, в основе которой лежит идея о детерминированности работы любой системы.

Содержание: Описание задачи из этой статьи, множественная логистическая регрессия, токенизация букв и слов, классификация слов, классификация команд, распознавание и выполнение команд.

Читать далее

Глубокое обучение: Автоматическое дифференцирование. Теория и реализация. С нуля, на Python

Level of difficultyMedium
Reading time14 min
Views5.1K

Всем привет. Меня зовут Алмаз Хуснутдинов. В этой статье я сделал разбор алгоритма автоматического дифференцирования для глубокого обучения. Идею для реализации я взял из книги «Грокаем глубокое обучение». Я разобрал как вычисляются производные для основных операций и показал, как сделать простую реализацию.

Содержание: граф вычислений, операции и производные по ним, прямой и обратный проход по графу ручное вычисление, реализация прямого и обратного прохода по графу, пример использования.

Читать далее

Математика для ИИ: Дифференциал, производная и правила дифференцирования

Level of difficultyEasy
Reading time9 min
Views11K

Всем привет. Меня зовут Алмаз Хуснутдинов. В этой статье я показал, что такое дифференциал, как выводится понятие производной и рассказал про правила дифференцирования, которые используются в системах автоматического дифференцирования для глубокого обучения.

Содержание: Предел функции, дифференциал, дифференциал аргумента и функции, понятие производной, вывод производной функции, правила дифференцирования, пример использования цепного правила.

P. S. Я не особо разбираюсь в математике, поэтому я не рассказал про всякие математические оговорки, которые нужно по-хорошему упомянуть. Основная цель статьи - рассказать что такое дифференциал и про правила дифференцирования, так как я буду в другой статье рассказывать про алгоритм автоматического дифференцирования, для понимания которого нужно понимать правила дифференцирования. Я вынес их в отдельную статью, чтобы не было каши.

Читать далее

Глубокое обучение: Алгоритм обратного распространения ошибки. Теория и реализация. С нуля

Level of difficultyEasy
Reading time10 min
Views11K

Всем привет. Меня зовут Алмаз Хуснутдинов. В этой статье я рассказываю про алгоритм обратного распространения ошибки, который используется для обучения нейросетей.

Содержание: архитектура простой нейросети и инициализация переменных, прямое распространение ручной расчет, вывод производных, вывод алгоритма, обратное распространение ручной расчет, реализация простой архитектуры нейросети и задача «логическое или», реализация класса для многослойной нейросети и изображения MNIST.

Читать далее

Машинное обучение: Наивный байесовский классификатор. Теория и реализация. С нуля

Level of difficultyEasy
Reading time17 min
Views5.8K

В этой статье я привел основные сведения о трех основных видах НБК и показал реализацию каждого.

Содержание: формулировка задачи, независимость признаков, теория для мультиномиального, гауссовского и бернулли и их реализация.

Читать далее

Машинное обучение: Кластеризация методом K-means. Теория и реализация. С нуля

Level of difficultyEasy
Reading time9 min
Views9.1K

Здравствуйте, дорогие читатели. В этой статье я приведу разбор того, как работает метод кластеризации К-средних на низком уровне.

Содержание: идея метода, как присваивать метки неразмеченным объектам, реализация на чистом Python и разбор кода.

Читать далее

Машинное обучение: Классификация методом KNN. Теория и реализация. С нуля. На чистом Python

Level of difficultyEasy
Reading time10 min
Views2.7K

В этой статье я привел основные сведения о методе классификации k-ближайших соседей. Рассказываю все в своем стиле. Теоретические моменты и простая реализация.

Содержание: что это за метод, идея этого метода, как классифицировать (регрессировать) новые объекты, масштабирование признаков, как его можно применять, реализация.

Читать далее

Машинное обучение: Логистическая регрессия. Теория и реализация. С нуля

Level of difficultyEasy
Reading time12 min
Views14K

В этой статье я привел базовые сведения о логистической регрессии и показал как сделать модель с нуля на чистом Python. Логистическая функция, обучение, метрики качества для модели классификации, реализация и небольшой разбор обучения весов.

Статья подойдет для того, кто новичок или кому интересно разобраться в том, как происходит обучение модели на низком уровне.

Читать далее

Машинное обучение: Линейная регрессия. Теория и реализация. С нуля. На чистом Python

Level of difficultyEasy
Reading time12 min
Views13K

В этой статье я рассказываю про линейную регрессию, свойства, которыми должны обладать данные для модели, процесс обучения, регуляризацию, метрики качества. Кроме чистой теории я показываю как это все реализовать. Я рассказываю все в своем стиле и понимании - с инженерной точки зрения, с точки зрения того, как реализовывать с нуля.

Содержание: Что такое линейная регрессия, свойства данных для линейной регрессии, обучение модели, регуляризация, обучение с регуляризацией, преимущества и недостатки, реализация модели линейной регрессии с нуля.

Читать далее

Машинное обучение: общие принципы и концепции

Level of difficultyEasy
Reading time10 min
Views13K

В этой статье я рассказываю про основные концепции, типы обучения, типы задач в машинном обучении и также делаю постановку задачи машинного обучения (МО). Все это я рассказываю в своем стиле и понимании.

Посмотреть статью

Information

Rating
1,689-th
Location
Чувашия, Россия
Date of birth
Registered
Activity

Specialization

Исследую создание СИИ
Python
Algorithms and data structures