Периодические функции как функции активации в нейросетях

У Вас неплохо получилось. Но, я писал эту статью скорее как "мини-исследование", а не для инженерии :D

Смысловой Embedding, или как доставать смысл из слов

Спасибо за помощь в исправлении, очень благодарен Вам!

По поводу модуля — не увидел в статье момента, где у меня в формуле сигмоида есть модуль. В прошлых версиях — да, он был.

По поводу модели — да, думаю, сейчас без бенчмарков никак. Обязательно займусь в ближайшее время.

Смысловой Embedding, или как доставать смысл из слов

1. Большое спасибо за обратную связь! Сейчас я обучаю модель с использованием этой идеи, так что бенчмарки будут. В ближайшее время отредактирую пост и исправлю все недочёты, которые вы отметили.

2. Насчёт сигмоиды я знаю, что она выражается в формулах так. Но в основном я делал ставку на то, что кто-то может не знать формулу сигмоиды.

Где ещё дают LLM API бесплатно: проверяю очередные находки

Помимо вышеперечисленных есть следующие, не менее хорошие провайдеры:

1. Mistral AI ( 1 МЛРД токенов в месяц, без привязки карт. Для стартапов вполне пойдет )

2. Groq ( Лимиты отдельные у каждой модели, не требует привязки карт )

Сам пользуюсь ими каждый день. Groq не работает в России, а Mistral работает. Тут надо выбрать между скоростью (Groq) и более высокими лимитами (Mistral)

Структурное мышление или важное отличие человека от ИИ

Очень интересно читать, хорошо получилось 🤩

AGI уже стучится в дверь человечества. А мы всё ещё думаем, что он станет нашим лучшим другом

Нет никакого AGI. Есть только чат-боты (LLaMA, ChatGPT), которые не умеют ничего в прямом смысле. Они лишь обрабатывают статистические закономерности текста и занимаются классификацией.