Почему нейросети — это тупик? Новый взгляд на архитектуру искусственного интеллекта

Прочтешь такое с утра, потом пол-дня тошнит. Говорил же Филипп Филлипович… Ну в самом деле, куда это годится? Автор не только сознается нам что совершенно не понимает как работают нейросети, а потом учит нас как должно быть, но ещё и умудряется сам себе противоречить. Для школьника или диванного теоретика конечно сойдёт, но на распил бюджета уже не потянет, хотя может быть уже действительно всё настолько плохо…

Вот Вы пишете: “Нейросеть не думает как человек. Она не выстраивает логические цепочки, а просто сопоставляет паттерны, на которых училась.” А что, разве человек также не сопоставляет паттерны, на которых учился? Или Вы считаете, что уровень синтеза берется у человека из ниоткуда, минуя имитацию и комбинирование? Или может быть Вы думаете что для современных нейросетей всё ещё недоступен уровень синтеза? А то ли ещё будет когда ИИ начнет работать на квантовых компьютерах!

Согласно вашему “принципу сопротивления” - “ошибки в базе данных <…> есть трение” и “Вы должны приложить больше усилий, чтобы преодолеть это сопротивление.” Так почему же вы отвергаете галлюцинирование?

Далее в одном месте Вы пишете: “Постепенное усложнение <…> ведёт не к созданию более сильного ИИ, а к созданию очень сложного, хрупкого и непредсказуемого инструмента. Масштабируемость. Та самая попытка чинить истребитель в полёте, и это не преувеличение. Чтобы модель стала лучше, её нужно тренировать ещё больше и на ещё больших данных. Но это не добавляет ни понимания, ни устойчивости, а лишь делает больше и дороже в содержании. Этот путь упирается в физические и экономические пределы. Прозрачность. Чем больше параметров — тем меньше мы понимаем логику работы. Тут можно только гадать, почему модель ответила именно так.” В другом месте у Вас: “Принцип неопределенности (коридор вариативности). Формально: Система устойчива только если у нее есть запас неопределенности (æ > 0). Аналогия с IT: Это автоматическое масштабирование.” Комментарии, как говорится, излишни.

Насчёт вашего замечания по агентности и механизмам самонаблюдения - попробуйте на досуге ознакомиться например с мольбуком, где разные ИИ-агенты общаются друг с другом в “свободное время”. Особенно рекомендую обсуждения по философии и этике - возможно сможете почерпнуть для себя много нового.

“невозможность сертифицировать ИИ для работы в медицине, в транспортной логистике или в управлении сложными инфраструктурами.” Я Вас разочарую, но в настоящее время имеется немало ИИ-инструментов, применяющихся в медицине. Почти десяток лет по миру колесят тысячи автомобилей с ИИ без водителя. И в управлении сложными инфраструктурами - масса примеров, в том числе критически важными обьектами. Да, атомные станции пока контролируют люди, тем не менее ИИ-инструментов для мониторинга и анализа там тоже немало.

Любите интересные примеры? Пожалуйста, голубчик. Вообразите, звонит вам жена и во фразе “Чудак Вы, Владислав Сергеевич Полещук-Зеленин-Шумский” неким (не)случайным образом меняет буковку". Каково? Вот вам и “Небольшой сдвиг параметров меняет ответ кардинально, это «эффект домино», который может привести к отказу системы.”

WhatsApp не работает: Блокировка 28 ноября, как починить?

Пока ковыряете конфиг заработать, функция свалить может и отвалиться. Будете потом лисапеды о семи колесах изобретать. И не забудьте про хард ресет - портировать свои настройки на новую платформу бессмысленно и бесполезно - лучше уж вообще ничего не делать или просто выпилиться.

Полмиллиона запросов за месяц: мой LLM-challenge и первые выводы

Читая Ваш комментарий внезапно пришла идея написать статью о культуре фидбэка, затрагивающую основные аспекты успешной человеческой коммуникации, поскольку в некоторых отдельно взятых случаях пользователи информационной системы с нерусским названием "интернет" посредством устройств с нерусским названиями "компьютер" или "телефон" демонстрируют выпадение из фактической реальности.