Как стать автором
Обновить

От детектора ИИ-текстов до безградиентной оптимизации. О чём учёные из AIRI рассказывали на конференции NeurIPS 2023

Уровень сложностиСредний
Время на прочтение8 мин
Количество просмотров1.4K
Всего голосов 6: ↑6 и ↓0+6
Комментарии3

Комментарии 3

Похожие идеи обучения можно извлечь из нейробиологии обучения (предварительного самообучения) мозга восприятию еще на стадии плода. Проблему которую в свое время решала сама эволюция, а сейчас в некотором виде пытаются решить специалисты по МО, см. этот комент с пояснениями.

Как раз в тему этого разговора вышло недавно вот такое занятное исследование
https://www.science.org/doi/10.1126/science.adi1374

Спасибо за ссылку. Интересное исследование, хотя ничего неожиданного. Авторов удивило, что на небольшом словарном корпусе происходит усвоение категориальной структуры языка отражающей отношения объектов и явлений в окружающей ребенка обстановке. Но язык прямо таки пропитан интуитивной физикой, биологией, математикой и психологией (во взрослой жизни это обобщенно, но не совсем точно, называется здравым смыслом). В этом коменте (часть под спойлером) немного на тему интуитивной физики в языке. Куда интереснее, как эволюционно возникли эти формы интуиции, и как они реализуются на генетическом, эпигенетическом и других уровнях наследования, и начинают формироваться уже на эмбриональной стадии развития. Как раз к этому уровню относится мой исходный комент. И да, конечно мультимодальность (заземление и встраивание) является основой этих способностей. Как пример небольшой обзор исследований на тему развития и нейросетевого моделирования числового познания.

Зарегистрируйтесь на Хабре, чтобы оставить комментарий