Comments 22
приближенность к человеческому поведению
Современный ИИ - это всего лишь обобщение методов интерполяции и экстраполяции данных.
По двум точкам можем "предсказать" где находится третья. По 100 точкам - где 101я. И так далее.
По двум первым буквам слова можем предсказать третью, четвёртую и пятую. Внеся немножко рандома можем генерировать слова и осмысленные фразы.
Таким же образом устанавливается взаимосвязь вопроса в чате с выдаваемым ответом. Таким же образом рисуются картинки по текстовому описанию.
Чтобы это приблизилось к человеческому поведению, надо понять как программировать интеллект, а не методы усреднения данных.
Верно. Если за "точку" взять реакцию человека на то или иное событие, и таких реакций изучить 100, то можно предугадать 101ую :) Потому что каждая из предыдущих 100 точек уже будет показывать итоговую реакцию организма, которая включает в себя весь предыдущий опыт (опыт, воспитание, характер, окружение и другие факторы, влияющие на формирование человека как личности). Это касательно взрослого человека.
Но это не интеллект. Это усреднение результатов выдаваемых интеллектом.
условно говоря: интеллекты подвержены моде и красят розы в красный цвет (ц). Усреднитель тоже покрасит их в красный цвет. Но интеллект делает это потому что: список причин. А усреднитель это делает потому что в среднем у него датасет такой.
Интеллект справится с попаданием в нестандартную ситуацию. Приспособится к ней. Усреднитель - нет.
Я и не топлю в статье за то, что ИИ будет имитировать интеллект. Я говорю про то, что ИИ может быть похожим на человека. И мода, простите, не совсем относится к интеллекту (по крайней мере, не к рациональной его части). Мода - это психология толпы, которую как раз ИИ очень легко может имитировать, как пользователь моды.
Мода - это психология толпы, которую как раз ИИ очень легко может имитировать, как пользователь моды.
Мода - это по сути интеллектуальное усреднение. В данной окружающей среде это усреднение применимо. А вот сменится среда - интеллект от моды откажется так же легко, как взял на вооружение, в пользу чего-то более практичного. А усреднителю нужно будет собирать новый датасет действий интеллекта.
Почему это "обобщение методов интерполяции и экстраполяции"?
Все нынешние сети суть это и есть интерполяция и экстраполяция и ничего больше. Весь сыр-бор в качестве и скорости подбора параметров. И никакого обобщения, как вот Рунге и Кутта заложили основы, так они и не менялись.
Эм, ну я как бы именно это и говорю.
обобщением я назвал так, потому что одна программа может работать и над текстами и над картинками и так далее. Один усреднитель применяется везде.
нейронная сеть - математический метод
применение его повсюду (в графике, текстах, измерениях) - обобщение (жизненное - не математическое)
PS: ещё "обобщение" - потому что экстраполяция и интерполяция - разные методы. Экстраполяция - предсказание в сторону неохваченной измерениями области (измерения далеко не всегда возможны), а интерполяция - предсказание в области, где измерения возможны. А современному методу нейросетей относительно пофиг экстраполировать ли или интерполировать.
Еще это называют порождающей статистической машиной.
Так получается по мнению автора, нейронки плохо рисуют руки. потому что им запретили рисовать, гхм, задницы? Нейронка чувтсвует, что ее где-то ущемили и не раскрывается в полную.
Нейронку обучили что жопа есть, а слова такого нет. Вот у нее и эмоциональный срыв от такой новости... :-)
Нет. Вы вообще не поняли статью... уметь рисовать руки - это прерогатива обучения. Так же как 3х летний ребенок тоже не сможет нарисовать руки. Но ребенок учится, и нейросети тоже. Некоторые нейросети по рисованию уже вполне нормально рисуют руки.
Но она не нарисует вам все что угодно, чтобы оставаться толерантной
PS: На основном фото - толерантность "глазами" сберовского ГигаЧата: "На картинке изображены люди, которые отличаются друг от друга, но при этом они вместе. Это символизирует толерантность - уважение и принятие других людей, несмотря на их различия."
Картинка не символизирует толерантность. Это вы должны проявить толерантность, когда смотрите на картинку с изображением фриков.
Когда писал статью, именно это слово всплывало у меня в мыслях, но его трактовка слишком широкая, чтобы использовать в основном тексте.
Толерантность - это совершенно четкое понятие.
Толерантность - это противоположность "нетерпимости". Проявление толерантности - это когда человек не показывает своего негативного отношения к тем "особенностям" других людей, которые он сам считает "Недостатками".
Например, если человек считает что "обладатель очень темной кожи" на шаг ближе к обезьяне чем он сам, но свое реальное отношение к нему никак не показывает - он проявляет толерантность, хотя он и расист.
А если человек не считает "особенности" других людей "Недостатками", то соответственно никакой толерантности он проявить не может. Потому-что для него такая "особенность" это просто вариант "нормы".
Например, если человек к разному цвету кожи относится так же как к разному цвет глаз, то здесь совсем нет ситуации в которой можно проявить толерантность.
Но толерантность это не обязательно хорошо. Например, толерантность к преступлениям - это плохо.
Вопрос: как улучшить выдачу ответов (уменьшить ограничения на ответы), если при массовом использовании постоянно находятся люди, которые могут быть ущемлены ответами?
Ущемлены невозможностью использовать слово "Негр" в запросах? Кто же эти люди?
Понятие четкое, да восприятие разное )) И одно дело "воспринимать", другое дело "допускать". Например: толстым людям нельзя работать стюардессами, и на то есть понятные причины. Но иногда можно услышать, что это является ущемлением их прав, вплоть до попыток защитить эту позицию в суде. Или, например, представьте, что в поезде на сидячем месте сидит рядом с Вами человек, занимающий 1,5 места, из которого 0,5 - Ваше. Можно относиться с пониманием к объему человека, но без понимания почему он занимает именно Вашу половину сиденья. Но если Вы об этом скажите при всех - можете быть обвинены в нетерпимости.
Ущемлены невозможностью использовать слово "Негр" в запросах? Кто же эти люди?
Не так. Ущемлены выдачей. Условно, одна из нейросетей видит "пользователя archlinux" так:
Вполне могут появиться архлинуксеры, которые будут ущемлены тем, почему их рисуют как злоумышленников... вроде бред, но соотносится с реальностью.
Условно, одна из нейросетей видит "пользователя archlinux" так
А как по вашему должен выглядеть "пользователь archlinux"? Каков запрос, такова и выдача.
Да и ничего особо хакерского на картинке нет. Компьютер на столе, человек в одежде. Почему именно в толстовке? Видимо в процессе обучения насобирали в сети картинок таких как здесь https://wirekat.com/how-to-become-a-power-user-on-linux/ или здесь https://habr.com/ru/companies/alexhost/articles/525102/ А при обучении к ним приклеили тэги linux, archlinux. Где то подклеилось "linux" + "человек в капюшоне". Никакого злого умысла. Кто знает как у них генерация картинок работает. Берут из базы картинки с тэгами по ключевым словам запроса или по ассоциированным словам. Применяют фильтры наложения и искажения.
Мне все равно как будет выглядеть пользователь архлинукс :)
Верно, рисунок берет за основу имеющийся датасет (доступа в Интернет в реальном времени у ИИ нет, поэтому они не смогут сказать ни курс валюты, ни текущую дату\день). Далее на его основе выдается ответ. И когда-нибудь этот ответ может кого-то "расстроить", так как к некоторым социальным группам датасет не совсем толерантный в виду того, что он был взят из общих источников, а где-то ответ даже может галлюцинировать. Если ответ окажется не толерантным (на взгляд какой-то социальной группы), тогда включаются настройки для выдачи толерантного ответа... и именно об этом и писал статье. Что при таком способе выдача будет не та, которую ИИ реально сгенерировал на основе датасета, а скорректированный в угоду социальным группам (а это не всегда равно социальным нормам, как его понимает большинство). Т,е. ответ ИИ и обсуждаемые с ним темы сужаются, чтобы быть удобным и толерантным для всех.
Что при таком способе выдача будет не та, которую ИИ реально сгенерировал на основе датасета, а скорректированный в угоду социальным группам (а это не всегда равно социальным нормам, как его понимает большинство).
Ну так это же хорошо. ИИ ведет себя здесь очень по человечески. Бот-лицемер - думает одно, говорит другое.
Т,е. ответ ИИ и обсуждаемые с ним темы сужаются, чтобы быть удобным и толерантным для всех.
Наверняка уже есть специализированные боты, с которыми можно обсудить 10 способов линчевания негра. Просто они не для общего пользования, и доступ продается через даркнет. А если таких еще нет, то обязательно будут. Про сексуальные извращения точно будут. С генерацией картинок конечно. А для премиум аккаунтов с генерацией видео, и моделями любых знаменитостей. Проблема только с запретом на запись видео пользователем. Потому что если видео попадет в сеть, лавочку прикроют.
Почему нынешние ИИ не проявляют все свои возможности. Пока или навсегда?