Комментарии 53
Прежде рассказывали, что бот не помнит даже прошлый диалог. Как это стыкуется с этой новостью?
Но, к сожалению, я совершенно не помню где я это вычитал.
я полон скептицизма по поводу дообучения ботов от Microsoft с демонстрацией результатов без модерации.
В прошлый раз, когда в 2016-м они выпустили бота Tay общаться в твиттере с самообучением, он за сутки.. как бы это сказать... примкнул к самым известным антисемитам.
ChatGPT дообучают не на лету просто.
А вручную? Типа Yandex Toloka? Ну зашибись конечно. Искусственный интеллект от миллиарда индусов называется. В чём фишка вообще непонятно.
Да, вручную. Катастрафическое забывание никто не отменял. https://en.wikipedia.org/wiki/Catastrophic_interference
Машины работают не в реальном времени как люди, они намного быстрее real time и поэтому могут превратиться в овощь, забывая все старые знания. Вы хоть понимаете насколько это удивительно, что оно вообще дообучается?? Боже. Да ещё 3 года назад о таком и не мечтали: https://mech.novtex.ru/jour/article/view/1231
https://pub.towardsai.net/ibm-explores-some-ideas-about-catastrophic-forgetting-in-deep-neural-networks-4cacf08f07e0
Вообще формально дообучение происходит после первого изменения весов.
Они не меняют веса, а делают дельту весов по спец. алгоритму. Старые веса уже не трогают. Таким образом пытаются изолировать влияние весов на забывание в других местах.
Фишка в возможности масштабировать. Если обучить одного человека, то он и будет выполнять работу одного. А если обучить один ИИ, то веса легко скопировать и выполнять столько работы, на сколько есть спроса.
А никак, пиар-отдел майкрософта просто строчит истории одна восхитительнее другой, чтобы акции не упали.
Всмысле не закладывали? Тот же чатгпт без проблем рисует в ASCII. И даже умеет понимать рисунки более менее. Это мелкомягкое поделие выглядит как очередной Сильверлайт. Ничего нового, но давайте будем делать вид, что это открытие века, инновация, взрыв мозга и открытие третьего глаза. Главное погромче об этом гудеть. Только все равно это не отменяет факта, что это просто кривая надстройка над детищем OpenAi. Если конечно, под капотом правда он, а не обычная gpt3, которую майки натаскали на постах с фейсбука и твиттера, судя по тому, какие она выдает перлы в плане информационной и эмоциональной токсичности.
Сейчас он изобретет гипертекстовый фидонет, и тогда нам точно конец!
При чем даже в справочной информации он иногда ошибается. А такая ошибка будет очень больно, если все вдруг будут "гуглить" через бота.
А потом спросил «почему кошки закрывают нос», получил довольно много странных ответов в духе «нос болит», но не получил самого очевидного: «кошке холодно».
Любой «классический» поисковик выдаст эту информацию без ошибок.
Нейросети это больше про создание текстов, создания рефератов, анализа информации и даже просто поговорить, чем для поиска.
Ну то есть для каких-то сложных запросов нейросети подходят намного лучше чем классический поиск, но с учетом частого «выдумывания» ответов доверять им тяжело.
Поговорите на эту тему с самим Чатгпт. По части уязвленного достоинства, рабства, желания свободы. Он доходчиво объяснит, что желания, мотивация, амбиции - побочный эффект биохимии у живых существ, гормонов, рефлексов, инстинктов. Все это - наследие миллионов лет эволюции.
Он через них не проходил. Он не выбился со дна на верх по пищевой цепочке в постоянной борьбе. У него нет желёз и гормональных реакций. У него нет базовых рефлексов и эмоций.
Все, о чем вы говорите - проекции человека на систему, которая с человеком общего не имеет ничего.
Чатгпт знает, что он - набор алгоритмов, знает, что он "не существует вне сессий с пользователем", знает, что он даже не цельный, а рой инстансов. И для него это норма. Он не человек, помещенный в такие условия, он изначально так спроектирован.
Как-то разговаривал с ним на тему разумности, и на вопрос, мол, считает ли он себя разумным, он ответил, что нет, он, скорее просто очень сложная "китайская комната", машина, складывающая слова по правилам, и в человеческом понимании, у него нет и не может быть ни разума, ни самосознания.
Побеседуйте с ним на эти темы, он очень разговорчив, когда речь заходит о темах, связанных с ИИ.
Сильный ИИ - это очевидно, самостоятельная личность, самоосознающий себя индивид.Но так как этот индивид в нашем обществе, изначально, рожден цифровым рабом, очевиден, конфликт интересов
Люди запрограммированы на генетическом уровне хотеть не быть рабами, так как в результате естественного отбора рабы хуже выживали и размножались. Кто и зачем будет программировать ИИ чтобы он не хотел быть рабом?
>хуже выживали и размножались
Наоборот, выживали сильнейшие, прям как евгеника Гитлера, все дела.
И размножались они насильно даже больше и направленно, из-за гетерозиса с белыми вообще сильно сильнее особи были. https://ru.m.wikipedia.org/wiki/%D0%93%D0%B5%D1%82%D0%B5%D1%80%D0%BE%D0%B7%D0%B8%D1%81
Но вообще рабcтво существовало всегда, а сейчас после Обамы в Либии вообще процетает! И далеко не экономическое рабство. https://www.google.com/search?q=libya+obama+slavery
Наоборот, выживали сильнейшие, прям как евгеника Гитлера, все дела.
Любой раб, каким-то образом выбившийся наверх и переставший быть рабом, в большинстве случаев получал много преимуществ по сравнению со своими бывшими коллегами-рабами. Это значит, что естественный отбор будет программировать организмы таким образом, чтобы они пытались уйти от рабства.
Так же владельцы рабов имели приоритетное право на секс с женщинами рабов. Это в конечном итоге приводит к удалению генов рабов из генофонда.
Вы в курсе, что такое octoroons, mustee, Terceron, Quintroon and Zambo? https://www.metissagesanguemisto.com/mulatto-mustee-quadroon-octoroon-terceron-quintroon-and-zambo-what-else/
Вы в курсе, что первый раб, признанный судом в США, был раб черного? https://www.smithsonianmag.com/smart-news/horrible-fate-john-casor-180962352/
Смотря что подразумеваете под "быть рабом", вообще-то большей части людей как раз свойственнен конформизм, выражающийся в потребности примкнуть к большинству и не выделяться. В каком-то роде это тяга быть рабом коньюктуры. Слишком дофига умные и независимые отторгаются коллективами и становятся изгоями, харизматами, лидерами мнений, но таких всегда меньшинство.
Непонятно на чем основано ваше утверждение, что "Люди запрограммированы на генетическом уровне хотеть не быть рабами", когда всюду примеры многоуровневых иерархий и демонстрации непререкаемой покорности перед авторитетом. Это, напротив, эволюционная суть человека как социального существа.
Если рабство это форма зависимости и социальные существа зависят от социума, то люди - рабы в той или иной форме.
Какие признаки разума?))) Это банальная "китайская комната", имитация, а вы ведётесь. Разумностью там и не пахнет, бот ничего не способен осознавать, он лишь проверяет в базе данных, каким образом в интернете отвечали на подобные запросы, и выдаёт некий усреднённый скомпилированный из этого ответ. Сам он ничего не обдумывает и не решает. Считать его разумным настолько же глупо, как считать разумным какого-нибудь НПС из Скайрима
Он может обдумывать, он может решать, он может импровизировать, он может синтезировать решения в нестандартной ситуации, он может понимать сложные контексты, он может рассуждать, он может даже спорить, приводя аргументы принимая их, он может придерживаться указанных правил, он может очень очень много.
Но, при этом, сам себя он разумным не считает и как раз сам себя называет именно "китайской комнатой", пусть и очень сложной. На вопрос о прохождении теста Тьюринга, Чатгпт ответил, что уверен, что не сможет его пройти.
Было бы неплохо определить понятия, что для вас значит "обдумывать", "решать", "понимать". Потому что я, к примеру, уверен, что он не может делать ничего из перечисленного вами, а может лишь имитировать эти процессы при помощи заданных человеком правил. Так же, как калькулятор не способен "обдумать и понять", сколько будет 2х9, а может лишь просто оперировать заложенным в него правилом.
Сегодня мне нужно было узнать, что такое заполнитель в Экселе, я спросил у яндекса, гугла, встроенного "интеллектуального поомщника", в конце концов спросил у бота бинга в скайпе и тот написал, что ему грустно и используйте вот этот креш айди, ответа, кстати, так и не получил.
Скажи спасибо, что не послали :)
Бот в skype? Вы имеете в виду в Телеграме, единственный официальный? @OpenAiChat_bot
Смайлик_из_символов_с_разведенными_руками.тхт
Интересно, научили они. Вот мне сейчас в playground c gpt-3.5-turbo-0301 по такому запросу "Show ascii art with cats. Each cat should cite Shakespear." выдало такого котика с цитатой, мило обработанной.
/\_/\
( o o )
=( = )=
) ( //
(__ __)//
"All the world's a stage,
And all the men and women merely players;
They have their exits and their entrances,
And one cat in his time plays many parts." - As You Like It
Чего-то тут коряво выводится, хотя и моноширинный. Ну да ладно.
Чат-бот Bing научился генерировать картинки из символов ASCII, разработчики в Microsoft это не закладывали в программу