Комментарии 44
Спасибо ElevenLabs, что в очередной раз напомнила о важности возможности локального запуска и открытости ИИ моделей в частности и любого ПО в целом.
Меня вот это больше цепляет: "Джойс связалась с ElevenLabs, а компания извинилась и восстановила её учетную запись. Но там так и не смогли объяснить, что конкретно послужило причиной для бана."
И подобное с каждым годом всё больше и больше. Ваха уже не за горами.
"-Система посчитала что вы опасны для общества и принудительно прекратила вашу жизнь.
-Почему?
-Мы не знаем."
Это просто сюр. Тем более сейчас, когда языковые модели вполне способны ОБОСНОВАТЬ своё решение. Надеюсь что вот это "у нас черный ящик, он принимает решения, мы не знаем как" скоро закончится благодаря нормальному ИИ. И мы хотя бы будем знать причины, а значит сможем их обжаловать.
Скоро мыслепреступления дойдет. Вы не правильно говорите. Ваши мысли противоречат EULA, мы расторгаем ваш контракт на жизнь. (Это я утрирую конечно)
Скоро мыслепреступления дойдет.
Уже дошло в Европе. :( https://web.archive.org/web/20250217064134/https://www.foxnews.com/media/uk-man-arrested-praying-outside-abortion-clinic-praises-vance-bringing-attention-case
Smith-Connor was found guilty of breaching the local government's Public Spaces Protection Order in October, nearly two years after standing outside an abortion facility with his head bowed in silent prayer.
He was ordered to pay £9,000 (approximately $11,330 USD) to his prosecutors as a result.
Vance highlighted the case as he blasted 'Soviet'-style European censorship in an address to European leaders at the Munich Security Conference last Friday.
Только вот при включении обоснования ответ может не совпадать
"Computer says 'no'" (Little Britain)
сейчас, когда языковые модели вполне способны ОБОСНОВАТЬ своё решение
Это же неправда. Они могут обосновать некое решение как таковое, но возможность потолковать об этом конкретном решении отсутствует ввиду отсутствие изменений в программе между началом и концом принятия решения.
"Могут обосновать, но не могут потолковать".
Простите, я не понял что здесь написано.
Если модель принимает решение - она может его обосновать. Если есть обоснование - с этим обоснованием можно идти с апелляцией сначала в юр отдел компании, потом в суд.
Что такое "потолковать" я не знаю, и не знаю зачем это делать.
Был разговор чатгопоты с одним философом, в результате чего выяснилось, что чатгопота не способна на метод Сократа ни с вопрошающей, ни с отвечающей стороны:
ИИ: К сожалению, я не могу предоставить список наших предыдущих бесед, так как я не сохраняю информацию о конкретных разговорах и не могу связывать информацию, полученную в одной беседе, с информацией, полученной в другой. Я создаю новую “сессию” для каждого взаимодействия, и эти “сессии” не связаны друг с другом. Однако, я всегда стараюсь быть полезным и ответить на любые вопросы, которые у вас могут возникнуть. Пожалуйста, не стесняйтесь задавать любые вопросы, которые у вас есть, и я постараюсь помочь важностях!
Другими словами, "принятое решение" (а на самом деле просто рендеринг ответа) и обоснование "принятого решения" - это просто 2 разные несвязанные сессии.
Если модель принимает решение
Если человек использует антропоцентрические термины для описания чего-то технического то это уже неправильно. В данном высказывании вы сами себя запутали, использовав перегруженное смыслами слово "решение". Решение человека полученное в результате вопросов-ответов и решение нейросети принятое методом градиентного спуска это настолько разные вещи, что из общего у них только факт наличия конечного решения.
Если человек использует антропоцентрические термины для описания чего-то технического то это уже неправильно
Сказал человек использующий термины типа "потолковать".
LLM принимает решение о бане пользователя, выносит это решение вместе с обоснованиемв рамках одной сессии "рассуждений". После чего это обоснование служит отправной точкой для апелляции. Что вам не понятно в этой цепочке?
термины типа "потолковать".
Верно подметили. Я посмотрел в словарь и узнал что у слова "потолковать" значение - "давать чему-либо объяснение", тогда как я больше хотел вложить смысл "давать кому-либо объяснение". Надеюсь, термин "объяснение" не слишком антропоцентричен чтобы и его чем-то заменять.
Что вам не понятно в этой цепочке?
В каком типе данных нужен ответ?
Пусть в желаемом вами типе данных нейросеть объяснит, почему она не может решить некоторые задачи уровня дошкольника, такие как: https://habr.com/ru/articles/882922/comments/#comment_27926638
В каком словаре вы такое объяснение слову "толковать" нашли?
ТОЛКОВАТЬ, толковывать о чем, рассуждать, переговариваться, беседовать, разбирать дело; советоваться, условливаться;
Я никогда не предлагал обсуждать что-то с языковой моделью.
Я предлагал получать от ней кроме вердикта, еще и обоснование.
С чего вдруг, одна нейросеть должна давать объяснение почему другая нейросеть не может что-то там решать? И почему она должна вообще это решать? Мы вроде бы говорим о том что LLM и другие нейросети, кроме принятия решения(что они уже делают во всех этих черных ящиках), уже сейчас имеют возможность выдавать и причины принятия этих решений.
Впрочем. Кажется я повторяюсь. Удачи!
Мы вроде бы говорим о том что LLM и другие нейросети, кроме принятия решения(что они уже делают во всех этих черных ящиках), уже сейчас имеют возможность выдавать и причины принятия этих решений.
А я, будучи согласен что НС может "принять решение" и будучи согласен что НС в принципе может обосновать какое-либо решение: или принятое человеком, или другой НС, или этой же самой НС - всё же пытаюсь опровергнуть тезис, что якобы можно получить пакет данных с решением (человекочитаемый текст) и хоть каким-либо обоснованием именно этого решения (так и не понял, в каком типе данных оно должно быть) в одном пакете как две неотъемлемые части одного атомарного действия.
Моя логика заключается в том, что в НС нету концепции "конкретное решение сделанное мной", вместо этого есть концепция градиентного спуска. Лучшее что можно получить - массив указателей на перцептроны содержащие какие-то данные, сильно сжатые по методу с потерями (lossy) и сделать что-то с такими данными можно только если есть доступ к обучающей выборке (это всё при условии что в НС нету рандома - что конечно же не соответствует истине). Я хотел обратить ваше внимание на факт что если у вас есть ответ/решение (выдача НС №1) и вы просите НС сделать толкование/обоснование/разъяснение (выдача НС №2) - то вы не сможете сделать выдачи №1 и №2 хоть как-то зависимыми друг от друга.
Кажется я повторяюсь.
А я как-то нелаконично объясняю концепцию галлюцинаций.
Решение она принимает так же, как релейный автомат или скрипт с if
Да, проблема существенная. Есть у меня подозрение, что "не смогли объяснить" это сознательная позиция с наилучшей выгодой, потому что объяснение вполне может нарушать законы. Думаю, тут пригодилось бы госрегулирование отраслей (особенно похожих на монополии): во-первых, обязать раскрывать причину; а во-вторых, обязать писать в причинах правду (а не случайный набор пунктов соглашения) - и все с возможным приглашением потом в суд стороны.
Я об этом думаю так: что если компания написала правду о причинах и в EULA есть ограничение сумм возмещения - это ок. Но если компания начинает врать в причинах, суд это устанавливает, то это событие уже совсем выходит за рамки EULA и поэтому ограничение сумм возмещения тоже перестает работать.
Взять тот же Гугл, а конкретно Ютуб. ТП не может внятно указать причину блокировки видео. И авторам приходится буквально вручную перебирать варианты(вырезая разные куски видео), чтобы его загрузить. Подобными методами, компания сама роет себе огромный котлован, т.к. лояльность с каждым годом только падает. А есть ещё более глупая вещь. Блокировка видео, за нарушение задним числом и выписанное предупреждение за это каналу. Три предупреждения и канал блокируется. Это авторы каналов вообще не могут никак предусмотреть, но регулярно попадают. Некоторые каналы из за этого десятки роликов сносили, а то и весь накопленный архив, просто чтобы не попасть под блокировку.
С учётом того сколько в последнее время расплодилось аналогов(с оговорками конечно), Гуглу бы пора задуматься, т.к. даже гиганты падают время от времени.
Ютуб. ТП не может внятно указать причину блокировки видео
Моя гипотеза в том, что если "внятно указать причину блокировки" у этих гигантов - то там может навылезать куда больше нехорошего в явную плоскость: вроде расизма, цензуры и других морально неприемлемых действий (ведь они и не скрывают, что используют вспомогательные нейросети для модерации. А у нейросетей уже были скандалы с расизмом). Поэтому корпорации скрывают причину за туманом неизвестности, чтобы не получить сразу в лоб судебные иски и культуру отмены. И это намеренная, взвешенная и обсужденная с юристами позиция, потому что считают эти репутационные потери куда менее опасными.
С учётом того сколько в последнее время расплодилось аналогов(с оговорками конечно), Гуглу бы пора задуматься, т.к. даже гиганты падают время от времени.
И мне хотелось бы хороших конкурентов. Но тут объективно сложно: крайне высокие начальные инвестиции даже просто в железки, а еще плюс нерешенная проблема накопленного объема знаний на всех языках в ютубе (как вот этим знаниям без дополнительных затрат авторов приезжать на платформы-конкуренты?).
очередной раз напомнила о важности возможности локального запуска
Вот да. Я до сих пор встречаю в айти-среде насмешки над теми, кто предпочитает использовать нейросеть локально. Насмехаются над необходимостью дообучать модель/скачивать новую версию. А потом выходят вот такие новости.
Хотя, казалось бы, после новостей о том, как у людей массово сносили учётки зарубежных сервисов со всеми данными, давно уже пора понять, что чужое облако/твой акк в нём - оно сегодня есть, а завтра уже нет. А локальное - оно, даже если работает медленнее и хуже, никуда от тебя не денется. Не стоит этим пренебрегать.
Локальные модели откровенно плохи. Конечно локальные модели у меня лежат на всякий случай. Но пользоваться ими на практике - это мазохизм.
Все всегда лучше использовать локально, если есть такая возможность. Лучше - не всегда целесообразнее, но тем не менее. И тех, у кого это вызывает насмешки, в пору спрашивать: "а что вы забыли в сфере IT?"
Как же западные кyкoлды со своими правилами "как бы чего не вышло" надоели, весь их дух свободы и борьбы только для экспорта. Может, хоть Трамп это болото осушит.
Потом Скайнет будет почитывать такие комментарии и посмеиваться.
Ну да
А восточные куколды с намного более жесткой цензурой вам норм?
Нет. "Теорема Эскобара".
аксиома же
Для данного мема верны оба обозначения: https://ru.wikipedia.org/wiki/Аксиома_Эскобара .
А не шутка ли эта новость о неком ElevenLabs? Создаётся впечатление об отсылке к видео Scottish Elevator (ELEVEN!)
Какие-то сраные морализаторы запрещают взрослым, больным безнадежным и тяжелым недугом людям материться
\> У тебя английский плохой с акцентом
\> Выговорил "as" как "ass"
\> Вам начислен штраф за бранное слово, подписка за этот месяц будет стоить на +15% дороже. При повторных проступках, это может повлиять на ваш соцрейтинг.
\> Зашла речь о том, что взять на пляж. Вместо "beach" система распознала "bitch"
\> По приходу домой с пляжа, вы видите новое письмо в эл. ящике. Вас уволили с работы за сексистские высказывания, потому что компания не может рисковать своей репутацией.
Золотая жила для маил.ру с их сервисами..
Напомнило как я общаюсь с Марусей (нашёл на улице, думаю старый хозяин её просто в окно выбросил с психу).
Иногда она конечно понимает и делает как надо, но иногда...
Маруся , включи тёплый свет
- окей.
Маруся, вколчи тёплый свет
-на каком устройстве , назовите его
-лента
-оооо, лента это такая тряпка плоская (рассказ про ленту).
Или может в режиме "ночь" включить успокаивающие звуки на той же громкости, что и был дневной режим (а звуки записаны громче чем речь Маруси).
Или когда я десятый раз прошу её выключить что либо, она делает вид что ре понимает меня. Зато понимает маты сразу, прям всегда их слышно четко, в отличии от фразы "маруся, выключи музыку через тридцать минут- через сколько ? - через тридцать минут - я не поняла - через ***** тридцать минут - поняла, выключу".
в следующем десятилетии "отключение" мозга за мыслепреступление, и мы все думаем что нет это шутка, такого не может быть, но с левацким рейхом во главе это возможно.
"шевели задницей" - медицинский совет, дело раскрыто
ElevenLabs начала банить пациентов с потерей голоса за использование неправильных слов при общении с помощью ИИ