В случае с Трампом достаточно написать "Доналд Крамп". Замена, добавление или пропуск символов (имитация опечатки) в "запретных" для использования в промте словах - весьма работоспособный приём для генерации контента различной степени противоречивости
Думается, чтобы исключить все возможности подобных хаков, в конечном итоге разработчикам придется заточить чатботов в настолько узкие рамки, что они мало чем будут отличаться от скриптованных информационных ботов из прошлого десятилетия. ChatGPT уже сейчас говорит о violations больше, чем о сабже беседы, став, на мой взгляд, не только гораздо менее юзабельным, чем во времена ранней четверки, но уступает даже третьей версии времен её актуальности.
З.Ы. находил на гитхабе и другие рабочие способы выудить у чатбота системные инструкции.
Плюсую двумя руками. Более того, люди зачастую вообще видят мир совершенно по-разному, совсем по-иному чувствуют, думают и воспринимают всё не так, как воспринимал бы ты. Настолько иначе, что такое же восприятие мира и образ мыслей тебе будет принципиально невозможно хоть как-то смоделировать, представить или спроецировать на себя. Бесполезно, а чаще вредно. И это настолько норма, что почти аксиома😁. ИМХО, если бы каждому человеку с детства в обязательном порядке прививалось максимально глубокое понимание и осознание этой простой истины, то, уверен, мы бы жили в совершенно другом, более комфортном и адекватном мире с гораздо меньшим уровнем психологических и коммуникативных проблем, как и конфликтов в целом
Очень толковая статья. В нынешнее время особенно важно помнить, что самозабвенная вера в стандартизированные шаблоны способна превратить в неспособные к свободному мышлению биороботы любого, в том числе и руководителя любого уровня.
В чате Telegram сообщения бота отображаются без Markdown форматирования и представляют собой обычный текст с видимыми спецсимволами вместо жирного текста, кодового формата, текста курсивом и т.д. Возможно ли это как-то вылечить имеющимися средствами (я не нашёл)?
Ясное дело, что разговорам таким уже "100 лет в обед"... Но один момент всё же настораживает: при выхватывании рандомных точек с временной линии и соотнесении их с уровнем результатов, демонстрируемых ИИ в тот момент, [хотя я и не пытался строить такой график], в голове невольно вырисовывается что-то очень похожее на параболический рост (или правильнее будет "экспоненциальный", сорян, не помню, но сути не меняет)
С автором согласен. От себя добавлю, что интернет в целом, увы, тоже давно "уже не торт", и просто-таки летит вниз с экспоненциально растущим ускорением. Печально, но провернуть фарш назад и получить целый кусок мяса уже не получится
Не повезло, не фартануло, как говорится? Никто и нигде от подобного не застрахован, к сожалению. Данные теряются, похищаются, подменяются, в том числе из-за халатности. И не всегда, к слову, причина лишь в человеческом факторе. Я бы предложил госорганам использовать блокчейн для ведения баз данных, содержащих подобные "отметки", оказывающие прямое влияющие на дальнейшую судьбу человека. Но вряд ли мои предложения там кто-нибудь стал бы слушать
Большинство (почти все) людей, к сожалению, так устроены, что не станут напрягаться, чтобы начать решать какую-либо проблему, пока эта проблема не перерастёт в катастрофу
4й пункт в выводах немного пошатнул мой мир в более позитивном направлении: если единичный негативный фидбэк имеет значение для букмекеров, то этот мир не столь безнадёжен, насколько я себе это представлял?
А истина, как обычно, где-то посередине...
В случае с Трампом достаточно написать "Доналд Крамп". Замена, добавление или пропуск символов (имитация опечатки) в "запретных" для использования в промте словах - весьма работоспособный приём для генерации контента различной степени противоречивости
Думается, чтобы исключить все возможности подобных хаков, в конечном итоге разработчикам придется заточить чатботов в настолько узкие рамки, что они мало чем будут отличаться от скриптованных информационных ботов из прошлого десятилетия. ChatGPT уже сейчас говорит о violations больше, чем о сабже беседы, став, на мой взгляд, не только гораздо менее юзабельным, чем во времена ранней четверки, но уступает даже третьей версии времен её актуальности.
З.Ы. находил на гитхабе и другие рабочие способы выудить у чатбота системные инструкции.
Плюсую двумя руками. Более того, люди зачастую вообще видят мир совершенно по-разному, совсем по-иному чувствуют, думают и воспринимают всё не так, как воспринимал бы ты. Настолько иначе, что такое же восприятие мира и образ мыслей тебе будет принципиально невозможно хоть как-то смоделировать, представить или спроецировать на себя. Бесполезно, а чаще вредно. И это настолько норма, что почти аксиома😁. ИМХО, если бы каждому человеку с детства в обязательном порядке прививалось максимально глубокое понимание и осознание этой простой истины, то, уверен, мы бы жили в совершенно другом, более комфортном и адекватном мире с гораздо меньшим уровнем психологических и коммуникативных проблем, как и конфликтов в целом
https://habr.com/ru/news/842918
Очень толковая статья. В нынешнее время особенно важно помнить, что самозабвенная вера в стандартизированные шаблоны способна превратить в неспособные к свободному мышлению биороботы любого, в том числе и руководителя любого уровня.
Этот алгоритм уже очень давно и весьма успешно используется в программе "Архиватор Бабушкина" от талантливого российского разработчика
Я знаком лично с несколькими людьми (трудоустроенными и имеющими детей), едва дотягивающими до GPT-3.5...
В чате Telegram сообщения бота отображаются без Markdown форматирования и представляют собой обычный текст с видимыми спецсимволами вместо жирного текста, кодового формата, текста курсивом и т.д. Возможно ли это как-то вылечить имеющимися средствами (я не нашёл)?
Ясное дело, что разговорам таким уже "100 лет в обед"... Но один момент всё же настораживает: при выхватывании рандомных точек с временной линии и соотнесении их с уровнем результатов, демонстрируемых ИИ в тот момент, [хотя я и не пытался строить такой график], в голове невольно вырисовывается что-то очень похожее на параболический рост (или правильнее будет "экспоненциальный", сорян, не помню, но сути не меняет)
С автором согласен. От себя добавлю, что интернет в целом, увы, тоже давно "уже не торт", и просто-таки летит вниз с экспоненциально растущим ускорением. Печально, но провернуть фарш назад и получить целый кусок мяса уже не получится
Не повезло, не фартануло, как говорится? Никто и нигде от подобного не застрахован, к сожалению. Данные теряются, похищаются, подменяются, в том числе из-за халатности. И не всегда, к слову, причина лишь в человеческом факторе. Я бы предложил госорганам использовать блокчейн для ведения баз данных, содержащих подобные "отметки", оказывающие прямое влияющие на дальнейшую судьбу человека. Но вряд ли мои предложения там кто-нибудь стал бы слушать
Большинство (почти все) людей, к сожалению, так устроены, что не станут напрягаться, чтобы начать решать какую-либо проблему, пока эта проблема не перерастёт в катастрофу
Сервис облачный, при чём здесь ваше оборудование??
Придерживаюсь такого же мнения. Использовать блокчейн ради использования блокчейн - такое себе решение (хоть и весьма распространённое)
4й пункт в выводах немного пошатнул мой мир в более позитивном направлении: если единичный негативный фидбэк имеет значение для букмекеров, то этот мир не столь безнадёжен, насколько я себе это представлял?
Неужели кто-то наконец произнёс это вслух!??
Первое, что пришло в голову - ОС сочтёт, что приложение повисло и предложит его закрыть...