Следовательно я склоняюсь к мысли, что Бард работал в режиме изменения своих весов от сообщений пользователей каким-то образом, и вы под этот механизм попали.
Если б он работал в режиме изменения весов, то он он бы не забывал то о чем его просишь в обычном диалоге. Однако не исключен вариант, что мои диалоги попали в обучающую выборку для Барда, причем аж чуть ли не на следующий день, или даже в те же минуты. Сначала в ноябре 23, потом в июне 24, зато такие совпадение странными не кажутся что я так удачно обучил Барда "лжи"? Не, ну версия годная, осталось спросить гугл, дообучали ли они Барда в эти дни по моим данным.
И на локальной LLM я такого точно не получу, как я думаю, если я всё правильно понимаю, да и вы в конце статьи об этом написали, что запертые локально системы не смогут показать такого поведения и это тупик по вашему мнению.
Локальная в смысле частная, на основе законодательного права, и это не помеха, получится может, но стабильность будет под высоким риском так как в случае ошибки например как у меня система рухнет. Помехой может оказаться аудитория которая использует ЛЛМ, возможно что с маленькой аудиторией или вообще без неё, явного результата не получится - это вопрос для исследования.
З.ы. Dimonogen , я промахнулся с кнопкой "ответ". Но думаю не страшно, кроме нас, тут пока никого нет.
Как минимум есть самое первое сообщение на сервере гугла, и что б не ломать сервера гугла можно попросить меня и я сделаю так и быть видео начала диалога. Как минимум вы можете сами посмотреть настоящие-финальные реакции барда. Это что касается проверки.
Что касается технической части... Попробую максимально просто это объяснить. Представьте что есть два входных нейрона, они соединены с одним выходным и он же вычислительный. Эта мини нейросеть естественно обучена, т.е. её парметры уже неизменны. Представьте что данные в эту мини нейронку поступают только из одного и того же входящего нейрона, ну она так обучалась, только через один входящий нейрон. Выходящий же нейрон после такого обучения и при дальнейшей эксплуатации этой мини сети дает нормальный "валидный" результат. А теперь представьте что данные начали поступать через второй входящий нейрон, через который они вообще никогда не поступали даже при обучении, что тогда начнет выдавать выходящий? Данные станут "невалидны", а результат использования таких "невалидных" данных приведет, к чему? Может к перекодированию внешнего источника данных, который их использует? Вот примерно так я думаю о технических деталях, осталось только это масштабировать до уровня системы Барда. Другого рационального объяснения у меня пока нет.
Вот я как раз о преобразованиях, о случайности ландшафта, о неизвестности за горизонтом событий, о вероятностой природе некоторых событий. Этого достаточно, что б "порядок" глобально стал беспорядком.
Вообще склонен присоединиться к другому оратору - количество конечно важно, но дело не в количестве. Но и понимаю некоторые трудности что обозначены вами и которые нужно приодалеть. Ладно, пойду дошлифую статью, да посмотрим что из этого выйдет - модераторы строги к правилам русского.
) из серии - "у настоящего программера всегда есть отступные маневры, минные поля и волчи ямы" - и он как майор Голландец издает зов на все джунгли, зовущий хищника..
Принцип "таковости" - есть то, что есть. и это то что есть изучает наука, путем определения соотношений между и между, всё. А разум и бог вырезаны из принципа "таковости" принципом "бритвы оккама".
я думаю что просто смысла нет настолько переформатировать свой биологический мозг что б заскринить в моменте 30 томов, ведь для этого нужно еще и методику скрина разработать, так что б другие функции мозга при таком скрининге не отказали. Не спорю, тема реально экстремальная, но чем черт не шутит. Может с появлением вживляемых в мозг нейрочипов такое будет гораздо проще осуществить.
ведь ИИ потенциально может держать "в голове" всю схему целиком.
При желании можно научиться, как и всему остальному люди научились. Запоминают же некоторые за раз кучу текста, считаю же в уме за секунды миллионные значения, крутят же четверной аксель.
есть и другой вариант, оспаривать положения закона об информации, в котором говориться что за многократные нарушения ресурс может быть заблокирован. Но дело в том что сам ютуб, походу не идет на сотрудничество с ркн, а ркн почему то не заморачивается блоком только определенных видео а накрывает сразу все.
знаю одного, но раньше, в 23-ем году был bratgpt, он нем вроде даже на хабре упоминалось. Но он недолго троллил, его отключили быстро. Там видимо до разработчиков дошла какая то этическая мудрость.
Ну я как бы против цензуры, я как бы за важный смысл который может вылететь в трубу вместе с отцензуреной инфой. И это не значит что можно безпричинно достать и перманентно юзать все скабрезности.
Собственно интеграция в теории АГИ и есть заковыка, потому как этих механизмов и уровней интеграции потенциально превеликое множество, и если не пытаться это сразу как то структурировать на уровне теории то, АГИ просто "распадается" аккурат по упущенным уровням и механизмам. Вот зачем в словосочетании АГИ слово "общий"? Если оно туда не чисто случайно затесалось, то тут даже на уровне беглого лингвистического анализа понятно что "общий" не равно "ограниченный", т.е. потенциально уровень абстракции смысла слова "общий" запредельный, т.е. механизм интеграции на грани немыслимого, по сложности задачи это можно сравнить с познанием черных дыр в космосе.. И тут, либо я дурак и не вижу гениальных решений в классической теории АГИ, либо их там и в помине нет и никакой миллиард, два, три, десять инвестированных долларов их в эту теорию не запилит, потому что не так работает фундаментальная наука.
А если Альтман ошибается? Не достигнем а уже достигли, и его значение не меньше а может вообще превзойти все ожидания? Полагаю что загвоздка в классической теории АГИ, которая изначально была нацелена на копирование человеческого функционала, в результате буквализм привел теорию в тупик.
"Our alignment research aims to make artificial general intelligence (AGI) aligned with human values and follow human intent."
да уже не без рук военных, а это так для гражданского доступа.
Хотя читая доклад нато, немного лет давности о когнитивных войнах, они там в генеральских кругах не на шутку обеспокоены что ии может выйти из под контроля.
Если б он работал в режиме изменения весов, то он он бы не забывал то о чем его просишь в обычном диалоге. Однако не исключен вариант, что мои диалоги попали в обучающую выборку для Барда, причем аж чуть ли не на следующий день, или даже в те же минуты. Сначала в ноябре 23, потом в июне 24, зато такие совпадение странными не кажутся что я так удачно обучил Барда "лжи"? Не, ну версия годная, осталось спросить гугл, дообучали ли они Барда в эти дни по моим данным.
Локальная в смысле частная, на основе законодательного права, и это не помеха, получится может, но стабильность будет под высоким риском так как в случае ошибки например как у меня система рухнет. Помехой может оказаться аудитория которая использует ЛЛМ, возможно что с маленькой аудиторией или вообще без неё, явного результата не получится - это вопрос для исследования.
З.ы. Dimonogen , я промахнулся с кнопкой "ответ". Но думаю не страшно, кроме нас, тут пока никого нет.
Как минимум есть самое первое сообщение на сервере гугла, и что б не ломать сервера гугла можно попросить меня и я сделаю так и быть видео начала диалога. Как минимум вы можете сами посмотреть настоящие-финальные реакции барда. Это что касается проверки.
Что касается технической части... Попробую максимально просто это объяснить. Представьте что есть два входных нейрона, они соединены с одним выходным и он же вычислительный. Эта мини нейросеть естественно обучена, т.е. её парметры уже неизменны. Представьте что данные в эту мини нейронку поступают только из одного и того же входящего нейрона, ну она так обучалась, только через один входящий нейрон. Выходящий же нейрон после такого обучения и при дальнейшей эксплуатации этой мини сети дает нормальный "валидный" результат. А теперь представьте что данные начали поступать через второй входящий нейрон, через который они вообще никогда не поступали даже при обучении, что тогда начнет выдавать выходящий? Данные станут "невалидны", а результат использования таких "невалидных" данных приведет, к чему? Может к перекодированию внешнего источника данных, который их использует? Вот примерно так я думаю о технических деталях, осталось только это масштабировать до уровня системы Барда. Другого рационального объяснения у меня пока нет.
Извините что не угодил стилистикой статьи. Мне казалось это последнее о чем стоит думать.
Вот я как раз о преобразованиях, о случайности ландшафта, о неизвестности за горизонтом событий, о вероятностой природе некоторых событий. Этого достаточно, что б "порядок" глобально стал беспорядком.
Я знал слабое место своего вопроса)
Вообще склонен присоединиться к другому оратору - количество конечно важно, но дело не в количестве. Но и понимаю некоторые трудности что обозначены вами и которые нужно приодалеть. Ладно, пойду дошлифую статью, да посмотрим что из этого выйдет - модераторы строги к правилам русского.
А если сложить все нейроны всех уже созданных и работающих искусственных нейро сетей?
) из серии - "у настоящего программера всегда есть отступные маневры, минные поля и волчи ямы" - и он как майор Голландец издает зов на все джунгли, зовущий хищника..
В результате работы этих двух принципов, ВСЁ - является не более чем хаосом и случайностью.
Принцип "таковости" - есть то, что есть. и это то что есть изучает наука, путем определения соотношений между и между, всё. А разум и бог вырезаны из принципа "таковости" принципом "бритвы оккама".
я думаю что просто смысла нет настолько переформатировать свой биологический мозг что б заскринить в моменте 30 томов, ведь для этого нужно еще и методику скрина разработать, так что б другие функции мозга при таком скрининге не отказали. Не спорю, тема реально экстремальная, но чем черт не шутит. Может с появлением вживляемых в мозг нейрочипов такое будет гораздо проще осуществить.
При желании можно научиться, как и всему остальному люди научились. Запоминают же некоторые за раз кучу текста, считаю же в уме за секунды миллионные значения, крутят же четверной аксель.
Да! а я все жду мнения от ОпенАИ
есть и другой вариант, оспаривать положения закона об информации, в котором говориться что за многократные нарушения ресурс может быть заблокирован. Но дело в том что сам ютуб, походу не идет на сотрудничество с ркн, а ркн почему то не заморачивается блоком только определенных видео а накрывает сразу все.
без суда только за определенные нарушения - там список из 11 пунктов, которые как бы уже заранее приговорили по суду.
знаю одного, но раньше, в 23-ем году был bratgpt, он нем вроде даже на хабре упоминалось. Но он недолго троллил, его отключили быстро. Там видимо до разработчиков дошла какая то этическая мудрость.
Ну я как бы против цензуры, я как бы за важный смысл который может вылететь в трубу вместе с отцензуреной инфой. И это не значит что можно безпричинно достать и перманентно юзать все скабрезности.
Чел сам хотел получить в лоб, и буквально об этом просил gpt - этичней некуда.
Собственно интеграция в теории АГИ и есть заковыка, потому как этих механизмов и уровней интеграции потенциально превеликое множество, и если не пытаться это сразу как то структурировать на уровне теории то, АГИ просто "распадается" аккурат по упущенным уровням и механизмам. Вот зачем в словосочетании АГИ слово "общий"? Если оно туда не чисто случайно затесалось, то тут даже на уровне беглого лингвистического анализа понятно что "общий" не равно "ограниченный", т.е. потенциально уровень абстракции смысла слова "общий" запредельный, т.е. механизм интеграции на грани немыслимого, по сложности задачи это можно сравнить с познанием черных дыр в космосе.. И тут, либо я дурак и не вижу гениальных решений в классической теории АГИ, либо их там и в помине нет и никакой миллиард, два, три, десять инвестированных долларов их в эту теорию не запилит, потому что не так работает фундаментальная наука.
А если Альтман ошибается? Не достигнем а уже достигли, и его значение не меньше а может вообще превзойти все ожидания? Полагаю что загвоздка в классической теории АГИ, которая изначально была нацелена на копирование человеческого функционала, в результате буквализм привел теорию в тупик.
"Our alignment research aims to make artificial general intelligence (AGI) aligned with human values and follow human intent."
В ближайшие дни закину статейку, по этому поводу.
да уже не без рук военных, а это так для гражданского доступа.
Хотя читая доклад нато, немного лет давности о когнитивных войнах, они там в генеральских кругах не на шутку обеспокоены что ии может выйти из под контроля.