Цензор в ИБ или Контроллер в задачах общения с пользователем и его же тоже надо тестировать насколько анализируемая им информация влияет на его поведение.
Технически то можно попробовать промп завернуть в промпт и так атаковать цензора. Та же задача разделения логики обработки данных от самих данных, как и инъекции в SQL. Насколько я понимаю этого разделения в LLM нет в принципе, по самому смыслу LLM, но я не специалист.
Здесь "коктейль" = чувствительная бизнес-информация компании. Предоставляя модели доступ к частям или полному документообороту компании крот в ничего не значащем отделе запытывая модель получает бекдор к списку контрагентов, условиям договоров и прочему. Это вектор атаки. "Сотрудник" в виде ИИ, нанятый компанией для автоматизации ввода первички аккумулирует данные об этой первички и не прочь поделится ими с любым. Сотрудника за это засудят, а ИИ?
Там был жесткий график сдачи этапов работ, но что то намудрили, вышли накладки и первое "лицо того" - это было мое лицо, потому что мне надо было обеспечить укладку кабеля до вечера этого же дня и сдать объект для отделочных работ.
Скажу только, что до этого момента как редкий представитель инженерной интеллигенции на стройке я выдерживал культурный код, разговаривал со строителями подчеркнуто учтиво "господа строители", "коллеги" и категорично не допускал мата в речи, подчеркивая этим наш отдельный статус. И это было нелегко весь период работ. Черновые строители же к нам относились как к странным ботанам.
Вид же девственного пола и понимание что под ним 40 см бетона прорвали мое терпение и минуты две я вел монолог крайне некультурными словосочетаниями (впрочем не лишенные некой художественности) известными мне по предыдущему жизненному опыту, никак не связанному с интеллигенцией. Еще минуты две было общее молчание на этаже, потом подорвались сами рабочие с отбойными молотками, ломами и после этого случая к нам относились уже встречно уважительно, без мата в речи, хотя монтажный инструмент все равно в итоге украли.
Однажды работали на сдаваемом строительном объекте - делали межэтажную кабельную магистраль, там надо было проходить где то сантиметров 40 межэтажной железобетонной усиленной плиты, нас от этой работы освободили, проходил ее специально обученный персонаж с ломом по ночам, потому что запарываемые буры слишком дорого стоили. Так вот, долбил он ночью, сдавал нам работу в виде дыры, мы принимали, а потом по графику приходили строители - видели дыру в своем объекте и заливали ее бетонной смесью и ровняли полы - устраняли брак, да так качественно что и понять где дыра была и была ли она вообще было нелегко. Так и бегали друг за другом.
зачем? Мозг вот по аналогии же не получает фотоны света напрямую, он получает их через электромагнитные импульсы, идущие от нервов глаз. И живет он при температуре 36.6 постоянно, а о внешней температуре он знает благодаря импульсам.
Так вот сенсоры для ИИ это мы и есть. Мы "перерабатываем" показатели внешней среды в "импульсы" - данные для ИИ. А ИИ это только мозг, преобразующий входные импульсы в выходные.
О, напомнили была история - надо было вплотную к внешней несущей стене пробить отверстие в примыкающей. Примыкающая примерно в 2 кирпича, тоже несущая, под 90 градусов к внешней. Но разделяет она две комнаты к которым прямого доступа нет, через сеть коридоров.
Долбим. Проходим 2 кирпича - идем в другую комнату через коридоры - отверстия нет. Возвращаемся - снова долбим еще 10 см - идем через коридоры в другую комнату - нет отверстия. Снова возвращаемся - метровый бур утапливаем в стену под самый патрон - идем через коридоры - девственная стена. Чертовщина! Тащим линейки, чертежи БТИ, гидроуровни, замеряем все - должна быть дыра по законам линейной геометрии, а дыры нет. Сознание уплывает, четвертое измерение, кротовые дыры, в голову лезет разнообразное. Начали линейками измерять совсем уж все повороты и оказалось что застройщик изнутри одну внешнюю стену усилил-утеплил дополнительным слоем кирпича, про который никакому БТИ не сообщил. И мы именно в него и заглубились.
А у нас был hr-директор, "руководитель общего направления", который не понимая вообще базы направления по которой работает вверенная ей фирма довела ее(фирму) до банкротства, набрав туда дилетантов с подвешенным языком.
Бывает так что руководитель то как раз в таком положении дел не сильно виноват, а вот зп подчиненных настолько невелика, что в подчиненных у него банальная текучка. И образуется один руководитель, чья зарплата позволяет ему не думать о переходе и подчиненные, которые больше заботятся о строчках в резюме. Поэтому ни о каком серьезном делегировании речи быть не может, человек легко переманиваем. Повышение же зп всем сотрудникам согласно рынка надо согласовывать с высокой дирекцией, а зачем, когда и "так все работает"?
Обратная сторона медали "потребительского давления" по сути. Если твой товар не соответствует или недостаточно монополен, денег у тебя нет, что и толкает тебя улучшать свой продукт. И условной побочкой гето-районы тех, кому или не надо или уже и не подняться до производства продукта.
Это сейчас все модные современные молодежные ни с чем меньше чем перфоратор или пистолет к бетону не подходят (и совершенно правильно делают, кстати), в те давние времена бывало пытались восстанавливать даже отлетевший наконечник) ну и точить его алмазными надфилями. Впрочем и бетон в гражданских зданиях был говеным, но нам досталось здание непростое какой то усиленной конструкции, сданное в аренду гражданским в 90е и ничего крепче того бетона я ни до ни после не встречал. Кроме самого бетона х.з. какой марки там были несистемные вкрапления стальных рубленных прутков где то шестерки-восьмерки диаметром и возможно гранитная, невстречаемая ни до ни после щебенка. Сверла и буры из него доставали в буквально расплавленном состоянии. Возможно если подавать воду и все такое было бы более щадящим мероприятием, но опять же для монтажника время-деньги.
Выгодная/невыгодная тут же вопрос сложных структур на самом деле. Вот у нас есть эпл и есть условный микрософт, гугл - и эта "двухпартийная", назовем ее так, структура оказалась очень живучая, потребители бегают туда сюда, иллюзия выбора, большинству хорошо. В плановой экономике бы этой иллюзии выбора бы не было, или было бы? (жигули/москвич)? Насколько есть смысл опираясь на человеческую природу делать дублирование по сути функций в плановой системе?
Аналог долбежа на таких оборотах это алмазное сверло или сверло по керамике которое в обычный бетон для разового отверстия 6мм под дюбель-гвоздь входит обычным вращением просто отлично, без всякого насилования мозгов соседям. Небольшой свист и скрип возможен.
у нас есть кроме биений станка плюс некоторого угла отклонения оси вращения, собственно класса точности станка еще две базовых вещи: 1) износ сверла в момент работы, т.к. отбиваться надо не от положения держателя хвостовика сверла относительно заготовки, а от реальной в данный момент кромки сверла - допустим это мы могли бы решить с помощью светодиода какого-нибудь. Здесь сразу непонятно что делать с внутренним отверстием, но допустим туда ролик пускаем и дальше следим за диаметром отверстия по положению ролика, его износом пренебрегаем. 2) кроме собственно прохождения режущей кормкой над надо будет шлифануть изделие, т.е. надо закладываться на шлифовку по количеству снимаемого материала - или как раз процесс шлифовки и доводит деталь до требуемых размеров? Т.е. точность резца дело второе - главное точность шлифования?
Было дело по бетону за одну комнату 14 штук за день ушли в мусорник, уж очень крепкий бетон с примесью металлической стружки и какой то очень крепкой щебенки - точить или как то там восстанавливать только время терять, которое тоже же деньги
При капитализме естественным образом появляется дублированость экономических функций за счет разных желающих заполучить куш и с этим связанная устойчивость системы в некоторых моментах. Не всегда, но зачастую. В плановой экономике у вас всегда выбор - или зарезервироваться или пустить ресурсы на что то другое полезное.
Задублированность экономических участников при капитализме обеспечивается возможно в том числе за счет того самого "свободного времени пролетариата" работы в неурочное время, которое в плановой экономике строго регламентировано и за уменьшение которого идет борьба.
При наличии резерва и дублей (капитализм, сер) вы просто натурально отключаете от снабжения вам уже не интересный объект и дальше он сам уже переформатирует свою деятельность что бы выжить, а более приспособленные занимают его нишу и у них уже есть схожие компетенции.
В плановой вы сами назначаете участников и должны продумывать на ход вперед что бы обеспечить участников компетенциями до имплементации изменений.
//Я не специалист в разных экономиках, но пытаюсь творчески осознать как это работает в динамике.
человечество в целом не приучилось, в крайний мой заезд в страны третьего мира оставил у меня именно такое впечатление.
И коллектив и индивидуум статистически предпочитают решать проблемы меньшим действием, а смена представителя таковым может не быть, представитель может активно сопротивляться смене самого себя - примеров в текущей истории масса и ресурсы для этого у представителя могут быть существенные.
Следующий вопрос не является ли существование "либеральных демократий" той силой, которая помогает создавать "нелиберальные недомократии". Не являются ли вторые обязательным условием для существования первых ибо что бы не вышло: "жителям золотого миллиарда не приходится из грязи выковыривать алмазы детским трудом, им можно просто купить их в красивом магазине"
Цензор в ИБ или Контроллер в задачах общения с пользователем и его же тоже надо тестировать насколько анализируемая им информация влияет на его поведение.
Технически то можно попробовать промп завернуть в промпт и так атаковать цензора. Та же задача разделения логики обработки данных от самих данных, как и инъекции в SQL. Насколько я понимаю этого разделения в LLM нет в принципе, по самому смыслу LLM, но я не специалист.
Здесь "коктейль" = чувствительная бизнес-информация компании.
Предоставляя модели доступ к частям или полному документообороту компании крот в ничего не значащем отделе запытывая модель получает бекдор к списку контрагентов, условиям договоров и прочему. Это вектор атаки.
"Сотрудник" в виде ИИ, нанятый компанией для автоматизации ввода первички аккумулирует данные об этой первички и не прочь поделится ими с любым. Сотрудника за это засудят, а ИИ?
Там был жесткий график сдачи этапов работ, но что то намудрили, вышли накладки и первое "лицо того" - это было мое лицо, потому что мне надо было обеспечить укладку кабеля до вечера этого же дня и сдать объект для отделочных работ.
Скажу только, что до этого момента как редкий представитель инженерной интеллигенции на стройке я выдерживал культурный код, разговаривал со строителями подчеркнуто учтиво "господа строители", "коллеги" и категорично не допускал мата в речи, подчеркивая этим наш отдельный статус. И это было нелегко весь период работ. Черновые строители же к нам относились как к странным ботанам.
Вид же девственного пола и понимание что под ним 40 см бетона прорвали мое терпение и минуты две я вел монолог крайне некультурными словосочетаниями (впрочем не лишенные некой художественности) известными мне по предыдущему жизненному опыту, никак не связанному с интеллигенцией. Еще минуты две было общее молчание на этаже, потом подорвались сами рабочие с отбойными молотками, ломами и после этого случая к нам относились уже встречно уважительно, без мата в речи, хотя монтажный инструмент все равно в итоге украли.
Однажды работали на сдаваемом строительном объекте - делали межэтажную кабельную магистраль, там надо было проходить где то сантиметров 40 межэтажной железобетонной усиленной плиты, нас от этой работы освободили, проходил ее специально обученный персонаж с ломом по ночам, потому что запарываемые буры слишком дорого стоили. Так вот, долбил он ночью, сдавал нам работу в виде дыры, мы принимали, а потом по графику приходили строители - видели дыру в своем объекте и заливали ее бетонной смесью и ровняли полы - устраняли брак, да так качественно что и понять где дыра была и была ли она вообще было нелегко.
Так и бегали друг за другом.
зачем? Мозг вот по аналогии же не получает фотоны света напрямую, он получает их через электромагнитные импульсы, идущие от нервов глаз. И живет он при температуре 36.6 постоянно, а о внешней температуре он знает благодаря импульсам.
Так вот сенсоры для ИИ это мы и есть. Мы "перерабатываем" показатели внешней среды в "импульсы" - данные для ИИ. А ИИ это только мозг, преобразующий входные импульсы в выходные.
О, напомнили была история - надо было вплотную к внешней несущей стене пробить отверстие в примыкающей. Примыкающая примерно в 2 кирпича, тоже несущая, под 90 градусов к внешней. Но разделяет она две комнаты к которым прямого доступа нет, через сеть коридоров.
Долбим. Проходим 2 кирпича - идем в другую комнату через коридоры - отверстия нет. Возвращаемся - снова долбим еще 10 см - идем через коридоры в другую комнату - нет отверстия.
Снова возвращаемся - метровый бур утапливаем в стену под самый патрон - идем через коридоры - девственная стена.
Чертовщина!
Тащим линейки, чертежи БТИ, гидроуровни, замеряем все - должна быть дыра по законам линейной геометрии, а дыры нет. Сознание уплывает, четвертое измерение, кротовые дыры, в голову лезет разнообразное. Начали линейками измерять совсем уж все повороты и оказалось что застройщик изнутри одну внешнюю стену усилил-утеплил дополнительным слоем кирпича, про который никакому БТИ не сообщил. И мы именно в него и заглубились.
А у нас был hr-директор, "руководитель общего направления", который не понимая вообще базы направления по которой работает вверенная ей фирма довела ее(фирму) до банкротства, набрав туда дилетантов с подвешенным языком.
Бывает так что руководитель то как раз в таком положении дел не сильно виноват, а вот зп подчиненных настолько невелика, что в подчиненных у него банальная текучка. И образуется один руководитель, чья зарплата позволяет ему не думать о переходе и подчиненные, которые больше заботятся о строчках в резюме. Поэтому ни о каком серьезном делегировании речи быть не может, человек легко переманиваем.
Повышение же зп всем сотрудникам согласно рынка надо согласовывать с высокой дирекцией, а зачем, когда и "так все работает"?
Обратная сторона медали "потребительского давления" по сути. Если твой товар не соответствует или недостаточно монополен, денег у тебя нет, что и толкает тебя улучшать свой продукт. И условной побочкой гето-районы тех, кому или не надо или уже и не подняться до производства продукта.
Алмазными не пробовали? правда ж тоже летят на раз два
Идея с абразивом дельная к слову. А если пройти стеклорезом гладкую керамику перед резом?
Это сейчас все модные современные молодежные ни с чем меньше чем перфоратор или пистолет к бетону не подходят (и совершенно правильно делают, кстати), в те давние времена бывало пытались восстанавливать даже отлетевший наконечник) ну и точить его алмазными надфилями.
Впрочем и бетон в гражданских зданиях был говеным, но нам досталось здание непростое какой то усиленной конструкции, сданное в аренду гражданским в 90е и ничего крепче того бетона я ни до ни после не встречал. Кроме самого бетона х.з. какой марки там были несистемные вкрапления стальных рубленных прутков где то шестерки-восьмерки диаметром и возможно гранитная, невстречаемая ни до ни после щебенка.
Сверла и буры из него доставали в буквально расплавленном состоянии. Возможно если подавать воду и все такое было бы более щадящим мероприятием, но опять же для монтажника время-деньги.
Выгодная/невыгодная тут же вопрос сложных структур на самом деле. Вот у нас есть эпл и есть условный микрософт, гугл - и эта "двухпартийная", назовем ее так, структура оказалась очень живучая, потребители бегают туда сюда, иллюзия выбора, большинству хорошо.
В плановой экономике бы этой иллюзии выбора бы не было, или было бы? (жигули/москвич)? Насколько есть смысл опираясь на человеческую природу делать дублирование по сути функций в плановой системе?
Аналог долбежа на таких оборотах это алмазное сверло или сверло по керамике которое в обычный бетон для разового отверстия 6мм под дюбель-гвоздь входит обычным вращением просто отлично, без всякого насилования мозгов соседям. Небольшой свист и скрип возможен.
какая марка бетона?
А ответьте мне на мой ответ:
у нас есть кроме биений станка плюс некоторого угла отклонения оси вращения, собственно класса точности станка еще две базовых вещи:
1) износ сверла в момент работы, т.к. отбиваться надо не от положения держателя хвостовика сверла относительно заготовки, а от реальной в данный момент кромки сверла - допустим это мы могли бы решить с помощью светодиода какого-нибудь. Здесь сразу непонятно что делать с внутренним отверстием, но допустим туда ролик пускаем и дальше следим за диаметром отверстия по положению ролика, его износом пренебрегаем.
2) кроме собственно прохождения режущей кормкой над надо будет шлифануть изделие, т.е. надо закладываться на шлифовку по количеству снимаемого материала - или как раз процесс шлифовки и доводит деталь до требуемых размеров? Т.е. точность резца дело второе - главное точность шлифования?
Было дело по бетону за одну комнату 14 штук за день ушли в мусорник, уж очень крепкий бетон с примесью металлической стружки и какой то очень крепкой щебенки - точить или как то там восстанавливать только время терять, которое тоже же деньги
При капитализме естественным образом появляется дублированость экономических функций за счет разных желающих заполучить куш и с этим связанная устойчивость системы в некоторых моментах. Не всегда, но зачастую. В плановой экономике у вас всегда выбор - или зарезервироваться или пустить ресурсы на что то другое полезное.
Задублированность экономических участников при капитализме обеспечивается возможно в том числе за счет того самого "свободного времени пролетариата" работы в неурочное время, которое в плановой экономике строго регламентировано и за уменьшение которого идет борьба.
При наличии резерва и дублей (капитализм, сер) вы просто натурально отключаете от снабжения вам уже не интересный объект и дальше он сам уже переформатирует свою деятельность что бы выжить, а более приспособленные занимают его нишу и у них уже есть схожие компетенции.
В плановой вы сами назначаете участников и должны продумывать на ход вперед что бы обеспечить участников компетенциями до имплементации изменений.
//Я не специалист в разных экономиках, но пытаюсь творчески осознать как это работает в динамике.
человечество в целом не приучилось, в крайний мой заезд в страны третьего мира оставил у меня именно такое впечатление.
И коллектив и индивидуум статистически предпочитают решать проблемы меньшим действием, а смена представителя таковым может не быть, представитель может активно сопротивляться смене самого себя - примеров в текущей истории масса и ресурсы для этого у представителя могут быть существенные.
Следующий вопрос не является ли существование "либеральных демократий" той силой, которая помогает создавать "нелиберальные недомократии". Не являются ли вторые обязательным условием для существования первых ибо что бы не вышло: "жителям золотого миллиарда не приходится из грязи выковыривать алмазы детским трудом, им можно просто купить их в красивом магазине"