Обновить
4
0

Пользователь

Отправить сообщение

Отвечу кратко. Изменения, наверняка, произойдут, но не так прямолинейно, как многим кажется. Произойдет трансформация, кто-то будет в минусе, кто-то в плюсе.

Но главное, что пока не решены ключевые проблемы (типа интерпретируемости и предсказуемости результата) невозможно рассматривать LLM кроме как в качестве помощника. За исключением индустрии развлечений, конечно. А решения этих проблем пока не видно на горизонте.

А без решения этих проблем при массовом применении нейросетей (как самостоятельных систем) мы столкнемся с массой негативных вещей, например с несправедливыми автоматическими банковскими блокировками, ложными распознаваниями лиц/изображений (с последующими ложными обвинениями) и т.д., без возможности интерпретации причины срабатывания нейросети. И если суды и чиновники будут этим системам доверять (из-за непонимания проблем интерпретируемости результатов), то итог будет плачевным. Я не исключаю, что на эйфории и на хайпе начнут внедрять большие нейросети повсеместно, но сейчас этого делать категорически нельзя.

У Вас в слове «говнокодеры» полно опечаток.

Ну почему ж сразу "говнокодеры". Для хорошего владения практиками написания чистого кода знания высшей математики и прочего не нужны. Даже наоборот - вредны. И вот здесь как раз LLM хорошо подойдет в качестве замены человека, т.к. такие задачи - узкие, конкретные, хорошо формализуемые.

Так если в работе нет шагов влево-вправо, значит и инженеры будут не нужны?

Инженеры? Да, в на конвейере (в качестве звена) конечно не нужны. В качестве элементов конвейера используется низкоквалифицированная рабочая сила, для того конвейеры и придуманы. И эти звенья конечно же можно заменить роботами.

Ну LLM уже сейчас на такие вопросы отвечают.

Такие знания уже сейчас есть у LLM.

Не в этом дело. И в до LLM-ные времена можно было пойти в github и найти/скачать/использовать подходящий продукт под свободной лицензией. Для быстрого получения информации успешно использовался гугл + stackoverflow. Существенного отличия от использования LLM нет.

Проблемы в другом. Есть две проблемы: 1) Для получения качественного ответа нужно грамотно составить цепочку промптов (по сути составить подробнейшее ТЗ с детальными инструкциями), грамотно предоставить контекст. 2) Нужно грамотно оценить результат, протестировать, вписать в систему и т.д. Извините, но мне проще и быстрее самому с нуля написать код, чем воевать с капризным LLM, уговаривая его делать точно то, что мне надо.

Слово "часто" выглядит преувеличением.

Нет, это не преувеличение. Дело не в том, что эти знания нечасто требуется применять напрямую, а в том, что инженер мыслит в этих категориях. В итоге, рассматривая даже какие-нибудь обыденные процессы, он мыслит в категориях производных, интегралов, или в категориях физических процессов (пример: алгоритм отжига) и т.д. В итоге, эти знания создают целостную картину и используются по сути всегда и везде.

Вы похоже не понимаете. Предполагается, что искусственный интеллект будет полный аналог естественного. Бизнесмен будет ему говорить то же, что он говорит программистам, и ИИ напишет софт так же, как это делают программисты.

На этот счет есть хорошая мем-картинка: что задумано - что получилось. Бизнесмен, как правило, не может выразить то, чего он на самом деле хочет. Если программист (живой) начнет тупо следовать его пожеланиям, в большинстве случаев это закончится провалом.

ИИ это и будет такой спец. Промпты это временное явление.

Не будет. ИИ - это не самостоятельное мышление (и это с натяжкой), а производное от человеческого. ИИ по сути может использоваться лишь в качестве помощника, а в полной мере лишь в развлекательной индустрии. Если же этих ограничений не понимать и начать применять большие модели везде (и не в качестве помощника, а как "лицо", принимающее решения), то кончится это плохо.

Если "математика, физика, схемотехника, алгоритмы" не нужны в работе ни инженерам, ни программистам, потому что "фреймворки", то каким образом знание этого позволит инженерам сохранить работу? Оно ведь по вашим словам в их работе не используется.

Не используется при работе по шаблонам, по подробным ТЗ, когда всё за программиста уже кем то разложено по полочкам, всё решено. Но шаг влево-вправо -- всё, тупик.

Например, можно взять какой-нибудь готовый модуль кластеризации и сходу использовать с параметрами по умолчанию. Любой справится (по готовым шаблонам и примерам). Но если необходимо подкрутить параметры под свою задачу, то сразу упираемся в необходимость знания высшей математики (хотя бы начальных знаний и понимания). То же относится и к статистике, теории вероятности и пр. Часто требуются знания лингвистики, физики, биологии, химии, да чего угодно - любых областей, в области которых ведется разработка программного обеспечения. Крайне желательно разбираться в области, для которой разрабатывается софт. Не глубокие, конечно, но хотя бы понимание сути. А для возможности разобраться в смежных темах, нужны базовые универсальные знания.

Но повторюсь, если всё уже кем то разжёвано и описывается шаблонами, то можно легко обойтись и без базы.

Вывод:

Инженерам ничего не грозит. Да и программисты, не имеющие инженерного образования, останутся, они наверняка будут востребованы мелким бизнесом: никакой бизнесмен не напишет софт даже с помощью супер-пупер ИИ. Даже с расчетом на ИИ нужен будет спец, который составит ТЗ, по нему промпты и потом проверит и протестирует результат.

Да, с этим аспектом согласен. Программисты без хорошей базы, без знания смежных областей, вероятно окажутся под ударом. И да, это касается вообще любых профессий. Например, бухгалтеров, юристов, с которыми я сталкивался, могу разделить на две категории: на формалистов и на тех, кто понимает суть. Первые ссылаются на цитату из нормативного акта, и зачастую даже не замечают, что их выводы, например противоречат объективной реальности, законам физики применительно к конкретной ситуации (у многих юристов такое частенько замечаю). Вторые видят целостную картину, понимают причинно-следственные связи, суть. Очевидно, первые окажутся под ударом, а вторые - нет.

Так что, по сути, программист - это подкласс инженера. Конкретное инженерное направление.

Я согласен с вашим мнением, но сейчас понятие "программист" трансформировалось в... так сказать оператора того или иного фреймворка. Базовые знания математики, физики, информатики, не говоря уж об электронике, схемотехнике, архитектурах вычислительных систем и подобном, многими считаются необязательными, ненужными. Смысл слова "программист" размылся и упростился, поэтому я бы его вообще не использовал.

Так инженеры исчезнут или программисты?

Термин инженер подразумевает системное образование. А вот с программистом сложнее... Многие сейчас считают, что современному программисту не нужны никакие фундаментальные знания (матиематика, физика, электроника, схемотехника, алгоритмы, архитектуры вычислительных систем и пр.). В принципе да, современные фреймворки позволяют скрыть эти плаcты знаний под капотом. В результате мы получаем на выходе дешевую рабочую силу - винтик на конвейер. И если процессы все хорошо расписаны, есть хорошее детальное ТЗ, то эти винтики будут хорошо работать. И в этой плоскости наверно можно ждать изменений в связи с ИИ.

Но что касается полноценных инженеров, то... ничего им не грозит. Скорее наоборот - они станут более востребованными.

Аналогия: есть водители автомобилей, есть автомеханики и есть конструкторы. Очевидно, что роботы полностью заменят только первых. А например конструкторов фиг заменишь. Роботизация уже давно туда проникла. Например, всякие кады с готовыми модулями, схемотехническими решениями, автоматическими расчетами... И что? Конструкторы стали не нужны? Нет, конструкторы остались на месте, изменились разве что уровни абстракции разработки.

Или медицину взять. Уже давно, еще в 90-х... суешь палец в аппарат и на выходе вылезает распечатка с десятками/сотнями показателями крови. Врачи исчезли? Нет, конечно. Даже медсестры и санитарки не исчезли.

С ИИ куча проблем, которые еще разгребать и разгребать. Например: авторские права на результат, вопросы ответственности и т.д. Но главная проблема заключается в том, что нейросеть - это черный ящик, не поддающийся (или очень плохо поддающийся) интерпретации. Поэтому в обязательном порядке необходим человек, который будет оценивать результат, и этот человек должен хорошо разбираться в теме.

Помню, сын по биологии сгенерил доклад по теме "одноклеточные организмы". Читаю... ИИ причислил к одноклеточным организмам в том числе и вирусы. Я обратил на это внимание, сын нет. Так что проблема интерпретации будет всегда.

В итоге, думаю, ничего страшного не произойдет. Вероятно всё это приведет к тому, что разработка будет вестись на более высоких уровнях абстракции, что, кстати, наверняка потребует более высокой квалификации, более глубокого понимания темы. В этом плане инженеры скорее наоборот - будут в шоколаде.

и склонен толковать ПД расширительно как все цифровые следы живого юзера

Важный критерий - "идентифицируемого" юзера. Тот факт, что вы (именно вы) присвоили... даже не юзеру, а его браузеру, номер не означает, что вы его идентифицировали или получили возможность его идентифицировать.

Давайте проведем эксперимент.

Посмотрите в окно, или выйдите на улицу, и начинайте всем проходящим мимо вас людям присваивать номера. Человек в красной куртке - №1, человек в черном пальто - №2 и т.д.

Вопросы:

1) Вы занимаетесь сбором персональных данных?

2) Такое присваивание случайным прохожим номеров позволяет идентифицировать их личность?

В общем, вот мы и добрались до Cookies. Главный вопрос тут — а это персональные данные? Да. А споры об их правовой природе и глубине их анонимизации оставим моим коллегам.

Имхо, это ключевой вопрос, причем ответ на него простой: сами по себе куки не могут быть персональными данными, как и например номерок в гардеробе театра. Это очевидно! Но в купе с настоящими персональными данными (аналогия: мы сложили настоящие ПД в папочку и ей присвоили номер/куку), то это, очевидно, уже сбор персональных данных с помощью кук.

Вывод: нельзя использовать зарубежные облачные cookie-сервисы, в первую очередь Google Analytics и reCaptcha.

По той же логике и гугл-шрифты нельзя использовать (а они используются на подавляющем большинстве сайтов) и загрузку js-скриптов, картинок и пр. со сторонних зарубежных ресурсов нельзя использовать. Короче, под нарушение локализации по такой логике можно притянуть наверно 90% всех сайтов рунета.

Чтобы соответствовать требованиям законодательства, вам надо показывать тот самый надоедливый баннер о сборе кук.  Это элемент 2 в 1: и форма предупреждения (информирования) о сборе данных, и форма акцепта.

А уже поздно пить боржоми, ведь еще до показа этого баннера-согласия вы уже использовали куку, что очевидно является нарушением, т.к. вы использовали куки еще до взятия согласия. Более того, саму обработку согласия/несогласия вы производите с помощью кук (или браузерного хранилища).

Так что без выяснения вопроса (в каждом случае) что является персональными данными, а что не является, подобные формальные умозаключения приводят к абсурду.

Если же к толкованиям подходить разумно, то абсурд можно исключить. Например:

При первом заходе на сайт (без регистрации на сайте), сами по себе куки не являются персональными данными (там лишь номер, который ваш сайт сгенерировал). Далее, при регистрации человек вводит свои настоящие персональные данные (ФИО, телефон, адрес и пр.) и соглашается с политикой обработки ПД, включая согласие с использованием кук для обработки его ПД. С этого момента куки уже привязаны к настоящим ПД и их уже логично считать персональными данными, а точнее - средством обработки персональных данных.

При таком толковании абсурд пропадает. Но придется признать, что куки (как и прочие данные) могут быть, а могут и не быть персональными данными.

Что-то с января вообще туго стало. Купил новую водянку, иду на зарубежный сайт с документацией - сайт не открывается, заблокирован. Хочу проверить бенчмарк на новом проце - geekbench не окрывается. Хочу открыть документацию к питонвской библиотеке sent transformer - фигушки. А opensearch чем насолил? По ощущениям не открывается каждый второй зарубежный сайт, причем эти сайты абсолютно безобидные, но при этом крайне необходимые для инженеров. Нельзя бить по площадям, нельзя пилить сук на котором сидишь. И удивляет потрясающее непонимание того факта, что интернет используется не только для развлечений, но прежде всего для работы.

rкоманды ctrl C + ctrl V, в терминале не работают, так что скопировать правой кнопкой мыши

<ctrl> вместе с <shift> + C/V надо нажимать в консоли, тогда работает. Еще проще - вставлять выделенное средней кнопкой мыши.

Вероятно, имеется ввиду ситуация, когда лицензия этого OpenSource не позволяет его использовать в коммерческих продуктах

Так это самое интересное. Там много нюансов. Например, когда напрямую встраивать этот код в свой продукт нельзя, но использовать как сервис можно.

Вы платите миллионы за продукт, а через год выясняется, что он написан на украденном коде или использует «запрещенный» Open Source.

Про Open Source не понял. Я не представляю себе продукта, где так или иначе не использовался бы Open Source. Начнем с того, что большинство языков программирования и их стандартные библиотеки оупенсорсные. Движки, фреймворки и пр. в большинстве своем тоже опенсорсные. Даже в основе андроида лежит оупенсорсный линукс, а в основе macos - оупенсорсная freebsd. Все стеки типа: Django/js/React - оупенсорсные.

Приведите пожалуйста примеры софта, где бы ни в каком виде (включая языки программирования) не использовалось бы опенсорсное ПО. Я не понимаю, о чем речь.

И почему нельзя использовать оупенсорсное ПО в коммерческих разработках? Многие оупенсорсные лицензии это позволяют.

Вот меня тоже достало... 50% англоязычных сайтов с тех документациями тупо не открываются или открываются на десятый раз. А мне срочно надо API посмотреть... Со всех сторон обложили. Наложили санкции с двух сторон, я как между молотом и наковальней.

Блокируют и очень часто. И дело не в политике. Я сам недавно заблокировал (почти) всю заграницу на своем сервере после нескольких ддос-атак на сайт. Ограничился настройками nginx. И это в моем случае сработало. Думаю, аналогично поступают многие - просто блокируют большинство стран (или все кроме своей), не разбираясь.

А есть разрешенные VPN? Пусть он блокирует запрещенные (в РФ) ресурсы, но главное, чтобы пускал к зарубежным ресурсам, которые нас заблокировали. Мне просто нужен доступ к технической документации по разным программным продуктам.

Процесс творческий, а результат не творческий? Вижу в этом противоречие.

У меня нет сомнений, что итеративный процесс с отбором (например, по композиции) - это творческий процесс и творческий результат.

И попросили их предоставить гуглу вы. )

Попросил у КОГО? У неиденфицированного лица? Вообще можно ли выполнить требования законодательства в области ПД в полном объеме, если личность не идентифицирована? Мне кажется, это невозможно. Мы уже на самом первом шаге упираемся в невозможность взять согласие ДО обработки таких технических данных как куки и IP. Т.е. формально нарушение будет в любом случае, как ни крутись.

и тут нужно ориентироваться на судебную практику

Ну вот я пока не видел ни одного дела, где наказали бы только за куки или ip сами по себе, без сбора каких-либо настоящих ПД.

при этом настроил этот сайт так, что пдн посетителя уехали в Гугл.

ПД то откуда взялись? У меня то нет никаких ПД. Сама по себе кука это еще не ПД. А если гугл где-то ранее у себя надыбал реальные ПД и имеет возможность их связать со своей кукой, то логично вопросы задавать к гуглу или к тому, у кого он взял настоящие ПД.

И как по IP вы идентифицируете личность? Предположим, я зашел когда то на ваш сайт - открыл главную страницу и сразу ушел... А потом прихожу к вам, говорю, что я Вася Пупкин и хочу получить от вас информацию, о хранящихся у вас ПД обо мне. И что вы будете делать? Как будете искать меня, Васю Пупкина, по своим логам? Кстати, а вы согласие с меня взяли, прежде чем мой ip адрес логгировать?

Короче, видите, к какому бреду мы приходим?...

1
23 ...

Информация

В рейтинге
5 443-й
Зарегистрирован
Активность