Ну если выдернуть из контекста - то да, возможно, странный. А так - действительно, любой код - потенциально опасен, но где-то риски приемлемы и, относительно, прогнозируемы, а где-то - сразу ред алерт.
Я, честно говоря, долго думал, копать дальше или нет. В итоге решил, что нет особого смысла, атаки ведь могут меняться, и прилетает опасная зависимость динамически, скорее всего. Главное - предупредить, чтобы никто не попадался на эту удочку, независимо от того, что там внутри на самом деле.
Ну и интервьюерам на заметку, если кто, возможно, без злого умысла решит, что это нормальная практика...
Это первая статья от HR на Хабре, которую я плюсанул за долгое время. Не то, чтобы я прямо со всем безоговорочно согласен, но удивило отсутствие откровенного кринжа и "смешариков".
Честно говоря, меня очень обескураживают комментарии к этой статье. И ваш тоже.
Кто-то начинает мне писать, что LLM != ИИ. Ну моя статья, собственно, об этом. Я писал о нейросетях вообще, и о том, что эволюция их архитектуры в сторону гибкости - слагаемое пути к AGI. Еще я указываю на то, что сам Эталон (человеческий разум) - вызывает много вопросов и очевидно имеет множество чисто технических ограничений по сравнению с машиной, что точно останется неизменным в ближайшее время. Но комментаторы пишут что угодно, кроме комментов на тему, которую я хотел подсветить и обсудить. Мне очень интересно, сколько комментаторов прочитало что-то кроме заголовка. Нейросети с выделением сути этого материала явно справляются лучше, я проверял.
Ну вы же пишете комментарий к конкретной статье, которая, буквально посвящена тому, что это не совсем так. Да, LLM должна быть частью AGI (речевой центр), но не единственной. Как и у живого мозга.
А с чего вы взяли, что у человека не эмуляция? По современным научным представлениям, этот вопрос никак нельзя считать закрытым. Для ИИ также доступен и внешний инструментальный контроль, как и самостоятельное до-обучение в процессе, необходимость которого определяется обратным распространением ошибки. Никаких фундаментальных лимитов я тут не вижу. Я и говорю о том, что все ИИ начали воспринимать именно как статичную LLM-модель, а это не совсем корректно уже даже сейчас.
Да, вопросы есть, но в общем, мы все видим чем-то похожее облако тегов за термином AGI. Вопросы возникают всегда и со всем. Я просто поделился своими мыслями на этот счет.
И, снова, продолжаете прелюдией. На мой скромный взгляд, для программиста, элементарная логика - это и есть та самая База, которой вам, очевидно, не хватает.
Я бы не придирался к подобной ерунде, если бы статья не была посвящена придиркам к ерунде.
А почему тогда статьи на Хабре так коряво переведены?
Человек, в общем случае, переведет гораздо корявее, если не обладает глубокими знаниями в предметной области. Оригинальный контент, посвященный действительно сложным штукам, может хорошо перевести либо сам автор, либо ИИ под присмотром автора. С переводчиком-человеком, даже очень хорошим, эта задача просто затянется надолго.
Крипта - мой основной финансовый инструмент, на сегодняшний день. И не потому, что я какой-то крипто-панк или проворачиваю сомнительные схемы. У меня, как и у многих других, просто нет доступных альтернатив. Но я живу в стране, где криптовалюты легальны и признаны полноценным платежным средством, наравне с национальной валютой.
Поэтому, справедливости ради, блокчейн - еще как выстрелил и давно перешел в область ежедневного практического применения. Массово. Я, буквально, покупаю еду за USDT.
Нонсенс. Доказать невозможность AGI математически можно только для ОПРЕДЕЛЕННОЙ архитектуры. Заведомо неоптимальной, ибо куда девать факт существования наших мозгов?
Я каждый день работаю с ИИ и вижу его слабые стороны, вижу тренды его развития.
Вы на Хабре, тут большинство работает с ИИ. А некоторые, даже заняты в решении фундаментальных задач из этой области. В некотором смысле, я отношу себя к этим некоторым. Поэтому оценка "немного больше, чем раньше" мне кажется абсурдной. Разница колоссальная, и приправлена кучей эмерджентных эффектов, которые нам только предстоит осознать.
Сможете привести пример фразы, которую Chat GPT переведет неверно, при наличии контекста, с которой переводчик-человек справился бы лучше?
Я много работал с профессиональными техническими писателями и переводчиками, и встречал множество ошибок, допущенных ими. И я считаю, что машина давно и полностью доминирует в этой области, как по скорости так и по качеству перевода.
Многое из того, что происходит сегодня, уже происходило в прошлом.
Такого количества качественных и количественных изменений не происходило НИКОГДА в прошлом. Никогда раньше машина не превосходила человека в решении ТАКОГО количества задач, которые мы считали исключительно "интеллектуальными". Никто не изобретает перцептрон заново, люди ушли далеко вперед. Меня искренне удивляют адепты секты "Ничего нового", которые носят суперкомпьютеры в кармане, но продолжают ментально копаться в "старых библиотечных карточках".
Ну если выдернуть из контекста - то да, возможно, странный. А так - действительно, любой код - потенциально опасен, но где-то риски приемлемы и, относительно, прогнозируемы, а где-то - сразу ред алерт.
Я, честно говоря, долго думал, копать дальше или нет. В итоге решил, что нет особого смысла, атаки ведь могут меняться, и прилетает опасная зависимость динамически, скорее всего. Главное - предупредить, чтобы никто не попадался на эту удочку, независимо от того, что там внутри на самом деле.
Ну и интервьюерам на заметку, если кто, возможно, без злого умысла решит, что это нормальная практика...
Репа же приватная. Доступ они дают прямо во время интервью. Ну и распространять ссылки на опасный код - не самая хорошая идея, наверное.
Это первая статья от HR на Хабре, которую я плюсанул за долгое время. Не то, чтобы я прямо со всем безоговорочно согласен, но удивило отсутствие откровенного кринжа и "смешариков".
https://rnd-pro.com/symbiote/ - библиотека для создания виджетов и микрофронтендов
https://github.com/rnd-pro/cloud-images-toolkit - инструмент для публикации, управления и совместной работы с коллекциями изображений для веб-разработчиков
Честно говоря, меня очень обескураживают комментарии к этой статье. И ваш тоже.
Кто-то начинает мне писать, что LLM != ИИ. Ну моя статья, собственно, об этом. Я писал о нейросетях вообще, и о том, что эволюция их архитектуры в сторону гибкости - слагаемое пути к AGI. Еще я указываю на то, что сам Эталон (человеческий разум) - вызывает много вопросов и очевидно имеет множество чисто технических ограничений по сравнению с машиной, что точно останется неизменным в ближайшее время. Но комментаторы пишут что угодно, кроме комментов на тему, которую я хотел подсветить и обсудить. Мне очень интересно, сколько комментаторов прочитало что-то кроме заголовка. Нейросети с выделением сути этого материала явно справляются лучше, я проверял.
Ну вы же пишете комментарий к конкретной статье, которая, буквально посвящена тому, что это не совсем так. Да, LLM должна быть частью AGI (речевой центр), но не единственной. Как и у живого мозга.
Простите, а где я пишу, что путь это именно LLM?
А с чего вы взяли, что у человека не эмуляция? По современным научным представлениям, этот вопрос никак нельзя считать закрытым. Для ИИ также доступен и внешний инструментальный контроль, как и самостоятельное до-обучение в процессе, необходимость которого определяется обратным распространением ошибки. Никаких фундаментальных лимитов я тут не вижу. Я и говорю о том, что все ИИ начали воспринимать именно как статичную LLM-модель, а это не совсем корректно уже даже сейчас.
В Аргентине. Еда по подписке.
Откуда такие сведения? Есть ссылка на какую-то статистику?
Уже целые государства используют крипту для части своих резервных фондов. А вы где-то увидели обратную тенденцию...
Да, вопросы есть, но в общем, мы все видим чем-то похожее облако тегов за термином AGI. Вопросы возникают всегда и со всем. Я просто поделился своими мыслями на этот счет.
Мы ведь о переводчиках говорим? Переводчик может обладать глубокими знаниями во всем, что он переводит?
Вы начинаете с прелюдии, потом пишете:
И, снова, продолжаете прелюдией. На мой скромный взгляд, для программиста, элементарная логика - это и есть та самая База, которой вам, очевидно, не хватает.
Я бы не придирался к подобной ерунде, если бы статья не была посвящена придиркам к ерунде.
Человек, в общем случае, переведет гораздо корявее, если не обладает глубокими знаниями в предметной области. Оригинальный контент, посвященный действительно сложным штукам, может хорошо перевести либо сам автор, либо ИИ под присмотром автора. С переводчиком-человеком, даже очень хорошим, эта задача просто затянется надолго.
Крипта - мой основной финансовый инструмент, на сегодняшний день. И не потому, что я какой-то крипто-панк или проворачиваю сомнительные схемы. У меня, как и у многих других, просто нет доступных альтернатив. Но я живу в стране, где криптовалюты легальны и признаны полноценным платежным средством, наравне с национальной валютой.
Поэтому, справедливости ради, блокчейн - еще как выстрелил и давно перешел в область ежедневного практического применения. Массово. Я, буквально, покупаю еду за USDT.
Нонсенс. Доказать невозможность AGI математически можно только для ОПРЕДЕЛЕННОЙ архитектуры. Заведомо неоптимальной, ибо куда девать факт существования наших мозгов?
Ну, думаю, примерно столько же, сколько длится "хайп" вокруг электричества. ИИ - это просто наша новая реальность, а последствия трудно предсказать.
Вы на Хабре, тут большинство работает с ИИ. А некоторые, даже заняты в решении фундаментальных задач из этой области. В некотором смысле, я отношу себя к этим некоторым. Поэтому оценка "немного больше, чем раньше" мне кажется абсурдной. Разница колоссальная, и приправлена кучей эмерджентных эффектов, которые нам только предстоит осознать.
Сможете привести пример фразы, которую Chat GPT переведет неверно, при наличии контекста, с которой переводчик-человек справился бы лучше?
Я много работал с профессиональными техническими писателями и переводчиками, и встречал множество ошибок, допущенных ими. И я считаю, что машина давно и полностью доминирует в этой области, как по скорости так и по качеству перевода.
Такого количества качественных и количественных изменений не происходило НИКОГДА в прошлом. Никогда раньше машина не превосходила человека в решении ТАКОГО количества задач, которые мы считали исключительно "интеллектуальными". Никто не изобретает перцептрон заново, люди ушли далеко вперед. Меня искренне удивляют адепты секты "Ничего нового", которые носят суперкомпьютеры в кармане, но продолжают ментально копаться в "старых библиотечных карточках".