Истинно так. Только представьте сколько идей, которым раньше не суждено было быть реализованными, теперь воплотятся? И не все они будут бесполезными, уверен ИТ индустриию ждет только рост, она будет собирать все больше экономической ценности в себе. Паникеры просто не видят картины )
Есть такие языки программирования (зависимые типы), в которых сформулировать как должно работать - практически и есть реализация. Вы уверены что между этими понятиями есть разница?
Траектория развития ИИ не столь очевидна как может показаться. Если посмотрите на график роста вычислительных затрат на обучение топовых LLM - то становится очевидно что поддерживать его такими темпами удастся максимум еще 2-4 года, дальше это становится намного сложнее. Если за этот срок не удастся получить модель превосходящую хороших сеньоров, то страхи из статьи могут реализоваться совсем иначе. Я даже склонен думать что либо дойдет до уровня рекурсивного самосовершенствования, и тогда потеря профессии может оказаться не самой большой проблемой. Либо не дойдет и даже хороших сеньоров заменить не сможет, и тогда еще поживем. Но тогда оно свернет в другую сторону, в автоматизацию реального мира, что-бы пробить экономический и производственный барьер для наращивания вычислительных мощностей и дальнейшего прогресса.
А я и все коллеги кодим при помощи них каждый день уже давно. И у кого руки прямые - у того все прекрасно поддерживаемое получается и во всех отношениях быстрее и лучше чем самому писать. Если вы видели 0 примеров - не значит их нет. Проблема в Ваших менеджерах, которые решили что это не инструмент ускоряющий профессионалов а замена им, меняйте менеджеров.
10 000 это с 95% вероятностью, а 50/50 сроки уже намного меньше, примерно сотни лет. При нашей жизни выходит шанс процентов 5, не так уж мало на самом деле.
У вас что нет доступа к современным моделям? Как можно не замечать насколько огромные возможности они уже дают? Вы никогда не писали код с помощью LLM? Хайп сопровождает любую быстро развивающуюся технологию, но отрицать реальную пользу очень странно.
Ваш ответ не аргументирован, но все же отвечу. Чтобы из "что известно" получить "что будет", нужно предположить какую-то связь между ними. Представление об этой связи и есть модель.
Любое обоснованное предсказание опирается на модель, явную или неявную.
LLM учат предсказывать следующий токен в текстах которые писали люди. Что-бы предсказать что следующее напишет человек, надо иметь модель его мышления, пусть и приближенную.
Процессы в этой модели можно назвать "пониманием", раз уж процессы в моделируемой системе называем "пониманием". Так же как называем например "падением" соответствующий процесс в физической модели, хотя там ничего не падает а биты переставляются.
Это шовинизм, пока не вижу признаков что он фундаментально не способен что-то понять, каждая следующая модель понимает все лучше и лучше. Единственный фундаментальный изъян который я вижу - отсутствие собственной мотивации. Есть бесчисленное множество того к чему можно приложить интеллект, но пока лишь человек может привнести в это смысл.
Странное какое-то противопоставление ИТ и фундаментального образования. Чем ИТ не фундаментальное? Если бы он написал не идите на 3х месячные курсы JavaScript - я бы его понял. Ах да, еще ИИ уже ставним с топовыми математиками, видимо на математиков тоже уже учится не стоит. Наверно пора идти учиться на фундаментальных сварщиков или фундаментальных сантехников.
Как объяснить агенту, например, какую игру я хочу сделать? Если идея особенная, а не копия уже чего-то существующего, то можно написать ему огромное число промптов - он все равно не до конца понимает что я хочу сделать. И если потом не следить и не проверять что он делает - он в какой-то момент свернет не туда. Когда я это обнаружу придется много переделывать, придется разбираться что же он там навабкодил и как это исправить. В общем, все то про что написано в статье. Но ведь с людьми же так же, нанятые сотрудники тоже не до конца понимают что от них хотят. Мне кажется тут проблема не в ИИ, а в людях которые получили в руки инструмент который делает быстро и без лишних вопросов, но не научились ему объяснять что им надо. Они бы и с людьми написали такое же говно, если бы им кто-то дал раньше столько ресурсов.
Это называется говнокод, ИИ пишет его быстрее, но и быстрее доводит до порога где он сам уже разобраться не может. По моим наблюдениям даже Астра на максималках совершает много архитектурных ошибок, а более старые модели были еще хуже.
Ну так напишите ему "делай хорошо" один раз в настройках. И такое уже написано в скрытой для нас части промпта, вместе с запретом на расизм т.п. Писать каждый раз "не положи прод" довольно странно умному агенту которому уже сказали "сделай то что просит пользователь хорошо, так что-бы он не расстроился". Умный агент поймет по контексту разговора что пользователь расстроится если прод ляжет.
Если любые возможные 2^1000 вариантов ответа она сузила до 2^10 допустимых вариантов ответа - значит она очень много знает о персонаже, можно сказать практически угадала что он напишет и воспроизвела его мышление.
Вы же ему не пишите "не вздумай рассказывать мне анекдот вместо того что-бы делать то что я попросил"? А чем такой промпт принципиально отличается от того что бы просить "не положить прод"? В обоих случаях просите не делать что-то что не просили. Способность предсказывать напрямую связана со способностью эмулировать. Трансформер учат именно предсказывать, то-есть внутри у него есть что-то что может хотя-бы приближенно предсказать что может следующее написать человек. А его учат предсказывать то что напишет не один человек а любой, оно должно уметь эмулировать любого человека, как актер который умеет играть любые роли. И потом надо только заставить его играть роль очень умного и усердного человека, а не алкаша в подворотне.
Истинно так. Только представьте сколько идей, которым раньше не суждено было быть реализованными, теперь воплотятся? И не все они будут бесполезными, уверен ИТ индустриию ждет только рост, она будет собирать все больше экономической ценности в себе. Паникеры просто не видят картины )
Есть такие языки программирования (зависимые типы), в которых сформулировать как должно работать - практически и есть реализация. Вы уверены что между этими понятиями есть разница?
А может сам бизнес, где менеджер (не особо разбирающийся в технологиях) придумывает задачи скоро станет никому не нужен?
Что он может придумать? Новое придожение для людей, в мире где всю ценность производят машины?
Прогнозы дело неблагодарное.
Траектория развития ИИ не столь очевидна как может показаться. Если посмотрите на график роста вычислительных затрат на обучение топовых LLM - то становится очевидно что поддерживать его такими темпами удастся максимум еще 2-4 года, дальше это становится намного сложнее. Если за этот срок не удастся получить модель превосходящую хороших сеньоров, то страхи из статьи могут реализоваться совсем иначе.
Я даже склонен думать что либо дойдет до уровня рекурсивного самосовершенствования, и тогда потеря профессии может оказаться не самой большой проблемой. Либо не дойдет и даже хороших сеньоров заменить не сможет, и тогда еще поживем. Но тогда оно свернет в другую сторону, в автоматизацию реального мира, что-бы пробить экономический и производственный барьер для наращивания вычислительных мощностей и дальнейшего прогресса.
А я и все коллеги кодим при помощи них каждый день уже давно. И у кого руки прямые - у того все прекрасно поддерживаемое получается и во всех отношениях быстрее и лучше чем самому писать. Если вы видели 0 примеров - не значит их нет.
Проблема в Ваших менеджерах, которые решили что это не инструмент ускоряющий профессионалов а замена им, меняйте менеджеров.
Если дать обезьяне экскаватор - она не дорогу построит, а газоны перекопает и машины на парковке побъет.
Ваши аргументы основаны не на том что инструмент плохой, а на том что люди не умеют им пользоваться. Но не умеют не все.
10 000 это с 95% вероятностью, а 50/50 сроки уже намного меньше, примерно сотни лет. При нашей жизни выходит шанс процентов 5, не так уж мало на самом деле.
Есть очень любопытный Аргумент судного дня, который говорит что скорее всего человечество просуществует не долго. Не ждем а готовимся!
У вас что нет доступа к современным моделям? Как можно не замечать насколько огромные возможности они уже дают? Вы никогда не писали код с помощью LLM?
Хайп сопровождает любую быстро развивающуюся технологию, но отрицать реальную пользу очень странно.
Ваш ответ не аргументирован, но все же отвечу.
Чтобы из "что известно" получить "что будет", нужно предположить какую-то связь между ними. Представление об этой связи и есть модель.
Любое обоснованное предсказание опирается на модель, явную или неявную.
LLM учат предсказывать следующий токен в текстах которые писали люди. Что-бы предсказать что следующее напишет человек, надо иметь модель его мышления, пусть и приближенную.
Процессы в этой модели можно назвать "пониманием", раз уж процессы в моделируемой системе называем "пониманием". Так же как называем например "падением" соответствующий процесс в физической модели, хотя там ничего не падает а биты переставляются.
Это шовинизм, пока не вижу признаков что он фундаментально не способен что-то понять, каждая следующая модель понимает все лучше и лучше.
Единственный фундаментальный изъян который я вижу - отсутствие собственной мотивации. Есть бесчисленное множество того к чему можно приложить интеллект, но пока лишь человек может привнести в это смысл.
Странное какое-то противопоставление ИТ и фундаментального образования. Чем ИТ не фундаментальное? Если бы он написал не идите на 3х месячные курсы JavaScript - я бы его понял.
Ах да, еще ИИ уже ставним с топовыми математиками, видимо на математиков тоже уже учится не стоит. Наверно пора идти учиться на фундаментальных сварщиков или фундаментальных сантехников.
Как объяснить агенту, например, какую игру я хочу сделать?
Если идея особенная, а не копия уже чего-то существующего, то можно написать ему огромное число промптов - он все равно не до конца понимает что я хочу сделать. И если потом не следить и не проверять что он делает - он в какой-то момент свернет не туда. Когда я это обнаружу придется много переделывать, придется разбираться что же он там навабкодил и как это исправить. В общем, все то про что написано в статье.
Но ведь с людьми же так же, нанятые сотрудники тоже не до конца понимают что от них хотят. Мне кажется тут проблема не в ИИ, а в людях которые получили в руки инструмент который делает быстро и без лишних вопросов, но не научились ему объяснять что им надо. Они бы и с людьми написали такое же говно, если бы им кто-то дал раньше столько ресурсов.
Это называется говнокод, ИИ пишет его быстрее, но и быстрее доводит до порога где он сам уже разобраться не может. По моим наблюдениям даже Астра на максималках совершает много архитектурных ошибок, а более старые модели были еще хуже.
Ну так напишите ему "делай хорошо" один раз в настройках. И такое уже написано в скрытой для нас части промпта, вместе с запретом на расизм т.п.
Писать каждый раз "не положи прод" довольно странно умному агенту которому уже сказали "сделай то что просит пользователь хорошо, так что-бы он не расстроился". Умный агент поймет по контексту разговора что пользователь расстроится если прод ляжет.
Ну она знает что он человек а не капибара - это уже куча информации, еще язык на котором он пишет - еще больше информации, и т.д.
Если любые возможные 2^1000 вариантов ответа она сузила до 2^10 допустимых вариантов ответа - значит она очень много знает о персонаже, можно сказать практически угадала что он напишет и воспроизвела его мышление.
Вы же ему не пишите "не вздумай рассказывать мне анекдот вместо того что-бы делать то что я попросил"? А чем такой промпт принципиально отличается от того что бы просить "не положить прод"? В обоих случаях просите не делать что-то что не просили.
Способность предсказывать напрямую связана со способностью эмулировать. Трансформер учат именно предсказывать, то-есть внутри у него есть что-то что может хотя-бы приближенно предсказать что может следующее написать человек. А его учат предсказывать то что напишет не один человек а любой, оно должно уметь эмулировать любого человека, как актер который умеет играть любые роли. И потом надо только заставить его играть роль очень умного и усердного человека, а не алкаша в подворотне.
Если бы это было невозможно - ллмки бы не работали. Частичное предсказание - тоже предсказание.