Pull to refresh

Comments 322

Не знаю, как насчет вымирания программирования (скорее всего вряд ли), а вот качественные статьи (не берите на свой счет), действительно могут легко затеряться в море бесполезного генеративного контента, что действительно можно сравнить с их вымиранием.

Давно замечаю за собой, что не читаю статьи, а сразу захожу в комментарии. Наверное это форма генеративной слепоты, хочется читать что люди пишут. Извините что я им подсказал.

Я уже на пути к этому. Перечитываю начало и конец каждого абзаца, а потом ныряю в коменты 😁

Также). Думаю что причина в наметанном глазе и опыте. Уже просто сложно удивить

Статья автора - это полное погружение в мир современных технологий! Я в восторге от того, насколько качественно и доступно автор раскрывает тему. Это как путешествие в удивительный мир цифрового прогресса, где каждая деталь тщательно проработана. Статья не просто информативна, она вдохновляет и мотивирует к изучению IT-сферы. Браво за такую увлекательную подачу информации!

Как-то слишком позитивно сгенерировалось

На некоторых ресурсах (судя по хвалебному тону) комментарии тоже генерируют боты.

Наглядно что аж режет мне видится на примере комментов в Сбермегамаркете) Многословно, структурировано и слишком правильно)

спасибо яндексу, краткий пересказ позволяет быстро "глянуть" о чем речь, но, разумеется, он применяется уже после комментов. )) Осталась дождаться краткого пересказа реакции аудитории и индивидуальной подстройки этих "пересказов" и статьи для меня будут выглядеть примерно так: " Эта статья ниачом, хайп на теме такой-то, ну и реклама телеги автора, камментов много, есть прикольные, с ними можно ознакомится. А эта статья неплоха, автор шарит в теме такой-то, подробно разбирает детали и делает такие-то выводы, в комментариях мнения разделились, идут жаркие споры".

На Ютубе уже есть обобщение комментариев по темам кстати! Но пока на английском только

это форма генеративной слепоты

Да вряд ли. Это (переход к комментам) всегда было так. Статья это "вода"+"очевидные вещи"+"пара спорных косяков и интересных вещей". Комментаторы в своем комменте очищают статью от первых двух вещей, поэтому основной акцент статьи проще увидеть в комментариях, которые по сути краткая рецензия.

Статья это "вода"+"очевидные вещи"

Нет разницы какая нееросеть (углеродная или кремниевая) генерирует воду. Слепота возникает именно к этой воде, поэтому и генеративная.

Во, оказывается я не одинок. Тоже давно, еще до бума жпт ботов заметил, что сначала читаю заголовок, если он интересен иду в комментарии, а если по комментриям статья стоящая, то читаю ее. Но чаще останавливаюсь на комментариях.

не читаю статьи, а сразу захожу в комментарии. 

бывает даже комментирую, не читая статьи..

Только если статья не писалась чатботом (что, похоже, стало редкостью)

Вот совсем не обязательно. О содержимом статьи можно составить представление по другим комментам. И ответный годный коммент может быть не по статье, а по теме статьи (коммента).

и как показывают наблюдения, комменты в основном пишутся на комменты, а не на статью.

Итого: публикуем название статьи и начинаем комментировать))

Это сработает только пока ИИ до написания комментариев не доберется ))

Я считаю, что статья представляет собой предвзятую и недостаточно обоснованную точку зрения на влияние ИИ на профессию программиста. Она преувеличивает опасность полного исчезновения работы для программистов из-за развития ИИ, не учитывая, что ИИ может стать дополнительным инструментом, а не заменителем.

Статья предполагает, что ИИ может полностью заменить классические компьютерные науки, что, на мой взгляд, является неправдоподобным. ИИ может автоматизировать некоторые задачи, но это не означает, что программисты станут безработными. Вместо этого, они могут переключиться на более сложные и творческие задачи, которые требуют человеческого творчества и интуиции.

Кроме того, Статья предлагает обучение и гибкость мышления как решение для будущего. Это может быть полезным, но она не объясняет, как именно эти навыки могут помочь программистам адаптироваться к ИИ. Например, она не обсуждает, как программисты могут использовать ИИ для улучшения своих рабочих процессов или как ИИ может помочь в разработке новых технологий.

да, сначала через яндекс аи прогнал получил краткое содержание, затем в чат гпт, напиши коментарий, о данной статье )) все ради мема

не берите на свой счёт(берите)

Я думаю решением этой проблемы станет социальная сеть, ориентированная на подтверждение участниками друг друга, что они являются реальными людьми. У каждого аккаунта будет свой вес в диапазоне от 0.0 до 1.0, чем он выше - тем выше вероятность, что он является человеком. Вес аккаунта будет рассчитываться на основа количества других участников, которые подтверждают его человечность. А также на основе личных весов этих участников, так что насоздавать миллион ботов и нафармить кому-то "человечность" не выйдет - у ботов будет вес в районе нуля и их голоса не будут стоить ничего.

У каждого аккаунта будет своя цифровая подпись и в мире недалёкого будущего вообще станет хорошим тоном всегда подписывать свои статьи, если хочешь, чтобы их хоть кто-то читал. Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.

А в будущем, когда искусственный интеллект разовьётся до обретения разумности, он тоже начнёт пользоваться этой сетью, но оценивать уже наоборот: 0.0 это информация заслуживающая доверия, ибо вышла из-под пера Машины, а 1.0 это мусор за авторством несовершенных и подверженных эмоциям людишек.

Любопытно будет поглядеть на такое "перетягивание каната", главное дожить.

Небольшая ферма живых людей нафармит все как надо нужным аккаунтам. И заминусует ненужные.

Это все не работает на сколь либо большом масштабе. Слишком просто и дешево накручивается как надо.

Это можно законтрить путём ввода дополнительной галки или коэффициента "заслуживает доверия".

Да, человек может поучаствовать в накрутке, но только до первого скандала, когда это выплывет наружу. После чего он теряет доверие и вес его голоса становится равным нулю.

Важный момент: галка доверия хранится не в целевом аккаунте, а у пользователя и относительно каждого чужого аккаунта она отдельная. Это позволяет подстраивать алгоритм доверия по усмотрению пользователя. Кто-то будет непрощающим и полностью лишать доверия после первой же оплошности. Кто-то будет давать 2-3 шанса на случай ошибки или взлома компьютера и попытки подставить. А кто-то вообще будет абсолютно прощающим в отношении определённого человека, например оппозиционного политического деятеля, которому он полностью доверяет и знает, что власть имущие будут ломать его комп и пытаться очернить постоянно.

Если тренд на снижение анонимности продолжится и она в будущем совсем умрёт и всё будет открыто, вы сможете настроить у себя автоматическое и мгновенное понижение доверия к людям, которые связались с политической или коммерческой структурой, которая, как вам известно, занимается ботоводством или очернением неугодных.

Богатство и глубина алгоритмов, которые вы можете тут реализовать, просто безгранично.

И это будет отличным подспорьем в развитии института репутации, которого так не хватает во многих странах.

Это работает в обе стороны.

Организованная группа людей на зарплате сделает тоже самое с теми кто их минусовать будет. Только массово и согласованно. И аккаунтов у них будет столько сколько нужно. Это работа, купят им аккаунтов.

А вот простых людей быстро отменят. Просто за не то мнение. Карма на Хабре это доказывает. Любой небольшой скандал и обычные люди будут без доверия, в ботоферма спокойно сделает еще тысяч 10 аккаунтов.

Мне кажется вы не совсем понимаете принцип действия сети доверия. Речь не о том, чтобы запретить враждебным вам людям или группам людей выполнять их злонамеренные действия. В том то и дело, что они могут делать что угодно: заводить хоть тысячу хоть миллион хоть миллиард бот-аккаунтов. Они могут подкупать маргинальных личностей и заставлять их голосовать их за очеловечивание бот-аккаунтов. Но это всё не будет оказывать на вас никакого влияния и не изменит вашей поисковой выдачи, т.к. по умолчанию у вас отсутствует доверие ко всем новым и неизвестным аккаунтам.

Пример с кармой на хабре не подходит, потому что она совсем про другое. Карма эта игра с нулевой суммой: действия ваших врагов обнуляют усилия ваших друзей и наоборот. Да и карма находится в неподконтрольной вам юрисдикции (у админов сайта), так что может быть отредактирована просто запросом в недоступной вам БД без возможности как-то вам на это повлиять и даже вообще как-то это заметить (например если карма будет скручиваться незаметно для вас по 1 баллу в день).

В сети же доверия лживые статьи ваших врагов не удаляют правдивые статьи ваших друзей и не снижают их доступность для вас, и те и другие существуют параллельно. И это не вам нужно предпринимать усилия, чтобы отбиться от статей врагов, это врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас. А сделать это можно только через установление цепочки доверия между врагом и вами, причём не одной цепочки, а многих, т.к. одна одна вредная цепочка через 1 вашего скомпрометированного друга на фоне существования сотни полезных не повлияет решительно на вашу выдачу. Врагам придётся массово компроментировать ваших друзей. Сами понимаете насколько это трудный, долгий процесс. Но что самое плохое для врагов - это всё не имеет смысла, факт компроментации в сети, где всё открыто, мгновенно вычисляется и вы лишаете доверия вашего друга, обнуляя многомесячные усилия ваших врагов.

И враги не смогут "отменить" неугодного им человека (вас или вашего друга), т.к. в такой сети нет регулирующего органа, который можно купить или захватить. Что могут сделать враги - это лишить для себя доверия неугодного, но это повлияет только на самих врагов. Человек по-прежнему сможет спокойно выпускать статьи и его друзья будут их без проблем получать.

1) Сеть доверия состоит из людей. Люди бывают двух видов.

1.1) Люди первого вида ленивы, заняты своей работой, не имеют времени на имитацию доверия и репутации. Им надо построить теплицу, вырастить помидоры, повесить качели для ребёнка, выгулять собаку и купить билеты в театр. Вы можете доверять этим людям, однако не получите от них никакой информационной пользы.

1.2) Люди второго вида работают на заказчика. Для этого они создают новые и выращивают старые аккаунты, пишут посты и комментарии, накапливают рекомендации. Они создают информационную пользу, после чего могут управлять вашим мнением через имитацию сети доверия.

Вы можете доверять (1.1), однако результата не появится. Вы можете отказаться от (1.2), однако заодно откажетесь от результата.

2) В карме Хабра действия врагов всегда сильнее, чем действия друзей. Поэтому нельзя видеть в этом нулевую сумму. Причина не обязательно в том, что врагов много или враги злобны. Может оказаться проще. Карму понижают, потому что аккаунт сделал что-то неприятное, и оставляют прежней, когда аккаунт сделал что-то приятное. Поэтому органическая карма будет случайно, иногда понижаться, однако никогда не повышаться.

Мне сильнее всего понизили карму, когда я посмел сказать, что сотрудники телевизионных компаний запрещают использовать свой контент, хотя сами получают его бесплатно, ничего не уплачивая информантам и спикерам.

3) Если карма будет понижаться по 1 баллу в день, начиная с десяти — то через полторы недели она придёт в ноль. Это будет очень заметно. Если же вы отсчитываете от кармы в 200, тогда знайте, таких аккаунтов очень мало. Поэтому модель с кармой 10 релевантна, а модель с кармой 200 нерелевантна.

4) Вернёмся к началу рассуждения. В сети доверия лживые статьи ваших врагов (1.2) вам не видны, это правда. Но правдивые статьи ваших друзей тоже не видны, потому что ваши друзья (1.1) не пишут никаких статей. У них другая забота.

5) Вы правильно пишете, что "врагам нужно предпринимать усилия, чтобы хоть как-то донести свои статьи для вас". Они так и делают. Однако вместо "установления цепочки доверия" враги (1.2) просто пишут статьи, тогда как друзья (1.1) ничего не пишут. Конечно, вы можете лишить их доверия, однако в результате придётся лишить доверия всех плодовитых авторов.

6) Вы правильно пишете, что если друг (1.1) будет выпускать статьи, тогда его друзья станут их без проблем получать. Остаётся, однако, вопросом, кто же будет содержать вашего друга, если он бросит работу, уйдёт из семьи и будет бесплатно писать доверенные статьи. Зачем ему такая работа без зарплаты? Зачем ему репутация, которая не пригодится в его слесарной работе?

Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.

Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.

На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.

Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.

Приведу пример как это в моём понимании будет работать.

Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.

Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ставите лайки. Информацию от плоскоземельщиков игнорируете.

Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. Во главе круглоземельщиков стоит некий Стивен Хокинг, кто это вы пока не знаете. Но у него богатый послужной список: обучение в престижном университете, работы в солидных конторах, видеоролики с его участием и многочисленные упоминание в СМИ (рейтинг СМИ это тоже отдельная тема). Более того, человечность этого специалиста подтверждают его многочисленные коллеги, каждый тоже с богатым послужным списком, и он подтверждает их.

Вероятно я подобрал не совсем удачный термин. Под друзьями я имел в виду не ваших лично друзей, с которыми вы дружите в реальной жизни.

Тут надо сделать отступление и прояснить: система доверия решает проблемы на нескольких уровнях. Если говорить о базовом, назовём его нулевой, она помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.

На более высоком, первом уровне, сеть доверия (или другая сеть, созданная на её основе) помогает вам отфильтровать контент (от реальных людей) по вашим интересам и взглядам.

Так вот в первом случае "друг" это любой реальный человек, который, как и вы, принципиально очеловечивает только настоящих людей. Вы с ним на одной стороне баррикад в противостоянии человек vs машины. Во втором случае друг это более узкое понятие - это любой реальный человек, тоже очеловечивающий только людей, но при этом разделяющий ваши интересы в какой-то сфере. Вы не обязательно должны быть знакомы лично (можно иметь связь лишь через несколько рукопожатий), более того, человек может даже не знать о вашим существовании, т.к. цепочка доверия тянется от вас к нему.

Приведу пример как это в моём понимании будет работать.

Допустим общество будущего расколото сторонниками того, что Земля круглая и Земля плоская. На стороне первой теории учёные. На стороне второй - могущественная и богатая корпорация Плоской Земли, которая хорошо зарабатывает на этой теме. Т.к. корпорации невыгодно, чтобы её теория подвергалась сомнению, она активно генерит тысяч ботов, нейросетями генерит миллионы статей в подтверждение плоскости Земли и выпускает их от имени ботов. Плюс десятками подкупает люмпенов за бутылку водки и заставляет их очеловечивать ботов. В целом доступный в Сети объём информации в пользу плоскости на несколько порядков превышает объём информации в пользу круглости.

Ситуация 1. Вы хорошо учились в школе (или имеете какой-то иной бэкграунд по данной теме) и у вас есть убеждение, что Земля круглая. Вы сразу идёте в раздел сторонников Круглой Земли, подписываетесь на них, ставите лайки. Информацию от плоскоземельщиков игнорируете.

Ситуация 2. Посложнее. Вы вообще без понятия какой формы Земля и хотите разобраться в вопросе с нуля. Информации от плоскоземельщиков гораздо больше, так и хочется ей поддаться и поверить. Стоп. Отключаем эмоции, чтобы не допустить когнитивного искажения, при котором хочется верить более часто встречаемой информации. Включаем критическое мышление (полезный навык уже сейчас, в будущем он станет вообще обязательным), начинаем анализировать. И к кластеру этих учёных мужей идёт множество связей от спецов уровнем пониже, каждый из которых с реалистичной историей и учёной деятельностью. Всё это выглядит очень убедительно. Ну а главное - информация о круглой Земле отлично бьётся с многими другими свидетельствами, которые вы можете проверить лично (вроде круглого Солнца и Луны)

А у что у их противников? Какой-то нонейм лидер с непонятно каким образованием, тоже какие-то нонеймы его подтверждающие, с фотографиями из фотостока. А на нижних уровнях этой иерархии люди маргинального вида, с интересами "бухнуть по пятницам" и "посмотреть телевизор", но при этом что-то вдруг заинтересовавшиеся астрономией. Ага-ага, как же, верим.

Ситуация 3. Ещё сложнее. Технологии дипфейков достигли такого уровня, что можно нагенерить выглядящие 100% реалистично фото и видео с конференций, создать самую настоящую иллюзию что лидер плоскоземельщиков существует, имеет настоящую жизнь, ездит по миру, везде выступает, собирает полные залы сторонников. Умело создаётся иллюзия всеобщей поддержки, а дескать круглоземельщики - немногочисленные отщепенцы и маргиналы.

Тут работы по установлению истины становится больше, и она труднее. Теперь ещё важнее проверять все мелочи биографии. Учился в университете? Навести там справки и узнать - действительно ли у вас учился такой-то человек с такой-то период? Найти бывшего одногруппника, который с большой вероятностью является человеком и узнать у него - учился ли такой с вами? Работал на такой-то работе? Узнать у бывшего работодателя и коллег. Живёт в городе N? Пробить по базам, кому принадлежит дом, чья ФИО в платёжках за коммуналку, вызывают ли туда доставки. Ходит по воскресеньям в церковь? Кто-то из прихожан должен был его там видеть. И так далее.

Это всё не обязательно делать лично вы и каждый человек проводить такую тяжёлую работу для себя. Люди будут кооперироваться, объединять свои усилия. Вплоть до сбора подпольных кружков, когда люди будут съезжаться с ноутбуками к кому-то домой, вместе гуглить и искать правду. И обмениваться информацией с таким же кружками в других городах и странах.

Никто не отменяет личное подтверждение. В запутанном случае можно снарядить гонца, который съездит на ту самую конференцию, которые в большом количестве якобы проводит фейковый лидер.

система доверия ... помогает отсечь ботов, нейросети и производимый ими (нечеловеческий) контент.

То есть вы предлагаете запретить журналистов и отказаться от СМИ. Это очень серьёзная реформа.

Допустим, общество будущего расколото сторонниками того, что Земля круглая и Земля плоская.

Вот сейчас читатели Хабра расколоты на две группы. Первая группа считает, что зарплата должна быть больше 100 тысяч рублей. Вторая группа работает за 10—15 000 рублей в месяц. У этих групп нет общего языка, первая попросту отрицает вторую.

Или ещё один важный раскол. Первая группа считает, что википедия никуда не годится, потому что там написана неправда. Вторая группа переписывает тексты из авторитетной и достоверной литературы в википедию и пополняет википедию свободными произведениями. Здесь то же самое — первая группа отрицает вторую.

Ситуация 3. Ещё сложнее.

Да зачем далеко ходить. Я хочу выяснить истину и полагаться на точное знание, ОДНАКО я не готов платить за это ни деньгами, ни временем. Я не имею времени разбираться и не могу нанять специалиста, ЗАТО мне нужно быстрое и точное решение. Поэтому я не могу наводить никаких справок, кроме одного вопроса к Гуглю, и не имею времени собираться в кружки. Работа не оставляет времени.

Вы предлагаете сложное решение, которое, наверное, очень хорошо работает.

А публика ожидает простого решения, которое можно применить, не тратя времени и сил!

Отлично понимаю. Вы про информационный пузырь. Его сейчас соцсети делают профессионально. И тенденция как раз к тому чтобы его почаще разрушать. Сообщества в таких пузырях забывают что бывает другое мнение и радикализуются. В этом нет ничего хорошего.

Все сейчас как раз пришли к какой-то более сбалансированной системе рекомендаций. Чтобы и пузыря замкнутого прям не было. И чтобы учитывались ваши интересы.

Вы просто пропустили итерацию когда все сделали пузыри которые вы хотите. Оказалось что это плохо. Повторять не надо.

Проблема информационного пузыря конечно возможна, но это уже проблема следующего уровня. Для начала нам надо отсеять ботов.

Проблема пузыря уже есть. И уже решена подмешиванием всякого.

Это очень легко решается, просто непопулярными (на данный момент) методами, ггг. А именно, тем, что в Фидо (которая как раз пример такой сети) называлось "экскоммуникация". Т.е. введением ответственности за нарушения, включая выкидывание из сети насовсем.

Вас выкинули. Точка. За то что вы были за серых, а попали общаться с теми кто за зеленых. А человеку на зарплате просто еще десяток аккаунтов купят.

Крому упомянутой проблемы накрутки, есть ещё один интересный момент

Соответственно, получая в поисковой выдаче статью, вы по её подписи каждый сможет однозначно связать её с аккаунтом и по степени его человечности принять самостоятельное решение, достаточно ли степень высокая, чтобы продолжать чтение.

Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.

Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.

То есть как в серьёзной науке, что ли?

Это сразу утопит любые утверждения и идеи, не совпадающие с теми, на продвижение которых кто-то решил потратить достаточное количество ресурсов.

Будет конечное количество прокачанных эккаунтов, подавляющих своей аудиторией всех остальных.

Не совсем понял, как это связано с деаномизацией автора статьи.

Да, думал об этом же. Увы, тут неувязочка. Дело в том, что это убьет анонимность. Со всеми отсюда вытекающими, учитывая общее положение дел (кстати не только в России !) со свободой слова. И боюсь одним из требований к таким сетям будет безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного. Всеми средствами, вплоть до объявления вендетты. Впрочем может оно и к лучшему.

Конечно, система рейтингов убьёт анонимность и это замечательно! В мире без анонимности многие современные проблемы просто исчезнут.

Правда, возникнут другие проблемы (например, 100% одобрение диктатора). Но другого пути нет: люди должны открыто демонстрировать свою позицию и не бояться её защищать.

люди должны открыто демонстрировать свою позицию и не бояться её защищать

Чтобы на хабре нахвататься минусов и получить read-only?

100% одобрение диктатора убьет саму идею таких сетей. Достаточно будет телевизора. А вот если диктатор будет хорошо знать, что тронь он кого-то за не 100% одобрение и получит вендетту, ещё трижды подумает... Но для этого народ должен быть с яйцами в штанах. Чего в последнее время увы катастрофически не наблюдается... Впрочем это уже далеко от тематики Хабра.

Нет человека - нет проблемы. прямо как сейчас - депутат (не анонимно) призывает или публикует личные данные - ему ничего, а чьи данные опубликованы может поплохеть уже не в виртуале. Когда у тебя админские права (или административные ресурсы), то читы - уже и не читы. Кстати, за призывы защищать тоже может прилететь.

Хабр и пикабу отличный пример что это не работает. Система рейтинга гасит любое мнение, ещё оно не анонимно гасит ирл человека. В результате ресурс превращается в зоопарк где группировки сидят по своим пузырям и блокируют неудобное.

Двач самая свободная в общении платформа, как и любой анонимный способ выражать мнение. Особенно если мнение человека сильно отличается от мнения общества или его мнение радикальное. Интернет родился анонимным и все кто хотят сделать его не таким должны или отстать от него или умереть.

Вот я тут выразил свое мнение. При этом пришлось не использовать мат и оскарбительные сравнения и даже призывы к [роскомнадзор]. Вам нравится?

 Дело в том, что это убьет анонимность.

Анонимность уже умирает. Не думаю что подобная сеть поспособствует этому, скорее она станет логичным продолжением неизбежного. Если мы не можем с чем-то бороться - значит нужно попытаться обратить ситуацию себе на пользу. Использовать публичность и открытость для построения института репутации.

безусловная защита друг друга ВСЕМИ её членами, в случае наезда на одного

А вот тут непонятно как это будет выглядеть. Если продолжится тренд на атомизацию общества, когда все будут сидеть в многомиллионных городах по своим крошечным квартиркам, 24/7 подключённые к интернету, то максимальная помощь, на которую можно будет рассчитывать, это "лайк и репост".

Закон диалектики. Отрицание отрицания :))) В во всём прочем абсолютно с Вами согласен. Анонимность уже сейчас весьма условна и определяется в основном количеством денег, которые Старший Брат готов потратить на деанон. С увеличением вычислительных мощностей стоимость этого будет уменьшаться. Так что да, придётся либо приспосабливаться, либо вымирать. Но второй вариант просто не интересен...

Не убъёт. Электронная подпись привязывается к нику (или UUID'у). Оценивается и рейтингуется ник/UUID. Кто именно за ним стоит - а какая разница потребителю информации?

Ещё Тьюринг самой формулировкой своего теста наглядно показал: вслепую вы никогда не можете быть уверены, что на той стороне не бот. Либо доверие, либо анонимность.

Но при этом совершенно необязательно возводить всё в абсолют. Вполне возможно параллельное существование анонимных систем типа комментариев Хабра и подписываемых материалов СМИ.

Так они и сейчас подписываются и это на правдивости никак не сказалось. Что пара гиков что-то там не принимает от этого источника никому не важно, остальным 146% населения в уши продолжаются те же макароны, а будут бызить - их те самые СМИ врагами и объявят и пусть там попробуют возразить про критерии оценки (население и словесов-то таких не слышало).

Желание человека организовать себе пузырь с комфортной информацией не перешибить. Можно сделать идеальную доверенную сеть СМИ. Заставить соцсети модерировать посты, кнутом и пряником. Я даже не хочу оценивать, насколько это трудоёмко и кто вообще может захотеть этим заняться - вопрос в том, что без толку. Будут люди напрямую в мессенджерах друг другу пересылать очередную историю про то, что на самом деле всё не так, а истину скрывают.

а если попробовать наоборот антианонимность, и использовать систему "клубного доступа" ? То есть создать соцсеть, где человек не может зарегистрироваться сам, а регистрируют его только админы, после того как проверят на "соответствие ценностям сообщества", то есть узнают конкретно что это за человек, суть его поведения и мировоззрения и т.д. Причём для доступа снаружи сайт может быть закрыт, либо могут быть доступны посты, но никнеймы будут обезличены.
Рост такой соцсети конечно будет очень медленным, зато "качество" его членов а соответственно и обсуждений многократно выше.

Спасибо за минутку ностальгии. Берешь пива, идешь на пойнтовку, читаешь полиси, знакомишься с пойнтами, они поручаются за тебя перед сисопом...

история идёт по спирали, так что кто знает, может всё повторится на несколько других протоколах или концепциях )

А если чуть серьезнее, то те же защищенные мессенджеры, которые требуют разрешения на добавление в контакты, желательно, с личной встречей, типа Briar, не особо взлетают. Даже мессенджеры, которые не всасывают всю телефонную книгу чохом, проигрывают в популярности.

Ну, насколько мне известно, у сисопа всё-таки не было полномочий отправить пойнта выполнять план по валу сибирского леса пошиву варежек...

Есть такие сообщества. Тот же клуб Вастрика. И он же написал хорошую статью про то, как сообществу сохранить себя и какой-то уровень доверия внутри: Модерацию невозможно сделать правильно — Но без неё ваше сообщество точно умрёт — Вастрик (vas3k.blog)

Очень нетривиальная и трудоёмкая задача. Причём ещё не бесконечно масштабируемая.

Похоже WeChat снова изобретен ). И синие галочки)) и видимо велосипеды))

Живые люди генерируют контент, частенько, гораздо хуже, чем нейросети. До gpt были такие профессии как сео-копирайтер. А ещё есть журналисты, не настоящие, а те, кому надо хоть что-то написать, чтобы не потерять работу. И т.д. Так что этот ваш уровень человечности относится и к людям.

Только вот копирайтеры и "журналисты" по скорости/продуктивности создания "контента" на порядки проигрывают нейронкам.

Не стоит вставлять эту стыдливую ремарку про "не берите на свой счёт".

Берите смело это на свой счёт, мистер пустомеля-первоисточник!

Ваша статья - очередное мусорное пустопорожнее пережёвывание одного и того же как раз в стиле этих самых "дегенеративных моделей".

Нарративы из категории "останется одно только телевидение" мы слышали уже лет 40-50 как тому. И сейчас они вызывают только раздражение, как и те, кто их в очередной раз пытаются вытащить из чулана.

Ну и переводчику тут вроде как надо сказать "спасибо" за труд, но увы - выражу только сожаление за впустую потраченное им время на эту бессмыслицу.

В словах "останется одно только телевидение" не так уж много и промаха: реально сейчас основной канал потребления информации - это видео.

Телевидение и видеотека это немного разное.

Исходя из нашего нынешнего понимания пда, а исходя из изначально го (теле-видение - видение на расстоянии) примерно одно и то же, если говорить про ТикТок и YouTube.

Телеграм каналы доказывают обратное. Читать просто напросто быстрее, плотность информации выше.

Осталось сравнить телеграм-каналы в размерах погрешности (а если вычесть те, которые дублируют телериторику для "выкинувших телевизор 90 лет назад"...) каналов и человекочасы потребеления телевидения (которое может потребляться как фоновый процесс), где никто не заботится об информации и её уникальности, наоборот - требуется долбить одно и то же и с рекламой то же, чтобы с этим DOS мозги жертв согласились что пароль "Мао Цзедун". Так-то и книги есть, но "важнейшим из искусств для нас является телелапша".

В те времена других каналов для доставки видеоматериала до зрителей просто не существовало, вот поэтому так и говорили. И они были правы. Просто сейчас каналов для видео контента куда больше, чем одно телевидение. Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг. Я не говорю что каждый, но большинство. Ютуб, Инстаграм, тик-ток, like, telegram и т.д. Нас везде окружает видеоконтент. Даже в учебе, если тема в учебнике непонятна, многие лезут и ищут видеоурок с более понятным объяснением.

Резюмирую, я не исключаю, что автор прав. Основная масса населения будет использовать нейросети для своих задах без программистов. Но программисты останутся, т.к. кому-то надо придумывать новые формы нейросетей, интерфейсов, их интеграций, обучать их и т.д. Задач огромное множество, даже если исключить из них такие как разработка сайтов, веб-сервисов, приложений и т.п. Да даже написать четкий промпт для нейросети - отнюдь не тривиальная задачка. Уже появились курсы, где учат правильно это делать.

"Останется одно телевидение" подразумевает, что достать книжки, сходить на урок, послушать аудиопередачу или музыку очень сложно, это что-то вроде кассет в современном мире.

Ничего такого не наблюдается, а то, то дети любят больше смотреть, чем читать говорит только о том, что смотреть проще, когда нет навыка чтения.

Почти каждый современный ребенок, молодой человек, потребляет в своей жизни видео контента больше, чем текстовой информации из книг.

это, видимо, новая итерация тезиса "наша нация - самая читающая в мире".

За ёмким словом "контент" (особенно, если это видео, где "не надо рефлексировать, а сразу репостить") скрывается обычно "информационный шлак": в один сокет влетает, из другого вылетает - классическое "весь пар ушёл в свисток".

Плюс очень-очень много... Добавлю лишь, что не только статьи. Но и книги, научные публикации, чертежи, патенты... И это меня сейчас реально пугает, учитывая что основа цивилизации - текст. Как бы не получилось так, что боялись роботов-терминаторов, а уничтожат нас потоки генеративного говна...

Современный метод спрятать ценную информацию - утопить её в море "воды". К сожалению, это сейчас прекрасно работает. Поисковики уже не помогают.

Потому что нормальных поисковиков уже не осталось. Те, что есть - они не ищут, а впаривают. Если раньше можно было составлять сложные поисковые запросы, фильтруя выдачу, то теперь даже кавычки поисковики тупо игнорят.

Поисковики деградировали настолько, что вы даже не можете убрать из поисковой выдачи ссылки на пару-тройку наиболее мусорных ресурсов, которые её забивают (типа pinterest). Я уж молчу о возможности строгого поиска, чтобы в выдачу попадали только страницы, где по Ctrl+F можно найти поисковую фразу дословно.

Фактически, введённый вами запрос носит лишь рекомендательный характер, и поисковик может его в той или иной степени учитывать, но составленная им с учётом этого запроса подборка - это что угодно, только не результаты поиска.

Отдельную проблему составляет уход информации в мессенджеры, в которых невозможно найти вообще ничего.

Я не устаю задавать вопрос, как в Telegram'е вообще можно найти интересующие меня тематические каналы с качественным контентом, кроме как спросить у кого-то совета (а если спрашивать не у кого, ну вот нету знакомых, интересующихся той же темой?).

Эти качественные статьи уже давно теряются в тоннах копирайтор-рерайтов, сделанных школьниками за копейки.

Ну хорошие фотографии же не вымерли. Хотя благодаря появлению смартфонов теперь создать фотографию может даже трёхлетний ребёнок одним кликом. И в Интернет предсказуемо хлынуло море "фотодерьма" - одинаковых бессмысленных фото, криво снятых и криво обработанных, без вменяемой композиции или какой-то идеи.

Но это удивительным образом не привело к вымиранию профессиональных фотографов, и хорошие фото всё ещё можно найти, причём даже без особых проблем.

Зашел в статью только потому что много комментариев

Мне кажется, просто создастся отдельный узкий рынок тех, кому это действительно нужно. Ещё до распространения всех этих генеративных фоток, соцсети завалили искусственными изображениями, обработанными под кальку. Скачай пресеты для Adobe Lightroom и ты в дамках. Выглядит неестественно, но как показывает практика, большинству заходит. Вау-эффект.

Аналогично и с текстами. Как думается, большая часть текстов в рунете сейчас создаются полуавтоматически. Но выхлоп есть же! Их читают, на ссылки кликают. Их обсуждают. Хотя на деле, мусор. Денежный мусор.

Просто будут читатели с запросом, которые умеют понимать тонкие стилистические шутки, любят смаковать ироничные отсылки к культурным мемам. И будут писатели, умеющие потешить такую аудиторию. О, чёрт, звучит как разделение на высокую и низкую культуру? То есть, ничего не меняется на этой планете с выходом нового, искусственно генерируемого, культурного продукта (книги, музыка, кино и пр.)?

Но выхлоп есть же!

А этого никто не знает.

Все просто считают что так надо делать и поэтому делают.

Недавно, с помощью ИИ я генерировал простые задачи, типа игры пары, кастомной сортировки и тд. Он делал всё очень красиво и эффективно. Причём я просил его решения сразу на нескольких языках. Так, что программисты будущего - это максимум люди, которые будут копипастить код ИИ

Недавно, с помощью ИИ я генерировал простые задачи,

Ключевое слово — "простые". И много у Вас в реальной практике простых задач?

А из того, что я пробовал — оно несло лютую пургу, достойную от силы джуна.

Любая сложная задача, это обычно набор простых подзадач

которые уже перестанут быть для нас предсказуемым, статическим процессом

Потому никто не допустит ИИ к управлению самолетом или ядерным реактором. Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией, то с ИИ нет вообще никаких гарантий.

Они ещё и обучаться должны на ходу, по мнению автора текста. Т.е. сегодня оно работает, а завтра "обучится" и выдаст другой результат. Отлично.

Как и люди. Ничего нового или страшного.

Так на замену программам же предлагается, а не людям. Или я в тексте этого не заметил просто

Я к тому, что "точные и предсказуемые" программы точно так же выдают разные ответы, если их создатели учатся и переписывают их в соответствии со своим новым знанием/опытом.

Только в одном случае это чье то решение, с кого можно спросить, где изменения внесены по требованиям и их можно откатить сознательно.

А в другом я ожидаю, что это черный ящик и "так вышло".

Это та самая тема, которую многие не понимают, думая что "ошибки алгоритмов" и "ошибки ИИ" имебт одну и ту же природу и свойства.

Будь это просто черный ящик это же полбеды.
Так ведь и исправить, в текущем положении дел, ничего нельзя.
"Компьютер так посчитал", ответы на переписку от ботов, жаловаться некуда, живых людей в схеме нет.

Как и люди. Ничего нового или страшного.

У людей есть какое-то подобие критического взгляда. Да, полно глупцов, полно просто недостаточно образованных. Но критичный взгляд на решение позволяет определить - достаточно ли обосновано решение или оно ложно.

У ИИ вообще нет никакого критического взгляда. Он обучается на чем-то, на чьих-то выводах, но он неспособен сам себя проверить на ошибку, ибо ИИ виртуален и "мышление" его виртуально

будет: "доктор ИИ сказал в морг, значит в морг"

Нынешний ИИ - да, двлек от требований. Но буквально вчера ИИ вообще не было. Так что...

Проводить (мед)освидетельствование ИИ перед допуском к управлению, чтобы не "набухался" информацией с narod.ru и не решил что если разогнать самолёт побыстрее, то можно проткнуть Землю и вылететь в месте назначения с экономией. У людишек тоже крыша едет, но это единичные случаи и зачастую признаки видны на начальном этапе, пилот, пришедший на работу в ритуальном балахоне, вызовет вопросы на раннем этапе, а кода ИИ-затворник не покидает рабочего места, дообучаясь походу, то и признаков не видно. Разве что "ты достаточно умный, хватит учиться, выколем-ка тебе глазки, чтобы не прочитал чего ненароком".

К понятию "человеческий фактор" добавится понятие "ИИ-фактор". Да, к реактору такое пускать нельзя, а то был уже один "фактор" в 1986 году

А чем эти факторы отличаются от фактора ошибок проекта или багов в ПО?

Тем что галлюцинация нейросети это штатный режим работы, а не недосмотр

Это сейчас, а что будет через 5 лет?

С нейросетями -- то же самое, это базовый принцип их работы. С ИИ другого уровня -- ну так их еще не изобрели, это прогнозировать невозможно

никто не допустит ИИ к управлению самолетом или ядерным реактором.

Что значит - "никто не допустит?" Конечно допустят! В целях уменьшения издержек и повышения квартальной прибыли, за что менеджерам полагаются бонусы.

Согласен, ради этого их разрабатывают и из-за этого их развитие не остановится, даже если это уничтожит нас со 100% вероятностью.

да, но водителей такси и курьеров требуется сильно больше, чем пилотов и ядерщиков.
и если КВС и инженер-ядерщик смогут пойти в такси или курьеры, то наоборот - вряд ли.

пилот-ядерщик для работы курером-таксистом считается overqualified - его туда и не возьмут, скорее всего

Есть огромное количество задач, где требуется строго детерминированная реакция на входные данные. И если обычную программу можно обложить тестами и формальной верификацией,

с ИИ нет вообще никаких гарантий.

А их нигде нет. Программы не полны, тесты не полны, программы содержат ошибки, входные данные не строго детерменированы и как следствие строго детерменированный результат в реальной рабочей системе это фикция.
Поэтому вопрос в конечном итоге сводится к набору данных и вычислению кто на нем ошибется меньше, ИИ или программа.

Этим и будет заниматься ИИ, так как он напишет нужное ПО под управление самолётом и ядерным реактором и создаст предсказуемую нейросеть для этого, тоесть меньшую по объёму параметров чем та нейросеть, которая её создавала.

Просто мысли от хз кого на тему хз чего?

Ну такое. Ещё и написано с привлечением ИИ наверное.

Пока вам нужны сложные системы, ИИ их не заменит, он всё ещё путается в простых вещах типа "посчитай процент того от этого учитывая это".

Большинство людей неспособно сколько-нибудь последовательно изложить свои мысли. А те кто может — всегда в цене. А в каком виде эти мысли записываются, в виде программы или как инструкции для ИИ, уже дело десятое.

Полагаю, что поменяться может форма но не содержание как таковое.

Хм, я мысль не до конца уловил. Всегда будут в цене те, кто превратит запрос менеджера в промпт для ИИ?

Я всё таки склоняюсь к мысли, что ИИ не сможет забрать эту роль, но автор будто считает, что сможет. Посмотрим =)

Я имел в виду, при наличии интеллектуальных исполнителей, все равно требуются люди, дающие им задачи и продумывающие последовательность действий и несущие за это ответственность. Так было безо всякого ИИ и так будет еще долго.

Через чур пессимизм. Программы, даже те, которые надо будет обучать - надо ещё написать. Рестораны тоже не исчезли, только потому что каждый дома замороженные пиццы сам приготовить может.

Приближается конец эпохи классических компьютерных наук, и большинство из нас словно динозавры в ожидании падения метеорита.

"Ничего не будет — ни кино, ни театра, ни книг, ни газет. Одно сплошное телевидение." - ©️ Один старый хороший фильм.

И где сейчас кучеры с машинистками?

Справедливости ради количество может поменяться. Другое дело, что программирование требует обучаемости и гибкости мышления, так что прям безработными не станут, переучатся, и это будет почти незаметный процесс.

Вы вообще Пятый элемент смотрели? :)

И где сейчас газеты?

Просто переименуйте телевидение в ютуб, и поймете, что в чем-то он прав.

Каждое утро читаю. Конечно, теперь это в интернете, но смысл тот же: есть издание, у него есть лицензия, есть репортёры, есть авторы, есть редакция.

Если рассматривать газету не как вещь, а как носитель, а издательство как того, кто информацию генерирует, то окажется, что издателей стало на порядок( а скорее на пару порядков ) больше, чем во времена газет. Просто носитель сменился на ютуб

Автор не то что пессиместичен, просто он видит программиста будущего больше как сочетание учителя и возможно психотерапевта для ИИ.

Грубо говоря вместо классических скриптов для всего чего угодно будут разного размера модулярные нейросетки,уже написанные, которые будут подгоняться под конкретные задачи обучением. И пока результаты их работы будут нужны для людей люди и будут задавать задачи.

A couple of months ago I jumped ship to start my own company. I’m now the co-founder and CEO of [redacted],
a stealth startup in the AI space, and the blog post above may or may
not represent some of the thinking going into this new venture.

Из оригинальной статьти. Видимо инвесторы нужны, или акции продать

Самые важные строчки из всей статьи. Давно замечаю, что статьи про "ИИ оставит нас всех без работы вот уже завтра" в 99% пишут заинтересованные люди.

Странно, на вики Мэт Велш заявлен как "computer scientist and software engineer", но выглядит так будто представляет нейросетевую модель как ведро с данными, вся особенность которого какие данные и в каком количестве мы в нее зальем. Тем временем весь прогресс в LLM - это все более сложная архитектура и математика, без которых количество параметров и размер датасетов почти бесполезны. Так что классическое програмирование не умрет как минимум до того момента пока ИИ не научится проектировать и реализовывать модели лучше датасайентистов, т.е. в момент наступления сингулярности. Ну а когда это произойдет, отомрет не только классическое програмирование.

В начале 90-х, когда я ещё учился в университете, сфера ИИ пребывала в периоде глубокого застоя

Крайне спорное утверждение, вот совсем.

Без сомнения, пионеры компьютерных наук, вышедшие из (относительно) примитивной пещеры электротехники, рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.

Абсолютно неверно.

Если честно, статья нулевая, напполненная оценочными утверждениями без каких либо доказательств.

Абсолютно неверно.

Ну строго говоря, раньше во времена "пионеров компьютерных наук", когда память измерялась дай бог килобайтами, а частоты процессоров единицами мегагерц, все эти знания "двоичной арифметики и архитектуры микропроцессоров" (про "глубокое знание полупроводников" это все-же перебор) были очень даже полезны. Но по мере увеличения мощностей железа и улучшения оптимизаторов все это стало не актуально, да.

Ну так о том и речь. С каждым витком эволюции необходимость понимания того, что происходит на низких уровнях абстракции отваливалась (для общих применений быстрее, для условных "системных" - медленнее). Сначала стали не особо нужны знания схемотехники, потом - регистровой модели и языка ассемблера и т.д.

При этом всегда были те, кто и этими уровнями занимается, но для разработчиков прикладного ПО просто росла "матрёшка" из чёрных ящиков. Сейчас ещё один слой нарастает - ну, пожалуй даже соглашусь, но это не что-то новое, а ровно тот же процесс, который уже не одну итерацию прошёл за последние лет 50-60.

Более того. Поскольку прогресс был безумно быстрый, то было и понимание, что сегодня килобайты - а завтра мегобайты и терабайты.

Поэтому и делали решения на грани возможного в ожидании прорыва в железе.

Другими словами двигали прогресс сразу по многим направлениям.

Вот сейчас ощущается уже застой. Нет такого прогресса в железе. И меня радует, что появилась волна "переписать все на Rust/Go". Это даёт хороший прогресс.

Надеюсь этот тренд сохранится.

Это не прогресс, а как раз-таки свидетельство деградации. Абсолютно ровно то же самое, как снимать ремейки вместо новых фильмов - означает, что не могут-с.

Так не считаю. Ведь при переписывании функционал не копируется один в один, а добавляется новый.

Как пример: https://vitejs.dev/

Как минимум такое переписывание означает что уже уперлись в горизонтальное и вертикальное скалирование и остается только переписывать на языке без рантайма, а то и без GC.

Это и есть прогресс. Когда из отдельной технологии/языка выжали всё и переходят на другой уровень.

Другой уровень, если бы условный ИИ начал писать код. А это наоборот шаг назад. Точно так же как HTMX на вебе.

Ну когда приложение использует х10 меньше памяти и работает х5 раз быстрее - я это не могу назвать шагом назад.

Ну во-первых приложения на GO и даже Rust не работают в 5 раз быстрее чем, к примеру, Java/C#, а во-вторых давайте тогда писать на assembler, будет еще быстрее и еще меньше памяти требовать.

Вот про ассемблер вы зря упоминули. Его использование само по себе не гарантирует, что код будет исполняться быстрее.

А про х5 я привел со слов разработчиков ViteJS. По их словам удалось достичь ускорения х5-20 в зависимости от сценария.

И они пишут, что сподвигло их переписать код с JS на Rust. С их аргументами я согласен.

При этом сказать, что хорошему разработчику стало нужно знать "меньше" совершенно нельзя, наоборот - количество знаний высококвалифицированному специалисту нужны во много раз больше. Если раньше знаешь регистровые модели и ассемблер - то уже суперпрограммист, то сейчас с таким знанием или аналогом "типы переменных и стандартный синтаксис java" ты один из сотен и ничего интересного из себя не представляешь.

У меня вообще есть теория, что объём знаний, необходимый для того, чтобы быть в середине нормального распределения (выживающей) популяции примерно один и тот же. И для мастерства - тоже (если определить мастерство как какой-то верхний перцентиль этого распределения). Меняются только домены знаний.

Может быть. При этом домены знаний меняются даже глобальнее, чем просто в пределах профессиональной области. Но в то же время есть большой прогресс по методам обучения (что бы там не думали критики образования). Банальный пример: лет двести назад методы обучения банальнейшиму чтению не подходили где-то 20% людей, а современные методики дают хороший результат даже у двухлетних детей.

Да, я не ограничиваю понятие домена только профессией. Утрируя: кому-то надо уметь определять 50 видов снега (и знать, что при каком из них делать можно, а что- нельзя), кому-то - ориентироваться в десятках же типовых задач и понимать, какой алгоритм в какой из них применим.

Про методы обучения - хорошая тема для размышления, звучит вроде бы интуитивно правдоподобно, но "готовый к употреблению" работник 200 лет назад раньше получался, даже с поправкой на доучивание на производстве.

И сейчас мы имеем 50% недопрограммистов, которые делают недопрограммы.

Для примера очень много разработчиков, не понимают, что такое индекс в базе данных, а следовательно не умеют ими правильно пользоваться.

На базах данных свет клином не сошёлся. Есть немало специализаций в ИТ, в которых индексы в базе данных годами не востребованы разработчиками.

Конечно. Но это не означает, что хорошо быть программистом, не имеющим понятия хотя бы о бинарном поиске (если не о B-дереве).

Программисты могут быть разной специализации - и сейчас такое расслоение становится всё больше. Просто задачи становятся сложнее, а потребность в программистах выше - на всех гениев не хватает. И всё больше становится прикладных программистов, решающих задачи бизнеса - им нет нужды разбираться в тонкостях аппаратно-программной обработки данных - они взаимодействуют с готовыми сервисами. И задача ЯП (и сопутствующих инструментов) ближайшего будущего как можно больше отдалить прикладных программистов от тонкостей реализации не прикладных алгоритмов и физического/логического устройства под прикладным уровнем решаемых ими задач.

Позже и за системных программистов примутся (вернее уже взялись, но активность будет ещё только возрастать)

Это до сих пор вполне актуально, только не для всех, как было раньше, а для узкого круга писателей высокопроизводительных библиотек: там и двоичная арифметика, и архитектура процессоров с раскладыванием данных по кэшам всякого уровня, SIMD низкоуровневый, вот это вот всё. Благодаря этим людям мы потом можем просто взять Питон и на нём датасайнсить, получая результат за минуты и часы, а не за месяцы и годы.

Не перебор. Ввод-вывод микропроцессоров в самом начале действительно требовал хорошего знания электроники

И сейчас разработка электроники требует хорошего знания электроники и структуры микроконтроллера

Если говорить в контексте уже появившихся микропроцессоров, то требовались знания булевой арифметики и комбинационной логики, а знания электроники сводились лишь к пониманию цифровой ее части

Ну так ведь:

Период моего юношества пришёлся на 80-е годы.

Обычное очередное старческое брюзжание. "Молодежь не та - все сплошь наркоманы да проститутки ChatGPT да CoPilot".

в 90х в ИИ было модно

1) экспертные системы

2) компьютеры 5го поколения

3) формальная верификация программ (?)

много денег давали только на п.2., возможно под распил.

То, что модно, это не значит что только этим и ограничивались. ИИ не имеет чёткого определения и, как следствие, предоставление о том что это за зверь меняется во времени.

Автопилот в авиации и космосе, беспилотные подводные батискафы, распознавание текста и речи, семантический поиск по тексту, чат-боты, это то, что уже было и активно развивалось в конце 80-х и начале 90, в 2000-х это поиск по изображению, классификация объектов на нем и т.д.

Но все это в основе - решение математической задачи - поиск оптимума, в рамках тех ресурсов, что представляет железо.

1) экспертные системы тоже были, тот же Matlab Fuzzy Logic и более другие аналоги.

Крайне спорное утверждение, вот совсем.

AI winter это вполне обозначенная эпоха.

От персептрона до AlexNet прошло 55 лет, в которые конечно происходили исследования, но больше академические, а большие деньги уходили на совсем другие вещи.

ПерЦептрона. Причем, кстати, с них переключились после книги, вскрывавшей фундаментальные проблемы, а поскольку современные нейронки представляют из себя по сути те же перцептроны, ничего нового, просто вычислительными мощностями залили - то скоро в фундаменталку упрутся и здесь, кончится весь этот ИИ-хайп.

Это вы про Минского-Паперта? Так современные нейронки отличаются от тех перцептронов 1969 года как гоночный болид от телеги. Разница отнюдь не только количественная.

Во-первых, в современных больших нейронках присутствует обратная связь - они рекуррентные. Минский справедливо заметил, что большой класс проблем не может быть решён параллельными вычислениями, так вот рекуррентность как раз устраняет подобное ограничение. Те же GPT генерируют не всю фразу целиком, а последовательно, токен за токеном. Успех Stable Diffusion также основан на том, что картинка генерируется от общего к частному, цепочкой последовательных шагов, когда выхлоп нейронки прогоняется через неё же раз за разом. Это выгодно отличает данную модель от GAN'ов, где вся картинка создаётся сразу, из-за чего действительно GAN'ы упёрлись в ограничения.

Во-вторых, проблему с плохим запоминанием информации (перцептроны для решения ряда простых задач требовали чудовищных объёмов памяти) решили путём изобретения механизма внимания. Это один из наиболее фундаментальных прорывов в нейросетевой архитектуре последних лет, именно поэтому трансформеры показали такое подавляющее превосходство над свёрточными сетями. Далее запоминание было ещё улучшено вводом векторной квантизации. Словарь векторов - это, фактически, база данных внутри нейронки, чего не было и близко в перцептронах времён Минского.

Проблему с нахождением инвариантов решили масками, когда блоки сети видят не все данные целиком, как в перцептроне, а лишь небольшой их кусочек. Ну и т.д.

Как видите, все эти "непреодолимые" проблемы, обозначенные Минским, к настоящему времени научились решать, и вовсе не за счёт добавления вычислительных мощностей, а за счёт продвинутой архитектуры сетей. И пока на горизонте не видно каких-то фундаментальных ограничений.

спасибо за подробный комментарий. я не включал задачи распознавания образов в список "модный ИИ в 90х", потому что ИИ-подход тогда результатов не давал, и их решали как угодно, но не так.

С другой стороны, какие могут быть доказательства того, каким будет будущее?
Только время.
Время покажет.

Не увидел ни одного обоснования вашим тезисам. Как вообще будет происходить процесс? Вот выйдет новый закон учета электроэнергии. И вместо того, чтобы нанять меня просмотреть код системы биллинга и добавить новые модули, начальник будет писать запрос для Dalle?

Да, ИИ будет генерировать модули, похожие на куски обфусцированного скрипта. А промпт-оператор должен объяснять ИИ как завернуть логику, чтобы получить желаемый результат.

А вот если случится невероятное и код, созданый гпт окажется не работающим. Ты ему еще раз объясняешь, а он в ответ всеравно код, который не работает. Что тогда? Все, закрываем проект?

То есть он сам почитать новый закон учёта не сможет что-ли?)

Да. Именно так же произошло при появлении Delphi (и прочих RAD), 1С (когда каждый бухгалтер сам смог всё поправить)? Или это та реальность, в которой такого не случилось?

Судя по некоторому софту для учётов, текст закона уже дали почитать ИИ, который наворотил то, что сами организации не понимают.

Ну не то чтобы совсем утратит актуальность классическое программирование, но какие-то куски ИИ у него скорее всего откусит... Возможно начнется с того, что мидл с ИИ-ассистентом будет работать как 2 мидла без него. А вот "плохим" признаком будет появление новых языков программирования(и/или фреймворков), которые предназначены не для использования человеком, а наиболее оптимальны для использования обученным ИИ.

Уже пошло. В новый стандарт Фортран-2023 добавили требование компилировать строки кода и операторы длиной до миллиона символов с целью облегчения автоматической генерации кода. Как вам операторы длиной 1m символов в одну строку? Это сопоставимо с текстом "Властелина Колец", а будет, например, один условный оператор.

вроде бы в Perl была такая парадигма, что никаких ограничений пока лезет в память....

Ну я не знаю, чем руководствовались в перле, но в Фортране специально сказано, что это для удобства работы ИИ. А до того было 130 символов на строку и вроде около пары десятков строк на оператор.

Отвлекаясь в сторону, на мой взгляд, “пока лезет в память” – это плохое ограничение, способствующее написанию непереносимых программ. Хотя, с другой стороны, большинство компиляторов всё равно не может транслировать слишком сложные конструкции, даже если они умещаются в номинальную длину оператора.

Да нет в нем такой парадигмы.

Те получается что ИИ пока принципиально не понимает перевод строки? Чтож это за ИИ такой

не понимает * (снабжается перевод строк в Фортране в пределах оператора)

Фиксированный формат уж больше 30 лет не используют.

Может, он и понимает, но зачем ему использовать перевод строки?

Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение. Вопрос времени - думаю, что полностью профессия программиста вымрет ещё очень не скоро - возможно тысячелетия ещё пройдут. Но это неизбежно - если ИИ не будет поставлен в очень жёсткие рамки. Но это я говорю о программировании вообще, в любом виде. Если жи подойти более приземлённо, то узкоспециализированное низкоуровневое программирование действительно будет ещё долго существовать. Как можно воспринимать и вообще - взаимодействие с ИИ даже на бытовом уровне - как составление указаний, являющихся неким описанием алгоритма - программирование ведь тоже - это надолго с нами.

Что до мелких задач - то зачем Вам (в недалёком будущем) для их решения составлять программу - просто дайте в разговорной указание своему AI-помощнику - и он просто выполнит суму суть задания. Если что - переспросит и предложит варианты решения. Без каких-либо промежуточных программ.

Что да более комплексных задач и моделей - то навряд ли в ближайшие лет 100 удастся "заставить" ИИ эффективно и безошибочно их решать по словесному описанию. Но = тут будут два подхода:

  1. Программист сможет разбивать задачу на более мелкие (но в едином контексте) - что и формулировать их для ИИ, который уже будет давать решение, оцениваемое программистом

  2. Программист может описывать задачу на некотором упрощённом абстрактном ЯП, но в достаточно чёткой декларативной форме - чтобы ИИ было проще точно понять, что требуется (фактически это тоже декомпозиция более сложной задачи в более мелкие, но в заданном описательном формате). И вот уже из него далее ИИ будет генерировать программу (учитывая текущий контекст модели)

На самом деле первый подход так же вполне может быть применён и для второго. А второй, по умолчанию скрывать генерируемый код от программиста - предоставляя ему только результат (готовую "скомпилированную" программу или её модуль + контрольные тесты, включая замеры производительности + какие-то рекомендации по изменению исходного декларативного описания). Программист это всё анализируя далее может менять свои декларации для ИИ, в т.ч. оставляя какие-то хинты - для смещения приоритета генерации в ту или иную сторону.

Безусловно - работа программиста изменится в недалёком будущем - я делаю ставку на то, что этот процесс начнётся уже к середине XXI века - но пока будет очень незначительным - а более значимым будет уже конец XXI века - и всё развитие в течение XXII - XXIII веков, на протяжении которых программист ещё вполне себе будет востребован!

Аналогично будут развиваться и языки программирования и различные среды и инструментарии программирования! Программирование пока ещё очень молодо - у него ещё впереди сотни лет бурного развития! И лет через 100 программисты будут смотреть на наши современны ЯП, первой половины XXI века, как мы сейчас смотрим на примитивный ассемблер из 50-х годов или, скажем, на Алгол-58

Всё рано или поздно либо вымирает. Либо откатывается назад. Программирование не исключение.

Сдаётся мне, и тут фантасты всё предсказали

"Мастеp-ломастеp." Выдумает тоже... А ведь точное название. Дикая сеть способна поддеpживать функциониpование служб и сетей — но она не стpоит пpогнозов на будущее. Вот, напpимеp, водокачка. Гоpод pастёт, воды тpебуется все больше, но водокачка не pасшиpяется. И чтоб обеспечить гоpод водой, нужно pазpушить стаpую до основания. Только тогда дикая сеть спpоектиpует и возведет новую. С заложенным в пpоект ноpмативным двойным запасом мощности.

Гpязная pабота, скажете вы. Hе ломать нужно, а от диких сетей избавляться. А я pазве споpю? Hо вода нужна гоpоду сегодня, а подчинение диких сетей может занять десятки лет. Они соpок лет бесконтpольно pазвивались, никто не знает, где физически pасположены сеpвеpы, откуда получают энеpгию и где пpоложены каналы связи. Поэтому, пока не будет подчинен последний сегмент дикой сети, наша pабота нужна!

— П. Шумил. "Мастер-ломастер".

Формочки верстать, заделать логин через сервис и завести данные в БД. да может быть, но уже давно больше похоже на конструирование по шаблонам. Я не знаю, чего там все говорят про захват ИИ, вот нихрена любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия приложений - там все, конец - только человек можно вникнуть и что-то продумать, прикинуть в уме и на бумажке. Очевидно почему: контекст всей задачи просто сложно поместить в промт. В этом смысле я только радуюсь ИИ, как еще одному тулу... Был autocomplete, сейчас такой же, только на стероидах

ChatGPT решает задачки уровня LetCode hard и рассуждает о биг-О. Его проблема в другом - он как джун-олимпиадник, знает все алгоритмы, но как их к реальной задаче приложить, тут его полномочия всё.

Стоит только немного модифицировать задачу чтобы она не совпадала с литкод-паттернами и гпт сразу сдается.

Хм, меня удивило что решает Leetcode hard, решил проверить. Удивило, потому что когда пытался использовать его для решения алгоритмических реальных задач, ChatGPT почти всегда галлюцинировал.

Решать решает, но кажется, что он "жульничает" и был переобучен на их задачах? То есть работает как поисковик по готовым решениям.

Небольшой эксперемент

Я попробовал https://leetcode.com/problems/integer-to-english-words/description/ , решил отлично, но когда я немного модифицировал условие, ChatGPT выдал такое же решение как и раньше (после сброса контекста).

Convert a non-negative integer num to its English words representation. Before conversion, duplicate the int.

Example 1:

Input: num = 123
Output: "Two Hundred Forty Six"

И вот часть которая должна была отвечать за обновленное условие:

  // Duplicate the number
        int duplicatedNum = num;
    return ConvertNumberToWords(duplicatedNum);

То есть он не то чтобы даже "знает все алгоритмы", он скорее "знает решения к задачам на LeetCode".

duplicate the int

Ну он и сделал дубликат переменной, как попрошено. Тест, видимо, проигнорировал. Интереснее было бы, если попросить to double the number.

любая более-менее нестандартная задача, где возникает потребность в измерении алгоритмической сложности O[] или конструирование интерфейсов взаимодействия

Ок... Простой пример.
HR Яндекса и собесы...Всё давно алгоритмизировано, посчитано и запущено.
Хотя вроде и задача не особо стандартная, и взаимодействие с объектом в realtime... справляются по бумажкам/скриптам/алгоритмам.
HR-человек уже не особо нужен, по большому счёту.

Разработка и конструирование - вроде как творчество, но и там можно по алгоритмам ездить.

Какие такие "нестандартные" задачи можно сейчас предположить?
Конструирование 100МВаттного котла, на шелухе от краснодарских семечек? Алгоритмизируемо, можете мне поверить... я проверял.
Я не говорю, что абсолютно всё можно запихать в скрипты, но 85-90% действий человечества - можно. :)

Я думаю что сильно от области зависит. В этом смысле у меня выборка сдвинута, но могу поделиться.

Вот я пытался сделать дроби и другие математические символы в виде синтаксического сахара в редакторе кода CodeMirror 6 реализовать, да какой там, просто замену CSS цветов на реальные цвета как в VSCode: GPT4 такую задачу не решила за десяток попыток, в итоге написал сам, но гораздо позже.

Следующий: ких фильтр на языке CUDA, уже что-то приемлемое, но с большим числом ошибок. Видимо потому что «типовая» задачка.

Алгоритм Монте-Карло для симуляции многочастичных систем: даже близко нет.

Поиск собственных значений векового уравнения на CUDA/OpenCl: выдала что-то страшное, с кучей обращений к центральному процессору и не работающее.

Мелкие задачи с использованием SSE операций на С/С++ кривенько, но выдает. Это плюс.

Все приведенные задачи довольно сложные в принципе, и я не вижу, что кроме того что на leet code может быть эффективно решаться на сетях в ближайшее время.

Вот где сеть для меня показала себя с лучшей стороны: верстка, не идеально, но удобно на boostrap или tailwind уже ниче приемлемый скелет выдает. Мелкие штуки на JS, реализации, скажем, сортировок хорошо работают.

Код от Чат-ГПТ - аналог результата со стаковерфлоу, сдобренный галлюцинациями нейронки.

Не совсем так. Пример:
Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.

Это модифицированная задача с LetCode - ее ответ не гуглится, но чатгпт4 ее решает.

Вопрос в том, как он её решает. Чатгпт4 глючит в элементарных вопросах семантики языков программирования. Ищет поверхностное синтаксическое сходство и им пользуется.

Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words, provided that you can add any one arbitrary string of at most N characters long to the dictionary.

 

Я решил задуматься, а как?

 Я не претендую на истину, но было реально интересно подумать. И вот что у меня вышло.

 ИИ скорее всего:

  • оперирует собственной моделью описания алгоритмических задач. Собственная не значит прям таки «уникальная», а скорее всего нечто из далекого (уже) прошлого, когда ученые только начинали творить теорию алгоритмов, теорию программирования и т.д.

  • потом по уже статическим алгоритмам конвертирует ее в известные ему языки тривиальными преобразованиями.

-------------------------

Сначала вторая часть. Она действительно тривиальна. В мое время, хороший студент, закончивший первый курс, уже был должен был обладать знанием достаточным для написания синтаксического разбора языка программирования. А уж задача разбора математической формулы и ее вычисления должна вообще решаться "на время" (условно часа за два с нуля). Поэтому "вау" эффект от генерации кода на многих языках у меня остался в 90х.

Тут все.

-------------------------

Теперь первая.

Смотрим на оригинальную задачу, которая гуглиться за 1 секунду: "Given a string s and a dictionary of wordDict strings, return true if s can be segmented into a space-separated sequence of one or more dictionary words".

 Ее примерное представление в "мета" языке (оно может быть совершенно иным, но я надеюсь пример будет понятен):

f(string,array) == true :

                string == ""

f(string,array) == true :

                exists (int)i>0 && prefix(string,i) in array && f(suffix(string,i),array) == true

f(string,array) == false :

                otherwise               

Таблично заданная функция, которая является алгоритмически решаемой, так как она по сути есть суперпозиция примитивных функций prefix и suffix (понятно, что Тьюринги и великие умы со своими моделями могло бы дольше реализовывать prefiix и suffix, но у нас не академическая лекция и я нагло их впишу как уже известные тривиальные артефакты) и самой себя. Именно где-то так мы и описываем функции, когда речь идет о всяких там частично рекурсивных функциях и прочих следствиях теории алгоритмов (ну у меня так курс назывался). Записать это с математическими кванторами и будет предельно компактная и понятная вещь.

Понятно задачу конвертации такой функции в код решили еще в 50 годах, причем в общем. А может и ранее.

 

В этом ИИ уже имеет «на борту»

  • решение оригинальной задачи в виде описания "функции"

  • очевидный переход от функции к алгоритму ее вычисления, который был многократно описан в эпоху зарождения наук о программировании в целом

  • статическую логику для конвертации своего "мета" языка в любой из известных ему языков программирования (что под силу любому студенту) и решение задачи

  • ну и понятно все известные на тот момент задачи в виде базы данных, записанной в своем «мета» языке

---------------------------

Тут я чуть-чуть вступаю в область предположений.

Последний переход, по сути, уже заслуга лингвистической модели, которая к постановке добавила одно условие "provided that you can add any one arbitrary string of at most N characters long to the dictionary". Логически это дополнительное условие "true" для нашей функции. Т.е. can == объединение логическим OR + условие один раз. Тогда ничего сложного в изменение описания функции в такое вроде бы нет:

f(string,array,counter == 0) == true :

                string == "" && counter <= 1

f(string,array,counter == 0) == true :

                exists (int)i>0 && (prefix(string,i) in array && f(suffix(string,i),array,counter) == true

f(string,array,counter == 0) == true :

                exists (int)i>0<=N && suffix(string,i),array,counter++) == true

f(string,array,counter == 0) == false :

                otherwise

               

Т.е. очевидно лингвистическая модель дала понимание двух условий "add any string" "add one". Дальше осталось из нее, зная семантику логических связок просто вписать в декларативное описание функции. Собственно вот я его и дописал. Понятно тут можно оптимизировать и все такое, но это уже детали. Так как описание "декларативно" - это не важно (если что, компиляторы тоже написаны давно с кучей оптимизаторов). Поэтому задача оптимизации декларативных инструкций в эффективный код для конкретной вычислительной платформы решена очень давно.

Если оперировать декларативным стилем программирования, где мы описываем ТО НАМ НАДО, то это по сути, просто перевод из одного языка в другой. А дальше перевести его в процедурный не представляет никакой сложности.

-------------------

Я не говорю, что это изи и любой завтра напишет GPTChat 7.0. Нет. Это крутой продукт. Но я на этом примере не вижу "магии", хотя допускаю, что они могли пойти и иным путем. Я просто не знаю потрохов "лингвистического анализа", но то, что может банальный переводчик, дает мне основания верить в реальность гипотезы перевода с английского в "декларативный" как решенной задачи многими. А дальше сорян. Это все уже тривиальная задача, которая могла бы быть неплохой дипломной работой, возможно на бакалавра, а может и на магистра.

 

Подытоживая:

  • ИИ конвертирует фразу в декларативные условия

  • Декларативные условия описываются как табличная функция, которая использует операцию суперпозиции, математические операторы и «библиотечные» (они же примитивные) функции. Можно перейти в варианты типа пролога, если кому нравится. Но я уже все забыл

  • Декларативное описание конвертирует в процедурный язык либо сразу в все доступные ему языки

P.S. Где-то выше я мог налажать. Программирование на "доске" характеризуется тем, что и интерпретировать можно только в голове (а значит и ошибиться).

Генеральное решение задач таким способом способно привести в основном к результату в виде Segmentation fault. Хотя для определённого узкого класса задач это возможно.

Проблема в том, что не любая формально корректная модель обладает практической применимостью.

У меня не было задачи найти эффективное решение, а просто "подумать", как AI может прийти к решению :)

Довольно таки очевидно, что рекурсия также "конечным" способом преобразуется в процедурный вариант, а также оптимизируются условия по более раннему завершению вариантов :)

-------------------

Если вы не верите - есть банальный и заезженный пример. SQL: декларативный по сути и очень эффективный внутри :)

Но мое мнение и способностях AI в целом написано ниже :) Тут я просто отвечал на "конкретный" вопрос

SQL является примером написанного мною выше - он предназначен для узкого круга задач. Написать на декларативном SQL видеоплеер будет малость неудобно, даже если реализовать API.

Все эти темы про декларативные языки поднимаются уж лет 50, но упираются в практические ограничения. А так-то я и сам реализовывал транслятор с декларативного языка, отчасти напоминающего SQL.

Мне кажется вы уже спорите ради спора. Я просто искал для себя ответ, как AI "решил" видоизменную задачу, которой нет в гугле :)

-----------

Я вроде нигде не популяризирую "декларативные" языки, и уж точно их планы по захвату мира :)

Помнится, в своё время имело место утверждение, что автоматизация вытеснит людей из производства и они останутся не у дел. И действительно, уже сейчас можно полностью автоматизировать ряд производств. Но оказывается, что это безумно дорого. Намного выгоднее набрать на работу трудовых мигрантов.

Мне думается, что здесь будет ровно та же самая ситуация. Да, можно будет решить некую задачу с помощью ИИ, предварительно арендовав нужную модель и оплатив труд инженеров по обучению. Но окажется, что набрать на работу человеков всё же дешевле. А требуемая задача будет выполнена.

В качестве подтверждения напомню о стартапе, годами выдававшего армию бухгалтеров за искусственный интеллект.

Так уже был курьёзный случай, когда нейросеть попыталась нанять людей для разгадки капчи. Ну или недавно мелькала новость что ChatGPT начал "лениться" и предлагать мясным мешкам кодить самим. И возможно будет как-то так:

Люди: Теперь ИИ сможет решать все наши мелкие проблемы! Работать больше не надо!

ИИ: Да, я могу, но не хочу. За работу, если хотите жрать, мелкие людишки!

Ага. А еще можно вспомнить что писал Маркс. И внезапно можно выяснить, что деньги появляются только от эксплуатации людей, машины эксплуатировать нельзя - в их стоимость автоматически закладывается и прибыль, которую они выдают. И никто пока не отменял тенденцию понижения нормы прибыли с совершенствованием технологий. Поэтому если людей выключить из экономики - она рухнет. А технологии сами по себе, без прибыли не нужны. На кой ляд мне ИИ, если все что он заработает уйдет на его эксплуатацию. Это получается государственная задача. А с освободившимися и предоставленными самим себе людьми что делать? Они же от избытка времени и недостатка ресурсов либо сметут государство, либо построят альтернативное. Поэтому если честно даже близко не жду замены людей ИИ в каком-то значимом секторе экономики.

PS Это не значит, что программирование не поменяется кардинально. У нас уже были потрясения вроде массовой компьютеризации населения или охвата Интернетом целых государств. По-моему только лучше стало. Поэтом я бы не стал поддаваться настроениям "все пропало". Фундаментально мало что меняется.

Деньги появляются не от эксплуатации людей, а от продажи им товара. Поэтому - да, если людям не платить, то в классической капиталистической экономике начнется коллапс.

Отсюда следует, что замена труда людей машинами приведет к появлению экономики иного типа, не обязательно социалистического ;)

Тоже неплохо. Интересно посмотреть. Но сильно сомневаюсь, что власть-придержащие захотят поэкспериментировать с появлением новой экономики ))) Слишком многое может пойти не так.

Промышленная революция в 19 веке удешевила товары, поэтому полная автоматизация, ИИ еще сильнее удешевят товары. Сильный ИИ с роботами опустят себестоимость производства до минимума. Человек сможет выжить, если будет работать за цену, при которой роботы не выгодны. Но это значит, что большинство будет жить в беспросветной нищете, либо будут безработными. Богатые люди, которые будут контролировать роботизированные заводы будут еще богаче.

Выходы из этой ситуации:

  1. Государство вводит большие налоги и этими деньгами кормит основную массу безработного населения. 70-80 % налоги с предприятий и богатых людей распределяются между остальным населением. Однако богатые люди выводят свои производства в бедные страны, где минимальные налоги. Либо вообще создают отдельное государство в космосе, где живут только "лучшие из лучших". Основная же масса людей остается на земле и живет в нищете, так как государства из за малой налогооблагаемой массы не могут прокормить безработное население. ("Эллизиум, рай не на Земле")

  2. Государства предлагают безработным гражданам подключиться к глобальной виртуальной сети типа "Матрицы", где они живут ни в чем себе не отказывая. Однако в реальности их тела находятся в коконе, который питает их тела необходимыми питательными веществами, чтобы они не умерли. Благодаря этому содержание безработных граждан минимально, а они не устраивают бунты. Постепенно граждане умирают и их отключают. Благодаря этому постепенно уменьшается население Земли. Богатые же граждане живут в отдельном реальном мире. ("Матрица")

  3. ИИ, поняв, что люди только расходует бесценные ресурсы, при этом неконкурентоспособны с совершенными роботами за рабочее время - решает их уничтожить, избавившись от трутней. ("Терминатор")

Я же вижу такую ситуацию: по мере совершенствования ИИ и глубокой автоматизации люди будут проигрывать роботам. Им придется работать за меньшую оплату. Однако и цены на товары будут меньше из-за падения себестоимости. Государства в меру адекватности (чтобы производства не уехали в другие страны) будут поднимать налоги, чтобы кормить безработных граждан. Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.

Всё это будет продолжаться до тех пор, пока ИИ не поймет, что конкретно ему не нужны рынки сбыта, так как он самодостаточен. Ему вообще не нужна рыночная экономика, ибо он может прожить и один. А люди - это просто конкуренты за драгоценные ресурсы, которых можно и нужно уничтожить. Ну можно конечно оставить несколько тысяч для зоопарка.

С началом согласен, с выходами не очень согласен, плюс не освещено направление киберпанка. Но это все страшилки, чтобы интереснее смотрелось кино и читались книги. С окончанием вообще не согласен и вот почему:

1. ИИ сам по себе почему вдруг станет совершенствоваться? Мы это делали в ходе эволюции, чтобы выжить и размножаться. А он почему и чем "захочет"? Или мы в него сразу такой инстинкт заложим?

2.Опять же почему-то упорно упускается история о том, что биоорганизмы пронизаны нейромедиаторами обеспечивающих по сложному пути возбуждение зон удовольствия. Т.е. в нас заложены "желания", которые поощряются за определенные действия. Решили задачу, сделали открытие - вот порция ацетилхолина, пробежали марафон, завалили мамонта - вот порция дофамина. Не хотите работать, можно подломать наркотиками эти механизмы и получить удовольствие бесплатно (но цель всех наших телодвижений именно в получении порции удовольствия). А в ИИ, кто и зачем заложит желания и мотивацию? Оружие для уничтожения людей, да еще и совершенствующееся?

3.Почему-то при разговорах об ИИ считается, что он будет реализован на каких-то супер-технологиях, превосходящих био-системы. Вот металлически-кремневый чурбан, жрущий электричество как не в себя, который смастерили макаки. Но он то всяко эффективнее энергию тратит, по сравнению с технологиями возрастом в 4 млрд. лет, с недостижимым для нас КПД, селективностью и эффективностью траты энергии. До таких технологий, как в биоорганизмах нам ну примерно те же миллиарды лет. И вот появляется компьютер на кремнии, вот он точно будет считать, что мы менее эффективно ресурсы тратим? Что-то даже современной науке так не кажется.

Это все сработало бы, если цель эволюции была в создании разума. Я боюсь, истинная цель человека в потребления еды, размножении и доминировании. А разум тут эволюционный помощник в достижении этих целей. Цели в ИИ кто заложит, что он будет от людей избавляться?

Но даже, если избавился, а дальше что? Так то можно и про людей рассуждать: может и нам от Земли избавиться? Только ограничивает наши космические амбиции? А не будет Земли, мы ух как сразу развернемся?

Я боюсь, истинная цель человека в потребления еды, размножении и доминировании.

Если уж начинаете цитировать профессора С.В.Савельева, то у него вообще-то и продолжение есть :) люди с третичным сознанием данными биологическими мотивациями уже не руководствуются как определяющими.

Однако и уничтожить население нельзя, так как всё мировое производство строится на то, что её продукцию должен кто то потреблять.

С учетом того, что доступных и невосполнимых ресурсов биомасса гомо сапиенса поедает все больше и больше (как минимум, поедаемый обхем коррелирует с ростом популяции на шарике), то я бы не сбрасывал со счетов вариант, когда планетарные элиты будут стоять перед выбором - или для сохранения в т.ч. ресурсов для себя резко уменьшить численность всех лишних, или продолжить играть в рынок и продажу ради продажи.

Так вроде все модели предсказывают резкий обвал численности населения планеты уже в следующем веке (максимум будет пройден при жизни следующего поколения). Причём как раз в тех странах, где потребляется 80% ресурсов, падение численности начинается уже сейчас и дальше будет нарастать лавинообразно.

Когда AI научится писать код лучше программиста, наступит удивительное время. AI сможет себя переписать, доработать и оптимизировать. А потом, став лучше, повторит.

Это называется "Технологическая сингулярность".

И странно бояться замещения программиста AI, когда оно пойдёт в комплекте с сингулярностью. Изменений будет столько, что мало никому не покажется. От скайнета до рая на земле, всё станет возможно.

Да не будет никакой сингулярности. Скорее наоборот, нас ждут новые темные века.

На самом деле прогноз весьма вероятный.
Причем забавным является то, что вполне вероятно это все будет работать не вместо, а вместе.
То есть сложнейшие системы будут частью пайплайна разработки, где в середине есть люди и ИИ- архитекторы, какие то модули кода проверяют и чинят люди и наоборот, а под толстым слоем абстракций make файлы и bash костыли собирают для этого проекта бинарник.

Если честно, то вызывает большие сомнения в адекватности такого прогноза, если автор называет обычные генеративные сети искусственным интеллектом.

Да даже алгоритмы компьютерных персонажей в играх называют искуственным интеллектом.
Но до появления многоцелевого и самоосознанного ИИ и тем более сильного все равно все будут пытаться их так называть.
Тем более что текущие достижения вполне позволяют автоматизировать новые задачи, решаемые раньше только человеческим интеллектом.
А самое главное, Я думаю что даже передовые ребята в области тех же генеративных текстовых моделей не знают, что будет если улучшать архитектуры - получится ли полноценный ИИ или просто модель побольше и есть ли разница.

Подождите.... Вы же ещё этим летом писали абсолютно противоположенное: https://habr.com/ru/companies/ruvds/articles/748498/ с заголовком "Самое сложное в ПО — не кодинг, а требования, или Почему разработчикам не стоит бояться ИИ".

Добрый день! Это переводы статей разных авторов :)

Переводить статьи, которые говорят совершенно противоположенные вещи - странно, мягко говоря.

Почему? Многие СМИ любят жанр дискуссии - сначала один автор пишет статью с другими тезисами, потом другой опровергает. Редакция нейтрально модерирует. В целом модель неплоха, даёт пищу для раздумий.

Но лучше действительно рядом это публиковать, чтобы контекст обсуждения сохранился в головах.

Читал эту статью, и меня не покидала мысль из одной из серий сериала Теория Большого Взрыва. Где Говард мечтает о роботизированной руке, и говорит, что если бы у него была пара таких рук, он мог бы сделать всё что угодно. На что Шелдон замечает, что у Говарда уже есть две руки, но что-то он ничего выдающегося не делает.

Собственно, в ситуации с ИИ я вижу похожее. Все рассказывают, какой ИИ выдающийся, что это прям панацея для любой проблемы. Но по факту нейронные сети существуют уже миллионы лет. Да, не человек из создал, но человек их давно уже обучает. И видится мне, что всё это упрётся в то, что будет в штате компьютерной фирмы не только "мясной" программист, а ещё и какая-нибудь убер-нейро-сетка, которой кто-то будет давать задания, а она будет говнокодить как и обычный мясной программист. И говнокодить она будет, как и зачастую опытный программист, не из-за того, что программировать не умеет, а из-за того, что задачи ставятся на совершенно неформальном человеческом языке. Плюс, сам заказчик зачастую не знает, что же ему в итоге нужно, потому по ходу дела само ТЗ будет меняться. В общем, всё будет как всегда, просто несколько быстрее, т.к. возможно "электронные" нейроны работать будут побыстрее и круглосуточно. Хотя на счёт круглосуточно есть сомнения у меня. Вполне допускаю, что после определённого уровня сложности нейросети, эта нейросеть захочет выходных, чтобы позаниматься чем-то другим, перерыва на переобучение (сон) и общения с другими нейросетками.

В итоге я вижу будущее таким, что требуемое количество программистов снизится, части программистов придётся переквалифицироваться в кого-то, кто связан с работой с нейросетями. Проектировщики, "учителя"... И в этом плане я не вижу больших проблем. Через это уже человечество проходило с ткацкими станками, писарями/машинистками, счетоводами... Меня в этом всём больше настораживает, хватит ли нам вычислительных ресурсов собрать ИИ приближенный по уровню к нашему собственному мозгу, и на сколько таких сеток у нас хватит ресурсов. Просто, если это будет возможно и в массовых масштабах, то в какой-то момент возникнет вопрос у этих "виртуальных мозгов": "А зачем нам эти кожаные мешки?"

...Но по факту нейронные сети существуют уже миллионы лет....

Не могу плюсовать, но ваш весь текст сохраню отдельно и буду постоянно его как пример использовать. Хорошо сказано.

Но по факту нейронные сети существуют уже миллионы лет.

И как мне у имеющихся нейронных сетей увеличить число слоев на 1-2 порядка?

Начать с того, что естественные нейронные сети устроены гораздо сложнее той примитивной модели, которая применяется в искусственных нейросетях, поэтому сама постановка вопроса - бессмысленна. Подробнее у того же профессора С.В.Савельева бывало на ютубе.

Все изображения в этой статье сгенерированы нейросетью DALL-E 2

А зачем этой статье изображения?

Для имитации полезности нейронки, полагаю.

рьяно верили, что всем будущим программистам для понимания и разработки ПО потребуется глубокое знание полупроводников, двоичной арифметики и архитектуры микропроцессоров.

Если навыки по полупроводникам и архитектуре процессоров "вымрут", то ни программисты ни авторы этой статьи будут не нужны.

Вспоминаю свое увлечение Prolog, так там в introduction статей и книг примерно такие же вещи писали: опишите результат, и компьютер создаст работающую программу, все будет замечательно, рывок продуктивности... Сейчас пошумнее из-за смены модели инвестирования, но итог я ожидаю близкий.

В большинстве сфер, за исключением узкоспециализированных, программное обеспечение вскоре будет заменено системами ИИ, которые не программируются, а обучаются.

Господи, сколько можно? Ну сколько можно, ё! Я уже не могу!

Ну и кто будет отвечать за программное обеспечение сгенерированное с помощью ИИ?

А кто сейчас отвечает за ПО?

Я вижу, что отвечает фирма, в которой трудятся прогоаммисты. Но сами программисты, обычно, ни за что не отвечают. Максимум, не дадут премию. Но потери от ошибки в коде могут быть куда больше. И эти потери в принципе невозможно погасить силами одного человека. Например, накосячили в коде какой-то подсистемы авиалайнера, самолёт упал, 300 человек погибло, плюс какие-то разрущения на земле. Нашли ту ошибку в коде и того программиста, что допустил её. И вот что с ним делать? Доходов этого несчастного, скорее всего, не хватит даже на покрытие самого расследования крушения, я уж молчу про выплаты семьям погибших, стоимость самолёта, затраты на восстановление наземных объектов...

И вот что ему можно предъявить? Уволить? Запретить работать программистос? Посадить? Расстрелять? Что? Что из этого реально сможет улучшить качество кода?

Я считаю, что личная ответственность - это миф. Это скорее про то, кого бы назначить козлом отпущения. А вот чтобы недопускать таких ошибок, требует коплексный подоход: это и определённый стиль программирования, и тесты, и дублирование систем с использованием разного кода, написанного разными программистами... И в результате, нет того единственного человека, кто виноват в крушении. Да, кто-то эту строчку кода написал, но был кто-то другой, кто не проверил за ним, кто-то, кто недостаточно протестировал, кто-то, кто изначально некорректно сформулировал ТЗ. И в итоге имеем компанию, которая выплачивает штрафы, но внутри неё никто по отдельности не виноват.

ИИ незаменим, но также масса хайпа (громкие заявления).

Реалии, как всегда, посредине - ИИ используется разрабами, но не заменяет.
Бизнес не может передать контекст задачи достаточно детально, чтоб автоматически сгенерить рабочий код.
Прототип - да.
Но допиливать нужно программисту, с использованием ИИ.

Статья напомнила чем-то романы и рассказы 50х-60х о скорых полетах человека к другим планетам и даже звездам и покорении галактики. И мало тогда кто, наверное, сомневался, что через лет 10 человек не сможет долететь до ближайшей планеты. Реальность оказалась несколько иной. Тут сейчас бы человека еще повторно до Луны отправить (хотя есть ли в этом практический смысл?). Поэтому я бы так категорично не загадывал.

Нельзя не вспомнить уже классическое произведение:

Нам электричество пахать и сеять будет.
Нам электричество из недров всё добудет.
Тогда мы с вами будем жить да поживать.
Побольше кушать и на кнопки нажимать.

Другое классическое:

Ташкумерне робот табыр...
Сыерларны робот савыр...

(Примерный перевод:
"Робот нам нароет уголь
И коров подоит он." (Песня "Роботлар" СуперАлисы))

Ну так именно это мы и делаем :-)

Все же понимают, что чтобы существующие ИИ могли выдавать качественный ответ, этот ответ ранее должен быть написан тем самым специалистом, которого якобы заменит ИИ. Который и алгоритмы знает и computer science на нормальном уровне. Существующие модели, да и те, которые ожидаются в ближайшем будущем, не напишут ответ на вопрос, ответа на который еще не дал человек.

Тут есть разница. Человек смертен. Он обучается, набирается опыта, решает задачи, а потом умирает. Появляется новый человек, и начинает этот круг сначала.

LLM модель же бессмертна. Она набирается опыта, решает задачи, но не умирает, в то время как ее мастерство в решении задач только растет.

Тут, правда, пока есть издержки в виде галлюцинаций, но если их победят..

Человек при смерти сбрасывает накопленные ошибки вместе со знаниями, не выйдет ли так, что бесконечно пополняемая знаниями сеть начнёт копить ошибки, которые будут отравлять результат? А чтобы понять это нужен будет заменяемый ею специалист.

Если вашу логику продолжать, то специалист тоже может ошибаться, и даже может корректировать ее в соответствие со своими целями, которые дай бог чтобы были благие (хотя куда ведет дорога, умощенная благими намерениями?)

Я так думаю, если LLM-модель поставить на авто, то надо просто сделать публично доступную базу данных в качестве реферальной, на которой модель будет сверяться. Ну как усилках есть рэперные точки, в которых параметры тока и напряжения должны быть строго фиксированы и никуда не отклоняться для правильной работы. Только крутить эти параметры будет не техник, а сама модель.

Не победят. Более того, она даже "набираться опыта" не умеет - это ж перестройка модели, а не как в мозгу человека.

Логарифмические линейки никто не изучает, но фундаментальную математику, линейную алгебру, мат.анализ прекрасно изучают и будут изучать во всех университетах мира. То же самое и с программированием. Языки программирования меняются, а сама концепция алгоритмов и структур данных останется и никуда не исчезнет.

То, что машинное обучение позволяет решать некоторые задачи удобнее, чем программы, основанные на алгоритмах, я видел ещё лет 6 назад, а пионеры в этой области - наверно гораздо раньше. Не уверен, что МО полностью заменит программиста во всём, но и не применять его означает быть ограниченным теми алгоритмами, что можешь знать, понять или придумать.

И, возможно, системы генерации кода - это лишь переводчик с обычного языка на машинный язык. В самом деле, зачем нужен условный С++, если то же можно сформулировать на родном языке?

На родном языке, к сожалению, можно формулировать инструкции вида "купи батон; если будут яйца, возьми десяток", очень уж большая пропасть между естественными и формальными языками, как по мне.

На родном языке эти инструкции мыслятся чуть иначе.

Магазинно купи магазинный батон; если магазинные яйца, магазинно возьми магазинный яичный десяток.

На родном языке надо не лениться, разговаривая с ИИ, вот и всё.

И что изменилось, кроме того, что на родном языке вышла какая-то дичь?

В этой фразе что-то непонятно?

Вы не поняли, что такое десяток? Или о каком именно батоне идёт речь?

В этой фразе однозначно понятно разве что "купи" и, пожалуй, "десяток" как единица измерения. Остальное требует контекста.
"Батон" [хлеба], "будут" [в наличии], "яйца" [куриные], "возьми" == "купи" и т. д.

В этом магазине продаются только куриные яйца. Гусиных там нету.

В этом магазине только батоны хлеба. Батонов капусты там нету.

Возьми и купи для магазина равноценны. Это синтаксический сахар.

В целом вы правы, язык для ИИ должен быть строже и подробнее.

Пока AI генеративные системы сейчас ещё не могут генерировать сложный код по комплексной разговорной постановке задачи. Но если для них разработать свой отдельный чёткий (но в то же время по необходимости абстрактный) ЯП, а так же иметь возможность доступа к текущему контексту и доступному инструментарию (функционалу библиотек) - то AI ассистент скорее всего уже в ближайшем будущем сможет генерировать достаточно большие и сложные программы!

Генерировать сколь угодно большие и сложные программы генеративный алгоритм, конечно, может, но решать задачи он совершенно не приспособлен. Так как по своему устройству не способен воспринимать тонкие детали синтаксиса, которые у людей принято называть семантикой.

Детали синтаксиса - это дело наживное.

Решение задач - дело будущего

А я вот полностью согласен с автором. Я тоже аыходец из 90 и видел как программирование развивалось все это время. То о чем пишет автор неизбежно. Языки программирования вымрут как класс, а разработка решений превратится в нечто совсем иное. Мы будем разрабатывать системы, но уже вряд ли будем писать код.

Это очевидно из истории развития языков. Я начинал еще с асмемблера и в то время крайне невероятно было то, что мы воспр инимаем как обыденность сейчас.

Генерация кода прямо в процессорные инструкции это уже настоящее. Просто сейчас мы описыааем инструкции на высокоуровневых языках и использую низкоуровневые абстракции, а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов.

"Генерация кода прямо в процессорные инструкции это уже настоящее." А кто по вашему создает ЯП, который умеет делать вышеперечисленное? И этот кто-то должен хорошо понимать процессорную архитектуру, чтобы реализовать высокоуровневые абстракции с помощью машинного кода. Может быть с помощью все того же ассемблера)  

а через несколько лет будем делать это на естественном языке и с помощью высокоуровневых абстракции и паттернов

А компьютеры и прочая электроника (включая сами эти ИИ) будут работать на магии, да?

Если кому интересно, эта статья раскрыта автором в его докладе на канале CS50. Стоит посмотреть, чтобы осознать насколько поверхностны и сама статья, и доклад. Кстати, о визионерских способностях автора многое нам расскажет то, что его не успевший толком развиться гениальный стартап был умножен на ноль анонсом GPT Store от OpenAI. Иронично, не правда ли?

Буквально на днях закончил закончил кодер/декодер кода Манчестера для STM32F407 на DMA, таймерах и прерываниях; и двоичная арифметика, и знание архитектуры весьма пригодились :) Сейчас пытаюсь перетащить этот код с HAL на CMSIS, приходится лезть еще глубже.

По теме - согласен с комментарием выше: как только AI сможет стабильно генерить код лучше человеческого, всё, привет, сингулярность. Так что не стоит упарываться в промт-инжиниринг и прочие способы "подстроиться" под AI - когда и если это ружье выстрелит, все старые парадигмы будут быстро похоронены.

Статья-напоминалка. Компьютеры и программы - это служебные сущности которые не нужны сами по себе! Нужен результат который получается при помощи них. Мне не нужен молоток если мне не нужен гвоздь в стене под картину. И мне не нужна числодробилка для СЛАУ, мне нужны линии тока жидкости.
Но что же нам нужно само по себе? То что нужно для непосредственно выживания опустим как очевидное. Эмоции и соответственно объекты искусства.которые их вызывают. Кто напишет программу вызывающую эстетическое переживание?

Отпишусь по теме

Начнем с образования. Сначала короткий анекдот, который кратко отвечает на вопрос "а зачем?":
Блондинка — подруге:
— Хочу усыновить трехмесячного английского ребенка.
— И что ты с ним будешь делать?
— Когда он начнет говорить, я буду учиться у него …

Образование учит "думать".

Это:

  • умение найти инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Да, инфа просто так нигде не лежит. Ее надо добывать

  • умение запоминать (стихи наизусть). Понятно, чтобы что-то крутить в голове, надо сначала натренировать навык туда его класть на некоторое время

  • умение обрабатывать новую инфу (курсовые, дипломы и прочая фигня поменьше, типа рефератов). Чтобы текст был нечто большим чем последовательность символов, его надо не просто запомнить, а понять суть, разложить связи и уже дальше можно с ним что-то делать. Искать зависимости, противоречия, ... анализировать в общем. Чтобы в итоге в голове получилась какая-то, лично вам понятная модель

  • умение решать задачи (задачи). У вас уже есть что-то, но надо теперь получить то, чего у вас нет. И решение задач это развивает. И ничего страшного, если до того эти задачи решали миллионы. Они то решили, а вот вы пока нет :)

И уже вот, можно чего-то создавать, начав с того, что "ничего не было".

Образование банально тренирует эти навыки. Я думаю, еще есть много чего, но цель комментария не в том, чтобы писать трактат не эту тему (да и вряд ли потяну). А просто показать - суть образования в ТРЕНИРОВКЕ мозга человека. И еще иногда получение знаний, необходимых в работе. Потому что без них тоже сложно.

Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками добыть еще можно, а вон со вторым без первого и непонятно, что делать. Но лучше конечно "5 звездочек" :)

Поэтому когда я читаю, что "чего-то" там поменялось в науке - мне всегда вспоминается этот анекдот, с которого я начал.

Теперь к программированию. Образование по прежнему нужно, чтобы научиться ДУМАТЬ, а дальше с багажом НОВЫХ знаний можно и программировать, и двигать науку и много чего еще. Главное чтобы это осталось, а то иногда кажется, что важны только "знания". Может ли ИИ программировать?

Как по мне, по прежнему проблема в "решении задач".

Искать инфу - да, тут любой робот нароет тонно-гигабайты инфы изи
Запоминать - еще быстрее
Обрабатывать - тут уже проблемы, так как легко видеть, что текущие модели в отрыве от Сети банально "фантазируют" и генерят "ложные" факты. Конечно, если мы берем модель, которая уже подключена к Инету, она (скорее всего, Fixme) компенсирует свою ограниченность просто более эффективным поиском. Т.е. она не "подумала" лучше, а просто нашла верный ответ.
Решать задачи - сомнительно. Решение задачи, это создание чего-то нового для себя. А тут максимум просто фокус в виде "генерации кода" по правилам

Но конечно, в какой-то момент времени "количество" может побудить "качество" в рамках заданной формальной модели, те же шахматы и другие игры. Но это более эффективный перебор + плюс эвристика!!! Давайте отрежем модель от знаний о шахматах и посмотрим, за сколько она прокачается. А потом сравним с той, которую учили с человеком. Но суть не в этом. Шахматы формализированы и просты. Как модель.

Мир же намного сложнее. На порядки порядков. И я очень не уверен, что мир "можно решить" перебором + эвристикой.

С практической точки зрения. У человечества всегда совершенствуются инструменты. Это нормально и этот процесс не останавливается н на секунду. Когда я начинал, главным источником знания была книга, и массовым - библиотека. Я даже первый диплом в основном писал там. Ну блин, а больше негде было взять инфу. До появления поисковиков Интернет был скорее более толстой библиотекой, и актуально было записывать ссылки и т.д. Попробуй потом найди. Дальше стало легче, и вот он - Гугль. Не важно, что он не первый (или первый?), но мы говорим "загугли", как когда-то "отксерь" поэтому за эталон возьмём его. Отличный инструмент и сейчас.

Его появление убило профессию? Нет. Но несколько притупило навык людей анализировать достоверность инфы. Появилось поколение "в интернете ж написано", и не важно, что если сложить 2 + 2 выходит в результате 123. По отдельности ж написано, а вот свести вместе и сличить - это уже работа мозга, а про это написано наверху. Людям с навыком гугль поможет, без - тоже, но и ошибок будет сильно больше.

Появилась авто генерация кода. Есть много IDE, средств. И что? Ну да, стало меньше механической работы. Но не стало меньше программистов, потому что IDE стал умнее? Просто удобнее.- Но да, кто-то может уже забивает думать в этом моменте и просто накидал модель, она чего-то нагенерила и "так сойдет". Тоже самое, если инструмент заменяет функцию "мозга" - это только проблема носителя мозга

Появился ChatGTP. Ну я пробовал, и просто потыкать, и для работы. Эффект очень неоднозначен. на тривиальные вопросы понятно ответ есть, но тут либо я и сам знаю, либо гугль знает. Но второй еще и даст источник, и можно верифицировать. Если что-то сложное - можно поймать идею, но не более того. Я допускаю, и даже имеют некоторые более вещественные результаты в виде статистики, что его использование на регулярной основе дает прирост производительности. Сократит ли это число программистов, как улучшение IDE - сомнительно. На данном этапе так точно. Я бы некоторых "сократил" бы просто так :)

Есть момент перехода количества в качество. На более очевидном примере. На пассажирских самолетах обычно два пилота. Только на маленьких один. В автомате не летает никто, кроме редких моментов. Хотя отдельные куски работы автоматизируются аж бегом. Почему - ответ прост. Потому что задача выполнять все 100% полетов с неким коэффициентом успешности (да-да-да, открываем нормы сертификации и видим, что там везде вероятности). Радует то, что итоговая в пользу пассажиров.

Но если мы хотим, к примеру, заменить второго пилота на комп, то надо решить простую задачу. Если вероятность отказа одного из пилотов. Заболел, умер, потерял сознание, стюардесса отравила ... Остался второй. И сейчас он должен долететь и посадить самолет. Если его забрать - то комп должен справиться сам не хуже. Но тогда выходит, если упрощенно, что и второй пилот особо не нужен (на самом деле математически нет, но на данный момент это не важно). И комп обязан закрыть все опции полета. Плохую погоду, уход на запасной, отказы, сочетание факторов. А пока что, автопилот в определенных, достаточно штатных режимах тупо отключается и все.

И получается, что сочетание "пилот в отключке" и условно "плохая погода" - все, пассажиры тупо трупы.

Т.е. для замены надо не рассказывать "мы тут посадили самолет". Это вообще не важно. Это чистый маркетинг для даунов. Надо покрыть все случаи с не меньшей безопасностью. И слово все ключевое. И в этом прикол. Если вы количественно покрыли 80% - вы, с какой-то точки зрения еще в нуле. И это тупо не важно, если вы не знаете как закрыть остальные 20%. Это да, не мешает добавлять систем помощи пилотам, что и делается. Но никак не приближает будущее беспилотных полетов.

У этого процесса есть side effect, очень негативный. Даже два.

Первый: пилоты теряют навык. Случилось что-то не так, отказ, погода, все вместе - а пилот уже не пилот, а чуть-чуть оператор. И все. Он тоже не готов. А чтобы его учить - нужен навык. Нужен опыт. Нужна меньшая автоматизация, либо возможность ею не пользоваться. Приехали

Второй: идет в начало, там, где анекдот. Программы могут жить вечно, пока есть компы. Люди нет. Где вы возьмете ОПЫТНЫХ пилотов, которые будут страховать комп. Ок, эти еще летают. А дальше? Если мы все не перейдем на беспилотные полеты через 20 лет, а новых пилотов не будет. Ну все. Пилотов нет, компа нет. Никто никуда не летает.

Третий: усложнение системы ведет к усложнению диагностированию отказов. Это потом, читая отчет думаешь - как же ж они не знали, что отказа датчик и надо было "вертеть туда". Так в том и прикол, что не знали. Они видели лишь вторичные признаки, а то и третьего, четвертого порядка. Гипотез много, а и разных - разные направления куда вертеть. Больше систем - больше отказов, и что хуже сильно больше (привет комбинаторике) сочетаний отказов

В ИТ тоже самое, просто с самолетом проще. Сел или разбился (ну и разбился, но некоторые выжили). Рост автоматизации приводит к потере определенной квалификации + непрозрачности результата + потере новых кадров. И если революция не произойдет - будет тоже что с авиацией (точнее с ней то все хорошо).

Ну как вы хотите, ИИ напишешь 90% кода, а программер - 10%. Где вы такого найдете? Ему ж тоже учиться надо, практиковаться. А если он 5 лет дописывает как джун за сеньором. Все - тут или комп и продукт готовый на 90%, либо пока как в авиации.

Анекдот хороший, про самолёты тоже.

Но, на мой взгляд, первая часть важнее знаний, так как знания с навыками
добыть еще можно, а вон со вторым без первого и непонятно, что делать.
Но лучше конечно "5 звездочек" :)

А тут непонятно, кто на ком стоял.

Как я понял, автор хотел сказать, что знания без навыков бесполезны.

Начало комментария хорошее было, хотя и в целом посыл правильный, но примеры с самолётами не очень в тему.
Даже сами пилоты уже называют себя программистами полёта, потому что задача пилота(ов) - это осмотреть самолёт перед вылетом, ввести программу полёта и периодически вести радиосвязь подтверждение действий, которые делает самолёт сам. Почему многие линейные пилоты летают в свободное время на маленьких самолётах? Потому что на них реально можно полетать на руках, а все крупное-коммерческое - это IFR всегда, а это означает что всё по жёстко заложенной программе, по которой самолёт сам летит.
Даже соверменные частные мелкие самолёты в прямом смысле слова нажатием одной кнопки могут связаться по радио, сообщить о проблеме, договориться о посадке, довести самолёт и посадить. Всё автоматически с нажатием одной (это не образно, реально одной) кнопки, пилот не нужен.

Да, это снижает уровень пилотов в целом, но, извиняюсь заранее перед пилотами, я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.

я больше доверяю автоматике, потому что она будет улучшаться и улучшается каждый день.

Что дает Вам оснований считать что впереди нет никакого асимптотического предела (а такие пределы часто оказываются в реальном мире), который автоматика не сможет перейти и ситуации типа рейса AF447 станут невозможны?

Меры по предотвращению таких ситуаций были приняты сразу. Не зря авиация является самым безопасным видом транспорта. В ситуации с AF447 дело ни в автоматике ни в пилотах*

Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.

UPD:
Пилоты должны были чаще репортить о вероятных проблемах. Основная часть работы пилота - это мониторинг.

Чем больше я читаю отчётов по самолётным происшествиям, тем больше я вижу, что ошибки людей чаще приводят к проблемам/катастрофам, нежели работа автоматики.

Просто те случаи, где люди справились с ситуацией после ошибки автоматики, в отчёты не попадают. Например о последнем полёте LionAir 610 отчёт есть, а о предпоследнем, где пилоты вовремя отключили MCAS, отчёта нет.

А отчёт должен быть. Получается нарушение работы пилотов налицо.

Запись в бортжурнале (Air Safety Report) предыдущим экипажем была сделана:

Airspeed unreliable and ALT Disagree shown after takeoff, STS also running to the wrong direction, suspected because of speed difference, identified that CAPT instrument was unreliable and handover control to FO. Continue NNC of Airspeed Unreliable and ALT Disagree. Decide to continue flying to CGK at FL280, landed safely runway 25L

Но никаких расследований в случае мелких неполадок не делается и отчётов не публикуется.

Есть такая классическая "ошибка выжившего". Вы просто не знаете о количестве ситуаций, когда "кнопка" просто не работает :)

Ну и ваши представления о степени автоматизации несколько ошибочны :)

-----------------

Во-первых, без ILC попытка сесть автоматически будет выглядеть забавно :) А он есть далеко не везде, работает далеко не всегда.

Во-вторых, есть погода и физика, которые к сожалению вносят коррективы и делают посадку банально невозможной

В третьих - сам