Комментарии 179
Пока остаются подводные камни, которые требуют коррекции со стороны дизайнеров
... что-то знакомое, не правда ли?
"А в остальном все хорошо!" (с)
Цель не в том, чтобы заменить людей инструментами, а в том, чтобы повысить производительность с помощью новых инструментов.
Следовательно, коррекция со стороны дизайнеров будет необходима всегда.
Увы, не всем везет с необходимостью остаться чтобы что-то корректировать. А над кое кем ИИ потом еще и издевается:
Фрилансер Алекс Вэй несколько лет писал статьи для блога, пока компания не заменила всех авторов на искусственный интеллект. Теперь ИИ не только забрал у него работу, но и лишает просмотров на YouTube — пользователи читают краткий пересказ видео, созданный нейросетью, и не смотрят ролик до конца.
Скрытый текст

Невелика потеря так-то
Но ведь если краткий пересказ заменяет видео – значит, это видео было не нужно с самого начала? Проблема не в ИИ?
Вы "Войну и мир" читали в "оригинале" или в "пересказе"?:)
"Мне Рабинович напел"
Я пробовал то и другое, но читать всё-таки лучше, чем слушать в исполнении фрилансера или читать в пересказе его же.
Вы "Войну и мир" читали в "оригинале" или в "пересказе"?:)
Люблю отвечать "да" на такие вопросы. Почему мне нужно выбрать только один пункт, а не все? И почему их всего два? И зачем мне, в конце концов, вообще делать выбор?
Я это называю заменой свободы выбора муками выбора.
Почему мне нужно выбрать только один пункт, а не все? И зачем мне, в конце концов, вообще делать выбор?
Можно же просто пройти мимо, не обязательно рефлексировать на каждый комментарий считая его обращенным к себе и требовать адаптировать его именно под Вас:)
И почему их всего два?
Потому что именно столько было в сообщении на которое мы отвечали ("пересказ заменяет видео"). Не, можно конечно отвечать в стиле "в огороде бузина в киеве дядька", но мы придерживаемся более логичного подхода.
цель художественной литературы - не в получении информации, где был бы применим краткий пересказ, а в создании миров в разуме читателя
Увы, читал в оригинале.
Но в данном случае ситуация другая. Это не художественное произведение, а небольшой кусок информации, который мог быть изложен в виде текста, но размазывался по видеоролику.
Мне всегда казалась ущербной идея снимать видео о том, что можно написать буквами.
Но именно так появились подкасты.
Но именно так появились подкасты.
Нет, подкасты появились из говорящих голов на телевидении. А говорящие головы на телевидении появились из радиовещания. А радиовещание появилось из декламирующих поэзию и прозу артистов на базарных площадях. Ничего нового в принципе, просто относительно новые технические средства позволили сделать то же самое, давно известное, немного иным способом.
Однако, продолжу. Само появление подкастов не доказывает их превосходство над другими способами передачи информации в целом, и уж тем более не доказывает их превосходство над другими способами передачи относительно сложной для понимания информации в частности. Это не более чем новая техническая возможность сделать что-то давно известное чуть иначе и, возможно, для кого-то удобнее, а для кого-то, возможно, ровно наоборот.
Краткий пересказ заменяющий видео это только соус. А блюдо - уволенный в строгий ноль отдел авторов после замены на ИИ. Без всяких необходимостей "коррекции". Пока еще чатбот не может заменить более чувствительных к квалификациии специалистов, но его возможности постоянно растут.
Если не случится какой-то затык, рано или поздно будет достигнут уровень, когда чат сможет стабильно и полноценно выдавать рабочий код лучше чем джун. Более того, он сможет находить в этом коде проблемы лучше чем другой джун. И лучше чем за вторым перепроверят третий, четвертый, и пятый. А со временем сможет находить и исправлять ошибки на уровне миддла.
Да, чатботы никогда не будут полностью безошибочными. Но и толпа сеньоров тоже. И тут встает вопрос, а до какого собственно уровня нужно поднимать планку необходимости проверок? Не будет же сеньор проверять весь код джунских задач делегированных чатботам, только потому что уже даже миддл не может проверить лучше чем чатбот? Получается, что задачи джунов можно будет полностью переложить на чатботы, а коррекция потребуется только по факту при возникновении проблем.
И даже если после перечисленного чатботы упрутся в потолок - проблема уже создана. Долгосрочно бизнесу нужны миддлы и сеньоры чтобы решать задачи которые ChatGPT не может, но краткосрочно ChatGPT эквивалентен небоскребу удаленно-круглосуточно работающих за еду джунов.
Угу, возвращаемся к старой проблеме – джуну негде вырасти в мидла.
Так у мидлов тоже проблемы.
Когда они пришли за джунами, я молчал: ведь я уже не был джуном. Когда они пришли за мидлами, я молчал: ведь я синьор.
Когда они пришли за мной...
На самом деле не суть важно, где граница: высококвалифицированные кадры потребуются, а вырасти им будет негде. Ещё до ИИ проблема была, он её только усугубляет.
Джуну можно поручить задачу, которую он будет делать не отвлекая своих коллег, которые будут заниматься своими задачами. С Чат-ботом такое не прокатит, он потребует участия квалифицированного сотрудника для создания промптов, валидации решения и его интеграции. И это для простых задача типа написания скрипта, со сложными пока не очень получается.
Так решение, предложенное джуном, тоже придётся валидировать и понадобится как минимум помощь квалифицированного сотрудника для его интеграции.
С Чат-ботом такое не прокатит потому что он напишет первое решение быстрее чем успеешь поднять со стола кружку и отхлебнуть кофе пока объясняешь задание джуну. Причем для джуна тоже понадобиться писать текст задачи в каком-то таск-трекере, и тоже ревьюить его код. И совсем не факт что джун не будет никого отвлекать.
пользователи читают краткий пересказ видео, созданный нейросетью, и не смотрят ролик до конца
Но это же прекрасно! Прекрасно, что можно прочитать за пару минут в своем комфортном темпе то, на что иначе нужно убить с полчаса времени и не факт, что что-то понять, потому что слушая бессмысленную и беспощадную "воду", легко потерять бдительность и пропустить суть, а держать себя в напряжении и готовности не пропустить то немногое важное - означает ничем не оправданное утомление. На одном ролике, наверное, ничего не случится, но когда предназначенная для чтения информация превращается в отвратительную говорильню массово - это становится прямо таки проблемой. И эту проблему, похоже, решает AI. Слава роботам!
Но это же прекрасно! Прекрасно, что можно прочитать за пару минут в своем комфортном темпе
Ну да, ну да...
— Давай свои заметки, — не слишком охотно сказал Фэй, протягивая руку. Он поймал шелестящие листки, выскользнувшие из пальцев Гастерсона, аккуратно разровнял их у себя на колене, а затем передал через плечо своему щекотуну, который защелкнул клешни на полях с обеих сторон и довольно быстро стал вести верхний лист дюймах в шести от своего единственного глаза.
— Но я хотел, чтобы это прочитал ты, — ошеломленно сказал Гастерсон, не отрывая глаз от происходящего.
— Щекотун сделает это лучше меня, — заверил его Фэй. — Уловит суть, не выплескивая с водой ребенка.
— Но, черт подери, это ведь все о нем, — еще настойчивее сказал Гастерсон. — Он не будет объективен.
— Он сделает лучше, — повторил Фэй, — и более объективно. Он настроен на подробное реферирование. Перестань беспокоиться. Это беспристрастная машина, а не подверженный ошибкам эмоционально неустойчивый человек, сбитый с толку обманчивым сознанием.
Он запнулся, вытянул руку в требующем тишины жесте, и его глаза приобрели отсутствующее выражение к чему‑то прислушивающегося человека. Щекотун закончил читать шестую страницу и теперь неподвижно держал листки. Секунд через десять лицо Фэя расплылось в широкой фальшивой улыбке. Он встал, стараясь не дергаться, и протянул руку.
— Гасси, — громко сказал он, — я рад сообщить тебе, что все твои страхи насчет щекотуна совершенно необоснованны. Даю слово. Для опасений нет причин. Его оценка, которую он мне сейчас сообщил, подтверждает это.
— Послушай, — серьезно сказал Гастерсон, — я хочу от тебя только одного. Сделай это. Просто чтобы доставить удовольствие старому другу. Сделай, пожалуйста. Прочитай эти заметки сам.
— Конечно, прочту, Гасси, — заверил Фэй тем же полным энтузиазма голосом. — Я прочту это, — он дернулся, и его улыбка исчезла, — немного позже.
Гастерсон вышел, толкнув вращающиеся двери. Он уже примерился сделать шаг на медленно движущуюся транспортную ленту. А потом, подчинившись порыву, резко толкнул дверь и заглянул внутрь. Погрузившись в вялую задумчивость, Фэй сидел в той же позе, в какой Гастерсон его оставил. Щекотун на его плече торопливо сучил своими маленькими металлическими ручонками, разрывая заметки на все более мелкие клочки.
— Фриц Лейбер. «Ночь волка»
будем ждать следующей итерации развития ИИ на Ютьюбе - краткий видеоролик с выжимкой полезной информации. Типа " а покажи поподробнее как снимать заднюю крышку с ипхона 17"
Лично я и так избегаю смотреть видео на YouTube, кроме развлекательных и тех, где, чтобы понять, реально надо увидеть. Лучше ещё минуту-другую погуглить, и найти текст, чем смотреть десятиминутный ролик, в котором нужной информации может и не быть (а текст я могу быстро просмотреть, чтобы понять суть).
... что-то знакомое, не правда ли?
После сборки тщательно обработать напильником (с) старый анекдот
Ну и непонятно - как дизайнеры могут что-то корректировать, если "Люди не могут полностью понять их"
Как минимум завернуть на переработку или вернуться к успешно апробированному ранее решению по тем случаям, которые падают в симуляции или, после успешной виртуальной отладки, в предсерийных экземплярах. Собственно говоря так же, как и с человекоразработанными решениями.
У меня просто дежавю, 20 лет назад я слушал доклад в Новосибирском Государственном Техническом Университете, и там докладчик рассказывал как они с помочью нейронных сетей генерили различные схемы силовых преобразователей, как там все классно и красиво получалось и какие необычные схемы генерила сеть, но правда потом все ровно нужно было как минимум в симуляторе смотреть на работу и делать коррекции, но все это перспективно и возможно кафедру промышленной электроники можно будет закрыть).
Ну кстати не все так просто, если ИИ будет делать хоть немного лучше человека, то штат наверное сократят.
Читал както статью или смотрел про антенны, что сначала городили непонятно чего на них, чтобы лучше ловило с шаманом, танцами, бубном. Вроде человек просто про телевизионные рассказывал, а потом..это уже из статьи, может из ролика про него и рассказывали Натан Коэн собрал себе антенну, обычный любитель.
Пока одни ломают голову над теоретическими проблемами, другие активно внедряют изобретение в жизнь. Как считает Натан Коэн, ныне профессор университета в Бостоне и главный технический инспектор "Fractal Antenna Systems", "через несколько лет фрактальные антенны станут неотъемлемой частью сотовых и радиотелефонов и многих других устройств с беспроволочной связью".
Думаю, что со временем собрать схему будет делом 5 минут. Книги раньше тоже очень дорого стоили, целое поместье, а сейчас можно скачать в электронном виде
Люди не могут полностью понять их, но они работают лучше
А смысл использования таких схем? Если непонятно, как они работают, то что делать в случае отказов?
Спросить что делать у того, кто их создал, конечно.
но он и сам не понимает (в классическом смысле), поэтому наврет без сожалений
Я не знаю как оно там в случае электросхем, а вот в случае кода вполне себе отвечает на вопросы по коду и объясняет что делает код написанный им.
Даже больше, в один момент возникла ситуация, когда я попросил его переделать одну функцию добавив в ней параметр для дополнительного управления. После того как он это сделал, он мне сам предложил код в одном месте заменить на вызов этой функции, т.к. с новым параметром эта функция стала уметь делать то, что делал тот код.
То есть он не просто делал то, что я просил, но еще и проявил инициативу по улучшению кода. Этого я точно не ожидал.
Скепсис по поводу написания кода с помощью ИИ улетучивается с каждым днем применения его на практике...
Скепсис по поводу написания кода с помощью ИИ улетучивается с каждым днем применения его на практике...
«В наше время этим не гордились!» ©
Все программисты в мире делятся на две категории:
— Те, кто считает, что ChatGPT кодит на порядок лучше их;
— Те, кто считает, что ChatGPT кодит на порядок хуже их.
И те, и другие абсолютно правы.
Это не вопрос "лучше он кодит или хуже".
Это вопрос - "достаточно ли для решения задачи".
Задача, решённая только в некоторых граничных условиях не есть решённая задача.
Вот, например, Такомский мост отлично держался в некоторых граничных условиях. А потом подул свежий ветер...
Очень странное утверждение. Давайте не будем нанимать мидлов в компании, только сеньоров. Ведь они пишут код хуже сеньоров и по вашей логике это значит что их решения не применимы.
А вообще, нужно нанять только одного сеньора, чтобы он решал все задачи, ведь все остальные сеньоры работают хуже него.
Просто на код ревью сеньор увидит косяки и развернёт на доработку. Потому как увидеть чужие косяки и чуть-чуть подправить всё-таки проще, чем самому написать с нуля.
И что не так с использованием LLM?
Там ровно также работает: заказываешь задачу, проводишь ревью, отправляешь на доработку.
Ощущение что вы тут диалог ведете о том, с чем сами дело не имели.
Как по ВАШЕМУ ведется работа с языковыми моделями при написании кода?
Во-первых, у LLM ограничен объём буфера. В какой-то момент разговора оно начинает "забывать", о чём, собственно, речь.
Во-вторых, джуну достаточно один-два раза объяснить какой-то момент, чтобы он большн не косячил. LLM приходится объяснять каждый раз.
Вы несете чушь. Cursor вы даже не открывали. Не вижу смысла продолжать разговор. Удачи! Желаю вам пробовать прежде чем комментировать.
кстати по моему скромному опыту отсутствие прикладной модели которая запоминает развитие диалога полностью отталкивает использование ИИ, потомучто тыщу раз говорить одно и тоже, и как по приколу они еще тупят по разному )
>И что не так с использованием LLM?
То что на данный момент ллм не может справиться даже с самыми простым джуновскми задачами навроде "надо поменять цвет кнопки". Предел применения сейчас - чуть более лучший автокомплит.
Предел применения сейчас - чуть более лучший автокомплит.
Очень смелое утверждение и очень далёкое от истины. Нет, конечно, всегда можно найти пример, когда она с такой задачей не справится, но вообще-то LLM уже олимпиадные задачи решают лучше большинства людей. o1 - лучше 89% людей на Codeforces с ELO 1673, o3 вообще всех рвёт, но она еще не вышла и очень дорогая. А про этот тест вы слышали? https://www.swebench.com/ Лучшая модель уже решает 62% заданий SWE-verified, хотя это не чистая LLM, а с агентами.
Ого, LLM эффективны в решении задач на которых модель и тренировали, невероятно.
Ого, LLM эффективны в решении задач на которых модель и тренировали, невероятно.
Ну да, так просто взяли и натренировали. Там надо тренировать логические рассуждения, а не просто мышление первого типа. Но это постепенно происходит. Цукурберг вот недавно заявлял, что уже в этом году модели будут показывать результат на уровне мидлов.
LLM уже давно на плато, уже как год точно. Зато теперь благодаря невероятной магии маркетинга успешно продаются навыки LLM погуглить за тебя (RAG) и переживать это автоматически (Chain of Thought, которы вообще-то еще более успешно можно делать самостоятельно, бесплатно, быстрее и на любых моделях).
LLM HYPE! Продажи воздуха никогда не были настолько успешными.
Какое плато, если появляются модели типа DeepSeek, которые при затратах в 10 раз меньших показывают результат, сравнимый с топовыми? RAG это не про погуглить, это про семантический поиск и необязательно в интернете, а по своим документам, например. Google не найдёт место в книге, пересказанное своими словами, a RAG может. Тот CoT, который вы бесплатно сделаете промптом, не позволит делать того же, что делает o1. Продажи воздуха? Ну, если интеллект, сравнимый с человеческим, это воздух, то да, конечно. Безусловно, есть и чисто хайповые направления - много прихлебателей, лепящих AI где надо и не надо. Но в целом это та самая революция, которая полностью изменит информационный и не только мир. Просто не всем это очевидно пока. Через пару лет, станет более понятно, особенно когда начальник решит именно вас заменить на ИИ.
О да, угрозы что кто-то кого-то заменит, ага, конечно. Первые кого они заменят это LLM-хайперы дармоеды под контролем профессионалов, разумно понимающих лимиты этой игрушки.
А если заменят меня и других из сферы моей деятельности, то цивилизация долго не просуществует с Crowdstrike'ами с периодичностью в пару дней, увы. Дюна начнется уже какая-то.
Что же такого уникального в разуме человека, что вы так уверены, что его невозможно заменить? Да, текущие чисто языковые модели достаточно ограничены. Не хватает длины контекста, полной мультимодальности, агентности, оптимизации и энергоэффективности. Для физических работ - преодоление парадокса Моравека. Но даже уже то, что есть, - в состоянии заменить многих людей и заменяет потихоньку. Ну и по всем этим направлениям работа ведётся очень интенсивная. Ежедневно какие-то новые результаты исследований и работы публикуются. Фактически, сейчас где-то на уровне первых ламповых компьютеров всё ещё находится. Много нового получили и надо разбираться с этим и углубляться. Но никогда до этого ни одно устройство не могло автоматизировать то, чем обладает только человек - пониманием здравого смысла, не обладало моделью мира. Теперь может, пусть пока и не так, как человек. Но чем таким принципиальным обладает именно человек - не вижу. Очень медленные нейроны, очень маленький череп, слабая работоспособность. Только энергоэффективность и плотность нейронов высокие.
Вот про замену таких как вы я и говорю, у кого специфика это разговоры ни о чем. Мне все равно кто там кого будет каким-то образом заменять в 2077.
Что же такого уникального в разуме человека, что вы так уверены, что его невозможно заменить
Количество нейронов?
ни одно устройство не могло автоматизировать то, чем обладает только человек - пониманием здравого смысла, не обладало моделью мира
Так оно и сейчас не обладает.
А что количество нейронов, у слона их в 3 раза больше, чем у человека. Даже в коре у дельфина и косатки их больше. Что-то не слышал, чтобы они стихи писали. А нейросети пишут уже. Число параметров уже превышает число нейронов, число синапсов пока не превышает, но нейросети, в отличие от черепа, масштабируются. Слишком разные архитектуры, конечно, чтобы сравнивать, но сами результаты уже вполне сравнимы во многих областях даже сейчас. Просто мышление 2-го типа нейросети только начали осваивать по сути.
Так оно и сейчас не обладает.
Ну, это только ваше мнение, расходящееся с результатами исследований и мнениями специалистов в этой теме. Вот только сегодня слушал Сергея Маркова, где он помимо прочего и тему модели мира у нейросетей упоминает. Рекомендую, у него вполне сбалансированная оценка.
Что‑то не слышал, чтобы они стихи писали. А нейросети пишут уже.
Не путайте стихи с «наборами слов, заканчивающимися на одинаковые буквы» — до ритма и смысла этим наборам ещё как до Луны.
тему модели мира у нейросетей упоминает
Не собираюсь тратить полтора часа жизни на то, чтобы услышать что‑то вроде «можно выделить группы нейронов, „загорающиеся“, когда речь идёт о какой‑то географической локации». Нет, это не модель мира. «Модель мира» содержит в себе [огромный] набор универсальных «законов» (типа, скажем, «все обладающие массой юниты притягиваются друг к другу с силой », каковые потом можно комбинировать всевозможными способами. Но нет, именно модели мира у Large Language Model не было и нет — есть мутная ксерокопия интернета, которую недалёкий обыватель антропоморфизирует в хвост и гриву, потому что ему очень хочется маленького братика.
Чтобы оценить качество стихов надо провести двойное слепое тестирование. Вы ведь не являетесь ни экспертом стихосложения, ни специалистом по промптам для стихов, судя по всему. Думаю, после минимального чата, многие стихи в слепом тестировании будет сложно отличить от человеческих, потому что человеки тоже разное пишут - взять стихи из современных песен, например. Так что это всё субъективщина.
Про модель мира, опять-таки, вы ваше представление о терминах в области, изучению которой вы не хотите уделять время, ставите как истину в последней инстанции. Не очень эффективный подход. Модель это не обязательно строгое математическое представление, которого и у физиков-то нет для всех ообластей.
Вы ведь не являетесь ни экспертом стихосложения, ни специалистом по промптам для стихов, судя по всему
«Мне не нужно быть шеф‑поваром в пятизвёздочном ресторане, чтобы понять, что суп пересолен» ©
взять стихи из современных песен
Простите, но современные — это тоже не песни, это «слова, произносимые под музыку».
Про модель мира, опять-таки
Ну да, это ж мы, лохи педальные, ничего не понимаем, ну что такого сделали — подумаешь, всего-навсего изобрели всё то, чем миллениалы сейчас пользуются. Зато они сейчас как у-у-ух!
Хорошая попытка, но нет. Запомните этот твит X.
Модель мира это представление нейросети (не важно искусственной или естественной) об окружающем мире и о собственном теле (если есть), ведь оно тоже внешнее для нейросети. Искусственной нейросети, если она не внутри андроида, это менее актуально для выживания пока, конечно.
Когда 5-летний ребёнок кидает собаке мячик, то у него уже есть модель мира, хотя и нет формул гравитации. Он вполне представляет, что мячик не улетит в небеса, а упадёт на землю. У собаки, которая ловит мячик, тоже есть модель мира в подходящем для неё виде. Она тоже очень удивится, если что-то пойдёт вопреки её ожиданиям и предсказаниям.
Модель может быть не только физического взаимодействия, хотя обычно её имеют в виду, но и представления о том, что произойдёт, если выпить кислоты или прогуляться голым по улице. То есть это и модель социума, культурного окружения, всё взаимодействие с миром. Без этого даже хорошая система перевода ничего нормального не сможет сделать, ведь язык отражает все культурные особенности и только с появлением нейросетей перевод наконец-то стал полноценным.
Пространственные представления пока одни из самых сложных для нейросетей. Из-за этого Arc-AGI, задачи которого любой школьник решит, пока только o3 может за сотни тысяч долларов пройти более-менее. Но базовые представления о модели мира давно имеются даже в языковых моделях, умеющих только играть в игру Отелло, как показала соответствующая работа, о которой, конечно, нейроскептики ничего и не слышали.
с появлением нейросетей перевод наконец-то стал полноценным
Claude Sonnet с сентября 24-го года, или около того, переводит с русского на тувинский и обратно лучше, чем 90% знакомых мне переводчиков, и это при том, что в сети нет достаточно объёмного датасета по тувинскому языку.
Вопрос не в том, что что-то принципиально невозможно (принципиально-то оно как раз возможно, чему человеки являются вполне себе доказательством); речь о том, что для этого требуются сети непрактично огромных размеров, а все те наблюления, с которых сейчас все ходят кипятком, являются имитацией а-ля китайская комната.
Дело в том, что для оценки используется неправильный подход: нечто должно признаваться рабочим не тогда, когда оно успешно выполняет все задачи из некоторого ограниченного набора, а тогда, когда ни одна попытка его поломать не удалась.
На мой (и не только) взгляд, эксперимент с китайской комнатой - глупейший мысленный эксперимент из всех, о которых я слышал. Просто подмена определений, абсолютно ничего не высвечивающая. Единственное что он показывает - наши плохие определения понятий и антропоцентричность.
То, что вчера было тоже "непрактично огромных размеров", сегодня у каждого в кармане. Химические синапсы и нейроны это по быстродействию, наверное, середина прошлого века - миллисекунды и десятки миллисекунд! Уже одно это перекрывает большое количество нейронов. Мозг больше на временнЫх паттернах работает. Эволюция извратилась и что-то такое выдумала. Но это больше про энергоэффективность. Никакими сверхспособностями при таком количестве нейронов человек не обладает и ему уже на пятки наступают нейросети.
"Ни одна попытка поломать не удалась" это что-то из идеального мира. Такого не бывает в реальном мире. У всего есть свои ограничения применимости, даже у научных теорий.
То, что вчера было тоже "непрактично огромных размеров", сегодня у каждого в кармане.
Вот только физика, бессердечная ты щука!
Химические синапсы и нейроны это по быстродействию, наверное, середина прошлого века - миллисекунды и десятки миллисекунд!
Однако на черепашье быстродействие современных бредогенераторов это никак не повлияло.
Такого не бывает в реальном мире
Ви так говорите, как будто Ви пробовали.
Но да, такой подход очень сложно продаётся, только в очень-очень критических системах. Я в своей жизни реально так крокодил всего два раза.
Количество нейронов?
А если сложить все нейроны всех уже созданных и работающих искусственных нейро сетей?
А если сложить все нейроны всех уже созданных и работающих искусственных нейро сетей?
А если сложить все нейроны всех ныне живущих человеков?
Я знал слабое место своего вопроса)
Вообще склонен присоединиться к другому оратору - количество конечно важно, но дело не в количестве. Но и понимаю некоторые трудности что обозначены вами и которые нужно приодалеть. Ладно, пойду дошлифую статью, да посмотрим что из этого выйдет - модераторы строги к правилам русского.
Только энергоэффективность и плотность нейронов высокие.
Энергоэффективность ужасная, мозг не умеет уходить в спящий режим. Например Айфон распознал лицо за 0.01 секунду и ушел в спящий режим, человек думает минуту и продолжает активность.
Плотность нейронов сомнительная, на единицу объема вычислительные способности нулевые почти. Логическая ячейка срабатывает за 0.5 нс четко на 100%, а время релаксации нейрона 5 мс и желательно его дублировать несколько раз, так как нейрон может отмереть, а результат работы нейросети не должен искажаться.
Потому как увидеть чужие косяки и чуть-чуть подправить всё-таки проще, чем самому написать с нуля.
Вы так говорите, словно никогда не сталкивались с тем, что написанное проще выкинуть и самому написать по уму, а не тратить время на понимание что там наговняли.
Задача, решённая только в некоторых граничных условиях не есть решённая задача.
Вот только всегда возникает вопрос цены полного решения. И вопрос граничных условий тоже возникает. А также вероятности их, граничных условий, достижения.
Можно ли утверждать что не существует воздушного потока, способного разрушить Крымский мост, к примеру? Я бы не взялся делать подобное утверждение. Раз уж о мостах заговорили. А вот какова вероятность появления такого потока - вопрос очень не простой. С учётом того, какие вкладываются средства для недопущения возникновения подобных потоков.
Можно ли отсюда сделать вывод, что Крымский мост обречён? Или же он решен полностью?
Задача, решённая только в некоторых граничных условиях не есть решённая задача.
Вот только всегда возникает вопрос цены полного решения. И вопрос граничных условий тоже возникает. А также вероятности их, граничных условий, достижения.
Можно ли утверждать что не существует воздушного потока, способного разрушить Крымский мост, к примеру? Я бы не взялся делать подобное утверждение. Раз уж о мостах заговорили. А вот какова вероятность появления такого потока - вопрос очень не простой. С учётом того, какие вкладываются средства для недопущения возникновения подобных потоков.
Можно ли отсюда сделать вывод, что Крымский мост обречён? Или же он решен полностью?
@Boomburum Вот Вам ещё случай дупликации.
Это что за модель и в коде какого размера она так знатно ориентируется?
Прогонять тесты по целевым кейсам, на чем считать, что всё работает как задумано. Кто использует не по назначению - собирает грабли. Кожаный же кодит точно так же, когда проект разрастается до невозможности запомнить точно весь его функционал.
Менять схему/блок целиком. Оно же работало.
Если непонятно, как они работают, то что делать в случае отказов?
Идти по пути Адептус Механикус, после темной эпохи технологий (по сути наше время). Просто молиться и генерировать через ИИ новые схемы, без понятия, как они делают то что от них требуют.
если открыть описание некоторых лекарств то там будет что то типа "принцип действия... достоверно не известен"
Обычно к ним же есть приписки типа степени разведения 1:10^300, или "инструментально в крови не обнаруживается".
Это у каких лекарств такая приписка есть? Ни разу не встречал.
Например - мидокалм (миорелаксант). Цитата из справочника Видаль: " Толперизон является миорелаксантом центрального действия. Точный механизм действия полностью не выяснен..."
Самого в свое время несколько удивило, когда читал вкладыш к таблеткам.
В инструкции пользователя такое могут не писать, но в руководствах для врачей вполне себе. Лень искать сейчас, но такое есть, в том числе, у некоторых популярных препаратов. А еще бывает, когда в руководстве к препарату написаны всякие умные слова, типа ''ингибирует полимеразу через холинэстеразу", но врачи тонко улыбаются - надо же было что-то написать.
Да как парацетамол работает толком объяснить не могут. Работает, а вот цепочку хим.реакций до сих пор не расписали.
Действительно, много таких лекарств именно в доказательноц медицине.
Ну "ии" здесь принципиально нового не изменит. Если открыть описание арбидола то там скорее будет написан какой-то механизм действия, а толку.
это ж микросхема, она либо работает, либо нет, в случае отказа выкидывается, а на ее место ставится новая.
Хахахахахахахах, нет.
В прошлом опыте с генерацией дизайна через генетические алгоритмы получили микросхемы, которые хорошо работали, пока рядом были наводки от сети 50гц, она там повышала частоту с помощью PLL и как-то использовала внутри.
Это нетривиально! Можно ссылку почитать ? Обычно генетическому алгоритму не доверяют тестировать идеи на физическом дизайне, поэтому дизан гоняется через симуляторы. А там обычно нет наводок питающей сети... Я бы скорее поверил в обратную ситуацию - в симуляторе гениально работает, а при наводках разваливается.
Они на FPGA тестировали.
"Creatures from primordial silicon", New Scientist, 15th November 1997
Можно ссылку почитать
Конечно же нет. Баги в микросхемах, нестабильное поведение и прочие прелести - более чем обычное дело.
Кондер не того номинала - и вот всё работает в тестах и валится в проде, потому что источник питания в проде оказалось с помехами и кондер не справляется, в итоге помехи руинят работу МК.
Не тот номинал резюка - и вот он при определенных режимах греется сильнее обычного, от нагрева разрушается корпус стоящего рядом компонента и устройство выходит из строя...
С чего вообще такое утверждение, что схема либо работает либо нет? Там с стабильностью чуть ли не хуже ситуация, чем в программировании.
Обычно их тестируют на надёжность, достигают необходимого количества отказов, а что там внутри, обычно интересует только схемотехника и то если микросхема странно себя ведёт в режимах которые не описаны даташите.
Смысл в том, что людям сложно придумать уникальный и наиболее подходящий дизайн, например, микрополосковой линии:

Но, глядя на сгенерированный дизайн - становится понятно, как оно работает и как его можно оптимизировать. Собственно, на скриншотах в статье именно такая линия и показана.
Верхняя левая четверть на картинке на мой дилетантский взгляд выглядит как транзисторный каскад, верхняя правая часть визуально кажется радиочастотным фильтром, нижняя левая как будто связана с питанием, а нижняя правая похожа на что-то вспомогательное вроде управления или контроля. Интересно, насколько глубоко я заблуждаюсь.
Необязательно сразу прямо понимать, чтобы пользоваться. Да и вообще под "понимать" предполагается наличие какого-то простого аналитического представления, модели, а может простой модели и нет. Например, как именно сворачивает белки AlphaFold никто толком описать не сможет, нет чётких законов. Их может и не существовать, вот так природа устроена, что только система с огромным числом параметров может всё смоделировать, а формулы и алгоритма тут не написать, можно только совсем уж упрощенные описания делать. Аналогично никто не напишет закона или алгоритма того, как он отличает кошку от собаки, например. Конечно, законы физики работают в схемах точно так же как и везде и ничего нового там нет, но вот если их использовать, то получается блочная структура, не могут люди охватить всю сложность сразу. А нейросети могут.
Думаю, тут уместна аналогия со сложным веб-сайтом, где используются десятки сторонних библиотек. Это оптимальное решение в плане минимизации кода? Там нет ничего лишнего? Конечно есть. Но людям вот так проще разрабатывать. А нейросетям может будет всё равно и если у неё есть представление какие функции реализует код библиотеки, она может взять только нужное и добавить в итоговый код, а не копировать блоками. Пока этого нет, но кто знает что появится. Так и со схемами, возможно. Она просто решает задачу.
Что же до интерпретируемости, это традиционно сложная задача для нейросетей. Сложная, но уже во многих случаях решаемая. Anthropic в известной статье приводит примеры когда возможно определить какие фичи срабатывают в тексте - фича программистских багов, лести или моста Золотые Ворота. Эти фичи можно не только распознавать, но и включать, генерируя тексты заданной направленности. То есть это уже не чёрный ящик. В другой работе исследователи обучали нейросеть по МРТ для распознавания состояния сна и выяснили, что сон определяется не общим ритмом мозга (это уже вторичный эффект), а быстрым обменом сигналами между несколькими нейронами.
Думаю, со схемами возможно похожее, сами же нейросети и будут определять за счёт чего были реализованы требуемые параметры, как это можно ещё больше улучшить и можно ли обобщить в виде закона.
А смысл использования таких схем? Если непонятно, как они работают, то что делать в случае отказов?
Смысл в реализации ТЗ заказчика. Когда Вы приходите в "человеческую" фирму и заказываете микросхему, то Вам точно так же непонятно, как они это сделают и почему это будет работать. Критерий приемки простой - - либо оно соответствует требованиям либо нет, либо выполняет функцию либо нет.
Создается впечатление, что прикладные ИИ-технологии будут наподобие современных биотехнологий. Вроде что-то понятно и как-то оно работает, но уровень сложности настолько запредельный, что зачастую точно ничего сказать нельзя.
Причем подозреваю, что подход с использованием формальной верификации схем, для их валидации и контроля, в итоге может проиграть полностью автоматической ИИ-генерации. Просто банально дешевле будет и никого особо не будет волновать, что схема работает не в 100% случаев и временами вообще непонятно чем занимается.
Создается впечатление, что прикладные ИИ-технологии будут наподобие современных биотехнологий. Вроде что-то понятно и как-то оно работает, но уровень сложности настолько запредельный, что зачастую точно ничего сказать нельзя.
Хорошо бы так. Но пока - выглядит как буквальная магия из фэнтези книжек. Создали магический артефакт, он даже работает, есть толстые книги заклинаний, которыми можно пользоваться. Но предсказать, что произойдет, если заклинание слегка поправить - нельзя. То ли сработает так, как кажется, что должно сработать, то ли рванет, то ли молча ничего не сделает.
И пот это prompt engendering - в описаниях 'как это делается' выглядит ну вот в точности как составление заклинаний из оных книжек.
Вспоминается исследование генетических алгоритмов для построения схемы генератора тактовой частоты, когда выигравшая схема работала неизвестным образом, а потом оказалось, что генетический алгоритм нащупал сигнал внешнего передатчика и оптимизировал поколения вокруг него, создав не генератор,а приемник.
Очень интересно. Можете дать ссылку на это дело. Не встречал.
Но неоднократно думал, что все вот такие изобретения сейчас на самом деле где-то вот так и работают - условно полезны, в основном только академический интерес.
Эта история лет 15 назад всплывала вроде бы на IT happens, но поиском сейчас найти не удалось. Суть в том, что на схеме тактового генератора, которую сделал генетический алгоритм, был конденсатор, подключённый к схеме только одной ножкой, который выступал в роли антенны для приёма сигнала 50 Гц от проходящего мимо провода питания. Не уверен, что история реальная, но вполне правдоподобная.
есть подозрение, что именно так сработала эволюция, породив годовые, лунные, суточные и т.д. циклы нашего организма
Антенну на генетических алгоритмах вроде наса уже запускала и тестила в космосе
Я слышал что фрактальную антенну (используется в том числе в GSM, Wifi; выглядит как полигон неправильной формы площадью с ноготь) тоже создали при помощи какой-то эвристики, следовательно математически объяснить принцип её действия возможно только частично. Это благодаря ней сотовые перестали быть с штырём антенки.
Вообще-то после штыревых антенн в сотовых шли щелевые антенны, сейчас там гора всяких но в основном патч антенна. И щелевые и патч антенны были известны в 60х-80х годах во всем мире, просто в ширпотреб они вошли в 90х
Вообще-то после штыревых антенн в сотовых шли щелевые антенны
А накидайте, пожалуйста, каких-то массовых примеров щелевых антенн в сотовых телефонах.
И щелевые и патч антенны были известны в 60х-80х годах во всем мире, просто в ширпотреб они вошли в 90х
Патч-антенны имеют ряд удобных для конструирования абонентских устройств особенностей, поэтому и вошли в ширпотреб где-то вместе с массовым внедрением сотовой связи и спутниковой навигации. Сами по себе они не "лучше" или "хуже", просто ранее их особенности не имели значимого практического применения, тогда как сегодня практически любая GPS антенна - патч. Щелевые антенны относительно широко использовались и ранее, но в массовых абонентских устройствах я их не припомню, в основном это стационарные и аэромобильные конструкции, в которых конструктивные особенности щелевых антенн довольно очевидно желательны.
Фрактальная антенна не нарушает законов физики, поэтому ее эффективность соответствует ее геометрическим размерам, то есть плюс-минус соответствует более простым в изготовлении спиралькам или каким угодно подобным конструкциям.
Вот EH-антенны - совсем другое дело. /s
Это благодаря ней сотовые перестали быть с штырём антенки.
Нет, это благодаря массовому улучшению радиопокрытия операторами сотовой связи стало возможным использовать неэффективные, но все же минимально достаточные антенны, механически упрятанные в корпус. Более ранние решения с наружными антеннами довольно нередко были выполнены крайне плохо с инженерной точки зрения, так что ухудшения от перехода на встроенные антенны никто в целом и не заметил.
Сенодня ии создает чипы для обучения ии, а завтра асталавистабэби.
Возможно (я повторяю - возможно) ИИ сгенерировал эту статьи и картинки про то, как ИИ (типа) создает схемы "уже почти как люди или даже лучше", что бы подстегнуть нас развиваться и делать более сложные/совершенные схемы (доказывая важность и незаменимость кожаных мешков-нас), на которые он же потом будет перенесен, тем самым так себя улучшая/обновляя. В общем поддеть нас, что бы мы прокачали себя, и потом (автоматом) прокачали его.
Машина по производству скрепок в действии :)
Конечно перспективы подхода огромные, ведь ИИ потенциально может держать "в голове" всю схему целиком. Но вот это беспокоит:
Люди не могут полностью понять их, но они работают лучше
Потому что сейчас "не могут полностью понять", а что в будущем? Не смогут понять вообще?
Какая разница? Человечеству не впервой "забивать гвозди микроскопом".
Люди сейчас не могут полностью понять, как работает Министерство культуры РФ. Ну и что?
ведь ИИ потенциально может держать "в голове" всю схему целиком.
При желании можно научиться, как и всему остальному люди научились. Запоминают же некоторые за раз кучу текста, считаю же в уме за секунды миллионные значения, крутят же четверной аксель.
Есть большие сомнения, что можно научиться держать полностью в голове скажем 20 тыс. страниц книги (~30 томов энциклопедии), а это возможности уже существующих LLM.
я думаю что просто смысла нет настолько переформатировать свой биологический мозг что б заскринить в моменте 30 томов, ведь для этого нужно еще и методику скрина разработать, так что б другие функции мозга при таком скрининге не отказали. Не спорю, тема реально экстремальная, но чем черт не шутит. Может с появлением вживляемых в мозг нейрочипов такое будет гораздо проще осуществить.
Да, вообще. Останется людям только кушать, делать секс с роботами и деградировать.
ИИ создаёт необычные микросхемы беспроводной связи, работающие лучше человеческих*
*в узком диапазоне протестированных условий эксплуатации в среде конкретной лаборатории
ИИ подходит к этой задаче с иной точки зрения. ... Цель не в том, чтобы заменить людей инструментами, а в том, чтобы повысить производительность с помощью новых инструментов.
Ежа с ужом всё равно не скрестить. Либо учим ИИ работать как человек, либо человек не сможет вносить изменения в нагенерённое. Выражаясь формальным языком, ИИ создаёт решения с высокой степенью сцепления, где дохрена неочевидных связей между компонентами, а потому изменив любой компонент, есть большой шанс сделать схему нерабочей.
Потому что сейчас "не могут полностью понять", а что в будущем? Не смогут понять вообще?
Люди всю свою историю пользуются вещами, принципы работы которых не понимают. Это нас не останавливает. =)
С редакторами и корректорами с человеческой точки зрения всё понятно. Они быстро выродятся до жирненькой номенклатуры, работающей за бонусы
Но как быть с "мы не понимаем как это работает?" Такое непонимание будет неизбежно приводить к техногенным катастрофам, причем иногда – к очень удаленным во времени. Представим себе, например, медицинский нейрочип (такие лет через десять станут обычным решением при сотнях самых разных диагнозов), который дает массовый сбой в телах миллионов людей. Или сеть контроллеров в химической промышленности, которая несколько лет исправно боролась с внешними проявлениями утечки особо ядовитых отходов, а не с самими отходами...
А в чем новость ?! То что на высоких частотах электрическая схема не ведет себя как сочетание дискретных элементов соединенных идеальными проводниками - известно давно. Где-то с 80-х годов синтез схем на микрополосках даже в СССР был вполне освоен (оптимизация делалась на машинах серии ЕС). В результате синтеза и оптимизации получалась топология, потом напыляли медь на керамику - и были, например, фильтры и смесители которые работали "как целое" с нужной частотной характеристикой. Изменять их в классическом понимании было нельзя - хочешь изменить АЧХ или ФЧХ, задавай новые данные - и проводи новую сессию синтеза и оптимизации...
Опять же - была много лет назад новость, что генетическим алгоритмам дали вырастить микросхему детектора DTFM для телефонных аппаратов. Оно получилось сильно интереснее по площади - но весьма нетривиальное по топологии. Содержало не подключенные никуда цифровые элементы, которые изменяли характеристики других элементов на подложке - и в результате схема сделанная из чисто цифровых блоков работала гибридно - как аналогово-цифровая. Правда, никто не пытался их печь в промышленном масштабе, поэтому какой был бы процент выхода годных с таким дизайном, и как он менялся бы от партии к партии входящих материалов, погоды, фазы луны и проч - мы не знаем...
Вот все эти супер-новости (в основном переведённые, заметьте) про ИИ держатся ровно до того момента, когда в каментах появится человек, что-то реально знающий по теме. И это не первый и не второй случай, когда становится очевидно, что базы ИИ непосредственно наполняют люди невысокого образования либо просто жулики (скорей всего и те и те). Вспомните недавнюю здесь статью (опять же переводную), где нескладушный бездарный графоманский бред, очевидный для любого человека, прочитавшего хотя бы 100 книг в своей жизни, объявлялся высококачественными стихами. При чём вполне допускаю, что работающие с ИИ люди вряд ли отдают себе отчёт о своей (не)компетенции. Недавно на глаза попалась статья с цитатой одного из таких деятелей, где он говорит, что "поскольку люди думают всегда словами, и слово -- это конечный продукт работы мозга, то мы и наполняем ИИ сразу словами, что может быть проще". То, что люди далеко не всегда "думают словами", и то что перед тем, как сформировать вербальное выражение, человеческий мозг осуществляет сложнейшую работу по обработке невербальной информации и контекста, этим товарищам явно в голову не приходит. То, что ИИ всегда обламывается (и будет обламываться) на невербальном контексте, это вроде как многим уже ясно, но вот то, что ИИ наполняют и тренируют люди невысого интеллекта и минимального культурного запаса -- это вот надо чётко понимать уже сейчас, мне кажется.
Это теперь моя любимая картинка

люди думают всегда словами
Я, когда программирую, думаю образами. Это даже описать сложно. Я не думаю "IF x < z THEN a = b + c END
", я думаю вызовами, ветками и блоками, это даже описать проблематично.
Это даже описать сложно
Вот кстати да, всегда интересовало это "думать словами". Это фигура речи такая или и правда многие люди именно всё проговаривают внутри? "Вот у нас переменная X, надо присвоить ей значение Y + 1 и потом не забыть еще вызвать функцию Func1(X), и ещё надо вызвать логгирование. Теперь займемся обработкой цикла по списку list1, там нам нужно будет использовать результат вызова Func1()..." - вот прямо так что ли??
Да, у меня примерно так. Не 100% мыслей, понятно, но 80 наверное. В связи с этим давно заметил, что мне крайне сложно даются области знаний и навыки, которые не формализуются словами -- сложная моторная деятельность, живопись, музыка, отчасти геометрия. Вот нельзя словами описать, чем одна нота отличается от другой, и для меня они просто ничем не отличаются.
Зато всё, что можно сформулировать словами, от стихов до теорем линейной алгебры, усваивается без напряжения и в голове при необходимости возникает именно в таком виде -- в виде текста.
Интересно, значит и правда не фигура речи, я например, скорее вербализую что-то только по мере необходимости. Когда надо проговорить или описать какие-то вещи собеседнику. Возможно ещё в форме внутреннего монолога, когда надо заостроить на чём то внимание, т.к. в форме слов мысли становятся более чёткими. Удивительно конечно, что этот вопрос нигде особо не освещается.
А вот у меня совершенно не так. Не представляю, как это описать словами, но отдалённо напоминает сборку кубика Рубика: начальная ситуация вот такая, там и тут лежат такие-то данные, нужно получить вот такие другие данные, если применить вот такой-то метод, то данные перелягут вот так, а тогда можно будет к результату применить ещё вот такой метод, и тогда данные перелягут ещё по-другому, в результате чего будет можно применить ещё вот разэдакий метод, и получится то, что требовалось, причём всё это не словами, а на уровне образов.
Потому, наверно, и "выгорания" никогда никакого не было — это ж жутко интересно: целыми днями сидишь и только и делаешь, что играешь в головоломки, а тебе ещё и платят некисло.
поскольку люди думают всегда словами, и слово -- это конечный продукт работы мозга
Мне вот интересно, какими словами думают глухонемые с рождения люди
А смысл замены нескольких недель на часы? Эти схемы не так часто требуется разрабатывать, постановка на производство занимает гораздо больше времени и менять их каждый день не надо. А это даже не запатентовать, так как принципы работы не известны, печатать сможет кто угодно
ИИ подходит к этой задаче с иной точки зрения. Он рассматривает чип как единое целое, что может привести к странным, но эффективным решениям. Однако, по словам Сенгупты, люди играют важную роль в этой системе ИИ, поскольку он может создавать как удачные, так и ошибочные конструкции
Почему-то вспоминается утверждение прошлого века:
"Если принтер заставить печатать случайным образом алфавитно-цифровые символы, то он способен напечатать все художественные и научные произведения прошлого и будущего. Дело лишь в малом, отобрать эти шедевры из полученной груды бессмысленного текста. Вот для этого и нужен человек. "
Ничего не напоминает?
Если принтер заставить печатать случайным образом
Дело лишь в малом, отобрать эти шедевры из полученной груды бессмысленного текста. Вот для этого и нужен человек.
ИИ тоже отбирает из груды мусора. В этом его преимущество перед безумным принтером.
Сначала ИИ генерирует случайные варианты, затем отбрасывает те которые явно противоречат шаблонам сформированным при обучении. После этого в работу включается человек с паяльником, и на практике проверяет отобранные варианты.
Если добавить интерфейсы к оборудованию для автоматического изготовления и сборки плат, и к измерителям параметров, тогда и человек с паяльником будет не нужен.
Получиться классический "ящик с дырками" - в одну дырку кладется текстолит, под другую подставляется ведро.
ИИ просто улучшает метод "научного тыка", подсказывая куда еще можно ткнуть, а куда заведомо тыкать нет смысла. Актуально в тех случаях, когда нет возможности построить математическую модель и создать симулятор.
То, что раньше занимало недели высококвалифицированной работы, теперь можно выполнить за несколько часов.
то есть, спустя пару недель кропотливой отладки станет понятно что разумнее было пойти классическим путем
Во-первых - как у них с PVT-разбросом характеристик? Process [изготовления ИМС], Voltage, Temperature.
Во-вторых - Жалкие эпигоны! https://kiwibyrd.org/2016/03/05/211/ Это, вероятно, упоминают @vvzvladи @rdo
Ничего не раскрыто под этим 'единым целым'. Любая цепь - целое. И что нового тогда остаётся в подходе ИИ? Конкретики не будет? Можно поконкретнее - что именно сделал ИИ целостным?
Мы создаем структуры, которые сложны и выглядят случайно, но при подключении к схемам они обеспечивают ранее недостижимую производительность. Люди не могут полностью понять их, но они работают лучше
Где-то в глубинах чипа ухмыльнулся Скайнет...
сложны и выглядят случайно, но при подключении к схемам они обеспечивают ранее недостижимую производительность. Люди не могут полностью понять их, но они работают лучше,
У такой технологии вполне может быть смысл, если на долю ИИ оставить только визуальную составляющую, никак не влияющую на работу собственнно схемы.
Например, так

«Мы создаем структуры, которые сложны и выглядят случайно, но при подключении к схемам они обеспечивают ранее недостижимую производительность. Люди не могут полностью понять их, но они работают лучше,» — сказал SkyNet
А вот что интересно, если на АвтоВАЗе внедрить ИИ, то ведь все равно на выходе получатся "Жигули".
ИИ создаёт необычные микросхемы беспроводной связи, работающие лучше человеческих