Ну, я за других спецов не знаю, могу только о программировании говорить.
Давайте сначала разберёмся, что такое настоящая автоматизация на примерах.
Это, например, автоматическая коробка передач в автомобиле - водитель избавляется от необходимости размышлять о переключении передач во время управления, автоматика гарантирует ему некоторое качество переключения передач.
Это, например, автоматическая линия по производству болтов. Строится линия, нажимается кнопка, и автоматика гарантирует, что на входе у нас прутья стали, а на выходе болты с гарантированными характеристиками. Мы можем проверить несколько болтов (по критерию Стьюдента, например) на качество, и быть уверенными в свойствах всей партии.
Это, например, лебёдка: строитель нажал кнопку и лебёдка гарантировано затащила ему на этаж поддон кирпичей - гораздо быстрее, чем рабочие, знай только, смазывай механизмы.
Ничего похожего при использовании ИИ для программирования не происходит. Нет волшебной кнопки: поставил задание и не думаешь о результате. Созданный код надо внимательно вычитывать, особенно, если это не тривиальная задача. Зачастую полученный код очень плохого качества, не оптимизированный, не эффективный, избыточный, с плохой обработкой ошибок и так далее. Нормальный специалист не может такому коду доверять так, как доверяет строитель лебёдке. Не очень понятно, о каком именно избавлении от рутины Вы говорите? Это просто превращение одной рутины в другую. Менее приятную, кстати, и более дорогую. Например, я недавно пытался добиться генерации кода оптимального представления матриц в памяти, с учётом локальности кэшей для NUMA систем. Потратил два часа на то, что хороший студент делает за 40 минут, когда ему объяснишь, что к чему. Удовлетворительный результат я так и не получил. О какой автоматизации и экономии времени идёт речь? В типовых задачах? Так типовые задачи решены много раз и оформлены в библиотеки.
Почему считается, что описание задачи на естественном языке будет проще, чем описание её в коде? Вот генератор простых чисел на Haskell:
[n | n<-[2..], product [1..n-1] `rem` n == n-1]
сколько времени займёт описание этого алгоритма словами для нейросети (не просто: дай мне список простых чисел, а построй такой-то и такой-то список), и как долго потом потребуется отлаживать результат генерации? Призываю вас произвести эксперимент. Код я набрал и проверил менее, чем за минуту.
Я не знаю, как в других специальностях, но у программистов, как бы, есть инструменты, чтобы абстрагировать рутину: функции, макросы, классы, библиотеки и так далее. Если программист не может абстрагировать свою рутину при помощи этих инструментов - он не специалист. Думаю, не ошибусь, если скажу, что 75% мастерства программирования - это как раз умение выделять и абстрагировать рутину.
Поэтому нейросети будут популярны больше у неспециалистов. Специалисты уже наработали для себя библиотеки, подходы, паттерны проектирования и так далее. Им не надо обращаться к нейросети для решения решённых задач, они могут просто взять свой код. Кроме того, для сложной задачи они могут быстрее сформулировать решение на языке программирования, а не на естественном языке. Задумайтесь: зачем люди придумали язык математики, если на естественном языке сложные понятия объяснять проще?
Судьбе software-компаний, которые полагаются на AI-ассистентов, я бы не позавидовал. Они всё больше будут зависеть не от навыков их персонала, а от нейросетей и от доброй воли владельцев этих нейросетей. Как первое следствие, само качество кода будет падать, потому что тонкие ошибки не специалисты, у которых нет опыта самостоятельного программирования и кодирования просто не будут замечать. Как второе следствие, их код будет быстро обесцениваться, потому что вся информация и код из компаний будут со свистом улетать в руки владельцев нейросетей. И даже если у этих владельцев нет никаких коммерческих помыслов воспользоваться своими ресурсами для борьбы с конкурентами (что маловероятно, согласитесь), то они на истории взаимодействия программистов клиентских компаний и своих нейросетей будут обучать новые версии нейросетей, потому что им просто больше негде брать материал, весь opensource они уже поглотили. В итоге, тот код, на котором компания пытается зарабатывать, будут легко воспроизводить конкуренты, что резко его обесценит.
Если спец квалифицированный, зачем ему ИИ? Поэтому не логично. Более логично, что заменят на не более квалифицированных, а на менее квалифицированных, которые дешевле, просто из-за рыночных механизмов. Ну, и в итоге, технологические цепочки постепенно накроет энтропия.
Тезис в том, что в JS можно незаметно допускать ошибки в типах, которые не приводят к исключениям, которые можно отловить на этапе тестирования и отладки. Самое знаменитое: сравнение по указателям вместо сравнения по значениям, сложение строк и чисел. В том отчёте об исправленных 15% ошибок большинство ошибок подобного рода.
JS, конечно, прекрасен: на JS сделано много прекрасных проектов. Просто есть динамические языки и с более строгой семантикой.
Мутная логика, что впрочем не удивительно, она всегда мутная в продвижении нейросетей. Считать надо не количество новых вопросов, а количество просмотров. За 17 лет SO накопил огромную базу решений, в большинстве случаев достаточно поискать, чтобы найти необходимое. Естественно, со временем количество новых вопросов будет уменьшаться.
Предлагаю перевести Ваше высказывание на более точный математический язык: "может быть, через 2 года никакие познания не будут иметь смысла, вычислимая функция из одного многомерного пространства в друге сама поставит цель и достигнет, человек ей зачем?"
Вы в это серьёзно верите? В наличие целей у математических функций? Слово вычислимая имеет важный смысл, потому что в физической реальности нас окружает уйма невычислимых функций.
Цели, скорее, есть у владельцев ИИ. И, скорее всего, главная там цель - это сделать себя неотъемлемой частью любых интеллектуальных процессов за счёт деградации участников этих процессов, и получать с этого прибыль. А долгосрочные последствия этого их, конечно, не волнуют.
А с чего вдруг он не ворует и не врёт? :) ИИ учат на существующих записях активности людей. Если у Вас обычные CEO врут, воруют и подделывают отчётность, с чего вдруг нейросетевой CEO этого делать не будет?
Ну, и радикальной эффективности тут тоже не будет, потому что такой CEO будет просто воспроизводить существующие практики, и со временем качество будет убывать, потому что новые версии будут обучаться на данных, которые сформированы предыдущими версиями. Любая компания будущего, которая примет революционное решение нанять живого человека, который книжек 20 века начитался, порвёт рынок, как тузик грелку.
Вы в этом уверены? Я, конечно, не ученый, но от людей, близких к науке, слышал о том, что область исследований сейчас стала крайне узкой, и объем информации, который нужно обрабатывать, ничем не сравним с тем, что было в XIX веке.
Да, уверен. Даже чисто формально: недавно подсчитали, что ссылок на статьи из прошлого века в современных работах больше, чем на современные статьи. Ну, и проблема именно в том, что современный учёный больше вовлечён не в размышления, а в чтение. ИИ только усугубит эту ситуацию: вместо мышления люди будут заниматься коммуникацией.
Помните, что говорил Сократ о письменности? А когда появился калькулятор? ПК? Уже сейчас я с удовольствием использую GPT как репетитора по теорверу, английскому, проверяя на верность цепь моих рассуждений. GPT также анализирует мой код, говоря, где я мог ошибиться. $20 в месяц всего. Сущие копейки.
А что? Сократ был не прав? Сколько философов из Древней Греции Вы можете назвать, не заглядывая в Википедию, и сколько философов, скажем, из нового времени? Но книга не так плющит мозг, как телевидение, интернет и ИИ. Она оставляет возможность подумать.
Про влияние же современных технологий есть интересное наблюдение у клинических психиатров: бред у пациентов резко начал утрачивать сложность. Генетика заболеваний не изменилась, а вот сложность мозга пациентов резко упала с распространением телевидения и интернета. Догадайтесь с трёх раз, с чем именно это связано?
Сколько лет нужно человеку, чтобы он мог оперировать тем объёмом информации, который обрабатывает ИИ? 10? 15? А тут 15-летний школьник может выдать результат профессионала со стажем. Пока хуже, но прогресс есть.
Это очевидная подмена понятий. Выдавать результат будет не школьник, а ИИ. Школьник, скорее всего, никакого сложного результата не выдаст, потому что не сможет осознать прочитанное (да и читать, скорее всего не будет; даже студенты читать не будут, уже пошёл вал работ, написанных ChatGPT, и такой подход автора умнее не делает) и выдать следующий осмысленный промпт.
Кроме того, а с чего Вы взяли что прогресс в знаниях должен быть связан исключительно с ростом объёма информации? Наоборот, прогресс в науке достигается поиском общих принципов, которые, грубо говоря, сжимают информацию до небольшого количества базовых понятий.
Почти мгновенная выдача решения, для построения которого ноунейму, вроде меня, потребовалось бы потратить уйму времени. Например я застрял над решением задачки с литкода, или ответ в задачах по терверу у меня не сходится с верным.
Так смысл задачек как раз и в том, чтобы потратить уйму времени, чтобы в Вашем мозге сформировались нужные связи. Если Вы теперь обращаетесь постоянно к ИИ в любой "тупиковой" ситуации, значит, Вы не развиваете свой мозг. И "тупиковых" ситуаций для Вас меньше не становится.
В этом ключевая проблема всей этой технологии. Это не ИИ станет умнее человека, это люди под воздействием ИИ станут тупее ИИ.
Ну, вопрос же не о получении выдающихся результатов. А просто об оригинальности подходов. Например, другие доказательства уже полученных результатов, учебники или пособия по методам. Они стали, как бы это сказать, менее образными, что ли, более поверхностными.
Я говорю о 1970-х годах, например. Тогда и самих математиков было меньше, но интересных идей было больше. Сейчас, может быть, интересные идеи тоже у кого-то возникают, но их распространение ограничено валом информации, который должны просеивать другие математики для своей работы.
ИИ тоже будет гасить уникальные интересные идеи, потому что он учится на многократных повторениях одного и того же. Поэтому, вряд ли у пользователей ИИ будут формироваться оригинальные идеи, и в целом научный прогресс замедлится.
А откуда у него эти глубокие познания возьмутся, если вся его интеллектуальная деятельность будет формироваться ИИ? Люди и сейчас редко книги читают, предпочитая гуглить. С ИИ так и вообще необходимость даже сопоставлять информацию отпадёт. Как это всё сформирует глубокие познания?
Кроме того, все ИИ-корпорации стараются получить доступ к детским мозгам, когда, собственно, закладываются базовые познавательные структуры, и стараются замкнуть всю интеллектуальную активность ребёнка на условную Алису.
Не видно в этом всём дорожки к формированию сложных мозгов.
Почему позднее? Вот человек с развитым мозгом смотрит на код, и видит ошибку. Придаток ИИ смотрит на код, ничего не видит, открывает промпт, просит указать, где ошибка, потом просит написать тесты, чтобы проверить, что ошибка исправлена, потом убеждается, что ИИ исправил совсем не то, что нужно было и внёс новые ошибки, и далее, по кругу.
У меня вот знакомы так недавно искал точный перевод слова feature, соответствующий контексту этого значения в его голове. Он неделю вёл задушевные беседы с O1 вместо того, чтобы расслабиться, закрыть глаза и дать своей ДСМ сформировать решение. После моего совета сделать так, он отыскал решение за 5 минут.
Вы ж поймите, нужно учитывать особенности работы мозга человека в этом всём. Им нужно уметь пользоваться. Условно говоря, пока человек вовлечён в диалог с ИИ, ресурсы мозга тратятся не на обдумывание, а на коммуникацию - это совсем другие зоны работают.
А мозг гораздо более мощная штука, чем ИИ. Живые нейроны гораздо более сложные сущности (есть эксперименты, которые свидетельствуют в пользу того, что даже с квантовыми эффектами), чем искусственные.
когда любой, кто не использует ИИ может оказаться неконкурентоспособным
Откуда такая уверенность? Вот сейчас, например, доступна куча научных статей. А оригинально мыслящих математиков гораздо меньше, чем в прошлых веках. Но сейчас математикам хоть приходится читать сложные тексты и тем самым как-то поддерживать развитие своего мозга необходимостью понимать и рассуждать. Когда готовые ответы начнёт выдавать ИИ, это только лишь упростит мозг пользователя (мозг - штука крайне ленивая, потому что ему сложно строить связи). В чём здесь конкурентное преимущество?
Кажется, наоборот, те, у кого хватит сил развивать свои мозги самостоятельным мышлением, получает преимущество. Ну, хотя бы потому что будут в среднем хитрее и быстрее среднестатистического придатка к ИИ: у них будет более сложная и богатая внутренняя модель мира, и им не нужно будет для принятия решения проходить через цикл запросов/ответов во вне.
В каком смысле не решили? Берём любой метод конечных элементов или конечных разностей и решаем численно. Или как по-вашему в наши дни просчитывают различные гидродинамические системы?
Точно! Ведь именно поэтому Botkin.AI запретили применять: потому что он был обучен на отфильтрованных и аккуратно размеченных данных, и не выдавал диагнозы и предписания, способные причинить прямой вред пациентам. Всё это козни проклятых гомеопатов! Именно так.
Ну, и я, так сказать, по долгу службы знаком с некоторыми наборами данных, используемыми для обучения больших моделей. Там трэш, каша и угар. Никто их не фильтровал. Потому что такие объёмы данных отфильтровать невозможно. Ещё одно наблюдение, бросающееся в глаза при анализе этих датасетов - собирали их не специалисты в соответствующей области. Поэтому они даже не понимают, какие данные качественные, а какие - нет. И поэтому не могут в своих скриптах, парсящих базы данных, прописать корректные критерии отбора.
Да, собственно, вся технология GPT построена на той идее, что ничего фильтровать не нужно, а нужно потом подкручивать поведение сети через обучение с подкреплением. Как бы, по нынешним временам - это букварные истины. Странно, что Вы не в курсе.
Поэтому и страшно представить, чего там ИИ может наускорять и напомогать при разработке новых лекарств. Не, конечно, верующИИ всем расскажут, что он помог и ускорил, и даже среди миллионов примеров запросов/ответов найдут несколько корректных, забив на миллионы ошибок, и даже, наверное, начнут впаривать эти лекарства ничего не подозревающим людям. Вопрос только в том, какой уровень вреда это всё нанесёт, прежде чем безумие будет остановлено. Ну, и успеют ли люди вообще это безумие остановить. И останутся ли у нас вообще хоть какие-нибудь нормальные лекарства, разработанные по рациональным научным протоколам, а не по генеративным рецептам. Учитывая то, что человечество стремительно несётся прямо в мир Идиоткратии, опасность того, что нормальных лекарств не останется, весьма высока.
Это было бы шуткой, если бы все эти корпорации, обучившие свои ИИ на этих пузырях безумия, теперь не лезли бы с этими ИИ в медицину, образование, науку и власть.
А с чего Вы взяли, что он стоит дешевле? Датацентр, в котором этот ИИ работает сам себя не обслужит. Ему нужны комплектующие, системы охлаждения, обслуживающий персонал, etc. Уйму энергии ещё это всё потребляет.
Это оно кажется, что дешевле, пока ИИ решает, фактически, одинаковую для всех задачу. Эффект масштаба срабатывает. А если нужно будет решать конкретно ту задачу, над которой Вы работаете, то ХЗ, сколько это всё добро будет стоить.
Да и потом, с чего Вы взяли, что ИИ может лучше? Современные ИИ - вероятностные модели, которые с логикой не дружат. Не, конечно, если человек книг не читает и весь его мыслительный процесс сформирован Ютубом, то ИИ покажется умнее. Но это не от того, что ИИ принципиально умнее, а от того, что люди отупели от постоянной вовлечённости в потребление тривиального контента.
Ну, я за других спецов не знаю, могу только о программировании говорить.
Давайте сначала разберёмся, что такое настоящая автоматизация на примерах.
Это, например, автоматическая коробка передач в автомобиле - водитель избавляется от необходимости размышлять о переключении передач во время управления, автоматика гарантирует ему некоторое качество переключения передач.
Это, например, автоматическая линия по производству болтов. Строится линия, нажимается кнопка, и автоматика гарантирует, что на входе у нас прутья стали, а на выходе болты с гарантированными характеристиками. Мы можем проверить несколько болтов (по критерию Стьюдента, например) на качество, и быть уверенными в свойствах всей партии.
Это, например, лебёдка: строитель нажал кнопку и лебёдка гарантировано затащила ему на этаж поддон кирпичей - гораздо быстрее, чем рабочие, знай только, смазывай механизмы.
Ничего похожего при использовании ИИ для программирования не происходит. Нет волшебной кнопки: поставил задание и не думаешь о результате. Созданный код надо внимательно вычитывать, особенно, если это не тривиальная задача. Зачастую полученный код очень плохого качества, не оптимизированный, не эффективный, избыточный, с плохой обработкой ошибок и так далее. Нормальный специалист не может такому коду доверять так, как доверяет строитель лебёдке. Не очень понятно, о каком именно избавлении от рутины Вы говорите? Это просто превращение одной рутины в другую. Менее приятную, кстати, и более дорогую. Например, я недавно пытался добиться генерации кода оптимального представления матриц в памяти, с учётом локальности кэшей для NUMA систем. Потратил два часа на то, что хороший студент делает за 40 минут, когда ему объяснишь, что к чему. Удовлетворительный результат я так и не получил. О какой автоматизации и экономии времени идёт речь? В типовых задачах? Так типовые задачи решены много раз и оформлены в библиотеки.
Почему считается, что описание задачи на естественном языке будет проще, чем описание её в коде? Вот генератор простых чисел на Haskell:
сколько времени займёт описание этого алгоритма словами для нейросети (не просто: дай мне список простых чисел, а построй такой-то и такой-то список), и как долго потом потребуется отлаживать результат генерации? Призываю вас произвести эксперимент. Код я набрал и проверил менее, чем за минуту.
Я не знаю, как в других специальностях, но у программистов, как бы, есть инструменты, чтобы абстрагировать рутину: функции, макросы, классы, библиотеки и так далее. Если программист не может абстрагировать свою рутину при помощи этих инструментов - он не специалист. Думаю, не ошибусь, если скажу, что 75% мастерства программирования - это как раз умение выделять и абстрагировать рутину.
Поэтому нейросети будут популярны больше у неспециалистов. Специалисты уже наработали для себя библиотеки, подходы, паттерны проектирования и так далее. Им не надо обращаться к нейросети для решения решённых задач, они могут просто взять свой код. Кроме того, для сложной задачи они могут быстрее сформулировать решение на языке программирования, а не на естественном языке. Задумайтесь: зачем люди придумали язык математики, если на естественном языке сложные понятия объяснять проще?
Судьбе software-компаний, которые полагаются на AI-ассистентов, я бы не позавидовал. Они всё больше будут зависеть не от навыков их персонала, а от нейросетей и от доброй воли владельцев этих нейросетей. Как первое следствие, само качество кода будет падать, потому что тонкие ошибки не специалисты, у которых нет опыта самостоятельного программирования и кодирования просто не будут замечать. Как второе следствие, их код будет быстро обесцениваться, потому что вся информация и код из компаний будут со свистом улетать в руки владельцев нейросетей. И даже если у этих владельцев нет никаких коммерческих помыслов воспользоваться своими ресурсами для борьбы с конкурентами (что маловероятно, согласитесь), то они на истории взаимодействия программистов клиентских компаний и своих нейросетей будут обучать новые версии нейросетей, потому что им просто больше негде брать материал, весь opensource они уже поглотили. В итоге, тот код, на котором компания пытается зарабатывать, будут легко воспроизводить конкуренты, что резко его обесценит.
Если спец квалифицированный, зачем ему ИИ? Поэтому не логично. Более логично, что заменят на не более квалифицированных, а на менее квалифицированных, которые дешевле, просто из-за рыночных механизмов. Ну, и в итоге, технологические цепочки постепенно накроет энтропия.
Тезис в том, что в JS можно незаметно допускать ошибки в типах, которые не приводят к исключениям, которые можно отловить на этапе тестирования и отладки. Самое знаменитое: сравнение по указателям вместо сравнения по значениям, сложение строк и чисел. В том отчёте об исправленных 15% ошибок большинство ошибок подобного рода.
JS, конечно, прекрасен: на JS сделано много прекрасных проектов. Просто есть динамические языки и с более строгой семантикой.
Мутная логика, что впрочем не удивительно, она всегда мутная в продвижении нейросетей. Считать надо не количество новых вопросов, а количество просмотров. За 17 лет SO накопил огромную базу решений, в большинстве случаев достаточно поискать, чтобы найти необходимое. Естественно, со временем количество новых вопросов будет уменьшаться.
Предлагаю перевести Ваше высказывание на более точный математический язык: "может быть, через 2 года никакие познания не будут иметь смысла, вычислимая функция из одного многомерного пространства в друге сама поставит цель и достигнет, человек ей зачем?"
Вы в это серьёзно верите? В наличие целей у математических функций? Слово вычислимая имеет важный смысл, потому что в физической реальности нас окружает уйма невычислимых функций.
Цели, скорее, есть у владельцев ИИ. И, скорее всего, главная там цель - это сделать себя неотъемлемой частью любых интеллектуальных процессов за счёт деградации участников этих процессов, и получать с этого прибыль. А долгосрочные последствия этого их, конечно, не волнуют.
А с чего вдруг он не ворует и не врёт? :) ИИ учат на существующих записях активности людей. Если у Вас обычные CEO врут, воруют и подделывают отчётность, с чего вдруг нейросетевой CEO этого делать не будет?
Ну, и радикальной эффективности тут тоже не будет, потому что такой CEO будет просто воспроизводить существующие практики, и со временем качество будет убывать, потому что новые версии будут обучаться на данных, которые сформированы предыдущими версиями. Любая компания будущего, которая примет революционное решение нанять живого человека, который книжек 20 века начитался, порвёт рынок, как тузик грелку.
Да, уверен. Даже чисто формально: недавно подсчитали, что ссылок на статьи из прошлого века в современных работах больше, чем на современные статьи. Ну, и проблема именно в том, что современный учёный больше вовлечён не в размышления, а в чтение. ИИ только усугубит эту ситуацию: вместо мышления люди будут заниматься коммуникацией.
А что? Сократ был не прав? Сколько философов из Древней Греции Вы можете назвать, не заглядывая в Википедию, и сколько философов, скажем, из нового времени? Но книга не так плющит мозг, как телевидение, интернет и ИИ. Она оставляет возможность подумать.
Про влияние же современных технологий есть интересное наблюдение у клинических психиатров: бред у пациентов резко начал утрачивать сложность. Генетика заболеваний не изменилась, а вот сложность мозга пациентов резко упала с распространением телевидения и интернета. Догадайтесь с трёх раз, с чем именно это связано?
Это очевидная подмена понятий. Выдавать результат будет не школьник, а ИИ. Школьник, скорее всего, никакого сложного результата не выдаст, потому что не сможет осознать прочитанное (да и читать, скорее всего не будет; даже студенты читать не будут, уже пошёл вал работ, написанных ChatGPT, и такой подход автора умнее не делает) и выдать следующий осмысленный промпт.
Кроме того, а с чего Вы взяли что прогресс в знаниях должен быть связан исключительно с ростом объёма информации? Наоборот, прогресс в науке достигается поиском общих принципов, которые, грубо говоря, сжимают информацию до небольшого количества базовых понятий.
Так смысл задачек как раз и в том, чтобы потратить уйму времени, чтобы в Вашем мозге сформировались нужные связи. Если Вы теперь обращаетесь постоянно к ИИ в любой "тупиковой" ситуации, значит, Вы не развиваете свой мозг. И "тупиковых" ситуаций для Вас меньше не становится.
В этом ключевая проблема всей этой технологии. Это не ИИ станет умнее человека, это люди под воздействием ИИ станут тупее ИИ.
Ну, вопрос же не о получении выдающихся результатов. А просто об оригинальности подходов. Например, другие доказательства уже полученных результатов, учебники или пособия по методам. Они стали, как бы это сказать, менее образными, что ли, более поверхностными.
Я говорю о 1970-х годах, например. Тогда и самих математиков было меньше, но интересных идей было больше. Сейчас, может быть, интересные идеи тоже у кого-то возникают, но их распространение ограничено валом информации, который должны просеивать другие математики для своей работы.
ИИ тоже будет гасить уникальные интересные идеи, потому что он учится на многократных повторениях одного и того же. Поэтому, вряд ли у пользователей ИИ будут формироваться оригинальные идеи, и в целом научный прогресс замедлится.
А откуда у него эти глубокие познания возьмутся, если вся его интеллектуальная деятельность будет формироваться ИИ? Люди и сейчас редко книги читают, предпочитая гуглить. С ИИ так и вообще необходимость даже сопоставлять информацию отпадёт. Как это всё сформирует глубокие познания?
Кроме того, все ИИ-корпорации стараются получить доступ к детским мозгам, когда, собственно, закладываются базовые познавательные структуры, и стараются замкнуть всю интеллектуальную активность ребёнка на условную Алису.
Не видно в этом всём дорожки к формированию сложных мозгов.
Почему позднее? Вот человек с развитым мозгом смотрит на код, и видит ошибку. Придаток ИИ смотрит на код, ничего не видит, открывает промпт, просит указать, где ошибка, потом просит написать тесты, чтобы проверить, что ошибка исправлена, потом убеждается, что ИИ исправил совсем не то, что нужно было и внёс новые ошибки, и далее, по кругу.
У меня вот знакомы так недавно искал точный перевод слова feature, соответствующий контексту этого значения в его голове. Он неделю вёл задушевные беседы с O1 вместо того, чтобы расслабиться, закрыть глаза и дать своей ДСМ сформировать решение. После моего совета сделать так, он отыскал решение за 5 минут.
Вы ж поймите, нужно учитывать особенности работы мозга человека в этом всём. Им нужно уметь пользоваться. Условно говоря, пока человек вовлечён в диалог с ИИ, ресурсы мозга тратятся не на обдумывание, а на коммуникацию - это совсем другие зоны работают.
А мозг гораздо более мощная штука, чем ИИ. Живые нейроны гораздо более сложные сущности (есть эксперименты, которые свидетельствуют в пользу того, что даже с квантовыми эффектами), чем искусственные.
Откуда такая уверенность? Вот сейчас, например, доступна куча научных статей. А оригинально мыслящих математиков гораздо меньше, чем в прошлых веках. Но сейчас математикам хоть приходится читать сложные тексты и тем самым как-то поддерживать развитие своего мозга необходимостью понимать и рассуждать. Когда готовые ответы начнёт выдавать ИИ, это только лишь упростит мозг пользователя (мозг - штука крайне ленивая, потому что ему сложно строить связи). В чём здесь конкурентное преимущество?
Кажется, наоборот, те, у кого хватит сил развивать свои мозги самостоятельным мышлением, получает преимущество. Ну, хотя бы потому что будут в среднем хитрее и быстрее среднестатистического придатка к ИИ: у них будет более сложная и богатая внутренняя модель мира, и им не нужно будет для принятия решения проходить через цикл запросов/ответов во вне.
Кстати, отличная бизнес-идея для этой технологии. Можно же продавать носимые клетки Фарадея, как защиту от окружающего эм-излучения (:
Да, но если смотреть с другой геодезической, движение будет ускоренным.
В каком смысле не решили? Берём любой метод конечных элементов или конечных разностей и решаем численно. Или как по-вашему в наши дни просчитывают различные гидродинамические системы?
А где можно посмотреть на реализации классических структур данных при таком подходе? Двусвязные списки, красно-чёрные деревья - всякое такое?
Аналитически. Но в наш век 128-ядерных процессоров можно и численно проинтегрировать.
Точно! Ведь именно поэтому Botkin.AI запретили применять: потому что он был обучен на отфильтрованных и аккуратно размеченных данных, и не выдавал диагнозы и предписания, способные причинить прямой вред пациентам. Всё это козни проклятых гомеопатов! Именно так.
Ну, и я, так сказать, по долгу службы знаком с некоторыми наборами данных, используемыми для обучения больших моделей. Там трэш, каша и угар. Никто их не фильтровал. Потому что такие объёмы данных отфильтровать невозможно. Ещё одно наблюдение, бросающееся в глаза при анализе этих датасетов - собирали их не специалисты в соответствующей области. Поэтому они даже не понимают, какие данные качественные, а какие - нет. И поэтому не могут в своих скриптах, парсящих базы данных, прописать корректные критерии отбора.
Да, собственно, вся технология GPT построена на той идее, что ничего фильтровать не нужно, а нужно потом подкручивать поведение сети через обучение с подкреплением. Как бы, по нынешним временам - это букварные истины. Странно, что Вы не в курсе.
Поэтому и страшно представить, чего там ИИ может наускорять и напомогать при разработке новых лекарств. Не, конечно, верующИИ всем расскажут, что он помог и ускорил, и даже среди миллионов примеров запросов/ответов найдут несколько корректных, забив на миллионы ошибок, и даже, наверное, начнут впаривать эти лекарства ничего не подозревающим людям. Вопрос только в том, какой уровень вреда это всё нанесёт, прежде чем безумие будет остановлено. Ну, и успеют ли люди вообще это безумие остановить. И останутся ли у нас вообще хоть какие-нибудь нормальные лекарства, разработанные по рациональным научным протоколам, а не по генеративным рецептам. Учитывая то, что человечество стремительно несётся прямо в мир Идиоткратии, опасность того, что нормальных лекарств не останется, весьма высока.
Это было бы шуткой, если бы все эти корпорации, обучившие свои ИИ на этих пузырях безумия, теперь не лезли бы с этими ИИ в медицину, образование, науку и власть.
А так совсем не смешно
А с чего Вы взяли, что он стоит дешевле? Датацентр, в котором этот ИИ работает сам себя не обслужит. Ему нужны комплектующие, системы охлаждения, обслуживающий персонал, etc. Уйму энергии ещё это всё потребляет.
Это оно кажется, что дешевле, пока ИИ решает, фактически, одинаковую для всех задачу. Эффект масштаба срабатывает. А если нужно будет решать конкретно ту задачу, над которой Вы работаете, то ХЗ, сколько это всё добро будет стоить.
Да и потом, с чего Вы взяли, что ИИ может лучше? Современные ИИ - вероятностные модели, которые с логикой не дружат. Не, конечно, если человек книг не читает и весь его мыслительный процесс сформирован Ютубом, то ИИ покажется умнее. Но это не от того, что ИИ принципиально умнее, а от того, что люди отупели от постоянной вовлечённости в потребление тривиального контента.