Pull to refresh
3
0.1
Send message

Да, типа того имел ввиду. Правда БЯМ в этом случае будет являться по большей части основой для генерации ответов на естественном языке. А это необязательно для большинства применений.

Что такое "узкоспециализированные экспертные системы" ?

Узкотематические. Например, какого нибудь медицинского направления. Но уж никак не обо всём на свете.

Автокомплит-база знаний и умений, которая точно также как и отвертка может использоваться.

Несомненно. Но при одном условии - эта "отвертка" должна использоваться специалистом, понимающим что и как этой отверткой надо закручивать. (И еще я бы смотрел в сторону узко-специализированных экспертных систем - более компактных и более точных. Думаю, за ними реальное будущее).

Но, как обычно бывает, всё закончится тем, что этим инструментом массово будут пользоваться дилетанты, слепо доверяющие результатам ИИ. На волне хайпа не разбирающиеся в теме руководители будут массово внедрять модные БЯМы в своих организациях. Потом... придется такое использование расхлебывать... Наверняка после несчастных случаев и прочего вреда пойдет волна судебных исков, потом введут жесткое законодательное регулирование и т.д.

Но для меня это уже ОЧЕНЬ серьёзное применение! Если эта шушлайка поможет мне решить сложную задачу не за 5 рабочих дней, а подсказками наведëт на более интересные варианты и я решу её за 4 рабочих дня, то по факту она экономии компании средства и увеличивает эффективность работы эксперта на 10-25%, а дальше вопрос только в оценке финансовой эффективности.

Если бы именно в таком ключе эти языковые модели позиционировались, то нет вопросов. Моя претензия к хайпу на этой теме, к утверждениям, что нейронки скоро заменят многие профессии.

В принципе да, можно будет полностью заменить например врачей экспертными системами, уже сейчас можно, но такого будущего не хотелось бы.

Только если у вас есть доступ к экспертам, которые готовы работать бесплатно. Для остальных это будет стоить $390 за час работы. Жадная нейронка возьмёт $0,39 за страницу и будет работать несколько секунд.

Разница огромна. Рассмотрим ку примеру юридическую консультацию.

За $0,39 вы получите размытый обобщенный ответ, касаемо ситуаций схожих с вашей.

За $390 вы получите подробную консультацию конкретно по вашей проблеме.

Но первый вариант я тоже не отметаю. Например, если вы сами решили заняться своей проблемой, то можно начать и с первого варианта - с ИИ: получить направление для дальнейшего углубления в тему. Но это уже анализ, для анализа это полезный инструмент. Но тупо доверять таким результатам (без проврки и анализа) я бы не стал.

С практической? Недавно сын доклад готовил по биологии (9 класс). Всё хорошо, всё складно и структурно, но... ИИ причислил к одноклеточным организмам также и вирусы. Сын даже глазом не моргнул, а мне бросилось в глаза...

Но для меня это уже ОЧЕНЬ серьёзное применение! Если эта шушлайка поможет мне решить сложную задачу не за 5 рабочих дней, а подсказками наведëт на более интересные варианты и я решу её за 4 рабочих дня, то по факту она экономии компании средства и увеличивает эффективность работы эксперта на 10-25%, а дальше вопрос только в оценке финансовой эффективности.

Да, верно, но... для этого не нужны большие языковые модели. В этом случае скорей всего будут более оптимальны более простые специализированные системы.

А что вы будете делать, если эту задачу будет решать человек? Чем отличается некачественный результат от 80% обывателей и ИИ? Какое именно свойство есть у человека и нет у машины, из-за которого его работу обесценивают?

Некачественный результат от качественного отличается источником результата - от обывателя искомый ответ или от эксперта, причем с фамилией, именем, отчеством.

Давайте рассмотрим ситуации решения проблемы:

1) Вы получаете в ответ от ЧатЖПТ некий сгенерированный складный текст - словесно-частотную компиляцию из множества материалов разного качества. По сути получаете подражание экспертам, но не экспертное мнение.

2) Вы получаете от поисковой (или экспертной) системы несколько экспертных материалов от известных в своей области специалистов.

Какой вариант выберите? Я однозначно выберу второй, даже если это будет касаться простых справочных данных. Но понимаю, что большинство обывателей ничтоже сумняшеся выберут первый вариант. Со всеми вытекающими...

Предположим, вам надо принять ответственное решение в теме, в которой вы не являетесь экспертом. Вы спросили нейросеть, получили ответ. Что вы с этим ответом делать будете, если не можете оценить его достоверность?

Я бы предпочел ответ в виде выбора подходящего решения из набора готовых экспертных решений, а не решение полностью сгенерированное ИИ "близко по смыслу". А зачастую ведь каждое слово, каждый термин имеет значение.

Мало того, лучшие решения от openai уже подошли к такому порогу, что чтобы уличить их в ошибке нужно быть человеком выше среднего по уровню интеллекта и огромным багажом знаний (за исключением известных ограничений уже технологии)... мало того я уверен что большинство без гугла (т.е. еще один ИИ по проще) мало что в принципе смогут современному ИИ противопоставить.

А сопоставлять надо именно с системой классического поиска по справочникам, которые на выходе дают подборку экспертных материалов.

(Кажется у mistral) были статьи про интерпретируемость, они нашли способ искать, какие веса за какие знания отвечают, и управлять ими без подмены запроса.

Думаю, это несколько иное. Я про полную ясность причин конкретного результата. Не "потому что веса так сошлись", а про понятную цепочку выводов. Например, когда суд спрашивает банк: поясните, по каким конкретным причинам/признакам/логике ваша система заблокировала счета вашего клиента (в результате чего ему были нанесены убытки)?

Направлению от силы 2 года исследований, это ничто для такой сложной отрасли, особенно когда минимальный стартап в ней требует многомиллионные вложения (гаражом не отделаешься). Откуда такие абсолютистские высказывания?

Это же нейронные сети. Им уже много десятков лет. Проблемы эти давно известны.

Вот скажи, 3-5 лет назад, можно было предположить что программа сможет по изображению мема или шутки, дать пояснение этой шутке на естественном языке?

Давайте начистоту. Применение нейронных сетей в поисковых системах, по вашему, улучшило поиск? По мне поиск стал значительно хуже, результат стал сильно размыт. Сейчас стало сложно искать конкретную точную информацию. например, в запросе среди прочего указываешь Debian 11, а в ответ получаешь размытые результаты по любым линуксам, по похожим проблемам, но не по конкретному линуксу и конкретной проблеме. Постоянно приходится использовать кавычки и минусы для точного поиска, да и это зачастую не помогает.

С другой стороны, нейросети в поиске - идеальное решение для обывателя, когда домохозяйка, не зная толком, что она хочет, не зная как сформулировать запрос, вбивает фразу типа: хочу что-нибудь про котиков... и получает размытый, но разнообразный результат с котиками. Домохозяйка довольна.

Я проводил тесты с нейронными сетями для текстового поиска, тематической классификации/кластеризации и пр. Пришел к выводу, что результат для многих серьезных применений не годится или годится в ограниченном упрощенном виде.

Первые результаты, да, вызывали эффект вау: находятся документы соответствующие смыслу запроса, и это при том, что в этих текстах нет ни одного слова из запроса. Однако, стал замечать, что что-то в этих результатах не то. С одной стороны, имеется хорошее совпадение по смыслу, но с другой стороны - всё как-то размыто, перекошено в сторону обобщения, т.е. практической пользы мало. В итоге предпочел простые, но точные ответы, пусть и за счет повышенных требований к запросам и некоторой потери полноты. Т.е. остановился на более простых алгоритмах.

И речь не о поиске картинок в базе данных, а буквально, набросай мем от руки, и оно дает решение!

Проблема в том, что от этого "решения" мало пользы - вы не можете полагаться на этот ответ, не будучи экспертом в этой теме (теме заданного вопроса). Повторюсь, для развлечений это годится, для эксперта, способного оценить ответ, тоже годится, а для серьезных применений за пределами экспертной оценки - вряд ли.

Я бы не экономил прежде всего на блоке питания и корпусе. БП на 850W - это всё же маловато, впритык для 4090. Корпус тоже надо выбирать тщательно - с учетом систем охлаждения.

Материнка бюджетная нежелательна - там мало линий PCI, а это важно при мощной видюхе и нескольких nvme-дисках.

1/2ТБ nvme диск - это ни о чем, очень мало для экспериментов с разными моделями.

ЗЫ:

Я не вижу таких уж огромных перспектив у больших языковых моделей. Имхо, это по большей мере хайп, пузырь. Основную проблему вижу в неинтерпретируемости результатов, это черный ящик. Для баловства - да, для развлечений - да, для анализа данных - да, для серьезных применений - нет! Хотя на последнее видимо наплюют... со всеми вытекающими последствиями. В большинстве случаев нужно что-нибудь попроще, например надежный классификатор с интерпретируемыми результатами. А складность речи - это прикольно, конечно, но это необязательный фактор.

Да, соглашусь. Мало кто из учащихся способен к самообразованию. Обычно в одно ухо влетает и тут же из другого уха вылетает. Но здесь скорее нужны индивидуальные занятия, индивидуальные подходы. По своему сыну сужу - в школе большинство объяснений не понимает. После моего индивидуального разжевывания (с аналогиями, примерами реальными опытами) начинает понимать. Да, конечно, можно представить учителя, интересно и понятно всё объясняющего, но это редкость. В общем, на своем примере вижу, что основной груз ложится на родителей. Купил еще ему хорошие дистанционные курсы по подготовке к ОГЭ. Там действительно хорошо объясняют, без воды, всё по существу. Времени много они сэкономили. Но опять таки мне пришлось с ним сидеть и эти занятия разбирать: подсказывать, на что обратить внимание, какие моменты ключевые и т.д. Комплексная это проблема, похоже. Ну и все дети разные. Кто-то легко всё схватывает, кто-то с трудом. Но упорные занятия дают результат в любом случае. Главное, не сдаваться. Но многие сдаются...

Мне кажется, что проблема больше исходит не от учителей (здесь всё индивидуально), а от учебников и популярных задачников, особенно касающихся подготовке к экзаменам. Я зачастую вообще не понимаю, что имел ввиду автор задачки.

Например: "Дан электромагнит, с проходящим через него током. Что произойдет при переключении полярности батареи?"

У меня в голове прежде всего всплывает картинка переходных процессов (ведь происходит резкое изменение тока), резкое увеличение реактивного сопротивления и т.д. Однако, судя по ответу, автор ничего подобного не имела ввиду, она подразумевала, что произойдет ПОСЛЕ, через длительное время. Так зачем тогда в задаче упоминать слово ПРИ ("что произойдет ПРИ переключении")?

И такая неопределенность почти в каждой задачке.

Пришлось в итоге бегать по авито и закупать старые советские учебники с внятным и целостным изложением материала, например трехтомник академика Ландсберга по физике, Фейнмановские лекции и пр.

Система ЕГЭ и сильно изменившиеся с 90-х школьные программы привели фактически к тому, что умные, способные, неленивые студенты фактически не знают многих вещей, которые в ВУЗовских программах берутся как данность (например, одна подруга - профессор, доктор наук, рассказывала, что студенты, поступившие на физхимию, МАССОВО не знали, что такое амперметр-вольтметр

Ну не знаю. Сейчас сына готовлю к сдаче ОГЭ (математика, физика, информатика). Да, есть много вопросов к составителям заданий, но в целом не сказал бы, что это плохая система (в сравнении с советской). Да, на тройку сдать очень легко. На четверку тоже не сложно. Но на твердую пятерку сдать уже весьма сложно. Да, если речь о пятерке, то на первое место выходит натасканность, т.к. надо уложиться в сжатые сроки, и желательно знать сразу много готовых шаблонов решений. Но эти шаблоны надо знать и надо еще уметь их свободно применять. В принципе это не сильно отличается от того, как натаскивали в советской школе с мат уклоном. В общем не вижу существенных проблем в ОГЭ/ЕГЭ.

Ох, чем это всё может кончиться, вполне понятно.

Если введут патенты на программы, теперь и мы, программисты, прежде чем начать разрабатывать например функцию, будем что делать? Правильно... изучать патентную базу... Например, в вашем приложении предполагается сохранение результата пользователем. Хотите сделать меню? С пунктом Сохранить"? А заплатить за патенты не хотите?

С ходу нагуглил патенты (извините за автоматический транслейт):

Режимы автосохранения и ручного сохранения для программных приложений.

Абстрактный

Предусмотрены режимы автосохранения и ручного сохранения в пользовательском интерфейсе приложения на вычислительном устройстве. Вычислительное устройство может использоваться для отображения меню для получения выбора пункта меню из пользовательского интерфейса приложения. Пользовательский интерфейс приложения может отображать электронный документ, который необходимо сохранить. Опция меню может включать в себя опцию переключения между режимом автосохранения и режимом ручного сохранения для сохранения электронного документа. Выбор пункта меню может затем быть принят вычислительным устройством. Затем вычислительное устройство можно использовать для активации одной или нескольких уникальных функций, связанных либо с режимом автосохранения, либо с режимом ручного сохранения, на основе выбранного параметра меню, из пользовательского интерфейса приложения.

https://patents.google.com/patent/US10055091B2/en

Хотите сделать выпадающее многоуровневое меню? Всё уже придумано:

Расширяемое меню пользовательского интерфейса

Абстрактный

Описаны методы расширяемого меню пользовательского интерфейса, включая отображение меню, имеющего пункт меню, получение входных данных, указывающих выбор пункта меню, и расширение меню на основе одного или нескольких параметров, связанных с элементом меню, для представления структуры, сконфигурированной для получить другой ввод, связанный с элементом меню, при этом элемент меню остается отображенным, пока меню развернуто.

https://patents.google.com/patent/US8689139B2/en

Я не вникал, насколько это всё правомерно или неправомерно, какие границы применимости тех или иных патентов. Да это и не важно. Суть в том, что придется на каждый чих, при создании каждого малейшего кусочка кода или элемента пользовательского интерфейса, предварительно изучать патентные базы, обращаться к юристам и пр. Имхо, это скорее будет тормоз.

И в принципе понятно, откуда растут ноги открытого свободного софта (копилефт).

Это понятно. Но если нет необходимости делать ф-цию универсальной? Пример условный, предположим, там не многочлен. Надо рефакторить?

Имхо, всё же надо без фанатизма подходить к вопросу. Очевидно, что надо смотреть, что это за аргументы. Если однотипные, то пусть они все и будут в качестве отдельных аргументов. Если однотипных очень много и/или их можно обработать как список, тогда списком логично передать в одном аргументе. Если же аргументы разнотипные, тогда да, вероятна проблема. Надо будет группировать и скорей всего лучше будет разделить на отдельные ф-ции.

Просто многие с фанатизмом относятся к подобным рекомендациям из книжек, тем более они сформулированы так, как будто это жесткие постулаты (5 строк кода в функции и точка!).

Количество аргументов в функции максимум 3 Если аргументов много - значит метод выполняет слишком много действий, нарушается принцип единственной ответственности. Это сложно тестировать и поддерживать.

Предположим, есть функция, вычисляющая значение кубического многочлена (для простоты на питоне напишу):

def calc_polynom(a, b, c, d):
  return a * x**3 + b * x**2 + c * x + d

Аж четыре аргумента! А максимум допустимо три. Что предлагается сделать? Несколько дополнительных абстракций ввести? Интересно глянуть на рефакторинг.

но если взглянуть на среднюю вероятность обнаружения в вашей работе всех этих интегралов, то какое значение мы получим? Исчезающе малое. Стремящееся к нулю (да ещё и с большой скоростью).

Ключевая ошибка прямо в первом же доводе. Вы думаете, что вышка дает лишь повышенный набор (энциклопедических) знаний/формул/теорем? Это не так. Вышка прежде всего дает понимание происходящих в материальном (и не только) мире процессов.

Например, интегрирование и дифференцирование используются повсюду. Не сами по себе формулы, не конкретные вычисления, а для понимания процессов. Что отражает производная? Она отражает скорость изменения какой-либо величины. Таким образом к любым изменяющимся процессам и явлениям это применимо. Для лучшего понимания сути.

Во-вторых, айтишники работают не в вакууме, они разрабатывают например прикладной софт в какой-либо области, поэтому большим бонусом будут базовые знания в той области, для которой пишется софт или, по крайней мере, умение быстро разобраться в теме.

Готовые библиотеки, компоненты, модули с эффективными готовыми алгоритмами под капотом... У многих модулей есть куча параметров, многие из которых завязаны на математику. Чтобы грамотно подкрутить такой параметр, нужно глянуть документацию. А что мы там увидим? Кучу математических значков, обозначений, терминов... Тупик?

Алгоритмы... Для того чтобы разобраться в алгоритмах (за исключением совсем простых), опять таки необходимо знание математической базы.

В принципе, конечно, можно методом тыка, на основе примеров что-то подкрутить, но эффективность этого под вопросом.

Языки программирования, фреймворки и пр... Сколько надо времени человеку, хорошо знающему матан, физику, электронику, схемотехнику, архитектуры вычислительных систем, ассемблер и С/С++, чтобы освоить... например, питон/джанго? Пару дней? Ну, неделю? В общем это вообще ни о чем.

Действительно ли аргументы «потом пригодится»«будешь лучше понимать компьютер»«это  — база» сработали? Используется ли сейчас на работе умение взять сложный интеграл или посчитать предел на бумаге?

Да! Я использую это повсюду, даже в бытовых вопросах. Только не сами по себе расчеты, а понимание принципов дифференцирования, интегрирования, предела, видов функций, вероятностей и пр. Очень помогает в разных неожиданных местах. Например, помогает за долю секунды понять (взглянув на график), что в такие-то акции нельзя вкладываться, что в ипотеку влезать более чем на 8-10 лет (при ставке 10%) нет смысла (а при 18% ставке более чем на 3 года). Или становится понятно, почему ограничение скорости в городе именно 60 км/ч и что между 80 и 60 км/ч лежит пропасть. При ремонте квартиры, при поездках куда-нибудь... да даже при создании типовых сайтов зачастую это всё помогает. Все эти знания помогают оценивать реальность.

Помните начало фильма Терминатор 2, где он в бар входит и у него перед глазами пробегает поток цифр? Вот типа того и происходит: смотришь на обыденные вроде вещи (процессы), и автоматически перед глазами пробегают интегралы, производные, функции... уже на уровне подсознания производится оценка того или иного процесса: линейная там зависимость или экспоненциальная, прямая или обратная...

Но подчеркну, имею ввиду не запоминание формул, а понимание базовых принципов. За конкретной формулой можно в справочник обратиться, главное - знать что и где искать.

1
23 ...

Information

Rating
3,693-rd
Registered
Activity