Как стать автором
Обновить

Все свихнулись на ИИ. Чем рискует бизнес?

Уровень сложности Простой
Время на прочтение 6 мин
Количество просмотров 5.1K
Всего голосов 21: ↑19 и ↓2 +17
Комментарии 50

Комментарии 50

Как мне кажется, вы немного отстали. Упустили из виду, на чем именно "все свихнулись".

А "все свихнулись" на том, что большие языковые модели стали нас понимать. Их обучили не на что-то конкретное а на "язык" как таковой. В этом "фишка". Вот вам простой кейс.

В базе данных хранится информация о продажах. Вам потребовалось получить список "потерянных" клиентов. В вашей системе такого отчета нет. Задача, конечно, пустяковая. Но как ее решить, если вы не владеете SQL? Вам потребуется поставить задачу штатному программисту и дождаться ее решения. Это если есть штатный программист. Если нет, надо будет еще найти исполнителя и это еще больше затянет процесс. Оцените сами, сколько потребуется времени и денег на решение этого вопроса.

А с языковой моделью все просто. Вы формулируете свой вопрос на естественном языке. Что-то типа: "список клиентов, у которых не было продаж в этом году, но раньше были". И, вуаля! Вот он, нужный вам список. Время на написание(надиктовку) вопроса и ожидание ответа не более 3 минут. Затраты, ну рублей 100-200, если по максимуму

Понимать они нас не научились. Они научились делать вид, что нас понимают.

Если перейти с философского уровня на практический и понимать "понимать" ))) как способность продолжить начатое, то все-таки научились. И очень даже неплохо

А если вкладывать в "понимать" тот смысл который хочется, то можно очень далеко уйти в части определений.

Достаточно смелое предположение ;)
То есть штатный программист мог бы облегчить себе работу "попросив" "ИИ" написать SQL запрос для нестандартной выборки. А потом еще пол-дня прохлаждался бы, имитируя бурную интеллектуальную деятельность.
Но, у нас же нет штатного программиста... Куда, этот наш гипотетический руководитель бизнеса (или кто он там) будет надиктовывать свой вопрос? Как эта языковая модель получит доступ к внутренним данным бизнеса? Значит ее туда кто-то встроил. И наверное объяснил как это круто будет - за три минуты любые нестандартные отчеты и аналитику можно будет получать. А еще и не бесплатно, наверное... (А не подослали ли такого спеца по встраиванию "ИИ" конкуренты? Хороший вопрос)
Об этом и говорит автор - не надо торопится. Со временем многое изменится, устаканится, выработаются какие-то нормы и правила обращения с такими системами.

Например, вот сюда можно надиктовать https://brainguard.ru/page18968355.html

Руководитель сам подписался на сервис, сам диктует и сам "фильтрует базар". Какие тут могут быть опасности?

Я же не говорил, что таких решений не существует. Есть что-то эдакое в Ваших словах... Сначала утверждение, что

Вам потребуется поставить задачу штатному программисту и дождаться ее решения. ... Если нет, надо будет еще найти исполнителя и это еще больше затянет процесс

Потом, судя по всему Вы предлагаете решение к задаче "найти исполнителя":

Например, вот сюда можно надиктовать https://brainguard.ru/page18968355.html

Руководитель сам подписался на сервис, сам диктует и сам "фильтрует базар".

Ну, а по поводу

Оцените сами, сколько потребуется времени и денег на решение этого вопроса.

Тут деньги в указанном Вами проекте уже точно посчитаны

Не силен в зарплатах и стоимости выполнения "кожаным" программистом задач, пример которых приведен на рекламных скринах, но, думаю, запросы будут уходить как вода в песок при некорректно сформулированном вопросе, или когда ответ получен не совсем такой, как ожидалось. Мы же в реальном мире живем, да?
Не подумайте, что я в чем-то кого-то обвиняю - бизнес есть бизнес. Это не плохо. Это просто так приходит что-то новое, что слегка шатает устоявшиеся шаблоны поведения и ведения бизнеса. На самом деле, это, можно даже сказать, мелочи.

Потому что мы слегка ушли от основной проблемы - куда могут уйти данные к которым имеет доступ

Лично меня сильно напрягает сама формулировка "Внешняя обработка для1С:Предприятие". Это как на ЖД вокзале дать кому-то из местной шпаны свой кошелек и попросить пересчитать Ваши деньги, пока Вы в туалет сходите.

Вы не могли бы объяснить чем именно вас напрягает внешняя обработка для 1С?

Собственно, тем, что она внешняя. Это означает, что мои данные куда-то "уходят", обрабатываются там - и мне возвращается результат этой обработки. И что происходит с этими данными - я не знаю и контролировать не могу.

Словосочетание "внешняя обработка" в 1С имеет совсем другой смысл. Обработка "внешняя", потому что это некий дополнительный код, "внешний" по отношению к типовой конфигурации. То, что происходит в этом коде вы можете контролировать, в силу того, что код открыт. Вы можете открыть его и убедиться, что наружу уходит только то, что пользователь написал в промпте.

Ок. Принимается. Хоть и с оговорками. Ведь 1С - достаточно солидная фирма, имеющая сертификаты соответствия. Какие сертификаты есть у "дополнительного внешнего кода", который Вами был приведен в пример?

Но и тогда Вы, если и не противоречите сами себе, то уж точно манипулируете. Ибо я на 99% уверен, что "руководитель подписавшийся на сервис" точно не сможет в этом открытом коде что-то понять. Если Вам открыть доступ на какую-нибудь АЭС, Вы же тоже в ее особенностях работы не разберетесь кроме как "на вход загрузить урановые стержни - на выходе получаем дофигища энергии".

Возвращаясь к началу - Вы утверждаете, что общаться с живым человеком на человеческом-же языке прямо какая-то титаническая задача, а еще и ждать придется. С другим, тоже человеком, но приходящим и уходящим после выполнения работы, и тоже на человеческом языке общаться - вообще что-то нереальное, а еще и дорого.

А вот черному ящику, непонятно где расположенному, непонятно как работающему, неизвестно кем управляемому - на том же самом человеческом языке (о, чудо!) Вы предлагаете решение Ваших вопросов.

Лично для меня, указанные риски перевешивают сомнительную выгоду от экономии на программистах.

Тем не менее открытый код считается гарантией от нехороших вещей. Если вы сами не можете его понять, то всегда можно найти "понимающего", которому вы доверяете.

"Непонятно, как работающий" и "неизвестно кем управляемый" в полной мере относится и к человеку. Причем, в гораздо большей степени, чем к вычислительной технике

Ваша цитата №1:

Если нет, надо будет еще найти исполнителя и это еще больше затянет процесс. Оцените сами, сколько потребуется времени и денег на решение этого вопроса.

И это - по контексту сообщения что-то плохое.

Ваша же цитата №2:

Если вы сами не можете его понять, то всегда можно найти "понимающего", которому вы доверяете.

А вот это уже - вроде как что-то хорошее.

Т.е. вместо "просто найти исполнителя" Вы добавили другую проблему "найти понимающего" да еще и такого, которому Вы доверяете. Мне одному кажется, что это перекладывание с больной головы на здоровую?

Ну что может быть проще: есть сотрудник на зарплате, связан с работодателем какими то договоренностями - он хоть как-то замотивирован выполнить поставленную задачу - ему ведь за это платят. К нему можно применять различные методы для мотивации: повысить ЗП, дать премию, снять премию, уволить. Даже в суд подать в особо тяжких случаях. А что делать с "внешним обработчиком"? В какой суд на него подавать?

  1. Проблема с доверием к коду решается один раз.

  2. Здесь будет уместен аналог с письменной речью. Когда-то давно мало кто умел писать. В порядке вещей было обращаться к "специалистам", которые в состоянии соединить чернила с бумагой и получить нужный результат. И, да, гипотетически это было удобно. В том смысле, что если результат не достигался, то можно было и не заплатить. Но на деле, насколько мне известно, платить приходилось всегда.

    В конце концов от этой практики отказались и теперь каждый пишет сам. И если что не так, то на себя и пеняет. Но назад что-то никто не желает

Предлагаю заканчивать эту дискуссию, потому что мы ходим по кругу.

Проблема с доверием к коду решается один раз

Потом код изменился, пришло обновление - начинай сначала: ищи спеца, который разбирается в этом коде, которому еще и доверяешь, который скажет, что именно изменилось и можно ли как и прежде доверять стороннему коду. Ну и опять платить...

Что же в этой схеме проще чем в варианте со штатным сотрудником? И вот мы уже зашли в такие дебри, что это точно не похоже на изначальный "надиктовал запрос на сто рублей, максимум..."

А аналогия с письменностью - не совсем корректна ввиду несоизмеримой сложности. Раньше: выучился читать и писать - ты грамотный человек, по сравнению с другими безграмотными - почти ученый. А сейчас - чтобы быть специалистом - нужно приложить гораздо больше усилий, и все равно, в лучшем случае будешь специалистом в какой-то одной, достаточно узкой области...

Не хочешь, не обновляй. Какие проблемы?

Вообще то любая утечка данных в облако или еще куда-то чревата не очень хорошими последствиями поэтому вопрос скорее доверия к таким системам)

У меня его нет ни разу)

Это как казино надеяться конечно можно, что его строили для ВАС но делать на этом бизнес))

Работа с сервисом безопаснее, чем без него.

Сравните.

Вы решаете задачу получения списка потерянных клиентов. В случае с сервисом, вы отправляете туда запрос типа: "как получить список клиентов, у которых не было продаж в этом году, но раньше были". В ответ Вы получаете "рецепт приготовления". Применяется его к вашей базе и получаете то, что вам было нужно.

Заметьте, никто, кроме вас не получает доступа к вашим данным.

А без сервиса вам придётся обратиться к специалисту и дать ему доступ к вашим данным

Вы меня порадовали) На чем основываются ваши утверждения, что никто не получает???

Вот как по мне так как раз получают и даже больше вам скажу, что гораздо больше чем на то что Вы дали согласие) Вы обладаете таким опытом и необходимым оборудованием, что можете проанализировать весь сетевой трафик которым обменивается данное приложение?

Вы никогда не задавались элементарным вопросом почему к примеру тот же Вацап Алиса ) ВК и прочее выполняют такой огромный набор функций и абсолютно бесплатны для пользователя))

Ну ответ же лежит на поверхности)

Сегодня вы уволили из штата программиста, а завтра вам как минимум накинули абонентку на пользование приложением. И поверьте на слово баланс будет не в вашу пользу))

А вот как раз программисту можно организовать доступ ТОЛЬКО туда куда вы захотели убрав пользование сетью и флешками не думаю, что он в состоянии запомнить необходимую информацию критичную для Вас.

На открытом коде основывается.

Главное в это свято верить)

В смысле? Конкретно код обработки, на которую я ссылаюсь здесь, это менее двух сотен строк.

Это уровень даже не студента, а старшеклассника(если он информатику не прогуливал)

Комментарии уже переросли данный код)) и свелись в целесообразности использование обработчика чего либо ВАШЕГО без ВАС))

1.Понимать язык? Да ладно, учите мат чать, курите код. Огромный корпус текстов, и некоторые тонкости внутреннего промпта, создают иллюзию "понимания" контекста, но оно лишь статистически вызубрено, а реальные задачи требующие именно понимания контекста, оно не решает.
2.Какой сейчас год, я наверное отстал от жизни, но ещё лет двадцать тому, даже ключевые менеджеры среднего звена умели минимум в конструктор SQL запросов. А топы так вообще, и задачи ит-специалистов сводились к правильной организации бд, чтобы очередной гениальный аналитический срез не подвесил боевую базу ;-) (компания правда была сильно сайнтифик и интернешинал)
3.Да я в курсе особенностей отечественного и не только недобизнеса, которому коробочные решения в значительной мере, защищают ноги от пуль. Но и там, ГПТ-переводчик с "менеджерского" в код, ещё хуже приходящего программиста с почасовой оплатой, ведь последний при всём своём цинизме, как-то заботится об сиюминутной удовлетворённости клиента, и не даст ему покалечиться сильно. А вот ИИ тупо сделает как просили ;-)

Что может быть плохого в том, чтобы "сделать как просили"?

о, это самая изощрённая форма саботажа.

Ничего плохого, ровно до тех пор, пока пользователь ковыряется в своей песочнице или совсем мелкой базе, совсем простыми запросами, а вот дальше начинаются нюансы контекста архитектуры конкретной системы, функциональность которой может быть нарушена даже формально корректным запросом в лоб...

У мелочи, есть какой-то карго культ, повторения за большим бизнесом, с его аналитиками, дата инженерами, программистами итд. Но весь этот зоопарк специалистов, там требуется не потому что менеджеры тупые и не умеют в SQL, а именно потому, что данных собирается и обрабатывается на столько много, что их оперативное изучение превращается в многоходовочку, действительно требующую специальных компетенций...
...для остального, уже давно существуют no-code\недокод решения вроде лотусов\ёкселей\фокс-аксесс\шариков\оракулов итд. которые успешные менеджеры, успешно развивают и эксплуатируют десятки лет.

А если управленец не в состоянии разобраться со сводными таблицами и графическими конструкторами запросов\отчётов, то нужен ли он в системе ;-)

Вы с человеком разговариваете с разных колоколен )

ОН нам пытается донести, что ГОПОТА умная, а мы ему что там нет ничего чего не положили программисты и владельцы ( они же писали все это для того, что бы НАМ жилось лучше))

Программисты "положили" способность понимать, что вы говорите. Не больше, но и не меньше. И это "меняет весь пейзаж". Теперь вам не нужно полагаться на тонны чужого кода для решения ваших частных задач. И переживать, что где-то в этих тоннах спрятано что-то не совсем хорошее для вас.

Есть старая русская поговорка))

Простота........

можете погуглить)

это всего лишь вопрос Веры

у Меня ее нет)

Если у человека нет веры, он устраивает проверку. А если у человека нет веры и он не устраивает проверку, то ему просто хочется поболтать. Ну ок

Ну, "программисты" бывают такие-же как и "менеджеры", особенно если им платят за работу здесь и сейчас, и никаких резонов делать её по уму нет.
1С тут классика жанра, бизнес заказчик не способный оценить качество работы программиста, оценивает лишь факт решения задачи и возможно скорость оно.
Когда после очередного обновления конфигурации, требуется что-то поправить, и этого чего-то из раза в раз становится больше, бизнес иногда о чём-то догадывается но...

Бизнес рискует и рисковал всегда. И GPT тут ничуть не лучше и не хуже других поводов для перетрясания рынка.

Сейчас может быть более "крутой" поворот, так как в ГПТ может применяться в большинстве бизнесов, а не в отдельных нишевых направлениях. Так что может получиться как с Алисой в стране чудес. "Чтобы стоять на месте, нужно бежать, а вот чтобы двигаться вперед, нужно бежать в два раза быстрее."

Риск - риску рознь.

Можно рискнуть с разбегу втемяшиться в кирпичный забор, в надежде на то что забор проломится, и человек окажется по ту сторону. Но есть риск, что черепушка треснет. И вот эта последняя вероятность сильно отличается от нулевой.

Так что бизнесу и так хватает всяких рисков, зачем добавлять еще один.

К сожалению в данной конфигурации вы никоем образом не влияете на сам механизм соответственно увеличивая потенциальную долю риска.

Долю риска чего? Вы просите сервис составить рецепт решения вашей задачи. В чем риск? В том, что рецепт не сработает? Так и с программистом все то же самое. Вы ставите ему задачу. Он выдаёт вам решение. Но оно ведь тоже может не сработать. Вот только при работе с сервисом, вы ни с кем больше не делитесь информацией. А программисту потребуется дать доступ к вашим данным

Мне с Вами сложно дискутировать ввиду того что мнения диаметрально противоположные!

Вам что бы Любое ИИ решило Вашу задачу надо будет слить столько данных используя всяческие уточняющие формулировки, что утечка с программистом покажется вам сущей нелепицей)))

Давайте проще)

Вы думаете что использование таких процессорных мощностей бесплатно?

ну точно вряд ли, тогда в чем профит для создателей))

Вот если Вы попытаетесь ответить на этот безобидный вопрос думаю ваш энтузиазм немного убавится.

И это лишь мое мнение я его вам не навязываю Нравится ИИ пользуйтесь)

За последнее время его куда только не сунули вопрос только с какой целью)

Использование вычислительных мощностей не бесплатно. Но использование мощностей человеческих мозгов в тысячи раз дороже

Кстати, а почему вам трудно со мной дискутировать? Как по мне, так действительно трудно дискутировать с тем, с кем позиции совпадают ( о чем?). А с тем, кто на противоположных позициях дискутировать легче всего. Не правда ли?

Если не трудно ) сформулируйте ответ на вопрос в чем профит )?

На ваш взгляд. Я никогда не верю в альтруизм особенно в таком масштабе)

В чем профит создателей? В деньгах, как обычно. В OpenAI говорят, что скоро у них будет миллиард долларов выручки в год. Миллиард, не миллиард, но, например, Microsoft планирует "отбить" свои 10 вложенных в ближайшие годы

Вот я скорее согласен с вашим оппонентом. Допустим, я некий студент-гуманитарий, использую ChatGPT на бесплатной основе, времени у меня вагон, а навыков программирования мало. И вот с помощью бота и какой-то матери пишу SQL запрос или небольшую простыню на питоне и т.п. Тут понятно, что к чему.

А есть какой-никакой не-айти бизнес, у которого есть какие-то точки продаж, кассиры, продавцы, водители, бухгалтера, менеджеры на местах и прочее. И есть некие аналитики, которых на всю эту машинерию, ну не знаю, пять человек. И в таком разрезе даже поставить к каждому персонального переводчика с "менеджерского" на SQL не ахти какие расходы в процентном отношении. При этом программист-человек всё же с большей надёжностью поймёт, чего начальник хочет, особенно если работает с ним хотя бы месяц и понимает, что к чему.

Вы рассуждаете абстрактно. А попробуй вы на деле "поставить к каждому персонального переводчика с менеджерского на SQL", тогда бы вы сразу поняли, что это как раз ахти какие расходы.

Конкретно ваш пример. Пять аналитиков. Для них вроде бы хватит одного программиста, но отпуск, заболел, запил и т.д. Придется брать двух. Каждый попросит 200. Нет, можно конечно найти и таких, которые попросят, например, 100. Но... это будет ровно на 100 больше, чем они стоят. Вот вам 400 в месяц. Ахти это или не ахти, но затраты на сервис будут раз в 10 ниже. И если вы действуете в конкурентной среде, то вы просто не можете себе позволить тратить в 10 раз больше, чем ваши конкуренты, вас просто обойдут

Не думаю. Как раз наоборот, мне кажется, что рассуждения вида "давайте экономить на туалетной бумаге, а то конкуренты обойдут" чисто умозрительны. На практике мы видим, что все косячат, и косячат по-крупному. Майкрософт выпускает мертворождённый смартфон. Гугл вкладывает тонны денег в гугл-плюс и закрывает его. Пепси-кола/кока-кола снимают рекламу одна другой дороже, и как это всё отражается на продажах -- пёс его знает, и как отразилась бы на продажах реклама втрое дешевле -- тоже пёс знает. Амазон выпускает игровой движок и магазин приложений, под который никто ничего не пишет -- и ничего, все как-то живут дальше. Фирмы поменьше наверняка косячат точно так же.

При этом вы неявно предполагаете, что ИИ будет работать не менее эффективно, чем живой программист (с точки зрения затрат времени менеджера), что ещё бабушка надвое сказала. А у менеджера покрупнее, скажем, даже свой водитель может быть, чтобы он поменьше отвлекался от работы на разную ерунду.

И почему то на этом фоне ни кого не заботит куда утекают ваши данные))

Гугл потратил много денег на НАШ взгляд а для него самого это как купить пачку сигарет для курильщика) не удалось в одном месте рубанут в другом 80/20 в чистом виде Парето)

Если моя конторка обладает хоть минимальной стратегически полезной базой в жизни не положу ее ни к какое облако и тем более не отдам на стороннюю обработку))

Народ к утечкам ПД относится слишком легко и это мгновенно приводит к печальным последствиям!!

Статья достаточно интересная, но автор так уверенно рассуждает об использование ИИ, будто бы тот уже создан. Фактически же дело обстоит так, что никакого искусственного интеллекта пока нет. Или он так хитро прячется, что мы об этом пока не знаем. А когда узнаем, будет поздно.

возможно он привлекает много нигерийских программеров которые печатают ответы ))

Там же есть открытый код )) а все могут в нем разобраться и видимо он наглухо не изменяем))

Что ещё возможно, по вашему?

Ну если в ДВУХ словах то Вам предлагается модель ИИ кем то обученная и не понятно с какой целью)

Засим можно дискуссию свернуть)

ИИ - это сильно преувеличенное название для просто нейронной сети. Как столовка самообслуживания Макдональдс называет себя рестораном - по факту не ресторан вовсе.

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.