Pull to refresh
53
1.6
Send message

ИИ иногда способен спроектировать адекватную архитектуру, просто это лотерея, как обычно.

Ничто не мешает попросить ИИ придумать архитектуру в текстовом документе вместо написания кода, а затем её править (иногда руками, иногда промтом "используй такой-то паттерн/такую-то библиотеку вот тут"). А затем уже ИИ отдаётся приказ реализовать архитектуру, когда человек-ревьюер считает её идеальной.

Проверить один хорошо структутированный документ можно проще и быстрее, чем сразу готовый код.

Мне кажется, ещё мы забываем, что код написанный людьми тоже содержит баги и проблемы с производительностью. Если человек способен написать безопасный код руками, он и в промт ИИ не забудет добавить необходимые best practice, а прочитав код хотя бы по диагонали и увидев что-то странное, перепишет руками или скорректирует промт.

А если человек это не в состоянии сделать, то где гарантия, что в рукописном коде он тоже не будет делать странные вещи?

Квалифицированный разработчик с помощью ИИ может генерировать больше качественного кода, чем написал бы полностью вручную за единицу времени, неквалифицированный разработчик с помощью ИИ может генерировать больше некачественного кода, чем написал бы вручную за единицу времени. Первичны люди, а не технологии, технологии просто добавляют людям мультипликатор производительности.

Плюс, опять же, есть разные задачи. Схему продакшн хай лоад БД надо проектировать руками или как минимум в planning mode тщательно отревьюив предложенный план (внезапно, в до-ИИ эпоху это точно также поручали самому опытному сотруднику и/или выносили на всеобщее ревью и многоступенчатое согласование, либо выходило фиаско). А набросать MVP для презентации перед инвесторами можно и в полностью автоматическом режиме вайб-кодинга (в прошлом такая задача могла бы уйти на аутсорс индусу с upwork, точно также без гарантий качества кода, лишь бы визуально работало).

К ИИ коду нужно относиться как коду коллеги - задавать вопросы на code review и, возможно, предлагать правки, быть морально готовым, что придётся в нём детально разбираться, если коллега занят/не может заняться багом в нём сам.

Ещё можно относиться как к коду субподрядчика. Чётко формулировать ТЗ, проверять результат.

При этом в умелых руках такой offload задач может поднять производительность (например, задачи типа "добавить поле такого-то типа в такую-то сущность и обновить все CRUD и DTO" ИИ щёлкает как орешки, выполняя их за такое время, какое человек потратит лишь на открытие всех файлов, которые предстоит изменить, при этом в проектировании архитектуры нужно тщательно ревьюить его предложения или писать архитектуру самому).

Обычно же коммитишь что попало (потому что хочется сохраниться в конце дня, может быть нужно прогнать CI/CD или поделиться с коллегой прогрессом, может быть нужно переключиться на другую ветку). Коммиты просто снапшоты работы в рандомные моменты, как звезды сошлись.

А уже в PR причесываешь, собираешь одну фичу.

Интересно, когда появилась Википедия, тоже была паника, что там есть статьи про боевые отравляющие вещества и оружие?

Просто инструкции по изготовлению этого цикрулируют по Интернету и Даркнету задолго до появления нейросетей. Но у доморощенного террориста есть три проблемы:

1) Без профильных знаний невозможно отличить реальный рецепт от ошибочного (как умышленно, так и случайно), причём характер сферы такой что даже маленькая ошибка в неудачном месте может разительно изменить результат

2) С одним и тем же рецептом специалист сделает вещество/устройство, а неспециалист отравит/взорвет самого себя

3) В процессе поиска информации и приобретения необходимых материалов можно попасть на карандаш и в самый ответственный момент к тебе приедет пативен

С нейросетями ни одна из этих проблем не потеряла актуальность (ИИ ошибается, пропускает важные нюансы, стучит в органы).

А ещё нейросети хорошо работают в цикле проб и ошибок (гораздо большего, чем у человека, и с большим разбросом качества попыток). Например, один и тот же код всегда компилируется в одну и ту же программу, при ошибках ты получаешь детальное сообщение о её причинах (+ можно обвешать хоть каждую строчку логгированием), ты можешь неограниченно перезапускать программу тратя только время (причём, как правило, речь о секундах).

В химии и физике это не так. Состояние системы сложно измерить в середине многих процессов (да и в конце на самом деле тоже всё не так просто), причины ошибки система не сообщает, каждая попытка требует реальных материальных ресурсов и часто много времени, а слишком неудачные результаты сопряжены с разрушениями.

По каким интерфейсам такие штуки связываются с CPU малинки?

То есть будут развиваться ИИ алгоритмы отличения дерьма от конфетки (которые можно применять и для валидации результата работы ИИ уже после обучения).

Было бы интересно тут зайти со стороны банков. Я помню видел скриншоты у каких-то иностранных банков фичу - список всех сервисов, которые токенизировали карту. С возможностью индивидуально блокировать будущие списания.

Это не очень удобно ходить по всем сервисам вспоминать, где карту привязал. Было бы здорово, если бы банк показывал централизованно список тех, кто может списывать с моей карты.

Плюс нагрузку лучше переложить на банки, у которых много денег (на реализацию фич), нежели на сервисы, которые бывают не только большие, но и маленькие.

Во-первых, статья написана ИИ: перегружена списками, несколько разделов повторяют одну и ту же идею разными словами. А с защиты "это не дефект личности ИИ!" поржал. Пора уже на хабре добавлять плашку про ИИ контент.

Во-вторых, по вопросам всё не так однозначно. Nodejs использует пулы потоков для некоторых асинхронных операций, JS код строго однопоточен, но нативные библиотеки вполне себе используют потоки. Если стоит задача пересечь океан на машине, то её можно отправить как груз на корабле.

Какая же у них самооценка, что с помощью ИИ можно спроектировать оружие, которое не убьет создателя же единственной жертвой (если вообще будет способно кого-то убить). У ИИ огромные проблемы с чем-то выходящим за рамки программирования (где можно невозбранно пробовать в цикле разный код, пока не заработает, получая детальные сообщения об ошибках).

Есть сервисы, где одни юзеры за деньги (им платит сервис) ставят софт делающих из их устройства прокси, а другие юзеры через них ходят (они платят сервису, сервис живёт на разницу в ценах). Это более-менее легально в правильной юрисдикции - такие сервисы могут работать открыто, принимать платежи от юрлиц и т д. Основные клиенты таких сервисов - скрапперы.

Вот всякие сервисы типа "API чтобы узнать позиции вашего сайта в Google во всех странах мира" под капотом используют такие прокси (потому что с IP датацентров Гугл сразу же выдаст капчу, плюс не везде есть датацентры, плюс выдача может отличаться).

Разумеется, у самих этих сервисов есть ToS, условно, скраппить можно, DDoS нельзя. Чтобы не распугать пользователей и чтобы не привлекать внимание органов.

Новость о том что кто-то придумал брать такие прокси и использовать их для атаки на локальную сеть устройства где вертится прокси. И получать уже свои прокси, на которые юзер не соглашался и которые можно использовать в целях DDoS.

Ну и это лишь половина истории. Помимо "серых" (тема всё равно на грани) резидентных прокси (где юзер в курсе что он работает прокси и его как-то на это смотивировали) есть ещё "черные", где прокси поднят каким-нибудь трояном, а владелец ботнета продаёт доступ. В этом случае злоумышленник берет прокси в короткую аренду, заряжает локалку пользователя и имеет бесплатный прокси уже надолго. "Грабит награбленное", так сказать.

Есть сервисы, которые платят деньги пользователям за установку ПО, которое делает из них устройства прокси. Полоса пропускания перепродается с наценкой клиентам этих сервисов (как правило это всякие скрапперы, которые хоть и нарушают ToS сайтов, но всё ещё в рамках законов большинства стран, так что такой бизнес в правильной юрисдикции даже может работать в белую).

Я видел один такой сервис, там было 1$ за Гб для клиента и, соответственно, 0.1$ за Гб для юзера предоставляющего IP.

Ну и есть "чёрные" сервисы, где юзерам ничего не платят и они не в курсе, что их используют как прокси. А софт тихо встроен в какие-нибудь приложения или вообще устройство поломано вирусом.

Тут главный вопрос что произойдёт, когда кто-нибудь умрёт или покалечится, в его истории браузера найдут диалог с ChatGPT, где он советовал человеку то от чего он умер как лечение, и родственники погибшего подадут в суд на OpenAI.

Сейчас исход будет зависеть от того как карта ляжет. Убедит адвокат судью, что ChatGPT исполнял функции врача без лицензии и OpenAI всыпят люлей.

И вот OpenAI хочет официальную бумажку, в которой будет прописано при каких условиях он несёт ответственность за вредные советы, а при каких нет, чтобы обезопасить себя.

Тут вопрос ChatGPT это "искусственный интеллект" или "интеллектуальный поисковик". Если второе, то к нему, конечно, никаких вопросов как и к книге, но OpenAI (и не только им) хочется позиционироваться как первое. А там уже начинает маячить ответственность за неправильные решения.

Врач, если не делал грубых отклонений от стандартных протоколов лечения, тоже не будет нести ответственность, если с пациентом что-то случится.

Плюс в медицине много рутины типа "у вас температура, кашель и сопли? вот вам больничный на 3 дня и парацетамол" (иногда ещё назначают антибиотики, полагаю, по наличию или отсутствию какого-то из симптомов в списке или по эпидемелогической обстановке в городе, не разбирался), которая сейчас в некоторых странах даже дистанционно делается (то есть по сути для самых типовых случаев лечение может быть назначено чисто со слов пациента). В эту сферу может вклиниться ИИ.

Что-то уровня "вы пробовали выключить и снова включить?" (если проводить аналогию с айти). Ну и конечно же это будет бесить (как и нынешние боты техподдержки) тех, кто ещё до обращения знает, что его случай не такой типовой (впрочем, помимо тех кто действительно знает ещё будут те, кто лишь думает что знает).

В статье рассмотрено использование ИИ для управления дронами, медицинские вопросы и т. д., а как же такая интересная и очень неэтичная тема как допрос военнопленных?

Надеть на человека шапочку нейроинтерфейса, задавать вопросы "сколько было истребителей", но не слушать ответ, а поставить ИИ преобразовывать мозговые волны в картинки на экране. ИИ, кстати, и каверзные вопросы может придумывать (чтобы было максимально сложно отвлечься и подумать не о том о чём спросили).

Как человек с опытом работы в корпорациях (хоть и не уровня Google) могу сказать, что "ИИ написал за час то что целый отдел писал год" вообще не удивляет. И дело не в превосходстве ИИ над человеком.

В Магнитах/Пятёрочках может играть другой фактор - уменьшение реальных доходов населения. Нет спроса на 10 видов колбас, есть спрос на 2 вида колбасы - самую дешёвую и чуть подороже, для тех кто слишком внимательно читает состав или там на случай праздников. Остальное просто покупает ничтожно малое количество приходящих в этот магазин людей.

Надо держать в уме, что у каждой сети магазинов в России есть ориентация на ЦА с определённой вилкой дохода ("Светофор" ориентирован на одну вилку дохода, "Пятёрочка"/"Магнит" на другую, "Азбука Вкуса" на третью и т. д.). И изменение ассортимента в магазинах одного сегмента может быть реакцией на изменение благосостояния его сегмента аудитории.

Возможно, он имеет ввиду, что ИИ играет роль советника, как и поисковики. Человек может найти полезную информацию в Google, но он должен быть способен выполнить для каждой строчки результата bullshit test и отсеять то, что его не пройдёт. Если верить всему, что находит Google, то последствия будут печальными (возможно, не сразу, но в долгую точно).

ИИ точно также может по запросу человека выдать что-то полезное. А может не выдать. Человеку нужно быть способным проанализировать результат и отсеять ерунду (при этом, конечно же, понятие "ерунда" многослойное - есть как краткосрочные, так и долгосрочные негативные и позитивные последствия любого решения).

Соответственно, те компании, которые используют ИИ как ещё один поисковик (у него не обязательно при этом интерфейс поисковика, это может быть и продвинутый автокомплит в IDE и т. д.) имеют выше шансы на выживание, чем те которые предполагают полную замену ручного труда ИИ (но при этом вторым гораздо проще обещать иксы прибыли в брошюрах для инвесторов).

Можно дробить фразу по словам или предложениям. То есть во фразе должны быть маркеры, где допустимо затупить (человек тоже может задуматься между фразами, это нормально, главное не посередине слова) и отправлять такими кусочками.

Главная суть в том, что если человек начал слушать такое голосовое, то при получении нового чанка он должен автоматически воспроизводится (пока бот явно не передал признак окончания сообщения или юзер не остановил воспроизведение сам).

Сейчас можно разве что слать пачку голосовых, но если новая не успеет до окончания воспроизведения предыдущей, то юзеру надо будет снова запускать воспроизведение (плюс засраный диалог короткими сообщениями). А длинную голосовушку долго ждать.

1
23 ...

Information

Rating
1,301-st
Location
Франция
Registered
Activity