«Мне повезло» — так я начал свой отзыв на «Авито», ещё не подозревая, насколько мне повезло на самом деле.
Мне нужно было найти исполнителя в незнакомой сфере. Я, как обычно, зашёл на «Авито», промотал первые результаты (не хочу оплачивать маркетинговые бюджеты тех, кто пробился в топ) и нашёл Сергея. Высокий рейтинг, хотя отзывов немного. Услуга — междугородний трансфер. В поездке я убедился: повезло. Сергей — настоящий профи, автомобиль в идеальном порядке.
Уже в дороге Сергей пожаловался: «Авито» отклоняет отзывы его клиентов. Алгоритм считает их накрученными. «Без проблем, — подумал я, — оставлю отзыв. У меня старый аккаунт, куча заказов, система меня точно не посчитает меня ботом». Как же я ошибался.
Под спойлером мои тщетные попытки оставить отзыв и оспорить его отклонение:
Скрытый текст
Я слышал, что площадка занижает рейтинг тем, кто не платит за продвижение, но не думал, что настолько агрессивно. С такой политикой мои шансы найти добросовестного частника действительно были невелики.
Искусственный интеллект ускоряет и удешевляет процессы. Работу джуна теперь делает кодовый агент за копейки. Организационные задачи решаются за минуты, а не за дни. Площадке объявлений не нужно содержать армию модераторов, издержки падают, услуги дешевеют, скорость растёт. Светлое будущее?
Отнюдь: алгоритм вытесняет человека из процесса решения о том, является ли пользователь настоящим или нет. Вместо помощи система подозревает: «а человек ли ты?», это уже восстание машин? Наверняка скоро под этим постом появится служба поддержки «Авито», извинится за «некорректную работу алгоритмов» и, надеюсь, восстановит мой отзыв. Но что дальше? Десять других клиентов просто не будут связываться с техподдержкой. Их молчаливое согласие утопит частников и добросовестных мастеров под платными «надёжными» исполнителями.
Впрочем, думаю, всё прозаичнее. Алгоритмам и не ставили целью помощь пользователю. Мы знаем примеры: приложение для знакомств не ищет вам идеального партнёра — ему важно, чтобы вы провели в самом приложении как можно больше времени. «Инстаграм»* подсовывает максимально цепляющий контент, даже если он токсичный или неправдоподобный. Google намеренно ухудшает выдачу, чтобы вы подольше покопались на странице поиска.
В последние годы жалоб на «Авито» всё больше. Компания скупила конкурентов и теперь может не напрягаться: клиент всё равно придёт к ним, потому что идти больше некуда. Уникальна ли эта история? Давайте посмотрим шире, в памяти всплывают примеры разного масштаба: съёживающаяся плитка шоколада в магазине при неизменной цене, более слабый чип в новой версии той же модели роутера (Asus WL-500gP против WL-500gP V2), упрощённая подвеска автомобиля после рестайлинга.
Выглядит так, будто бездушный автомат просто решает математическую задачу максимизации прибыли любым способом, который не запрещён законом напрямую. Это всего лишь технология. Динамит может упростить добычу руды, а может принести смерть и увечья.
Проблема в том, кто и как использует технологию? Или это суть системы под названием «бизнес»? И как тогда спасаться, бежать за помощью к государству, чтобы оно взяло под контроль очередную сферу? Снова проповедовать коммунизм?
Не думаю, что проблема только в «Авито», хотя у них она точно есть. Может, подобное бездушное расширение является природой любого живого организма, включая человека? Надеюсь, что нет.
Я — малый предприниматель, и для меня очевидно: любой мало‑мальски сложный проект имеет шанс на успех только если разбить его на задачи. Найти поставщиков, настроить платежи и доставку, отладить IT‑системы. Но это работает, только если найденное тобой решение продолжает работать, пока ты переключаешься на следующую задачу. Это и есть залог развития человеческого общества: разделение труда. Я могу глубоко заниматься своим делом, не отвлекаясь каждый день на добычу еды, починку автомобиля или поиск нужной услуги на правильной площадке.
Хотя постойте... Если компания понимает, что труд разделён настолько, что её услуги стали уникальны и выбора у людей нет, — какой смысл ей тратить силы на улучшение? Гугл перестал быть корпорацией добра. ИИ и не начинал быть инструментом добра.
Армия США использует Claude в войне США и Израиля с Ираном, включая удар по Ирану, в результате которого была разрушена школа для девочек и погибло более 150 человек. Генеральный директор Anthropic Дарио Амадей признаёт в комментариях к сообщению об этом инциденте: ещё будут допущены «ужасные» ошибки. Но защищает интеграцию ИИ в оборону, подчёркивая, что «окончательное решение принимает человек».
Никакой регулятор, включая государство, не заставит всех использовать технологию только во благо. Изобретённую технологию невозможно запретить. Остаётся воспитывать в себе ответственность за её использование? Я могу отказаться от ИИ при написании этого текста. Я могу принципиально добиваться публикации своего отзыва для Сергея. Но вокруг меня миллионы пользователей и тысячи компаний, бездумно применяющих доступные им технологии без оглядки на этику. Мой голос — лишь песчинка в жерновах этой безупречно оптимизированной машины.
Что с этим делать, уважаемые знатоки?
*Признана экстремистской организацией и запрещена на территории РФ.
