Это перевод, если есть такая возможность, лучше прочитать оригинал на английском.
Я тяжело переживаю по поводу того, куда нас завела эта дорожка, и стараюсь по мере сил бороться с этими переживаниями. Я постоянно думаю о том, какое место я занимаю в отрасли, которая, похоже, больше не заботится о том, что она производит. Стало очевидно, что индустрии программного обеспечения попросту наплевать на программное обеспечение.
Становится только хуже.
Кто-нибудь еще замечает, что программное обеспечение просто …ну… больше не работает подобающим образом? В каждой отдельной системе бронирования, какую я бы ни пыталась использовать на прошлой неделе, была серьезная ошибка, влияющая на доход (авиакомпания, бронирование такси, краткосрочная аренда, прием к врачу). Две из них были связаны с неправильной интерпретацией часового пояса, одна — с ошибкой проверки обязательности заполнения некоторых полей формы, а последняя так просто звучала как «вы не сможете получить назначенное место, если не позвоните нам». — Valerie Aurora
Разумеется, меня можно подозревать в предвзятости, ведь пару лет назад я написал длинное эссе на эту тему, а в прошлом году — целую книгу.
Моя теория, которую я изложил в книге, заключается в том, что качество программного обеспечения и успех в бизнесе, особенно для отдельных менеджеров, — вообще никак не связаны. Настаивать на методах разработки программного обеспечения, которые зарекомендовали себя как уменьшающие количество дефектов и улучшающие пользовательский опыт, — скорее навредит вашей карьере, чем поможет. Менеджеры высокого уровня получают вознаграждение за масштаб проекта, а не за долгосрочный успех. Индустрия программного обеспечения никогда не могла похвастаться особенным качеством производимого продукта, но с каждым днем все становится только хуже.
Вот, например, все эти увольнения.
Любой руководитель, загнавший свою компанию в такую ситуацию, что им приходится увольнять 10-20% сотрудников — некомпетентен по определению.
Они привели свои компании к ужасающей финансовой и организационной катастрофе с не поддающимися никакой оценке пагубными последствиями, которые будут отдаваться эхом в течение целого десятилетия. Они — своим бесталанным руководством — поставили всех вокруг в жуткое положение. На адекватном рынке они были бы вынуждены уйти в отставку, да и то, если бы их попросту не уволили одним днем.
Вместо этого они стали образцом для подражания. Так же, как и раньше, во всех иных поразительно неудачных решениях по разработке программного обеспечения, принятых этими компаниями, все остальные игроки в индустрии решили следовать за ними, копируя их подход.
А их руководители еще и получают премии.
В принципе, то, что наше программное обеспечение ухудшается, ни для кого не должно быть сюрпризом. Это иррациональный рынок, управляемый людьми, которые не знают, что они делают.
ИИ — одно сплошное разочарование.
Нигде это не проявляется так явно, как в случае с ИИ. Несколько недель назад генеральный директор Google Сундар Пичаи выступил в программе «60 минут» с рядом вопиющих облыжных заявлений, которые либо свидетельствуют о полном непонимании технологии, которую он рекламирует, либо о непорядочности.
Я предпочитаю думать, что он просто абсолютно невежественен, но это лишь укрепляет мою точку зрения: всех этих людей следовало давно уволить.
Я немного отошел от темы, но индустрия программного обеспечения идет по пути, который прямо очень разочаровывает.
Наблюдать, как руководители дают обещания, основанные на фундаментальном непонимании технологии, которую они рекламируют, в то время как каждое их действие, кажется, специально направлено на увеличение количества дефектов, багов и ухудшения пользовательского опыта, — как бы охаректиризовать ощущения от всего этого?
Разочарование это, вот что это такое. Разочарование.
Постоянным спутником перманентного ухудшения ситуации в отрасли является их неспособность думать в рамках более широкого контекста, в том числе о различных социальных контрактах, которые определяют положение технологии в обществе.
С помощью искусственного интеллекта технологии нарушили социальные договоренности в сети.
Проблема в том, что довольно много людей в сфере технологий не верят ни в какой общественный договор. Их концептуализация общества упрощена до предела: оно представляется им равновесием доминирующих намерений, мотивированных миметическим желанием. В этой картине мира богатые находятся на вершине; остальные из нас стремятся быть похожими на них; любая критика в их адрес рождена из зависти. Улучшить мир могут только те, у кого есть власть над другими. Любая форма просоциальных рассуждений, достижения консенсуса или подлинных переговоров кажется им чуждой.
Эти люди — реакционные либертарианские сволочи, и они — истеблишмент мира технологий. Они видят себя добродетельными пастырями человечества, особенно в долгосрочной перспективе, но, по большому счету, они всего лишь жадные до власти либертарианские сволочи.
Вот почему они оставляют после себя выжженную землю.
Не секрет, что многое из произведенного на свет технологической индустрией, не лишено того, что экономисты выразили бы эвфемизмом «негативные побочные эффекты».
Неспособность Microsoft справиться с дефектами программного обеспечения привела к тому, что в течение почти двух десятилетий обществу приходилось нести внушительные расходы по борьбе с фундаментально негодной безопасностью большинства версий Windows. Их некомпетентность создала рынок антивирусного программного обеспечения объемом 4 миллиарда долларов на «пике» незащищенности Windows в 2004 году, и никто не знает, во сколько миллиардов долларов реально обходится обществу заражение программного обеспечения вирусами и прочие взломы.
(В прошлой жизни я работал на поставщика антивирусного программного обеспечения. Если что, мы сильно недооцениваем разрушительные издержки, которые Microsoft нанесла нашей экономике из-за своей некомпетентности в области безопасности в течение этих лет.)
И ничего не меняется.
Android — это куча вредоносных программ и не исправленных телефонов.
AirBnB, похоже, был специально разработан для повышения цен на недвижимость за пределами того, что могут себе позволить местные жители.
«Контрактная» экономика предназначена для того, чтобы полностью подорвать общую оплату труда и гарантии занятости.
А уж их ориентированная на рекламу всеобщая слежка — это просто заветная мечта авторитарного правительства. Примеров слишком много, чтобы перечислить из все.
Но искусственный интеллект — это последняя капля.
Старый общественный договор.
Вообще-то договор, регулирующий «сетевое пространство», всегда был, как правило, довольно прост:
Мы и медиа-компании размещаем материалы в интернете бесплатно. Некоторые из нас делают это по деловым соображениям. Кое-что из этого носит личный характер. Во многом это просто результат культурного обмена. Люди есть люди.
Технологические компании используют этот материал, но чаще всего экономически дополняющим образом. Поисковые системы используют его, чтобы помочь вам найти то, что вы ищете. Сайты социальных сетей показывают вам рекламу. Что-то обрабатывается с целью улучшения предоставляемых сервисов, таких как проверка орфографии или автозаполнение.
Все это сломалось не сразу, а рушилось постепенно. Переводчики сильно пострадали от программного обеспечения для перевода, а ведь само его создание оказалось возможным только благодаря обработке текстов, сделанных переводчиками-людьми.
Google неумолимо манипулирует результатами своих поисковых систем, чтобы все чаще и чаще подменять страницы в результатах выдачи. Некоторые из подобных действий привели к судебным искам или даже прямому изменению законодательства. Многие юридические проблемы Google в ЕС связаны именно с этим.
Повсеместная технологическая слежка также раздвинула границы того, что многие считали приемлемым. Теперь даже мои родители используют блокировщики рекламы.
Но языковые и диффузионные модели идут дальше. Договор, который технологии предлагают нам на этом поле, тоже не особо запутан:
Мы и медиа-компании размещаем материалы в интернете бесплатно. Некоторые из нас делают это по деловым соображениям. Кое-что из этого носит личный характер.
Технологические компании используют этот материал для создания систем, которые могут создавать некачественные, упрощенные, неработоспособные версии того, что сделали мы, а еще — создавать убедительные подделки как результатов нашей работы, так и нас самих: например, для астротурфинга, разрушая нашу работу, наш бизнес и наши социальные взаимодействия.
Это плохая сделка.
Это и близко не справедливая сделка для тех из нас, кто придерживается принципа «бесплатного размещения материалов в сети». Не имеет значения, незаконно это или нет — хотя законодательство, вероятно, единственный способ заставить технологическую индустрию остановить это, — потому что общественный договор уже нарушен.
Стимул сделать что-то новое уходит след в след за вытесненными из интернета нашими прошлыми работами. Вытесненными — контентом, который был создан с использованием искусственного интеллекта. По мере того, как желание что-то делать отступает, все меньше и меньше людей и организаций будут вносить свой вклад в цифровое наследие. Все больше и больше материалов будет спрятано за неприветливой дверью с табличкой «вход платный».
Все это уже повлияло на мои отношения с сетью.
В процентном соотношении я опубликовал в интернете меньше выдержек из «Иллюзии интеллекта», чем из «Кризиса программного обеспечения». Я также почти перестал публиковать фотографии. Возможно, я больше пишу в блог, но меня все сильнее беспокоит, а сто́ит ли мне это делать.
Я нахожусь ровно в той точке, когда при обычных обстоятельствах стратегически верным решением было бы продолжать писать больше и больше. Обычно это был бы самый эффективный способ подразогнать мою карьеру в данных обстоятельствах.
Но теперь против всех публикаций стоит жирный вопросительный знак.
Побился ли бы я об заклад, что поток шаблонных текстов, созданных языковыми моделями, выведет вдумчивые авторские эссе в премиальный сегмент? А что, если распространение этих эссе — просто рабский труд на благо улучшения моделей?
Подумываю ли я о том, чтобы сделать значительную часть своей писанины платной, или, хотя бы, закрыть все это за логином, даже если это было бы контрпродуктивно для моей карьеры? Не приведет ли это вообще к разрыву отношений с моими друзьями и интернет-сообществом в целом?
Неужели я просто игнорирую тот факт, что помогаю воспитывать универсального производителя, который, как надеются многие в индустрии, заменит всех нас?
Я не знаю.
Я знаю, что буду продолжать писать об этом. Даже просто написание этой заметки помогло мне прояснить свои мысли и привести в порядок эмоции.
Буду ли я продолжать публиковать свои работы в интернете?
Я надеюсь на это. Я надеюсь, что онлайн-писательство переживет любые передряги.
Но я больше в этом не уверен.
Лучший способ поддержать автора — купить одну из книг, «Иллюзия интеллекта: практическое руководство по бизнес-рискам, связанным с генеративным ИИ«, или «Выход из кризиса программного обеспечения.