Обновить
332
Maxim Mozgovoy@rg_software

university professor and software developer

0,2
Рейтинг
155
Подписчики
Отправить сообщение

(Ответил тут, т.к. "правильная" статья больше недоступна, но тут тоже вроде в тему. Сорри за простыню, но тема интересная, так что компактнее не получается.)

Основная проблема с вашими (и любыми подобными) аргументами состоит в том, что она выдаёт за новую угрозу то, с чем мы имеем дело буквально каждый день. Ну вот представьте себе, как с таких позиций легко убедить человека не выходить на улицу: вот я вышел, а полно маньяков, у кого-то нож, кто-то пьяный за рулём, где-то рабочий кирпич уронил с крыши и т.п. Всё по отдельности это верно, но эмпирически мы знаем, что мир не погиб, но в случае AI у нас нет эмпирических доказательств, поэтому и спорить трудно. Вторая проблема в том, что в AI бездоказательно видится не просто потенциально мощный интеллект, а нечто принципиально иное, способное выдумать невообразимое и завладеть бесконечным ресурсом. Опять же, история человечества показывает, что у всего есть те или иные пределы -- и тут важно не смешивать некий обоснованный технооптимизм с полумагическими ожиданиями.

Скажем, мы видим, что компьютер может решать те же задачи, что машина Тьюринга, и сколько ни добавляй памяти -- всё же на пути бетонная стена. Аналогично, поколения людей бьются над "более лучшей" батарейкой, но сама идея запихнуть очень много энергии в маленький объём, очевидно, нетривиальна в нашей физической реальности. В некотором смысле, наши попытки экстраполировать легко критиковать, потому что действительно бывают разные сценарии. Условный мировой ВВП растёт линейно, закон Мура экспоненциален, а развитие человека логарифмическое. Видя, как быстро двухлетний ребёнок осваивает новое, можно предположить, что перед нами, как минимум, новый Эйнштейн, и это до поры до времени согласуется с наблюдениями, но дальше что-то идёт не так.

Я это говорю к тому, что любые апокалиптические прогнозы исходят именно из экспоненциальной гипотезы. ChatGPT3 на голову круче, чем ChatGPT2, значит, десятая ревизия уже точно будет Эйнштейн. Но и я в три года был на голову круче, чем в два, а дальше проблем а в том, что всё большие усилия требуются для достижения всё меньших результатов, плюс упираемся в объективную сложность желаемого.

Сценарий с "печаталкой скрепок" для меня особенно невообразим, так как если мы исходим из того, что AI действительно "сверхинтеллект", то в чём ценность для него может быть в таком количестве скрепок (или любого аналога)? Но допустим, перед нами и вправду AI-маньяк, который сочетает сверхразумность с желанием стать скрепочным магнатом. Далее мы исходим из "сверхэкспоненциального" роста угроз, который не бьётся ни с чем известным нам в истории, то есть по сути предлагается поверить именно в магический сценарий.

То есть выглядит это так, что вчера завод производил кастрюли, а потом за ночь стал делать боевых роботов. Или вчера все банки были защищены, а завтра оказались все сломаны. Или все плотно сидят на новом лекарстве от насморка, а завтра выпускают к нему добавку, которая с этим лекарством в комплекте убивает.

На практике рост угроз обычно плюс-минус линеен, и также нетороплива реакция. Всегда знали, что HTTP небезопасно, но до поры до времени терпели. Потом начали переезжать на HTTPS, и время между "все знали" и "все переехали" произошло удивительно мало плохого. В моём представлении даже если "злой AI" начнёт делать дронов из кастрюль, поскольку ресурсы небесконечны, ну сделает он десять штук первой версии, и тут мы его и поймаем. (Заметим в скобках, что нынешние войны показывают, что оружейные запасы не столь велики, и не так быстро пополнимы). Ну или сломает один банк, потому что вряд ли с первой попытки сломает все, да ещё и за день.

То есть вероятнее всего какие-то проблемы будут появляться очень постепенно, потому что сделать робота из кастрюли -- это одна задача, а разработать вирус -- совсем другая, с разными сроками и ресурсами. Соответственно, всегда можно сделать "AI стоп-кран", то есть другой интеллект, который будет гораздо тупее первого, но у него будет жёстко захардкоженная цель типа "никого не пускать в наш банк" или "убедиться, что кастрюля не летает". А так как он будет прямой как палка, обойти его будет очень трудно.

Короче говоря, мой основной поинт состоит в том, что любые очень плохие сценарии стоят на почти что невероятных предпосылках, и основная причина, почему это всё вообще обсуждается, состоит в том, что цена ошибки высока. Ну то есть шанс вытянуть чёрный шар из миллиона мал, но если этот чёрный шар особенно чёрен, давайте его обсудим. Ну что ж, почему нет, давайте.

Но мне лично будет казаться обидным и несправедливым, если партия "чёрного шара" начнёт побеждать. Чёрт побери, да у нас уже сейчас есть мировые лидеры с красной кнопкой в чемодане. Некоторые из них выглядят не очень адекватными (подставьте по вкусу). И ресурс у них есть, и что в голове тоже непонятно. И на фоне вот такого мироустройства нам предлагают обсуждать угрозу GPT-N, а слон пусть в углу комнаты постоит.

К сожалению, придётся принять за данность, что на русском языке будет издаваться только самая массовая переводная литература, чтобы отбить расходы большим тиражом. Грубо говоря, Grokking algorithms ещё сработает, или какой-нибудь Python for dummies, но малейший провал по тиражу -- и привет. Но куча людей в мире живёт ровно в тех же обстоятельствах, какой тираж у Grokking algorithms может быть на эстонском или грузинском языке? Так что разумно исходить из того, что английский необходим, и не тянуть с этим.

За последние примерно 25 лет всё поменялось радикально. В конце девяностых-начале нулевых опытный переводчик, который набил руку и работает быстро, мог зарабатывать деньги, сравнимые с доходом IT специалиста среднего звена. На одну богатую контору приходилось прилично небогатых, а работа переводчика, при всей сложности, штука размеренная (платят за объём), не слишком нервная (шансов застрять в дебаге мало), и выполняемая в удобное время на удалёнке.

Что поменялось? Резко упали тиражи вследствие развития интернета, в IT выросли зарплаты, иностранные магазины (Amazon) стали доступны, а цена переводных книг превысила цену оригиналов. Раньше перевод в книжном города мог легко стоить в два раза дешевле оригинала где-нибудь в Америке.

Так что да, быть техническим переводчиком теперь совсем неинтересно, изучайте английский.

Магии нет. Если человек умеет писать настолько чётко и внятно, чтобы не было разночтений, ему вообще незачем писать ТЗ, он пишет сразу код. Если же он предпочитает писать инструкции на человеческом языке, значит, в них заведомо будут противоречия и разногласия, которые постепенно вытравляются по мере того, как неформальное задание превращается в код.

Практически любые утверждения типа "бот заменит программиста" исходят из того, что работой программиста является перевод ТЗ в код. Я так не думаю, мне кажется, что работа программиста -- это последовательное и методичное устранение неоднозначностей исходного ТЗ, по мере которого неформальное описание постепенно всё больше формализуется.

Разумеется, в любой задаче полно подзадач, для которых любое решение годится. Но для этого и есть библиотеки, фреймворки и таблицы стилей. Неважно, как выглядит вебсайт, лишь бы работал? Ну берём стиль №123, и вперёд.

Как бы да, но если почитать комменты, то складывается впечатление, что спор исключительно о критериях того, где пролегает крайность. Вроде как leftpad через фреймворк -- это одна крайность, код на С из транслятора -- другая, а умеренное велосипедостроение -- вроде ок, осталось понять, где оно.

Они не становятся ясными вам, потому что вы не юрист. Думаю, юристу эти формулировки предельно понятны. Конечно, можно попытаться кормить модели контекст и т.д. и т.п. (хотя у юристов контекст тоже есть, например, в шапке документа написано, что это "Договор" или "Доверенность"), но мне не совсем понятно целеполагание. Говорите, можно избавиться от записи Бэкуса-Наура? Ну да, можно, но это что, rocket science и доступно лишь избранным? Если вы хотите описать чёткое техзадание, не допускающее неверных трактовок, зачем пользоваться для этого человеческим языком, если есть язык программирования. Он предназначен для инструкций, он трактуется однозначно, он прост синтаксически.

С моей точки зрения они берут ровно от желания формулировать мысли с минимальными возможностями разночтений. Соответственно, для специалиста эти тексты являются примером ясности высказываний, но для их чтения нужно иметь определённое образование, и это нормально. Если вы захотите писать чёткие задания для ChatGPT, то рано или поздно придёте к тому же самому. А если учесть, что в отличие от юридических документов инструкции для ChatGPT имеют форму императива (сделай то-то и то-то), мы можем убрать из естественного языка всё ненужное и оставить инструкции. А ещё можно упростить синтаксис. Получится C# или что-то в этом роде, и тогда ChatGPT вообще не нужен.

Ну юристы тоже не с потолка берут свои способы выражения мыслей.

Чтобы выдать задание, надо внятно и чётко его сформулировать. Значит, надо выражаться ясно и чётко, как юристы, например. Но мы знаем, как выражаются юристы, и обычно это наводит тоску. Можно сделать шаг вперёд, а можно два или три (каждый пусть вообразит их себе по своему вкусу). Почему бы не пропустить теперь промежуточные шаги и не прийти к выводу, что можно написать задание на хорошем формальном языке, например, на C#?

Отсекать на этапе собеседования, очевидно.

Если доводить эту логику до абсурда, представьте себе, что некто пишет на языке высокого уровня типа Swift или C#, а потом с помощью транслятора переводит всё это дело в C и даёт вам в качестве исходника. Ну и что, что лапша, и автоматически сгенерированные файлы по 10500 строк? Это же простой код на простом языке, и go to definition прекрасно работает, enjoy.

Ну замените. Видимо, дьявол в деталях, а со стороны всегда всё просто. Сколько лет нам уже обещают полностью автономные автомобили, например?

Ну так у вас тоже нет, ваши расчёты приведены для случая вашего сугубо личного понимания БДД, которое больше никем так не понимается.

Но чтобы не заканчивать на минорной ноте, конечно, такие расчёты есть, например.

Как я уже сказал, это лишь моё частное мнение, и если организатору хочется, пусть делает что угодно. Есть магазины, в которых пишут что-то типа: внимание-внимание! вас снимает камера наблюдения, так что и не пытайтесь. А есть те, где не пишут (хотя камера наверняка тоже есть). Аналогично, есть фирмы, где вот прямо на каждом углу будут напоминать, что харрасить плохо, как будто бы я уже всех вокруг обхаррасил. Мне некомфортно в среде, где изначально относятся с подозрением, да и ладно бы только гендерный баланс, сейчас любят и по другим цветам штанов начинать сортировать. Если мне надо пойти в магазин, где камера, я пойду, но если есть опция идти туда, где про неё хотя бы не пишут -- выберу всё же туда. К счастью, с мероприятиями есть из чего выбирать.

Ну так you are welcome, я же не говорю, что это всё надо запрещать. Лично я когда вижу пространные вводные такого сорта, обычно морщусь и прохожу мимо. Но это я, а кому-то ок, и ладненько.

Ну так БДД имеет смысл обсуждать в том ключе, в котором он предлагается, а не в наших мечтах. А предлагается он совсем не для справедливости, а вполне в утилитарных целях:

  • Сократить бюрократию (не уничтожить целиком, это невозможно, но хотя бы частично).

  • Дать буст социальной мобильности, когда люди не рискуют уволиться/развестить/поменять профессию/заняться бизнесом потому, что боятся нищеты.

В моём понимании попытка доказать что бюджет не сойдётся в принципе лишена смысла: бюджет сойдётся, потому что если БДД введут, он изначально будет рассчитан так, чтобы всё сошлось. А если не получится, то никакого БДД и не будет.

Всё очень просто: когда вы едите мороженое, то радуетесь, что это мороженое у вас есть, а не печалитесь, что оно небесконечное. Я бы хотел радикального продления жизни, и искренне надеюсь, что мы её застанем, но полагаю, что шансов немного, и мне доведётся прожить плюс-минус столько же, сколько предкам. Но даже в этом случае как-то глупо будет считать, что один день (или пусть даже месяц) мучений перевешивает много лет интересного времяпрепровождения. Съел мороженое, расплатись, а потом всё, ну и что с того.

Вот не знаю как в Германии, а в странах типа Индии известный тренд -- это прирост города за счёт трущоб. То есть речь не идёт о переезде за тусовкой и флёром, а, условно, в деревне жрать нечего, и самые простые люди едут на заработки. А больше всего спроса на чернорабочую силу как раз в столицах, вот и мыкаются там.

Я вполне понимаю эту логику, но вот в том и дело, что мне неинтересно играть в такие игры. Если заявлен тур по городу или дискуссионный клуб, я искренне считаю, что будет тур по городу или дискуссия, а не гендерные игрища. Если же организатор считает, что участники недостаточно культурны, чтобы придерживаться заявленной темы, пожалуйста, без меня.

Ну а психологические ролевые игры -- это другое дело, тут если честно заявлен некий м/ж тренинг, понятно, что должны быть и те, и другие, возражений нет.

А я не совсем понимаю ваши расчёты требуемой на БДД суммы. Логика в том, что мы сейчас имеем: пособие по безработице, детские выплаты и пр. др. выплаты для всех нуждающихся + чиновников для их обслуживания. После БДД предполагается иметь: для работающих повышенный доход благодаря БДД => повышенный налог, который по сути этот БДД возвращает в бюджет, для остальных отмена массы существующих выплат (зачем они, ибо есть БДД), меньше чиновников.

Информация

В рейтинге
3 045-й
Откуда
Фукусима, Япония
Дата рождения
Зарегистрирован
Активность