Ну так пусть AI и без судьи пишет, лишь бы подпись судьи стояла. Потому что судье за это может прилететь. Может, не сегодня, а через 20 лет. И пусть об этом знает. Думаю, на этом мы можем прийти к согласию -- как говорится, и вашим, и нашим.
Вон из недавнего. Glynn Simmons 48 лет просидел в тюрьме хотя не был виноват. При этом у него было алиби,
Ну, понимаете, это такой anecdotal evidence, который всегда можно вытащить. Дескать, сосед пьёт и курит как паровоз, а ему уже 90 лет, а у другого сердце в 40 отказало. Всё бывает.
Пусть бумажка будет для "чтобы было", и пусть судья знает, что бумажка лежит. Сегодня ветер дует в одну сторону, завтра в другую. Пусть AI пишет, если судье самому лень. Главное -- это чья подпись под документом, а кто сочиняет -- для меня дело десятое.
Если вы говорите абстрактно о некоем AGI, который умеет не хуже человека всё это делать -- ну да, разницы никакой. А если конкретно о нынешних моделях -- думаю, это не того уровня технология, чтобы "обобщать мораль".
У судьи есть довольно большое пространство для манёвра при назначении конкретного наказания, например. То есть, допустим, виновен, наказание от сих до сих, но внутри уже на усмотрение человека. И это же тоже часть системы закона, фича, а не баг.
Тут нет защиты людей, тут неавтоматизируемая часть системы.
И точно так же можно назначить кого-то ответственным за решения AИ. И он уже может решать когда использовать AI, а когда нет.
Разумеется, к этому, я думаю, и придём. Сейчас судья тоже может, условно, в чатике спросить, что делать. Неважно, пользуется он гуглом, википедией или LLM -- поставил фамилию и подпись, значит, это уже твоя ответственность.
Ну так проблема то в том что средний судья в среднем процессе этого не делает.
Да, и дело пойдёт на второй круг. И там, как я понимаю, могут не просто не согласиться, но и дать дисциплинарную оценку предыдущему судье.
Его решения абсолютно прозрачны и он всегда их объясняет?
Ну да, это называется "мотивировочная часть", разве нет?
Впрочем, не суть. Мне кажется, весь этот разговор примерно того же уровня, что и "программист вместо себя использует chat-gpt / нанимает индусов". Применительно к программистам средневзвешенное мнение -- пусть нанимает кого хочет и использует что хочет, если качество не страдает, и он за свой код отвечает.
Вряд ли кто-то (не я точно) будет запрещать судье пользоваться любым современным инструментом повышения продуктивности.
Если вероятность привлечь судью больше нуля, это уже выше, чем у AI, не так ли?
"субъективные" решения суда чаще неправильные чем правильные.
Смотрите, тут вот какая история. У нас есть задача, которую точно решить невозможно (гарантированно доказать, обвиняемый виновен или нет), значит, нашей целью является ступенька ниже: провести процесс по всем правилам, и что он покажет, то покажет.
Если соблюдены все процедуры, рассмотрены все доводы, факты и т.п., мы знаем, что больше ничего сделать нельзя. Если же есть пространство для оспаривания, то можно биться дальше.
Предположим, AI говорит, что вот с вероятностью 99% этот товарищ виновен. Хорошо, что дальше? А дальше просто все эти дела автоматически пойдут на апелляцию, где обвиняемый будет говорить, что то или это не учли.
Тут в каждом втором тексте про Chat-GPT пишут, как легко его можно попытаться в чём-либо переубедить. Ну вот и будет ровно то же, что и сейчас -- прокурор будет убеждать в своём, адвокат в своём. А стоит ввести "чёрный ящик" на любом этапе -- ну так обвиняемый будет его оспаривать, потому что кто смирится с тем, что его считают виновным просто из-за какой-то численной корреляции внутри нейросети.
Дело не в том, что ИИ "не способен" что-то там учитывать, а в том, что ему всё равно. Он поступает вероятностно, и для него "правильно" -- это то же самое, что близко к выборке. Наша мораль устроена сложнее, чем alignment, что показывают всякие задачи о вагонетках, в которых самые минимальные изменения условий приводят к довольно большим разбросам в моральной оценке происходящего. И даже если случай похож на 100500 других (объективно), мы субъективно можем решить, что он всё-таки не таков.
Гугл именно что ярчайший пример этой гадости, которую мы (общество) пока терпим ровно потому что это частная контора со своим уставом, и она ведёт бизнес как хочет, а кому не нравится, может с ними не работать. Но если так же будет поступать государство, это уже совсем другая ситуация.
Пусть AI проверяет документы, выносит предварительные оценки и так далее, кто ж против. Если это хороший инструмент, пусть судья пользуется. Главное -- чтобы на итоговом документе была подпись человека, и он бы за эту подпись отвечал, а уж какой инструмент ему помогал -- его дело, не проблема.
Эту тему уже миллион раз обсасывали. Разница не в качестве, а в ответственности. Примерно такая же, как между "участием" с дивана в игре "Кто хочет стать миллионером" и реальным риском в студии на деньги.
Судья, политик, бизнесмен или менеджер проекта может быть хуже AI. Но у него есть представление о профессиональной этике, совесть, в конце концов, возможные репутационные и карьерные последствия.
ИИ-агенту ничего из перечисленного не грозит. Даже его авторам не грозит, потому что те из них, кто вменяемый, всегда скажет, что решение, предложенное ИИ, должно критически осмысляться, и уже потом применяться.
Мир, в котором правит ИИ -- это вот как условный Гугл, где вас может забанить алгоритм, за то, что какая-то "метрика жулика" показала 0.754 при пороге 0.753, и писать будете на деревню дедушке. При этом, возможно, ИИ будет чаще прав, чем модератор-человек, но жить в мире, где нет ответственных, удовольствие спорное.
Штука в том, что алгоритм = машина Тьюринга. Если вы под словом "алгоритм" (aka вычислительный алгоритм) понимаете что-то другое, то с чего бы? Это уже как раз ваш разговор с собой получается, потому что у Дейкстры ровно так.
ОК, хорошо. Штука в том, что фраза "все наверно помнят, что любой алгоритм можно представить в виде трех видов алгоритмических конструкций, следование, ветвление и повторения?", с которой вы полемизируете, совершенно справедлива. Вы пишете, что в эту концепцию не вписываются исключения, и что с того? Исключения не являются частью этой дискуссии.
В общем, читая такого сорта статьи, вы практически всегда вместо термина "алгоритм" можете подставлять "машина Тьюринга". Это и есть "важные детали и контекст работ", о которых вы говорите.
Ваше желание далее делить алгоритмы на "структурные" и "не структурные", на мой взгляд, только добавляют тумана. (Вычислительные) алгоритмы и есть алгоритмы, а "средства языка" это отдельный разговор. Если же вы хотите сказать, что с помощью трёх упомянутых блоков нельзя реализовать исключения или параллельные вычисления -- ну да, соглашусь, но надо быть совсем уж не в теме, чтобы приплетать статью Дейкстры к этим задачам.
В реальном мире приходится заниматься много чем и помимо программирования. Изначальный контекст вашей заметки в том, что, дескать, Дейкстра (а точнее, Бём/Якопини) воспринимаются "как-то не так", потому что игнорируют реальность, в которой есть параллельный код, стирка белья и окучивание грядок. Это довольно странное замечание, потому что вся дискуссия Дейкстры и прочих идёт в рамках пространства теории вычислений, где понятие алгоритма (как машины Тьюринга) подразумевается и не вызывает разночтений.
Что касается недетерминированной машины Тьюринга, она эмулируется на детерминированной (за O(2^N)), поэтому в данном контексте её особенности неважны.
"Правила перехода" -- это функция машины, а не эмулятора, который эту машину рализует.
Обработка прерываний и параллельное выполнение не являются алгоритмическими задачами. К таковым относится получение выходных данных на основе входных, и больше ничего. Не всякая задача алгоритмическая, но мы по идее их и не обсуждаем здесь.
Мне всегда казалось, что в "школьном" контексте фраза о том, что достаточно трёх видов конструкций приводится чтобы доказать, что без goto в принципе можно обойтись. Иными словами, исключая goto из арсенала, вы формально ничего не теряете. Опять же, формально тут всё справедливо: любое эффективное вычисление можно представить в виде машины Тьюринга, которая, очевидно, может быть реализована без goto. При этом, разумеется, можно придумать основанный на хитрых goto переходах алгоритм, который будет практически довольно сложно преобразовать в эквивалент без них.
У несчастью, мне регулярно приходится сталкиваться с кодом, который непонятно как работает, и это не вина пишущего. Такое бывает, например, если имеете дело с ворохом 3rd party зависимостей, причём требуется какая-то конкретная комбинация из версий, и везде свои баги. Эмпирически вы знаете, что такая последовательность вызовов работает, а другая - нет, причём из документации не следует ничего. Получается, что даже автор ничего вменяемого в комментариях написать не может, кроме "не трогай, должно быть так".
Ну это очень гипотетически. Вы же находитесь в операционной системе. Да, пользователь дольше просидит в этом окне, но меньше просидит в том, куда он хочет попасть. В чём выгода? Я сижу в окне "настройки" и хочу назад, рекламу смотреть. Эппл хочет, чтобы я и дальше в настройках сидел?
Ну вы же понимаете, что цитирование художественной литературы не является доказательством. Не говоря уже о том, что любое утверждение о "неизбежности" по определению нефальсифицируемо, и значит, находится в области мнений, за рамками науки. Если вы (или какой-нибудь конкретный историк) так считает -- да ради бога, ваше право; я лишь призываю чётко отделять мнение от знания.
Как человек западной культуры я исхожу из некоего принципа свободы воли индивидуума. Даже если это спорно с точки зрения физического детерминизма, скажем, судебная система исходит ровно из этой презумпции: если человек ставит подпись на документе, он персонально ответственен за эту подпись, и никакие "вынужден был" тут не катят. Безусловно, я не отрицаю объективные тенденции, и что разные варианты развития событий разно вероятны, но всё равно последнее слово за человеком, и в этом отношении то, что ряд ключевых участников тех событий окончили свои дни далеко не так, как планировали -- справедливо, потому что никто их не вынуждал поступать так, как они поступили.
Ну к вам вопросов никаких, вы занимаетесь чем можете в тех реалиях, которые есть. Но если я правильно понял, то ситуация проходит по категории "не очень интересный рынок", который стал более интересным.
Ну так пусть AI и без судьи пишет, лишь бы подпись судьи стояла. Потому что судье за это может прилететь. Может, не сегодня, а через 20 лет. И пусть об этом знает. Думаю, на этом мы можем прийти к согласию -- как говорится, и вашим, и нашим.
Ну, понимаете, это такой anecdotal evidence, который всегда можно вытащить. Дескать, сосед пьёт и курит как паровоз, а ему уже 90 лет, а у другого сердце в 40 отказало. Всё бывает.
Пусть бумажка будет для "чтобы было", и пусть судья знает, что бумажка лежит. Сегодня ветер дует в одну сторону, завтра в другую. Пусть AI пишет, если судье самому лень. Главное -- это чья подпись под документом, а кто сочиняет -- для меня дело десятое.
Если вы говорите абстрактно о некоем AGI, который умеет не хуже человека всё это делать -- ну да, разницы никакой. А если конкретно о нынешних моделях -- думаю, это не того уровня технология, чтобы "обобщать мораль".
У судьи есть довольно большое пространство для манёвра при назначении конкретного наказания, например. То есть, допустим, виновен, наказание от сих до сих, но внутри уже на усмотрение человека. И это же тоже часть системы закона, фича, а не баг.
Тут нет защиты людей, тут неавтоматизируемая часть системы.
Разумеется, к этому, я думаю, и придём. Сейчас судья тоже может, условно, в чатике спросить, что делать. Неважно, пользуется он гуглом, википедией или LLM -- поставил фамилию и подпись, значит, это уже твоя ответственность.
Да, и дело пойдёт на второй круг. И там, как я понимаю, могут не просто не согласиться, но и дать дисциплинарную оценку предыдущему судье.
Ну да, это называется "мотивировочная часть", разве нет?
Впрочем, не суть. Мне кажется, весь этот разговор примерно того же уровня, что и "программист вместо себя использует chat-gpt / нанимает индусов". Применительно к программистам средневзвешенное мнение -- пусть нанимает кого хочет и использует что хочет, если качество не страдает, и он за свой код отвечает.
Вряд ли кто-то (не я точно) будет запрещать судье пользоваться любым современным инструментом повышения продуктивности.
Если вероятность привлечь судью больше нуля, это уже выше, чем у AI, не так ли?
Смотрите, тут вот какая история. У нас есть задача, которую точно решить невозможно (гарантированно доказать, обвиняемый виновен или нет), значит, нашей целью является ступенька ниже: провести процесс по всем правилам, и что он покажет, то покажет.
Если соблюдены все процедуры, рассмотрены все доводы, факты и т.п., мы знаем, что больше ничего сделать нельзя. Если же есть пространство для оспаривания, то можно биться дальше.
Предположим, AI говорит, что вот с вероятностью 99% этот товарищ виновен. Хорошо, что дальше? А дальше просто все эти дела автоматически пойдут на апелляцию, где обвиняемый будет говорить, что то или это не учли.
Тут в каждом втором тексте про Chat-GPT пишут, как легко его можно попытаться в чём-либо переубедить. Ну вот и будет ровно то же, что и сейчас -- прокурор будет убеждать в своём, адвокат в своём. А стоит ввести "чёрный ящик" на любом этапе -- ну так обвиняемый будет его оспаривать, потому что кто смирится с тем, что его считают виновным просто из-за какой-то численной корреляции внутри нейросети.
Дело не в том, что ИИ "не способен" что-то там учитывать, а в том, что ему всё равно. Он поступает вероятностно, и для него "правильно" -- это то же самое, что близко к выборке. Наша мораль устроена сложнее, чем alignment, что показывают всякие задачи о вагонетках, в которых самые минимальные изменения условий приводят к довольно большим разбросам в моральной оценке происходящего. И даже если случай похож на 100500 других (объективно), мы субъективно можем решить, что он всё-таки не таков.
Гугл именно что ярчайший пример этой гадости, которую мы (общество) пока терпим ровно потому что это частная контора со своим уставом, и она ведёт бизнес как хочет, а кому не нравится, может с ними не работать. Но если так же будет поступать государство, это уже совсем другая ситуация.
Пусть AI проверяет документы, выносит предварительные оценки и так далее, кто ж против. Если это хороший инструмент, пусть судья пользуется. Главное -- чтобы на итоговом документе была подпись человека, и он бы за эту подпись отвечал, а уж какой инструмент ему помогал -- его дело, не проблема.
Эту тему уже миллион раз обсасывали. Разница не в качестве, а в ответственности. Примерно такая же, как между "участием" с дивана в игре "Кто хочет стать миллионером" и реальным риском в студии на деньги.
Судья, политик, бизнесмен или менеджер проекта может быть хуже AI. Но у него есть представление о профессиональной этике, совесть, в конце концов, возможные репутационные и карьерные последствия.
ИИ-агенту ничего из перечисленного не грозит. Даже его авторам не грозит, потому что те из них, кто вменяемый, всегда скажет, что решение, предложенное ИИ, должно критически осмысляться, и уже потом применяться.
Мир, в котором правит ИИ -- это вот как условный Гугл, где вас может забанить алгоритм, за то, что какая-то "метрика жулика" показала 0.754 при пороге 0.753, и писать будете на деревню дедушке. При этом, возможно, ИИ будет чаще прав, чем модератор-человек, но жить в мире, где нет ответственных, удовольствие спорное.
Штука в том, что алгоритм = машина Тьюринга. Если вы под словом "алгоритм" (aka вычислительный алгоритм) понимаете что-то другое, то с чего бы? Это уже как раз ваш разговор с собой получается, потому что у Дейкстры ровно так.
ОК, хорошо. Штука в том, что фраза "все наверно помнят, что любой алгоритм можно представить в виде трех видов алгоритмических конструкций, следование, ветвление и повторения?", с которой вы полемизируете, совершенно справедлива. Вы пишете, что в эту концепцию не вписываются исключения, и что с того? Исключения не являются частью этой дискуссии.
В общем, читая такого сорта статьи, вы практически всегда вместо термина "алгоритм" можете подставлять "машина Тьюринга". Это и есть "важные детали и контекст работ", о которых вы говорите.
Ваше желание далее делить алгоритмы на "структурные" и "не структурные", на мой взгляд, только добавляют тумана. (Вычислительные) алгоритмы и есть алгоритмы, а "средства языка" это отдельный разговор. Если же вы хотите сказать, что с помощью трёх упомянутых блоков нельзя реализовать исключения или параллельные вычисления -- ну да, соглашусь, но надо быть совсем уж не в теме, чтобы приплетать статью Дейкстры к этим задачам.
В реальном мире приходится заниматься много чем и помимо программирования. Изначальный контекст вашей заметки в том, что, дескать, Дейкстра (а точнее, Бём/Якопини) воспринимаются "как-то не так", потому что игнорируют реальность, в которой есть параллельный код, стирка белья и окучивание грядок. Это довольно странное замечание, потому что вся дискуссия Дейкстры и прочих идёт в рамках пространства теории вычислений, где понятие алгоритма (как машины Тьюринга) подразумевается и не вызывает разночтений.
Что касается недетерминированной машины Тьюринга, она эмулируется на детерминированной (за O(2^N)), поэтому в данном контексте её особенности неважны.
Машина Тьюринга тривиально реализуется без goto. Что-то в этом роде:
"Правила перехода" -- это функция машины, а не эмулятора, который эту машину рализует.
Обработка прерываний и параллельное выполнение не являются алгоритмическими задачами. К таковым относится получение выходных данных на основе входных, и больше ничего. Не всякая задача алгоритмическая, но мы по идее их и не обсуждаем здесь.
Не совсем понял комментария - вы можете привести пример алгоритма, который не реализуется на машине Тьюринга?
Мне всегда казалось, что в "школьном" контексте фраза о том, что достаточно трёх видов конструкций приводится чтобы доказать, что без goto в принципе можно обойтись. Иными словами, исключая goto из арсенала, вы формально ничего не теряете. Опять же, формально тут всё справедливо: любое эффективное вычисление можно представить в виде машины Тьюринга, которая, очевидно, может быть реализована без goto. При этом, разумеется, можно придумать основанный на хитрых goto переходах алгоритм, который будет практически довольно сложно преобразовать в эквивалент без них.
У несчастью, мне регулярно приходится сталкиваться с кодом, который непонятно как работает, и это не вина пишущего. Такое бывает, например, если имеете дело с ворохом 3rd party зависимостей, причём требуется какая-то конкретная комбинация из версий, и везде свои баги. Эмпирически вы знаете, что такая последовательность вызовов работает, а другая - нет, причём из документации не следует ничего. Получается, что даже автор ничего вменяемого в комментариях написать не может, кроме "не трогай, должно быть так".
Ну это очень гипотетически. Вы же находитесь в операционной системе. Да, пользователь дольше просидит в этом окне, но меньше просидит в том, куда он хочет попасть. В чём выгода? Я сижу в окне "настройки" и хочу назад, рекламу смотреть. Эппл хочет, чтобы я и дальше в настройках сидел?
Ну это общие слова, а как конкретно связано расположение кнопки cancel вверху экрана с удержанием - не вижу совершенно.
Ну вы же понимаете, что цитирование художественной литературы не является доказательством. Не говоря уже о том, что любое утверждение о "неизбежности" по определению нефальсифицируемо, и значит, находится в области мнений, за рамками науки. Если вы (или какой-нибудь конкретный историк) так считает -- да ради бога, ваше право; я лишь призываю чётко отделять мнение от знания.
Как человек западной культуры я исхожу из некоего принципа свободы воли индивидуума. Даже если это спорно с точки зрения физического детерминизма, скажем, судебная система исходит ровно из этой презумпции: если человек ставит подпись на документе, он персонально ответственен за эту подпись, и никакие "вынужден был" тут не катят. Безусловно, я не отрицаю объективные тенденции, и что разные варианты развития событий разно вероятны, но всё равно последнее слово за человеком, и в этом отношении то, что ряд ключевых участников тех событий окончили свои дни далеко не так, как планировали -- справедливо, потому что никто их не вынуждал поступать так, как они поступили.
Ну к вам вопросов никаких, вы занимаетесь чем можете в тех реалиях, которые есть. Но если я правильно понял, то ситуация проходит по категории "не очень интересный рынок", который стал более интересным.