проблема всех требований Юдковского - их неосуществимость
как именно ты запретишь всем вокруг тренировать свои LLMки?
если ввести строгие санкции - то все просто будут тренировать их тайно, будут скупать видеокарты типа для игр
если запретить все видеокарты - у нас будет катастрофа из-за митингов игроманов, и у нас загнутся все те, кому нужно рассчитывать здания, строить модельки, клепать видео, моделировать детали и механизмы
именно в неосуществимости главная проблема плана Юдковского
потому, так как этот план неработоспособен, нужно использовать другой - тренировать нейросетки, изучать их, находить способы проверять, когда нейронки лгут или когда они галлюцинируют, строить виртуальные миры, где можно проверять насколько нейронки выровнены к нашим ценностям, разрабатывать новые нейронки для правильного обучения других нейронок
все это сложно, у тут есть риски, что все пойдет не по плану, но этот план по крайней мере выполним, он проверяем, он валидируем
вариант Юдковского - это всю оставшуюся вечность провести в страхе на пороховой бочке. Даже если каким то чудом сейчас все запретят тренировать нейронки, допустим. Но сколько продлится этот запрет? Сможет ли кто-то тихонько создать ИИ через 100, 200, 500 лет?
И что делать в таком случае? У нас по прежнему не будет решения как выровнять ИИ, но ИИ тогда будет уже на много порядков мощнее - наука не стоит на месте, компы мощнее с каждым годом
То есть вариант Юдковского - это не решение, это игнорирование проблемы, чтобы она досталась кому-то другому когда-то потом
Я слушал Юдковского, я ознакомился со всеми его идеями о экспоненциальном росте, я прочитал его книгу "от ИИ до зомби", я понимаю его опасения про AI alignment..
Но то что он говорит просто так не работает.
Нельзя сказать про опасность ИИ и надеяться, что все правительства резко остановят любой прогресс в ИИ - тогда, когда все увидели, насколько это выгодно. Максимальный результат, которого можно ожидать - некоторые правительства поддержат, например Америка, некоторые, типа россии, принципиально сделают наоборот, некоторые будут тихонько тренировать в подвале ИИ для разработки вируса против евреев. Китай вообще всех проигнорирует.
Потому лучший из имеющихся вариантов - бежать вперед настолько быстро, насколько возможно, и надеяться, что те, кто понимают опасность ИИ, первыми смогут создать AGI и с помощью него сумеют выровнять все остальные ИИ к общечеловеческим ценностям
очень прикольно, что варианта "платить нормальные деньги" и "не трахать мозги идиотскими совещаниями, убогой геймификацией и тупыми KPI" даже не рассматривается этими эффективными менеджерами.
действительно, проще ведь нанять ещё 10 весёлых и задорных HR, менеджеров побольше, и главное не забывать втирать про цель, команду и то, насколько сотрудник обязан
вовсе не обязательно понимать как работает мозг, для того чтобы создать AGI
так же не обязательно понимать как летают птицы, что бы лететь самому
более того, очень часто те решения к которым пришла природа являются неоптимальными или неприменимыми в общем случае
к примеру - колесо, никакое существо не ездит на колесах, насколько мне известно, при этом перемещение на колесах гораздо эффективнее, чем на ногах
или крылья самолета - то же вроде бы не имеют аналогов в природе
попытки создать AGI просто повторяя как работает наш мозг могут оказаться настолько же неэффективны, как попытки научится летать, повторяя механизм полета жука (спойлер: они используют свойство вязкости воздуха)
они починили несколько багов, которые обнаружили при прошлом запуске, но столкнулись с несколькими новыми - главный корабль скорее всего пострадал при разделении (из-за чего потом взорвался), а бустер не смог выровняться чтобы сесть
будет ли следующий тестовый запуск полностью удачным - неизвестно
С точки зрения большинства пользователей это очень плохо, просто не все понимают, почему
Приложение разрастается, оно становится большим и сложным. Так как оно большое, то: Во-первых, юзеру сложнее ориентироваться в нем, находить нужные вещи.
Во-вторых, приложение больше жрёт - оно медленнее запускается, оно потребляет много ресурсов - процессора, памяти, батареи, интернета, приложение выжирает всю память
Пользователи из-за этого вынуждены менять телефоны раз в 2-4 года - потому что старые просто не тянут
В третьих, разумеется это не проходит даром для пользователя - если критерием экономической успешности программы является внимание пользователя, то пользователи тратят больше времени на ерунду, вместо того, чтобы заниматься чем то полезным или хотя бы приятным
Кто в выиграше от всего этого? Крупные компании, производители смартфонов и софта, дата-сатанисты
извините, мы ошиблись, мы готовы вам это компенсировать таким, таким или таким способом, или вы можете предложить свой вариант
тогда это нормальная коммуникация между поставщиком и потребителем
а то что делают они - это обман и мошенничество
попробуйте представить себе ситуацию, когда вы арендуете квартиру у владельца, при том находите достаточно дешевый и удобный вариант
договариваетесь на 5 лет, заключаете договор, все довольны
а потом, через 2 года, рядом построили метро, и вся жилплощадь резко подорожала, и вам владелец такой говорит - извините, мне невыгодно предоставлять услугу аренды по прошлому договору, потому я в одностороннем порядке подниму стоимость аренды в 2 раза
очень часто менеджер может понимать, что нужно сделать, чтобы продукт взлетел, но сам он это сделать не может
и даже не знает в чем лежит проблема, и какой можно придумать план решения
а еще чаще менеджер вообще не видит проблемы, потому что его образования не хватает увидеть, что может быть лучше
например - сайт должен загружаться быстро, максимум за 0.2 с
или было бы прекрасно, если бы смартфон имел экономный режим, в котором мог бы работать пару недель; для этого уже сейчас есть все необходимые компоненты - супер энергоэффективные чипы, большие аккумуляторы, амолед экраны (для того, чтобы рисовать не весь экран 1440*3088, а только пару тысяч пикселей, чтобы нарисовать текст) и электронные чернила
то же самое касается умных часов - какая религия запрещает им работать хотя бы месяц?
или, было бы очень хорошо, если бы появилась система типа windows copilot, но доработанная - говоришь ей запустить проект А, и она находит все IDE у тебя на пк, находит среди проектов нужный и запускает среду
или по команде бл*** отменяет 3 последних действия
но менеджер никогда не сможет дать какой-то внятный план, кроме декларативного описания: "хочу, чтобы было так", потому это исключительно задача программистов понять, как этого можно добиться
ведь способов достижения множество, но каждый из них имеет преимущества и недостатки
определить лучший способ с учетом всех следствий этого способа - тоже задача программиста
из-за того же, что менеджеры не способны понять долговременные последствия своих решений, мы столь часто пользуемся столь ужасными продуктами - глючными, медленными, переусложненными, неудобными, выжирающими всю память и цпу
у меня смартфон 20 летней имеет приблизительно те же возможности, что и текущий (браузер правда работает получше), он работает примерно то же время от батареи, он приблизительно столько же заряжается, только камера хуже (сильно хуже)
при этом у старого смартфона в 15-20 раз слабее процессор, у него в 2000 раз меньше оперативной памяти, у него в 7 раз слабее аккум!
как показывает практика, любого человека можно обучить на менеджера, но только некоторые могут стать программистами
потому задача программистов как раз более творческая, но и более сложная
я правильно понимаю, что в ваших терминах, если директор приказывет подчиненному: "создай новый классный продукт, потому что другие что-то показывают слабую доходность", и подчиненный создает новый продукт, то создатель продукта - директор?
а его подчиненный, так, просто маленький винтик, который выполнил задачу?
Абсолютное большинство всех договоров являются калькой друг друга, те же выражения, обязательства и требования
В информатике давно уже найдено решение для таких проблем - инкапсуляция
Достаточно выделить самые частые договора из практики, собрать из них документ, например stdagreement, и вместо большого сложного договора на 20 страниц писать что-то наподобие:
Используем стандартный договор "Купли-Продажи" из stdagreement, где Покупатель - Вася Пупкин, а продавец - какая_то_компания
Дополнительно, для стандартных договоров можно добавить простое объяснение на неюридическом. Можно пойти дальше, и ввести версионирование stdagreement, главное чтобы публичный контракт оставлся прежним, и документ имел обратную совместимость. Документ stdagreement должен быть выложен на сайте, чтобы любой имел право его читать и использовать
Для юристов, правда, это изменение может оказаться к худшему - если достаточно просто написать пару строчек и использовать стандартный договор, то зачем юристы тогда нужны?
ты не понял мою идею
проблема всех требований Юдковского - их неосуществимость
как именно ты запретишь всем вокруг тренировать свои LLMки?
если ввести строгие санкции - то все просто будут тренировать их тайно, будут скупать видеокарты типа для игр
если запретить все видеокарты - у нас будет катастрофа из-за митингов игроманов, и у нас загнутся все те, кому нужно рассчитывать здания, строить модельки, клепать видео, моделировать детали и механизмы
именно в неосуществимости главная проблема плана Юдковского
потому, так как этот план неработоспособен, нужно использовать другой - тренировать нейросетки, изучать их, находить способы проверять, когда нейронки лгут или когда они галлюцинируют, строить виртуальные миры, где можно проверять насколько нейронки выровнены к нашим ценностям, разрабатывать новые нейронки для правильного обучения других нейронок
все это сложно, у тут есть риски, что все пойдет не по плану, но этот план по крайней мере выполним, он проверяем, он валидируем
вариант Юдковского - это всю оставшуюся вечность провести в страхе на пороховой бочке. Даже если каким то чудом сейчас все запретят тренировать нейронки, допустим. Но сколько продлится этот запрет? Сможет ли кто-то тихонько создать ИИ через 100, 200, 500 лет?
И что делать в таком случае? У нас по прежнему не будет решения как выровнять ИИ, но ИИ тогда будет уже на много порядков мощнее - наука не стоит на месте, компы мощнее с каждым годом
То есть вариант Юдковского - это не решение, это игнорирование проблемы, чтобы она досталась кому-то другому когда-то потом
Я слушал Юдковского, я ознакомился со всеми его идеями о экспоненциальном росте, я прочитал его книгу "от ИИ до зомби", я понимаю его опасения про AI alignment..
Но то что он говорит просто так не работает.
Нельзя сказать про опасность ИИ и надеяться, что все правительства резко остановят любой прогресс в ИИ - тогда, когда все увидели, насколько это выгодно. Максимальный результат, которого можно ожидать - некоторые правительства поддержат, например Америка, некоторые, типа россии, принципиально сделают наоборот, некоторые будут тихонько тренировать в подвале ИИ для разработки вируса против евреев. Китай вообще всех проигнорирует.
Потому лучший из имеющихся вариантов - бежать вперед настолько быстро, насколько возможно, и надеяться, что те, кто понимают опасность ИИ, первыми смогут создать AGI и с помощью него сумеют выровнять все остальные ИИ к общечеловеческим ценностям
я имел опыт так передавать)
неудобно, потому что тогда не было контроля передачи файла, то есть если что-то сбилось - передавай сначала
телефоні должны біли лежать рядом пару минут, и чтобы их никто не трогал
а так - все прекрасно
если про скорость не врут, то просто подносишь телефоны друг к другу - и файл уже там, имхо замечательно
поправьте меня, если я ошибаюсь
в статье автор говорит, что разные разработчики с разной скоростью решают задачи?
и при этом они имеют специализацию в каких-то определенных областях?
мне кажется, ето совершенно очевидно
большой вопрос насчет репрезентативности исследования, есть у меня ощущения, что особо крутые программисты в выборку не попали
очень прикольно, что варианта "платить нормальные деньги" и "не трахать мозги идиотскими совещаниями, убогой геймификацией и тупыми KPI" даже не рассматривается этими эффективными менеджерами.
действительно, проще ведь нанять ещё 10 весёлых и задорных HR, менеджеров побольше, и главное не забывать втирать про цель, команду и то, насколько сотрудник обязан
можете поделится источником?
вовсе не обязательно понимать как работает мозг, для того чтобы создать AGI
так же не обязательно понимать как летают птицы, что бы лететь самому
более того, очень часто те решения к которым пришла природа являются неоптимальными или неприменимыми в общем случае
к примеру - колесо, никакое существо не ездит на колесах, насколько мне известно, при этом перемещение на колесах гораздо эффективнее, чем на ногах
или крылья самолета - то же вроде бы не имеют аналогов в природе
попытки создать AGI просто повторяя как работает наш мозг могут оказаться настолько же неэффективны, как попытки научится летать, повторяя механизм полета жука (спойлер: они используют свойство вязкости воздуха)
запуск был полезным, но не успешным
они починили несколько багов, которые обнаружили при прошлом запуске, но столкнулись с несколькими новыми - главный корабль скорее всего пострадал при разделении (из-за чего потом взорвался), а бустер не смог выровняться чтобы сесть
будет ли следующий тестовый запуск полностью удачным - неизвестно
С точки зрения большинства пользователей это очень плохо, просто не все понимают, почему
Приложение разрастается, оно становится большим и сложным. Так как оно большое, то: Во-первых, юзеру сложнее ориентироваться в нем, находить нужные вещи.
Во-вторых, приложение больше жрёт - оно медленнее запускается, оно потребляет много ресурсов - процессора, памяти, батареи, интернета, приложение выжирает всю память
Пользователи из-за этого вынуждены менять телефоны раз в 2-4 года - потому что старые просто не тянут
В третьих, разумеется это не проходит даром для пользователя - если критерием экономической успешности программы является внимание пользователя, то пользователи тратят больше времени на ерунду, вместо того, чтобы заниматься чем то полезным или хотя бы приятным
Кто в выиграше от всего этого? Крупные компании, производители смартфонов и софта, дата-сатанисты
А платят за это все конечные пользователи
Очень интересно, как вы сможете избавиться от дублирования кода в микросервисах?
можно иметь несколько вариантов договора купли-продажи, и применять самый подходящий, и потом добавлять пару абзацев изменений
тогда они должны прийти и сказать:
извините, мы ошиблись, мы готовы вам это компенсировать таким, таким или таким способом, или вы можете предложить свой вариант
тогда это нормальная коммуникация между поставщиком и потребителем
а то что делают они - это обман и мошенничество
попробуйте представить себе ситуацию, когда вы арендуете квартиру у владельца, при том находите достаточно дешевый и удобный вариант
договариваетесь на 5 лет, заключаете договор, все довольны
а потом, через 2 года, рядом построили метро, и вся жилплощадь резко подорожала, и вам владелец такой говорит - извините, мне невыгодно предоставлять услугу аренды по прошлому договору, потому я в одностороннем порядке подниму стоимость аренды в 2 раза
это тот же самый пример
очень часто менеджер может понимать, что нужно сделать, чтобы продукт взлетел, но сам он это сделать не может
и даже не знает в чем лежит проблема, и какой можно придумать план решения
а еще чаще менеджер вообще не видит проблемы, потому что его образования не хватает увидеть, что может быть лучше
например - сайт должен загружаться быстро, максимум за 0.2 с
или было бы прекрасно, если бы смартфон имел экономный режим, в котором мог бы работать пару недель; для этого уже сейчас есть все необходимые компоненты - супер энергоэффективные чипы, большие аккумуляторы, амолед экраны (для того, чтобы рисовать не весь экран 1440*3088, а только пару тысяч пикселей, чтобы нарисовать текст) и электронные чернила
то же самое касается умных часов - какая религия запрещает им работать хотя бы месяц?
или, было бы очень хорошо, если бы появилась система типа windows copilot, но доработанная - говоришь ей запустить проект А, и она находит все IDE у тебя на пк, находит среди проектов нужный и запускает среду
или по команде бл*** отменяет 3 последних действия
но менеджер никогда не сможет дать какой-то внятный план, кроме декларативного описания: "хочу, чтобы было так", потому это исключительно задача программистов понять, как этого можно добиться
ведь способов достижения множество, но каждый из них имеет преимущества и недостатки
определить лучший способ с учетом всех следствий этого способа - тоже задача программиста
из-за того же, что менеджеры не способны понять долговременные последствия своих решений, мы столь часто пользуемся столь ужасными продуктами - глючными, медленными, переусложненными, неудобными, выжирающими всю память и цпу
у меня смартфон 20 летней имеет приблизительно те же возможности, что и текущий (браузер правда работает получше), он работает примерно то же время от батареи, он приблизительно столько же заряжается, только камера хуже (сильно хуже)
при этом у старого смартфона в 15-20 раз слабее процессор, у него в 2000 раз меньше оперативной памяти, у него в 7 раз слабее аккум!
как показывает практика, любого человека можно обучить на менеджера, но только некоторые могут стать программистами
потому задача программистов как раз более творческая, но и более сложная
я правильно понимаю, что в ваших терминах, если директор приказывет подчиненному: "создай новый классный продукт, потому что другие что-то показывают слабую доходность", и подчиненный создает новый продукт, то создатель продукта - директор?
а его подчиненный, так, просто маленький винтик, который выполнил задачу?
Да ладно, неужели??
Похоже, статью написал ГПТ4
Я предлагаю пойти дальше
Абсолютное большинство всех договоров являются калькой друг друга, те же выражения, обязательства и требования
В информатике давно уже найдено решение для таких проблем - инкапсуляция
Достаточно выделить самые частые договора из практики, собрать из них документ, например stdagreement, и вместо большого сложного договора на 20 страниц писать что-то наподобие:
Используем стандартный договор "Купли-Продажи" из stdagreement, где Покупатель - Вася Пупкин, а продавец - какая_то_компания
Дополнительно, для стандартных договоров можно добавить простое объяснение на неюридическом. Можно пойти дальше, и ввести версионирование stdagreement, главное чтобы публичный контракт оставлся прежним, и документ имел обратную совместимость. Документ stdagreement должен быть выложен на сайте, чтобы любой имел право его читать и использовать
Для юристов, правда, это изменение может оказаться к худшему - если достаточно просто написать пару строчек и использовать стандартный договор, то зачем юристы тогда нужны?
Негоже барину извинятся и гнуть спину перед сиволапыми смердами
Не поймут-с
Не надо путать теплое с мягким
Если они продают мне услугу доступа к интернету, то это уже далее совсем мои проблемы, как его использовать, и с каким количеством устройств
Если им не нравится, как я использую купленный интернет - это их собственные проблемы
Где здесь вообще честность?
Что в слове "безлимит" вообще не понятно?
Если они обещают безлимит, ты заплатил за безлимит, а получил 100гб - то это обман
Это в любом случае как минимум преступная халатность
А на самом деле, любой ОПСОС может легко навсегда закрыть такого рода мошенничества, если бы было желание
Просто они не хотят - ведь халявные бабки