Да даже для брутфорса нужно понимание, чего ты делаешь. На Хабре уже полно примеров, что просто "сделай хорошо" не помогает.
А где понимающим свое дело взяться без образования в достаточном количестве? Какое-то количество занимают гении-самоучки условно от природы. А где остальной толпе взяться?
К тому же, образование ведь не только учит, но и служит средством направления людей в разные сферы. Нужно много ии-спецов - делаем много программ по ии. Как так руководить без классического образования?
Чтобы производить налеты на военные склады охраняемые армией и тем более роботам нужно сначала иметь вооружение, а чтобы его иметь надо производить налеты. Классическая проблема курицы и яйца.
Люди, занимавшиеся контрабандой с военных складов, и просто вояки не пропадут же моментально. Прямо сейчас в мире достаточно много на черном рынке крутится значимого воображения. Правда, тут надо успеть его получить раньше наряда робоспецназа.
Это еще не говоря о том что кроме собственно роботов ИИ даст средства слежки и контроля совершенно нового уровня - ну банально анализируемый ИИ в реальном времени видеопоток с расставленных везде камер, в Китае уже что-то подобное реализуют. Про анализ всех разговоров и коммуникаций я и не говорю.
Хороший аргумент. Однако, все же, если человек ушел подальше из городской среды, то камерами особо не последишь. Однако это и правда почти гарантирует, что внутри городов не будет происходить ничего опасного для элиты.
Во-первых это мы сейчас говорим про текущую ситуацию пока пусть и вымирающее, но население все еще нужно. А не превратилось в большую толпу безработных.
Наверное, лучше толпа безработных на базовом доходе, чем толпа ломателей роботов.
Во-вторых в богатых странах может быть, а в бедных возможны и иные варианты и рождаемость там падает намного медленнее.
Как минимум потому что просто ПО само по себе закладывает сценарии, что будет происходить. Даже если мультитул, то оно имеет после компиляции вполне конкретный набор случаев потенциального использования. Условно программа А не умеет ничего дальше внедрения в чужую сеть, а уже программа Б умеет делать что-либо дальше. А использование этого уже координирует человек. Потенциально, ИИ может же именно человеческую роль забрать. Это разные уровни использования.
Правда, я не очень верю, что конкретно Mythos так сможет, учитывая его пиар как ультра-мега-супер убийцу безопасности, но такое один фиг когда-либо произойдет.
Я в целом согласен, но ведь плохой программист благодаря нейросетей быстро разобраться, что вообще в вашем ассемблере происходит, таким образом прокачаясь до хорошего программиста в этой шкале. Так делать станут далеко не все, но такой путь становится гораздо проще (чем просто в интернете происходящее гуглить).
Про подчинение армии и полиции, в целом, правда (хотя, если там окажется ИИ не просто с командой "убивай всех", то он может просто переобуться и сменить сторону).
А вот повстанцам, в общем-то и не нужно их самостоятельно производить. Всегда можно налеты на склады проводить, брать в плен и перепрошивать (правда, такое исправляется банальным самоуничтожением). Ну и остальная техника до иишной эпохи никуда не девается - робот взрывается от дрона ровно также как и танк, вопрос только в эффективности, а это уже сейчас не предугадаешь никак.
В любом случае, будто бы элите проще не устраивать такой геноцид, а просто дать населению самостоятельно закончиться одним из миллионов способов.
Ну и я сказал, что при автоматизации армии и полиции вполне появятся и робоповстанцы. Они будут хуже, но бегать и взрывать при должном количестве и поддержке человеков смогут.
Ну а подачками нужна ведь ровно такая, чтобы не было мотивации брать в руки оружие.
Не гарантированно, но не очень понятно, как тогда владельцам миллиардов долларов и тысячей роботов отбиться от миллиардов выкинутых людей, которые будут автоматизированы примерно в одно время (особенно если в процессе какие-то из роботов уйдут в пользу этих миллиардов). Скорее дадут какую-то минимальную подачку и 100500 поводов не размножаться.
Производство вундервафель само по себе не мешает производству всего остального. США и Китай в пример. Проблема появляется тогда, когда кроме вундервафель ничего не умеют и не хотят учиться. Или разучиваются, чтобы делать вундервафли
Большинство явно так не рассуждают, а просто из соображений простоты или чего-либо ещё выбрали привычный им инструмент и живут с ним.
Естественно, кто подготовился заранее и или заранее готов менять инструмент, или готов использовать локальные решения/открыть IDE и начать писать в случае каких-либо проблем со стороны провайдера будут в выигрыше.
Все жду не дождусь, как будут выкручиваться вайб-кодеры, если внезапно умрет *имя любимой нейросети* . Это будет весело посмотреть, как все или пойдут покупать железо для локальных нейросетей, или вовсе вспомнить про fallback способ покодить самому.
Если проект не важен, то, разумеется, все мои аналогии идут в мусорку. Если проекту не суждено выйти с одного компьютера и делать что-либо супер значащее, то смысла смотреть нет.
прочие методы в помощь, в этом плане у нас очень много готовых механизмов проверки и верификации результат чем у домовладельца с сантехником
Домовладелец также может позвать другого сантехника для верификации.
Ну таких обьемах работы как сейчас это не реально, то есть либо ты вникаешь во всем и работаешь в 10 раз медленее, либо уже особо не вникаешь и используешь приемы
Все же я не говорю про чтение каждого класса и функции/метода для понимания, я говорю про общее устройство, фундамент всей системы, без которого никуда. И, по-моему, если люди туда не вникают, то у них огромные проблемы.
Лично для себя я придумал аналогию с сантехником, чинящим кран (или что угодно ещё). Если хозяин дома с этим краном ничего не понимает в этом или не имеет понимающего знакомого, то результат может быть любым. Может просто ошибиться по своей глупости или глупости входных требований от заказчика, а может специально злостно это сделать. В наше время ещё есть вариант, что сантехник бросает работу, как только видит у тебя неправильный паспорт.
Поэтому заказчику этого сантехника (а в этой аналогии сантехник — это ИИ) стоило бы разбираться в происходящем (как минимум до того, когда сантехники станут абсолютно безошибочны). Необязательно контролировать положение каждой части, их параметры и т. д., но необходимо знать, какие есть общие ограничения данной системы, каково общее устройство и подобные принципиальные вещи.
Подобное соображение верно и для роботов - всегда может засбоить какой-то код, а чтобы понять, какой именно, контекста не хватит, из-за чего придется делать "вакцину" всем миром. Вероятность проблем с этим безусловно ниже у роботов, тем не менее и они не идеальны, да и ИИ не является демоном Лапласа.
Да даже для брутфорса нужно понимание, чего ты делаешь. На Хабре уже полно примеров, что просто "сделай хорошо" не помогает.
А где понимающим свое дело взяться без образования в достаточном количестве? Какое-то количество занимают гении-самоучки условно от природы. А где остальной толпе взяться?
К тому же, образование ведь не только учит, но и служит средством направления людей в разные сферы. Нужно много ии-спецов - делаем много программ по ии. Как так руководить без классического образования?
Картинки хорошо распознает — фото людей она описывала хорошо (правда ошибается с тем, кто это именно, но это другая история).
Люди, занимавшиеся контрабандой с военных складов, и просто вояки не пропадут же моментально. Прямо сейчас в мире достаточно много на черном рынке крутится значимого воображения. Правда, тут надо успеть его получить раньше наряда робоспецназа.
Хороший аргумент. Однако, все же, если человек ушел подальше из городской среды, то камерами особо не последишь. Однако это и правда почти гарантирует, что внутри городов не будет происходить ничего опасного для элиты.
Наверное, лучше толпа безработных на базовом доходе, чем толпа ломателей роботов.
Хорошее возражение
Так его всегда в двойном назначении можно применять. Старлинк так и работает
Автомат может выполнять функции копья, если приделать штык.
Как минимум потому что просто ПО само по себе закладывает сценарии, что будет происходить. Даже если мультитул, то оно имеет после компиляции вполне конкретный набор случаев потенциального использования. Условно программа А не умеет ничего дальше внедрения в чужую сеть, а уже программа Б умеет делать что-либо дальше. А использование этого уже координирует человек. Потенциально, ИИ может же именно человеческую роль забрать. Это разные уровни использования.
Правда, я не очень верю, что конкретно Mythos так сможет, учитывая его пиар как ультра-мега-супер убийцу безопасности, но такое один фиг когда-либо произойдет.
Ну ядерная бомба ограничивает глобальное противостояние самим фактом существования. А вот с нейросетями так не будет.
Я в целом согласен, но ведь плохой программист благодаря нейросетей быстро разобраться, что вообще в вашем ассемблере происходит, таким образом прокачаясь до хорошего программиста в этой шкале. Так делать станут далеко не все, но такой путь становится гораздо проще (чем просто в интернете происходящее гуглить).
Про подчинение армии и полиции, в целом, правда (хотя, если там окажется ИИ не просто с командой "убивай всех", то он может просто переобуться и сменить сторону).
А вот повстанцам, в общем-то и не нужно их самостоятельно производить. Всегда можно налеты на склады проводить, брать в плен и перепрошивать (правда, такое исправляется банальным самоуничтожением). Ну и остальная техника до иишной эпохи никуда не девается - робот взрывается от дрона ровно также как и танк, вопрос только в эффективности, а это уже сейчас не предугадаешь никак.
В любом случае, будто бы элите проще не устраивать такой геноцид, а просто дать населению самостоятельно закончиться одним из миллионов способов.
Ну и я сказал, что при автоматизации армии и полиции вполне появятся и робоповстанцы. Они будут хуже, но бегать и взрывать при должном количестве и поддержке человеков смогут.
Ну а подачками нужна ведь ровно такая, чтобы не было мотивации брать в руки оружие.
Не гарантированно, но не очень понятно, как тогда владельцам миллиардов долларов и тысячей роботов отбиться от миллиардов выкинутых людей, которые будут автоматизированы примерно в одно время (особенно если в процессе какие-то из роботов уйдут в пользу этих миллиардов). Скорее дадут какую-то минимальную подачку и 100500 поводов не размножаться.
Производство вундервафель само по себе не мешает производству всего остального. США и Китай в пример. Проблема появляется тогда, когда кроме вундервафель ничего не умеют и не хотят учиться. Или разучиваются, чтобы делать вундервафли
Большинство явно так не рассуждают, а просто из соображений простоты или чего-либо ещё выбрали привычный им инструмент и живут с ним.
Естественно, кто подготовился заранее и или заранее готов менять инструмент, или готов использовать локальные решения/открыть IDE и начать писать в случае каких-либо проблем со стороны провайдера будут в выигрыше.
Все жду не дождусь, как будут выкручиваться вайб-кодеры, если внезапно умрет *имя любимой нейросети* . Это будет весело посмотреть, как все или пойдут покупать железо для локальных нейросетей, или вовсе вспомнить про fallback способ покодить самому.
Если проект не важен, то, разумеется, все мои аналогии идут в мусорку. Если проекту не суждено выйти с одного компьютера и делать что-либо супер значащее, то смысла смотреть нет.
Домовладелец также может позвать другого сантехника для верификации.
Все же я не говорю про чтение каждого класса и функции/метода для понимания, я говорю про общее устройство, фундамент всей системы, без которого никуда. И, по-моему, если люди туда не вникают, то у них огромные проблемы.
Лично для себя я придумал аналогию с сантехником, чинящим кран (или что угодно ещё). Если хозяин дома с этим краном ничего не понимает в этом или не имеет понимающего знакомого, то результат может быть любым. Может просто ошибиться по своей глупости или глупости входных требований от заказчика, а может специально злостно это сделать. В наше время ещё есть вариант, что сантехник бросает работу, как только видит у тебя неправильный паспорт.
Поэтому заказчику этого сантехника (а в этой аналогии сантехник — это ИИ) стоило бы разбираться в происходящем (как минимум до того, когда сантехники станут абсолютно безошибочны). Необязательно контролировать положение каждой части, их параметры и т. д., но необходимо знать, какие есть общие ограничения данной системы, каково общее устройство и подобные принципиальные вещи.
То, что разработчик оказывается работать без ИИ, ещё не значит, что он без него ничего не сможет сделать.
Скупой платит дважды. Сэкономят на качестве сейчас - потом заплатят деньгами в судах или репутацией.
Подобное соображение верно и для роботов - всегда может засбоить какой-то код, а чтобы понять, какой именно, контекста не хватит, из-за чего придется делать "вакцину" всем миром. Вероятность проблем с этим безусловно ниже у роботов, тем не менее и они не идеальны, да и ИИ не является демоном Лапласа.