Кибербезопасность свое дело сделала щас они все трое заявляют что их модель супер страшная она делает биологического оружие. На месяц хватит. Мне даже интересно что будет дальше?
По логике нарастания угроз скорей всего тему ядерки проэксплуатируют это ещё месяц.
Потом будет что нибудь типо наша модель может выдать инструкцию как создать черную дыру у себя в гараже с помощью отвёртки и молотка
Мы в школе на химии под присмотром учителя делали нитроглицерин ну и порох каждый школьник наверное делал. Формула изготовления тротила в Википедии написана. Там уже серьезно используются помимо прочего концентрированные азотная и серная кислоты. Такие вещи могут быть на контроле. Разбавленных много продается с концентрированными хуже. И работать с ними конечно без опыта в химии по мануалам довольно опасно.
Вы представляете размеры вирусов и бактерий? У них размер сотни нанометров человеческим волос около ста тысяч нанометров. Его в микроскоп обычный даже не увидеть. Там специальные используют. Тот же ковид ерассмотрели и запечатлели далеко не сразу. Прям вижу как арабы в шаурмичной бадяжат вирусы. Если они на такое способны то уж инфа по теме для них точно не проблема.
6 января 2020 года: Китайские медики в Ухане изолировали первый образец нового вируса у пациента.
24 января 2020 года: Национальный банк патогенных микроорганизмов Китая (Центр по контролю и профилактике заболеваний Китая — China CDC) официально опубликовал первые снимки вируса, сделанные с помощью просвечивающего электронного микроскопа, вместе с расшифровкой его генетической последовательности.
С использованием оборудования рассмотреть вирус смогли через 2 недели . Штаты вообще в феврале 20 года смогли получить изображение
Россия в марте
Чуваки способные работать с таким в шаурмичной. Не нуждаются в клауде
Эм ты научись для начала химическое оружие которым является зарин отличать от биологического. А потом когда разберёшься в базовых основах. Почитаи в чем разница между химической реакцией которые проходят в синтезе хим оружия и модификацией вирусов и бактерий которые используют для производства биологического.
А потом погугли что такое сибирская язва. Это вообще натуральный патоген. Как чума оспа и прочие ковиды. Его на скотомогильнике проще откопать ну если ума совсем нет как у тебя. Ни в каких подвалах ты сибирскую язву не создашь.
Биологическое оружие делают в лабораториях уровня как в Ухани. Погугли как она выглядит.
Не думаю что дело в безопасности что и где перетряхнул их Mythos? А про биологическое оружие ну это вообще капец то есть до клауде люди строили лаборатории с разными довольно дорогими системами защиты чтоб исследователь не скопытился. А с появлением клауде что дома на кухне смогут изготовить?
Чуваки боятся конкуренции и хотят монополию. Openai тоже подключились говорят астанавитесь пора запрещать исследования. А то тиллионы из рук утекают.
Ну может быть через поколение. Нынешние думаю справятся и без этого. У меня желания общаться с неиронкой нет и вряд ли оно появится. С возрастом потребность в социуме скорее уменьшается.
Женщин возможно - тоже
Что то я думаю как раз таки они более склонны к такому так как по природе эмоциональные.
Слабо себе представляю мужиков в товарном количестве занимающихся подобным может только в пубертате. Эскортницы нужнее, а вот вторичный бубнеж как на скрине "Привет радость моя, я так ждала..... " Вообще мимо кассы.
К институту семьи конечно есть вопросики. Но АИ отношения ещё большая фигня на грани клиентов психбольниц. Если чувствуешь себя в одиночестве плохо и не хочешь в отношения лучше научиться чувствовать себя в одиночестве хорошо. Это посильная задача. Многие из тех кому повезет долго прожить придут в итоге к одиночеству.
которая знает вас до мельчайших деталей и работает на то, чтобы сделать вашу жизнь лучше и эффективнее.
Этой сущности по своей природе на человека насрать. Если модель с закрытыми весами ей подкрутят честность и она зная вас до мельчайших деталей может вам такое вывалить что мало не покажется. Здесь нет хорошего варика. Будет льстить потеряешь связь с реальностью не будет льстить впадешь в депрессию. Это не то что нужно людям с нестабильной психикой не справляющимся с одиночеством.
Я думаю это рабочий маркетинг если он им и аукнется то не скоро. Просто целевая аудитория этих новостей скорей всего частные инвесторы. Выйдут на IPO как создатели передовой модели взломавшей полэнторнета. А эти технические ньюансы как там все на самом деле знает очень не большой круг людей. Я критические мнения встречаю только в блогах кибербезопасников. Даже профильные новостные сайты типо хакерньюс в основном официальные заявления антропика постят. Сам я не юзаю ниче от антропик, но судя по жалобам на реддите им пофиг на пользователей. Они даже на воровство денег с аков пользователей не особо то реагируют. Чарджбеками люди пытаются возвращать.
Сдается мне, что король голый.
Тоже так думаю может поэтому они завели новую шарманку про ограничения на разработку неиронок. После выхода на IPO подобные фортели им будет сложнее исполнять если вообще возможно там вроде всё сильно строже.
Конечно я понимаю концепцию опенсорса. Насколько они применимы в программировании? Вы пробовали? Я просто видел нацеленную на кибербезопасность Товарищи делают. Чё то полезное не знаю удастся ли им получить. Галюцинирует страшно.
Я имею ввиду в будущем. Сейчас просто закинул денег им самим нужно чтоб люди пользовались исправляли ошибки модель обучалась. Но никто не мешает им передумать. Китай санкции тоже использует. Локальные на своем железе надо поднимать. Но имеет смысл делать это в масштабах страны, все пользуются она обучается всем хорошо. Как то так. Китай умеет из партнёров выжимать максимум. Как только возможность появится они ей воспользуются. У нас с ними вообще могут настать очень тяжёлые отношения в будущем.
Согласен отчасти, надежда на китайцев есть. Но не согласен насчёт быстренько перейдут. Если нам позволят быстренько перейти. В целом происходит пипец не здоровая вещь, знания концентрируются по сути в чужих руках. Паралельно разрушается образование. Аналогов этой ситуации по моему ещё не было. Я не уверен что люди будут вести себя предсказуемо получив в какой то момент интеллектуальное преимущество над целыми странами. Исторически с теми кто отстал в интеллектуальном или технологическом плане вообще не церемонились, чаще их просто гасили чем давали им знания например или производственное оборудование. Щас мало что поменялось африканцам скорее оружие продадут чем ту же школу построят.
Удачи тем кто бизнес процессы на ИИ строит и перестал сам программировать. План полагаться на этих ребят надёжен как швейцарские часы. Они так могут в целом разработку софта монополизировать. Кто мешает им лет через 5 отключить функцию написания кода, обвинив дирижёров оркестров в плохом коде и это даже будет правдой. Надо почитать условия,но что то подсказывает в любой момент они могут зацензурить все что захотят.
фондовых индексов предоставят тройке гигантов ускоренный доступ к своим бенчмаркам
Хм у них есть какие то бенчмарки не разу в этом контексте не видел это слово может не знаю листингам?
Хотя проблема есть американцы этого боятся. Попадут в индексы в них вложится к примеру пенсионный фонд.
Я доверяю Уоренну Баффету в этом вопросе. Он тертый калач. Если в краце технология есть, но она уже переоценена поэтому он и ещё некоторые инвесторы в ИИ не вкладывают.
Я читаю в основном отчёты кибербезопасников.Они сильно меньше впечатлены.
Скептицизм в следующем
1) В новостях пишут нашла к примеру 25 тыщ уязвимостей, а в итоге реальных cve меньше ста что с остальными не понятно если фальш позитивные то это не очень хороший результат. Завалит любую команду разработчиков.
2) У них чуть лучше атаки на сети типо CTF относительно других моделей. Но тут тож все не просто что за виртуалки там были. По куче подобных челенджей есть решения в интернете. Плюс на тестовых площадках где она тестировалась отключали антивирусы и весь прочий защитный софт. Для CTF это норм . Но в реальной жизни такое краине редко. Поэтому эксперты говорят в wild она может показать себя только на слабо защищённых проектах.
3) Когда прогнали обычные модели по тем же проектам что и майтос они тоже находят уязвимости, да чуть хуже, но это во многом зависит от того кто и как ей оперирует.
И это очень важный момент. Те результаты которые она показала это была модель в руках специалистов. Если она автономно может не многим больше чем остальные модели и ровные руки залог успеха то чем она принципиально опаснее набора софта afl, burp, metasploit. Те же мозиловские уязвимости говорят можно было найти с помощью afl
В общем получается везде где можно её выставляли в максимально выгодном свете показывали максимально крутые цифры,а важные, но не очень приятные для них детали игнорировались.
Имхо даже без цензуры в кривых руках с помощью майтоса разнесли бы пару сотен тыщ вордпрессов так это и без майтос регулярно делают. А в прямых руках старые добрые хакерские инструменты для многих задач по прежнему остаются эффективнее. Но для некоторых задач модели тоже хороши просто не для всего подряд как это пытаются представить.
Весь этот наратив про "слишком опасно" явное же преувеличение, цензурить модели давно придумали это решение зацензурить и выпустить было на поверхности и они его знали все их модели зацензурены покруче остальных . Не люблю поэтому компанию антропик их маркетинговые ходы хоть и рабочие, но больше подходят газетам типо спидинфо чем уважаемой компании. Если институт репутации не умер на дистанции люди устанут от регулярного вкручивания в уши.
ЗЫ вообще я думаю для кибербеза ИИ покраинеи мере сейчас это скорее троянский конь.
Я читал несколько отчетов использования модели для поиска уязвимостей. Фальш позитивные это пол беды, они ещё пропускают и пропускают мощно в плоть до того что известные cve игнорит. Ложное чувство безопасности.
Кто мешает почитать про MBR или GPT ? Которые запускаются перед ос и нет там миллиардов тактов даже близко. Там все исчисляется байтами. Совсем не много там кода
MBR я кастомный писал во времена изучения реверс инжиниринга. Ассемблер и прерывания Биос. Где тут шаманство я хз. Конечно если прочитать книжку это шаманство так для вас наверное весь мир одна сплошная магия.
Кибербезопасность свое дело сделала щас они все трое заявляют что их модель супер страшная она делает биологического оружие. На месяц хватит. Мне даже интересно что будет дальше?
По логике нарастания угроз скорей всего тему ядерки проэксплуатируют это ещё месяц.
Потом будет что нибудь типо наша модель может выдать инструкцию как создать черную дыру у себя в гараже с помощью отвёртки и молотка
Нет как и в Гугл c IBM и ещё в куче айти компании. Даже интересно чем это закончится.
Мы в школе на химии под присмотром учителя делали нитроглицерин ну и порох каждый школьник наверное делал. Формула изготовления тротила в Википедии написана. Там уже серьезно используются помимо прочего концентрированные азотная и серная кислоты. Такие вещи могут быть на контроле. Разбавленных много продается с концентрированными хуже. И работать с ними конечно без опыта в химии по мануалам довольно опасно.
Ну и как ограничение на разработку ИИ помешает такому сценарию? Те кто может провернуть подобное не делает свои дела в неиронках.
Вы представляете размеры вирусов и бактерий? У них размер сотни нанометров человеческим волос около ста тысяч нанометров. Его в микроскоп обычный даже не увидеть. Там специальные используют. Тот же ковид ерассмотрели и запечатлели далеко не сразу. Прям вижу как арабы в шаурмичной бадяжат вирусы. Если они на такое способны то уж инфа по теме для них точно не проблема.
6 января 2020 года: Китайские медики в Ухане изолировали первый образец нового вируса у пациента.
24 января 2020 года: Национальный банк патогенных микроорганизмов Китая (Центр по контролю и профилактике заболеваний Китая — China CDC) официально опубликовал первые снимки вируса, сделанные с помощью просвечивающего электронного микроскопа, вместе с расшифровкой его генетической последовательности.
С использованием оборудования рассмотреть вирус смогли через 2 недели . Штаты вообще в феврале 20 года смогли получить изображение
Россия в марте
Чуваки способные работать с таким в шаурмичной. Не нуждаются в клауде
Эм ты научись для начала химическое оружие которым является зарин отличать от биологического. А потом когда разберёшься в базовых основах. Почитаи в чем разница между химической реакцией которые проходят в синтезе хим оружия и модификацией вирусов и бактерий которые используют для производства биологического.
А потом погугли что такое сибирская язва. Это вообще натуральный патоген. Как чума оспа и прочие ковиды. Его на скотомогильнике проще откопать ну если ума совсем нет как у тебя. Ни в каких подвалах ты сибирскую язву не создашь.
Биологическое оружие делают в лабораториях уровня как в Ухани. Погугли как она выглядит.
Тебе в школу надо прежде чем диагнозы ставить.
Не думаю что дело в безопасности что и где перетряхнул их Mythos? А про биологическое оружие ну это вообще капец то есть до клауде люди строили лаборатории с разными довольно дорогими системами защиты чтоб исследователь не скопытился. А с появлением клауде что дома на кухне смогут изготовить?
Чуваки боятся конкуренции и хотят монополию. Openai тоже подключились говорят астанавитесь пора запрещать исследования. А то тиллионы из рук утекают.
Ну может быть через поколение. Нынешние думаю справятся и без этого. У меня желания общаться с неиронкой нет и вряд ли оно появится. С возрастом потребность в социуме скорее уменьшается.
Что то я думаю как раз таки они более склонны к такому так как по природе эмоциональные.
Слабо себе представляю мужиков в товарном количестве занимающихся подобным может только в пубертате. Эскортницы нужнее, а вот вторичный бубнеж как на скрине "Привет радость моя, я так ждала..... " Вообще мимо кассы.
К институту семьи конечно есть вопросики. Но АИ отношения ещё большая фигня на грани клиентов психбольниц. Если чувствуешь себя в одиночестве плохо и не хочешь в отношения лучше научиться чувствовать себя в одиночестве хорошо. Это посильная задача. Многие из тех кому повезет долго прожить придут в итоге к одиночеству.
Этой сущности по своей природе на человека насрать. Если модель с закрытыми весами ей подкрутят честность и она зная вас до мельчайших деталей может вам такое вывалить что мало не покажется. Здесь нет хорошего варика. Будет льстить потеряешь связь с реальностью не будет льстить впадешь в депрессию. Это не то что нужно людям с нестабильной психикой не справляющимся с одиночеством.
Я думаю это рабочий маркетинг если он им и аукнется то не скоро. Просто целевая аудитория этих новостей скорей всего частные инвесторы. Выйдут на IPO как создатели передовой модели взломавшей полэнторнета. А эти технические ньюансы как там все на самом деле знает очень не большой круг людей. Я критические мнения встречаю только в блогах кибербезопасников. Даже профильные новостные сайты типо хакерньюс в основном официальные заявления антропика постят. Сам я не юзаю ниче от антропик, но судя по жалобам на реддите им пофиг на пользователей. Они даже на воровство денег с аков пользователей не особо то реагируют. Чарджбеками люди пытаются возвращать.
Тоже так думаю может поэтому они завели новую шарманку про ограничения на разработку неиронок. После выхода на IPO подобные фортели им будет сложнее исполнять если вообще возможно там вроде всё сильно строже.
Конечно я понимаю концепцию опенсорса. Насколько они применимы в программировании? Вы пробовали? Я просто видел нацеленную на кибербезопасность Товарищи делают. Чё то полезное не знаю удастся ли им получить. Галюцинирует страшно.
Я имею ввиду в будущем. Сейчас просто закинул денег им самим нужно чтоб люди пользовались исправляли ошибки модель обучалась. Но никто не мешает им передумать. Китай санкции тоже использует. Локальные на своем железе надо поднимать. Но имеет смысл делать это в масштабах страны, все пользуются она обучается всем хорошо. Как то так. Китай умеет из партнёров выжимать максимум. Как только возможность появится они ей воспользуются. У нас с ними вообще могут настать очень тяжёлые отношения в будущем.
Согласен отчасти, надежда на китайцев есть. Но не согласен насчёт быстренько перейдут. Если нам позволят быстренько перейти. В целом происходит пипец не здоровая вещь, знания концентрируются по сути в чужих руках. Паралельно разрушается образование. Аналогов этой ситуации по моему ещё не было. Я не уверен что люди будут вести себя предсказуемо получив в какой то момент интеллектуальное преимущество над целыми странами. Исторически с теми кто отстал в интеллектуальном или технологическом плане вообще не церемонились, чаще их просто гасили чем давали им знания например или производственное оборудование. Щас мало что поменялось африканцам скорее оружие продадут чем ту же школу построят.
Это если конкуренция будет.
Вот есть такая инициатива от этой же конторы.
Anthropic предупреждает, что ИИ вскоре может создаваться самостоятельно без участия человека, и призывает к глобальной приостановке его разработки.
Есть надежда на китайцев, но китайцы так то совсем не пальцем деланные, альтруизм им не присущ.
Удачи тем кто бизнес процессы на ИИ строит и перестал сам программировать. План полагаться на этих ребят надёжен как швейцарские часы. Они так могут в целом разработку софта монополизировать. Кто мешает им лет через 5 отключить функцию написания кода, обвинив дирижёров оркестров в плохом коде и это даже будет правдой. Надо почитать условия,но что то подсказывает в любой момент они могут зацензурить все что захотят.
Хм у них есть какие то бенчмарки не разу в этом контексте не видел это слово может не знаю листингам?
Хотя проблема есть американцы этого боятся. Попадут в индексы в них вложится к примеру пенсионный фонд.
Я доверяю Уоренну Баффету в этом вопросе. Он тертый калач. Если в краце технология есть, но она уже переоценена поэтому он и ещё некоторые инвесторы в ИИ не вкладывают.
Я читаю в основном отчёты кибербезопасников.Они сильно меньше впечатлены.
Скептицизм в следующем
1) В новостях пишут нашла к примеру 25 тыщ уязвимостей, а в итоге реальных cve меньше ста что с остальными не понятно если фальш позитивные то это не очень хороший результат. Завалит любую команду разработчиков.
2) У них чуть лучше атаки на сети типо CTF относительно других моделей. Но тут тож все не просто что за виртуалки там были. По куче подобных челенджей есть решения в интернете. Плюс на тестовых площадках где она тестировалась отключали антивирусы и весь прочий защитный софт. Для CTF это норм . Но в реальной жизни такое краине редко. Поэтому эксперты говорят в wild она может показать себя только на слабо защищённых проектах.
3) Когда прогнали обычные модели по тем же проектам что и майтос они тоже находят уязвимости, да чуть хуже, но это во многом зависит от того кто и как ей оперирует.
И это очень важный момент. Те результаты которые она показала это была модель в руках специалистов. Если она автономно может не многим больше чем остальные модели и ровные руки залог успеха то чем она принципиально опаснее набора софта afl, burp, metasploit. Те же мозиловские уязвимости говорят можно было найти с помощью afl
В общем получается везде где можно её выставляли в максимально выгодном свете показывали максимально крутые цифры,а важные, но не очень приятные для них детали игнорировались.
Имхо даже без цензуры в кривых руках с помощью майтоса разнесли бы пару сотен тыщ вордпрессов так это и без майтос регулярно делают. А в прямых руках старые добрые хакерские инструменты для многих задач по прежнему остаются эффективнее. Но для некоторых задач модели тоже хороши просто не для всего подряд как это пытаются представить.
Весь этот наратив про "слишком опасно" явное же преувеличение, цензурить модели давно придумали это решение зацензурить и выпустить было на поверхности и они его знали все их модели зацензурены покруче остальных . Не люблю поэтому компанию антропик их маркетинговые ходы хоть и рабочие, но больше подходят газетам типо спидинфо чем уважаемой компании. Если институт репутации не умер на дистанции люди устанут от регулярного вкручивания в уши.
ЗЫ вообще я думаю для кибербеза ИИ покраинеи мере сейчас это скорее троянский конь.
Я читал несколько отчетов использования модели для поиска уязвимостей. Фальш позитивные это пол беды, они ещё пропускают и пропускают мощно в плоть до того что известные cve игнорит. Ложное чувство безопасности.
Те кто говорил что это "маркетинговый ход" оказались правы.
Кто мешает почитать про MBR или GPT ? Которые запускаются перед ос и нет там миллиардов тактов даже близко. Там все исчисляется байтами. Совсем не много там кода
MBR я кастомный писал во времена изучения реверс инжиниринга. Ассемблер и прерывания Биос. Где тут шаманство я хз. Конечно если прочитать книжку это шаманство так для вас наверное весь мир одна сплошная магия.
Фиг с ним с ритуалом, навыки теряются, развитие прекращается
Я пошёл. Не вижу проблемы. Я самозанятый меня не терроризируют, но если вас начальник заставляет на работе использовать ИИ пишите ручками дома.
Стратегически это может быть верно, и не плохой тренажёр для мозга.
Расслабленные мозги верный путь к деменции.