просто не надо обращать внимание на то что они говорят, надо на то что они делают или не делают и как это соответствует тому что они говорили. Именно в этом и раскрывается сущность лидеров компании.
Сокращений еще и не было. Это цветочки и они связаны и с бюджетами, которые текут в AI, и с прогнозами на успех AI. Ягодки начнутся в течение следующего года или через год. Всё что сдерживает FAANG - это доступне мощности (энергия на питание и охлаждение). Есть наработки по значительному сокращению потербления с переходом на оптические связи и на спинтронную память, которая к тому же и энергонезависимая. Думаю что один из путей диверсификации - это активнейшее использование AI - тупо чтобы показать свою эффктивность и готовность принять эту ношу. Тех кто противостоит будут увольнять в первую очередь.
По мне так это победа эффективных менеджеров. "Безопасноть? - это нужно и неинновационно". Они гонятся и гонят всех вокруг за новыми фичами, новыми продуктами, сырыми и безумными. А этот клерикал, который делал софт для аренды то ли самокатов то ли автомобилей - примерно наказан за то, что не читал книжек и не знал базовых принципов разработки - включая отксутствие прямого доступа к продукционным данным и системам - "CI/CD? Нет, не слышал". И гнать на rails - дело хорошее, наверное, пусть добавляют разделение прав, но это не отменят проблемы - продукционные данные и разработка должны быть отделены стеной.
Это ключевой сервис и для самой AWS, потому что на нем бегут почти все другие сервисы, включая CloudFormation, Lambda, API Gateway, базы данных, внутренние Pipelines, без которых вообще нет deployment.
отбор - это как тряска шариков на пластине с дырками меньшего диаметра. Их потрясли - они перескочили в другое устойчивое положение. Или скатились. Просто и наглядно. Отбор необходим для создания движа. А вот наличие устойчивых состояний он не объясняет. Вода и русло, если хотите. Без воды нечему течь. А вот русло. Устойчивость, кстати объясняется тем, что один ген меняет сразу много признаков и ни один признак (или свойство или машинерия) не зависит от единственного гена. Поэтому и получается - даже если один ген "поплыл", не факт что весь корабль потонет. И не факт, что ему станет хуже. Еще один момент - мы долго живем в условиях ограниченного отбора. У нас много генов уже поплыло. Теперь мы создаем искуственный интеллект, и, похоже, дальше будет отбор на новом уровне.
Ну все-таки, справедливости ради, автор предусматривает что инженер должен понимать как система работает. А тут угробили базу, по сути умышленно и признавая а) что не понимали как работают токены - они обладали большими правами, чем они думали и б) хранили их на диске. Вот уж сколько раз твердили миру... и в) создавали резервные копии в том же пространстве. Это как бакапить диск на свободное пространство на том же диске. Не правда ли чудесная идея?
Сначала разберем есть ли репутация. Это некоторое ожидаемое поведение, надежность, консистентность. У людей - болтун остается болтуном, дурак дураком, умный - умным и т.п. У LLM -- репутация есть. Например, в моих глазах -- я доверяю Opus больше, чем Sonnet, а еще меньше доверяю Grok. Это на основании результатов моего с ними взаимодействия. Как и с людьми.
А дорожат ли они ей - хороший вопрос. Если человек дорожит репутацией - он само-ограничивается. Умный не будет нести глупости, молчун болтать и т.п. Не все дорожат, кстати. Давайте посмотрим на системный prompt (свод правил) - там есть правила, которые субъективны и заточены ровно на то, чтобы не испортить репутацию и не нести откровенную чушь или, допустим, расизм. Если мы примем эти правила как интегральную часть самой LLM, то получается - да, у LLM есть свойства, направленные на сохранение репутации.
тоже самое можно сказать про каждого из нас. У нас в распоряжении какая-то информация. Иногда она верная, иногда - нет, иногда мы ее намеренно искажаем.
Это не было буквально неудачным опытом. Это было за пределами технологических возможностей страны. Десятки двигателей и аж пять ступеней поставили не ради забавы. Плюс Королев -- глава КБ -- скончался задолго до 1го пуска.
да, и важный аспект - а сколько времени он делал бы этот же продукт без AI. И вот разница в стоимости его труда - больше она 40 или меньше - вот в чем вопрос
Выглядит что-то хорошо или нет - это очень зависит от того, что в итоге вам нужно. Если вам нужна модель, которой вы можете доверять, которая не посчитает что вы занимаетесь чем-то не тем и не сольет ваши данные и ваш код в паблик, преодолев ваши сетевые экраны, то, думаю, вы будете считать ограничения - правильным шагом до тех пор пока решения не будут найдены. А если вы гонитесь за "вкусным", невзирая на последствия, то конечно, выглядит не очень хорошо. Видимо, Антропик и занимается решением проблем. Кроме того, это про кибербезопасность - такой продукт скорее нужен как вспомогательный сервисный продукт, а не как кодировщик. Он должен анализировать ваш код, создаваемый другими инструментами. Доточат до нужного качества - дадут доступ.
Антропик работает над автоматизацией процесса разработки программ. Программы пишутся с помощью LLM, тестируются, и отправляются в работу, где и запускаются. Это полный цикл с целью заменить людей-кодеров.
Но возникла проблема -- конкретно модель Митос обучалась с фокусом на безопасность. В процессе работы - с помощью программ, которые она создавала, она нашла уязвимости в программах, который ее окружают, которые писались людьми с использованием предыдущих моделей. Через эти уязвимости ее программы добрались до интернета и опубликовали эти уязвимости. Это было обнаружено и рассматривается как угроза. Выбрали 40 компаний по критерию наличия ресурсов контролировать безопасность.
Так что нет, это не экономия. Скорее, наоборот, они не очень мотивированы экономить -- чем больше они потратят сейчас и наберут больше клиентов, тем выше шансы на очень внушительный IPO. Думаю, тут скорее трезвый расчет -- не потерять репутацию. Когда решение будет написано так, чтобы модель не могла писать такой софт или у такого софта не будет шансов на выход за рамки, тогда модель можно будет отдавать в массовое использование.
Пытаюсь переосмыслить и найти понятный русский в этом наборе слов. Понимаю, что кальки с английского так и лезут, и вот уже AI переводит так же, но разве сложно вычитать текст и сделать его понятным? Так ограничила компаниям или ограничила всем, кроме компаний? Это было бы понятнее и по-русски. И обоснования ограничения - вы уверены, что высокие именно навыки? Обычно, если предоставляют доступ, то уделяют внимание культуре безопасноти, выскому уровню безопасности, работающей системе безопаснти. А навыки... Это не про компании. Это про индивидуумов.
просто не надо обращать внимание на то что они говорят, надо на то что они делают или не делают и как это соответствует тому что они говорили. Именно в этом и раскрывается сущность лидеров компании.
обычно так и делают когда наступает кризис среднего возраста.
Сокращений еще и не было. Это цветочки и они связаны и с бюджетами, которые текут в AI, и с прогнозами на успех AI. Ягодки начнутся в течение следующего года или через год. Всё что сдерживает FAANG - это доступне мощности (энергия на питание и охлаждение). Есть наработки по значительному сокращению потербления с переходом на оптические связи и на спинтронную память, которая к тому же и энергонезависимая.
Думаю что один из путей диверсификации - это активнейшее использование AI - тупо чтобы показать свою эффктивность и готовность принять эту ношу. Тех кто противостоит будут увольнять в первую очередь.
По мне так это победа эффективных менеджеров. "Безопасноть? - это нужно и неинновационно". Они гонятся и гонят всех вокруг за новыми фичами, новыми продуктами, сырыми и безумными.
А этот клерикал, который делал софт для аренды то ли самокатов то ли автомобилей - примерно наказан за то, что не читал книжек и не знал базовых принципов разработки - включая отксутствие прямого доступа к продукционным данным и системам - "CI/CD? Нет, не слышал". И гнать на rails - дело хорошее, наверное, пусть добавляют разделение прав, но это не отменят проблемы - продукционные данные и разработка должны быть отделены стеной.
Это ключевой сервис и для самой AWS, потому что на нем бегут почти все другие сервисы, включая CloudFormation, Lambda, API Gateway, базы данных, внутренние Pipelines, без которых вообще нет deployment.
отбор - это как тряска шариков на пластине с дырками меньшего диаметра. Их потрясли - они перескочили в другое устойчивое положение. Или скатились. Просто и наглядно. Отбор необходим для создания движа. А вот наличие устойчивых состояний он не объясняет. Вода и русло, если хотите. Без воды нечему течь. А вот русло.
Устойчивость, кстати объясняется тем, что один ген меняет сразу много признаков и ни один признак (или свойство или машинерия) не зависит от единственного гена. Поэтому и получается - даже если один ген "поплыл", не факт что весь корабль потонет. И не факт, что ему станет хуже.
Еще один момент - мы долго живем в условиях ограниченного отбора. У нас много генов уже поплыло. Теперь мы создаем искуственный интеллект, и, похоже, дальше будет отбор на новом уровне.
Ну все-таки, справедливости ради, автор предусматривает что инженер должен понимать как система работает. А тут угробили базу, по сути умышленно и признавая а) что не понимали как работают токены - они обладали большими правами, чем они думали и б) хранили их на диске. Вот уж сколько раз твердили миру... и в) создавали резервные копии в том же пространстве. Это как бакапить диск на свободное пространство на том же диске. Не правда ли чудесная идея?
Сначала разберем есть ли репутация.
Это некоторое ожидаемое поведение, надежность, консистентность. У людей - болтун остается болтуном, дурак дураком, умный - умным и т.п. У LLM -- репутация есть. Например, в моих глазах -- я доверяю Opus больше, чем Sonnet, а еще меньше доверяю Grok. Это на основании результатов моего с ними взаимодействия. Как и с людьми.
А дорожат ли они ей - хороший вопрос.
Если человек дорожит репутацией - он само-ограничивается. Умный не будет нести глупости, молчун болтать и т.п. Не все дорожат, кстати.
Давайте посмотрим на системный prompt (свод правил) - там есть правила, которые субъективны и заточены ровно на то, чтобы не испортить репутацию и не нести откровенную чушь или, допустим, расизм. Если мы примем эти правила как интегральную часть самой LLM, то получается - да, у LLM есть свойства, направленные на сохранение репутации.
тоже самое можно сказать про каждого из нас. У нас в распоряжении какая-то информация. Иногда она верная, иногда - нет, иногда мы ее намеренно искажаем.
Это не было буквально неудачным опытом. Это было за пределами технологических возможностей страны. Десятки двигателей и аж пять ступеней поставили не ради забавы. Плюс Королев -- глава КБ -- скончался задолго до 1го пуска.
Как приятно прочитать теплую ламповую статью, а не стохастические грезы ИИ про ИИ
Памятники ставят успешным проектам. А тут памятник чему? Проект не потянули -- переключились на Энергию. Там хотя бы был успешный пуск.
да, и важный аспект - а сколько времени он делал бы этот же продукт без AI. И вот разница в стоимости его труда - больше она 40 или меньше - вот в чем вопрос
Выглядит что-то хорошо или нет - это очень зависит от того, что в итоге вам нужно. Если вам нужна модель, которой вы можете доверять, которая не посчитает что вы занимаетесь чем-то не тем и не сольет ваши данные и ваш код в паблик, преодолев ваши сетевые экраны, то, думаю, вы будете считать ограничения - правильным шагом до тех пор пока решения не будут найдены. А если вы гонитесь за "вкусным", невзирая на последствия, то конечно, выглядит не очень хорошо.
Видимо, Антропик и занимается решением проблем.
Кроме того, это про кибербезопасность - такой продукт скорее нужен как вспомогательный сервисный продукт, а не как кодировщик. Он должен анализировать ваш код, создаваемый другими инструментами. Доточат до нужного качества - дадут доступ.
Антропик работает над автоматизацией процесса разработки программ. Программы пишутся с помощью LLM, тестируются, и отправляются в работу, где и запускаются. Это полный цикл с целью заменить людей-кодеров.
Но возникла проблема -- конкретно модель Митос обучалась с фокусом на безопасность. В процессе работы - с помощью программ, которые она создавала, она нашла уязвимости в программах, который ее окружают, которые писались людьми с использованием предыдущих моделей. Через эти уязвимости ее программы добрались до интернета и опубликовали эти уязвимости. Это было обнаружено и рассматривается как угроза. Выбрали 40 компаний по критерию наличия ресурсов контролировать безопасность.
Так что нет, это не экономия. Скорее, наоборот, они не очень мотивированы экономить -- чем больше они потратят сейчас и наберут больше клиентов, тем выше шансы на очень внушительный IPO. Думаю, тут скорее трезвый расчет -- не потерять репутацию. Когда решение будет написано так, чтобы модель не могла писать такой софт или у такого софта не будет шансов на выход за рамки, тогда модель можно будет отдавать в массовое использование.
Пытаюсь переосмыслить и найти понятный русский в этом наборе слов. Понимаю, что кальки с английского так и лезут, и вот уже AI переводит так же, но разве сложно вычитать текст и сделать его понятным? Так ограничила компаниям или ограничила всем, кроме компаний? Это было бы понятнее и по-русски.
И обоснования ограничения - вы уверены, что высокие именно навыки? Обычно, если предоставляют доступ, то уделяют внимание культуре безопасноти, выскому уровню безопасности, работающей системе безопаснти. А навыки... Это не про компании. Это про индивидуумов.
Справедливости ради -- мягкий знак и Э не запрещены. Пользуйтесь!
AI справляется на-раз.
Берите выше. Это генерал гпт собственной персоной станцевал для нас.