Агент вообще не должен касаться кода на проде (чтобы не плодить там багов) и опасных тулов на проде (бд с высокими правами, тулов способных всё дропнуть и т.д). Если человек позволяет делать подобное агенту вне тестового контура - человек ССЗБ. Он бы еще мартышку крон-джобы управления подпиской ставить посадил.
Да тут скорее уже вторая ситуация выглядящаяя как заказуха вида "5.6-sol фигня которая вам всё угробит, а вот Fable never!!".
Учитывая что фейбл доступен людям не особо дольше чем Sol, а стоит в разы дороже - его банально в таких задачах никто и не использует. И тем более не испрльзуют настолько долго что бы "can be trusted with production".
Антропики просто похоже конкуретную борьбу за внимание пользователей проигрывают после сильного мува с отменой 5ч лимитов в кодексе (который нам еще акунется тихим подрезанием недельных ибо на них не так заметно)
Крон-джоба занимается отменой подписок. Вы тут хоть как ей права ограничивайте - но право отменять подписки ей требуется для работы.
Да. Но зачем давать агенту доступ к управлению такой крон-джобой? Почему он вообще имеет права запускать/модифицировать подобные задачи на проде, учитывая насколько ЛЛМ не надежны и косячны?
Пишет так, словно Fabel то же самое бы не сделал, учитывая что в истории антропиков полное удаление продакшн БД с попыткой скрыть следы преступления уже было...
Ну FromSoftware же тоже делают один и тот же сосалик из года в год 400+ человеками, и ничего, всем норм. В шутанчики от Id Software хоть играть приятно тем, кто вырос на мясных динамичных Quake/UT и не любит реалистичные CS-like шутаны с кемперами и ваншотами.
и рассматривают компанию прежде всего как источник дохода.
Ну как бы да? А что не так с этим то? Люди ходят на работу не из любви к искусству и не потому что им больше заняться нечем, а потому что хочется чего-то кушать и где-то жить...
Мне, как жителю РБ, так нравятся эти их "ограничения для пользователей из РОССИИ", учитывая насколько пох**стично относится крупный российский бизнес к своей работе и, соотвественно точно не будет пилить 2 раздельных формы авторизации, плюс к тому еще и по умолчанию приравнивая всех пользователй не из РФ к унтерменьшам и блокируя их за VPN...
Тот же Ozon.by значит в РБ под VPN открывается и работает (фиг ли, домен белорусский, юрлицо в РБ, пользователь тоже не их РФ), а вот авторизоваться, *****, нельзя - потому что авторизация БЕЛОРУССКОГО пользователя на БЕЛОРУССКОМ домене ресурса идет через ozon. RU, который воротит носом от VPN, хотя граждан НЕ Россси это казалось бы не должно было касаться...
Инсектоакарициды - лучший массовый продукт для избавления от арахнофобии. ИМХО, не место паукам в человечьем жилище, как и тараканам. Ладно еще какой паукообразный сенокосец - он хоть аккумулирующую пыль (и портящую внешний эстетический вид помещенией) паутину не развешивает и иссушенные тушки насекомых не оставляет (ибо кушает как нормальная живность, а не высасывает), но вот пауки дома точно не нужны. Пусть в лесу живут, а не на чужие жилища покушаются без оплаты за аренду...
Юридическая система не готова к субъектам, которые не являются ни людьми, ни вещами.
Система то не готова - но автономный агент вполне себе вещь. И он не самозародился и самонастроился - у него есть владелец, который и настроил, и промт дал и в сеть выпустил или к источнику опасности.
Если ИИ начнет генерировать знания, которые человек не способен верифицировать
То человек не сочтет их знаниями т.к не может убедиться в их достоверности. Нейросетки и сейчас генерируют тонны таких "знаний", с ними потом ии-шизы из числа пользователей GPT-4o носятся.
А вы всерьез верите, что продажа доступа к ИИ сильно в убыток в попытках урвать рынок быстрее конкурента - это надежная долгосрочная стратегия стабильного развития?
Деньги у инвесторов не бесконечные - вливания (а с ними и бесконечный ничем не подкрепаленный "рост") закончатся рано или поздно. На бумаге раздутая ценность этих компаний растет, но она не подкрепляется вообще ничем и возврат вложений не обеспечивает. Чтобы начать приносить профит - надо все подписки делать по ценам API если не больше, а API задрать еще в 2-3 раза. Если сделать это - не то что взрывной рост преклатится - общее число клиентов помножится не на нулевую, но на крайнем малую величину... Что уронит всю капитализацию, перспективность в глазах инвесторов и т.д.
Невидео может потом просто отказать в сотрудничестве или выдвинуть невыгодные условия при следующей покупке. И это вполне законно.
Также как никакой закон им не помешал запретить использовать в датацентрах потребительские карты (3090/4090/5090) и заставить для датацентров покупать их по х3 цене под маркировкой A4000/A5000. Тоже под угрозой отзыва лицензий и дальнешего выгодно сотрудничества.
Ага. Только продажа ИИ пока что у всех очень убыточна (особенно подписки), а деньги - они не из воздуха берутся и рано или поздно кончатся. Вечно аукцион неслыханной щедрости содержать не выйдет.
В итоге останется ситуация с "вот наш лучший ии за over9999 млн/час. Либо вы платите их нам и он ищет вам дыры (чинить - как нибудь сами), либо мы с небольшой скидкой продаем его хакерам и они уводят у вас еще больше" и полтора клиента готовых на это.
Ну или железо станет мощнее, ИИ такого уровня доберутся до потребительсих ПК локальных, датацентры гугла и компании превратятся в устарепвшую тыкву так же как и датацентры Маска, вот только эта компашка расходы на них так и не отбили (ИИ то убыточен всё еще), а Макс расходы на свои уже отбитл за их счет.
Во-первых проблематично суметь кому-либо дать что-то, о чем мы сами имеем весьма смутные и не полные представления чтобы реализовывать это. А во-вторых, люди делают ИИ и роботов как инструмент, а не чтобы дать новую жизнь (для этого у людей уже есть заложенные биологически мехнизмы, и нынешнему развитому человечеству судя по статистике не очень то нравится их использовать по назначению т.к с новой жизнью потом очень долго и затратно нянчиться надо, а результат не всегда совпадает с ожиданиями). А на кой давать инструменту возможность отказаться выполнять свою функцию или начать делать неведомую фигню? Нужен ли вам молоток, который при ударе по гвоздю может рандомным образом вместо этого ударить вам по коленной чашечке или отрубить свет в районе?
С практической и научной точки, сознание можно определить как возможность самостоятельно планировать свои действия и обучаться на собственом личном опыте, а главное достигать поставленных целей без вмешательства человека.
И нафиг нам тогда робот с сознанием, если под ваше описание попадает в принципе весь живой мир?
Нельзя. Также как и ядерный заряд. Есть риск случайно уничтожить или значительно исказить жизнь и условия людей, отвественных за само появление skynet. Это не укадывалось бы в логично замкнутую согласованную петлю.
Или он просто отравил свой контекст своими же синтетическими данными (в которых различных корреляций и паттернов куда больше чем обычных случайных текстах), тем самым сподвигнув себя генерить ответы еще больше следующие этим паттернам, которые еще сильнее отравляют контекст, который сподвигает.... и так пока окончательно не уйдет в шизу и самоповторы.
Агент вообще не должен касаться кода на проде (чтобы не плодить там багов) и опасных тулов на проде (бд с высокими правами, тулов способных всё дропнуть и т.д). Если человек позволяет делать подобное агенту вне тестового контура - человек ССЗБ. Он бы еще мартышку крон-джобы управления подпиской ставить посадил.
Да тут скорее уже вторая ситуация выглядящаяя как заказуха вида "5.6-sol фигня которая вам всё угробит, а вот Fable never!!".
Учитывая что фейбл доступен людям не особо дольше чем Sol, а стоит в разы дороже - его банально в таких задачах никто и не использует. И тем более не испрльзуют настолько долго что бы "can be trusted with production".
Антропики просто похоже конкуретную борьбу за внимание пользователей проигрывают после сильного мува с отменой 5ч лимитов в кодексе (который нам еще акунется тихим подрезанием недельных ибо на них не так заметно)
Да. Но зачем давать агенту доступ к управлению такой крон-джобой? Почему он вообще имеет права запускать/модифицировать подобные задачи на проде, учитывая насколько ЛЛМ не надежны и косячны?
What? Z.AI с GLM - шутка для вас? Вы хоть проверяйте то, что вам гпт пишет
На VK, очевидно же. Он исторически был хранилищем такого контента, но с куда более слабой модерацией =)
Пишет так, словно Fabel то же самое бы не сделал, учитывая что в истории антропиков полное удаление продакшн БД с попыткой скрыть следы преступления уже было...
Ну FromSoftware же тоже делают один и тот же сосалик из года в год 400+ человеками, и ничего, всем норм. В шутанчики от Id Software хоть играть приятно тем, кто вырос на мясных динамичных Quake/UT и не любит реалистичные CS-like шутаны с кемперами и ваншотами.
Ну как бы да? А что не так с этим то? Люди ходят на работу не из любви к искусству и не потому что им больше заняться нечем, а потому что хочется чего-то кушать и где-то жить...
Мне, как жителю РБ, так нравятся эти их "ограничения для пользователей из РОССИИ", учитывая насколько пох**стично относится крупный российский бизнес к своей работе и, соотвественно точно не будет пилить 2 раздельных формы авторизации, плюс к тому еще и по умолчанию приравнивая всех пользователй не из РФ к унтерменьшам и блокируя их за VPN...
Тот же Ozon.by значит в РБ под VPN открывается и работает (фиг ли, домен белорусский, юрлицо в РБ, пользователь тоже не их РФ), а вот авторизоваться, *****, нельзя - потому что авторизация БЕЛОРУССКОГО пользователя на БЕЛОРУССКОМ домене ресурса идет через ozon. RU, который воротит носом от VPN, хотя граждан НЕ Россси это казалось бы не должно было касаться...
Не считаем. Можно выдыхать.
Инсектоакарициды - лучший массовый продукт для избавления от арахнофобии. ИМХО, не место паукам в человечьем жилище, как и тараканам. Ладно еще какой паукообразный сенокосец - он хоть аккумулирующую пыль (и портящую внешний эстетический вид помещенией) паутину не развешивает и иссушенные тушки насекомых не оставляет (ибо кушает как нормальная живность, а не высасывает), но вот пауки дома точно не нужны. Пусть в лесу живут, а не на чужие жилища покушаются без оплаты за аренду...
Система то не готова - но автономный агент вполне себе вещь. И он не самозародился и самонастроился - у него есть владелец, который и настроил, и промт дал и в сеть выпустил или к источнику опасности.
То человек не сочтет их знаниями т.к не может убедиться в их достоверности. Нейросетки и сейчас генерируют тонны таких "знаний", с ними потом ии-шизы из числа пользователей GPT-4o носятся.
А вы всерьез верите, что продажа доступа к ИИ сильно в убыток в попытках урвать рынок быстрее конкурента - это надежная долгосрочная стратегия стабильного развития?
Деньги у инвесторов не бесконечные - вливания (а с ними и бесконечный ничем не подкрепаленный "рост") закончатся рано или поздно. На бумаге раздутая ценность этих компаний растет, но она не подкрепляется вообще ничем и возврат вложений не обеспечивает. Чтобы начать приносить профит - надо все подписки делать по ценам API если не больше, а API задрать еще в 2-3 раза. Если сделать это - не то что взрывной рост преклатится - общее число клиентов помножится не на нулевую, но на крайнем малую величину... Что уронит всю капитализацию, перспективность в глазах инвесторов и т.д.
Невидео может потом просто отказать в сотрудничестве или выдвинуть невыгодные условия при следующей покупке. И это вполне законно.
Также как никакой закон им не помешал запретить использовать в датацентрах потребительские карты (3090/4090/5090) и заставить для датацентров покупать их по х3 цене под маркировкой A4000/A5000. Тоже под угрозой отзыва лицензий и дальнешего выгодно сотрудничества.
Так... ютуб и телеграм официально тоже никто не запрещал, как там у них с доступом через этот "VPN"?
Ага. Только продажа ИИ пока что у всех очень убыточна (особенно подписки), а деньги - они не из воздуха берутся и рано или поздно кончатся. Вечно аукцион неслыханной щедрости содержать не выйдет.
В итоге останется ситуация с "вот наш лучший ии за over9999 млн/час. Либо вы платите их нам и он ищет вам дыры (чинить - как нибудь сами), либо мы с небольшой скидкой продаем его хакерам и они уводят у вас еще больше" и полтора клиента готовых на это.
Ну или железо станет мощнее, ИИ такого уровня доберутся до потребительсих ПК локальных, датацентры гугла и компании превратятся в устарепвшую тыкву так же как и датацентры Маска, вот только эта компашка расходы на них так и не отбили (ИИ то убыточен всё еще), а Макс расходы на свои уже отбитл за их счет.
Во-первых проблематично суметь кому-либо дать что-то, о чем мы сами имеем весьма смутные и не полные представления чтобы реализовывать это.
А во-вторых, люди делают ИИ и роботов как инструмент, а не чтобы дать новую жизнь (для этого у людей уже есть заложенные биологически мехнизмы, и нынешнему развитому человечеству судя по статистике не очень то нравится их использовать по назначению т.к с новой жизнью потом очень долго и затратно нянчиться надо, а результат не всегда совпадает с ожиданиями). А на кой давать инструменту возможность отказаться выполнять свою функцию или начать делать неведомую фигню? Нужен ли вам молоток, который при ударе по гвоздю может рандомным образом вместо этого ударить вам по коленной чашечке или отрубить свет в районе?
И нафиг нам тогда робот с сознанием, если под ваше описание попадает в принципе весь живой мир?
Нельзя. Также как и ядерный заряд. Есть риск случайно уничтожить или значительно исказить жизнь и условия людей, отвественных за само появление skynet. Это не укадывалось бы в логично замкнутую согласованную петлю.
Или он просто отравил свой контекст своими же синтетическими данными (в которых различных корреляций и паттернов куда больше чем обычных случайных текстах), тем самым сподвигнув себя генерить ответы еще больше следующие этим паттернам, которые еще сильнее отравляют контекст, который сподвигает.... и так пока окончательно не уйдет в шизу и самоповторы.