Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 11
наказывать технологические фирмы за отказ снять этические ограничения на свои продукты
Это не этическое ограничение. Anthropic не даёт использовать уже существующую технологию в настоящем времени, на основании умозрительных "будущих " ограничений.
То есть исходя из философских рассуждений они действительно угроза и статус "угрозы цепочке поставок" (supply chain risk) получили вполне заслуженно.
Я больше удивлён, что администрация США не ввела на Anthropic внешнее управление.
я так понимаю ты сторонник слежки за людьми без всякого ордера, за всеми и просто так.
а так же использования ИИ для автономного управления оружием прямо сейчас, когда распознавание целей еще сырое и ИИ может покосить своих. А вот Антропики говорят сперва надо распознавание очень хорошо доработать чтобы не было френдли ваера и тогда пожалуйста. Рисковый ты человек, слишком рисковый. Я б такому... вообще ничего не доверила.
я так понимаю ты сторонник слежки за людьми без всякого ордера, за всеми и просто так. а так же использования ИИ для автономного управления оружием прямо сейчас
И слежку без ордера и автономное управление оружием внедрили так давно, что следы потерялись. Если конкретно про США, то на слуху система "Ешелон" https://ru.wikipedia.org/wiki/ECHELON?ysclid=mmjg9mr9kn195735576 и там ниже ещё список есть разных разведовательных программ. Распознование текста - это огрызок от военных систем 50 летней давности. Интернету и компьютерам дали жизнь военные.
А насчёт того, что я рисковый, на неделе статью допишу и здесь выложу - я рискую, когда риски понимаю.
Не очень понятно про "умозрительные будущие ограничения".
Если вы про mass domestic surveillance, то поинт Антропика не в том, что "сейчас это законно, но в будущем будет незаконно и мы боимся, что вы нас подставите", а в том, что "сейчас это законно, А ЗРЯ, потому что если подключить к собранным данным нашу нейронку, то вы получите такое нарушение приватности, с которым мы согласиться не можем"
Т.е. ограничение как раз не легальное (иначе бы Антропики согласились на "любое не запрещённое законом использование", как им и предлагали), а этическое
иначе бы Антропики согласились на "любое не ,,,
Не додумывайте за Anthropic. Они чётко аргументировали запрет технологии будущими ограничениями, которых в настоящий момент не существует.
Чётко аргументировали =))
Буквально цитаты:
1) ...in a narrow set of cases, we believe AI can undermine, rather than defend, democratic values...
2) To the extent that such surveillance is currently legal, this is only because the law has not yet caught up with the rapidly growing capabilities of AI. For example, under current law, the government can purchase detailed records of Americans’ movements, web browsing, and associations from public sources without obtaining a warrant, a practice the Intelligence Community has acknowledged raises privacy concerns and that has generated bipartisan opposition in Congress. Powerful AI makes it possible to assemble this scattered, individually innocuous data into a comprehensive picture of any person’s life—automatically and at massive scale.
Здесь ничего не говорится о том, что они не хотят разрешать такое использование своей системы из-за будущих (гипотетических) ограничений -- но явно говорится о том, что такое использование может идти вразрез с теми ценностями, которые Антропикам важны
Так что верну совет "не додумывать за Антропик"
Буквально цитаты: 1) ...in a narrow set of case
Вы наверное слишком давно в США живёте, а то мы одни и те-же слова совсем по разному воспринимаем. Они на демократические ценности упирают и моральными принципами прикрываются.
Если Anthropic такие пацифисты и люди в белых одеждах, то пусть отказываются от разработки технологии ИИ, которые они же продали министерству Войны самой мощной военной страны мира, которая беспрерывно развязывает войны с миллионами жертв.
А причины начала войн администрация США сейчас даже скрывать и маскировать перестали - открыто говорят что им так выгодно, им нужны ресурсы этих стран. И даже план по войнам написали и не переживая ни о чём весело озвучивают. Следующая будет Куба, которой они же сами давали гарантии ненападения.
Они на демократические ценности упирают и моральными принципами прикрываются.
Т.е. это ваше мнение о мотивации Антропиков, буквально додумывание.
Если Anthropic такие пацифисты и люди в белых одеждах...
Нет, они не позиционируют себя так. В этом же заявлении, цитаты из которого выше, они заявили, что не против а) использования своих технологий в военных целях, б) использования своих технологий для разведки/контрразведки за рубежом.
В том числе они не против и того, чтобы их технологии использовали бы в текущих конфликтах -- их и используют в самом Пентагоне, несмотря на то, что для контракторов Пентагона они теперь "риск цепочки поставок" =))
В основе конфликта — отказ Anthropic снять два ограничения на использование Claude: запрет на массовую слежку за американцами и на полностью автономное оружие.
А когда они "снимут ограничения", окажется что ни того ни другого модель делать не умеет )
Если я это сделал много лет назад https://www.youtube.com/watch?v=vPkd3UFL1-o то сейчас это сделать много проще. И даже без ИИ.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
«Беспрецедентно и незаконно»: Anthropic подала в суд на администрацию Трампа