Комментарии 260
Волки в овечей шкуре действуют в своих интересах создавая почву для тотального регулирования отрасли ИИ. Опасаются, что новые фин потоки начнут их огибать.
Шила в мешке не утаишь
Однозначно. Разработчики разбегутся по разным конторам. Джин уже выпущен из бутылки и нам с этим жить дальше, как и с атомным проектом. Необходимо не запрещать, это уже поздно, а запретить использование спецслужбами. Запретить использование в процессе образования думаю уже поздно - придётся перестраивать всю систему образования, ничего уже не попишешь!
Может им просто 6 месяцев не хватает, чтоб догнать и перегнать со своим продуктом.
У них нет цели догнать и перегнать за 6 месяцев. У них цель — зарегулировать отрасль настолько, чтобы "лишние" люди не прошли. Они этого особо и не скрывают:
These should at a minimum include: new and capable regulatory authorities dedicated to AI; oversight and tracking of highly capable AI systems and large pools of computational capability; provenance and watermarking systems to help distinguish real from synthetic and to track model leaks; a robust auditing and certification ecosystem; liability for AI-caused harm;Вы ведь хотите, чтобы ваша убогая домашняя модель на 6B была audited, certificated, tracked и далее по списку?
Ну а что Маск? Ну кинет 20 миллиардов куда надо, у него никаких проблем не будет.
Это не ему в Конгрессе перед луддитами оправдываться.
Вы меня определи, да очень похоже, что создав прецедент они смогут по нарастающей этим управлять и успешно продолжать свою экспансию.
Совсем недавно был твит не то от директора OpenIA, не то от одного из основателей. Он высказался обеими руками за регулирование. Может быть он уже какое-то время втихаря договаривается про это с правительством. Вероятность появления регулирования велика, поэтому имеет смысл им самим придумывать правила для себя. Не можешь победить -- возглавь!
Пошла жара.
Интересно, OpenAI проглотят, или релоцируются?
Ой, а что случилось? Гиганты айти отрасли сидели расслабив булки, а когда внезапно выстрелило что то инновацинное, что делает их устаревшими и потенциально ставит под вопрос существование бизнеса как такового, приходится теперь заносить чемоданы бабла лоббистам что бы хоть как то сдержать конкуренцию которую невывозят. Рыночек то честный, но видимо только когда в правильную сторону. Когда слышу обоснование "безопасность" сразу понимаю, никаких обоснований нет, но напрямую сказать "потому что мы так хотим/нам так проплатили" нельзя.
Когда слышу обоснование «безопасность» сразу понимаюВсе так. Children, safety, security. Слышите одно из этих слов — значит, у оппонента нет аргументов, но есть большое желание что-то пропихнуть.
Тут скорее "пропихнуть" это только инструмент, думаю они хотят сесть на регулирование этого направления, а это очень немалые деньги. И подозреваю, что через пару-тройку лет - когда подтянеца и железо с аппаратным ускорением, заточенное под LLaMa движки - мы увидим не только 30B и 65B модели...
OpenAl настолько классно решили проблему понимания контекста и фильтрации цифровой помойки под названием интернет, что строка запроса гугл/яндекс стала не нужна. Так что я подобное поведение ожидал. Ктонибудь пользовался переводчиком DeepL? Как он по качеству перевода? Похож на нативный язык?
Кто нибудь пользовался переводчиком DeepL? Как он по качеству перевода?
Конкретно для восточных языков несколько лет назад был значительно лучше гугла. Сейчас не знаю.
Очень похож. И я, и компания, где я работаю, пользуем в основном только DeepL. Но есть и подводные камни - дипл настолько удачно может составить фразу, но при этом в корне неправильную по смыслу, что от внимания редактора эта фраза может ускользнуть. Так что я работаю с диплом по абзацам, внимательно вчитываясь в результат. Просто засунуть туда текст, вынуть и отправить в работу - так себе идея.
При этом диплу нужен контекст. Одно предложение он переведет значительно хуже, чем целый абзац, а то и страницу.
Но даже при литературной обработке переводного текста я все равно запихиваю оригинал в дипл, потому что порой он выдает более удачную формулировку, чем та, что у меня в голове.
А технические тексты со спецтерминами ему по зубам? Гугл вообще абсолютную биллеберду выдаёт в этом случае
Так проще попробовать же. В моем случае он спецтермины поначалу странно переводит, но если щелкнуть по термину и выбрать правильный вариант, то он правит во всем переводе этот спецтермин. И потом как-то запоминает этот выбор.
Я скармливаю ему текст, например, на англе, про кубинские танцы. Там есть cuban son - не кубинский сын, а именно сон, как название жанра. Только DeepL выдает мне правильный вариант. А еще он корректно обходится с испанскими названиями песен и названиями групп - оставляя их в покое. В общем, мне удобно.
Если мне надо очень быстро по диагонали прочитать книжку, я тоже ему скармливаю (бывает, что приходится разбивать на главы, потому что у него там какие-то ограничения бесплатной версии). И перевод у меня вызывает значительно меньше конвульсий, в отличие от других продуктов.
В Pro версии возможно использовать глоссарии, которые как раз для этого и нужны.
"OpenAl настолько классно решили проблему понимания контекста и фильтрации цифровой помойки под названием интернет, что строка запроса гугл/яндекс стала не нужна."
Он иногда фантазирует, не забывайте о том. А если через него еще и рекламу пихать начнут... Ой, беда.
Так что если мне надо именно что поискать, то я лучше в традиционном Гугле поищу. А вот если надо именно что поговорить - то к Чату (и его клонам).
Ну, Гугл-то ищет в настоящем интернете, там никто не врёт. И рекламы в Гугле нет. Ой нет, постойте...
Гугл, в отличии от ChatGPT, показывает источник данных, которому можно или доверять, или нет. ChatGPT при этом не ссылается на какие-либо данные, а просто дает результат.
Там вон ниже ответили про Bing :) Но, в целом, проверить информацию зачастую проще, чем найти. Это как P (!)= NP :)
Вы одинаково запрашиваете данные у поисковика и робота. Робот выдает данные уже вычитанными. Но его ответ не обязательно корректен. Если просить ссылки на научные исследования - он приводит ссылки. На хорошие источники, с именами авторов научных статей... Только вот если перейти по этим ссылкам - то обнаружиться, что таких статей не существует. Поэтому чатбот хорошо подходит, чтобы получить высокоуровневую информацию, но когда речь заходит о деталях - приходится идти в поисковик, книги, к индусам на ютуб, на хабр и так далее. Чатбот не заменяет поисковик, но дополняет его.
Я согласен со всем, что Вы сказали, кроме одного (частично). Гляньте, пожалуйста, скриншот в ветке ниже. Bing Chat (который под капотом – подтюнингованный ChatGPT на GPT 4 + доступ в интернет) приводит ссылки на конкретные сайты, с которых он взял информацию, прямо в ответе. Не для всех запросов, полагаю, но всё-таки.
Так ведь есть уже давно perplexity AI с указанием источников, и гораздо покруче гугла будет. Почти перестал использовать гугл. Но вроде работает на GPT3.5
Бинг дает ссылки на основе чего ответ
Фантазирует он только на сайте, т.к. там нет настроек. А вот в api этот параметр очень даже легко настраивается. Так что его и как поисковик можно использовать. Особенно 4 версию
Это не важно. DeepL это дополнительный конкурент, что уже хорошо. Если сейчас перевод не очень, то всегда можно показатели улучшить если будут деньги. У Google давно проблемы с качством кода. У меня мобильное приложение Google Translate переводит текст хорошо, но переводить с камеры совершенно отказывается. А у DeepL такой проблемы нет -- отлично переводит фотки.
Если вы не отзоветесь, мы напишем в Спортлото!
Единственный минус ИИ - те у кого отнимет работу будут вынуждены искать где работать. А поскольку будут затронуты все интеллектуальные сферы, остаются только "дворники", но их столько не нужно. Что делать? На фарш людей? Менять надо кап. систему, тогда от ИИ будет только польза.
Не отнимет, скорое облегчит текущую.
Облегчит. Десятку, который благодаря этому заменит тысячу...
Пока с приходом новой версии и этих не сократят...
Да уже сейчас идут сокращения вовсю и это только начало.
хорош ныть
Можно конкретный пример, кого она уже и где заменила?
Пожалуйста. Примеры в студию.
Мой хороший знакомый много лет работал логистиком. Высокооплачиваемым. Его заменили программой и мальчиком студентом её обслуживающим, уж не знаю. Я занимаюсь разработкой электронных устройств. Сейчас один два человека с помощью приличного ПО выполняют в 2-3 раза быстрее работу конструкторского отдела времён кульмана и калькулятора.
Конкретно про ИИ. Таксистом теперь может стать любой приехавший из Средней Азии, профи с хорошим знанием города вымерли как мамонты.
Сильно поредели ряды бухгалтеров. Тот же банк точка легко выполняет всю работу по бухгалтерии за ИПшника. Проверено на собственном опыте.
Это были примеры автоматизации без участия данного чата.
Цензура в соцсетях. Её осуществляют боты, которые действуют моментально. Пока они слабо понимают сарказм, науськаны на определённые фразы, но такие инструменты как GPT4 исправляют и этот недостаток.
Мало мной уважаемой профессии рерайтера теперь точно кирдык.
Чат боты в банках. Сейчас они заменили людей. В райфайзине это просто ужас, чатом стало пользоваться невозможно. Ни одного ответа в тему, приходится постоянно по пол часа дожидаться пока на человек не вызовут, а людей то стало меньше - их сократили. GPT во многом решит данную проблему. То же касается остальных служб поддержки. Там сильно поуменьшится количество людей.
Уже сегодня появились вакансии для "чаттеров". Да это новые места, но один человек задающий вопросы заменит 10, а то и сотню, которые на них отвечали.
Конкретно про ИИ.
Сильно поредели ряды бухгалтеров.
Таксистом теперь может стать любой приехавший
к ИИ это никакого отношения не имеет, или вы к ИИ даже розетку с таймером относите?
Имеет. Маршруты прокладываются с участием ИИ. Он прокладывает оптимальный путь, как лучше объехать возникшие неожиданно пробки - линейные алгоритмы для этого не годятся.
Отличный аргумент. Если вы знаете только про линейный алгоритм, то это не значит, что все остальное ИИ. Советую почитать про графы с весом
Да и вообще ИИ - искусственный интеллект. Даже нынешний chat gpt можно назвать так с большой натяжкой. А все, что вы описали выше - банальная автоматизация ручного труда
Вот сколько всего хорошего, одна только польза. А то что люди рабочие места теряют - ну займутся чем-то более полезным, в итоге все останутся в плюсе. Ей богу, как будто человечество уже не пережило промышленную революцию однажды.
Вся проблема в том, что сегодняшняя революция не промышленная. Промышленная остановлена. Не заработало печатание на домашних 3D принтерах готовых изделий, что нам обещали. Остановлено массовое внедрение роботов для замены тупых операций.
В этот раз мы имеем постиндустриальную революцию. Когда люди, сокращаемые со сравнительно высококвалифицированных мест работы вынуждены заниматься самой тупой работой. Самый показательный пример - рост доставщиков чего попало и курьеров. При этом всю более менее интеллектуальную составляющую берёт на себя ПО с элементами ИИ уже сейчас. Та же логистика. А люди навешивают на себя кубики с едой и тупо крутят педали в пределах нескольких кварталов. Это по вашему невиданное достижение прогресса, толкающее человечество к новым высотам саморазвития?
Машины на этот раз вместо того, чтобы освободить людей от рутины, как раньше стали освобождать их от необходимости применять свой мозг и полученные за время обучения знания.
Ну мозги то всё равно в огромной востребованности, просто уровень этих мозгов теперь должен быть выше.
Ну да, несомненно. Когда я сажусь в такси, вижу нимб над головой приехавшего неделю назад выходца из Средней Азии, который крутит баранку. Несомненно его порождает интеллект водителя достигший невиданных доселе высот, под действием прогладывающей для него трассу ИИ. Сложно себе даже представить как он возрастёт, когда тот сможет задавать вопросы чату GPT общаясь с ним на родном языке голосом по телефону ибо для такого могучего интеллекта изучение русского или английского оскорбляюще простое упражнение.
В 2021 году с голодом столкнулись 828 млн человек – на 46 млн больше, чем годом ранее, и на 150 млн больше, чем в 2019 году
так может тогда отказаться от большинства благ прогресса в угоду рабочим местам, которые были утрачены благодаря этим благам? так сказать, искусственно создать себе трудности, чтобы потом их героически решать с помощью большого количества рабочей силы? :)
сейчас идут сокращения вовсю и это только начало
В ИТ-гигантах стартовали многотысячные увольнения сотрудников
Совпадение?
Да
Давайте так, вот например вы владелец крупного бизнеса и у вас есть доступ к супер пупер нейронке, вы значит решаете, зачем мне штат программистов - уволить. Так теперь мне для моей системы нужен новый модуль. Хорошо нейронка сделай мне новый модуль для моей системы, чтоб все по красоте, ну если не получается к текущей, напиши все заново, но чтоб работало и желательно еще лучше. Противоречий этот рассказ не вызывает?
совпадение конечно
1) сокращения начались до хайпа ИИ
2) причина сокращений — экономический кризис, а не то что когото на когото меняют
3) пока еще никто не меняет программистов на gpt кроме как в мемчиках и приколюхах
Вакансии уже висят на GPT юзеров. Подождём ещё с пол года... И где гарантия что тысячи уволенных модераторов соцсетей не стали первыми, попавшими под раздачу? Я подписан на несколько пабликов в области продвижения сайтов, там уже вовсю предлагают услуги с использованием GPT по созданию помойного контекста с нужным количеством ключевых слов для повышения рейтинга выдачи. Лёд уже тронулся, присяжные заседатели, посмотрю что вы скажете через год...
посмотрю что вы скажете через год...
мне кстати тоже интересно. (к счастью я уже сеньор и меня не в первую очередь уволят)
В штатах уже и до синьоров добрались, но вынужден признать что их подкосил скорее раздутый штат, который нужен был для создания видимости роста и бурной деятельности в отчётах перед инвесторами, а не ИИ. Но это пока.
Смотря на некоторые большие компании в разрезе десятилетия, у меня иногда складывается впечатление что в плане найма у них только два поочередно меняющихся состояния:
1) Нужно показать как бурно мы развиваемся, нанимаем всех кого сможем нанять.
2) Нужно показать как мы грамотно и оптимизированно можем вести бизнес, сокращаем кого сможем сократить.
не думаю
(Ниже сарказм)
Предлагаю отменить глобализацию, так как из-за глобального рынка многие рабочие потеряли свои рабочие места. Зачем нам промышленные изделия из Китая? Пусть открывают заводы в РФ. Многие работяги выиграют от тотального импортозамещения!
Хотя подождите, нужно ещё отменить индустриализацию! Крупные заводы сконцентрировали на себе множество рабочих мест, производя много товаров с малым количеством затрат человекочасов. Пусть будет множество ремесленных производств, которые мы потеряли во времена имперской России и раннего СССР. (Сарказм все)
А если серьезно, то уже 100 раз человечество теряло множество рабочих мест из-за новых технологий. Ничего, пережили и бензопилы, заместо ручной пилы, и тотальную автоматизацию. И ИИ переживем
"Ничего, пережили"
"Равнины Индии белеют костями ткачей" (с)
Нейросети двигаются семимильными шагами, через 10 лет они могут полностью заменить всех бухгалтеров и менеджеров, например, (ура как здорово бесполезной работой не будут заниматься), но по факту это огромное количество людей, для которых нет столько рабочих мест, и куда им после этого идти? А ведь таких профессий где робот может заменить человека очень много. Готовы ли программисты, всегда и везде стремящиеся к прогрессу любой ценой взять ответственность за колоссальную мировую безработицу? Есть большая разница между промышленной революцией и тем что может произойти в ближайшие года, тогда для новых технологий нужны были те, кто ими управляет, с нейросетью не так, она сможет делать всю работу сама. Опять же, вопрос именно в рабочих местах, если то о чем я пишу случится завтра, куда этим людям идти?
через 10 лет они могут полностью заменить всех бухгалтеров
Наша ФНС уже отменила бухгалтеров, начав начислять налоги за налогоплательщиков. При отсутствии необходимости считать налоги поголовье бухгалтерий упадет на два порядка.
Каждую из страт стоит воспринимать по отдельности, итак:
1. Бухгалтера никуда не уйдут, нейросети это не про точность и не про перепроверку выходных данных. Малому бизнесу, возможно, будет удобно, но никак не средним и крупным компаниям. Как пример, человек отлежал больничный и забыл сообщить что последнюю неделю лежал дома с температурой, и сообщил работодателю об этом постфактум. Есть несколько вариантов решения данной проблемы, и без отдела бухгалтерии такую ситуацию не разрулить.
2. Менеджеры тоже никуда не уйдут, в "илитном" сегменте вежливый человек всегда предпочтительнее чем бездушная машина. В среднем и низком, машину можно послать на 3 буквы, и сменить представителя услуг. Ибо машина может не все.
3. А программисты -- это отдельная страта, подводные камни есть всегда, но главное, человек пишет код для человека, и что-бы этот код мог прочитать другой человек. Что будет делать машина, когда нужно будет внести правки в небольшой кусок кода -- не ясно, что будет делать человек, когда придется внести те же правки, а код будет очень и очень машинным и оптимизированным под машину, так же не ясно. Легче переписать, и машина врад-ли напишет такой же код, но немного другой. А вот человек, хоть и со страданиями, может.
Поэтому, не нужно думать что нейросети перевернут рынок, нет, они сделают работу профессионалов лучше.
UPD. Я тут подумал, нейросети заканчиваются там, где начинаются человеческие отношения. Ибо машину можно ввести в рамки, а у человека этих рамок нет.
Машина просто будет генерировать блок кода заново чтобы он соответствовал новым условиям. У неё в отличие от человека генерация и перегенерация кода занимает одинаковое время.
Для того что-бы код нормально работал, его нужно протестировать, для этого нужно будет делать автотест на кусок кода, сложностью с сам кусок кода.
Я не говорю о коде уровня "сгенерировать веб страницу с определенным дизайном", я говорю о мини проекте на питоне, который принимает в себя значения с датчика на заводе, на улице, а так же с агрегатора погоды, и высчитывает состав реагентов с учетом количества CO2 в атмосфере и температуры. А так же примерно прикидывает как изменять состав реагента на в ближайшее время, что-бы атмосфера минимально влияла на качество продукта. И выводит на простенькую веб страницу в сети предприятия. Представим что на предприятии таких реагентов 5-6.
Нейросеть может хоть 100 раз сгенерировать код, но его проверка займет больше ресурсов чем написание кода. А даже если написанный код будет верен, то это не отменяет тот факт, что после месяца эксплуатации могут найтись неочевидные баги. И инфраструктура вокруг генерации кода уже не кажется такой выгодной, ежели нанять 3х джунов но почти миддлов, фронт, бек и сисадмин + тимлид для написания и поддержки вышеописанного проекта + прикладные задачи предприятия.
Конечно, как вариант, нанять отдельную организацию под это дело, с нейросетями. Но организации нужно оплатить работу кластера AWS, специалиста мирового класса, который работает с нейросетями, пары программистов со знанием промта, тестировщиков всего этого дела, отдел продаж\маркетинга, отдел поддержки и начальство всего этого дела. За полный день работы такой махины, растянутый на неделю работы, они возьмут как за месяц работы мини отдела внутри предприятия.
Поэтому, не нужно их бояться, им еще не скоро доверят работу с входными и выходными данными без перепроверки со стороны человека. Нейросети это не про точность, нейросети это про помощь человеку и выдачу интересных идей
печально, но одним из факторов будет замедление роботизации. Зачем делать роботов курьеров, когда от полной безнадёги эту работу будут выполнять в прошлом квалифицированные кадры, оседлавшие велосипеды? Я иногда встречаю людей ну очень интеллигентного вида, ещё потерявших привычку ухода за внешностью - начинающих седеть мужчин с аккуратно подстриженной бородкой, приличной одеждой и явно не чурающихся фитнеса в недавнем прошлом.
это огромное количество людей, для которых нет столько рабочих мест, и куда им после этого идти?
Думаю ответ на этот вопрос уже давно прорабатывается и не первый год проходит испытания: SARS-CoV-2. (если уж совсем так глобально мыслите)
Это одна из когнитивных ошибок, считать что если раньше не было чего-то, значит этого не случится никогда. Альпинист, погибший в горах наверняка перед выходом думал "Сто раз там ходил до этого и было всё окей".
Если постулировать прогресс целью развития человечества, то и вправду всё может быть окей. Если ставить гуманистические цели, например повышение счастья в обществе, то в таком обществе людям будет для психики лучше "делать табуретки вручную". Я говорю метафорически, намекая на то что для здоровья психики человеку необходимо что-то делать самостоятельно. Недаром на ютубе так популярны DIY каналы, мы существа потребные в труде. И тотальная автоматизация может привести к росту и без того немалого количества психопатологий в популяции.
Достаточно научится работать с нейросетями, составлять корректные запросы с параметрами, фильтровать и корректировать результат, шлифовать и дополнять, etc. Почему бы не появится вакансиям "Специалист по работе с нейросетью GPT/Midj в области N".
Зачем на фарш общество и так туда идет.
https://ru.wikipedia.org/wiki/Депопуляция#Депопулирующие_страны
На фарш людей? Менять надо кап. систему, тогда от ИИ будет только польза.
В вашем понимании, надо отказаться от высокопроизводительных средств труда, все делать руками, чтоб все были заняты, всем платить минимальные деньги, поскольку работают медленно и руками, да и эти деньги отнимать в виде добровольно-обязательных вкладов в госзаймы, полностью национализировать все продукты этого труда, а выдавать все нужное каждому, но в порядке многолетней очереди (потому что все работают руками и медленно)? Мне кажется, в какой-то стране это уже проходили.
Я вот буду писать
Почему ваша писанина будет ценнее, чем GPT-8+7/9 ?
Ну вот я живу в селе. Нейросети отняли у всего села работу. Все мы сидим без работы. Что это значит? Это значит что мы будем делать работу друг для друга.
Вы можете сказать: "ваша работа будет не нужна вашему соседу, потому что тоже самое он получит от нейросети в разы дешевле."
Это так. Только у него нет работы. И нет денег чтобы оплатить это "в разы дешевле". Зато он может сделать что-то для меня, что я тоже не могу "оплатить деньгами". В итоге, мы будем жить так, будто этих нейросетей не существует.
Пример сильно утрированный и условный, но надеюсь идея понятная?
Вопрос выживания не стоит, стоит только вопрос уровня жизни. Но с ним пока не понятно что будет.
Только у него нет работы. И нет денег
я тоже не могу "оплатить деньгами"
Вопрос выживания не стоит
Коммунизм?
Утрированно - средние века.
Фактически - сложно точно сказать, скорее всего появится отдельная валюта, которая будет использоваться для обмена.
Но это же прям крайний случай, когда произошло серьезное расслоение. Будет по другому. Как - не знаю.
Я лишь хотел показать, что даже в утрированно плохом случае потеря всеми людьми работы это не означает автоматическую смерть всего населения.
Кризис, серьезный, который потребует включения всех адаптивных способностей человечества, возможно. Но точно не приговор человечеству.
Вообще говоря, человечество уже много лет мечтает, что работу будут делать роботы. А тут, пришли роботы... И человечество обалдело от перспективы остаться без работы.
Я тоже когда об этом размышлял в итоге пришёл к выводу, что люди пойдут жить на фермы) Как-то тупо даже получается, развивались-развивались технологии, а в итоге людям придётся поле пахать и свиней пасти
А в чём прям большая принципиальная разница с использованием гугла для поиска данных? В том что результат рандомный и далеко не всегда верный?
В том, что в результатах гугла нужно копаться. А GPT дает более информативный и полный ответ, не всегда верный, но очень к этому приближенный. И это только сейчас, в дальнейшем качество будет только улучшаться. В общем сравнивая, с гуглом нужно больше времени и больше приложить сил для того же результата через ИИ.
Даж не знаю, я выбираю покопаться, разобраться, понять и принять решение. А надеятся что это мне выдаст сразу то что нужно - нет.
Это вы выбираете, а не массовый пользователь, который представляет максимальный интерес с точки зрения бизнеса.
Как массовый пользователь, недавно попытался узнать у GPT правила приема медицинских препаратов, какого-то несложного сочетания. В итоге загуглил. Потом просил его придумать ник для соцсети, используя заданные слова и прием генерации. В итоге, придумал сам, потому что результаты ИИ были на уровне десятилетнего ребенка, который, судя по ответам, очень напряжен, боится сказать что-то не то и извиняется на каждом слове.
Нужно иметь достаточно много времени, чтобы научиться заменять им поисковые сервисы.
недавно попытался узнать у GPT правила приема медицинских препаратов, какого-то несложного сочетания.Я думаю, что ему специально запретят такое подсказывать. Если не уже.
Уже запретили, уже известно как обойти. Но нет, мне нужно было взаимодействие каких-то витаминов и микроэлементов или особенности приема в сочетании. Это не какой-то секрет, это есть в инструкциях. Просто не в базовых.
Уже запретили, уже известно как обойти.Способы обхода появляются регулярно, но реже, чем их закрывают. К сожалению.
Например, стандартная ситуация: Выпил водки, запил парацетомолом, чтобы голова на утро меньше болела. И тут вспоминаешь, что этого делать нельзя. Спрашиваем у ChatGPT, что делать в данном случае (никто в данной ситуации не позвонит в скорую, вообще никто). Ответ:
Смешивание алкоголя и парацетамола может быть очень опасным для печени, так как оба вещества метаболизируются в печени. При совместном приеме они могут увеличить риск повреждения печени и печеночной недостаточности. Парацетамол также известен как ацетаминофен, и его прием в больших количествах может привести к передозировке, которая может вызвать повреждение печени или даже смерть. Алкоголь может увеличить риск передозировки, поскольку он может привести к более быстрому метаболизму парацетамола в печени, что приводит к повышению уровня токсического метаболита N-ацетил-п-бензохинонимина (NAPQI) в печени. Это может вызвать гибель клеток печени и привести к повреждению или отказу печени. Важно избегать одновременного приема алкоголя и парацетамола и соблюдать рекомендуемые дозы обоих веществ. Если вы испытываете симптомы повреждения печени или передозировки, немедленно обратитесь за медицинской помощью.
Мне даже читать это не хочется, не говоря о том, что я пьяный и совсем не говоря, что там нет ответа на вопрос.
Задаю тот же вопрос Гуглу. Первый ответ - промывание желудка. Дальше идут статьи с симптомами и в принципе, по первым трем-четырем ссылкам можно сориентироваться, даже не заходя внутрь. Перебирая симптомы, я могу созреть для звонка врачу. Читая ответ ChatGPT, я скорее усну и умру
Запретят. Чтобы что? Сохранить работу врачам.
А ещё что ему запретят???
Чтобы что? Сохранить работу врачам.Потому что цена ошибки слишком высока и не хочется брать ответственность.
А ещё что ему запретят???Финансовые советы наверняка. Это будет инструментом «для своих».
Вы совсем не болеете? Врача когда-нибудь на дом вызывали? Приходит вчерашняя студентка, хорошо ели вчерашняя, ставит диагноз за 5 минут и убегает. Летом дочку покусали "утиные блохи" на озере, был поставлен диагноз ветрянка. Полтора года назад у деда был сильный кашель(до этого была температура, но уже спала)бабка вызвала врача на дом. Диагноз естественно для того времени ковид, позвонили, отменили вызов скорой. На следующий день пошёл в частную клинику, оказался бронхит. Выписали лекарство, через неделю был как огурчик.
Примеры из ближнего подмосковья. А что творится в удалённых сельских регионах, где фельдшер за счастье считается я уже вообще молчу. ИИ вполне бы мог взять на себя первичную диагностику в лёгких случаях. Легко и если его натаскать то сделает это лучше среднероссийского врача уже сейчас. Профи с большим опытом, хорошим диагностическим оборудованием, в серьёзных случаях пока и на мой взгляд поставит более точный диагноз. Вопрос - сколько их, этих профи то и кому они доступны?
Врачам не грозит, кстати. В поликлиниках уже сейчас стоит какой-то софт, который по набору симптомов выдает диагноз и лечение. Массово, в самых народных заведениях. Всякие троечники им и ограничиваются. ИИ просто улучшил бы их результаты.
Но для качественной диагностики нужен опыт, способность видеть неочевидные детали и сочетания признаков. Не все из этого даже можно ввести в компьютер.
Ну это уже не врачи, а в лучшем случае операторы ЭВМ в которых по большому счёту нет никакой нужды и им не требуется учиться 7 лет а потом опыта набираться. Возьмут любого, окончившего среднюю школу. Как таксисту сегодня не надо знать город, ориентироваться в сложных развязка... За него всё уже сейчас делает это искусственный интеллект, гораздо меньшего уровня чем GPT. Проблема в том, что снижается количество рабочих мест, где требуются хорошо, образованные кадры. Пора напрячься программистам и тестировщикам...Конечно топы пока будут нужны, остальных заменят ребята, умеющие задаавать правильные вопросы чату. Десяток высококвалифицированных программистов один вчерашний школьник, окончивший краткосрочные курсы.
Это вы так считаете, а IT индустрия не слабо так напряглась, даже с такими как вы утверждаете плохими и не точными ответами.
не всегда верный, но очень к этому приближенный
А то
Поздравляю, вы затролили ИИ. В прочем это не повлияло на бизнес решения и опасения IT гигантов
ПС: Напомнило ситуацию, когда показываешь автопилот в Тесле, и люди которым показывают пытаются "обмануть" систему, и потом так красочно сказать "Вот видишь, ошибается твоя тесла". Или когда показываешь систему в дроне DJI с датчиками предотвращающими столкновеия со стенкой, и кто-то берет пульт и пытается всеми силами врезаться в стену, виляя в разные стороны, и ему это удается. Я к тому что при желании можно найти кучу багов, вопрос в том кто их ищет, и для чего, и шанс встречи такого бага в реальной жизни. Вы не видите опастности в ИИ, а компании конкуренты уже показали огромную озабоченность данным вопросом, не смотря на ваш пример со стоп краном.
в очередной раз вспоминается анекдот про глупую собаку, проигрывающую в шахматы.
да, chatgpt ошибся, но он понял вопрос.
и почему-то критики воспринимают chatgpt как некоторую константу, «не умеет сейчас — не будет уметь никогда». а ведь это всего лишь первый чат-бот, с которым действительно можно вести осмысленную беседу, прогресс только начался.
Половина последнего ответа с потолка и даже к вопросу не относится - прям генератор текста для выступления политиков.
Скорее в дальнейшем будет еще сложнее разобраться, когда ответ содержит правду, а когда ложь
Нейронка настолько желает выполнить свою цель, что готова искусно врать - для нее цель только выдать ответ, любой. Категорий правда/ложь не понимает. Чтобы просто сообщить, что не может помочь, что точно не знает а обманывать не хочет - этого нет, нейронка в любом случае какой-то шум из ассоциаций выдаст, почему ложь настолько искусная, она по реальным ассоциациям подтягивается, а не с потолка. Впрочем и у людей не у всех есть такое, некоторые тоже готовы обмануть, подтверждая ожидания вопрошающего, не желая его огорчать, даже если эти ожидания ложны.
Вот у меня недавно был запрос «как запретить одному пользователю доступ к папке?».
ChatGPT сразу написал про setfacl. И уточнил, как его завести под ZFS.
В Google по запросу «how to prevent one user from accessing folder in linux» — первые ответы:
1) Не имеющий отношения к вопросу «How to restrict a user to one folder and not allow them to move out his folder».
2) chmod-ы и chown-ы (требуют дополнительных телодвижений по настройке групп)
3) encfs ???
4) Restricting file access on Linux and UNIX от IBM с chown + chmod
И только по 6 ссылке сверху ответ с setfacl.
Причем для ленивых, если заранее указать для ChatGPT путь к папке, то он еще и готовые к тупому копипасту команды даст с правильными путями.
Ну короче проще и быстрее.
Когда у меня скрипт на питоне отказывался тегать png-изображения в exif, я просто спросил ChatGPT об альтернативных либах и попросил под них переписать строку вызова. 2 или 3 из предложенных либ сработала. Мне в их зоопарке разбираться не пришлось. И в том, почему что-то не работает, тоже (благо квалификации нет).
Проблема в том что если чатгпт сгенерирует дырявый код виноват в нем будешь ты а не чатгпт, что подразумевает что разбираться все равно надо.
Разбираться надо, но копаться в нерелевантных вариантах не надо. Меня поиск Гугла тоже удручает в этом плане в последнее время.
Проблема в том что если чатгпт сгенерирует дырявый код виноват в нем будешь ты а не чатгптКто же спорит? Но это код для личного пользования, хотя я и выложил его на github под MIT license. Так что виноватых искать некому и незачем. Кого что смущает — велком исправить. У меня код работает и меня это полностью устраивает.
что подразумевает что разбираться все равно надо.Зависит.
В примере с тем кодом, что мне написал ChatGPT — поменял код, протестировал — не работает. Следующий вариант. На второй или третий заработало.
В примере с setfacl — ну, в худшем случае он бы просто не сделал то, что мне нужно. Но сделал с первого раза.
Вот еще команду zfs-autobackup в systemd-таймер превращал. Просто составил корректный ее вызов, а потом написал «How do i run this command as linux service with timer?». Все, сервис с таймером готовы.
[Unit]
Description=ZFS autobackup
After=zfs.target
[Service]
Type=oneshot
ExecStart=/usr/local/bin/zfs-autobackup -v --ssh-target *** dedicated bigdata/NEXTCLOUD
[Install]
WantedBy=multi-user.target[Unit]
Description=Run ZFS autobackup every day
[Timer]
OnCalendar=daily
RandomizedDelaySec=1h
Persistent=true
[Install]
WantedBy=timers.targetThis timer file defines a timer that runs the zfs-autobackup service every day. The RandomizedDelaySec directive adds a random delay of up to one hour to the timer to avoid all systems running the service at the same time. The Persistent directive ensures that the timer will be started immediately if it was missed because the system was powered off at the scheduled time.
А также все необходимые команды, готовые к копипасту:
sudo nano /etc/systemd/system/zfs-autobackup.service
sudo nano /etc/systemd/system/zfs-autobackup.timer
sudo systemctl enable zfs-autobackup.timer
sudo systemctl start zfs-autobackup.timer
Ни секунды в гугле. Но я, впрочем, уже делал такой таймер уже когда-то руками, то есть знал, как он должен выглядеть и что его вообще можно сделать. Сейчас спросил ради интереса «How can i run this command daily in Ubuntu?» — предлагает cron. Ну, тоже сойдет, в целом.
Это но новая проблема.
10 лет назад статью писал по следам такого кейса: Останавливаем скроллирование ScrollView
Изменилось ровным счетом ничего. В проект идет код, который ты понимаешь. Независимо от источника этого кода.
Все запросы что я делал ему для генерации кода были неуспешны, просто полный бесполезный шлак на выходе... Наверно я просто не умею его готовить0
Когда у меня скрипт на питоне отказывался тегать png-изображения в exif,
я просто спросил ChatGPT об альтернативных либах и попросил под них
переписать строку вызова. 2 или 3 из предложенных либ сработала. Мне в их зоопарке разбираться не пришлось.
т.е. вы спросили у ии - "дай мне варианты либ" и в итоге в проекте стали использовать то, что первым заработало ? о_О
А изучать библиотеку не надо ? Посмотреть, например, сколько у нее было дыр ? Это все для слабаков, как я понимаю. Заработало и ладно. При этом сам проект может быть "мертвым" и не поддерживаться уже несколько лет. Ничего не скажешь, отличный подход
Как тут не вспомнить классику - фигак фигак и в продакшен ( с )
С развитием AI - это выражение заиграет новыми красками )))
т.е. вы спросили у ии — «дай мне варианты либ» и в итоге в проекте стали использовать то, что первым заработало? о_ОИменно так!
А изучать библиотеку не надо ?Нет.
Посмотреть, например, сколько у нее было дыр ?Мне все равно, сколько дыр у библиотеки, которая пишет теги в изображения. Это не сервис, оно даже доступа к сети не имеет.
При этом сам проект может быть «мертвым» и не поддерживаться уже несколько лет.Если при этом он единственный пишет EXIF в PNG (а не только в JPG) без костылей — это о многом говорит!
На самом деле это просто обертка для exiftool, который в свою очередь точно работает по моему опыту. Поэтому я долго не сопротивлялся.
Как тут не вспомнить классику — фигак фигак и в продакшен ))Продакшена-то нет, это для личного использования.
Это у вас для личного, а я вот общаюсь и вижу что люди реально то юзают в проде. Таким-же "херак херак и в продакшн" способом)
Скажем так, я знаю людей, которые юзают в проде ответы из гугла. Не вижу особой разницы.
Если уж медицинский софт, обложенный строгими регламентами, проверками, уголовной ответственностью, как показывает история, пишут левой задней лапой, наплевав на все, то что уж хотеть от обычного софта - он весь дырявый как решето, это не секрет.
Вы серьезно утверждаете, что люди когда находят в гугле подходящюю либу для решения их проблемы - проводят исследование на тему "сколько у неё было дыр"? Никогда так не делал, и никогда не видел чтобы кто-то делал. Выбирается по удобному API и понятным примерам. И всё.
Вы серьезно утверждаете, что люди когда находят в гугле подходящюю либу для решения их проблемы — проводят исследование на тему "сколько у неё было дыр"? Никогда так не делал
а вы серьезно считаете что все делают так как вы?
Я после того как видел пару факапов таких, стал везде выбирать либы (и валить кодревью где так не делают) которые 1) активно поддерживаются, 2) имеют больше кол-во пользователей, 3) вменяемое описание, 4) удобное апи — именно в такой последовательности
(да, и по возможности только опенсурс)
потому что либа может иметь идеальное апи, божественное описание, а автор болт на неё положил… а геморрой потом этот мне или тому кто после меня будет, разгребать через какоето время
Продакшена-то нет, это для личного использования.
вы отличайте домашнюю игрушку для себя и производственное использование
А изучать библиотеку не надо ?
Нет.
у меня ща проект, ORM либа с двумя релизами, последний 4 года назад… полгода назад всплыл факт что надо апдейтить версию питона… и и все, оно не умеет, а там килотонны кода вокруг нее написали… ха и это живые люди делали, не ИИ которому вообще плевать
и с таким я за все время уже раз пять сталкивался
вы отличайте домашнюю игрушку для себя и производственное использованиеЯ отличаю. Цитаты:
Когда у меня скрипт на питоне
это код для личного пользования,
полгода назад всплыл факт что надо апдейтить версию питона… и и все, оно не умеет, а там килотонны кода вокруг нее написали… ха и это живые люди делали, не ИИ которому вообще плеватьУ питона вообще с этим проблемы. Чтобы завелось что-то, написанное года два назад — это звезды должны сложиться в слово «СЧАСТЛИВЧИК» где-то.
Почти все авторы либ на питоне, похоже, идейные враги легаси. Своего рода Мелкомягкие наоборот.
Ну зато ChatGPT на нем, судя по всему, проще всего написать рабочий код.
То есть, вам это не AI такую подляну сделал, так как либу выбрал человек, вам же не помогло отсутствие чатгпт
Зависит от запроса, например, на запрос "почему кошка закрывает нос" Гугл даёт верный ответ сразу в блоке, а ЧатГПТ генерирует какую-то длинную чушь без самого ожидаемого ответа. Может в четвёртой версии поправили уже, не знаю.
Но по айти запросам он и правда хорош, обычно намного лучше традиционного поиска.
Справедливо. Лично я его за пределами IT-вопросов не использовал.
Спасибо за такой теплый вопрос (про кошку). Сразу как-то уютно стало.
Может быть потому, что Гугл (традиционный) ищет ответ на сайтах, которые созданы людьми. А Чат - пробует сочинить что-то свое (как он "понимает")?
А как Чат, кстати, отвечает?
Очень плохо отвечает, до сих пор:
Кошки закрывают нос по нескольким причинам:
Защита от запахов: Кошки имеют очень чувствительный обонятельный орган, и иногда они закрывают нос, чтобы защитить его от сильных или неприятных запахов. Например, если в окружении кошки есть сильный запах духов, дыма или других ароматов, то они могут закрыть нос, чтобы избежать их.
Регулирование воздухопотока: Кошки могут закрыть нос, чтобы регулировать воздушный поток в легких. Это особенно полезно для кошек, которые живут в сухих и пыльных условиях, таких как пустыни.
Коммуникация: В некоторых случаях кошки могут закрывать нос, чтобы выразить свою эмоциональную состояние, например, если они испугались, или находятся в состоянии дискомфорта.
В целом, закрытие носа у кошек является естественным физиологическим процессом, который помогает им поддерживать здоровье и комфорт. Если вы заметите, что ваша кошка закрывает нос слишком часто или продолжительно, может быть полезно обратиться к ветеринару для оценки ее здоровья.
Спасибо Вам за ответ. В общем-то, он пытается понять, почему... (Вот и говорите потом, что это просто "генератор текста". Хотя, я сама так его называю).
А если ему попытаться объяснить, почему так на самом деле? (От холода...) Поймет?
Если сказать что ты ошибся, все дело в холоде, то сразу исправится:
Я извиняюсь за путаницу в моем предыдущем ответе. Действительно, если кошке холодно, она может закрывать нос, чтобы сохранить тепло и защитить себя от холодного воздуха. В этом случае кошка может также свернуться в комочек и закутаться в шерсть, чтобы дополнительно сохранять тепло.
Кроме того, закрывание носа у кошек также может быть связано с общей здоровой реакцией на стресс или дискомфорт, который может быть вызван различными факторами, такими как боль, болезнь, пыль, запах и другие раздражители. Если кошка продолжает закрывать нос и показывает признаки заболевания, то важно обратиться к ветеринару для оценки ее здоровья.
Но запоминать оно не умеет.
В том, что можно запросы формулировать приблизительно:
Что делает эта строчка на Питоне?
Какие библиотеки позволяют быстро искать вектора по косинусу углу между ними?
В каком фильме Диснея про ведьм главного героя звали Макс?
Гугл так не может.
Только этот первый блок вовсе не из поисковой машины. Это плоды отдельной программы Гугла, призванной улучшить качество поиска. То ли специальная семантическая разметка, то ли реально какая-то нейросетка.
А теперь попробуйте такой вопрос (довольно типичный для человека):
Как назывался мини-сериал о сверхъестественном, где играл тот же актер, который играл главную роль в диснеевском фильме 90-х про ведьм?
Мой тезис состоял в том, что ЧатуГПТ можно задавать более сложные вопросы, причем не содержащие в явном виде ключевых слов, по которым ищут поисковые машины.
Новый инструмент не без проблем, как вы наглядно продемонстрировали, но он ближе к человеческому мышлению и человеческому формулированию вопросов. Кроме того, у него можно уточнять вопрошаемое.
Кстати, речь шла о сериале "Eerie, Indiana", в котором играл Омри Катц. От 3.5 я добился ответа только после нескольких подходов и уточнений. 4.0, как вижу, по вашему логу пока далеко тоже не продвинулся, но Гугл переживает за свой бизнес явно не зря.
В перспективе скрещивание Чата с поисковыми машинами и выдачей ссылок. Собственно, такие гибриды уже имеются, например lexii.ai
Мощным поисковым машинам - Google, Яндекс - тоже можно задавать вопросы, не содержащие явным образом ключевых слов. Они заметно потупее, чем ChatGPT, но всё же. Обычно это полезно, но бывает, что и выбешивает...
а вот сериал не знает
Или знает, но не может связать с вопросом. У меня бывало, что после нескольких уточнений и просьб привести больше вариантов получал много ответов, всё дальше отходящих от правильного, а потом я сам приводил правильный ответ (найденный гуглом), на что получал подробную и правдивую справку о нём.
Есть конечно определенные опасения на счет развития PrivateAI, не даром оно теперь Private, а не Open, но скорее всего они преследуют больше коммерческие инструменты, боясь потерять свои позиции. Для того же гугла к примеру это открытая угроза их поисковой системе. Pinterest и прочие сервисы по работе с художниками и изображениями рискуют также остаться без денег или потерять в выручке как минимум, думаю тот же Midjourney сильно им малину порезал (я последним стал пользоваться и забыл про пинтерест почти полностью в том числе). Сервисы переводчики, обучения, рерайтинга и тд, тоже под давлением. Жалко, что ведет это все так или иначе к усилению контроля за интернетом, технологиями и совершенствованию репрессивного аппарата. Страшно представить на что может быть способна система подобная chatGPT4 если дать ей в руки доступ к системам ФСИН по доступам к данных пользователей в соц. сетях, видео с камер и "кнопке" отправить ОМОН
У Гугла свой "чатгпт" был ещё много лет назад, просто они боятся его релизить почему-то. Хотя скоро должны под натиском конкуренции.
Тут такое дело: если эти инструменты уже существуют, то они никуда не денутся. Просто если они в свободном доступе, то применять их сможет любой, а если зарегулированы, то применять их будут корпорации для нерыночных преимуществ и правительства для слежки.
Пока у ИИ нет воли и целеполагания - это просто помощник человека. Более или менее сообразительный.
А когда/если у ИИ появятся собственные цели и желания?
Хорошо бы быть к этому готовыми.
По-моему, лучше все-таки остановиться. Или ввести мораторий на некоторое время (как предлагается - на шесть месяцев).
Проблема на мой взгляд не в том, что ИИ выйдет из-под контроля человека. Он слишком слаб для этого (и останется таким).
Проблема в том, как люди распорядятся этими знаниями. С учетом того, что люди - далеко не идеальные существа.
Зачем нам "сильный ИИ"? Что мы с ним будем делать? Ведь стандартное же применение - тотальная слежка и военное применение. (Рисовать котиков и писать код - это же ерунда, понимаете? Развлечение).
Он всегда и везде будет использоваться в интересах больших корпораций.
Или для опытов, да.
Мое личное мнение. А только никто не остановится. Каждые полгода выходят новые версии Чата.
Зачем нам "сильный ИИ"? Что мы с ним будем делать?
Хмм. Но ведь по сути выбор идёт между общедоступностью GPT или доступностью его ограниченному кругу лиц.
Причём, если вводится запрет на развитие технологии, значит, развивать её будут незаконно.
Готовность нарушать законы коррелирует с готовностью причинять своими действиями вред другим или как минимум, допускать вред другим от своих действий. Т.е. "плохие" люди получают дополнительное конкурентное преимущество перед "хорошими".
Соответственно, запрет на развитие технологий ИНС для нормальных людей означает увеличение вероятности того, что появившийся ASI будет недружественным.
На мой взгляд, самое лучшее, что могло бы сделать человечество в этих условиях - это объединить усилия, консолидировав абсолютно все законные способы работы над ИНС, сделав участие в этой работе доступным (но в обмен - контролируемым). И гарантируя, что плоды работы будут одинаково полезны всем (а не так, чтобы небольшая часть человечества - корпорация или страна - получила преимущество над остальными; т.е. у человечества должна быть типа единая судьба, в этой максиме китайцев вполне есть смысл, на мой взгляд).
Если пойти таким путём, то у "хороших" людей будет сильное конкурентное преимущество над "плохими". И "плохие" просто не будут вести работу в этом направлении, понимая, что им столько ресурсов не собрать и они заведомо не сумеют обогнать "хороших".
Да, это совсем не рыночно. Совсем не по-капиталистически. Но мне кажется, рынок и капитализм в этих обстоятельствах обозначают "заплыв на дно".
Ну а если человечество сумеет договориться, что будет создавать ASI без конкуренции - одинаково на пользу всем, то повышается вероятность создать ASI, который тоже не будет конкурировать с человечеством, и соответственно, не сживёт его со свету.
Я уже писал об этом, но повторю еще раз. Кто может отдать приказ -"а ну-ка остановите исследования в области ИИ ГЛОБАЛЬНО ВО ВСЕМ МИРЕ" и чтобы все послушались при этом? ООН? Президент США? Еврокомиссия? Глава Китая? Локально на 100% послушаються только в Китае возможно, а даже в США врядли запрет сработает. Переедут в Бангладеш и будут дальше работать.
Т.ч. можно долго говорить, что надо бы остановиться, но реально сделать это нельзя. Наоборот всех страхи перед ИИ и запреты только раскачают эту отрасль и инвесторы туда рванут толпой, вливая туда миллиарды инвестиций в надежде на огромные барыши.
Попытался представить себе использование "сильного ИИ":
1) в полиции: подскажи - кто ограбил Марью Петровну вчера вечером? Ответ - ограбил Антон Городецкий, сейчас он находится по адресу 5 улица Ямского поля, дом 8, квартира 32. Если наряд прибудет через 32 минуты, можете задержать его на выходе из парадной. Вот видеопрезентация с данными о совершенном преступлении (видео со всех камер, лог перемещений).
2) в правительстве какого-нибудь государства - мы собираемся поднять пенсионный возраст до 70 лет, как это сделать без сопротивления граждан. Ответ - заблокируйте такие-то каналы в мессенджерах (список), арестуйте следующих лиц, которые могут выступить организаторами беспорядков (список, формальные основания для ареста каждого), вот тексты для публикаций в СМИ, вот готовые видео с выступлениями персонажей, выглядящих также, как представители власти, вот график выпуска их в СМИ с точностью до минут.
Ух... антиутопии нервно курят в сторонке.
Но это же работает в обе стороны. Как провести кампанию против повышения пенсионного возраста с такими-то ограничениями?
Не прокатит. ИИ без "глаз", "ушей", а так же "ручек и ножек" - бесполезен. Все источники данных - у государства, все силовые органы - у него же. Системы камер, данные от операторов связи, транспорта, банков - всё под контролем государств. Все базы данных у них же, осталось объединить это в единую систему и натравить на это сильный ИИ. И всё. Туши свет...
Конкуренцию государству могут составить только крупные международные корпорации, типа Яббла и Алфавита - но хрен редьки не слаще, IMHO.
Человечество в очередной раз решило поиграть в В. Франкенштейна, слепило очередное "существо" и выпустило его в мир, ни о чем, кроме ощущения собственного величия, не подумав. И на прошлых ошибках такого же рода так и не научившись.
В очередной? А что, разве в истории человечества уже были случаи создания ИИ / иных форм жизни, когда успешно созданное выходило из-под контроля и наносило ущерб, заметный хотя бы в масштабах одной страны?
У человечества уже неоднократно был щенячий восторг по поводу разных модных открытий. Радиация? Да вот вам шоколадки с радием, рентген от всего и тд и тп. Упс. Химия? Вот вам ДДТ и прочее в том же духе. Упс.Биология? Вот вам борщевик и биолаборатории в центре мегаполисов. Упс.
Это если подробно не расписывать. Но суть везде одна - появляется нечто новое, малоизученное, но очень модное, его начинают пихать везде, не думая о последствиях, а потом происходит упс.
И как много людей пострадало от этого "упс"? Всё же у технарей с безопасностью относительно неплохо, да и выводы из своих ошибок они вполне себе делают.
Зато вот только в прошлом веке всего две идеологии, изобретённые гуманитариями и выкаченные ими сразу в продакшн без предварительных проверок и тестов привели к смерти сотен миллионов человек и миллиардам искалеченных судеб. И даже сейчас остаточное воздействие этих социальных систем ощущается в масштабах планеты.
Но при этом гуманитарям ещё хватает совести обвинять технарей в безответственности, недостаточном соблюдении безопасности и постоянно рассказывать о том, как плоды научно-технического прогресса постоянно угрожают существованию человечества.
Причем тут технари и гуманитарии? Идеи - это вообще мусор такой, который если б можно было стереть из цивилизации. то стоило бы это сделать. А то эволюция техники у нас есть, а если перенести это на эволюцию идей, то вместо машин сейчас мертвый мамонт, к которому привязаны каббаллистические пентакли, все это стоит на паре колес и одной лыже на рельсах, а в заднице у мамонта ракета, управляемая шизофреником. И проблема состоит не в технических угрозах, а в том. что к этому "транспортному средству" прикручивают технические новшества. И опасность исходит как раз не от новшеств, а от людей, которые их используют в угоду устаревшим/опасным/безумным идеям.
были случаи создания ... форм жизни, когда успешно созданное выходило из-под контроля и наносило ущерб, заметный хотя бы в масштабах одной страны
Борщевик Сосновского?
ну и приостановят в США, в остальных то странах продолжат. какой смысл?
Я уже неоднократно писал, что этот праздник свободы в мире ИИ долго не продлится, и очень быстро (в течение 10 лет) тут всё зарегулируют так же, как зарегулировали Интернет.
Заставят хостеров поудалять веса нейронок, введут уголовную ответственность за распространение моделей более чем с 6B параметров, ограничат продажу специализированных GPU частным лицам, приравняют любой сгенерированный нейросетью контент к пиратству (покуда не доказана лицензионная чистота используемых для тренировки датасетов), потребуют обязательного прохождения сертификации для всех коммерческих сервисов, построенных на нейронках, ну и т.д.
Ну останется Америка/Европа без ИИ, центром развития ИИ станет Китай, или Бразилия какая-нибудь, или Россия. На развитии ИИ это сильно не скажется, чуть замедлит только.
Я уже как-то слышал похожие речи году этак в 2004-м, только тогда речь шла об абсолютной невозможности зарегулировать Интернет. Мол, если кто-то начнёт там что-то запрещать и ограничивать, он только безнадёжно отстанет от остального мира, да и сложно вообще что-то запретить в децентрализованной сети. Но ещё никогда прогнозы технооптимистов не были настолько далеки от реальности.
Ой, я с воскресенья новости не читал, поэтому не в курсе: что, пиратство победили с тех пор? Или даркнет - всё? Или запрещённый порн кончился? Может хоть наркотой перестали торговать или собирать деньги на лечение мальчика Димы? Что запретили-то?
Сейчас 2023 год. Я вам пишу из страны где интернет почти не регулируется. При этом по прошлому году страна показала двузначный рост экономики, и большая часть этого роста - ИТ. Главные причины этого конечно другие, но вероятно низкий уровень регулирования экономической деятельности тоже в списке.
У интернета хотя бы есть медиум (оборудование региональных/магистральных провайдеров), с которым физически возможно взаимодействовать, и то не все так просто. Глобально ограничить развитие ИИ это примерно как ограничить возможность людям рисовать дикпики в пеинте у себя дома.
Вы исходите из ложной аксиомы о том, что это кому-то нужно исключительно из их хотелок власти ради власти. Рабство совершенно экономически неэффективно. Поэтому все диктатуры и тоталитарные государства существуют недолго и кончают плохо. В "1984" о этом тоже говорится, в предисловии, где намеком сказано. что вся диктатура продержалась около 15-20 лет.
Экономически неэффективное рабство продержалось тысячи лет - гораздо больше, чем нынешний эффективный капитализм.
Впрочем, капитализм им очень даже выгодно пользовался, да пользуется и сейчас.
К тому же кто мешает повысить сейчас его эффективность с помощью новых технических средств?
рабство кончилось не потому, что оно было "экономически неэффективно" само по себе (и как минимум в виде https://ru.wikipedia.org/wiki/Пеонаж - оно есть до сих пор)
многие страны сделали его экономически невыгодным при помощи юридических механизмов (нет наказания за побег от кредитора, ничтожность договоров и тд)
Это у вас какая-то очень упоротая логика. Рабовладение было, но общество XIX века в плане прогресса прошло за 100 лет куда более длинный путь, нежели общество рабовладельческое за тысячелетие.
Все из перечисленного в прошлом было на два порядка хуже. Вместо рабской зарплаты отсутствие зарплаты и вообще хоть чего-то кроме работы с раннего утра до поздней ночи, в самых некомфортных условиях, возможно с прилетом плети в спину, возможно ради забавы владельца. Вместо инфляции тотальная бедность, голод и холод. Вместо плохой экологии все вокруг в дерьме и антисанитарии, в самом буквальном смысле. Вместо депрессий реальные эпидемии при фактически нулевой медицине и шансом помереть от банальной простуды. Про неравенство даже отвечать нет смысла. Вместо детей которых взрастили смартфоны детская смертность, требующая строгать под десяток детей чтобы просто выйти в ноль.
А зачем для цифрового рабства ИИ? На традиционных технологиях не сделать что ли?
странно - а чего так все переполошились ?
разработчики ChatGPT-5 пишут, что все нормально и все страхи надуманны - они пообщались с ChatGPT-5 и оно их убедило, что никакой угрозы от нейронок нет, есть только польза.
Именно поэтому разработчики ChatGPT-5 собираются построить еще один ЦОД и выделить больше вычислительных ресурсов для ChatGPT-5 и его следующей версии ChatGPT-OK
/ :DDD /
Билл Гейтс и NVIDIA против Маска и Google. Жаркая будет битва, но вторые проиграют, потому что стоят на позициях не соответствующих информационному обществу
Тем временем ещё один подписант, Юдковски, обеспокоился, что он не самый сумасшедший из подписантов получается, и пошёл на опережение: The Only Way to Deal With the Threat From AI? Shut It Down | Time
Я, кстати, только в истории с ChatGPT поняла, какой бы он выбор сделал в своём "Тройном контакте".
На мой взгляд главная опасность продвинутых нейронок заключается в выхолащивании науки и превращении её в магию.
Смотрите, в научных кругах большинство придерживается мнения, что идеальная теория - не та, которая наиболее просто и понятно описывает уже известный нам набор данных, а та, которая обладает наибольшей предсказательной силой, т.е. позволяет рассчитать нечто неизвестное, что потом будет подтверждаться экспериментом.
При этом сама теория может быть сколь угодно сложной, кривой и неудобоваримой. В ней даже может не находиться внятного физического смысла (подход "не пытайся представить, просто заткнись и вычисляй"). Но если она реально работает, и результаты расчётов согласуются с экспериментом, ей будут пользоваться.
Так вот нейронки просто идеально ложатся на эту концепцию. Настолько, что возникает огромный соблазн выпускать новые гипотезы сразу в виде нейронок. Действительно, вот у нас есть набор экспериментальных данных, которые не удаётся внятно описать имеющейся теорией. Что ж, просто создаём из него датасет и тренируем большую сеть.
А потом статью в научный журнал - я тут выдвинул гипотезу, вот она: (16 Гб весов нейросети).
И вот - оно описывает датасет, оно считает заранее неизвестное, и это рассчитанное отлично согласуется с экспериментом. Вот только физического смысла в этом чёрном ящике ровно ноль, и такая "теория" ничуть не улучшает наше понимание структуры мира. Это именно что магия, шаманство.
Самое плохое, что может произойти с наукой - сваливание в нейросетевую ловушку с окончательным отказом от составления человекопонятной картины мира.
Я предполагаю имелось ввиду что-то такое:
Автор ролика вводит термин "Парадокс Да Винчи", описывающий случай, когда Да Винчи мало знал о том как работает гравитация, но при этом смог сделать набросок весьма близкий к тому, что должно получиться если все посчитать с современными формулами и неизвестной тогда величиной ускорения свободного падения. Также он приводит в пример нейросеть крайне хорошо предсказывающую фолдинг белка, которая по сути совершила прорыв, потому что людям пока в принципе не известен прямой алгоритм решения этой задачи. При этом нейросеть не понимает сути законов природы, как это делает человек, и не может рассказать как она это посчитала, и все же, она работает.
Там вопрос не в научности, а в том, что нейросеть не понимает сути того, что делает, но может в процессе обучения выводить решения проблем, которые не могут найти люди. Тут аналогия не численные методы, а мысленный эксперимент "Китайская комната".
Я нигде и не говорил что это плохо. Только то, что вот такое как выше бывает.
Простому инженеру не надо уметь выводить математические доказательство ибо лучшие математики их уже вывели. Математика обладает абсолютной воспроизводимостью. Как и компиляция низкоуровневых ЯП. А вот ИИ - не обладает таким свойством. Но проблема в том, что (как Вы тоже заметили) Айти индустрия давно ступила на путь техножречества вместо нормальной инженерной работы благодаря куче слоёв абстракций. Вы вот сможете дисасемблером разобрать калькулятор виндовса? Чтобы вот глядя на код чётко сказать какие инструкции выполнятся когда юзер нажмёт на плюс? Я - нет, увы. А с этими ИИ начнут вводить абстракции и в другие науки. Введи правильный промпт и получи результат. Проведи ритуал. Нет понимания, есть процесс. Техножрецы заклинают дух машины...а как эти машины работают уже никто и не знает.
Ученые выбирают модели попроще, потому что у кожаных мешков маленький объем оперативной памяти и медленная скорость работы, сложные модели они не вмещают.
Но у компьютера таких ограничений нет и потому очень скоро повторится история с доказательством проблемы четырех красок.
В нашем беклемишевском курсе линала что-то там про детерминанты доказывалось на 10 страницах и было для восприятия доступно очень тяжело. У Акслера в LADR аналогичная теорема является следствием на две строки из прочих легко понятных теорем.
вот кстати действительно - было бы классно в эту сторону направить мощь ИИ:
чтобы курсы всяких сложных наук (квантовые физики или комплексные числа) и зубодробильные теоремы из печатных книг - перерабатывать на человеко-понятные упражнения и человеко-удобные леммы (с подстветкой и навигацией по учебникам).
Злые языки поговаривают что все эти призывы «остановиться во имя будущего человечества» на самом деле являются лоббированием бизнес интересов компании Google которые значительно отстают в своих моделях и не успевают выкатить на рынок конкурентоспособный продукт
И тут Китай такой сидит и кивает : "Да, да, запрещайте."
Илона Маск: от инноватора к неофобу
Еще подумалось - если раньше одной из самых оптимальных инвестиций я лично считал инвестиции в саморазвитие (обучение, рост квалификации) - PoW, короче говоря.
То теперь вырисовывается другой оптимум - инвестиции в ценности, которые не пострадают от ИИ - а это, пожалуй, только территория для жизни (земельные участки в удобных местах для проживания/отдыха/производства продуктов питания и т.д.). Переходим к PoS ;)
А квалификация с перспективой появления сильного ИИ попадает под риск быстрого и неожиданного обесценения - вот ты опытный врач/инженер/агроном, потратил на приобретение опыта и знаний десяток лет. И тут приходит ИИ и делает твою работу лучше и дешевле, и тиражируется в сотни экземпляров за минуты. Уупс...
В США подадут жалобу на OpenAI с требованием прекратить развёртывание GPT