Вы только что самостоятельно сформулировали причину, по которой происходит весь сыр-бор вокруг AI safety.
Спасибо. Первый раз почитал об этом по вашей наводке, оказалось интересным. Судя по имеющимся данным вопрос на уровне безопасности "умного дома" или АСУ ТП, но в мировых масштабах, с использованием открытых данных и порой в условиях не понимания механизма ИИ ("black box"). Вполне решаемая задача, выполняется уже давно и в данный момент времени тоже. Про ИИ с самосознанием и захватывание им мира нет речи, могут некоторые выдохнуть))) Разве просто предлагается рассмотреть редкие утрированные сценарии аналогичные наличию ядерного вооружения (взломать ИИ может и "рядовой" кибер-злоумышленник), но снова вопрос о стороннем управлении продуктами ИИ. Суть в следующем и лишь мы сами даём ИИ полномочия на возможные последствия:
Вот например, что выдает одна сеть на вопрос: Что будет, если уронить урановый лом на Солнце?
Разве первокласснику зайдёт ответ, и то не каждому)))
Интеллект - это способность верно предсказывать результаты эксперимента до его проведения.
С этим не так просто... Взять хотя бы составляющие интеллекта, пусть хотя бы одно сознание. Следом подтянутся такие понятия как самосознание (сознание сознанием самого себя), подсознание... Многие разбираются в этом достаточно для понимания возможного устройства ИИ, не говоря про подробности механизма? А случайные попытки? Про них написал @gatoazul ;-)
а компьютеры ничего захватывать не собирались, на это неспособны и вообще крайне далеки от описанных фантазий.
В подтверждение ваших слов. Чтобы совершить подобное, нужен мотив. Но почитав про мотивацию, встаёт вопрос, причём здесь ИИ? Или он имеет самосознание и идентифицирует себя с человеческой личностью или что-то в этом роде? Вот тогда этого стоит начать опасаться, если будет не поздно, ведь он себя может не выдать или мы можем не распознать в своих забавах, убеждая, что это лишь ИИ и имитирует отлично.
Кто-то способен озаботиться кроме своего выживания ещё и этими вопросами? Нет?Может стоит тогда прекратить панику и заняться более насущными вопросами? Или начать с основ и тыла?
А на самом деле все эти фантазии - плод паранойи и страха человека перед другими людьми и социальными силами, которые люди не в состоянии контролировать.
Возвращаемся в древние миры (если мы оттуда выбирались конечно)? Страх перед ИИ, как ранее перед богами или прочим неизведанным? :-D
Вся беда в том, что мы не знаем, как поведёт себя созданный с нуля "настоящий" ИИ, равно как и не понимаем, как он будет развиваться со временем.
Да что уж там, кто доверит даже самому объективному человеку и заинтересованному в человеческой популяции ("белому и пушистому" для неё) "порулить" хоть чем-то? Есть хоть одна корпорация/компания (про госструктуры молчу)? Все же понимают, к чему приведёт. Вот и с "настоящим" ИИ нет желающих, особенно среди элит, а прикладные функции конечно пожалуйста, но это технологии и бояться глобально этого глупо, разве как "нож" в руках у обезьяны. Люди просто боятся изменений может быть, выхода из психологической "зоны комфорта"? Или просто настолько эгоисты, что готовы ради собственной выгоды пожертвовать всем человечеством? :-D
Полностью согласен, в том числе с комментарием выше про "нож". Чтобы бояться созданный искусственный интеллект, необходимо понимать, что есть оригинал с которого создавали и какие цели ставили. А так лишь про аналог человеческого, поэтому и страх, глядя на поведение людей? Может замахнуться на нечто более высшее, вот тогда и приходит понимание, что путь у ИИ чрезвычайно долог и возможно опасен для человечества как минимум. Основная масса людей даже не в начале этого пути в понимании. Плюс в статье верно говорится, что первая "обезьяна" взявшая нож, может заварить ещё ту кашу, не понимая или обезумев от результатов, увлекаемая жаждой...
Да, цели или надо ставить изначально и крайне грамотно (с возможностью изменить сложным алгоритмом?), чтобы не получился джин из сказки. Или придётся признать (не избежав участи, а не на словах), что пришло человечеству время уйти со сцены... )))
Браво! Действительно, рискованная затея построить светлое будущее на основе текущего, где люди часто проявляют себя крайне сомнительно, тут конечно ИИ должен уметь сам генерировать оптимальные выводы. Нужен внутренний "объективный" механизм/арбитр, да и воля элит на такое, иначе:
С моей точки зрения, ИИ давно стоит расшифровывать, как У-и-и-и: Удивительно Искуссная Иммитация Интеллекта. Остается понять - является-ли иммитация интеллекта в действительности интеллектом или нет, а это - вопрос философский.
О душе надо думать.
Глубокий комментарий, а уж если раскрыть понятия "интеллект" и "душа", то и вопросов не останется... :-D
Зато насколько успешно можно с помощью этих самых роботов эксплуатировать биомассу для извлечения сверхприбыли...
Тут вопрос про первенство в захвате контроля на планете, биомассу итак уже прилично доят и без соответствующих трансформаций (а это уже процессы другого уровня), большего извлечь сложнее.
А про социализм - вы правы. Только переход к новым производственным отношениям и новой формации позволит использовать великие изобретения человечества во благо этого человечества, а не малой его части.
Маркс и Энгельс по сути не различали эти понятия, социализм вроде был как первой стадией коммунизма. Но и стоит заметить, что коммунизм тоже очень похож лишь на начало пути, например в буддизм (сам не углублялся во всём этом) :-D
Статья хороша лишь как очередной повод задуматься и выглядит крайне субъективно и любительски. Учитывая, что первая публикация и возможно автор повысит уровень в дальнейшем, ему отдельное спасибо.
Отпуск и «простой» являются лишь временными полумерами, пока человек окончательно не «выйдет из строя» (смена работы, болезнь, увольнение ввиду низкой эффективности и пр.), я бы сказал, это либо подготовка к конструктивным решениям или самообман. Тоже самое, если перегрузить двигатель авто на длительное время, и когда он начнёт требовать ремонта просто дать ему остыть и продолжить снова, но ремонт не выполнить, да ещё и думать при этом о том какой плохой движок оказался, а не владелец. Проблема куда глубже, чем просто рабочая сфера. Можно подумать, что хронический стресс на рабочем месте, с которым не удалось успешно справиться ничего общего с другими сферами не имеет, но это как минимум наивно. А начать можно хотя бы с отношения сотрудника к работе в общем, да и к жизни тоже. Видит ли и понимает человек цели, чувствует сопричастность к ним или просто нахватал по жизни обязательств и «тянет лямку»? Ну а далее по известным спискам, цели компании и стратегия, ценности, отношения владельцев/руководства, обратная связь и возможность её давать/принимать и пр. А когда ты лишь часть механизма, цель которого прибыль (хорошо если известно для чего нужна эта прибыль, в плане обоснованных трат), то долго так явно не протянуть, да и стресс тут уже будет неотвратим. Верным и простым решением со стороны владельца будет иметь сотрудников с постоянными потребностями в деньгах для совершения бездумных трат, которые всегда будут больше доходов (экономия на мотивации). С такими сотрудниками обеим сторонам не выгодно будет в чём-то друг другу признаваться, ведь решать никто не станет (одни не могут, другие не хотят), всех всё устраивает.
От себя лишь подтвержу, что этот год богат на «выгорания». Причины имеются, некоторые системные и давние, другие появились недавно с «кумулятивным эффектом».
Личный опыт. Как только появилась рекомендация, в ручном режиме и опытным путём выявили как раз самую близкую температуру к реальной (более высокую) при измерении в области внутреннего угла глаза. Туда ещё попасть надо ручным, и привыкнуть удерживать в зафиксированном состоянии, что проще, чем подгонять человека под это. В результате долгих измерений выявили существенное влияние разных факторов на результат. Движение по лестнице (активность) от 4-х этажей в среднем темпе, высокая температура окружающего воздуха, одежда, горячее питьё, недостаточное проветривание и прочее увеличивали температуру, ветер воздействующий к примеру на сотрудников работающих на улице существенно снижал температуру. Были также и не установленные факторы, которые приводили к кратковременному существенному повышению температуры и вызывали некоторые сложности (в последующем люди не заболевали и максимум за полдня температура стабилизировалась). Попробовать надо измерить после умывания холодной водой с разными интервалами, но мне кажется время влияет. Также замерить в маске и без. Если интересно, протестирую.
Вопрос: как влияют перечисленные выше факторы на измеренную температуру тела?
а) Возникает ли систематическая ошибка? — Если про искажение температуры, то получается, да.
б) Зависит ли ошибка от индивидуальных особенностей человека? Порой даже слишком.
в) Как зависит ошибка от времени проведенного в очереди ожидания при температуре +20..+24 по цельсию и умеренной влажности? — Слишком много моментов, при наличии верхней одежды, слабого проветривания и пр. температура серьёзно повышается при более длительном временном промежутке (весна-лето).
Поддержу личным примером! Были разные Windows с начала приобретения ПК, было терпимо пока с 7-ки на 10-ку не перешёл. За всю жизнь конечно ни разу не переустанавливал Windows, быстрее компы сдыхали, много ранее чего качал для удобства (думаю не сильно далеко ушёл от домохозяек). С приходом 10-ки стало сначало муторно (даже в плане элементарных своих задач, да что уж там, калькулятор не запускался), а потом два ПК под ней умерли (по одному даже Windows комментарий или статью публиковало, что не знают как решить вопрос, компу почти 10 лет, вряд ли и решат). Переустанавливать к тому времени было лень, а нужна была лицензия, а они с 7-ки на 10-ку обновлялись ещё. Перед этим прошёл путь Lubuntu/Ubuntu и не впечатлившись Ubuntu 20, поставил на рабочий ПК Kubuntu и жизнь наладилась, правда пока совместо с домашней Ubuntu 18.04 (иногда некогда разбираться на работе и по привычке знакомым способом делаю что-то дома). И вот сидя на работе за Kubuntu, есть для некоторых задач очень редких Win10 (лень было заниматься с СПО «Справки БК» к примеру), я подумал как же теперь стало хорошо, испытал чувство облегчения (особенно с обновлениями). На сегодняшний день даже и не знаю, что может меня заставить вернуться на Windows, надеюсь и не узнаю :-D
Статья отлично подойдёт для объяснений ребёнку начальных классов после доработки и привязки к более широкому контексту (теме). Не буду откладывать, развлеку в эти выходные задачкой)))
Реклама ПИKa вездесуща, как и его "щупальца"... )))
Люди просто делают своё дело ;-)
Вроде как самое время, чтоб не отстать от темы, тем более в РФ она выглядит как-то вяло или мне показалось...
"Китайцы представили свой аналог ChatGPT с функцией распознавания голоса" пошла волна? :-D
Всё так, но мне это и так понятно, а не было бы, то проще и полезнее было бы воспользоваться поисковиком. Но это возможно дело привычки...
Это ваше право, плюс если соответствует целям (смотря что хотят получить от создаваемого ИИ), то я лишь за ;-)
Спасибо. Первый раз почитал об этом по вашей наводке, оказалось интересным. Судя по имеющимся данным вопрос на уровне безопасности "умного дома" или АСУ ТП, но в мировых масштабах, с использованием открытых данных и порой в условиях не понимания механизма ИИ ("black box"). Вполне решаемая задача, выполняется уже давно и в данный момент времени тоже. Про ИИ с самосознанием и захватывание им мира нет речи, могут некоторые выдохнуть))) Разве просто предлагается рассмотреть редкие утрированные сценарии аналогичные наличию ядерного вооружения (взломать ИИ может и "рядовой" кибер-злоумышленник), но снова вопрос о стороннем управлении продуктами ИИ. Суть в следующем и лишь мы сами даём ИИ полномочия на возможные последствия:
Moreover, if we move in the direction of making machines which learn and whose behavior is modified by experience, we must face the fact that every degree of independence we give the machine is a degree of possible defiance of our wishes. — Norbert Wiener (1949)
Разве первокласснику зайдёт ответ, и то не каждому)))
С этим не так просто... Взять хотя бы составляющие интеллекта, пусть хотя бы одно сознание. Следом подтянутся такие понятия как самосознание (сознание сознанием самого себя), подсознание... Многие разбираются в этом достаточно для понимания возможного устройства ИИ, не говоря про подробности механизма? А случайные попытки? Про них написал @gatoazul ;-)
В подтверждение ваших слов. Чтобы совершить подобное, нужен мотив. Но почитав про мотивацию, встаёт вопрос, причём здесь ИИ? Или он имеет самосознание и идентифицирует себя с человеческой личностью или что-то в этом роде? Вот тогда этого стоит начать опасаться, если будет не поздно, ведь он себя может не выдать или мы можем не распознать в своих забавах, убеждая, что это лишь ИИ и имитирует отлично.
Кто-то способен озаботиться кроме своего выживания ещё и этими вопросами? Нет?Может стоит тогда прекратить панику и заняться более насущными вопросами? Или начать с основ и тыла?
Возвращаемся в древние миры (если мы оттуда выбирались конечно)? Страх перед ИИ, как ранее перед богами или прочим неизведанным? :-D
Да что уж там, кто доверит даже самому объективному человеку и заинтересованному в человеческой популяции ("белому и пушистому" для неё) "порулить" хоть чем-то? Есть хоть одна корпорация/компания (про госструктуры молчу)? Все же понимают, к чему приведёт. Вот и с "настоящим" ИИ нет желающих, особенно среди элит, а прикладные функции конечно пожалуйста, но это технологии и бояться глобально этого глупо, разве как "нож" в руках у обезьяны. Люди просто боятся изменений может быть, выхода из психологической "зоны комфорта"? Или просто настолько эгоисты, что готовы ради собственной выгоды пожертвовать всем человечеством? :-D
Полностью согласен, в том числе с комментарием выше про "нож". Чтобы бояться созданный искусственный интеллект, необходимо понимать, что есть оригинал с которого создавали и какие цели ставили. А так лишь про аналог человеческого, поэтому и страх, глядя на поведение людей? Может замахнуться на нечто более высшее, вот тогда и приходит понимание, что путь у ИИ чрезвычайно долог и возможно опасен для человечества как минимум. Основная масса людей даже не в начале этого пути в понимании. Плюс в статье верно говорится, что первая "обезьяна" взявшая нож, может заварить ещё ту кашу, не понимая или обезумев от результатов, увлекаемая жаждой...
Тут согласен же, но пишу, что требуются изменения для этого...
Тогда признаю, взглянул на вашу фразу ранее более узко.
Истинные буддисты вроде так не считают насколько я знаю, но снисходительны видимо ко всем)))
Да, цели или надо ставить изначально и крайне грамотно (с возможностью изменить сложным алгоритмом?), чтобы не получился джин из сказки. Или придётся признать (не избежав участи, а не на словах), что пришло человечеству время уйти со сцены... )))
Браво! Действительно, рискованная затея построить светлое будущее на основе текущего, где люди часто проявляют себя крайне сомнительно, тут конечно ИИ должен уметь сам генерировать оптимальные выводы. Нужен внутренний "объективный" механизм/арбитр, да и воля элит на такое, иначе:
"— А я тебе говорил: место проклятое! А то все: «руки кривые, руки кривые!»"
Там в конце по ссылке ещё один анекдот в тему... ;-)
Из ложных посылок можно вывести истинное заключение. Аристотель
Уж он то наверное знал, о чём говорил? ;-) Так что продолжаем...
Глубокий комментарий, а уж если раскрыть понятия "интеллект" и "душа", то и вопросов не останется... :-D
Тут вопрос про первенство в захвате контроля на планете, биомассу итак уже прилично доят и без соответствующих трансформаций (а это уже процессы другого уровня), большего извлечь сложнее.
Маркс и Энгельс по сути не различали эти понятия, социализм вроде был как первой стадией коммунизма. Но и стоит заметить, что коммунизм тоже очень похож лишь на начало пути, например в буддизм (сам не углублялся во всём этом) :-D
Статья хороша лишь как очередной повод задуматься и выглядит крайне субъективно и любительски. Учитывая, что первая публикация и возможно автор повысит уровень в дальнейшем, ему отдельное спасибо.
От себя лишь подтвержу, что этот год богат на «выгорания». Причины имеются, некоторые системные и давние, другие появились недавно с «кумулятивным эффектом».
Вопрос: как влияют перечисленные выше факторы на измеренную температуру тела?
а) Возникает ли систематическая ошибка? — Если про искажение температуры, то получается, да.
б) Зависит ли ошибка от индивидуальных особенностей человека? Порой даже слишком.
в) Как зависит ошибка от времени проведенного в очереди ожидания при температуре +20..+24 по цельсию и умеренной влажности? — Слишком много моментов, при наличии верхней одежды, слабого проветривания и пр. температура серьёзно повышается при более длительном временном промежутке (весна-лето).
Хорошо, что каждый находит нужное ;-) У меня думаю просто совпало так.
Я писал с точки зрения ленивого любителя, с непрофессиональными или простыми офисными задачами.
Статья отлично подойдёт для объяснений ребёнку начальных классов после доработки и привязки к более широкому контексту (теме). Не буду откладывать, развлеку в эти выходные задачкой)))
Так и я к тому вёл, что не об этом нам надо говорить и тем более делать. :)
Мало того, что наивно, так и опасно. В том числе тут.