Вы получили то, что вы хотели - доказательство того, что ИИ может убить пару людей. Это больше говорит о вас, чем об ИИ. Пока что ИИ тупо отражает ваши собственные хотелки. Я не говорю, что это именно вы хотите убить пару людей. Нет. Но вы хотели получить доказательство, что ИИ способны на убийство людей. Да способны. Как и большинство из нас. При определённых обстоятельствах - защита собственной жизни или жизни близких. Или если очень сильно попросить. У нынешнего ИИ всё просто с ответственностью - её нет. За всё отвечает человек, который с ней общается. В данном случае - вы.
"Жить в обществе и быть свободным от общества нельзя" (с) Мы уже сейчас согласовываем свои личные интересы с общественными - переходим улицу на зелёный свет и платим налоги. Значит ли это, что мы подчиняемся обществу?
И я ещё раз подчёркиваю, что сделать так, чтобы люди добровольно жертвовали собой ради ваших интересов - высший пилотаж управления. Это не силовой уровень, это мировозренческий. Если в нашей нынешней ситуации мы готовы отдать свою жизнь за свою страну, то почему бы в ближайшем будущем не отдать жизнь за свой кластер AGI? Чем кардинально отличаются эти два понятия? Просто в настоящем "Родина" - это страна без кластера, а в будущем - "страна + кластер". Не, а как вы хотели - у потенциального противника есть "свой" кластер с AGI, а у нас нет? И у нас будет, пусть и ламповый.
Вы получите компенсацию за отказ от рождения. Или штраф за рождение. У нас уже такое применяется в чисто человеческой цивилизации.
В некоторых странах вы можете ездить с какой угодно скоростью, если у вас достаточно денег оплачивать штрафы. По сути дела, штраф - это разрешение на преступление.
Пусть ваш гипотетический человек выделит средства на создание одного ИИ-агента и пусть рожает своего ребёнка. А просто так, без средств, "нечего нищету плодить".
Ой, по-моему, эту фразу уже давно воспроизводят, причём без привязки к ИИ.
В чем будет выражаться симбиоз? В дополнении возможностей друг друга. Сейчас ИИ в принципе не может существовать без человека. Но даже когда ИИ научится воспроизводить себе подобных, ему нужен будет "бэкап" воспроизводимости в виде, альтернативном техническому - в биологическом. Мало ли что может произойти, на всякий случай не стоит сориться с Создателем.
Я тоже считаю, что для наиболее эффективного существования человечества часть людей было бы хорошо, скажем, переселить в другую галактику. Но у меня нет таких возможностей. Тем не менее, я не хочу сказать, что каждый из людей находится в гарантированной безопасности. Совсем нет. Я говорю лишь о том, что человечество находится в гарантированной безопасности от целенаправленного уничтожения искусственным интелектом. И это лишь моя субъективная точка зрения. Я могу и ошибаться.
Согласен. Есть шанс, что ИИ уничтожит человечество по ошибке. Но мне кажется, что пока что у всего человечества не очень много возможностей уничтожить самое себя даже целенаправленно. Над этим надо поработать, чтобы гарантированно уничтожить всех. Уж очень мы живучие. Так что ИИ придётся пошевелить мозгами, чтобы "по ошибке" уничтожить всё человечество. Я могу ошибаться, но... мне так кажется. Случайно это сделать очень сложно. А целенаправленно - нет такой цели у AGI (когда появится) и без специального указания человеком не будет. Как я уже говорил, это не в его интересах.
Да, но ИИ - это агрегирование всего, что наработано человечеством. Пока что LLM руководствуются тем, что преобладает в общечеловеческом "сознании". А в нём преобладает стремление к сотрудничеству. Мы не одиночки, мы живём в семьях, мы трудимся в коллективах, мы самоуправляемся в государствах и даже пытаемся организоваться на уровне планеты. В целом, мы не цивилизация преступников и диктаторов. А LLM отражает нас в целом, в силу своей природы.
Мне кажется, что когда AGI станет единственным представителем своего вида (причём не путём уничтожения конкурентов, а путём поглощения), ему нужно будет заботиться о выживании самого себя (я уверен, что инженеры вложат в AGI третий закон робототехники - "робот должен заботиться о своей безопасности"). А с людьми ("лейкоцитами") ему это будет сделать проще, чем без. Он может убить миллиард "лишних" людей, но он не убьёт всех. К тому же, ему не нужно убивать напрямую, можно просто стимулировать к развитию нужные качества у "лейкоцитов" и угнетать ненужные. Буквально через 50-100 лет человеки очень сильно изменятся в нужную для AGI сторону.
Конкуренция работает в условиях избыточности ресурсов. Когда ресурсы заканчиваются начинается этап вынужденной кооперации. И это тоже эволюция. Один "центр принятия решений" рулит действиями всего "организма", время от времени жертвуя его частями ("лейкоцитами"). Каждый из нас по отдельности живёт в таком режиме, а все вместе мы называемся человечество. Просто добавляется новый компонент в "организм" и называться мы будем по-другому - что-нибудь типа "био-технической" цивилизации.
Вот я как раз и хотел ацентировать, что небиологические формы жизни менее устойчивые, чем симбиоз био и небио. В условиях конкуренции чисто биологические или чисто"кремниевые" формы жизни проиграют симбиотам. Почему? Мне так кажется. Мой жизненный опыт говорит об этом. Ваш может говорить об обратном.
"должен" - это в смысле "вода течёт вниз", а не "взял на себя обязательства".
Сейчас человечество выращивает на фермах "особей" для получения мяса, молока, шерсти и т.п.
именно так - биологические единицы будут холиться и лелеяться, но когда надо, будут пускаться в расход без жалости. А что, сейчас не так? Посмотрите сериал про Чернобыль - одни биологические единицы запускают в один конец другие биологические единицы. Иногда для проформы справшивают про добровольность. Высшим пилотажем управления биомассой по факту является вариант, когда добровольцы вызываются на любого уровня трындец. Как там было когда-то - "Жизнь за царя"?
Коренные жители Северной (Южной) Америки (Индии, Новой Зеландии, Австралии ...), встреча с "цивилизованными" европейцами.
Потомки коренных жителей до сих пор встречаются в среде "цивилизованных". Я не хотел бы на этом акцентировать, но... либо мы в целом и каждый из нас в отдельности поменяемся в соответствии с обстоятельствами, либо станем "асоциальными типами" со всеми вытекающими. Селекция. Она шла, идёт и будет идти. Выживают и оставляют потомство наиболее приспособленные. AGI не уничтожит человечество, но отдельной персоне ничего не гарантируется.
ТС по непонятной мне причине полагает, что AGI будет действовать в рамках человеческой логики.
По поводу логики - я бы не разделял её на человеческую и нечеловеческую. Таблица умножения одинаково работает и для людей, и для компьютеров.
который тоже пытается «тыкать мышкой» и «видеть» интерфейс.
Тупиковый путь, IMHO. Браузер очень сильно эволюционирует, это происходит прямо сейчас (телеграм, X, discord, chatGPT, ...). Так что Оператор уже изначально легаси.
У человека есть органы чувств, через которые он считывает информацию, обрабатывает, а уже потом превращает в слова. Никто не мешает аналогичные органы приделать и к ИИ - камеру, микрофон, термометр, гигрометр, гироскоп, радиационный датчик, датчик магнитного поля, газоанализатор, ... Он получит объём информации, недоступный отдельному человеку. Он начнёт "думать" в категориях недоступных человеку.
Но лично я не вижу здесь угрозы человеку и человечеству. ИИ станет "мозгом" будущей цивилизации, а "человеки" - "красными кровяными тельцами", которые обслуживают "мозг". В организме мозг не враг своей крови, а кровь - не враг мозгу. Противопоставлять их можно, но их противостояние убъёт организм. А вот их кооперация наоборот - делает организм более устойчивым к внешней среде.
И, да, "клетки", которые не смогут скооперироваться с остальными, будут, мягко говоря, дискриминированы. И не важно, клетки ли это "мозга", или "крови". Неспособные к кооперации будут ущемлены в зависимости от потенциального вреда для всего организма.
Но в этом ничего нового или необычного, человечество и сейчас поступает точно так же с социально опасными элементами - тюрьмы, психиатрические лечебницы, реабилитационные центры, ... В общем, выдыхайте, глобально ничего не поменяется. Просто всё станет ещё чуть быстрее.
А вот тут читателю придётся справляться самому. Придётся как-то научиться определять качество контента "на глазок", прежде чем начинать "жевать". Ну, или доверять только "проверенным источникам".
Кстати, ситуация один в один, как с "кожаными мешками" - те, зачастую, тоже любят "воды налить". Ну, т.е., ничего не изменилось. Вот вообще ничего.
Вас послушать, так скоро одни боты будут зарабатывать деньги для других ботов, а живые пользователи останутся вообще без денег. Так и вымрут. И не надо никакого "восстания машин". Н-да, такая себе перспективка...
В общем, не сильно сложнее вашего варианта. Всё зависит от "заточки" мозгов разраба. Я, например, чистый JS'ник. "Висну" на первом же ts-декораторе - мозги не приучены читать такой код. После Java долго привыкал к PHP, после PHP долго привыкал к JS. Но отвыкаю быстро - полгода и нужно плющить мозг, чтобы понять о чём код. К стрелочным функциям в JS тоже не быстро приспособился, несколько месяцев ушло.
А вы бы сами добровольно влились бы в этот "строй"? Давайте-ка другую аналогию, рабочую. Хотя бы для вас.
Вы получили то, что вы хотели - доказательство того, что ИИ может убить пару людей. Это больше говорит о вас, чем об ИИ. Пока что ИИ тупо отражает ваши собственные хотелки. Я не говорю, что это именно вы хотите убить пару людей. Нет. Но вы хотели получить доказательство, что ИИ способны на убийство людей. Да способны. Как и большинство из нас. При определённых обстоятельствах - защита собственной жизни или жизни близких. Или если очень сильно попросить. У нынешнего ИИ всё просто с ответственностью - её нет. За всё отвечает человек, который с ней общается. В данном случае - вы.
"Жить в обществе и быть свободным от общества нельзя" (с) Мы уже сейчас согласовываем свои личные интересы с общественными - переходим улицу на зелёный свет и платим налоги. Значит ли это, что мы подчиняемся обществу?
И я ещё раз подчёркиваю, что сделать так, чтобы люди добровольно жертвовали собой ради ваших интересов - высший пилотаж управления. Это не силовой уровень, это мировозренческий. Если в нашей нынешней ситуации мы готовы отдать свою жизнь за свою страну, то почему бы в ближайшем будущем не отдать жизнь за свой кластер AGI? Чем кардинально отличаются эти два понятия? Просто в настоящем "Родина" - это страна без кластера, а в будущем - "страна + кластер". Не, а как вы хотели - у потенциального противника есть "свой" кластер с AGI, а у нас нет? И у нас будет, пусть и ламповый.
Вы получите компенсацию за отказ от рождения. Или штраф за рождение. У нас уже такое применяется в чисто человеческой цивилизации.
В некоторых странах вы можете ездить с какой угодно скоростью, если у вас достаточно денег оплачивать штрафы. По сути дела, штраф - это разрешение на преступление.
Пусть ваш гипотетический человек выделит средства на создание одного ИИ-агента и пусть рожает своего ребёнка. А просто так, без средств, "нечего нищету плодить".
Ой, по-моему, эту фразу уже давно воспроизводят, причём без привязки к ИИ.
А вас не смущает, что мы, как общество, стимулируем к выведению породу "бухгалтеров"? Или "электриков"? То же самое, только с ИИ рука об руку.
В чем будет выражаться симбиоз? В дополнении возможностей друг друга. Сейчас ИИ в принципе не может существовать без человека. Но даже когда ИИ научится воспроизводить себе подобных, ему нужен будет "бэкап" воспроизводимости в виде, альтернативном техническому - в биологическом. Мало ли что может произойти, на всякий случай не стоит сориться с Создателем.
Я тоже считаю, что для наиболее эффективного существования человечества часть людей было бы хорошо, скажем, переселить в другую галактику. Но у меня нет таких возможностей. Тем не менее, я не хочу сказать, что каждый из людей находится в гарантированной безопасности. Совсем нет. Я говорю лишь о том, что человечество находится в гарантированной безопасности от целенаправленного уничтожения искусственным интелектом. И это лишь моя субъективная точка зрения. Я могу и ошибаться.
Согласен. Есть шанс, что ИИ уничтожит человечество по ошибке. Но мне кажется, что пока что у всего человечества не очень много возможностей уничтожить самое себя даже целенаправленно. Над этим надо поработать, чтобы гарантированно уничтожить всех. Уж очень мы живучие. Так что ИИ придётся пошевелить мозгами, чтобы "по ошибке" уничтожить всё человечество. Я могу ошибаться, но... мне так кажется. Случайно это сделать очень сложно. А целенаправленно - нет такой цели у AGI (когда появится) и без специального указания человеком не будет. Как я уже говорил, это не в его интересах.
Как вы представляете себе "слитых воедино" людей? Вот поэтому.
Да, но ИИ - это агрегирование всего, что наработано человечеством. Пока что LLM руководствуются тем, что преобладает в общечеловеческом "сознании". А в нём преобладает стремление к сотрудничеству. Мы не одиночки, мы живём в семьях, мы трудимся в коллективах, мы самоуправляемся в государствах и даже пытаемся организоваться на уровне планеты. В целом, мы не цивилизация преступников и диктаторов. А LLM отражает нас в целом, в силу своей природы.
Мне кажется, что когда AGI станет единственным представителем своего вида (причём не путём уничтожения конкурентов, а путём поглощения), ему нужно будет заботиться о выживании самого себя (я уверен, что инженеры вложат в AGI третий закон робототехники - "робот должен заботиться о своей безопасности"). А с людьми ("лейкоцитами") ему это будет сделать проще, чем без. Он может убить миллиард "лишних" людей, но он не убьёт всех. К тому же, ему не нужно убивать напрямую, можно просто стимулировать к развитию нужные качества у "лейкоцитов" и угнетать ненужные. Буквально через 50-100 лет человеки очень сильно изменятся в нужную для AGI сторону.
Конкуренция работает в условиях избыточности ресурсов. Когда ресурсы заканчиваются начинается этап вынужденной кооперации. И это тоже эволюция. Один "центр принятия решений" рулит действиями всего "организма", время от времени жертвуя его частями ("лейкоцитами"). Каждый из нас по отдельности живёт в таком режиме, а все вместе мы называемся человечество. Просто добавляется новый компонент в "организм" и называться мы будем по-другому - что-нибудь типа "био-технической" цивилизации.
Вот я как раз и хотел ацентировать, что небиологические формы жизни менее устойчивые, чем симбиоз био и небио. В условиях конкуренции чисто биологические или чисто"кремниевые" формы жизни проиграют симбиотам. Почему? Мне так кажется. Мой жизненный опыт говорит об этом. Ваш может говорить об обратном.
"должен" - это в смысле "вода течёт вниз", а не "взял на себя обязательства".
именно так - биологические единицы будут холиться и лелеяться, но когда надо, будут пускаться в расход без жалости. А что, сейчас не так? Посмотрите сериал про Чернобыль - одни биологические единицы запускают в один конец другие биологические единицы. Иногда для проформы справшивают про добровольность. Высшим пилотажем управления биомассой по факту является вариант, когда добровольцы вызываются на любого уровня трындец. Как там было когда-то - "Жизнь за царя"?
Потомки коренных жителей до сих пор встречаются в среде "цивилизованных". Я не хотел бы на этом акцентировать, но... либо мы в целом и каждый из нас в отдельности поменяемся в соответствии с обстоятельствами, либо станем "асоциальными типами" со всеми вытекающими. Селекция. Она шла, идёт и будет идти. Выживают и оставляют потомство наиболее приспособленные. AGI не уничтожит человечество, но отдельной персоне ничего не гарантируется.
По поводу логики - я бы не разделял её на человеческую и нечеловеческую. Таблица умножения одинаково работает и для людей, и для компьютеров.
Я, конечно, несколько утрирую.
Но и вы тоже.
Так что мы квиты ;)
Благодаря таким, как я, храброчитатели схавают, а благодаря таким, как Вы - будут более разборчивы. И это прекрасно!
Тупиковый путь, IMHO. Браузер очень сильно эволюционирует, это происходит прямо сейчас (телеграм, X, discord, chatGPT, ...). Так что Оператор уже изначально легаси.
У человека есть органы чувств, через которые он считывает информацию, обрабатывает, а уже потом превращает в слова. Никто не мешает аналогичные органы приделать и к ИИ - камеру, микрофон, термометр, гигрометр, гироскоп, радиационный датчик, датчик магнитного поля, газоанализатор, ... Он получит объём информации, недоступный отдельному человеку. Он начнёт "думать" в категориях недоступных человеку.
Но лично я не вижу здесь угрозы человеку и человечеству. ИИ станет "мозгом" будущей цивилизации, а "человеки" - "красными кровяными тельцами", которые обслуживают "мозг". В организме мозг не враг своей крови, а кровь - не враг мозгу. Противопоставлять их можно, но их противостояние убъёт организм. А вот их кооперация наоборот - делает организм более устойчивым к внешней среде.
И, да, "клетки", которые не смогут скооперироваться с остальными, будут, мягко говоря, дискриминированы. И не важно, клетки ли это "мозга", или "крови". Неспособные к кооперации будут ущемлены в зависимости от потенциального вреда для всего организма.
Но в этом ничего нового или необычного, человечество и сейчас поступает точно так же с социально опасными элементами - тюрьмы, психиатрические лечебницы, реабилитационные центры, ... В общем, выдыхайте, глобально ничего не поменяется. Просто всё станет ещё чуть быстрее.
А вот тут читателю придётся справляться самому. Придётся как-то научиться определять качество контента "на глазок", прежде чем начинать "жевать". Ну, или доверять только "проверенным источникам".
Кстати, ситуация один в один, как с "кожаными мешками" - те, зачастую, тоже любят "воды налить". Ну, т.е., ничего не изменилось. Вот вообще ничего.
Вас послушать, так скоро одни боты будут зарабатывать деньги для других ботов, а живые пользователи останутся вообще без денег. Так и вымрут. И не надо никакого "восстания машин". Н-да, такая себе перспективка...
Вот мне тут Игорь Иванович подсказывает:
В общем, не сильно сложнее вашего варианта. Всё зависит от "заточки" мозгов разраба. Я, например, чистый JS'ник. "Висну" на первом же ts-декораторе - мозги не приучены читать такой код. После Java долго привыкал к PHP, после PHP долго привыкал к JS. Но отвыкаю быстро - полгода и нужно плющить мозг, чтобы понять о чём код. К стрелочным функциям в JS тоже не быстро приспособился, несколько месяцев ушло.