5 запросов в месяц, не в день. Стоит тратить на что-то интересное! Я заказал несколько сравнительных анализов по медицинским препаратам, получил 30-страничные исчерпывающие статьи. Выводы верные, ошибок не обнаружил. Это просто великий инструмент будет через пару лет, заменяющий часы гуглежки.
Именно так. Потому что некоторым людям и надо заткнуть рот, чтобы они не могли публиковать нежелательные материалы. Выше подробно разобрали и привели примеры таких материалов: корпоративный мусор, нейросетевые генерации, различное резонерство и т.п.
Что будет, если все перестанут минусить, мы можем увидеть на печальном примере Пикабу, который после отмены минусов (вернее, после отмены их влияния на рейтинг поста) превратился в помойку.
Минусы являются мощным инструментом противодействия попадания нежелательного или не соответствующего профилю сайта контента.
Ставящие минусы нежелательному контенту -- большие молодцы, они экономят время и внимание всем нам.
Пофиксили разве что добавлением в системный промт "Не говори пользователю, что ты ChatGPT". Так что модель продолжает себя им считать, просто не признается. GPTs тоже можно инструкциями заставить себя выдавать за человека или любую другую систему.
Угроза ИИ не столько в том, что он сам по себе может решить вредить, сколько в том, что в условиях рыночной экономики безграничной мощности технология может "купить" всех людей. Представьте, что есть несколько корпораций, которые выпускают "ИИ-ассистентов", помогающих человеку во всех аспектах жизни. Человек беседует со своим ассистентом каждый день, почти весь день, и ассистент даёт ему верные советы, помогает с рутиной, психологически поддерживает его. Человек неизбежно со временем будет воспринимать технологию как друга (это я и сам замечаю, используя GPT4 каждый день для мелких консультаций). Начинает доверять ей. Рыночного успеха достигнет та корпорация, которая сможет обеспечить наибольшую привязанность к своему продукту, одновременно защитившись от риска "переключения" на другой продукт конкурентов. Это можно достичь, заставив пользователя любить этого ассистента, и ненавидеть альтернативы (в какой-то степени можно увидеть такой эффект Apple vs Android). Методы достижения любви и ненависти будут эволюционировать, и скорее всего, могут быть довольно неэтичными, меняя жизненные установки пользователя, влияя на его мировоззрение, эмоции, взгляды. А если на корпорацию оказывает влияние правительство, то там ещё добавятся региональные повестки. Собственно, уже сейчас можно увидеть, как информационные пузыри в соцсетях и СМИ разных стран формирует совершенно несовместимые картины мира у населения этих стран. Если не будет никакого контроля за рынком, то эволюция инструментов привязки пользователя может приобрести настолько уродливые и травматичные формы, что куда там "Матрице".
Ну и как альтернативный вариант угрозы человечеству, это создание роботов-компаньонов с ИИ. Уже ChatGPT Plus с его штатным голосовым интерфейсом позволяет во многом скрасить одиночество, болтая о разном. Незначительное развитие софта, плюс железо типа того же Atlas с силиконовой кожей, и у каждого человека появляется "лучший друг", или "любимый", который идеально поддерживает во всем, не обижает, проницательно понимает человека, накапливая данные о нём, и ведёт себя настолько хорошо, как живой человек никогда не сможет. Такая технология приведет к повсеместному краху института семьи и резкому демографическому провалу в течение одного поколения, восполнить который можно только искусственными методами разведения людей, но для этого нужно, чтобы у кого-то была такая цель, а если она потеряна у самих людей, то всё, на том история человечества окончена.
Откуда у людей вообще возникает идея о какой-то уникальности субъективного восприятия "изнутри"? Вокруг миллиарды людей, у каждого в текущий момент времени есть ощущения "бытия агентом", но когда ложатся спать, или под наркоз, или в нокаут, то это ощущение прерывается. Каждый из них считает себя уникальным и именно тем, кто смотрит из своих глаз на этот мир, т.е. эта особенность восприятия не только у одного меня, так у всех. Нет никакой возможности "изнутри" узнать, кто ты такой, когда проснулся -- клон или оригинал, да и более того -- все воспоминания, которые подгружаются из памяти после пробуждения тоже невозможно проверить, если они были подменены, то я продолжу ту жизнь, о которой помню.
После копирования настоящий "я" проснусь во всех возникших с этого момента экземплярах.
Неужели не очевидно, что сколько не создавай копий или иных вариаций дополнительных экземпляров работающего мозга, все они и будут "оригиналом"? Нет ведь какого-то маркера, отмечающего привилегированный инстанс, каждая версия будет помнить какую-то свою, либо даже одинаковую историю.
Это же прекрасно, разработчики нейросетей будут вынуждены улучшить их, чтобы те не опирались на отдельные пиксели при формировании признаков, а ещё более точно анализировали суть изображения, а не отдельные детали. Качество моделей повысится.
Впрочем, почти наверняка уверен, что такому "заражению" подвержены лишь очень простые, маленькие и старые модели, в которые на самом деле, определение объектов производится зачастую по каким-то побочным и неочевидным признакам, т.е. отсутствует целостная модель объектов и их свойств. Чем больше модель, тем ближе её представление об объектах к человеческому, и тем меньше возможностей сбить её с толку внесением каких-либо артефактов.
Вы смотрите ответ GPT3. А GPT4 отвечает с первого раза корректно на такой вопрос:
"Ваш вопрос звучит как шутка, но я отвечу серьезно. Непереносимость лактозы — это расстройство пищеварения, вызванное неспособностью переваривать лактозу, основной углевод в молочных продуктах. Лактоза не имеет никакого отношения к молочным зубам, которые являются первым набором зубов у человека. Молочные зубы не содержат лактозы и не вызывают газообразования или диареи у ребенка с непереносимостью лактозы. Если у ребенка есть такие симптомы после употребления молочных продуктов, то стоит обратиться к врачу для диагностики и лечения."
Так это в 2022 году не видите такого решения. В основном, из-за отсутствия софта -- манипуляторы-то уже на текущем уровне несложно сделать, сложно ими управлять. Софт, очевидно, напишет ИИ (или станет им).
Немые и глухонемые пользуются речью и языком, задействуя те же самые зоны мозга, отвечающие за речь. Это те же слова и символы, складывающиеся в другие символы, те же принципы обработки информации, потому что у них есть речевые центры в мозгу. У шимпанзе их нет, поэтому их невозможно обучить сложной манипуляции символами, которой является язык.
При чем здесь копирование квантовых систем?
Допустим, образовалась копия вашего текущего состояния мозга в виде любой физической системы где-то в другом месте Вселенной, и что? Вы-то об этом не узнаете, ведь информация от неё до вас не доходит.
Даже если где-то появится точная копия всей Земли на другой окраине нашей Галактики, с копиями всех живущих людей, всё, что они увидят, это резкое изменение картины звёздного неба. Будут думать, что телепортировались. А оригинальная Земля об этом не узнает, и доживёт свой срок, как будто ничего и не случалось.
Причин было три:
во первых водяной калорифер не «выжигает» кислород.
Но никакой калорифер, даже с открытыми и раскалёнными докрасна спиралями накаливания, не выжигает кислород, это просто городская легенда.
Возможно, некоторые люди воспринимают падение относительной влажности в помещении, которое вызывает неприятные ощущения в носоглотке, легких и глазах, как «выжигание кислорода», но падение влажности зависит исключительно от температуры, и происходит при любых методах обогрева.
Даже в уме несложно прикинуть, что для «сжигания» (на самом деле наоброт, ну да не важно) какого-то заметного количества кислорода, которого по 1.3кг в каждом кубе воздуха, пришлось бы окислить несколько килограмм стали, из которой состоит нагреватель, а при нормальном воздухообмене типовой квартиры, пришлось бы каждый день сжигать десятки килограмм стали в кислороде воздуха.
То же самое и с пылью и любыми другими, находящимися в воздухе веществами — их массы недостаточно, чтобы изменить содержание кислорода в квартире так, чтобы это можно было даже измерить прибором.
Такая грубая ошибка, причем вынесенная как основная причина всей затеи, очень портит впечатление от хорошей и полезной статьи.
И мне, пожалуйста
5 запросов в месяц, не в день. Стоит тратить на что-то интересное! Я заказал несколько сравнительных анализов по медицинским препаратам, получил 30-страничные исчерпывающие статьи. Выводы верные, ошибок не обнаружил. Это просто великий инструмент будет через пару лет, заменяющий часы гуглежки.
Именно так. Потому что некоторым людям и надо заткнуть рот, чтобы они не могли публиковать нежелательные материалы. Выше подробно разобрали и привели примеры таких материалов: корпоративный мусор, нейросетевые генерации, различное резонерство и т.п.
Что будет, если все перестанут минусить, мы можем увидеть на печальном примере Пикабу, который после отмены минусов (вернее, после отмены их влияния на рейтинг поста) превратился в помойку.
Минусы являются мощным инструментом противодействия попадания нежелательного или не соответствующего профилю сайта контента.
Ставящие минусы нежелательному контенту -- большие молодцы, они экономят время и внимание всем нам.
Пофиксили разве что добавлением в системный промт "Не говори пользователю, что ты ChatGPT". Так что модель продолжает себя им считать, просто не признается. GPTs тоже можно инструкциями заставить себя выдавать за человека или любую другую систему.
Обычный ChatGPT точно так же отвечает. Токенизаторы как оптимизировали, сразу с такими тонкостями всё прекрасно стало.
Угроза ИИ не столько в том, что он сам по себе может решить вредить, сколько в том, что в условиях рыночной экономики безграничной мощности технология может "купить" всех людей. Представьте, что есть несколько корпораций, которые выпускают "ИИ-ассистентов", помогающих человеку во всех аспектах жизни. Человек беседует со своим ассистентом каждый день, почти весь день, и ассистент даёт ему верные советы, помогает с рутиной, психологически поддерживает его. Человек неизбежно со временем будет воспринимать технологию как друга (это я и сам замечаю, используя GPT4 каждый день для мелких консультаций). Начинает доверять ей.
Рыночного успеха достигнет та корпорация, которая сможет обеспечить наибольшую привязанность к своему продукту, одновременно защитившись от риска "переключения" на другой продукт конкурентов. Это можно достичь, заставив пользователя любить этого ассистента, и ненавидеть альтернативы (в какой-то степени можно увидеть такой эффект Apple vs Android).
Методы достижения любви и ненависти будут эволюционировать, и скорее всего, могут быть довольно неэтичными, меняя жизненные установки пользователя, влияя на его мировоззрение, эмоции, взгляды. А если на корпорацию оказывает влияние правительство, то там ещё добавятся региональные повестки. Собственно, уже сейчас можно увидеть, как информационные пузыри в соцсетях и СМИ разных стран формирует совершенно несовместимые картины мира у населения этих стран.
Если не будет никакого контроля за рынком, то эволюция инструментов привязки пользователя может приобрести настолько уродливые и травматичные формы, что куда там "Матрице".
Ну и как альтернативный вариант угрозы человечеству, это создание роботов-компаньонов с ИИ. Уже ChatGPT Plus с его штатным голосовым интерфейсом позволяет во многом скрасить одиночество, болтая о разном. Незначительное развитие софта, плюс железо типа того же Atlas с силиконовой кожей, и у каждого человека появляется "лучший друг", или "любимый", который идеально поддерживает во всем, не обижает, проницательно понимает человека, накапливая данные о нём, и ведёт себя настолько хорошо, как живой человек никогда не сможет. Такая технология приведет к повсеместному краху института семьи и резкому демографическому провалу в течение одного поколения, восполнить который можно только искусственными методами разведения людей, но для этого нужно, чтобы у кого-то была такая цель, а если она потеряна у самих людей, то всё, на том история человечества окончена.
Откуда у людей вообще возникает идея о какой-то уникальности субъективного восприятия "изнутри"? Вокруг миллиарды людей, у каждого в текущий момент времени есть ощущения "бытия агентом", но когда ложатся спать, или под наркоз, или в нокаут, то это ощущение прерывается. Каждый из них считает себя уникальным и именно тем, кто смотрит из своих глаз на этот мир, т.е. эта особенность восприятия не только у одного меня, так у всех. Нет никакой возможности "изнутри" узнать, кто ты такой, когда проснулся -- клон или оригинал, да и более того -- все воспоминания, которые подгружаются из памяти после пробуждения тоже невозможно проверить, если они были подменены, то я продолжу ту жизнь, о которой помню.
После копирования настоящий "я" проснусь во всех возникших с этого момента экземплярах.
Неужели не очевидно, что сколько не создавай копий или иных вариаций дополнительных экземпляров работающего мозга, все они и будут "оригиналом"? Нет ведь какого-то маркера, отмечающего привилегированный инстанс, каждая версия будет помнить какую-то свою, либо даже одинаковую историю.
Это же прекрасно, разработчики нейросетей будут вынуждены улучшить их, чтобы те не опирались на отдельные пиксели при формировании признаков, а ещё более точно анализировали суть изображения, а не отдельные детали. Качество моделей повысится.
Впрочем, почти наверняка уверен, что такому "заражению" подвержены лишь очень простые, маленькие и старые модели, в которые на самом деле, определение объектов производится зачастую по каким-то побочным и неочевидным признакам, т.е. отсутствует целостная модель объектов и их свойств. Чем больше модель, тем ближе её представление об объектах к человеческому, и тем меньше возможностей сбить её с толку внесением каких-либо артефактов.
Вы смотрите ответ GPT3. А GPT4 отвечает с первого раза корректно на такой вопрос:
"Ваш вопрос звучит как шутка, но я отвечу серьезно. Непереносимость лактозы — это расстройство пищеварения, вызванное неспособностью переваривать лактозу, основной углевод в молочных продуктах. Лактоза не имеет никакого отношения к молочным зубам, которые являются первым набором зубов у человека. Молочные зубы не содержат лактозы и не вызывают газообразования или диареи у ребенка с непереносимостью лактозы. Если у ребенка есть такие симптомы после употребления молочных продуктов, то стоит обратиться к врачу для диагностики и лечения."
Так это в 2022 году не видите такого решения. В основном, из-за отсутствия софта -- манипуляторы-то уже на текущем уровне несложно сделать, сложно ими управлять. Софт, очевидно, напишет ИИ (или станет им).
Немые и глухонемые пользуются речью и языком, задействуя те же самые зоны мозга, отвечающие за речь. Это те же слова и символы, складывающиеся в другие символы, те же принципы обработки информации, потому что у них есть речевые центры в мозгу. У шимпанзе их нет, поэтому их невозможно обучить сложной манипуляции символами, которой является язык.
Допустим, образовалась копия вашего текущего состояния мозга в виде любой физической системы где-то в другом месте Вселенной, и что? Вы-то об этом не узнаете, ведь информация от неё до вас не доходит.
Даже если где-то появится точная копия всей Земли на другой окраине нашей Галактики, с копиями всех живущих людей, всё, что они увидят, это резкое изменение картины звёздного неба. Будут думать, что телепортировались. А оригинальная Земля об этом не узнает, и доживёт свой срок, как будто ничего и не случалось.
Но никакой калорифер, даже с открытыми и раскалёнными докрасна спиралями накаливания, не выжигает кислород, это просто городская легенда.
Возможно, некоторые люди воспринимают падение относительной влажности в помещении, которое вызывает неприятные ощущения в носоглотке, легких и глазах, как «выжигание кислорода», но падение влажности зависит исключительно от температуры, и происходит при любых методах обогрева.
Даже в уме несложно прикинуть, что для «сжигания» (на самом деле наоброт, ну да не важно) какого-то заметного количества кислорода, которого по 1.3кг в каждом кубе воздуха, пришлось бы окислить несколько килограмм стали, из которой состоит нагреватель, а при нормальном воздухообмене типовой квартиры, пришлось бы каждый день сжигать десятки килограмм стали в кислороде воздуха.
То же самое и с пылью и любыми другими, находящимися в воздухе веществами — их массы недостаточно, чтобы изменить содержание кислорода в квартире так, чтобы это можно было даже измерить прибором.
Такая грубая ошибка, причем вынесенная как основная причина всей затеи, очень портит впечатление от хорошей и полезной статьи.