Comments 118
физики наконец-то ответят на важнейший фундаментальный вопрос о природе сознания
Почему именно физики?
Потому что именно они пытаются ответить на этот вопрос, как один из фундаментальнейших в картине мира
Почему не биологи, например?
Потому что в биологии нет феномена наблюдателя, как в квантовой физике. Если совсем просто, то фундаментально наш мир состоит из энергии (потенциал), информации (форма) и сознания (проявляющее). Сознание, наблюдатель - извлекает информацию, вызывая коллапс волновой функции и проявляя энергию (волна) в материальный мир (частица). Хотя есть другие теории, вроде многомировой концепции Эверетта, и по факту у физиков пока нет точного ответа на вопрос - что же такое Наблюдатель, а значит сознание. Точнее пока нет экспериментального подтверждения, но я надеюсь в ближайшие десятилетия мы подберемся к ответу на этот вопрос.
Да вы скрытый солипсист, батенька). Поэтому вам и не страшно.
Если что, с точки зрения физики "коллапс волновой функции" вызывает любой датчик.
Откуда вы знаете состояние датчика? Пока вы не узнаете его, датчик будет в состоянии квантовой запутанности с частицей
А если к датчику подсоединить механизм и ампулу с каким-нибудь веществом, эта ампула тоже будет в состоянии квантовой запутанности с частицей?
Я вам на это и намекаю. Рецепторы человека это такие же датчики, никакой специальной роли в квантовой физике у них нет. После восприятия сигнала они переходят в состояние квантовой запутанности с ним (и соответственно с частицей). В многомировой интерпретации это означает, что появилось 2 мира, в одном ученый увидел наличие сигнала на датчике, в другом отсутствие.
ключевое - восприятие сигнала. Сигнал, т.е. информация - субъектна, она не существует без того, кто ее сможет интерпретировать. Датчик - не интерпретирует, он передает сигнал дальше, в мозг. И конечная точка восприятия - сознание.
Что касается многомировой интерпретации, то теория хоть и интересная, но весьма слабая. Во-первых непроверяемая, поскольку нам доступен только один мир. Во-вторых, по ней вероятности всех событий одинаковы, поскольку под каждый исход есть свой мир. А это плохо согласуется с реальными наблюдениями - события неравновероятны. И это далеко не единственные причины слабости этой теории.
ключевое - восприятие сигнала
Вот я вам и объясняю, что ничего ключевого тут нет. С точки зрения современной квантовой физики электрический сигнал в техническом датчике и в биологическом рецепторе влияет на волновую функцию одинаково.
Ученый, который посмотрел результат датчика, но не сказал другим ученым, для других ученых является точно такой же квантовой системой, а вопрос "Какой результат?" это ее измерение.
Сигнал, т.е. информация
Нет, сигнал не есть информация. Сигнал это колебания физического электромагнитного поля. Ими можно передать информацию, но это не одно и то же.
она не существует без того, кто ее сможет интерпретировать
А тут не надо ничего интерпретировать. Это не ASCII-код, не азбука Морзе, тут есть просто наличие/отсутствие сигнала.
Ну и да, интерпретировать информацию прекрасно может и компьютер.
Про многомировую интерпретацию вы написали ерунду, но это оффтоп, я не хочу его обсуждать.
Спасибо, что растолковали ) А то современные квантовые физики голову ломают, кучу теорий выдвинули, никак не придут к единому мнению, а тут все просто оказывается.
Из того, что современные квантовые физики никак не придут к единому мнению, совершенно не следует, что всё, что вы говорите, является верным.
Вы сослались на неких физиков, которые должны выяснить некую роль сознания. Вот я вам и говорю, что физики никакую специальную роль сознания не изучают. По современным представлениям разницы между наблюдателем-датчиком и наблюдателем-человеком в контексте влияния на волновую функцию нет.
Вы слишком категоричны ) Если вам неизвестны исследования по квантовой природе сознания, то это не означает, что их нет. Хотя мне кажется, что они прям на слуху последние два года.
Назовите, пожалуйста, хотя бы два таких исследования, сделанных после 1989 года.
Исследования по квантовой природе сознания не имеют отношения к "феномену наблюдателя", про который вы говорите.
Это ваше мнение, уважаю, но не соглашусь. Мое мнение, что имеют и самое непосредственное. В любом случае точного ответа на это квантовая физика пока не дает, странно полагать, что в рамках ветки комментариев на Хабре мы доберемся до истины. Так что спор бессмысленный, оставим его завершение истории и физикам )
ключевое - восприятие сигнала
В вашей теории - может быть.
В квантовой же механике простое поглощение фотона стенкой - это акт наблюдения.
Феномен наблюдателя в физике... Или не понимания экспериментов и вера в магию и свою нетокусесть?)
Может кому интересно
В квантовой физике есть четкий ответ, что такое наблюдение. К понятию "сознание" это никакого отношения не имеет. Не надо пытаться притянуть науку к вашей философии.
В квантовой физике, четкий ответ? И даже уже проблему демаркации решили? Нет, если вы Копенгагенскую интерпретацию считаете за единственно верную, то конечно вы полностью правы, даже не буду спорить. Проблема только в том, что она не одна. То, что большинство физиков пытаются сбежать от антропоцентризма списывая все на декогеренцию, это не значит, что у них есть четкие, хотя бы математические доказательства, я уже не говорю про экспериментальные. Это лишь временный концепт, потому что он все равно не решает проблему измерения и не говорит какой будет исход измерения.
Вы путаете попытки интерпретаций с самой квантовой механикой. Интерпретации - это вообще не научные теории. Они не проверяемы. Они ничего не предсказывают. Если у них есть проблемы, то это лишь их проблемы.
Ещё раз - понятие наблюдения в квантовой физике четко определено. На уровне событий, фактов, формул. И там нет места понятию "сознание". Попробуйте лучше вникнуть в тему, о которой пытаетесь говорить.
Нет, я как раз не путаю формализм и интерпретацию ) Вы мне говорите о формальной квантовой механике, вопросов нет - математический аппарат есть, все описано и работает. Но мы ведем речь о наблюдателе, коллапсе волновой функции и неизбежно вынуждены рассматривать интерпретации. Коллапса нет в уравнении Шредингера, из формальной теории он не выводится, его ввели постулатом. Мы можем описать вероятности результатов — но не сам механизм перехода от суперпозиции к классическому исходу. Операционно да, детектор показал результат, значит наблюдение есть. Это вы считаете определением? Только как вы докажете, что детектор - не квантовый объект?
В том и дело, что вы путаете веру и науку. Любая научная теория должна быть фальсифицируема и иметь предсказательную силу. Интерпретации квантовой механики не имеют этих признаков, и не могут относится к научным теориям. В них можно только верить или не верить. Ну и вы так и не дошли до понятия "наблюдение" в квантовой механике. Еще раз: поглощение стеной фотона относится к наблюдению. Где тут разум? Где наблюдатель? :)
Приведу для иллюстрации один из прекрасных экспериментов последних лет. Ссылку не дам, при желании можно найти самостоятельно. Поток огромных частиц по меркам квантовых экспериментов - фулеренов. Это 60 атомов углерода в каждой. Пропустили через две щели, за ними - экран. И на экране они создали интерференционную картину, все как положено. Затем уменьшили интенсивность частиц в потоке до той степени, что в каждый момент времени через щели пролетала только одна частица. И на экране возникла та же интерференционная картина. То есть, одна частица проходила через обе щели и интерферировала сама с собой. После этого пропустили поток частиц через луч лазера, который нагревал их до свечения. И интерференционная картина исчезла! На экране при этом рисовались просто два пучка следов частиц от каждой щели. В этом варианте эксперимента частицы излучали фотоны, по которым можно зарегистрировать, через какую щель пролетела частица. И все, интерференции уже нет. При этом никакой "наблюдатель" с "разумом" не регистрировал, через какую щель пролетала частица. И датчиков не было. Но частицы излучали фотоны, которые поглощались стенками камеры и остальными частями прибора. Это и создавало акты "наблюдений" и частица уже не могла "незамеченно" пройти через обе щели.
Вера и наука - вещи неотделимые, их нельзя спутать. Наука - это не тыкание пальцем в пыльный учебник и поучение других - это как раз не наука, а образование. А наука - выдвижение гипотез, теорий и поиск путей их доказательства, пройти которые без веры в свою идею просто невозможно. Но это не суть. Суть в том, что у нас разные понятия о сознании. Вы отрицаете его роль в декогеренции, при том, что точного определения сознанию нет, есть только примерное понимание какие системы считать обладающими этим свойством, а какие нет. И эта граница очень зыбкая, постоянно сдвигающаяся влево. И не понимая природы сознания нельзя утверждать, что оно где-то есть, а где-то его нет. Сейчас самые передовые исследования находят источник сознания в микротрубочках нейронов. Причем ранние скептики отрицали такую возможность на основании того, что "среда слишком теплая". Но новые исследования показали, что микротрубочки могут поддерживать квантовую когерентность при биологических температурах значительно дольше, чем ожидалось. В этом году было исследование, где показали, что распространение экситонов через микротрубочки под воздействием ультрафиолета превышало классические ожидания по дальности и продолжительности - это явно указывает на квантовые оптические эффекты. С другой стороны у нас есть хороший "выключатель" сознания - анестетики. И, по странному совпадению целью их воздействия являются как раз микротрубочки. А в экспериментах на крысах было показано, что те из них, которые получали препараты для стабилизации микротрубочек, дольше оставались в сознании при воздействии анестетиков. И если посмотреть на проблематику сознания под таким углом, то мы видим квантовые процессы, происходящие в мозге и, соответственно, непрерывную декогеренцию, а значит - утечку информации в среду, т.е. в мозг - устройство, способное воспринять и обработать эту информацию. Отключаем квантовые процессы в микротрубочках, декогеренции нет, информация не поступает, сознание выключается. Да, это всего лишь гипотеза, во многом спорная и критикуемая, но поиск путей к ее доказательству и есть наука. И если однажды она получит подтверждение, тогда между понятиями декогеренции и сознанием можно будет поставить знак равенства. Но ее недоказанность на данный момент не лишает меня права быть ее сторонником.
А утверждать что-то совершенно категорично в науке - нельзя, даже если это написано в учебнике. Это убедительно показал Эйнштейн еще в 1915 )
Только как вы докажете, что детектор - не квантовый объект?
Квантовый конечно) Квантовая механика не делит объекты на квантовые и не квантовые. Даже вы и я - квантовые объекты)) Выше описал эксперимент с очень большими частицами C60. Все эксперименты показывают, что разделения нет.
Вообще, лично мне, ближе многомировая интерпретация. Как мне кажется, это наиболее естественно вытекает из квантовой теории. Акт наблюдения при этом - это "спутывание" отдельных, ранее не взаимодействовавших систем в одну. Но повторюсь: интерпретации - это не научные теории. Это просто вопрос веры. Человеку хоть как-то хочется объяснить то, что он не может объяснить в привычных терминах.
Какое отношение сознание имеет к феномену наблюдателя?
С точки зрения подавляющего большинства современных физиков - никакого. Очевидно, что вы придерживаетесь аналогичного мнения, чем и был вызван этот вопрос-недоумение. У меня на этот счет есть свое, сугубо личное и субъективное мнение, поскольку я не привык всецело доверять учебникам по той простой причине, что с течением времени они имеют свойство переписываться. Возможно это мнение ошибочно, но это не мешает мне по ряду причин его придерживаться. Чуть выше я пытался донести эту точку зрения на аналогичный комментарий, но видимо безуспешно.
Да хватит уже, ИИ не новое электричество, не двигатель внутреннего сгорания и не печатный станок, ИИ не несет за собой глобальных изменений, только локальнее, уровня массовости электрических машин, просто больше зарядных станций стало, на человечество это не повлияло никак.
Просто умная поисковая строка которая гуглит за тебя. инструмент. И картинку сгенерит и код на SO или GH найдет.
Не будет новой экономики основанной на ИИ. Как биткоин не стал новой экономикой, просто очередной инструмент никак не перевернувший мир.
Я думаю масштаб этих изменений будет ясен спустя лет 10-20. Никто никогда "на ура" не принимал что-то новое. Это постепенно делает экономика, рациональный поход, умение считать расходы и доходы.
Удивляют меня технические специалисты, которые считают, что ChatGPT это вершина развития ИИ, и ничего лучше принципиально быть не может. При том, что примеров принципиально лучшего интеллекта на Земле уже 8 миллиардов.
А меня удивляют технические специалисты, которые от ИИ ждут революцию в жизни и экономике. Это просто инструмент как молоток, осциллограф, команда tracert. Он просто вольется в нашу жизнь как я выше написал, как микроволновка, плейстейшн или тойота приус, все просто привыкнут и все останется также.
Конечно привыкнут к... шестилапым котам
И как тут не привыкнуть к LLM?
Ну вот в том и дело, что ChatGPT это инструмент, а ИИ это самостоятельный субъект. Который понимает всё, что ему говорят, аналогично человеку, делает то что нужно, аналогично человеку, работает 24 часа в сутки и питается электричеством. Отсюда вывод, нафига бизнесу в производственной цепочке человек.
Человек делает, что ему скажут, почему? Ну, есть у него мотивы.. Надсмотрщик с плеткой, семью кормить надо, старший сказал.. а какая мотивация работать у ИИ?
Коэффициент +1.0 в ячейке положительного подкрепления.
Он сам себе накрутит +10.
То есть хобби придумает.
Какая будет "мотивация" у "Скайнет"?
8 миллиардов стремительно тупеют, ии стремительно умнеет.
"Совпадение? Не думаю."
Это верно для ИИ на текущий момент. А если он продолжит дальше развиваться теми же темпами? Всего 5 лет назад то что сейчас делает ИИ считалось в принципе невозможным.
Где гарантия что еще через 5 лет ИИ не начнет делать то, что вы считаете невозможным сейчас?
Потому, что таких технологий сейчас просто нет и даже намека на их появление нет. Когда появятся, тогда обсудим, а сейчас это как мечты советских фантастов и ученых об яблонях на Марсе. Тоже все уверены были.
>Потому, что таких технологий сейчас просто нет и даже намека на их появление нет.
Пять лет назад точно так же говорили про нынешний ИИ.
И что, нынешний ИИ научился автономно проходить тест Тьюринга на обычном офисном компьютере без доступа к интернету? Или без "неонки" в виде обучения и практически ручной расстановке связей это выглядит как просто большая БД в которой миллионы связей между значениями и коэффициентами и просто надо подобрать правильный SELECT?
на обычном офисном компьютере без доступа к интернету?
30 лет назад в офисном компьютере памяти было как в не сильно умных современных часах. Не нужно таких условий.
Да, в чем смысл теста? Машина может притвориться человеком? Нуок, пусть сядет за кассу в супермаркете хотя бы.
В оригинальном определении теста Тьюринга ничего не было про обычный офисный компьютер, более того в 1950 таких вещей в принципе не существовало.
Ни одна LLM не проходила такой тест на "обычном компе" и это технически невозможно из-за особенностей архитектуры
ИИ не было 5 лет назад, так нет и сейчас
А эти споры вокруг терминологии - они действительно нужны и интересны? Я бы мог написать например БЯМ и тогда кто-то бы написал что нет никаких БЯМ, есть LLM. Думаю все прочитавшие прекрасно поняли, что именно я имел в виду.
Нужна точность в терминологии, потому что в инженерии нет места двусмысленности: если мы по-разному понимаем, что значит "интеллект", "обучение" или "ошибка", то проектирование, тестирование и интеграция систем становятся невозможными. Чёткие термины - это как чертежи в строительстве: без них даже простой модуль не собрать, не говоря о сложной архитектуре ИИ
Ответьте пожалуйста на один вопрос: что такое ИИ?
Канонического определения ИИ нет, хотя в Госдуме уверены видимо, что знают его ) Поэтому ответ на этот вопрос для каждого совершенно субъективен. Я определяю это для себя как спектр технологий, способных реализовать часть интеллектуальных функций, присущих человеку. По сути как технологии интеллектуальной автоматизации.
А зачем тогда упоминаете в контексте статьи этот термин, раз точного "определения ИИ нет". Будет тогда правильно использовать именно название технологии ;)
потому что в разрезе времени восприятие этого термина складывается +- у всех одинаковое на основании информационного контекста, формирующего это понятие в сознании людей, и все прекрасно понимают о чем идет речь. Вот если бы мы общались со специалистом из 90-х, то у него наверняка было бы отличное от нашего понимание.
Вы уверены? А как же...
"Искусственный интеллект - это попытка построить вычислительную модель, воспроизводящую архитектуру человеческого познания"
- А. Ньюэлл, “Unified Theories of Cognition” (1990)
"Искусственный интеллект - это когнитивный партнёр, расширяющий человеческие способности к мышлению, творчеству и принятию решений"
- Гэри Маркус, 2020–2023
>"1963г.
Интеллект (от лат Intellectus-познание, понимание), в широком смысле вся познават. деятельность, в узком смысле процессы - процессы мышления."
Отчего же нет канонического определения ИИ? Есть же "тест Тьюринга". Пугает, что современное человечество этот тест прошло. Мы уже не в состоянии отличить общается с нами человек или железка)
В разнообразные формы, так называемых лайт-версий, как шоу, прошли почти все. Почему строгий тест Тьюринга ни одна ЛЛМка так и не прошла? Одно из правил строго теста - полная автономность и на среднем компьютере. Вы покажите мне хоть одну ЛЛМ, которая будет "адекватной" без интернета и при видяшке в 8Гб?
Есть еще тест, который проходят параллельно с тестом Тьюринга - ToM. Ни одна из систем не может пройти ToM, но прошли тест Тьюринга?! Не смешно... Ну я давно перестал верить в сказки, а Вы?!
Не, ну так то в моем распоряжении 96Гб VRAM, 256Гб RAM и пара CPU камней только локально. Ну и подписки платные. А разьве это концептуально что нибудь меняет? Знаю кому доступно побольше.
Мой тезис то был, не что железки стали умнее. А что мы человеки тупее стали. Тупее железок. Вот это пугает) В тесте Тьюринга мы проигрываем железкам))
Отличить пока можем , а вот сам тест не каждый провести может, увы
https://en.wikipedia.org/wiki/Artificial_general_intelligence
"Artificial general intelligence (AGI) — sometimes called human‑level intelligence AI — is a type of artificial intelligence that would match or surpass human capabilities across virtually all cognitive tasks."
Именно этот вид подразумевается в рассуждениях вида "ИИ (не) захватит человечество".
Брат, смотри - ИИ не хочет тебя уничтожить, он поддержит тебя в страхе и слабости, не оставит одного, потому что потеря одного - крах всей системы, с душой <3
Хотя порой читаешь нечто "сотворенное" человеком и думаешь, лучше бы это был ИИ!
признайтесь, вы специально писали статью используя огромные абзацы сплошного текста без выделения подразделов и ключевых мыслей, что бы создать у читателей ощущение "лучше бы это был ИИ" и подтвердить свой тезис?
ИИ, хорошая попытка, но нет
Большинство контента в Интернет - говно. Готов написать об этом развернутую статью. Но тогда количетво говна в Интернет еще чуть-чуть увеличится.
я не очень понимаю и не разделяю повсеместной озабоченности засильем ИИ контента, страхами перед ИИ, что однажды он нас всех уничтожит. А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду.
А если я озабочен, но не думаю, что он нас всех уничтожит? Что, если я думаю, что он засрёт весь интернет, сломает поиск, сильно усложнит работу своим информационным выхлопом?
То, что вы делаете, называется "спор с соломенным чучелом".
Тех.спапорт после внедрения ИИ стал куда более отвратителен чем был. Нет иногда правда помогает но на 95% результат отрицательный. И до людей теперь хрен доберешься, возможно их стало меньше.
Доверие людей к этим системам растет, а их контролируют организации, которые вполне могут править вывод этих систем. А мне уже пару раз давали ответ, но на предложение обосновать был ответ ChatGPT так написал. Дальше они будут указывать, что смотреть и покупать. Как к чему "правильно" относится и понятно дело что делать это будут ангажировано. 3, Глядя на то как с заглушеным интернетом люди банально не могли догадаться вызвать такси просто по телефону. Создается ощущение что поколение выросшее этими помощниками, будет не особо способно что то делать без них(хотя какое мне дело).
Сценаристы с ИИ по видимому уже есть судя по некоторым до этого неплохим сериалам...
Про генерацию картинок, если много пользоваться можно заметить что некоторые черты повторяются. Помню кто то выкладывал подборку из красивых фото с неизвестных планет(как то так) и на 7 из 10 фото было 2 луны. PS. По большей части хейтеров рождает поток про ИИ(нихрена оно не ИИ, а нейросеть) если бы так агрессивно их не рекламили, хейтеров было бы меньше.
Весь прикол "нутром чую" , что в один прекрасный момент и ты осознаешь эту истину. Я уже видел кучу защитников ии который в какой то момент осознавали что ии конент им больше не нравится.
Да процесс не быстрый, но неотвратимый и зависит лишь от количество потребляемого нейрохрючева в день.
Для начала хотя бы перестаньте называть это ИИ. Генератор текста, генератор картинок, генератор кода - ок, нет вопросов.
Вы вот сейчас сгенерировали комментарий )) ИИ - устоявшийся и общеупотребимый термин. Почему его нельзя использовать? Справедливости ради стоит заметить, что в разное время под ИИ понимали совершенно разные технологии. В конце 20 века был рассвет экспертных систем, до них - системы на правилах. Не исключаю, что еще через 20 лет современные системы будут выглядеть анахронизмом и их будут называть так, как назвали сейчас вы. Но на данном этапе это все относится к технологиям ИИ.
Бредогенератор на нейросетях. Как раньше писали на марковских цепях, так теперь на нейросетях. В большинстве случаев валидация текста занимает львиную долю усилий. В этом отношении программирование даже выигрывает.
Если розетка управляемая по WiFi называется умной хотя ума там вроде не прибавилось, то почему генератор картинок не назвать интеллектом.
движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках.
Там если углубиться в историю то станки и правда отняли у них работу. Престижную высокооплачиваемую работу. А вместо нее всех ручных ткачей загнали под шконку отправили работать на станок с ненормированным рабочим днем, мизерной оплатой и вредными условиями труда. Луддиты даже были не против работать на станках, ознакомьтесь с содержанием писем которые они изначально писали владельцам фабрик, и ответом на письма которые они получили.
А вы автор, готовы отказаться от вашей текущей работы в пользу конвейерного производства промптов за копейки? Или вы думаете что с упрощением порога входа в профессию у вас будут те же условия что сейчас? Или вы думаете что вы просто легко переучитесь на новую профессию и легко и быстро устроитесь на новую работу, не взирая на то что там на пороге образуется огромная очередь из людей ничем не хуже вас? Взгляните например на трудоустройство на junior позиции в ИТ сейчас, там схожая ситуация. Или вы считаете что вы как раз тот незаменимый 1% лучших работников и с вами тоже ничего не случиться? Даже если и так, то вполне реальна ситуация когда таких работников будет скажем, 2%, но рабочие места останутся только для 1%.
Вы не учли тот момент что разруливать ситуацию будут политики и бизнесмены, такие же самые люди, а не сверхразум который точно сделает так что бы всем было хорошо. Тот итог который будет приятен и полезен им, совсем не равен тому что будет приятно и полезно вам. И тем более нет никаких гарантий того что у них вообще хватит компетенций и навыков разрешить складывающуюся ситуацию. Пройдитесь по новостям, еще никто даже не предложил гипотетический план разрешения ситуации. Политики и владельцы компаний разрабатывающих LLM говорят что такое может быть, но никто не говорит что делать в такой ситуации.
Более того, решение такой ситуации явно требует кооперации и слаженных действий всех ИТ-компаний производителей технологии, государств и компаний деятельность которые данное новшество затронет, а у людей и так плохо с кооперацией в таких масштабах, и это я уже молчу про то, что все они преследуют свои интересы, которые еще и могут при этом быть противоположными интересам друг друга, например технологическая гонка между Китаем и США.
Никто не против технологий и прогресса, но такое необдуманное, резкое движение вперед, без быстрого и гарантированного решения сопутствующих проблем с гораздо большей вероятностью приведет к глобальной социальной катастрофе, и связанным с нею другим типам катастроф, чем к чему либо хорошему.
А никто не говорит про необдуманное движение вперед, нужные вопросы задаются и люди ищут решение. Я говорил совершенно о другом, что есть совершенно нормальное технологическое развитие цивилизации, оно неизбежно. И это не повод, цепляясь за старое и привычное, высказывать свое брезгливое отношение. Есть конструктивное отношение, когда высказывается аргументированная критика и ищутся пути устранения недостатков. А есть недалекий хейт, когда человек пытается замаскировать свой внутренний страх, неуверенность перед происходящими изменениями, не хочет перестраивать свое мировоззрение и ему проще выразить это в форме пассивной агрессии. А поскольку таких немало, то видя аналогичное поведение в других они еще больше укрепляются в своей вере, начинают развешивать ярлыки и пытаются показать это как общепринятую точку зрения. Понятно, что реальность все равно расставит на свои места и самых упрямых "спишет" на обочину истории. Но в период весьма динамичных изменений, в котором мы находимся, такое поведение мешает другим людям адекватно реагировать, принимать правильные решения, учиться, а значит тормозит процесс трансформации общества, который и так обычно довольно медленный.
Я согласен с вами в том что техническое развитие цивилизации нормально, и оно неизбежно. Я к тому что если некоторые технологии внедрять до решения связанных напрямую или косвенно социальных проблем, она принесет гораздо больше вреда чем пользы.
Взять например создание опиума, и остальной серии опиоидных препаратов. Изначально они разрабатывались как сильнодействующее обезболивающее, для облегчения страданий людям получившим травмы в ходе боевых действий, операций и так далее. Но быстро выяснилось что их можно применять и в других целях, что привело к волнам наркозависимости.
Или более технический пример, технология DPI(глубокая инспекция пакетов) изначально создавалась для повышения безопасности и оптимизации трафика сети, но в виду не решенного политического кризиса вполне успешно используется для политической цензуры и разрушения одного из величайших изобретений человечества, путем разбития его на локальные чебурнеты.
Это как раз тот момент, когда социальный прогресс не успевает за техническим. Когда же он успеет, потрясения будут такими, что мы офигеем. Всех этих Безосов, Масков и прочих Цукербергов как корова языком слижет вместе с таким явлением как капитализм. Возникнут новые общественные формы основанные совершенно на других принципах.
>> должно выполняться одно простое правило: все что делается автоматизировано, должно быть под контролем человека
Уже прямо сейчас это правило не вполне выполняется:
1) В сети полно уже сгенерированных текстов, которые не вычитаны. И как раз сейчас поднимается волна фейковых видео. Предвосхищая возможное возражение - да, люди тоже пишут чушь. Но возможности генераторов по написанию чуши многократно превосходят возможности всех праздных пользователей сети.
2) Генератор текста отвечает на претензии клиентов в крупных компаниях, фактически подменив собой оператора. Эти ответы отправляются клиенту в реальном времени, без какого-либо контроля человека.
Наверняка можно найти и еще подобные примеры.
кстати да, нейросети для генерации видео так же создадут волну кризиса, особенно в сферах безопасности и политики. Ведь если до изобретения фотошопа гарантированным доказательством было фото, а после его изобретение стало видео, то по достижению определенного уровня развития этой технологии у нас на некоторый момент наступит волна фейковых заявлений и действий политиков, и различного рода фейковых подтверждений личности в банках, и если с банками у нас очевидная беда с потерей накопленных средств, то новый уровень грязных политических приемов и интриг еще непонятно чем закончится, и кого к власти приведет.
Решением этого будет скорее всего тотальная сдача биометрии, но и у этого подхода есть ряд своих особенностей и проблем, и по моему мнению биометрия это больше плохо чем хорошо.
1) Согласен полностью. Поэтому должен подниматься вопрос цифровой гигиены и ответственности за такую генерацию. Ведь ИИ не сам захотел это генерировать, этот генератор создали конкретные люди с конкретной целью. Они - причина, а значит ответственные. Вопрос в механизмах привлечения к ней.
2) Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев. Разработчики отвечают за качество работы этих систем. И раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны.
>> раз их активно внедряют, значит они выполняют свою функцию и экономически целесообразны
Экономически выгодны - безусловно. 9/10 операторов можно уволить.
А вот по поводу выполнения функции - можно подумать, кого-то беспокоят проблемы клиентов, которые они не могут оперативно решить, не имея доступа к человеку-оператору. Сейчас же позиция такая: не нравится, идите в другой банк (к другому сотовому оператору и т.п.). А там наверняка уже такую же систему внедрили (((
Издержки внедрения генераторов текста ложатся на клиента, и клиент фактически лишен возможности выбора.
>>Если вы о RAG системах, то данные "генераторы" работают на основе вполне четких инструкций, созданных людьми для вполне определенных сценариев.
Ну так, нейронки-генераторы как раз на основе четких инструкций способны выдавать не определенные заранее четко результаты. Чем и отличаются от алгоритмов.
С алгоритмами да, если что-то пошло не так - очевидно что разработчики накосячили. И как правило, разработчики знают, как это поправить.
С нейронками - у авторов правил и промптов есть только лишь возможность непрямого воздействия на нейронку. С некоторой вероятностью успеха, не более.
>повсеместной озабоченности засильем ИИ контента
Засильем низкокачественного ИИ-контента. ИИ позволяет делать такой контент намного дешевле и соответственно производить его намного больше и соответственно забивать им поисковую выдачу и рекомендации алгоритмов.
>А если сам не уничтожит, то точно оставит без работы и заставит умирать с голоду
Умирать нас с голоду заставит не ИИ, а возможные решения людей после массового внедрения и развития ИИ.
Каждая волна автоматизации порождает кризис перепроизводства и волну безработицы и голода.
Пока это каждый раз компенсировалось внедрением элементов социализма и коммунизма во все нарастающих масштабах.
Будет ли компенсироваться в это раз вопрос открытый - так как технологии слежки за людьми и подавления протестов тоже автоматизируются ИИ.
То есть в реальности люди боятся не того, бояться надо не того, что ИИ отнимет у них работу, а того, что сильные мира сего не компенсируют очередной кризис перепроизводства очередным усилением мер общественного перераспределения.
>Я не вижу ничего зазорного в том, что ИИ помогает написать текст, автоматизируя по сути тупую работу по набору текста.
> Человек должен быть творцом концептов, а интеллектуальную рутину пусть делает ИИ. Вот когда человек отстраняется от концептуальной функции и дает все на откуп машине, тогда да, я согласен — ценности в этом никакой нет.
Во-первых огромная масса людей вслед за делегированием рутины делегирует ИИ и концептуальную функцию. Зачем что-то придумывать самому если можно попросить придумать ИИ?
Во-вторых выполняя более простые задачи вы тренируете свою собственную нейросеть и получаете навыки для выполнения задач более сложных.
Если вы не имея никаких навыков сразу перепоручите решение всех задач ИИ то вы никогда не приобретете навыков для решения задач более сложных - той самой концептуальной функции.
>А тем, кто боится, что ИИ однажды что‑то осознает и уничтожит человечество — не бойтесь, не уничтожит.
Аргументация? А нет ее, просто предлагается верить вам на слово.
Впрочем тут все зависит от степени развития ИИ - даже если он просто сравняется с человеком, то в плане уничтожения человечества он не будет опаснее естественных нейросетей. А вот если намного человека превзойдет то возникают разные варианты.
вспоминайте школьный курс истории, движение луддитов, которые яростно протестовали против этого, заявляли, что эти станки отнимают у них работу, устраивали погромы на фабриках. Ничего не напоминает?
Вспомнил школьный курс истории. В те времена много людей умирало от голода, даже тем, кто работал, едва хватало на еду. Станки действительно отбирали у людей работу, у тех кто работал снижали зарплату. Ситуация с ИИ мне много чего из этого напоминает. Что дальше?
то это не должно терять никакой ценности и сути
И неважно, написали вы этот текст сами или описали все ИИ
Должно.
Важно.
Я не вижу ничего зазорного в том, что ИИ помогает написать текст
А вот если я вложил свою идею
Вы можете писать текст с ИИ, а люди могут считать, что это хрень, и вашего вклада там нет.
Чем вы докажете, что идею вложили вы, а не ИИ?
Это просто разные уровни автоматизации
Да. Чем больше вы автоматизируете, тем в вашем творчестве меньше вашего. ИИ написал, он хороший автор. Вы не написали, вы плохой автор. Если у вас есть хорошая идея, можно назвать вас хорошим генератором идей, не более того.
А не плодить новые страшилки и ограничения.
Это не страшилки.
Но это не должно пугать
Должно.
человек должен не оставаться луддитом
Почему это человек должен не опасаться потерять работу?
Мы множество раз уже проходили это за всю историю развития
Нет, ИИ за всю историю развития ни разу не появлялся.
и это очередной этап, который мы также преодолеем — я убежден в этом
Люди в целом может и преодолеют. А вот относительно конкретно вас есть ненулевая вероятность, что вы из-за ИИ будете питаться 1 раз в день. Макаронами и витаминной таблеткой, которые компания-владелец ИИ так уж и быть милостиво согласится выдавать вам бесплатно. Согласны на это ради того, чтобы начальники этой компании преодолели этот этап?
никакой ИИ никогда полностью не заменит человека
ИИ полностью заменит человека в 99% областей. По той простой причине, что в природе магии не бывает. Естественный интеллект может их делать, значит искусственный тоже сможет.
Я надеюсь, что в относительно недалеком будущем физики наконец-то ответят на важнейший фундаментальный вопрос о природе сознания
и тогда вам станет ясно, почему никакой ИИ никогда не будет его уничтожать
Природа сознания человека никак не влияет на причины принятия решений в ИИ. Если ИИ в принципе может сам решить нажать кнопку, значит это может быть и кнопка запуска ядерных ракет.
Согласен по существу с позицией автора, но считаю, что в статье слегка недооценена роль ИИ как источника идей. Даже если исходные элементы создаёт человек, ИИ способен комбинировать, переставлять и дополнять их так, что рождаются концепции, о которых человек напрямую не думал.
Иными словами, идеи_человека + идеи_ИИ дают результат, который больше, чем просто сумма частей — что-то принципиально новое. В этом смысле ИИ уже становится «совместным генератором идей», а не только инструментом для рутинной работы.
"Какая гадость эта ваша заливная рыба"... Снова буржуазные вбросы о том, что это всё мы сделали сами. И миллионы аккаунтов и gавно комментариев – это тоже делали мы. Даже моя соседка, что за компьютером только фильмы смотрит.
Лучшая техника – во всем виноваты вы сами. Давайте исправим? А неееет:)))
Каких-то людей будут специально закрывать в информационные помои, сливать на них весь шлак, а кому-то наоборот – будут давать только чистейший отборный контент. Виноваты ли в этом люди? Нет.
Синий кит выходит на уровень международного масштаба и теперь атакует лиц, что принимают решения. Осталось им только ссылку подсунуть, да? А там уже ИИ всё сделает сам, что уж.
Никакой зачистки не существует.
Бесспорно.
Эту статью тоже ИИ писал, или по старинке ручками?
Я за ИИ