Убьёт ли нас ИИ или спасёт, думать пока рано. Прямо сейчас важнее понять, как не свихнуться до прихода этого светлого или ужасного будущего. Поэтому я собрала семь ловушек, в которые мы с моим мозгом уже успели влететь, посмотрела, что о них знает наука, и попыталась ответить на главный вопрос: чё с этим делать-то?
«Ну понятно, до нормального результата ещё года два». Так можно было сказать про нейронки… примерно полгода назад. И вот мы здесь. ИИ уже делает кучу вещей сильно быстрее и проще.
И вот здесь начинается самое дискуссионное. Потому что вместе с рабочей задачей есть риск передать искусственному интеллекту и кое‑что важное: поиск и анализ информации, который влияет на развитие собственного интеллекта.
Привет! Это Денис Румянцев, руководитель продуктовой разработки в Профи.ру. Я не сторонник ни полного восторга от ИИ, ни идеи «давайте всё запретим, пока не поздно».
“Облачный блокнот” выглядит как ваши файлы. Но это запись в чужой базе: её можно закрыть, выгрузить с потерями или скормить модели без уведомления. Это как золотая клетка с прозрачными стенами: всё видно, кажется своим, выйти нельзя. Есть проверка на тридцать секунд — почти никто её не проходит.
Психологическая безопасность в компаниях и так трещит по швам: люди молчат, боятся ошибиться, не доверяют друг другу. Искусственный интеллект эту трещину не создаёт — он её расширяет. Технология работает как увеличительное стекло: страхи, конкуренция, недоверие и потеря смысла становятся заметнее и больнее. В статье разберём, как и почему это происходит. Поделюсь мыслями о том, что поможет чувствовать себя безопаснее под давлением ИИ и каких ловушек стоит избегать.
Привет, Хабр!
Мы убеждены, что при проектировании систем их нужно, прежде всего, тщательно продумывать и моделировать. В крупной организации на это накладывается столько разночтений, согласований и неизбежного недопонимания, что кому‑то просто необходимо предотвращать скатывание системы в хаос, одновременно её корректируя и развивая. О том, как это сделать программному архитектору, системному аналитику и людям, принимающим решения, рассказала Дайана Монталион в своём труде «Изучаем системное мышление», недавно пополнившем наш книжный зоопарк. Дайана Монталион более 20 лет занимается программной архитектурой и создаёт передовые программные системы для таких организаций как Стэнфордский университет, фонд Билла и Мелинды Гейтс, газеты The Economist и портала Wikimedia. Основала компанию Mentrix Group, занимающуюся разработкой ПО и оказанием сопутствующих услуг. Также ведет семинары по системному мышлению, технологической архитектуре и нелинейным подходам к разработке ПО. Предлагаем вам подробный обзор книги от блогера Хави Агирре, подробно проштудировавшего её.
Автор решил пойти на поводу у трендов, и повычислять самца дрозофилов у себя на ноутбуке. Но не с целью поиздеваться над бедным животным, а изучить повадки насекомого в виртуальной среде, и может даже заговорить с ним! По крайне мере, о мухьем.
Необычная статья о том, как с научной и эзотерической точек зрения, без противоречий можно объяснить поведение человека.
Эти знания позволяет по‑новому взглянуть на работу человеческого мышления и объяснят поведение человека в любых!! жизненных ситуациях.
Из статьи читатель узнает о научном исследовании, а также найдёт подтверждение модели в реальных случаях авиационных катастроф и в обычной жизни. Представленная концепция позволяет лучше понять собственные поступки и действия окружающих людей.
На основе анализа большого экспертного материала, полученного в ходе расследования авиационных происшествий, разработана принципиально новая концепция психической деятельности человека и сформулированы законы психической деятельности, нашедшие широкое применение в практике расследования авиакатастроф.
Основа работы — анализ поведения лëтных экипажей в особых ситуациях полёта. Тот материал, который был исследован — уникален. Его нельзя получить ни в одном эксперименте. Это реальная жизненная ситуация, в которой человек действует на грани смертельной опасности.
До недавнего времени, до того времени, пока не обратились к новой концепции, не стали её использовать, в практике в большинстве случаев не удавалось объяснить поведение пилотов с позиции классической психологии.
Даже с позиции здравого смысла, они себя ведут крайне противоречиво. Так, например, часто наблюдали, что один и тот же человек — пилот, командир корабля — ведёт себя как два или три совершенно разных человека, управляющие самолётом. Один сразу сменяет другого. Очень странно, как будто совершенно разные люди.
Что помогает не бросить Data Science, когда мотивация закончилась, формулы пугают, а мозг просит пощады? Делюсь пятью приемами, которые сработали у меня за десять месяцев учебы: от сна и странных мнемоник до Хайнлайна и дозированных истерик.
Говоря об уникальности, в голову приходит один яркий, хоть и весьма заезженный и слегка гиперболизированный пример, — снежинки. Все они уникальны. Но мало кто, говоря об уникальности, вспоминает людей, а точнее личности. Все мы, независимо от вероисповедания, культурной, социальной, этнической или какой-либо другой принадлежности, является представителями одного вида, что, к сожалению, многим до сих пор не дано понять. При этом каждый из нас обладает своим уникальным набором черт личности, привычками, хобби, желаниями и целями. Является ли эта уникальности спонтанным творением эволюции высшей нервной системы, либо в ней все же заложена некая генетическая закономерность. Ученые из Университета штата Мичиган (Ист-Лансинг, Мичиган, США) провели исследование, в ходе которого выявили порядка 1200 генетических вариантов, который в разной степени связаны с личностными качествами, здоровьем, привычками и даже потенциальным уровнем дохода. Какие гены отвечают за какие черты личности, какова общая картина данной зависимости, и каково практическое значение полученных данных? Ответы на эти вопросы мы найдем в докладе ученых.
Когда я иду по улице и разговариваю по телефону, прохожие регулярно переспрашивают: «Это вы мне?»
Из этой мелочи выросла целая статья — про то, какой гаджет первым съел паузы, в которых жили наши собственные мысли.
Спойлер: это не телефон. И рецепт — не блокировщики и не кнопочная звонилка, а кое-что бесплатное и по-настоящему скучное.
Примерно половина людей не замечает, если посреди разговора собеседника подменить другим человеком. Это не фигура речи и не мысленный эксперимент, а результат полевого исследования 1998 года.
Мы почти никогда не смотрим на другого человека. Мы смотрим на собственную модель другого человека и сверяем её с реальностью настолько экономно, насколько удаётся.
У такой модели есть довольно неприятное свойство. Она не только описывает человека, но и меняет его. Если я достаточно уверен, что при настоящей близости меня рано или поздно начнут контролировать, я буду вести себя так, что меня действительно начнут контролировать. И тогда модель перестанет быть просто ошибочной. В той системе отношений, которую она сама помогла построить, она начинает верно предсказывать реальность.
Дальше о том, как эта конструкция устроена, почему она вылезает наружу в темноте и в мессенджерах, почему умершие приходят в гости и что со всем этим делать.
Бывало у вас такое: дел в голове так много, что забывать их начинаешь как только вышел с очередной встречи? Через несколько дней надо принять решение, на основании того, что мелькало перед тобой 3 секунды. Через время ловишь себя на мысли «У нас 21 век, агенты, скилы, почему строить связи между встречами, записями и мыслями должен я?». У меня — бывало, и тут как раз об этом.
Привет! Меня зовут Дима, и я работаю руководителем команды web-разработки AI‑продуктов в R&D Яндекса. А ещё — я учусь в вузе на 4 курсе, люблю куда‑нибудь слетать, пытаюсь следить за здоровьем: и всё это, как я думаю, легко бустится агентами.
Базовая потребностей человека — понять самого себя. Кто мы? В чём наша истинная природа? Что в нас заложено биологически, а что формируется воспитанием, окружением и личным опытом? Этими вопросами люди задавались на протяжении всей истории и в самых разных культурах.
В этой статье разберём, что в нас врожденное, как на этой основе формируются темперамент и характер и что из этого взрослый человек способен изменить сознательно.
«У меня просто плохая память».
Наверное, это одно из самых удобных объяснений, почему не получается выучить иностранный язык.
В школе учил английский — забыл. Вчера запомнил десять слов — сегодня осталось три. Новую фразу повторил несколько раз, а через неделю опять приходится смотреть перевод.
Вывод кажется очевидным: память плохая. Языки мне не даются. Но есть одна странность.
Имя нового коллеги вы через некоторое время запоминаете. Пароль, который постоянно вводите, тоже. Дорогу в новый магазин сначала приходится смотреть по карте, а через несколько поездок вы уже едете автоматически. И фразу из песни, которую никогда специально не учили, почему‑то можете помнить двадцать лет.
Возможно, дело не только в памяти.
И женской тоже — это один и тот же диагноз
Бытует культурный стереотип, что мужская депрессия проявляется как‑то принципиально иначе, чем женская: «женщины грустят и переедают, мужчины срываются на окружающих и вовлекаются в рисковое поведение».
На деле такое представление — это лишь часть большой картины, и без знания и понимания остальных аспектов оно будет лишь на ступеньку выше, чем «мужчина не имеет права на депрессию».
В реальности проявления депрессии у мужчин и у женщин хоть и отличаются, но и вполовину не столь значимо, как это принято считать.
Сегодня поговорим о депрессии у мужчин, хотя по сути о депрессии в целом: как она возникает, как проявляется, как часто встречается, и, самое главное, как с ней справляться.
Сам механизм открыт и описан в новом исследовании, и называется «апикальная гиперконтекстуализация». Он отвечает за то, как в нашем мозге возникает связь между всем, что находится в сознании. Способность связать несвязываемые вещи, людей и события. Чаще всего это проявляется при шизофрении или при злоупотреблении психоделиками. В чем новизна механизма?
Привет, Хабр! В одной из прошлых статей мой коллега упомянул теорию соматических маркеров Антонио Дамасио. Эта гипотеза связывает текущие ощущения с эмоциональными и физиологическими реакциями. В похожих ситуациях мозг использует их для предварительной оценки вариантов, поэтому выбор формируется раньше осознанной аргументации.
Этому исследованию уже больше тридцати лет, и многие современные работы отталкиваются или дополняют его.
В этом материале я разберу, на чем Дамасио строил свою гипотезу, какую видел роль интероцепции и вегетативной нервной системы и что показали эксперименты со знаменитой игровой задачей Айова (Iowa Gambling Task, IGT). Отдельно постараюсь ответить на вопрос, когда телесным сигналам стоит уделить внимание, а когда они отражают тревогу, усталость или ошибочно закрепленный опыт.
В медицине есть такое понятие — порочный круг. Это ситуация, при которой реакция на проблему создаёт новую проблему, усугубляя первоначальную трудность. Так вот бессонница идеально подходит для иллюстрации порочного круга.
Самый частый вариант бессонницы — психофизиологический. Он связан с нарушением выработки кортизола. К вечеру его остаётся слишком много. Мозг вместо отдыха ищет проблемы и думает думы. Чем больше человек переживает из‑за недосыпа, тем сильнее возбуждается нервная система. Заснуть всё труднее. Постепенно кровать и спальня начинают ассоциироваться с мучениями, мысль о них запускает тревогу и прогоняет сон.
Добавьте сюда привыкание к снотворным, сбои нейромедиаторов, когнитивный перегруз, дневную сонливость и ещё десяток состояний. Звучит как проблема, но при чем тут кишечник и бактерии?
Современная идея работы сформировалась Промышленной революцией, передавшей роль создателя продуктов труда от человека машине, и тем самым переопределила суть человека трудящегося: из мастера своего труда — в оператора чужого, машинного труда. Основную работу сегодня выполняют машины: будь то станки или компьютеры, но человека это не освободило: наоборот, закрепостило в роли придатка, обслуги машинного труда, вынужденного работать в машинном темпе и подчинённого машинным ограничениям.
Это прямо противоположно свободному, мотивированному, духоподъёмному, осмысленному труду, который вполне буквально сделал человека человеком — и поэтому современный индустриальный концепт «человека-работника» на самом деле является расчеловечивающим: человек или человек — или работник.
Но выходом из этой дилеммы является не регресс (назад к кострам и пещерам), а продолжение и завершение процесса индустриальной революции: переход от механизации труда к автоматизации. Необходимую для этого роль оператора, мыслящего придатка к механизмам, и должен взять на себя ИИ. Это то, для чего ИИ и изобретали.
ИИ исправляет ошибку, а человек вписывает ее в свой опыт и что это говорит об ограничениях современных ИИ
Современные ИИ используют разные формы обратной связи: функцию потерь (loss), вознаграждение и ошибку предсказания вознаграждения (reward prediction error) в обучении с подкреплением (RL), а также человеческие оценки (RLHF). Но на фундаментальном уровне все эти сигналы работают в рамках одной и той же схеме числовой оптимизации. Независимо от того, называется ли сигнал «потерей» или «вознаграждением», он служит входом для алгоритма, который изменяет параметры модели так, чтобы лучше достигать заранее заданной цели. Система не переживает качественного перехода в состояние «удовлетворения» или мук совести за совершенную ошибку, после того как она обнаружена, как человек, она лишь становится эффективнее в оптимизации внешне заданной функции.
