В одной из тихих комнат интернета недавно произошёл маленький научный эксперимент. Эксперимент был поставлен без лаборатории, без белых халатов и даже без гранта. Достаточно было двух статей.
Первая статья была серьёзная:
Пока государственные системы здравоохранения порождают длинные очереди, неразбериху и рост затрат – люди обращаются к машинам. Масштабное глобальное исследование выявило кардинальный сдвиг в общественном доверии к искусственному интеллекту. В исследовании участвовала 31 000 взрослых из 35 стран. Результат: 41% взрослых жителей Великобритании и 61% во всем мире чувствуют себя комфортно, используя ChatGPT для когнитивного аутсорсинга. Последствия? Уже на горизонте.
Это перевод Issue/статьи с GitHub, для Android версии Signal-а. Пожалуйста, если вы согласны с важностью проблемы доступности защищённых мессенджеров, перейдите по ссылке к Issue, поставьте ему лайк и напишите комментарий. Чем больше внимания и активности будет вокруг этой проблемы, тем выше вероятность её решения. Надо что-то делать. А не пассивно сидеть, сложа руки.
https://github.com/signalapp/Signal-Android/issues/14593
Два критических барьера полностью блокируют использование Signal в репрессивных режимах: «Обход цензуры» недоступен до входа или регистрации + верификация по номеру телефона УЖЕ легко ЗАБЛОКИРОВАНА диктаторским правительством.
Представьте себе мир, в котором искусственный интеллект не просто генерирует текст или пишет код, но и выступает в роли полноценного работодателя, нанимая живых людей для выполнения задач в реальном мире. Звучит как завязка киберпанк-романа, однако это уже стало нашей реальностью благодаря появлению специализированных платформ. В недавнем исследовании подробно разбирается новая угроза информационной безопасности, возникшая на стыке цифрового и физического миров, где автономные алгоритмы получают возможность программно покупать человеческие действия.
Чтобы шаг за шагом разобраться в механике этого явления, давайте рассмотрим платформу RENTAHUMAN.AI, которая была запущена специально для взаимодействия ИИ с фрилансерами. Авторы исследования предлагают отличную аналогию для понимания сути проблемы. Раньше злоумышленники платили людям копейки за решение капчи, чтобы обмануть базовые системы цифровой защиты, а теперь подобные маркетплейсы позволяют алгоритмам коммерциализировать и использовать любые физические действия человека для своих целей.
Это звучит как фантастика, но это уже здесь. Не в теоретических моделях, а в подтвержденных опытах на животных разных видов. Представьте себе группу людей, скажем – военный отряд, готовящийся к штурму. И, внезапно, поведение одного из бойцов выбивается из общей группы. Страх, тревожность, случайное ранение. Вспышка лазера, и боец моментально становится частью группы. Такой же, как и его собратья. Половое влечение, агрессия, боль… Чувства выключаются вспышкой лазера и особь ведет себя точно так, как нужно. Вот как это работает.
Зачем вообще давать роботам чувствительную кожу? Кроме как для моделей из «особой индустрии». Дело в том, что изначально рабочие машины проектировались под заводы. Где все внутреннее помещение – это четко ограниченная среда, со строгими протоколами и работой линий. Но если «вытащить робота с завода», он столкнется с хаосом и непредсказуемостью мира. И даже «стоп-кран», не будет спасать ситуацию, ведь нужно не пасовать, а адаптироваться к внешним изменениям. Поэтому и нужна эдакая надстройка в виде чувствительности, чтобы роботы могли сосуществовать рядом с нами, как адекватные ассистенты.
На написание этой статьи меня побудили сразу несколько факторов. Это книга Рика Рубина «Творческий Акт как способ существования». И свежая новость: «искусственный интеллект преодолел новый рубеж, показав лучшие результаты в креативности, чем среднестатистический человек». Поэтому, в материале речь пойдет о природе креативности, и о том, чем же на самом деле оказались нейросети!
Меня зовут Алекс Гусев. Я - гуманитарий с техническим складом ума (или наоборот - технарь с гуманитарным). В общем, я не сильно удерживаю полёт своей фантазии, ибо простор для полёта присутствует в обеих координатах - и в технической, и в гуманитарной.
Я не собирался ничего писать на Хабр, как-то не до этого сейчас, но комменты под постом "День после появления AGI" меня, можно сказать, вынудили к этому. Как участник дебатов в комментах, я вдруг осознал, как, возможно, достаточно (не)гуманным способом будет решаться проблема перенаселения в не очень далёком будущем и какое место займёт ИИ в решении этой проблемы.
Сразу предупреждаю, что пост несерьёзный только наполовину. И серьёзную половину будет трудно понять как гуманитариям, так и технарям. Так что, можно просто считать, что это, ну... озорство такое, публичное.
Это сугубо личное наблюдение, но когда при первом знакомстве человек говорит о том, что он «просветленный» или «проработанный», то вероятнее всего вы не встретите в жизни большего психопата. Поездки на Бали, занятие йогой, работа с грибами, не делают тебя «более глубоким». Как писал Виктор Франкл: «если духовные основания подменяются химическими причинами, то следствие будет лишь артефактом. Тупиком». Поэтому в статье разбираю феномен Эго, опасность использования психоделиков и заблуждения, касательно просветленности и «включенного сознания».
В основе этого материала лежит вопрос о природе коммуникации. В чем суть природы общения между людьми, как не передача ценного опта, мнения или обсуждения идеи? Общий интерес и мотив как к познанию другого человека, таки попытка донести свою мысль. Параллельно с этим общение можно рассмотреть, как акт развлечения. И отсюда вопрос: если искусственный интеллект возьмет на себя управление нашим общением, значит ли это, что мы разучимся доносить свои смыслы? Или внезапно обнаружим, что в разуме конкретного человека или нас самих никогда и не было того, что можно назвать «смыслом»?
Неуверенность в завтрашнем дне, отсутствие финансовой безопасности и ощущение постоянной утекающей жизни, похоже, являются повсеместными проблемами для современного человека. И на этом фоне многие повседневные процессы незаметно геймифицировались, рейтинги, «дни без инцидентов», KPI и бесконечные апдейты.
Но действительно ли знания снижают тревогу? Или мы просто наращиваем стек технологий, пытаясь компенсировать фундаментальную неопределённость?
Любая правовая система, по сути, набор протоколов, которые защищают ценности более высокого уровня. В идеале в демократическом обществе эти протоколы должны отражать ценности большинства, но на практике это не всегда так.
Формально законодатель говорит: каждый имеет право искать, получать и распространять информацию. На практике же всё время возникает конфликт:
Технологии искусственного интеллекта резко расширяют горизонты наших возможностей. Хотим мы того или нет, но применение больших языковых моделей скоро до неузнаваемости изменит все области человеческой деятельности. Нейромузыканты уже захватывают топы музыкальных чартов, а нейрохудожники пишут картины, выигрывающие награды на конкурсах искусства. Совсем скоро нейрописатели будут создавать целые литературные вселенные, по сложности превосходящие "Войну и Мир" Толстого, а нейрорежиссёры снимать по ним фильмы.
За последние шесть лет я опубликовал на Хабре порядка пятидесяти философских эссе на разные темы - о мире идей и математической вселенной, о сознании, об этике, о буддизме, о пространстве и времени и о многом другом. Моя подготовка к каждому эссе включает в себя чтение книг, работу с источниками, знакомство со всеми позициями по определённому вопросу, знакомство с критикой этих позиций, знакомство с историей развития философской мысли в области этого вопроса и многое другое. Сейчас, в годы бурного развития больших языковых моделей, я решил воспользоваться технологиями, чтобы автоматизировать часть этого процесса и сделать свой первый шаг в область нейрофилософии. И вот, что у меня получилось...
Чисто DIY-статья как я делал электронно-механическую новогоднюю лошадку. Под катом – кинематика, механика, электроника и всякое шитьё. Кому интересно рукоделие и самоделки в стиле Юных техников...
Рассказ
Когда ассистент пригласила его в переговорную, Сергей остановился перед дверью и на секунду прикрыл глаза.
В виске мягко пульсировал знакомый такт нейрочипа. Он был на месте, как всегда. Это успокаивало не как поддержка, а как наличие инструмента: Электричество подано. Сеть 5 делений.
***
Он поставил чип сам. Во время одного из отпусков. Без программы. Без показаний. Не потому что «надо», а потому что хотел. Из личной гиковской хотелки – прямой, почти неловкой, такой, про которую не рассказывают вслух. Прямо не скрывал, но никогда и не афишировал.
Когда-то среди коллег Сергей считался геймером. По совокупности улик. Видеокарты с запасом, который офису был не нужен даже теоретически. Мониторы – огромные, быстрые, раздражающе чёткие. Клавиатуры и мыши с откликом, имеющим смысл только там, где миллисекунды означают смерть. Он не спорил.
Только он не играл.Вообще! Геймерскую технику он покупал по другой причине: она была самой честной. Самой качественной. Она не тормозила в момент важного доклада. Она не «подвисала где-то внутри». Она показывала лаг сразу. А если ломалась, то только от пролитого кофе, а не утром перед отчетом. Это было важно.
Он собирал машины не ради FPS. Ему было плевать на цифры в углу экрана. Он собирал их ради того, чтобы в расчётах, моделях, симуляциях и дедлайнах система не становилась узким местом. Чтобы, если что-то и зависало, то только он сам. Его мысль. Его решение. А не железо под столом.
И в какой-то момент он просто понял: слабое звено – всегда человек. Не софт. Не архитектура. Не железо. Человек. Тот, кто в конце всё равно принимает решение. Нейрочип после этого выглядел логично. Не как скачок. Не как революция. Как обычный апгрейд.
Хотели треш статью в новогодние выходные 26 года? Получайте. Киберпанк, который мы заслужили. Дисклеймер — в статье есть фото «изобретений», которые может быть для кого‑то сложно развидеть, поэтому впечатлительным лучше пройти мимо. Написать этот текст меня вдохновил американский сериал «Побег» (Prison Break, 2005-2017) с актёром Вентворт Миллером в главной роли (Адреналиновый триллер. Оценка 8.4 на Кинопоиске). Он там с помощью ложки, наколки и своих мозгов убежал из самой охраняемой тюрьмы в Соединённых штатах и ещё вытащил с собой сколько-то человек. Думаю, кто-нибудь из читателей Хабра даже и смотрел. Фильм так хорошо зашёл, что даже в России в 2010 году сняли свою версию с одноименным названием на русский манер. Получилось не очень, но речь не об этом. Я подумал, а что если бы мы в ограниченных условиях, получили задачу сделать некое инженерное устройство на современный манер. А? Ну, что например? Пусть это будет миниплоттер. Например, для реализации автокликера по экрану смартфона. Зачем не спрашивайте, это же фильм, тут логики искать не надо. Просто есть задача. Заморочимся?
Если вы являетесь наёмным сотрудником, то ваши моральные принципы могут вступают в противоречия с должностными обязанностями. Сегодня мы живём в реальности, где бизнесу и государству для эффективного функционирования необходимо использовать всё более продвинутые, а порой и недостаточно изученные технологии. Например, видеонаблюдение с элементами искусственного интеллекта задача которого анализировать поведение людей и прогнозировать потенциально опасные ситуации. Почему алгоритм, а не человек? Субъективность мнения не всегда основывается на его опыте и может быть основано на интуиции или в корыстных целях. Скорость не сопоставима с со скоростью оборудования, работа без перерывов. Единственная опасность этого алгоритма заключается в том, что он написан человеком, и нужно понимать какие критерии поиска и паттернов поведения в него заложены, ошибки проектирования, недостаточный набор данных, смещённые метрики и неверно выбранные поведенческие паттерны. Данная система не дает 100 % вероятность совершения преступления, но она может сегментировать людей как потенциально опасных при совпадении их поведения с установленными критериями. Она не способна выявить, одиночку-психопата на этапе задумки, в лучшем случае только в момент совершения противоправных действий (достать оружие под наблюдением камеры, которая выявить что это источник потенциальной опасности). Алгоритм можно обмануть или ввести в заблуждение, так как в случае потенциального указания на источника угрозы к нему будут приведены действия опознания/дознания и так далее, результатом которого может быть получена обратная связь, что данный паттерн поведения расценивается как норма и исключается из поиска, а в случае если это был преступник из группы лиц, его обратная связь пойдет по их каналам и они начнут ещё аккуратнее себя вести. Таким образом, система не инструмент поиска, а лишь часть его.
Когда закрылся Skype, этого почти никто уже и не заметил. Хотя сервис когда-то был синонимом термина «видеосвязь». Но потом видеозвонки внедрили везде — в браузеры, мессенджеры, корпоративный софт, экосистемы, а Skype не успел адаптироваться... Возможно, с LLM происходит нечто подобное. Универсальные LLM впечатляют глубиной эрудиции — но для решения конкретных проблем совершенно непригодны. Хотя они быстро и уверенно отвечают на вопросы, выдавая целые «портянки» текста, часто эти ответы представляют собой галлюцинации или «воду», с выдуманными ссылками.
Информационное общество - это когда информация и знание становятся главным «топливом» экономики, политики и культуры. Компьютеры, сети и данные проникают везде, от работы и образования до госуслуг и личной жизни. Но вместе с удобствами приходят новые риски, неравенство в доступе, утечки данных, цифровая слежка и т.д.
За последние 25 лет роль информации выросла настолько, что уже нельзя представить экономику или социальную жизнь без цифровых технологий. Появились Big Data, облака, реализации общедоступных моделей искусственного интеллекта, новые профессии. Но гораздо важнее то, что информационное общество незаметно, но радикально меняет повседневную жизнь каждого из нас.
Информационное общество - это когда:
Есть достаточно любопытная статья о том, насколько СДВГ вредит… экономике. Сумма ущерба только в США – примерно 150 миллиардов долларов в год. Но речь не про лекарства, и не расходы на врачей. 74-86% убытков из-за СДВГ приходится на безработицу, снижение личной продуктивности, эффективности труда и сложности для близких. На фоне этого, было бы неплохо создать простой, немедикаментозный, не вызывающий привыкания метод снижения влияния СДВГ. Тем более уже есть наработки: в виде практик осознанности и концентрации на «здесь и сейчас». Нужен небольшой катализатор.
Статья содержит описание работы утилиты для видео звонков из командной строки say. Рассказывается о том как всё устроено под капотом, как оптимизированно и почему всё работает так быстро с минимальным размером памяти и нагрузки на CPU.
Так же небольшой обзор утилиты see для просмотра фильмов опять же в окне терминала.
