Бесплатный инструмент Nightshade, созданный исследователями из Чикагского университета, скачали 250 000 раз за первые 5 дней его существования. Программа предназначена для цифровых художников, которые не хотят допустить использования своих изображений генеративными ИИ. Похоже, если инструмент будет настолько успешен, разработка следующих моделей может быть сильно усложнена.

Уже почти 70 лет, особенно в США, космические миссии в основном проводятся открыто. Все знают, куда они направляются, зачем они туда направляются и что планируют там делать. Но сейчас космос переходит в руки частных компаний. Начиная от Безоса и Илона Маска — и заканчивая сотнями фирм, разрабатывающими оборудование для спутников и осуществляющими пуски небольших ракет. У них нет стимула раскрывать свои стратегии перед конкурентами. И космические наработки человечества постепенно становятся менее открытыми.

В этом году, в какую-то неизвестную дату, состоится запуск космического корабля «Один» калифорнийского стартапа AstroForge, планирующего заниматься добычей полезных ископаемых на астероидах. Мы не знаем, куда он направится, и что будет там добывать. Мы знаем только, что компания подала в НАСА сведения о запуске и что добыча на астероидах будет вестись за частные деньги. Предположительно, для первого тестового образца выбран один из средних или крупных объектов недалеко от Земли, за орбитой Луны. Возможно, в астероидных группах Аполлона или Амура. В случае успеха это будет первая полностью коммерческая миссия в дальний космос.

Распространение квантовых компьютеров предвещает скорый крах шифрованию RSA. Взломать обычную зашифрованную связь простым перебором для них будет проще простого, какую длину ключей ни подбери. Вся традиционная банковская система, пароли, пусковые коды от ядерных шахт — всё это может быть перехвачено или взломано, как только у организации (или государства) с квантовым компьютером возникнет к этому интерес.

Сейчас активно ведутся поиски замены RSA, способной защитить информацию будущего. И, неожиданно, самый реалистичный вариант — квантовая связь. Пересылка информации, зашифрованной в состояниях связанных фотонов или ионов. Большой прогресс в этом направлении есть у физиков Европы, в Чикаго уже построена сеть-прототип, и даже у России с Китаем есть свои наработки, ведущие индустрию к квантовой связи с помощью спутников.

Квантовый интернет может быть гораздо ближе, чем вам кажется.

Это будет длинная статья, так что начнем по порядку.

 Чем больше мы узнаем, тем больше новых вопросов перед нами открывается. Несмотря на все достижения XX столетия, проникновение в ядро атома и расшифровку многих тайн черных дыр, некоторые вещи остаются неизведанными. Для части вопросов, кажется, мы уже вот-вот найдем решение. Другие с нами, наверное, еще надолго. Но в любом случае полезно понимать, чего мы пока не знаем.

Конечно, в каждом таком списке есть доля субъективизма. Но я рискну сказать, что эти вопросы входят в число сложнейших, стоящих перед наукой. Над их решением трудятся тысячи ученых по всему миру, но пока что решения от нас ускользают.

Вот вопросы, ответы на которые мы пока ждём:

Ряд бизнесов уже внедрили к себе на сайты чат-боты на базе ChatGPT и YandexGPT для поддержки клиентов. В том числе автодилеры. Что логично: ИИ может предоставить более специфическую информацию, описать особенности модели, выдать клиенту рекомендацию в зависимости от его бюджета и интересов. Но некоторые компании на собственном горьком опыте убеждаются, что эти системы нуждаются в надлежащем надзоре, чтобы предотвратить непреднамеренные ответы.

На этой неделе в нескольких дилерских центрах по всей территории США любознательные клиенты смогли убедить некоторых чат-ботов обязаться продать им машины с гигантской скидкой — просто путем настойчивого перебора различных команд. В одном случае скидка составила больше $58 000. Всё это заставило компании извиняться, а многие даже вынуждены были (о ужас!) обратно нанять для клиентской поддержки реальных людей.

Хабр, привет! Меня зовут Алексей Ватутин, я руководитель практики инфраструктуры рабочих мест в компании К2Тех.

Мы с командой давно изучаем рынок корпоративного ПО, но с тех пор, как российские разработчики пустились догонять и обгонять зарубежных, мониторить новинки стало вдвойне интереснее. На этот раз наше внимание привлекла разработка Orion soft, призванная заменить решения для терминального доступа от Citrix и Microsoft. Мы ее изучили, попробовали и делимся первыми впечатлениями под катом.

Федеральная торговая комиссия США (ФТК) отвечает за защиту прав потребителей, в том числе за борьбу с монополиями. Недавно она предъявила Amazon официальную жалобу за «незаконное удержание монопольной власти» и «сознательное ущемление прав покупателей». Это очень серьезно и может поставить компанию на грань разделения активов. Новые разделы жалобы показывают, что руководители Amazon, включая бывшего гендиректора Джеффа Безоса, вносили в платформу изменения, которые увеличивали прибыль компании, одновременно нанося вред покупателям и продавцам, а также делая сайт менее удобным в использовании.

Более того: там говорится, что компания использовала секретный алгоритм, который, по сути, позволял компании свободно поднимать свои цены, и аккуратно толкал других ритейлеров к такому же поведению. В результате продукция у Amazon всегда оставалась дешевле или имела такую же цену, как и у всех остальных, но покупатели на самом деле переплачивали.

DocSend, часть DropBox, опубликовала большую статистику по сборам стартапов в первых двух кварталах 2023 года. 24 страницы подробной информации. Для загрузки этого PDF нужно у них зарегистрироваться, но основные выводы мы решили собрать здесь. Потому что на рынке стартапов складывается довольно интересная ситуация. Денег в целом становится меньше, но некоторые сферы просто купаются в свободных инвестициях.

Весь мир говорит о стране-датацентре Del Complex. Которая будет плавать по международным водам на корабле с 10 000 GPU Nvidia. И без привязки к законам конкретного государства обеспечивать хранение и обработку глобальных данных.

Новость об этом уже появилась на тысячах сайтов, на всех языках. Но у нас создается впечатление, что все эти журналисты сильно поторопились. И тут всё может быть интереснее (и забавнее), чем они думают.

Исследователи искусственного интеллекта из Университета науки и технологий Китая (USTC) и лаборатории Tencent YouTu Lab разработали инновационную структуру, получившую название «Дятел» (Woodpecker). Она предназначена для коррекции «галлюцинаций» в мультимодальных языковых моделях (MLLM).

Принципы своей работы они описывают встатье, опубликованной несколько дней назад на сервере препринтов arXiv. Их технология достаточно проста, но позволяет убрать глупые, очевидно неверные ответы, которые иногда , казалось бы, в случайном порядке выдают языковые и другие GPT-модели.

Все мы знаем про БАК, Большой адронный коллайдер, расположенным рядом с Женевой в гигантском тоннеле на глубине сотни метров. Это одна из самых больших инженерных конструкций в мире, и её постройка обошлась Европе в $6 млрд (а могла быть и дороже, просто часть тоннелей существовала на этом месте и раньше).

А недавно немецкие ученые запустили самый маленький в истории ускоритель частиц. Крошечный технологический триумф размером меньше монеты и придает новый смысл рассказу о Левше, подковавшем блоху.

Три года назад разработчики начали «побег из Сан-Франциско». Люди бежали от высоких цен на недвижимость, от аренды по $3600 в месяц за односпальную квартиру, от засилья бездомных и наркоманов на улицах. Самым популярным направлением во время ковида стал Остин, столица штата Техас. Где вроде как не должно было быть всех проблем, постигших «либеральную» Калифорнию.

Но оказалось, что проблемы там были, просто не совсем такие, как все ожидали. И теперь пошел уже «побег из Техаса».

С тех пор, как год назад вышел ChatGPT, индустрия генерации цифрового контента находится в суматохе. Всех постепенно начинает вытеснять ИИ. Ряд художников, авторов, исполнителей, и даже звукозаписывающие компании подали многочисленные иски против компаний, занимающихся искусственным интеллектом, в основном против OpenAI. Все они касаются одного: обучающих данных. Компании ходят по всему интернету и собирают миллиарды фрагментов текста/звука, а также миллионы изображений в дата-сеты для тренировки своих моделей ИИ. Естественно, авторам или владельцам контента за это никто не платит, и их даже вообще никак не нотифицируют. Развитие технологии превыше всего.

Чтобы пресечь такой сбор данных, Reddit и X этим летом запретили доступ к своим API сторонним приложениям. Но обычные дизайнеры и цифровые художники не имели никакой возможности противостоять использованию их работ для обучения новых коммерческих ИИ. Теперь в их руках появляется более радикальный инструмент: система Nightshade. Которая отравляет любое изображение, которое ИИ просканировал без твоего разрешения.

Физика — прекрасная основа для понимания нашей Вселенной, но в ней есть несколько заметных пробелов. Одним из них является эволюция. До сих пор непонятно, из каких процессов возникает жизнь, и каким законам это явление подчиняется. Биология, если подумать, должна соответствовать физическим теориям. То есть, входить в физику. Но пока что мы изучаем две эти науки отдельно друг от друга. Никто не понимает, как «подвязать» физику к эволюции, появлению различных характерных особенностей живых существ и сообществ. Мы даже не можем в точности определить, на каком этапе начинается жизнь, а в каком случае объект просто является самореплицирующейся химической структурой. Какого-то одного объективного показателя нет.

Точнее, не было до этого года. Одна из самых больших теорий, соединяющих физику и биологию, была в этом году сформулирована международной группой ученых во главе с физиком-теоретиком Сарой Уокер из Университета штата Аризона и химиком Ли Кронином из Университета Глазго.

Они назвали свою новую теорию «Теорией сборки» и заявляют, что она может помочь в поиске жизни в других мирах. В начале октября их работа была опубликована в журнале Nature.

Когда Большой адронный коллайдер запущен — как например, во время своего второго цикла, с начала 2015 года по 2018 год, — он обрабатывает события на частоте 40 МГц. Другими словами, он учитывает 40 миллионов событий в секунду. Это необходимо, чтобы отслеживать столкновения между частицами, длящиеся менее 25 наносекунд.

Каждое событие содержит в себе примерно 1 мегабайт данных. Это значит, что в систему во время работы коллайдера входит примерно 40 терабайт данных. В секунду! Абсолютно фантастический объем информации, ведь петабайт набирается примерно за полминуты. Около 72 000 средних жестких дисков заполнялись бы каждый час.

Обрабатывать всё это на такой же скорости не представляется возможным; для анализа подобных объемов данных после окончания работы установки требуются годы. Значительная часть отфильтровывается еще на этапе сбора, на что тоже уходят огромные вычислительные ресурсы. Но всё‑таки остальную часть информации нужно где‑то хранить. Для этого европейская организация по ядерным исследованиям (ЦЕРН) содержит самый большой ЦОД в мире.

Аннотаторы данных для ИИ — новая горячая профессия в IT. Несколько десятков тысяч человек работают на таких «плантациях» в Венесуэле, в том числе обучая умные пылесосы. Недавно я рассказывал о том, как это происходит в Финляндии за счет труда заключенных. За разбор картинок и оценку текстов от ИИ им там платят порядка €1,50 в час. Но самая большая индустрия аннотаторов данных на самом деле находится в Китае. И они здесь придумали свое решение, уникальное именно для этой страны.

Последние несколько лет всё чаще можно услышать идею о том, что наша фундаментальная модель Вселенной неверна. Слишком много всего в ней не сходится. Например, постоянная Хаббла H0, показывающая скорость удаления объектов от нас. По одним измерениям (ярким далеким звездам) она равна 81100 км в час на каждый миллион лет. По другим (реликтовому излучению) — 74300 км в час. Математика верна, расстояния гигантские, но разница тут около 9%. Слишком много для простой неточности вычислений.

Ещё больше выходит разница при подсчетах значения σ8 (сигма-8), коэффициента скорости скопления космической материи. В зависимости от того, с какой стороны физики считать, разница выходит больше 15%, хотя мы используем экспериментальные данные с одного и того же устройства (в данном случае — с космической обсерватории Планка).

Стандартная космологическая модель не сочетается и с тем, что находит в далеких галактиках телескоп Джеймса Уэбба. Вплоть до того, что некоторые ученые предлагают повысить возраст нашей Вселенной в два раза, до 26,7 млрд лет, чтобы как-то привести в порядок математику.

В общем, наши самые успешные попытки измерить фундаментальные свойства Вселенной регулярно приводят к противоречащим друг другу результатам (привет, «Задача трёх тел»!). Чтобы как-то это объяснить, но не выбрасывать всю Стандартную модель, проще всего признать, что наша модель в принципе верна, просто в неё что-то не входит. Например, мы не знаем об одной из фундаментальных сил природы и поэтому не способны до конца собрать головоломку.

Такая фундаментальная сила вполне может быть: в последние 7 лет у нас появились тому некоторые доказательства.

Учитывая ~400 миллиардов звезд в Млечном Пути и ~6-20 триллионов существующих в нашей Вселенной галактик, кажется, что звезд в мире должно быть очень-очень много. Как минимум несколько септиллионов. Но на самом деле их может оказаться далеко не так много, как мы думаем. Всё это связано со скоростью формирования звезд во Вселенной и тем, как мы видим далекие галактики.

В статье о румбах я как-то писал, что ИИ-стартапы из США и Европы находят дешевых сотрудников из Венесуэлы, Филиппин и стран Африки, чтобы те кликали по картинкам и тренировали ИИ для машин. Это так называемые «плантации XXI века»: люди из самых бедных стран превратились в выгодную рабочую силу, которая выполняет аннотацию картинок за несколько центов в час.

Об этом редко кто говорит, но все топовые «высокотехнологичные» стартапы используют такой рабский труд, в основном через посредников вроде Scale AI, Appen, Spare 5 и Hive Micro. ChatGPT тоже обучали дешевые сотрудники, многие из которых едва умели читать. Особенно популярен этот низкооплачиваемый труд в сфере лидаров и в разработке беспилотных авто. Вся индустрия «аннотации данных» сейчас оценивается в несколько десятков миллиардов долларов; один только Scale AI стоит около $7,3 миллиарда.

Так вот, теперь у этих работников появились конкуренты. Возможно, более этически правильные (хотя это вам решать). В Финляндии не захотели нанимать случайных людей из Венесуэлы и Африки, и придумали вместо этого создавать стартапы непосредственно в своих тюрьмах.

Речь на этот раз пойдет не о теории бесконечной вложенности материи, и не о книге Далай-ламы. А о том, что все фундаментальные силы, которые мы можем наблюдать во Вселенной, активно работают и на квантовом уровне. Когда любые два кванта энергии взаимодействуют (независимо от их свойств, будь они частицами или античастицами, массивными или безмассовыми, фермионами или бозонами) — результат этого взаимодействия сообщает нам что-то о законах и правилах, которым подчиняется мир. И если мы хотим открыть тайны Вселенной, всё, что нам нужно сделать — продолжать задавать ей вопросы. Там, где это доступно.