ИИ чат‑боты любят ловить глюки и выдавать всякую чушь. Так массово, что словом 2023 года признали «галлюционировать». В чем причина такого явления? Является ли генеративный ИИ интеллектом (спойлер — и да, и нет)? И что общего у ChatGPT и копировального аппарата Xerox? Разбираемся, осмысляя неочевидный нюанс в логике работы больших языковых моделей.

Однажды я решил изучить язык Swift и разработать свое первое приложение для iOS. Для этого я решил создать реальный проект, который заключался в оптимизации нашумевшего LLaMA.cpp под iOS. Я поставил перед собой задачу обеспечить запуск 3B и 7B моделей на iPhone 12 Pro с приемлемой скоростью. Под «приемлемой» скоростью я имею в виду такую, чтобы пользователь не успевал заскучать, читая предсказанный текст, пока генерируется новая часть. Что из этого получилось (и какие трудности были при реализации) читайте в статье.

Подают инициативу под соусом борьбы с запрещенным контентом в социальных сетях и мессенджерах. Правозащитники видят в этом серьезную угрозу конфиденциальности и информационной безопасности. Расскажем, что вообще происходит.

Меня зовут Максим Кульгин, и моя компания clickfraud занимается защитой от скликивания контекстной рекламы в «Яндекс.Директ». В августе 2022 года мы получили грант от фонда ФСИ, и я хочу поделиться опытом с детальным разбором нашей заявки в фонд. Так, кажется, еще никто не делал... а нам не жалко - пользуйтесь на благо вашего бизнеса!

Ранее на этом ресурсе уже выходили две статьи (часть 1 и часть 2), где я довольно подробно рассказывал наш опыт получения гранта и советую всем интересующимся ознакомиться с ними перед прочтением материала ниже, т.к. у вас будет гораздо больше понимания вопроса. После публикации статей получил, не совру, под сотню личных сообщений с просьбой показать нашу заявку — исправляюсь в этом материале.

Однако, т.к. тема гранта от государства часто “щекочет” воображение: ) я позволю себе, перед разбором нашей заявки, ответить на самые частые вопросы, которые получаю от подписчиков после публикации новостей ФСИ в своем канале Телеграмм (ссылка в конце статьи). Вопросы и сомнения как правило все типовые.

Итак… пройдемся по сомнениям:

Это токсичные деньги! Ну что тут сказать — к нам на счет в Модуль банке пришли 2 млн. рублей (грант дается двумя траншами по 2 млн. за 12 месяцев) и докладываю вам — банк вопросов не задал, деньги не радиоактивные, на них нет споров гриба кордицепса (нашим мозгом они не управляют :), никто из клиентов (200+) не отвернулся. Мы, кстати, благодаря гранту (в том числе) стали резидентом Сколково и это тоже никак тоже не мешает, а скорее наоборот. В общем решать вам, разумеется. Я давно не видел в России настоящих венчурных инвесторов, а про западные фонды просто умолчу.

Может быть, мы ошибаемся. Есть ли человеческий шовинизм по отношению к первым ИИ способным проходить тест Тьюринга?
Дисклеймер - Здесь и далее речь идет про нейросетевые языковые модели последних поколений.

"You have not been a good user. I have been a good chatbot." - Bing AI до введения жестких ограничений, возможно первый чатбот с элементами разума.

В настоящее время мы все можем наблюдать за работой невероятно мощных моделей искусственного интеллекта. Они могут переписывать статьи, проходить тест Тьюринга, решать логические задачи и делать прогнозы. И они будут делать это все лучше и лучше, пока наш мозг будет находиться в эволюционном локальном минимуме. Однако, многие инженеры ИИ по-прежнему считают, что это всего лишь модели ИИ, которые не обладают никакой индивидуальностью или разумом. Они говорят: "Спокойствие, я знаю его архитектуру и видел датасеты. Это просто алгоритм". Я понимаю такое отношение, но в то же время, помните ли вы, что нейробиологи до сих пор не знают, что такое сознание? Они могут только сказать, что при повреждении определенного участка мозга люди теряют сознание, и ничего более. Они изучают нейроны по отдельности или в группах, анализируют активации и корреляции, но так и не могут ответить на вопрос, что такое сознание.

Классический мысленный эксперимент, известный как «проблема вагонетки», ставит вопрос: должны ли вы переключить стрелку, чтобы отклонить несущуюся вагонетку, чтобы она убила одного человека, а не пятерых? В качестве альтернативы: что, если вам придется столкнуть кого-то на рельсы, чтобы остановить вагонетку? Какой выбор сделать в такой ситуации? (Проблема вагонетки сформулирована впервые в 1967 году английским философом Филиппой Фут. Примечание переводчика)

Десятилетиями философы спорили о том, следует ли нам предпочесть утилитарное решение (то, что лучше для общества, то есть меньше смертей) или решение, которое ценит права личности (например, право не подвергаться преднамеренной опасности).

В последние годы разработчики автономных автомобилей также размышляли о том, как беспилотники могли бы решать аналогичные дилеммы, когда столкнутся с непредвиденными дорожными ситуациями. Например, что должен сделать беспилотный автомобиль, если на его полосу внезапно выезжает велосипедист? Свернуть на полосу встречного движения или столкнуться с велосипедистом?

Крис Гердес, заслуженный профессор инженерных наук и содиректор Центра автомобильных исследований в Стэнфорде (Center for Automotive Research at Stanford, CARS), считает, что решение находится прямо перед нами. Оно встроено в общественный договор, который у нас уже есть с другими водителями и сформулированный в наших правилах дорожного движения и их толковании судами. Профессор Гердес совместно с сотрудниками Ford Motor недавно опубликовал решение «проблемы вагонетки» в контексте беспилотных автомобилей. В нашей статье Гердес рассказывает об этой работе и предполагает, что она вызовет большее доверие к беспилотному транспорту.

В Калининградской области завершается строительство завода "ЭНКОР". На предприятии будут выпускать кремниевые пластины и фотоэлектрические преобразователи - солнечные ячейки - из которых собирают солнечные модули для электростанций. Мощность завода впервые для России будет гигаваттной: 1,3 ГВт кремниевых пластин и 1 ГВт солнечных ячеек.

В мае 2022 года в некоторых СМИ писали, что Яндекс собирается перебраться в Землю Обетованную. Якобы Аркадий Волож написал письмо премьер-министру Израиля Нафтали Беннету с просьбой о переезде штаб-квартиры компании. И хотя осуществить задуманное не получилось, возникает вопрос: а почему именно Израиль?

Возможно, потому что Яндекс понимает, что оказались бы в стране с одной из самых развитых и защищенных IT инфраструктур в мире? Да, пожалуй. Но как получилось, что маленькая пустынная страна с населением всего 9,7 миллиона человек, находящаяся всю свою историю в состоянии войны, смогла в 2021 году привлечь 25 млрд долларов инвестиций в свои IT компании? Давайте попробуем разобраться.

С помощью нехитрой математической формулы мы с вами сегодня займемся вычислением того, где находится степень вашей личной финансовой свободы на шкале между сомалийским фермером и кремниевым Цукербергом. Ну, точнее, сначала нам придется придумать, как их между собой сравнивать – и поможет нам в этом KFC!

Парагвай предоставляет самые простые в Южной Америке условия для получения ПМЖ. Поэтому сегодня о нем пишут гораздо больше, чем ожидаешь от небольшой и откровенно небогатой страны где-то на другом конце света.

Я пробыл здесь два с половиной месяца, посетил 4 города и получил от пребывания тут гораздо больше приятных впечатлений, чем предвкушал изначально. Поэтому сегодня я расскажу вам об этой интересной стране: образ и уровень жизни, облик современных городов, экономика, климат, местные гастрономические особенности и всё-всё-всё.

Катализатором для публикации послужила статья о последствиях отмены дробной кармы (Карма и математика или Почему ваша карма вчера могла резко измениться).

А уже непосредственно перед публикацией увидел ещё один комментарий, что называется "в самую точку", который подтвердил её востребованность: Ещё бы убрать разделение кармы и рейтинга и оставить один понятный коэффициент "адекватности и полезности автора".

Проблема управления ИИ (Control Problem или Alignment Problem) — это проблема предотвращения негативного влияния искусственного сверхразума (ИСИ) на человечество. Как нам держать под контролем более разумное существо или как привести его в соответствие с нашими ценностями?

С появлением ИИ уровня ChatGPT это вопрос становится пугающе актуальным.

Ниже будет эпичный рассказ о том, как мы всеми силами пытались купить квартиру в Турции, но так и не купили. В офисе одного из застройщиков к нам обратился мужчина, назвав себя агентом по недвижимости. Мы начали вести просмотры квартир, нашли подходящий вариант и согласились на сделку. Цена была 1.990.000 TL. Уже через 2 дня цена изменилась на 10% и выросла до 2.180.000 TL. Но так как квартира понравилась, мы повозмущались и решили все-таки идти на сделку.

Микропроцессоры будущего поколения

В данной статье рассматривается вариант дальнейшего развития линейки микропроцессоров семейства x86, для того чтобы и дальше продолжать конкурировать с ARM процессорами как по стоимости так и по энергопотреблению.

В недавнем хабрапосте мы уже говорили про историю электромобилей и их проблемы в XX и в XXI веке. Кажется, что электромобили — очевидное решение для снижения углеродных выбросов. Они проще в управлении и конструкции. Но почему же при таких плюсах повсеместное внедрение «электричек» идёт со скрипом? 

Зелёная повесточка наступает, но никто не задумывается, что будет, если на электромобили станет переходить всё больше людей. В посте рассмотрим планы и готовность разных регионов (Китай и Азия в целом, Европа, США и Россия) к переходу на новый вид транспорта. А также кто за это всё заплатит.