Научпоп

Нейросекта: удалось ли сторонникам сгенерированного контента захватить мир

Привет, на связи Ренат Янбеков, эксперт по SMM и вертикальным видео, автор книги «TikTok без танцев».

О генеративных нейросетях я впервые услышал в 2017 году. А до широкой общественности, по моим наблюдениям, тема нейросетей докатилась где-то в 2022. Это неслучайно: ведь именно пару лет назад нейросети серьёзно продвинулись вперёд в плане качества генерации.

Авторы контента практически сразу разделились на два лагеря: активных сторонников генерации и тех, кто к ней относится спокойно, если не сказать равнодушно. Ко второй категории сегодня отношусь и я. А первых я любя называю «нейросекта» — за фанатичную веру в то, что нейросети обязательно заменят всех креаторов.

Поймите меня правильно: я не хейтер генерёжки. Я тоже радовался как ребёнок, когда по простому промпту одна нейросеть рисовала мне дракона, вторая его анимировала, а третья озвучивала.

А потом, когда я наигрался, у меня возник закономерный вопрос: а дальше что? Я могу сгенерировать дракона, мой племянник-третьеклассник может это сделать, и бабуля у подъезда тоже с этим справится, если дать ей в руки смартфон с приложением «Шедеврум». Но как мы будем продавать друг другу продукт генерации? И будем ли?

Время шло, споры вокруг генерации не утихали, курсы по нейросетям появлялись, как грибы. Но за два года активного хайпа нейросети не заменили ни сммщиков, ни дизайнеров, ни видеомейкеров. И я вам попробую это показать с помощью простых наблюдений.

В лентах соцсетей вы по-прежнему видите контент ваших друзей и популярных блогеров. Это живой контент с живыми людьми. Вы ещё не смотрите сгенерированные сериалы и видео.

Истерию о том, что надо немедленно бросать все дела и переходить на нейросети, раздувают в основном владельцы курсов по нейросетям. Особенно сильно меня смешит тезис о том, что «надо как можно быстрее освоить нейросети, а то потом будет поздно». Иначе как манипуляцию в целях продажи курса я такой тезис воспринимать не могу.

Интерфейсы нейросетей постоянно упрощаются, всё уже делается кнопками в понятном визуальном интерфейсе. Куда торопиться, если нейросети — это наши помощники и инструменты? Нет никакого смысла «очень быстро осваивать Word», к примеру, потому что это общедоступный инструмент и сам по себе никакого преимущества он не даёт. То же самое и с нейросетями.

Возможно, ИИ-контент, который создаётся массово, будет пессимизироваться поисковиками и соцсетями. Никому не нужен контентный спам. Первые признаки подобной регулировки на платформах уже есть.

На данный момент счёт 1:0 в пользу человеков. Но главная битва ещё впереди. А пока я могу сделать такие выводы:

• За 2 года нейросетевой истерии можно смело констатировать: пока громкие прогнозы вроде «нейросети до конца года заменят дизайнеров и сммщиков» не сбылись (фух!)

• Если вы креатор-традиционалист, не бойтесь нейросетей — бойтесь оказаться незаметным для других людей на своём рынке. Ведь именно люди покупают ваши услуги.

• Если вы «нейрофанатик», думайте не над тем, как найти удачные промпты, а как и кому вы будете продавать результаты генерации.

• Нет смысла «торопиться овладевать» нейросетями, это всё равно, что торопиться овладевать программой Photoshop.

• Если вы не хотите, чтобы нейросети вас заменили, занимайтесь развитием фундаментальных навыков: продажами, продвижением, развитием личного бренда, сценаристикой, драматургией, копирайтингом.

Наши коллеги из лаборатории искусственного интеллекта научили студентов МФТИ и УРФУ классифицировать эмоции в текстах на русском языке.

Обучение проходило в формате хакатона со 2 по 23 декабря. Эксперты «Криптонита» подготовили для студентов магистратуры «Наука о данных» в МФТИ и «Инженерия машинного обучения» в УРФУ на базе Skillfactory практический кейс. 

Задача была обучить языковую модель классифицировать эмоции в тексте на русском языке. Студентам дали бейзлайн и базовый список из 7 классов: anger, disgust, fear, joy, sadness, surprise, neutral.

Модели оценивались по метрике weighted F1-score. Наши эксперты консультировали студентов в процессе подготовки решения. Работы оценивали по двум направлениям — метрика модели на тестовом датасете на лидерборде и питч-сессия с презентацией.

Решение подготовили и защитили 7 команд хакатона. Все участники смогли превзойти метрику бейзлайна, а лучшая модель обогнала бейзлайн на 10% — это отличный результат для задачи такой сложности.

С лучшими студентами наши эксперты обсудят возможность стажировки или работы в «Криптоните»

Топ книг, кардинально меняющих мышление, выпустил разработчик с десятилетним стажем. В нём — база, которая улучшает эрудицию, поможет блистать знаниями на собеседованиях и поражать друзей своими точнейшими ответами по многим вопросам.

• Mindset — Кэрол Дуэк: книга «учит учиться» и усиливать свои навыки. Это огромный гайд по саморазвитию и открытию новых способностей.

• Black Box Thinking — Мэттью Сайед: книга учит признавать и анализировать ошибки, извлекать уроки из них. Автор считает, что ваша жизнь изменится, если научитесь брать ответственность за происходящее на себя.

• The Duty of Genius — Рэй Монк: биография Людвига Витгенштейна демонстрирует пошаговый процесс достижения мудрости и понимания законов морали и этики.

• Bounce — Мэттью Сайед: книга разбивает миф, что гениальные навыки можно приобрести только с рождения. Автор показывает важность каждодневного и кропотливого труда для достижения мастерства.

• Four Thousand Weeks — Оливер Беркеман: книга показывает, что время человека в этом мире строго ограничено и учит расставлять приоритеты на действительно важные дела.

• The Black Swan — Нассим Талеб: лютейшая база о непредсказуемости и влияния «случая» на мир. Автор дает примеры множества когнитивных искажений, которые мешают человек правильно воспринимать реальность.

Декабрьский дайджест обновлений: треды, новые виджеты и интеграции в «Первой Форме»

Рассказываем, что нового появилось в «Первой Форме» — low-code BPM-системе для автоматизации документооборота, управления проектами, CRM, В2В2С-решений и корпоративных коммуникаций.

Треды в ленте и чатах

Теперь в системе можно создавать обсуждения в задачах и групповых чатах. Новый тред откроется в отдельном окне — так можно быстро уточнить детали и при этом иметь доступ к основному контексту задачи или беседы.

Режим лобби для комнаты в ВКС 

В системе есть собственный сервис видеоконференцсвязи (ВКС). В нём можно организовывать видео и аудио-звонки, проводить совещания с авторасшифровкой и ИИ-саммаризацией, демонстрировать экран и многое другое. Также к ВКС можно подключать внешних пользователей без дополнительной регистрации.

В ВКС появился новый режим — лобби. Если вы приглашаете на видеовстречу гостей, которые не зарегистрированы в системе, они сначала попадут на экран ожидания и смогут войти только после вашего подтверждения.

Обновлённый канбан

Теперь задачи в канбане можно искать по тексту. Поиск учитывает контекст и вашу роль. Так вы можете быстрее находить нужные карточки в проектах с любым количеством задач, даже если в запросе есть опечатки. 

Новые виджеты для главного портала

1. Виджет контактов даёт возможность быстро позвонить или написать в личный чат коллегам и партнёрам. Это можно сделать с главной страницы, без перехода в личные карточки.

2. На обновлённый виджет «Календарь» можно вывести встречи, дедлайны по задачам и подписям, напоминания.

3. Виджет «Счётчики» отображает критичные показатели. Например, количество новых заказов, сумму продаж за день, число обращений клиентов.

4. Виджет «Задачи» отображает актуальные дела, приоритетность и дедлайны.

Интеграция с KeyCloak

KeyCloak — это провайдер для аутентификации пользователей по модели управления доступом. Все настройки прав пользователей из сторонних сервисов распределяются по группам. Эта интеграция позволяет переключаться между «Первой Формой» и другим ПО, например, 1С, Контур и другими, без повторной аутентификации.

Новый раздел корпоративного файлового хранилища

В корпоративном файловом хранилище «Первой Формы» есть два основных раздела: «Мои файлы» для контента пользователей и «Общие файлы», к которым есть доступ у всех пользователей.

Мы добавили новый системный раздел Диска «Обмен файлами». В отличие от раздела «Общие файлы», где права доступа предоставляются автоматически всем сотрудникам, в этом разделе владельцем файла по умолчанию является тот пользователь, который его загрузил. 

Изначально доступ к файлам и папкам есть только у него и у администраторов. Раздел доступен для просмотра всем зарегистрированным пользователям, и вы можете настроить права на просмотр, редактирование и другие действия с файлами.

Узнать больше об этих и других новых функциях можно из чейнджлогов сборок на сайте:

Сборка Весы

Сборка Скорпион 

Вышел официальный гайд по промптам для ChatGPT от OpenAI в сотрудничестве с руководителем отдела решений в ИИ Колином Джарвисом.

Оказывается, что стандартные варианты промптинга только ухудшают ответы ChatGPT o1. Этот бесплатный курс обязателен для получения максимально продуктивных ответов. Обучающий модуль улучшает понимание модификации запросов, выполнения планов, генерации кода и рассуждений с помощью ИИ.

Система распознавания эмоций животных

Компьютерная система WUR Wolf с помощью ИИ распознает эмоции животных и определяет, счастливы они или грустны, агрессивны или возбуждены. Систему создали в Университете Вагенингена в Нидерландах.

WUR Wolf анализирует десятки тысяч изображений коров и свиней с шести ферм по всему миру. Помимо снимков, в систему передаются данные о том, при каких обстоятельствах они были сделаны: когда поели и находятся ли рядом другие животные и фермер.

Основываясь на движении их ушей, глаз и поведении, система может идентифицировать 13 вариантов выражения лиц морд животных и девять видов эмоционального состояния. Их ИИ определяет с точностью до 85 %.

Польза. Можно заранее выявить медицинские осложнения и стрессовые ситуации для скота, а также предотвратить конфликты между животными. Все это позволяет повысить продолжительность жизни скота и улучшить качество получаемой продукции, делает обращение с животными более гуманным.

Ученые разработали систему искусственного интеллекта, способную выявлять болезни и дефекты на фотографиях овощей и фруктов на ранней стадии (до того, как повреждения станут заметными человеку). Система может обнаружить гнилые и плесневые участки яблок.

Её создали в «Сколтехе» и Санкт-Петербургском госуниверситете аэрокосмического приборостроения. Работа опубликована в журнале Entropy.

Проблема. Пока продукты доставляют до потребителей, они могут портиться и повреждаться. Оценку качества фруктов и овощей на послеуборочной стадии, особенно во время сортировки, в основном производит человек. Некоторые участки гниения человек может не увидеть.

Обычно для обнаружения повреждений специалисты используют инфракрасный свет, но, как говорят исследователи, для этого нужны мульти- и гиперспектральные камеры. «Они очень дорогие и порой очень сложно устроены», утверждают в «Сколтехе».

Цель исследования — предложить альтернативный способ этим камерам с использованием глубокого обучения, моделей, которые могут генерировать инфракрасные изображения. Авторы подчёркивают, что не стремятся заменить традиционные способы, а лишь предлагают один из более доступных и продвинутых методов.

Созданная учеными система способна анализировать снимки четырех разных сортов яблок, находить фрукты с плесенью и гнилью и отличать их от неповрежденных плодов с вероятностью в 98%. Это позволяет использовать подобные алгоритмы для наблюдений за состоянием урожая и своевременного удаления больных фруктов и овощей, служащих очагами распространения болезней, утверждают в пресс-службе «Сколтеха».

Профильные эксперты выяснили лучшие дни и время для отклика на вакансию, чтобы отправляемое резюме не затерялось среди других кандидатов. Оказалось, что шансы на успех при отклике на вакансию могут во многом зависеть от того, насколько правильно выбран момент, отмечают в Dice.

Прежде всего имеет значение распорядок дня рекрутеров и менеджеров по найму: зачастую они начинают рабочий день с просмотра новых сообщений. Если отправлять резюме утром, вероятность попасть в поле зрения выше.

Заявки, отправленные в часы, когда рекрутеры обычно занимаются их просмотром, например в середине утра, конвертируются в собеседования в пять раз чаще. Отправленные поздно ночью заявки будут погребены под утренними входящими, что снизит их видимость. Рекрутеры крайне редко открывают полученные заявки среди ночи, и вероятность, что на них сразу же отреагируют, гораздо ниже.

Аналогичная ситуация с днями: в начале недели рекрутеры возвращаются отдохнувшими с выходных, что благоприятно для соискателей. Можно рассылать резюме и по выходным, но вряд ли от этого будет много толку. Лучшими днями считаются понедельник и вторник, когда рекрутеры расставляют приоритеты на неделю, — тогда вероятность получить приглашение на интервью выше.

В случае глобальных компаний важно учитывать, в каком часовом поясе находится офис, где размещена вакансия. И стараться отправлять резюме тогда, когда там начинается рабочий день, чтобы повысить шанс быть замеченным.

Помимо этого, нужно принимать во внимание алгоритмы джоббордов — обычно они тоже отдают приоритет более новым заявкам и поднимают их списке. Чтобы оставаться наверху стопки, можно периодически обновлять отклик.

Что касается конкуренции, более 60% соискателей отзываются на вакансию в течение недели после публикации. Чем раньше податься, тем ниже шанс, что до вашей заявки не дойдёт очередь.

Питерские дизайнеры сделали ажурные защитные накладки на экран компьютера, которые помогут вам отдохнуть: «На сегодня хватит» и «Я не робот». Специалисты вдохновлялись теми самыми советскими бабушкиными накидками на телевизор.

Компьютерная сборка от официального производителя с RTX 5090 будет стоить €6 тыс.

Немецкие продавцы случайно раскрыли цену ПК Acer Predator с новенькими RTX 5080 и 5090.

Сборки ПК будут следующие:

— RTX 5080, 32 ГБ оперативной памяти, SSD объёмом 1 ТБ и процессором Core Ultra 7 265K стоит €3,5 тыс..

— RTX 5090, 128 ГБ ОЗУ, SSD объёмом 2 ТБ и CPU Core Ultra 9 285K оценивается уже в 6€6 тыс. 

Как отмечает Videocardz, различия в системах с процессорами Core Ultra 9 и Core Ultra 7 затрудняют прямое сравнение для понятия стоимости RTX 5090 и 5080. Тем не менее, если предположить, что 128 ГБ памяти стоят €500, а разница в стоимости процессоров составляет €250, тогда разница между двумя видеокартами составляет €1750.

Эксперты предполагают, что представленные цены могут быть предварительными, однако характеристики соответствуют предыдущим утечкам, что подтверждает достоверность представленной информации.

Решил попробовать написать свой первый пост.

Сегодня день зимнего солнцестояния, и сам момент солнцестояния в 12:21 МСК попал почти точно на местный полдень моего места проживания. Более точно - он попал на долготу Липецка, что в 130 км к востоку от меня. И это не только самый короткий день, но и, как следствие, самая низкая высота солнца над горизонтом в верхней кульминации (в полдень). Так я рассуждал изначально, увлекаясь астрономией в школьные годы. А сегодня достоверность этой мысли я подтвердил, воспользовавшись планетарием Stellarium. Получились такие результаты. На моей географической широте сегодняшняя кульминация солнца составляет 14°07'54.1''. Для сравнения взял зимнее солнцестояние прошлого 2023 года. Оно было 22 декабря в 06:27 МСК. Это не полночь, конечно же, но и не полдень. Кульминация солнца на моей географической широте по смежным дням 21, 22, 23 декабря 2023 г. составила соответственно 14°08'9.5'', 14°08'3.1'', 14°08'24.5''. Как видно, разница между тремя этими значениями и минимальным значением (для сегодняшнего дня) находится в пределах десятков секунд, что очень-очень мало. Для более детального представления я решил пересчитать эти разности на величины расстояний по земле вдоль меридиана (в направлении север-юг). Ведь, как известно, чем севернее пункт наблюдения, тем ниже высота наблюдаемых объектов над горизонтом. Для расчёта и приведения аналогии я пренебрегаю рельефом и высотой над уровнем моря. Как говорит Google, один градус вдоль меридиана по Земле составляет около 111.1348 км. После несложных расчётов получаем разности соответственно 475, 277 и 938 метров. Даже меньше 1 километра! Следовательно, сегодняшнее зимнее солнцестояние, совпадающее с полднем, не делает кульминацию солнца ниже, чем перемещение наблюдателя в сторону севера даже на 1 км.

В Техасе установлен Рекорд Гиннесса: инженерная команда собрала 5 тыс. дронов, которые формируют в небе фигуру Санта-Клауса на санях.

IT-компания Perplexity запустила бесплатное обучение по ИИ для студентов. Записаться можно на сайте проекта до 28 декабря — лучшим ученикам подарят поездку в офис в Сан-Франциско.

Город с двумя столицами: роль ASIC и CPU в L3-коммутаторе

Внутри коммутатора два физических устройства: CPU и ASIC. CPU принято называть Control Plane, там крутится сетевая операционная система, как правило, Linux. ASIC также называют Data Plane. 

CPU (Control Plane) отвечает за:

• сложную логику,

• обработку служебного трафика,

• управление ASIC.

ASIC (Data Plane) ответственен за:

• простую логику на основе таблиц,

• быструю обработку большого числа пакетов,

• разбор заголовков, выбор выходного порта и выходного набора заголовков,

• буферизацию, очереди, политики. 

Администратор, который сидит в CLI, находится на CPU, а интерфейс, который он конфигурирует, — на соседнем устройстве ASIC.  

Для простоты понимания можно думать о физическом устройстве коммутатора как о двух соседних городах. Первый город CPU — административный центр, он управляет своим соседом. Второй город ASIC — промышленный центр с крупными транспортными развязками и светофорами. 

Физические порты находятся в ASIC, но управлять ими надо на CPU. На CPU крутятся сетевые демоны и разные алгоритмы, которые обрабатывают сетевой трафик. Его можно разделить на два вида:

• Пользовательский. Например, фотографии котиков, которые при наличии всех маршрутов проходят через ASIC транзитом. 

• Служебный. ARP или протоколы маршрутизации, которые как раз должны обрабатываться демонами или алгоритмами на CPU.  

Еще больше про устройство коммутатора читайте в статьях Антона Гузарева, тимлида команды, которая разрабатывает ПО для управления сетевыми устройствами в YADRO. Через кейс с ошибкой в коммутаторе он последовательно рассмотрела каждый его уровень в двух статьях:

→ Разбираемся с железом и настройками конфигурации

→ Ищем проблему с доставкой картинок с котиками на разных уровнях L3-коммутатора: от CLI до SDK

«Mailion. Сертифицированный» 1.9 прошел инспекционный контроль в ФСТЭК России

МойОфис объявляет об успешном прохождении продуктом «Mailion. Сертифицированный» релиза 1.9 инспекционного контроля в ФСТЭК России. 

В релиз «Mailion. Сертифицированный» 1.9 вошли все обновления, которые до этого были добавлены в коммерческий продукт Mailion 1.9. Основной акцент в этой версии сделан на катастрофоустойчивости, упрощении процесса миграции из Exchange и других функциях для эффективной и безопасной работы с почтовым сервисом и календарем. 

Функция катастрофоустойчивости обеспечит доступность критических информационных систем и не позволит системе выйти из строя. Например, при отключении электричества, природных катаклизмах, техногенных катастрофах или других ситуациях, когда неисправность оборудования влечет за собой частичную или полную недоступность дата-центра. Это особенно значимо для государственных информационных систем или системообразующих предприятий.

При выходе из строя основного центра обработки данных катастрофоустойчивость позволяет восстановить работоспособность системы в резервном ЦОД с минимальным простоем в соответствии с SLA и RPO (максимальный период, за который могут быть потеряны данные).

Катастрофоустойчивость – одно из ключевых требований к решениям enterprise-уровня. В том числе и для почты, как одной из фундаментальных ИТ-систем в инфраструктуре компании, охватывающей все значимые подразделения организации.

Другое значимое обновление — в «Mailion. Сертифицированный» релиза 1.9 добавлена возможность периодически синхронизировать и актуализировать информацию на основе данных из внешних служб каталога. Функция обеспечивает обновление внутренних данных пользователей с внесением изменений во внешний каталог. Помимо этого был улучшен механизм управления — синхронизацию можно останавливать в процессе.

Также отчёт мигратора данных из Exchange в Mailion стал более понятным визуально, расширенным и структурированным. Теперь почтовая система расскажет не только об объектах миграции, хранящихся в Exchange, но и покажет их количество, сообщит, сколько из них уже мигрировало в Mailion, а также даст расширенную информацию об обнаруженных в процессе ошибках.

При этом вы можете быть уверены, что переносу данных ничего не помешает — начиная с релиза 1.9, контроль и управление синхронизацией полностью сосредоточены у администратора. Это позволяет централизованно управлять информацией о пользователях, группах рассылки и их составе на основе каталога. Пользователи не могут сами переносить данные (письма, календари, задачи), так как это может привести к повышению нагрузки и сбою работы инфраструктуры.

Оперативно работать с событиями, которые вы организовали, поможет новый фильтр «Я организатор» в календаре «Mailion. Сертифицированный». С ним вы сможете быстро посмотреть все мероприятия, созданные вами, и делегировать права на управление, например, если вы не сможете присутствовать на событии.

Отправляйтесь в приключение с новогодним ботом от Selectel 🎄

Но есть мандарины и загадывать желание пока рано: Тирекс узнал, что Гринч хочет украсть Новый год. Без вас динозавру не справиться…

Как ему помочь:

• активируйте Telegram-бота с играми от Selectel и наших партнеров: Слёрм и Инглекс;

• до 10 января проходите задания, перемещайтесь по карте и получайте баллы за правильные ответы;

• участвуйте в розыгрыше уникальных призов;

• заряжайтесь новогодним настроением.

До 15 января среди всех, кто наберет 12 баллов и выше, рандомайзер выберет 15 победителей 💫

Правила розыгрыша оставили по ссылке →

Shopify's Sidekick — так себе

❗️ Дисклеймер: Я не обижаю ИИ от Shopify, а высказываю опыт работы с ним. Если тон поста показался грубым, то вам показалось.

Я отестировал Sidekick (https://www.shopify.com/magic) — ИИ менеджер встроенный в Shopify и мне не понравилось. Во-первых, что он вообще умеет на данный момент?

Я пробовал давать простые команды по типу:
“Убери скидки со всех товаров, где она есть”

Задачи посложнее, например:
“Сделай скидки и создай новую колелкцию под них”

Но пока что всё, что делает Sidekick это отображает данные. К примеру, он может показать какие товары в магазине имеет скидочную цену. Это, конечно, хорошо. Но это можно сделать зайдя во все продукты в админ-панеле.

Во-вторых, долгое ожидание. Я бы, может, не прикапывался если бы его выпустили год назад. Но его не выпустили год назад, а он появился в большинстве магазинов только две недели назад.

Поэтому этот искуственный менеджер уже не кажется вау обновлением. Ну добавили и добавили, к сожалению, пока что ничего интересного Sidekick не умеет.

Будем ждать. Возможно, скоро он выйдет из беты и тогда начнётся.

Мужчина в США вышел на пенсию в 41 год и теперь его буллит жена. Он рассказал, что за свою жизнь сумел заработать пенсионный капитал в размере $650 тыс., а также имеет $75 тыс. в год от проданного бизнеса и получает $125 тыс. пассивного дохода (итого по $200 тыс. в год).

В свободное (всё) время мужчина с кайфом играет в разные компьютерные игры (у пары нет детей, а он просто хочет расслабиться после 15 лет напряжённой работы). Жена (школьный учитель) получает в два раза меньше, но вернувшись домой с работы и обнаружив, что муж играет в GTA Online, называет его лузером и заявляет, что видеоигры — явно не для него. Фактически «Сказка о рыбаке и рыбке» в эпоху киберпанка.

Трудно найти в темной комнате документ, особенно если его там нет

Представим, что нам нужно сделать нормальное фото документа, но положить листик как в сканере — более-менее ровно, в фокусе, под достаточным и равномерным светом — мы не можем. Поможет ли здесь ИИ? Конечно, если мы научим его решать некоторые вопросы, например:

• Есть ли вообще документ на фото?

• А это лист А4 или микроволновка?

• Если есть, где его границы?

• Если границы кривые, как их выпрямить?

• А это документ или тень от документа?

Команда YADRO прошла этот квест, начав с простых CV-алгоритмов. По пути собрали свою нейросеть, а также инструмент для создания подходящих датасетов на основе модификации ControlNet для Stable Diffusion. В результате планшет Kvadra_T научился определять документы в реальном времени — прямо в приложении камеры.

Все подробности развития проекта, включая схемы реализации и подробные параметры обучения, — в статье Владислава, CV Engineer YADRO. 

ИИ и Open Source — гремучая смесь?

На The Register вышла статья о том, что Python-разработчики завалены баг-репортами, которые придумал ИИ: это стало известно при анализе опенсорс-кода, который часто переиспользуется в сотнях проектов. Это не первая претензия к ИИ. Значит ли это, что он не подходит для разработки? Или всё же существуют способы, которые могут облегчить жизнь программистам, несмотря на его недостатки?

Практически у всех систем искусственного интеллекта, независимо от архитектуры — нейросети или другой тип ИИ — наблюдаются «галлюцинации». Это неверные ответы, которые ИИ непонятно каким образом генерирует. Одно дело, когда можно быстро проверить совет сервиса, а другое — если в сложной программе приходится потратить время, чтобы понять, есть ли ошибка.

Ранее исследователь ИБ сообщал, что галлюцинации ИИ, используемого для генерации технической документации, позволили ему внедрить в описание название фейковой библиотеки для распознавания лиц. Её скачали 15 000 раз: будь она создана хакером, тот мог бы вложить в нее практически любую функциональность.

Кажется, что ИИ в разработке преследуют проблемы, причём связаны они с опенсорсом. Это не так. Во-первых, опенсорс — на виду, проблемы в нем проще. И ещё важнее, что галлюцинации — это не порождение ChatGPT. Ещё годы назад галлюцинации преследовали ИИ, например, стрекоза иногда распознавалась как ружьё — ну что в них похожего?! Зато сейчас мало кто возьмётся соревноваться с ИИ в скорости и точности распознавания, может, и в разработке эти недочёты удастся решить.