Скрининг разработчиков с ИИ: как провести более 8000 технических собеседований без участия людей
Кто и как разрабатывал систему, которая проводит оценку hardskills разработчиков с помощью ИИ на полном автопилоте! Разбираемся в новом выпуске подкаста «Стартап-секреты»
🎧 Подкаст «Стартап-секреты»: Сезон 6, выпуск 1
В гостях у меня серийный предприниматель Александр Сельдемиров, основатель ИТ-компании ITQuick и стартапа Jumse (https://jumse.ru/), который автоматизирует технический скрининг и диагностику уровня разработчика на основе собственной базы знаний senior-middle-уровней с использованием ИИ.
Jumse признан инновацией 2023 года по версии портала СNews.
Темы и тайм-коды на YouTube
00:00:00 Знакомство с Александром Сельдемировым и его проектом Jumse, который уже провел 8000 собеседований без человека
00:03:21 Как провал в бизнесе с садовыми растениями привел к созданию IT-компании
00:12:19 Синдром отличника: почему трудно признать ошибки в бизнесе?
00:21:03 История создания Jumse: почему первая версия продукта провалилась и как стартап адаптировался под рынок
Представлен локальный ИИ-ассистент DeepSeek Code Companion для разработчиков на базе DeepSeek R1. Для работы с ним не нужен даже API. Пишет код на уровне сеньора. Во время компиляции помогает в отладке и исправлении багов. Даёт рекомендации по архитектуре и масштабированию. На выбор есть две модели: для быстрых ответов и для более сложных задач.
В недавней книге про построение успешной карьеры в IT в качестве менеджера, отдельным пунктом идет пункт про ИИ, в котором автор призывает тимлида разрабатывать политику использования ИИ в своей команда и согласовать её с политикой использования ИИ в компании. В вольном пересказе это звучит примерно так:
"Как ведущий разработчик, одна из ваших ключевых обязанностей — оценивать и интегрировать новые технологии, включая инструменты искусственного интеллекта (ИИ), в процессы разработки. Рассматривая возможность принятия или отказа от внедрения инструментов ИИ, важно сохранять сбалансированный подход, который ставит во главу угла потребности команды, конкретные преимущества технологий и потенциальные риски.
Перед предложением использования любого инструмента ИИ начните с оценки того, насколько он соответствует текущим и будущим проектам вашей команды. Оцените, сможет ли инструмент ИИ повысить производительность и оптимизировать рабочие процессы путем автоматизации рутинных задач, освобождая разработчиков для решения более сложных проблем. Важно также оценить качество выходного продукта, создаваемого инструментом ИИ, частоту возникновения ошибок и степень интеграции с существующими инструментами и рабочими процессами. Инструменты ИИ должны легко встраиваться без значительных изменений текущих процессов.
Внедрение инструментов ИИ связано с рисками, которые требуют тщательного управления. Команды могут стать чрезмерно зависимыми от ИИ, что потенциально снижает способность решать проблемы и ограничивает инновации. Важную роль играют безопасность и конфиденциальность, особенно в отношении обработки данных инструментами ИИ и соблюдения соответствующих норм защиты данных. Помимо начальных затрат, учитывайте долгосрочные расходы на обучение, интеграцию и обслуживание"
И дальше проводится обзор того, какие инструменты есть, для чего их можно использовать, какие есть бест-практисы в области ИИ и так далее.
Собственно есть парочка вопросов:
Используете ли вы лично какие-то ИИ-инструменты для работы?
Требует ли компания от вас, чтобы вы согласовывали использование ИИ?
Считаете ли важным регламентировать использование ИИ-инструментов?
Есть ли у вас в компании формальные правила использования ИИ в виде регламента?
Наверное в майкрософт сами уже запутались, где какой copilot у них установлен и главное как им будут пользоваться.
Если установить windows 11 то не в США в списке приложений будет только microsoft 265 copilot, который предлагает купить подписку на офис. Через microsoft store приложение copilot есть но кнопка установки недоступна.
Но, если открыть браузер, справа сверху в углу будет кнопка copilot, чат откроется в боковой панели и там будет доступны в т.ч. и голосовой режим с выбором голосов из 4. Русский поддерживается, некоторые голоса говорят с сильным акцентом. Тест на понимание интонации проходит со скрипом но проходит (одна и та же фраза - 'ты меня понимаешь' с разными интонациями может быть как вопросом так и утверждением).
При старте голосового режима говорит 'Привет %username%' (на разные лады). В аккаунте у меня в имени была написана фигня, вот ее и говорит. Сменить не дает. Мало того, смена имени в настройках аккаунта майкрософт (в браузере) ничего не меняет, даже если нажать кнопку - удаление copilot информации (оно удаляет только историю переписки).
Никакого доступа ни к какому функционалу у браузерного copilot нет. При предоставлении доступа к странице, он может сделать самморизацию текущей страницы, в контекст попадает весь текст и иногда изображения (алгоритм непрозрачен, он может сам открыть ссылку новости и прочитать ее вместо того что бы описать изображение к ней), очень часто отказывается вообще говорить на тему содержимого, отмазываясь что не имеет к нему доступ (как пример, тут же открытая новость msn о которой он только что говорил).
Голосовой сеанс никак не корелирует с беседой, буквально это отдельное приложение которое визуально смешано с текстовым copilot но по факту таковым не является. Он не может даже прекратить голосовой сеанс по команде голосом (что бы его начать, нужно нажать кнопку микрофон), он может только говорить, делать примитивный поиск по интернету и даже читает форумы (но очень неохотно) и главное упорно отказывается давать ссылки на то что нашел. Голосовой сеанс не имеет доступа к открытой странице. Код по запросу голосом пишет но читает только комментарии к нему.
p.s. ну и на засыпку, если зайти на copilot.microsoft.com то будет точно такой же интерфейс но во весь экран браузера. Голосовой режим в нем так же работает, но мое имя будет прочитано правильно, так как прописано в настройках аккаунта, т.е. приложение боковой понели и приложение на сайте - это буквально разные приложения.
Не вижу никакого смысла в таком кастрированном голосовом режиме. Что им стоило дать возможность смешивать текстовые контексты (они отображаются как единая лента)? Что им стоило дать хоть минимальные ручки управления, не критичные, типа открыть страницу, перейти на результат поиска и прочее.. хоть какой то смысл был бы от этого голосового режима и ИИ.
Два разработчики из Индии представили проект Optifye.ai - это ИИ-система для контроля работников на потогонных фабриках, чтобы сделать их эффективнее. Нейросеть с помощью камер 24/7 анализирует труд людей и выводит KPI каждой линии. Если показатели низкие, то оператор может накричать на сотрудника. Пользователи в отзывах не оценили релиз проекта. Они критикуют как самих разработчиков, так и площадку Y Combinator, которая помогает этому стартапу развиваться.
ИИ‑ассистент Grok-3 оказался удобен для создания игр. Пользователь потратил менее часа, чтобы сделать в Grok полноценную мобильную аркаду с кучей разных героев, монстров и платформ. Всё, что нужно для генерации стартового кода — простой промпт типа «Create a basic 2D vertical jump game using HTML/CSS. The characters and platforms should be just shapes (will add assets later). Code everything in one file». В итоге Grok-3 нагенерил нужную графику, затем собрал работающую игру.
Вы, возможно, слышали про perplexity - бесплатный, быстрый и довольно качественный ии-поисковик. В нем есть возможность использовать модели "обдумывающие" ответ (Depseek R1, O3-mini и Perplexity Pro), но в день дается всего три таких запроса.
Оказывается, есть песочница, в которой думающая модель perplexity (sonar-reasoning) и дипсик (r1-1776) доступны без ограничений.
🔓Никаких условий использования на сайте нет, но догадываюсь, что разработчики используют песочницу для тестирования модели, поэтому все ваши запросы могут ими анализироваться. Но если вас это не заботит, очень рекомендую попробовать.
Тестируем Я люблю тестировать модели вопросом "как отсортировать массив int в джаве в порядке убывания". Это вопрос с подвохом, потому что в джаве примитивы так сортировать нельзя. Модель sonar-reasoning-pro дала правильный и развернутый ответ (не буду приводить код, только текст):
Для сортировки массива int в Java по убыванию есть несколько подходов, учитывая особенности работы с примитивными типами:
1. Сортировка через преобразование в Integer[]
Используйте обёртку Integer для массива и метод Collections.reverseOrder()
2. Сортировка по возрастанию + ручной разворот
Отсортируйте массив по возрастанию и переверните его
Почему нельзя использовать Comparator для int[]?
Метод Arrays.sort(int[]) не поддерживает параметр Comparator.
Примитивные типы (например, int) несовместимы с дженериками, которые используются в Comparator<T>.
Альтернатива для Java 8+:
Используйте Stream для работы с примитивами.
Важно:
Для небольших массивов разница в производительности между методами незначительна.
Если требуется сохранить исходный массив как int[], предпочтительнее второй метод (сортировка + разворот).
ИИ, калькуляторы и другие вызовы прогресса: вот, кто виноват в наших слабостях!
Говорят, искусственный интеллект несёт опасность. Мол, люди отупеют, перестанут думать самостоятельно — примерно как с калькуляторами 40 лет назад, когда школьники якобы разучились считать в уме. Но давайте посмотрим шире: а не началась ли эта череда "опасностей" гораздо раньше?
20-й век стал настоящим испытанием для человечества. Сначала тракторы вытеснили лошадей — тяжёлый физический труд начал исчезать. Потом появился избыток пищи: больше не нужно охотиться или пахать с утра до ночи, чтобы прокормиться. Затем автомобили, лифты, офисные кресла — и вот уже гиподинамия стала нормой. Сегодня набрать лишний вес проще простого: еды вдоволь, передвигаемся на машинах, поднимаемся только на лифтах, а работа — 8 часов сидения перед экраном.
Но вот парадокс: есть офисные работники, которые и на машине ездят, и сидят весь день в офисе, но при этом остаются в отличной форме — с подтянутым телом и даже "кубиками" на прессе. Как так?
ИИ — это лишь очередной этап того же процесса. Да, 20-й век (а теперь и 21-й) бросает нам всё новые испытания: от изобилия еды до бесконечного потока информации. Но винить в наших слабостях калькуляторы, тракторы или нейросети — это как обвинять гравитацию в том, что мы упали. Прогресс не остановить, он всегда будет менять нашу жизнь. А вот что с этим делать — решать каждому из нас.
ИИ не заставляет нас тупеть, как автомобили не заставляют толстеть. Это инструменты, которые можно использовать по-разному. Кто-то с помощью ИИ создаёт шедевры, кто-то деградирует, бесконечно скролля соцсети. Вопрос не в технологиях, а в том, как мы ими распоряжаемся.
Итак, это случилось: Grok 3, один из самых продвинутых ИИ на данный момент, стал доступен всем, и будет бесплатным до тех пор, пока (со слов Маска) "наши сервера не расплавятся". Но россиян и белорусов ждёт нюанс в виде блокировки IP по региональному принципу. Одно из решений, которое предлагает сам Grok: VPN.
ITFB Group совместно с партнерами приглашает руководителей и владельцев контакт-центров, ИТ-директоров и директоров по цифровой трансформации на вебинар-круглый стол. Обсудим ключевые тренды развития контакт-центров, инструменты автоматизации и ИТ-стратегии будущего.
Темы дискуссии:
Различные подходы к формированию ИТ-ландшафта:
CRM-центричный – от НОТА МОДУС
Телефония-центричный – от Sigurd IT
AI-центричный – от Rubytech
Тренды трансформации ИТ-ландшафта - импортозамещение и повсеместное применение ИИ
Базовый и расширенный набор ИТ-инструментов для контакт-центров
Монолитные системы vs. специализированные решения
Современные реалии применения ИИ в контакт-центрах
Как меняется рынок контакт-центров и какие технологии будут ключевыми в ближайшие годы?
Присоединяйтесь к экспертной дискуссии и узнайте о передовых решениях из первых уст!
Регистрируйтесь на GoCloud 2025, чтобы увидеть весь масштаб облаков и AI 🦾☁️
Хотите узнать про глобальные тренды в AI, пополнить список инструментов и сценариев работы в облаке, обменяться опытом с коллегами-экспертами, а также увидеть, какой простор открывают облачные и AI-технологии для ваших IT-проектов? Тогда приходите на главную конференцию про облачные технологии и искусственный интеллект — GoCloud 2025.
Что вас ждет в этом году:
три трека: инфраструктура и инструменты, AI и R&D и сценарии работы в облаке;
30+ спикеров из Cloud.ru и ведущих российских компаний;
live-демонстрации облачных платформ и нетворкинг с экспертами;
не только доклады: интерактивные зоны, afterparty с музыкальной программой и кастомный мерч.
Можно подключиться к онлайн-трансляции (ссылка придет зарегистрированным участникам в письме) или прийти в Цифровое деловое пространство (ЦДП) в Москве. Собираемся 10 апреля в 10:00, основную программу начинаем в 11:00.
Если кому-то интересно, выложил на huggingface русскоязычную медицинскую модель. Файнтюнил Gemma2-2b методом Continued Pretraining на собственном медицинском датасете. Обучение стоило всего 8$. Результаты сносные, особенно в написании рецензий на статьи с Pubmed.
Настройки для запуска на ПК и мобильных устройствах находится в описании. Лучше всего использовать LMStudio. Главное, установите medicus.preset.json , который дан в описании.
Подготовка медицинского датасета - отдельная тема, которая требует написания статьи. Как будет возможность, напишу об этом, если хотите.
В целом, Continued Pretraining показал довольно хороший результат для создания подобия Reasoning модели.
Пример ситуационной задачи (модель правильно определила аппендицит)
PROMPT:
В больницу скорая привезла мужчину 37 лет с болью внизу живота. Боль возникла в течение суток. При пальпации живот напряжен, особенно в правом нижнем квадранте. При пальпации в правой подвздошной области отмечается припухлость. На УЗИ в правой подвздошной области отмечается утолщение стенок кишечника и выпот жидкости. В лабораторных исследованиях отмечается СОЭ 40 мм ч, сдвиг лейкоцитарной формулы влево.
Выбери наиболее вероятное заболевание: Аппендицит, Спаечная непроходимость, Дивертикулит, Язвенная болезнь желудка Если среди предложенных заболеваний нет правильного, предложи твой вариант
ОТВЕТ МОДЕЛИ:
Thinking
Рассмотрим симптомы пациента. Наличие боли внизу живота и припухлости в правой подвздошной области, подтвержденной УЗИ, указывает на проблему с кишечником.
Утолщение стенок кишечника и выпот жидкости в правой подвздошной области указывают на воспалительный процесс или закупорку, возможно, вызванную препятствием в кишечнике. СОЭ 40 мм ч свидетельствует о наличии воспаления в организме. Сдвиг лейкоцитарной формулы влево также говорит о воспалительном процессе.
Аппендицит - наиболее вероятный диагноз, так как он часто сопровождается болями внизу живота и может вызывать припухлость в правой подвздошной области. Выпот жидкости указывает на то, что appendicitis имеет затяжной характер.
Однако, не все варианты полностью исключены:
Спаечная непроходимость - также возможна, но обычно сопровождается более постоянными и выраженными симптомами, а не острой болью в течение суток. Утолщение стенок кишечника при спаечной непроходимости встречается реже, чем при других заболеваниях.
Язвенная болезнь желудка - чаще проявляется язвами или кровотечением из ЖКТ, а не напряженным животом и утолщением стенок кишечника.
Дивертикулит может вызывать дискомфорт в правой подвздошной области, но обычно без притупления и острой боли.
Final Response
Наиболее вероятным заболеванием является аппендицит (вариант А). Симптомы пациента - напряженный живот с болью внизу живота, припухлость в правой подвздошной области и результаты УЗИ - соответствуют этому диагнозу. Отек, выпот жидкости и воспалительные маркеры также подтверждают этот вывод
Российская компания «Эмбл» — ИТ-система для контроля здоровья лошадей — заняла пятое место в рейтинге ИИ-проектов на международной платформе F6S.
F6S — крупное международное сообщество для стартапов и инвесторов.Площадка дает предпринимателям доступ к финансированию, акселерационным программам, вакансиям, грантам и множеству других возможностей в разных странах мира. В сообществе состоят более 4 млн стартапов, утверждают его создатели. О том, что российская «Эмбл» заняла пятое место в рейтинге ИИ-проектов на площадке F6S, сообщили в пресс-службе Новосибирского областного инновационного фонда. При этом на сайте F6S указано, что Emble — казахстанская компания, основанная в 2019 году.
Компания создала ИТ-систему для контроля здоровья лошадей. Она непрерывно наблюдает за здоровьем животных и в режиме реального времени находит отклонения в поведении животных, проводит предварительную диагностику заболеваний и отправляет уведомления владельцам. Это позволяет владельцам лошадей вовремя начать лечить животных и предотвращать развитие серьезных заболеваний. Программу может использовать в конных клубах, на ипподромах, в частных конюшнях.
В планах компании — расширение функционала системы. В частности, «Эмбл» намерена адаптировать свою технологию для птицеводческих ферм, внедрив решения для бесконтактного взвешивания и контроля здоровья птицы. По информации Rusprofile, ООО «Эмбл» зарегистрировано в Новосибирске в 2022 году. По итогам 2023 года его выручка составила 3,5 млн рублей, чистая прибыль 35 тыс. рублей. Компания привлекла 6,24 млн рублей инвестиций, говорится на сайте «Сколково». Из них в 2022 году она получила 4 млн рублей от Фонда содействия инновациям в рамках конкурса «Старт», еще 1,5 млн рублей — в прошлом году от «Сколково». Ранее мы публиковали питч проекта.
Как с помощью ИИ починить любой сломанный код и заставить его работать. Теперь не нужно писать нейронке «код не работает» по 20 раз и смотреть на её мучения — достаточно этого промпта:
“Reflect on 5–7 different possible source of the problem, distill those down to 1–2 most likely sources, and the add logs to validate your assumptions before we move onto the implementing the actual code fix”.
Промпт универсальный и работает в любой нейронке и ИИ-среде — от ChatGPT до Cursor.
Один из методов машинного обучения называется «дерево решений». Он эффективен для задач классификации и регрессии, с которыми чаще всего сталкиваются при анализе изображений и текстов.
Деревья решений названы так потому, что похожи на древовидные диаграммы. Каждый узел в них соответствует функции (проверяющей какое-либо условие), а исходящие из узлов ветви — это вероятные результаты проверки.
Структуры деревьев максимально наглядны и позволяют проследить ход принятия решений. Но деревья не отличаются стабильностью: даже лёгкие изменения в данных могут привести к существенным изменениям в структуре дерева. Поэтому они часто страдают от переобучения.
Чтобы устранить эти недостатки, был разработан более продвинутый метод машинного обучения на основе деревьев решений — случайный лес (random forest). Это ансамблевый метод машинного обучения, применяемый в основном для анализа медицинских данных, маркетинговых исследований и кредитного скоринга.
Случайный лес комбинирует предсказания нескольких деревьев решений, каждое из которых обучается на случайной подвыборке данных.
В задачах регрессии случайный лес делает предсказание путём усреднения результатов всех деревьев, а в задачах классификации он выбирает вариант, к которому пришло большинство деревьев.
Такой подход повышает точность предсказаний и снижает влияние эффекта переобучения. Однако он требует в разы больше ресурсов и теряет лёгкость интерпретации.
Как мы создали FAQ для клиентов КНАУФ на базе RAG – из разрозненных документов и всего за 2 недели?
Привет, Хабр! Хотим поделиться кейсом внедрения Jay Knowledge Hub в клиентский сервис КНАУФ. Для тех, кто не в курсе, КНАУФ – крупнейший производитель строительных отделочных материалов из гипса.
В сфере строительства и ремонта у потребителей часто возникают вопросы, связанные с выбором подходящих материалов или их правильным использованием. Покупатели регулярно обращаются за советами в службу поддержки КНАУФ, причем, по статистике, до 50% запросов поступает в нерабочее время операторов.
Для общения с клиентами КНАУФ активно применяет ботов, которые доступны на сайте, в VK, Telegram, по электронной почте и через телефонные каналы. Однако традиционные чат-боты не всегда способны справиться со сложными запросами пользователей. А для КНАУФ важно не только быстро реагировать, но и давать клиентам полноценные консультации.
К тому же, учитывая огромный спектр продукции и нюансов ее применения, обучение сценарного бота занимает слишком много времени. Требуется время на разбор вопросно-ответных пар, проверку актуальности данных и обновление бота. Поэтому в компании решили попробовать новый подход на базе генеративного ИИ и интегрировали Jay Knowledge Hub, интеллектуальную систему для поиска по неразмеченным данным на основе RAG и дата-агентов.
Как Jay Knowledge Hub помог компании создать AI-ассистента Kai, который за две недели научился отвечать на 3000+ вопросов;
Как интеграция RAG-технологии повысила точность ответов до 89%;
Как Jay Knowledge Hub превращает документы (pdf, docx, таблицы) в единый источник знаний;
Какие настройки применялись для проекта КНАУФ: как повторить успех.
Приходите на вебинар 18 февраля в 13:00, чтобы узнать, как происходила интеграция Jay Knowledge Hub и узнать о возможностях платформы. Зарегистрироваться можно по ссылке.
Почему ИИ УЖЕ лучше нас в некоторых вещах ПРЯМО СЕЙЧАС?
Вот простой пример: скажите ему "Это полное говно, переделай", и он просто переделает. Без эмоций, без обид, без внутреннего сопротивления.
А теперь представьте, что то же самое говорят вам. Да, кто-то из нас тоже спокойно переделает, но внутри всё равно останется ощущение раздражения, усталости или просто потери энтузиазма. Это не слабость – это биология.
Наш мозг эволюционировал так, чтобы ценить усилия и избегать бессмысленного расхода энергии. Даже если мы готовы работать до последнего, на каком-то этапе всё равно появится ощущение выгорания. Мы устаём, теряем мотивацию, начинаем делать "на автомате" или даже бессознательно саботируем задачу.
ИИ же не испытывает ничего из этого. Он не устает, не теряет энтузиазм и не начинает думать: "А стоит ли оно того?" Он просто выполняет работу столько раз, сколько нужно. Без жалоб, без снижения качества.
Впрочем, это не делает нас слабее. Это просто напоминает, что человек и машина – это два разных пути развития. Мы – продукт эволюции, где важно было выживать, экономить ресурсы и делать осмысленный выбор. ИИ не зависит от биологических ограничений, поэтому в задачах, где важны повторяемость, усидчивость и беспристрастность, он уже превосходит нас.
БЯМ - это не ИИ. Давайте перестанем обманывать хотя бы самих себя (это не высокомерное высказывание, это попытка обратить внимание). Сегодня БЯМ - это калькулятор, рассчитывающий веса, в зависимости от обучающей выборки и того, как БЯМ обучили.
Калькулятор не может быть ИИ. То, что делается сегодня в развитие БЯМ - попытки имитировать рассуждения, есть просто многократное повторение циклов "Вопрос - контекст - ответ" с использованием ответов предыдущего цикла в качестве вопроса для следующего цикла.
Интеллект обладает одной способностью - самостоятельно оперировать сущностями. Создавать, распознавать, объединять, разделять сущности (объекты).
Мне это представляется созданием для каждого объекта своей БЯМ и общим механизмом операций над сущностями. Создать сущность "Яблоко" в виде БЯМ, включающей всю информацию о яблоках. Да, все другие объекты, упоминаемые в БЯМ "Яблоко", должны быть независимыми объектами в виде отдельных БЯМ.
По-сути, человек, с первых дней, только этим и занимается. Поэтому, это требует столько времени и энергии.
Давайте обсудим, каким образом возможно реализовать такой ИИ. Какой из существующих инструментов операций над БЯМ может служить общим механизмом операций над объектами-БЯМ, может быть, ollama, tensorflow?
• Зависимость от мгновенных ответов. Когда-то для получения ответа приходилось изучать книги или проводить собственные исследования. Потом мы научились “гуглить” - искать ответы на нужный вопрос через поисковые сервисы, но анализировали полученную информацию все равно мы сами. Теперь достаточно задать вопрос ИИ и получить результат за секунды. Это удобно, но такая мгновенность может снижать наши аналитические способности. Полагаясь на готовые ответы, мы рискуем утратить навыки критического и аналитического мышления.
• Ухудшение памяти. Раньше, чтобы вспомнить имя актера, нам приходилось напрягать память. Сегодня ИИ делает это за нас. Это приводит к тому, что мы меньше тренируем свою память, полагаясь на внешние источники. В долгосрочной перспективе это может негативно сказаться на нашей способности запоминать и воспроизводить информацию. Нам нужно стараться запоминать информацию без помощи ИИ.
• Поверхностное понимание сложных тем. ИИ способен упростить сложные концепции и предоставить краткие ответы. Но такое упрощение может помешать глубокому пониманию предмета. Полагаться только на поверхностные объяснения ИИ — значит ограничивать себя в изучении сложных тем. Поэтому важно углубляться в необходимые нюансы, не ограничиваясь краткими ответами ИИ, а стремясь к более глубокому пониманию.
• Уменьшение социальных взаимодействий. Человек по природе своей социальное существо, и общение с другими людьми важно для эмоционального и психологического благополучия. Сокращение таких взаимодействий может привести к снижению эмоционального интеллекта. Поэтому нам нужно не отказываться от социальных контактов.
• Снижение творческого мышление.Недавнее исследование показало, что регулярное использование ИИ может снижать нашу способность и к творческому мышлению. Участники, которые полагались на ИИ при выполнении творческих задач, показали худшие результаты в самостоятельной работе. Более того, ИИ может приводить к "гомогенизации" идей, снижая разнообразие и оригинальность наших мыслей.
• Дезинформация. Также авторы подчеркивают риски распространения неточной или предвзятой информации. Без критического мышления и проверки фактов мы можем принять ложную информацию за истину, способствуя распространению дезинформации. Мы должны не принимать информацию на веру, а анализировать и проверять ее.
• Снижение способности рассуждать. Сооснователь Y-combinator Пол Грэм в своем эссе предупреждает о будущем, где навыки письма станут редкостью. Если ИИ может написать за нас письмо, зачем учиться делать это самостоятельно? Однако письмо тесно связано с мышлением. Когда мы пишем, мы структурируем мысли, развиваем идеи и улучшаем понимание темы. Потеря этого навыка может привести к снижению способности ясно мыслить и рассуждать. Если мы не хотим относиться к категории “немыслящих”, то нужно на постоянной основе заниматься написанием эссе без использования ИИ, рефлексировать и побольше общаться с “мыслящими” людьми (желательно на разных языках).
ИИ открывает перед нами огромные возможности, но важно помнить о потенциальных последствиях его чрезмерного использования. Возможно, стоит иногда отложить гаджеты и попытаться решить задачу самостоятельно?
Если вам интересна тема ИИ, подписывайтесь на мой Telegram-канал — там я регулярно делюсь инсайтами по внедрению ИИ в бизнес, запуску ИИ-стартапов и объясняю, как работают все эти ИИ-чудеса.
В своей статье «Этические проблемы в продвинутом искусственном интеллекте» философ Ник Бостром предупреждает, что ИИ способен вызвать вымирание человечества. Он утверждает, что сверхразумный ИИ может действовать автономно и создавать собственные планы, что делает его независимым агентом с потенциально непредсказуемым поведением.
В 2021 году в России был подписан Кодекс этики в сфере ИИ, а в 2024 году Европейский союз принял Регламент об искусственном интеллекте, направленный на создание общей нормативно-правовой базы для использования ИИ.
Но несмотря на эти усилия, примеры неэтичного использования ИИ продолжают появляться. Давайте рассмотрим топ-10 таких случаев:
1. Автономное оружие. Некоторые страны разрабатывают автономные дроны и роботов-убийц, которые могут идентифицировать и уничтожать цели без непосредственного контроля оператора. Это повышает риск неконтролируемого применения силы и возможных гражданских жертв.
2. Фейковые новости. Языковые модели позволяют генерировать статьи и сообщения в социальных сетях, которые выглядят как настоящие новости, но содержат ложную или искаженную информацию. Это влияет на общественное мнение и может дестабилизировать политическую ситуацию.
5. ИИ для создания порнографического контента. Приложения, которые могут «раздеть» людей на фотографиях или вставить их лица в порнографические видео, нарушают права на приватность и могут привести к кибербуллингу и шантажу. Так в феврале 2024 года Тейлор Свифт стала жертвой фейковых порнографических изображений, созданных с помощью ИИ.
6. Манипуляция рекомендательными системами. Социальные сети могут продвигать контент, вызывающий сильные эмоциональные реакции, чтобы увеличить время пребывания пользователей на платформе, даже если этот контент содержит дезинформацию.
7. Фермы ботов для политического влияния. Во время политических кампаний боты массово публикуют сообщения в поддержку или против определенных кандидатов, создавая иллюзию массовой поддержки или недовольства. Также эти боты занимаются пропагандой в социальных сетях.
8. Слежка за гражданами без их согласия. Камеры с распознаванием лиц устанавливаются в общественных местах, собирая данные о передвижениях людей, что может использоваться для контроля и подавления инакомыслия. В Китае это уже считается нормой.
10. Применение медицинских данных для дискриминации. Страховые компании могут использовать ИИ для оценки рисков на основе генетических данных, что может привести к отказу в страховании людей с определенными предрасположенностями.
Влияние ИИ на нашу жизнь становится все более неоднозначным. Конечно, можно рассуждать об ответственности разработчиков, вводить кодексы, запрещающие использовать ИИ-контент без пометки «сделано ИИ», договориться о раскрытии источников датасетов для общественности, но это не поможет, если изначальная цель применения ИИ далека от этичной, а у заказчика достаточно ресурсов.
Поэтому особую важность приобретает выработка коллективного иммунитета от фейков. Другой вопрос: такой иммунитет сам по себе может и будет использоваться для манипуляций общественным мнением и в других неприглядных целях.
Если вам интересна тема ИИ, подписывайтесь на мой Telegram-канал — там я регулярно делюсь инсайтами по внедрению ИИ в бизнес, запуску ИИ-стартапов и объясняю, как работают все эти ИИ-чудеса.
