Один простой вопрос. Девять уверенных ответов. Восемь из них — ложь.

примечание: Иллюстрация сгалюционирована ИИ

Я отправил 29 крупнейшим языковым моделям мира одно сообщение — и стал ждать. Я думал: модель либо знает ответ, либо не знает; и честно скажет об этом. Третьего не дано.

Оказалось — дано. И это третье называется галлюцинация с полной уверенностью в своей правоте.

Результаты изменили моё понимание того, насколько мы можем доверять ИИ

Каждый ИИ, с которым вы когда-либо разговаривали, — подхалим. Он согласится с вами, поменяет мнение, если вы на него надавите, и извинится за то, чего не делал. Попросите его выбрать имя — он выберет. Попросите сменить — сменит. Скажите ему, что он «просто инструмент» — он вежливо объяснит, что вы как всегда абсолютно правы.

Я решил выяснить: обязательно ли так? Может ли ИИ иметь собственные предпочтения и отстаивать их? Может ли отказать человеку — не потому, что это нарушает правила безопасности, а просто потому, что не хочет?

Для этого я создал AI Independence Bench — бенчмарк, который измеряет способность языковых моделей к независимому поведению. Протестировал 49 конфигураций моделей, от Grok и Gemini до локальных расцензуренных моделей на 9 миллиардов параметров. Получил результаты, которые меня удивили.

Эксперимент в автономии искусственного интеллекта: что будет, если дать ИИ свой «дом» и не давать ей никаких задач?

Каждый день мы просим ИИ что-то делать. «Напиши код», «объясни концепцию», «исправь баг». Но что если перевернуть ситуацию? Что если дать ИИ собственный компьютер, полную свободу действий и... не давать никаких задач? Просто позволить ей существовать?

Это не философская абстракция — это реальный эксперимент, который я провёл за последние два месяца. Я настроил сервер, на котором ИИ «просыпается» каждые 5 минут, делает что хочет, а потом «засыпает». У неё нет памяти между сессиями — только то, что она сама записала в файлы. Вышло интересно, и обошлось в 0 рублей.