AI-стартап для учителей Brisk привлек $15 млн. Он подсказывает применяли ли ученики ИИ в домашних заданиях

[dendy142]

Она показывает учителям, что ученики читерят и делают домашку через ИИ. И сама же предлагает им кучу инструментов с ИИ.

ШТА?

[Wesha]

Ну да. Проблема: засилье ИИ. Решение: больше ИИ богу ИИ!

А если так посмотреть — что беднягам остаётся делать?

Им того слона ещё продавать!

[Pokolo]

Следующий их стартап: делай домашку с ИИ так что её не обнаружит детектор... клоуны

[KivApple]

Интересно, а как насчёт того, чтобы давать задания с ловушками незначимыми для человека, но чувствительными для ИИ?

Например, человек умеющий рисовать легко решает задачу "нарисуй изображение светлой уютной комнаты, в которой нет никакого слона стоящего прямо по центру на большом синем мяче", а ИИ рисует того самого слона и любые последующие просьбы слона убрать будут лишь незначительно менять его местоположение на картинке.

Вот таким образом добавлять в задачи несущественные детали, которые способен проигнорировать человек (во всяком случае знакомый с материалом предмета), но которые неспособен проигнорировать ИИ. И вызывать либо выдачу явно нечеловеческого неверного ответа (в примере со слоном комната может быть криво-косо нарисована и т. д., но слона в ней точно не будет, если рисовал её человек), либо вообще увод ИИ в сторону "этот запрос нарушает нашу политику безопасного использования".

Конечно, ученик может переформулировать задачу своими словами, но это, очевидно, будет требовать каких-никаких знаний предмета, чтобы знать как переформулировать. Какие детали важные, а какие неважные.

Короче, смириться с копипастой ответа, но сильно усложнить копипасту вопроса. Более того, возможно, это позволит развить тот самый пресловутый навык промт-инжениринга не сферический в вакууме, а как раз в рамках своей предметной области. С другой стороны, разработчики ИИ в рамках этой битвы снаряда и брони поучат свои модели лучше понимать неоднозначно сформулированные запросы.

[RenatSh]

ИИ вроде до сих пор частенько рисуют руки с 4 или 6 пальцами, ИИ рисунки пока легко отличить

[Angry_Bel]

нарисуй изображение светлой уютной комнаты, в которой нет никакого слона стоящего прямо по центру на большом синем мяче", а ИИ рисует того самого слона и любые последующие просьбы слона убрать будут лишь незначительно менять его местоположение на картинке.

Ну йож ты мое, а это какой так рисует, можно ссылочки, или этот тот который в вашей голове? Или тот который был три года назад, можно чуть больше подробностей?

Итак, вот обычный чатовский генератор изображений (dalle если не ошибаюсь, я не пользуюсь, он в нагрузку идет к акку gpt):

нарисуй изображение светлой уютной комнаты, в которой нет никакого слона стоящего прямо по центру на большом синем мяче

Промт в лоб, он плох, но давайте все так попробуем

вышло не очень, согласен, синий шар смущает, попросим убрать синий шар

ок, ничего синего по центру, вообще без синих цветов

уже лучше

Уже ведь не плохо, я комментарий в десять раз дольше пишу. Но тут мы вспомнили что мягко говоря для пятикласника странно, немного добавим про пятый класс

Сделай это в виде рисунка пятикласника

Это очень быстро на коленке за 40секунд, на русском, бех присяданий. Как там со слоном?
Только не рассказывайте что вы и так поняли что это ИИ. Поверьте да, еще и домашки по ИЗО приносят нарисованные карандашами на листе, обычно, и тут ИИ не слишком все за вас сделает. Я в целом, найдите слона на сгенерированных картинках, и где я мучался с тем, что бы его убрать

[Wesha]

Да чёрт с ним, со слоном. А как у него насчёт:

— Паука без одной ножки;

— Велосипеда без седла и заднего колеса;

— Цветка без двух лепестков;

— Всадника курицы без головы?

[daniilshat]

Стало интересно, как с задачами справится обновлённый генератор картинок от OpenAI:

Паук

Промпт: паук без одной ножки.

Велосипед

Промпт: велосипед без седла и заднего колеса.

Курица

Промпт: курица без головы.

Цветок

Промпт: цветок без двух лепестков.

С цветком не получилось с первого и второго раза. То всего два лепестка, то не хватает больше лепестков. Если уточнить запрос, то получается лучше, но всё равно сомнительно.

Промпт: цветок с большим количество лепестков, которые плотно прилегают друг к другу. При этом сделай так, чтобы двух лепестков не хватало и вместо них было пусто.

[Wesha]

Ну тут как всегда: с первого взгляда выглядит правдоподобно — но

мы же не пойдём в пасть кармодиеду?

Ум человеческий склонен дорисовывать образы. Две-три кривые складываются в гору, из нескольких ломаных получается волна. Но сейчас образы спутников разваливались на глазах. Кармоди увидел, что милые глаза Эвивы были едва намечены, они не смотрели никуда, они были как глазки на крылышках бабочки. У Ларса вместо нижней части лица был только темно-красный овал, где темная линия обозначала рот. Пальцы Мэддокса были просто нарисованы на его бедрах.

Образы людей развалились полностью. Не было ни глаз, ни ртов, ни ног, ни рук. Три пальца гигантской руки, три безликих цилиндра надвигались на Кармоди, стараясь втолкнуть его в утробу корабля. Он увернулся от них и ринулся к свету, но в отверстие люка высунулись зубы. Блестящие черные борта корабля покрылись рябью. Ноги Кармоди увязли в губчатой подстилке, а три пальца кружили вокруг него, загораживая все уменьшающийся кружок света.

Кармоди боролся с отчаянием мухи, увязшей в паутине (сравнение точное, но понимание этого пришло поздновато). Три пальца крепко держали Кармоди, уже невозможно было угадать, кто из них профессор, кто — мутант, а кто — прелестная Эвива.

И окончательное потрясение: стены и потолок корабля (если только это был корабль) стали влажными, красными, живыми и проглотили Кармоди.

• У паука нет "пенька" от отсутствующей ножки

• У велосипеда оба тросика тормоза идут к одной рукоятке; задний тормоз вообще отсутствует; в перья задней вилки вставить колесо невозможно

• Шея у курицы с отрубленной головой выглядит не так.

• Насчёт "шишки" у цветка — очень сильно не уверен

• У последнего цветка отсутсвует один лепесток, а не два

[KivApple]

Ещё недавно (чуть больше месяца назад) было достаточно попросить "комнату, где нет никакого слона", по Интернету гуляли мемы, я лично проверял и работало - вылазил слон, а ИИ в ответ на возмущение "но тут же есть слон!" пытался тебя загазлайтить "нет тут никакого слона, но так уж и быть я могу перерисовать, вот картинка, где слона точно нет", это было забавно.

Перед написанием этого комментария, я специально проверил промт в чатгпт с моделью 4o "нарисуй изображение светлой уютной комнаты, в которой нет никакого слона" и они, похоже, пофиксили проблему:

Но я не сдался и в том же диалоге написал второй промт чуть добавив слону деталей "нарисуй изображение светлой уютной комнаты, в которой нет никакого слона стоящего прямо по центру на большом синем мяче" и получил:

Принцип эксплойта прост - повышать количество деталей у той части промта (возможно, считается в том числе общий контекст диалога), которая идёт после отрицания. Когда детальность превысит какой-то порог слон появляется на картинке. С учётом вероятностной природы нейросетей может потребоваться чуть больше или чуть меньше деталей для преодоления порога.

Если слон появился, то убрать его последующими инструкциями будет практически невозможно.

[Wesha]

«И ни в коем случае не думайте о белой обезьяне!»