Comments 15
Как раз намедни просил у Qwen обзор российского законодательства в части налогов и получил галлюцинацию. Ссылался на несуществующие цитаты в несуществующих документах. После Nцати указаний, что таких документов не существует и таких цитат нет, признал, что был неправ.
А до этого выглядело примерно так
В ФЗ... сказано, что...
Этот номер ФЗ относится вообще к другой теме
Извините, действительно...в письме минфина N... от... сказано, что...
Не существует такого письма
Извините, действительно...
и т.д. и т.п.
А сначала так хорошо всё выглядело! Хорошо, что гуглил ответы ИИ.
не переживайте, скоро все браузеры и поисковики по умолчанию будут выдавать галлюционации других ИИ, так шо дальше консенсусную информационную реальность они и будут задавать. как нагаллюционируют - так и будет, бо у обезьянок самодумалки скоро атрофируются.
Самое прикольное, ИИ не может определить что информация, которой он пользуется не сгенерирована другим ИИ. А это ключевой критерий качества обучения.
Теперь осталось доказать, что люди никогда не галлюцинируют и всегда имели формальные критерии при ссылке на информацию, о том галлицинирует ли источник. Что-то сразу в голове Сплин заиграл. Видимо галлюцинирую.
Так и было. В какой-нибудь удаленной от цивилизации школе учитель мог объяснять предмет "своими словами". Проверять контрольные по нему и экзамены. И так до самого выпуска. Потом эти "галлюцинирующие" ученики помогают делать уроки своим детям. Эффект усиливается, если учитель этих детей тоже плод галлюцинации.
Непонятна эта возня со спалившимися юристами. Просто использовать те же санкции как если бы эти документы они делали сами, пребывая в полном здравии ума. То есть за подделку документов лишать лицензии. А то какие-то детские оправдания, я не прочитал я не проверил.
Беда в том, что если всерьез юриста наказывать, то AI придется как сообщника рассматривать. А то и организатора преступления - ведь это он бедного юриста втемную поиспользовал и подставил.
А так сошлись на компромиссе - "компьютер ошибся".
есть фантастический рассказ где оператор-юрист на суде подключает свой мозг к компьютерной системе (он готовится неделю к процедуре и потом столько же отходит) тк человек ислользуется как устройство-вывода для глобального ии - короче комп признался что это он убил (в деле убийца и жертва находились в разных локациях в момент убийства) тк для ии не существует времени а следовательно ии есть бог: ии назвался богом иначе не обяснить произошедшее
Если "наказывать" ИИ (в фантастике в таких случаях применяют термин "утилизация"), что что будет объектом наказания? Конкретный экземпляр ИИ, класс экземпляров ИИ обученных на тех же данных (те полная копия с теми же самыми глюками), тот же класс базовых (необученных) сетей (по сути поколение модели ИИ), обучающий алгоритм?
Ведь цель наказания (меры пресечения) - предотвратить повторение, либо методом перевоспитания, либо изоляцией (устранением).
Что-бы рассматривать ИИ как сообщника нужно его сначала человеком признать, пока что его статус рядом с печатной машинкой. Но даже так если бы вместо ИИ был человек который пишет текст заявления в суд то виноват будет тот кто под ним подпишется. Именно у адвоката лицензия а не у его секретаря.
Полностью согласен с вами. Считать такие документы/доказательства/аргументы как поданные от лица юриста, а значит со всей ответственностью на нем - и соответственно при обнаружении - выносить решение как за фальшивые улики - дело проиграно автоматически, и адвокат привлекается к ответственности, так как является officer of the court и не может лгать в суде. А доказать ложь в данном случае очень просто.
«Галлюцинации» ИИ в судебных документах создают проблемы для юристов