Глава OpenAI рассказал, что компания выпустит инструмент для обнаружения генеративного текста ChatGPT

[@shiru8bit]

"Я думаю, что было бы круто знать больше о них, но может быть лучше, что мы ничего не знаем о них " - думал мальчик.

"Страшно. Очень страшно. Мы не знаем, что это такое. Если бы мы знали, что это такое, но мы не знаем, что это такое."

[@MikeLP]

Текст пластиково шизофренический.

[@Wesha]

"In English, this is how you express direct speech," the Englishamn said.
— А в русском прямая речь оформляется вот так, — ответил русский.

Вот так ты и попадёшься, ChatGPT!

[@alexxz]

В русском языке вариант с кавычками тоже допустим. Есть некотооые типографические и пунктуационные осоенности http://www.gramota.ru/class/coach/punct/45_192

[@Wesha]

Диалоги пишутся тем вариантом, который начинается с тире. Остальные — когда идёт вкрапление прямой речи в повествовательный текст.

[@vilky]

Ну как "вкрапление"... Смотрите, например, диалог в автомобиле в самом начале "Понедельник начинается в субботу". Там повествовательного текста не сильно больше, чем "ответил русский".

[@inkelyad]

Предполагаю, что у них ничего не получится. Точнее, получится, но будет с такой частотой реагировать на тексты, целиком созданные человеком, что они предпочтут забыть, что у них получилось.

[@Kreastr]

А если и смогут в этой итерации, то это лишь повод на этом оппоненте обучить гпт-4.5

[@NNikolay]

Нуу, если писать весь вывод их бота в базу и по ней же искать, это же простая задача, вроде.

[@xpert13]

А я вот предполагаю, что это легче, чем кажется. Вот, поиграйтесь: https://detector.dng.ai/

Мне так и не удалось подсунуть ему сгенерированный текст так, чтобы он его не определил.

[@inkelyad]

Мой аргумент - что будут проблемы с false positive. Ну вот честно написанную речь какого-нибудь политика или статью журналиста скормили такому инструменту и оно сказало 'не человек писал. Дальнейшие действия этих политика или журналиста какие будут?

[@Medeyko]

"Генеративный текст". Термин, который мы заслужили. Тогда уж "дегенеративный текст", как "дегенеративное искусство". :-/

Не, понятно, что имеется в виду "текст, сгенерированный искусственной нейросетью", но тем не менее. Ведь GPT - это даже не GAN.

[@Hungryee]

Как ты думаешь, какое первое слово в GPT и как оно отличается от первого слова в GAN?

[@Medeyko]

Слово-то то же, но в другом качестве: если в GAN это термин, то в GPT - товарное наименование. Но в целом это и не важно - в любом случае, "generative" не относится к выдаваемому ИНС результату.

Если выражения типа "генеративный текст" по отношению к таким результатам закрепятся в языке, это будет ещё один этимологический курьёз, хоть и не такой яркий, как "вокзал".

А поскольку это не косяк переводчика, а использование фразы "generative text" Альтманом, это вполне может закрепиться... :-/

[@XKTP]

Ждём судебных процессов сначала о признании недействительными докторских степеней, а потом ответных исков с вопросами к OpenAI.

[@php7]

Инструмент будет типа у некоторых сайтов защита от копирования в виде приписки "Этот текст скопирован с сайта %SITE_NAME%"?

[@Nansch]

и непечатаемые символы по тексту разбросаны для идентификации и слегка разный цвет символов и потом вообще картинкой со стаганографией можно текст отдавать

[@AYamangulov]

Учащиеся будут тупо загонять в ChatGPT текст задачи, заданной преподавателем, как он был им выдан. Преподавателю достачно сделать то же самое и сравнить, никакая дополнительная программа не нужна ))

[@blueboar2]

ChatGPT отвечает каждый раз по-разному

[@mikelavr]

Ответы же всегда немного разные.

[@d2d8]

В отличии от задач. Решебников полный интернет.

[@Arqwer]

Честно говоря не вижу большой разницы с тем, что было до GPT. И без GPT есть сайты с готовыми докладами и сочинениями, есть ГДЗ, реализации всех стандартных алгоритмов выложены на гитхабе и профильных сайтах, в конце концов всегда можно скооперироваться и решать ДЗ группой, да и просто списать у друга. Если человек хочет сжульничать, он всегда может это сделать. Тут надо решать ортогональную задачу - сделать так, чтобы человек сам хотел учиться.

Когда я учился в 10 классе, нам преподаватель по геометрии сказал на первом занятии "кто хочет 5 в четверти просто так - поднимите руку", и всем поднявшим поставил 5 в четверти - всё, свободны, можете гулять. И кто руку не поднял - учился, и знал, что учится за знания а не за оценки. А кто поднял - учился ещё больше, чтобы восстановить свою упавшую репутацию перед всеми теперь уважаемым преподавателем.

[@lexore]

А кто поднял - учился ещё больше

Прямо все поднявшие руку?

[@ConfirmationBias]

Ватермарки? В тексте-то особо не разгуляешься. Английский довольно строг к порядку слов. Такое будет работать начиная от пары убористых абзацев, думаю. Интересно, как они это сделают. В служебных документах часто бывают намеренные отличия для отслеживания источника утечки.

[@in_heb]

самый просто вариант - тупо сохранять результаты и потом проверять на совпадение классическими методами

[@normal]

за отдельную плату) надо ж отбивать вложения.

[@ac-93]

Проблема Privacy, представь что мы начнём этот антиплагиат проверить на совпадение с текстом, который мы не видели, но догадывается что он мог существовать. Например письмо сотрудника конкуренту или обвиняемого жертве и т.д. Это по сути раскрытие вопросов и ответов.

[@RaFaeL-NN]

Раньше я к мнениям, что вирусы пишут создатели антивирусов, чтобы продавать антивирусы, относился как к полному бреду. После этой новости мне кажется, что те мнения не лишены своей логики )

[@AAngstrom]

Отличная модель монетизации. "С помощью нашего инструмента ChatGPT Вы можете совершенно бесплатно нагенерить мегатонны феерического правдоподобного бреда! А ещё мы предлагаем подписку за 100500 баксов в месяц на инструмент, который позволит определить, был ли текст сгенерирован ChatGPT."

[@Wesha]

Также Альтман подчеркнул, что людям надо адаптироваться к генеративному тексту

и прочим местам, где тебе с умным видом и в белом халате несут пургу

[@Wesha]

P.S. Да, я в курсе, что это была пародия на примерно с десяток реклам, которые в то время крутились. И потому являла собой как бы их квинтэссенцию.

[@PalarmAlex]

Опять лузеров развели, все по кругу: CMS где в два щелчка можно создать портал, который потом за много денег и за долго придется отдать на прическу, генеративный дизайн, где само все дружественно выскакивает и подсказывает - и которое надо опять в парикмахерскую. Теперь вот текст генеративно впаривают. И новое поколение Буратин уже бежит со своими пятаками. Капитализм-с, однако, во всей его циничной суровости:

И над ямкою скорбя, весь в грязи и бурой тине
Тупо глядя в никуда, сидит хмурый Буратино
Незамысловат и прост, аргумент невеждам темным:
Чем заманчивее ложь, тем она правдоподобней

[@lexore]

Будет забавно, когда новые нейросети начнут обучаться на контенте, сгенерированным предшествующими нейросетями. Тогда у нас начнется ад из неправильных речевых оборотов и убедительно звучащих фантазий.