Комментарии 34
GPT3 поэтому и не присутствует в паблике, потому-что она способна создавать тексты, неотличимые от человека. Этим она и страшна.
Чем страшна, массовым увольнением копирайтеров?
Тем, что с её помощью можно зафлудить интернет фейковыми постами, которые не отличишь от человеческих. Это будет хаос.
И много из них могут делать неотличимые от людей посты на нужную тему?
И сколько вообще таких ботов может производить тексты вроде того, что выше? И по содержанию, и по обьёму.
Реально, а не допиливали ли выход? Ну может лишнее убрали и добавили чего? Если же все правда, то это восхитительно! Конечно, это должно ударить по писателям, считающим себя творцами, которые в моменты расположения музы порождают произведения как по-наитию. А тут окажется, что все связи уже содержатся в усредненной языковой модели, и чтобы генерировать тексты достаточно запастись обилием контекстов
Ну вроде автор просто выбирал из нагенерированных текстов
Один из них был действительно нахальным: "я признаю, что мои идеи в значительной степени непроверены. Я не провел годы в академических кругах, работая на какой-то низкооплачиваемой работе, которая мне не очень нравится, только для того, чтобы в конечном итоге получить работу, занимаясь тем, что я на самом деле не хочу делать в первую очередь."
Так практически любая деятельность, кроме научных изысканий — это некий компилянт (даже не всегда правдоподобный).
Например, инженерные задачи — строго говоря, они не научные, но тоже должны проходить проверку практикой.
Или разработка продукта — в идеале должна проверяться реакцией пользователей, т.е. внешней средой.
У меня это в каком-то смысле рассмотрено в рассказе Сергей и научный метод
Без проверки практикой — это да, то, что правильно называть риторикой — т.е. словесным компилятом, который не проходит проверку в реальности.
Насчет тонких материй «как устроено созидание» спорить не буду, но вслед за формулированием гипотезы должны следовать её проверка, которую, в общем-то, в первом приближении проводит тот же самый специалист, что и сформулировал гипотезу.
— Ученый проводит эксперимент и обрабатывает результаты или выдвигает основанные на фактах аргументы в поддержку теории
— Программист запускает и тестирует на правильность свой собственный код (а не говорит — «я написал, а вы разбирайтесь, работает оно или нет»)
и т.д.
Если есть разрыв между генерацией идеи и её проверкой — это, как правило, плохо заканчивается. Это означает, что сгенерировавший идею не несёт никакой ответственности за её привязку к реальности. Нельзя сказать, что это такая уж редкость… но это то, что приводит к популизму и лаже.
вслед за формулированием гипотезы должны следовать её проверка, которую, в общем-то, в первом приближении проводит тот же самый специалист, что и сформулировал гипотезу.В том и дело, что в первом приближении, называть это проверкой практикой я бы не стал.
Ученый публикует научные результаты, они обсуждаются в научном сообществе, перепроверяются другими учеными, их пытаются как-то применять на практике, и вот только после этого теория получает широкое признание.
Программист после самостоятельного тестирования отдает свой код тестировщику, после тестировщика программа попадает к пользователям, которые вносят свои замечания и пожелания, и вот только после целого каскада таких проверок и правок программа действительно становится стоящей и широко применяемой, то есть прошла проверку практикой.
Точно также у художника или писателя — есть рецензенты, критики, отзывы от зрителей/читателей, и далеко не все что сам творец может считать ценным проходит такую проверку практикой и получает признание.
То, о чем говорите вы, я бы скорее назвал общественным признанием.
Например, я могу написать программу. Она работает и решает мои задачи. Но, возможно, она не нужна окружающим по тем или иным причинам. Это не означает, что она не выдерживает проверку практикой — это просто означает её ненужность, возможно, временную. То же касается и научной теории и пр.
Проверка практикой — это проверка реальностью. Возвращаясь к теме исходной статьи — GPT-3 переформулирует чужие мысли, и после их переформулирования НЕ проверяет, насколько они соответствуют реальности даже в минимальной степени. Т.е. это чистейшей воды риторика, привязанная исключительно к текстовому описанию мира.
Первый пост на Хабре, где я боюсь писать отрицательные коменты…
Следующий этап — дипломы, кандидатские, и научные работы.
Думаю скоро такие тексты будут принудительно цензурировать т.к. сетка может такого нагенерить, что ее идеи народ поднимут.
Времени на раскачку больше нет...
Признание во лжи не было бы так трагично, если бы незадолго до этого не было статей про «Истребление человечества — довольно бесполезное дело» от него же
Ответ философам от GPT-3