Robert W. Gehl, Ontario Research Chair of Digital Governance for Social Justice at York University in Toronto
Simply put, AI tools are ubiquitous. I am on academic honesty committees and the number of cases where students have admitted to using these tools to cheat on their work has exploded. I think generative AI is incredibly destructive to our teaching of university students. We ask them to read, reflect upon, write about, and discuss ideas. That's all in service of our goal to help train them to be critical citizens. GenAI can simulate all of the steps: it can summarize readings, pull out key concepts, draft text, and even generate ideas for discussion. But that would be like going to the gym and asking a robot to lift weights for you.
да, но трёх-четырёх сообщений явно недостаточно — с тем, чтобы написать правдоподобные ответы на три-четыре вопроса справится и куда более простой алгоритм. Планку поставили ниже плинтуса
на каждом скриншоте — переписка всего в несколько реплик; я правильно понимаю, что на основании этого надо сделать вывод, нейросеть перед тобой или нет? чё-то как-то маловато данных для выводов, нет?
Искусство коллекционируют очень немногие — потому что, вопреки другому распространённому мифу, его редко собирают для инвестиций. Оно илликвидно, его хранение и страховка дорого стоят, его доходность почти втрое уступает индексам S&P 500 (2.4% vs 8% AFI), и оно облагается налогом на роскошь, то есть создаёт дополнительные налоги.
"Такой подход, в теории, позволяет системе выдавать отчеты, сопоставимые по качеству с результатами труда профессионального аналитика."
"It can sometimes hallucinate facts in responses or make incorrect inferences, though at a notably lower rate than existing ChatGPT models, according to internal evaluations. It may struggle with distinguishing authoritative information from rumors"
Мария дель Рио-Чанона объяснила, что, вероятно, это связано с тем, что модели больших языков склонны экстраполировать из очень заметных исторических данных и испытывают трудности с извлечением более малоизвестных исторических знаний.
это называется "outlier" — аномальный, не укладывающийся в общую тенденцию кусок данных. В случае с llm это кусок информации, сильно непохожий на то, что есть в дата-сете (который нужно понимать, чтобы строить о нём корректные рассуждения, а не просто подбирать токен); с этим у всех нейросетей проблемы, встроенные by design и пока никем не решённые
при обнаружении информации, которая не соответствует данным в ресурсе
иначе говоря, чтобы эта исправлялка галлюцинаций работала, нужно сначала ткнуть её в надёжный текст из надёжного источника; она сравнит инфу оригинала с выдачей от нейросетки и попросит её исправиться, если обнаружит глюки.
На продающем видео:
девушка с максимально сложными щами спрашивает у бота "Когда приедет мусоровоз?" (ПРОБЛЕМА)
ИИ даёт ей неправильный ответ (БОЛЬ У КЛИЕНТА);
девушка обращается к исправлялке галлюцинаций и загружает в неё документ, в котором сказано, когда приедет мусоровоз (РЕЦЕПТ)
исправлялка читает документ вместо девушки и тыкает нейросеть носом в ошибку, нейросеть исправляет ошибку (ПРОБЛЕМА РЕШЕНА)
(В принципе, наверное, может быть, теоретически, девушка могла бы сама изучить оригинальный сайт/документ про мусор и прокачать нейронные связи уже в своей голове... Но тогда бы ей стала не так уж нужна подписка на сервис от майкрософт...)
там ещё проблема в том, что вода, которая уходит охлаждать дата-центр, могла бы делать что-нибудь другое, полезное, а не помогать генерировать приколюхи или рефераты для школьников; это особенно принципиально для засушливых регионов, где дата-центры часто располагаются
...one-fifth of data center servers direct water footprint comes from moderately to highly water stressed watersheds, while nearly half of servers are fully or partially powered by power plants located within water stressed regions. https://iopscience.iop.org/article/10.1088/1748-9326/abfba1
«Например, наш ИИ разделяет своих героев на «основных» и «курьеров», причём последние занимаются сбором войск и ресурсов вместо сражений — как это делают настоящие игроки
так это и в IV было, компьютер постоянно спамил тебе за шиворот героев-однодневок, которые хватали ресурсы, где можно, и по-быстрому ставили флаги над свободными лесопилками
ну, это так себе аналогия, потому что дыхание всё-таки является очевидной жизненной необходимостью;
является ли такой же несомненной необходимостью срочное строительство гига-дата-центров, которые будут генерировать стерильные картинки и многочисленные видосы-приколюхи, писать работы за студентов, засорять интернет мусорными текстами, жрать электричество, сколько никакие луддиты не потратят, и приносить мегадоход по подписке миллиардерам — ну хз, неочевидно как-то
- в случае с русским языком — подозрительное количество англицизмов и фраз, по своему синтаксису явно рассчитанных на английский язык ("это было..." в начале предложений; изобилие отглагольных существительных с суф. -ени- и -ани- как следствие бездумного перевода)
- слишком равномерный и однообразный синтаксис: не слишком коротко, не слишком длинно; сложные предложения не более чем с 1-2 придаточными; коротких предложений мало;
- крайне редко используются чуть менее распространённые синтаксические конструкции — разные выразительные тире, авторские интонационные скобки (в неожиданных местах предложения), однородные причастные и деепричастные обороты или придаточные предложения; вводные, скажем, слова в нестандартных позициях и т.п.
рабочие на складах амазона: ссут в бутылки, не отходя от станка, чтобы их не оштрафовали за отсутствие на рабочем месте;
сеньор с амазона, чья должность включает в себя аббревиатуру: я настолько ничего не делаю за свои деньги, что даже от скуки решил об этом хоть с кем-то поделиться
и собрать с юзера все, все, все возможные данные. Больше, больше даты в руки миллиардеров с пустыми глазами
тем временем:
https://www.404media.co/teachers-are-not-ok-ai-chatgpt/
да, но трёх-четырёх сообщений явно недостаточно — с тем, чтобы написать правдоподобные ответы на три-четыре вопроса справится и куда более простой алгоритм. Планку поставили ниже плинтуса
на каждом скриншоте — переписка всего в несколько реплик; я правильно понимаю, что на основании этого надо сделать вывод, нейросеть перед тобой или нет? чё-то как-то маловато данных для выводов, нет?
(просто повешу это здесь, а то опять виден народный миф о коллекционировании как супервыгодных инвестициях)
"Такой подход, в теории, позволяет системе выдавать отчеты, сопоставимые по качеству с результатами труда профессионального аналитика."
"It can sometimes hallucinate facts in responses or make incorrect inferences, though at a notably lower rate than existing ChatGPT models, according to internal evaluations. It may struggle with distinguishing authoritative information from rumors"
a chessboard, view from above, chess pieces are in a starting position, black and white, minimalistic
Скрытый текст
это называется "outlier" — аномальный, не укладывающийся в общую тенденцию кусок данных. В случае с llm это кусок информации, сильно непохожий на то, что есть в дата-сете (который нужно понимать, чтобы строить о нём корректные рассуждения, а не просто подбирать токен); с этим у всех нейросетей проблемы, встроенные by design и пока никем не решённые
ну да, ну да, пиратство это зло и кража, но если вы корпорация, то не зло и не кража
Не сомневался. Я посмотрел курс, там написано, что ChatGPT поможет учителю
проводить педсоветы максимально продуктивно
генерировать обучающие картинки, чтобы обсуждать темы
составить план урока, если я задам чёткий промт
Спасибо, мне это либо не надо, либо у меня есть более эффективные способы решения этих проблем.
нужно больше дата-центров — нужно больше энергии — нужно больше, больше, БОЛЬШЕ нефти
ну ещё бы, для саудитов это выгодная инвестиция; даже если ИИ-пузырь лопнет, нефти хотя бы напродают по-королевски
а они этого почти не умеют, потому что токен больше, чем буква или сочетание букв
иначе говоря, чтобы эта исправлялка галлюцинаций работала, нужно сначала ткнуть её в надёжный текст из надёжного источника; она сравнит инфу оригинала с выдачей от нейросетки и попросит её исправиться, если обнаружит глюки.
На продающем видео:
девушка с максимально сложными щами спрашивает у бота "Когда приедет мусоровоз?" (ПРОБЛЕМА)
ИИ даёт ей неправильный ответ (БОЛЬ У КЛИЕНТА);
девушка обращается к исправлялке галлюцинаций и загружает в неё документ, в котором сказано, когда приедет мусоровоз (РЕЦЕПТ)
исправлялка читает документ вместо девушки и тыкает нейросеть носом в ошибку, нейросеть исправляет ошибку (ПРОБЛЕМА РЕШЕНА)
(В принципе, наверное, может быть, теоретически, девушка могла бы сама изучить оригинальный сайт/документ про мусор и прокачать нейронные связи уже в своей голове... Но тогда бы ей стала не так уж нужна подписка на сервис от майкрософт...)
там ещё проблема в том, что вода, которая уходит охлаждать дата-центр, могла бы делать что-нибудь другое, полезное, а не помогать генерировать приколюхи или рефераты для школьников; это особенно принципиально для засушливых регионов, где дата-центры часто располагаются
...one-fifth of data center servers direct water footprint comes from moderately to highly water stressed watersheds, while nearly half of servers are fully or partially powered by power plants located within water stressed regions.
https://iopscience.iop.org/article/10.1088/1748-9326/abfba1
так это и в IV было, компьютер постоянно спамил тебе за шиворот героев-однодневок, которые хватали ресурсы, где можно, и по-быстрому ставили флаги над свободными лесопилками
ну, это так себе аналогия, потому что дыхание всё-таки является очевидной жизненной необходимостью;
является ли такой же несомненной необходимостью срочное строительство гига-дата-центров, которые будут генерировать стерильные картинки и многочисленные видосы-приколюхи, писать работы за студентов, засорять интернет мусорными текстами, жрать электричество, сколько никакие луддиты не потратят, и приносить мегадоход по подписке миллиардерам — ну хз, неочевидно как-то
кроме того:
- в случае с русским языком — подозрительное количество англицизмов и фраз, по своему синтаксису явно рассчитанных на английский язык ("это было..." в начале предложений; изобилие отглагольных существительных с суф. -ени- и -ани- как следствие бездумного перевода)
- слишком равномерный и однообразный синтаксис: не слишком коротко, не слишком длинно; сложные предложения не более чем с 1-2 придаточными; коротких предложений мало;
- крайне редко используются чуть менее распространённые синтаксические конструкции — разные выразительные тире, авторские интонационные скобки (в неожиданных местах предложения), однородные причастные и деепричастные обороты или придаточные предложения; вводные, скажем, слова в нестандартных позициях и т.п.
Delivery Drivers Sue Amazon For Being Forced To Pee In Bottles
https://www.forbes.com/sites/katherinehamilton/2023/05/24/delivery-drivers-sue-amazon-for-being-forced-to-pee-in-bottles/
(капитализм 101)
рабочие на складах амазона: ссут в бутылки, не отходя от станка, чтобы их не оштрафовали за отсутствие на рабочем месте;
сеньор с амазона, чья должность включает в себя аббревиатуру: я настолько ничего не делаю за свои деньги, что даже от скуки решил об этом хоть с кем-то поделиться
там такого нейросетевого мусора навалом: детские книжки, книги с рецептами, биографии и проч.
Amazon's AI book problem