в пересказе пропал один ключевой пойнт из манифеста — о том, что радостное запихивание LLM во все научные процессы симулирует прогресс и приводит к тому, что приоритет отдаётся математическим исследованиям, более подверженным LLM-брутфорсу, а не более важным с точки зрения науки.
These developments put the autonomy of mathematics under threat. The increasing involvement of technology companies in mathematical research raises the risk that research questions may come to be prioritized because of their amenability to automated mathematics, rather than expert judgment of their deeper significance. Indeed, broader understanding of the field may be permanently lost in the process of automation. With university budgets under pressure, this reshaping also changes professional incentives in a manner which encourages the collaboration of researchers with technology companies on asymmetric terms. If left unchecked, these trends go beyond threatening researchers’ autonomy, affecting the scope and depth of mathematical research itself.
большинство великих педагогических идей XX века (Монтессори, Дьюи, Фрейре, Выготский, Гальперин, Эльконин и др.) стояли и стоят на том, чтобы видеть в ученике личность — а не инвестицию в будущего рабочего, или ресурс для рынка, или объект для оптимизации — а образование как процесс совместного поиска и сложного внутреннего развития в человеке, который нельзя сделать универсальным.
Допуск llm'ок в школы оборачивает этот процесс вспять. Теперь люди снова, как фабричные бригадиры, стоят с секундомером над учителями (не быстрее ли это объяснить чатжпт?), учениками (а давайте отсеем "ненужное" и будем им давать только нужные навыки) и замеряют статистику — на сколько повысится "эффективность" с "новыми" (что в них нового?) инструментами. Унификация, бюрократизация, усреднение, сбор статистики и управление через статистику
LLM в школах — это регресс в образовании, а не прогресс
в человеческом мышлении есть нечто, недоступное конечным машинам.
никакой мистики, объективно есть способность воспринимать и образовывать в сознании гештальты — целостные образы, не выводимые алгоритмически из суммы частей и качественно от неё отличающиеся. Озарения, связанные с математическими теориями, в принципе, относятся к ним же
"чтобы доказать, что LLM — это AGI, четверо учёных переопределяют AGI так, чтобы туда втиснулись LLM"
В оригинале качество аргументов примерно такое: They hallucinate. LLMs sometimes confidently present false information as being true, raising concerns about reliability. Hallucination is becoming less prevalent in current models, but it does not in any case disqualify general intelligence. Humans are prone to false memories, cognitive biases and perceptual illusions, often asserting them confidently.
капитализм 101: а) Не спрашивая автора, обучить нейросеть на его авторских материалах, чтобы они симулировали его авторский стиль и приносили прибыль — fair use.
б) Организовать общедоступную библиотеку — нарушение авторских прав на триллионы долларов.
Учитесь, дети: капиталистам очень не нравится, когда им мешают присвоить средства (интеллектуального) производства; всегда и везде будьте за пиратов.
a chessboard, top-down view, all pieces in starting positions
Скрытый текст
make a drawing of a standard bicycle and label its parts
Скрытый текст
four hands, in close-up, each holding a glass half full of beer (количество пива уменьшил со второго раза, после конкретного редактирования; пальцы всё ещё представляют проблему)
Ссылки на оригинал (видео и текст, оба сделаны человеком) даны в самом начале статьи. Перевод — базовый гугл-транслейт + reverso + последующая вычитка, сравнение с оригиналом и корректура, выполненные человеком
Кроме того, использование ИИ в искусстве поднимает этические вопросы, связанные с авторским правом, обесцениванием человеческого труда и возможным усилением стереотипов.
его творения — это технически совершенная, но пустая оболочка
как минимум этого в статье нет; но я рад, что вы сэкономили себе ментальные усилия, надеюсь, вы потратите их на что-нибудь хорошее
And because the lessons are pre-scripted, Super Teacher doesn't suffer from the "hallucinations" or errors seen in other AI-powered products.
Ну т.е. это анимированный чат-бот с квизами, который прикручен к упражнениям на запоминание. Не очень понятно только, зачем такие репетиторы в началке (и уж тем более трёхлеткам).
Кроме того, оно собирает данные с детей:
As a general rule, we collect as little data as possible, use it only for the reason it was collected as outlined in our documentation, and retain it only as long as reasonably necessary.
И ещё:
В начале октября в техасском Остине открылась школа Alpha, в которой вместо учителей уроки ведут системы искусственного интеллекта... Ученики самостоятельно управляют всеми учебными процессами с помощью приложений на базе искусственного интеллекта, занимаясь всего по два часа в день.
Они не занимаются "всего по 2 часа в день", они два часа втыкают в ноутбуки и нарешивают унылые квизы и тесты в приложениях ("прочитай статью и ответь на вопросы! молодец!"), за остальные $40к, судя по сайту, школа обеспечивает детям обычную дорогую школу с кучей допов, личными проектами, воркшопами и учителями ("гидами").
Robert W. Gehl, Ontario Research Chair of Digital Governance for Social Justice at York University in Toronto
Simply put, AI tools are ubiquitous. I am on academic honesty committees and the number of cases where students have admitted to using these tools to cheat on their work has exploded. I think generative AI is incredibly destructive to our teaching of university students. We ask them to read, reflect upon, write about, and discuss ideas. That's all in service of our goal to help train them to be critical citizens. GenAI can simulate all of the steps: it can summarize readings, pull out key concepts, draft text, and even generate ideas for discussion. But that would be like going to the gym and asking a robot to lift weights for you.
да, но трёх-четырёх сообщений явно недостаточно — с тем, чтобы написать правдоподобные ответы на три-четыре вопроса справится и куда более простой алгоритм. Планку поставили ниже плинтуса
на каждом скриншоте — переписка всего в несколько реплик; я правильно понимаю, что на основании этого надо сделать вывод, нейросеть перед тобой или нет? чё-то как-то маловато данных для выводов, нет?
Искусство коллекционируют очень немногие — потому что, вопреки другому распространённому мифу, его редко собирают для инвестиций. Оно илликвидно, его хранение и страховка дорого стоят, его доходность почти втрое уступает индексам S&P 500 (2.4% vs 8% AFI), и оно облагается налогом на роскошь, то есть создаёт дополнительные налоги.
"Такой подход, в теории, позволяет системе выдавать отчеты, сопоставимые по качеству с результатами труда профессионального аналитика."
"It can sometimes hallucinate facts in responses or make incorrect inferences, though at a notably lower rate than existing ChatGPT models, according to internal evaluations. It may struggle with distinguishing authoritative information from rumors"
враги свободы жалуются на ущемление свободы
в пересказе пропал один ключевой пойнт из манифеста — о том, что радостное запихивание LLM во все научные процессы симулирует прогресс и приводит к тому, что приоритет отдаётся математическим исследованиям, более подверженным LLM-брутфорсу, а не более важным с точки зрения науки.
These developments put the autonomy of mathematics under threat. The increasing involvement of technology companies in mathematical research raises the risk that research questions may come to be prioritized because of their amenability to automated mathematics, rather than expert judgment of their deeper significance. Indeed, broader understanding of the field may be permanently lost in the process of automation. With university budgets under pressure, this reshaping also changes professional incentives in a manner which encourages the collaboration of researchers with technology companies on asymmetric terms. If left unchecked, these trends go beyond threatening researchers’ autonomy, affecting the scope and depth of mathematical research itself.
большинство великих педагогических идей XX века (Монтессори, Дьюи, Фрейре, Выготский, Гальперин, Эльконин и др.) стояли и стоят на том, чтобы видеть в ученике личность — а не инвестицию в будущего рабочего, или ресурс для рынка, или объект для оптимизации — а образование как процесс совместного поиска и сложного внутреннего развития в человеке, который нельзя сделать универсальным.
Допуск llm'ок в школы оборачивает этот процесс вспять. Теперь люди снова, как фабричные бригадиры, стоят с секундомером над учителями (не быстрее ли это объяснить чатжпт?), учениками (а давайте отсеем "ненужное" и будем им давать только нужные навыки) и замеряют статистику — на сколько повысится "эффективность" с "новыми" (что в них нового?) инструментами. Унификация, бюрократизация, усреднение, сбор статистики и управление через статистику
LLM в школах — это регресс в образовании, а не прогресс
https://arcprize.org/media/ARC_AGI_3_Technical_Report.pdf
никакой мистики, объективно есть способность воспринимать и образовывать в сознании гештальты — целостные образы, не выводимые алгоритмически из суммы частей и качественно от неё отличающиеся. Озарения, связанные с математическими теориями, в принципе, относятся к ним же
"чтобы доказать, что LLM — это AGI, четверо учёных переопределяют AGI так, чтобы туда втиснулись LLM"
В оригинале качество аргументов примерно такое:
They hallucinate. LLMs sometimes confidently present false information as being true, raising concerns about reliability. Hallucination is becoming less prevalent in current models, but it does not in any case disqualify general intelligence. Humans are prone to false memories, cognitive biases and perceptual illusions, often asserting them confidently.
капитализм 101:
а) Не спрашивая автора, обучить нейросеть на его авторских материалах, чтобы они симулировали его авторский стиль и приносили прибыль — fair use.
б) Организовать общедоступную библиотеку — нарушение авторских прав на триллионы долларов.
Учитесь, дети: капиталистам очень не нравится, когда им мешают присвоить средства (интеллектуального) производства; всегда и везде будьте за пиратов.
"всего лишь инструмент"
a chessboard, top-down view, all pieces in starting positions
Скрытый текст
make a drawing of a standard bicycle and label its parts
Скрытый текст
four hands, in close-up, each holding a glass half full of beer (количество пива уменьшил со второго раза, после конкретного редактирования; пальцы всё ещё представляют проблему)
Скрытый текст
Ссылки на оригинал (видео и текст, оба сделаны человеком) даны в самом начале статьи. Перевод — базовый гугл-транслейт + reverso + последующая вычитка, сравнение с оригиналом и корректура, выполненные человеком
как минимум этого в статье нет; но я рад, что вы сэкономили себе ментальные усилия, надеюсь, вы потратите их на что-нибудь хорошее
And because the lessons are pre-scripted, Super Teacher doesn't suffer from the "hallucinations" or errors seen in other AI-powered products.
Ну т.е. это анимированный чат-бот с квизами, который прикручен к упражнениям на запоминание. Не очень понятно только, зачем такие репетиторы в началке (и уж тем более трёхлеткам).
Кроме того, оно собирает данные с детей:
As a general rule, we collect as little data as possible, use it only for the reason it was collected as outlined in our documentation, and retain it only as long as reasonably necessary.
И ещё:
В начале октября в техасском Остине открылась школа Alpha, в которой вместо учителей уроки ведут системы искусственного интеллекта... Ученики самостоятельно управляют всеми учебными процессами с помощью приложений на базе искусственного интеллекта, занимаясь всего по два часа в день.
Они не занимаются "всего по 2 часа в день", они два часа втыкают в ноутбуки и нарешивают унылые квизы и тесты в приложениях ("прочитай статью и ответь на вопросы! молодец!"), за остальные $40к, судя по сайту, школа обеспечивает детям обычную дорогую школу с кучей допов, личными проектами, воркшопами и учителями ("гидами").
всё ещё не справляется с шахматной доской
Скрытый текст
и собрать с юзера все, все, все возможные данные. Больше, больше даты в руки миллиардеров с пустыми глазами
тем временем:
https://www.404media.co/teachers-are-not-ok-ai-chatgpt/
да, но трёх-четырёх сообщений явно недостаточно — с тем, чтобы написать правдоподобные ответы на три-четыре вопроса справится и куда более простой алгоритм. Планку поставили ниже плинтуса
на каждом скриншоте — переписка всего в несколько реплик; я правильно понимаю, что на основании этого надо сделать вывод, нейросеть перед тобой или нет? чё-то как-то маловато данных для выводов, нет?
(просто повешу это здесь, а то опять виден народный миф о коллекционировании как супервыгодных инвестициях)
"Такой подход, в теории, позволяет системе выдавать отчеты, сопоставимые по качеству с результатами труда профессионального аналитика."
"It can sometimes hallucinate facts in responses or make incorrect inferences, though at a notably lower rate than existing ChatGPT models, according to internal evaluations. It may struggle with distinguishing authoritative information from rumors"
a chessboard, view from above, chess pieces are in a starting position, black and white, minimalistic
Скрытый текст