9. Чтобы избежать катастрофы, нужно приостановить разработку категории систем ИИ.
пропущего слово видимо, речь вероятно о той категории, которая должна стать настоящим интеллектом, да вот только ничего не сказано что это за категория, какими признаками обладают эти проекты.
5. Если система ИИ умнее человека и способна достигать целей лучше людей, но имеет случайные ценности, это приводит к катастрофе и смерти всех на планете.
упс, а каким это образом мы перескочили от математической функции к интеллекту с сознанием и ценностями? Магия кальсонных гномов?
как не умеем? Уже и курсы есть по "промпт-инженирингу" )
Нейронки не джины, как сказал по пункту первому - есть сфера применения где они хороши и даже с плохим промптом дают результат лучше чем без них, а управление атомным реактором конечно им нельзя доверить, там нужен формально верифицированный софт и люди с интеллектом.
3. Осталось не слишком много времени до момента, когда нейронные сети будут не менее же способны достигать цели, насколько способны люди.
Ничем не обоснованное утверждение (или манипуляция - "насколько способны люди" можно трактовать по всякому, в го давно лучше людей), пока все эти нейронки выглядят просто как база данных ответов - если ответа в базе нет, то получится чушь на выходе. Они не учатся как это делают люди и не отвечают как люди, так что надо бы посерьёзней доказательства чем чьи-то письма.
2...Это значит, что если мы берём сильно больше GPU и тратим больше электричества, мы можем получить на выходе более способную нейронную сеть.
Моё хобби экстраполироть.жпг
Во-первых, скорее всего зависимость там экспоненциальная и достаточно быстро потребуется невозможное количество данных для обучения, энергии и вычислительных русурсов для обучения и вычисления.
Во-вторых, какая бы "способная" сеть не была скорее всего проблема останется той же - если на вопрос небыло ответа в обучающем наборе то велик шанс получить полеую чушь.
Да, это другой инструмент, надо понимать ограничения, ответственные вещи доверять нейронкам нельзя, но есть класс задач типо поиска (когда найти трудно, критерии не очень формализуются, но проверить результат легко) для которых нейронки по сути единственный способ.
Город представляет собой многоэтажный дом в форме кольца. Внутри кольца парк.
цифры надо проверять, идея не так плохо звучит, хотя 20 этажей это уныло, высотность должна быть человеческая, не выше 4-х этажей, иначе психологически давит и не порождает уютных дворов где кипит жизнь.
Оказывается он уже тут https://www.levf.org/team
Тут докладчик говорит что не так-то и сильно мы можем увеличиваить возможности ИИ
И статья от, на мой взгляд, толкового исследователя из Хельсинского универститета.
Хорошее видео по теме.
пропущего слово видимо, речь вероятно о той категории, которая должна стать настоящим интеллектом, да вот только ничего не сказано что это за категория, какими признаками обладают эти проекты.
наверное, скорее всего это в принципе невозможно из-за размера функций, но функция остаётся функцией, это можно предсказать.
так мы и не знаем как их создавать, никаких причин думать что сделав математическую фунцию побольше мы вдруг получим интеллект.
Мы вроде не знаем как естественный интеллект работает, как понять что мы его скоро создадим?
Ну и нет никаких способов остановить прогресс, особенно с такой аргументацией, а это уже пункт 7, да.
упс, а каким это образом мы перескочили от математической функции к интеллекту с сознанием и ценностями? Магия кальсонных гномов?
как не умеем? Уже и курсы есть по "промпт-инженирингу" )
Нейронки не джины, как сказал по пункту первому - есть сфера применения где они хороши и даже с плохим промптом дают результат лучше чем без них, а управление атомным реактором конечно им нельзя доверить, там нужен формально верифицированный софт и люди с интеллектом.
Ничем не обоснованное утверждение (или манипуляция - "насколько способны люди" можно трактовать по всякому, в го давно лучше людей), пока все эти нейронки выглядят просто как база данных ответов - если ответа в базе нет, то получится чушь на выходе. Они не учатся как это делают люди и не отвечают как люди, так что надо бы посерьёзней доказательства чем чьи-то письма.
Моё хобби экстраполироть.жпг
Во-первых, скорее всего зависимость там экспоненциальная и достаточно быстро потребуется невозможное количество данных для обучения, энергии и вычислительных русурсов для обучения и вычисления.
Во-вторых, какая бы "способная" сеть не была скорее всего проблема останется той же - если на вопрос небыло ответа в обучающем наборе то велик шанс получить полеую чушь.
Да, это другой инструмент, надо понимать ограничения, ответственные вещи доверять нейронкам нельзя, но есть класс задач типо поиска (когда найти трудно, критерии не очень формализуются, но проверить результат легко) для которых нейронки по сути единственный способ.
Чуток заметок
https://peps.python.org/pep-0661/
is_scalar = lambda x: isinstance(str) or not isinstance(
collections.Sequence)API у json модуля не очень - load/loads and dump/dumps
https://docs.astral.sh/ruff/rules/function-uses-loop-variable/
datetime модуль иногда ругают, есть пара альтернатив datetime (pendulum, arrow)
Одноэлементный tuple (2,) а не (2)
Стандартная функция urljoin это ловушка, лучше не юзать https://github.com/astral-sh/ruff/issues/14773
С текущим уровнем обмена проблем нет, только когда эпидемия надо чуток поизолироваться
малоэтажный город с кучей зелени и минимум машин это и есть парк, в него не надо ходить, в нём можно жить.
двс давно не шумят, колёса
Слишком много фокуса на изоляции и дезинфекции, скорее всего будут минусы для иммунитета. Это нужно только кагда режим эпидемии.
цифры надо проверять, идея не так плохо звучит, хотя 20 этажей это уныло, высотность должна быть человеческая, не выше 4-х этажей, иначе психологически давит и не порождает уютных дворов где кипит жизнь.
Я за кварталы с дворами.
это не совсем про город, вопрос политический, ну и это просто хотелка, за всё хорошее, надо хоть как-то решение очерчивать
просто много зелени должно быть, отдельный парки это не решение, как часто ты туда будешь ходить?