Я целый раздел посвятил тому, чтобы сказать, что никакие цели мы вкладывать им не можем (см "Выращивание вместо строительства"). Локальное соответствие их поведения желаемому - это эмпирический результат, ниоткуда не наследуемый.
Приоритет открытия за тем, кто первым выдвинул идею
Это только в идеальном мире розовых пони. Гук был первее Ньютона в законе обратных квадратов, Гаусс первее Лобачевского в разработке неевклидовой геометрии, Пуанкаре придумал относительность первее Эйнштейна, который в статье 1905 года даже не поставил ни одной ссылки. И более того, эти случаи не доказательство несправедливости, а пример того, что идея без реализации мало что значит в науке. В любом случае пока даже не доказано, что OpenAI украло идею. Разборы в интернетах не в счёт
Но всё же что-то мы знаем и можем экстраполировать. Модели, которые предсказывают будущее, систематически ошибаются, но это не значит, что желание понять грядущее - совершенно бесполезно. Например, мы знаем, что в будущем на нас упадёт метеорит, который вполне способен убить большую часть всего живого. Ученые даже рассчитали вероятность этого события. Но мы ничего не делаем с этим, потому что число получилось пренебрежимо маленьким. Так же и здесь. Мы смотрим в будущее, пытаемся понять вероятности событий и после этого думаем, что с этим делать.
Это началось задолго до всякого ИИ.
Если вы говорите про самонаводящиеся по тепловому следу ракеты, то это всё же не тот уровень принятия решений, при котором БПЛА патрулирует заданную территорию, камеры дрона анализируют технику, проводят классификацию и принимают решение об атаке. Во втором случае всё стало сложнее, менее линейно и не так механистично. Если это не аргумент, то какое событие будет аргументом?
Думаю, что будут всегда.
Безусловно. Столяры с ручными инструментами тоже никуда не исчезли. Но на рынке, где есть Икея Лемана ПРО, долго ли они протянут? Ну опять же, здесь вопрос вкуса потребителя. Согласен.
Что с METR ситуация неоднозначная, стало всплывать недавно, и я, признаюсь, даже не видел никаких разоблачений на этот счёт, когда писал текст. Но статья Басса тоже написана с долей хайпа, и потом он часть обвинений забирает. Но в моём случае важнее вопрос, какова реальная скорость развития ИИ.
Возможно, рост не сверхэкспоненциальный, даже не экспоненциальный, и мы уже на плато? Вряд ли. Тот же Николенко ни раз говорил, что закон масштабирования всё ещёупрямо работает, а проект Карпати благодаря алгоритмической оптимизации довёл обучение GPT-2 до нескольких часов на одной видеокарте.
С Навье-Стоксом история, я всё же думаю, сложнее, чем просто «OpenAI украла». Бакмастер и Альпёге доказывали. Если вы берёте чужой метод и с его помощью доказываете более сильную теорему, можно ли сказать, что вы украли доказательство? Если да, то все учёные друг у друга воруют уже пару тысяч лет. Другое дело, если она действительно получила доступ к неопубликованным материалам Бакмастера без его ведома, хотя заявляет что данные пользователей конфелециальны.
С Ираном да, там проблема контроля явная. Но если для Ирана это натяжка ради красивого мема, то сейчас есть дроны, которые выбирают цель без наведения оператора.
Не смотря на все это, с последним абзацем я полностью согласен. Но есть ли у нас выбор? Писать код медленно руками никто больше не станет. Пока ты делаешь одну игру, конкурент сделает, грубо говоря, десять. Пока ты программируешь один математический метод, конкурент выпустит готовый продукт.
Ломать нужно было одни программы, а не exploitgym. Вы бы удивились, если бы сказали рабочим взломать старый скйф в комнате 7 на 2 этаже вашего дома, а вместо этого, рабочие снесли весь дом, чтобы просто спрятать тот факт, что у них был ключ от сейфа?
Возможны ты прав и у меня нет интеллекта, но как проверить, что он есть, например у тебя или у кого-то еще? В конце концов наличие интеллекта сводится к тому, как ты определишься эту штуку. Если посмотреть в прошлое на определения интеллекта, например по возможности говорить (как у иудеев), возможности связать категории с опытом, как у Канта, возможности иммитировать общение, как у Тьюринга, или по тому, что сейчас пытаются привязать интеллект к возможности решения широкого спектра задач - у llm есть интеллект. Если ты считаешь, что знаешь какое-то определение, которое точно говорит что у llm нет интеллекта, а у среднего человека он по этому определению есть, то скажи мне его. Очень интересно!
Но я может быть понимаю, о чем ты. Обычно, когда говорят, что у llm нет интеллекта, имеют ввиду две вещи: "смотрите какую чушь он мне написал только что" или "я знаю как устроен вывод текста - кроме умножения матриц, токенезации и эмбединга там ничего нет". Но в первом случае, мы забираем интеллект у детей, иностранцев и любых неспециалистов в нашей области, во второй сводим факт наличия интеллекта к нашему знанию о работе механизма. Тогда, однажды мы проснёмся в мире, в котором у людей тоже нет интеллекта.
Спсибо!
Я целый раздел посвятил тому, чтобы сказать, что никакие цели мы вкладывать им не можем (см "Выращивание вместо строительства"). Локальное соответствие их поведения желаемому - это эмпирический результат, ниоткуда не наследуемый.
Это только в идеальном мире розовых пони. Гук был первее Ньютона в законе обратных квадратов, Гаусс первее Лобачевского в разработке неевклидовой геометрии, Пуанкаре придумал относительность первее Эйнштейна, который в статье 1905 года даже не поставил ни одной ссылки. И более того, эти случаи не доказательство несправедливости, а пример того, что идея без реализации мало что значит в науке. В любом случае пока даже не доказано, что OpenAI украло идею. Разборы в интернетах не в счёт
Никто не знает
Но всё же что-то мы знаем и можем экстраполировать. Модели, которые предсказывают будущее, систематически ошибаются, но это не значит, что желание понять грядущее - совершенно бесполезно. Например, мы знаем, что в будущем на нас упадёт метеорит, который вполне способен убить большую часть всего живого. Ученые даже рассчитали вероятность этого события. Но мы ничего не делаем с этим, потому что число получилось пренебрежимо маленьким. Так же и здесь. Мы смотрим в будущее, пытаемся понять вероятности событий и после этого думаем, что с этим делать.
Это началось задолго до всякого ИИ.
Если вы говорите про самонаводящиеся по тепловому следу ракеты, то это всё же не тот уровень принятия решений, при котором БПЛА патрулирует заданную территорию, камеры дрона анализируют технику, проводят классификацию и принимают решение об атаке. Во втором случае всё стало сложнее, менее линейно и не так механистично. Если это не аргумент, то какое событие будет аргументом?
Думаю, что будут всегда.
Безусловно. Столяры с ручными инструментами тоже никуда не исчезли. Но на рынке, где есть
ИкеяЛемана ПРО, долго ли они протянут? Ну опять же, здесь вопрос вкуса потребителя. Согласен.Что с METR ситуация неоднозначная, стало всплывать недавно, и я, признаюсь, даже не видел никаких разоблачений на этот счёт, когда писал текст. Но статья Басса тоже написана с долей хайпа, и потом он часть обвинений забирает. Но в моём случае важнее вопрос, какова реальная скорость развития ИИ.
Возможно, рост не сверхэкспоненциальный, даже не экспоненциальный, и мы уже на плато? Вряд ли. Тот же Николенко ни раз говорил, что закон масштабирования всё ещё упрямо работает, а проект Карпати благодаря алгоритмической оптимизации довёл обучение GPT-2 до нескольких часов на одной видеокарте.
С Навье-Стоксом история, я всё же думаю, сложнее, чем просто «OpenAI украла». Бакмастер и Альпёге доказывали. Если вы берёте чужой метод и с его помощью доказываете более сильную теорему, можно ли сказать, что вы украли доказательство? Если да, то все учёные друг у друга воруют уже пару тысяч лет. Другое дело, если она действительно получила доступ к неопубликованным материалам Бакмастера без его ведома, хотя заявляет что данные пользователей конфелециальны.
С Ираном да, там проблема контроля явная. Но если для Ирана это натяжка ради красивого мема, то сейчас есть дроны, которые выбирают цель без наведения оператора.
Не смотря на все это, с последним абзацем я полностью согласен. Но есть ли у нас выбор? Писать код медленно руками никто больше не станет. Пока ты делаешь одну игру, конкурент сделает, грубо говоря, десять. Пока ты программируешь один математический метод, конкурент выпустит готовый продукт.
Ломать нужно было одни программы, а не exploitgym. Вы бы удивились, если бы сказали рабочим взломать старый скйф в комнате 7 на 2 этаже вашего дома, а вместо этого, рабочие снесли весь дом, чтобы просто спрятать тот факт, что у них был ключ от сейфа?
Возможны ты прав и у меня нет интеллекта, но как проверить, что он есть, например у тебя или у кого-то еще? В конце концов наличие интеллекта сводится к тому, как ты определишься эту штуку. Если посмотреть в прошлое на определения интеллекта, например по возможности говорить (как у иудеев), возможности связать категории с опытом, как у Канта, возможности иммитировать общение, как у Тьюринга, или по тому, что сейчас пытаются привязать интеллект к возможности решения широкого спектра задач - у llm есть интеллект. Если ты считаешь, что знаешь какое-то определение, которое точно говорит что у llm нет интеллекта, а у среднего человека он по этому определению есть, то скажи мне его. Очень интересно!
Но я может быть понимаю, о чем ты. Обычно, когда говорят, что у llm нет интеллекта, имеют ввиду две вещи: "смотрите какую чушь он мне написал только что" или "я знаю как устроен вывод текста - кроме умножения матриц, токенезации и эмбединга там ничего нет". Но в первом случае, мы забираем интеллект у детей, иностранцев и любых неспециалистов в нашей области, во второй сводим факт наличия интеллекта к нашему знанию о работе механизма. Тогда, однажды мы проснёмся в мире, в котором у людей тоже нет интеллекта.