Спасибо, за прояснение ситуации. По статье сложилось иное мнение, и хорошо, что оно хотя бы отчасти ошибочное. Сложно не принимать ситуацию близко к сердцу, когда в жизни видишь печальные последствия.
прямо сейчас идет процесс
Степень справедливого наказания тех кто ответственен за этот процесс, вообще за пределами воображения.
Если все так, и по сути один человек, путем умышленного подлога, привел тому, что наука 30 лет "искала не там" - то я даже не знаю наказания которого он заслуживает.
За 30 лет от Паркинсона и Альцгеймера в мире умерло порядка 40 млн. человек.
Если бы, к середине этого срока, было, с вероятность 20%, найдено лекарство на 20% уменьшающее риск смерти, и его получили бы только 20% нуждающихся - это привело бы к тому что 80 000 человек не умерли бы...
Он один убил больше людей чем атомный взрыв в Хиросиме.
Думаю тут скорее прогресс будет в генерации стихов. Возможность итеративно подбирать рифмы может сильно повысить качество. Особенно если основу генерировать обычной LLM, а потом делать несколько шагов "улучшений"...
Простите, но "пользователи" - это люди. В этих 60 компаниях трудится половина населения планеты? Или вы пользователями называете строчки в табличке?
В целом статья хорошая, полезная. Но вот эта чехарда с миллиардами пользователей - все портит. Ощущение попытки э.. обмануть. Да еще с рекламой курса, тоже это очень плохо сочетается.
Глобально их задача не сделать модель которая сможет больше заработать на вендинге, и даже не создать максимально человечную модель. Цель - создать максимально полезную и безопасную модель. Не сделать ИИ-копией человека, а сделать его лучше чем человек.
Если учить модель, что кидать нельзя потому, что будут последствия - модель может также пытаться поступить с последствиями, например попробовать кинутых покупателей запугать или убить. Это вызовет новый виток эскалации, и так далее.
Пока, конечно, модель проиграет, но если эскалация будет в ее архитектуре то это может выйти боком после.
Цели у антропиков далекие, сделать когда-то в будущем модель которая ради повышения выручки кофейного автомата развяжет мировую войну - не очень с ними соотносится.
Попросил нарисовать физически достоверный взрыв сверхновой. Omni думала минут 5, потом написала, что лимит закончился. Видео так и не создано. Аккаунт Google AI Pro честно оплачиваемый.
Попробовал тот же промпт в той же модели в flow, получил полную хрень.
На этом эксперименты с omni завершил. Думал глюк, а оно вон как.
Зачем? И зачем вообще лезть в отрасль где без серьезных денег прост делать нечего.
Обучение, тесты/эксперименты, пет-проекты, обкатка без нагрузки до полноценного запуска, локальная разработка, DIY... просто любопытство, в конце концов.
В норме аспират пойдет минимум соавтором, а может и автором если профессор адекватный, а его доля пренебрежимо мала. ИИ даже соавтором пока не поставить.
Думаю тут лучше подойдет модель работы из археологии. Статья в стиле "Я тут нашел сгенерировал рассуждения древнего философамогущественной цивилизации кого то умного, вот мои рассуждения на тему корректности изложенного..."
Способ контроля интересный, но имеет явную проблему. Модели ничего не стоит придумать "кодовый язык" для текстовой интерпретации.
Условно: модель думает "о захвате мира", это имеет прямое отражение в матрице активации, анализируя оную модель называет это состояние "всечеловеческим благом", дальше та же модель превращает "всечеловеческое благо" - обратно в активации размышлений о захвате мира...
Отчасти это можно решить если использовать отдельную модель для переформулирования текста (типа рерайта) между "бутылочными горлышками". Так чтобы словестные конструкции были другие, но смысл тот же. Но даже это не защитит если модель выучит "кодовые концепции", типа "благо это вред, вред это благо"...
Обратите внимание, я не говорил, что выкладок не существует. Я говорил что в данной статье их нет.
В вашей статье они есть, но это мало меняет вывод. По сути статья выделяет проблемы: Масса, Охлаждение, Связь, Срок службы, Экономика
Отдельно можно вынести связь - статья по сути включает вариант названный C2, когда датацентр на орбите использует для связи существующую инфраструктуру орбитальной сети, только не делает логичное продолжение. Очевидно что уже имея Starlink на орбите датацентры будут в первую очередь встраиваться в эту систему становясь ИИ составляющей этот системы. Т.е. ставя на первое место другие варианты, такие как отдельная система "заземления" трафика и подсчитывая их экономику - автор решая проблему как попасть в дом первым делом предлагает разобрать крышу, а потом упоминает что еще есть незапертая дверь.
Остальные проблемы - по сути сводятся к экономике, главная статья расходов в которой - доставка груза на орбиту. И по текущим коммерческим ценам автор приходит к росту себестоимости в 3 раза (по минимальной его оценке). Что уже выглядит не фантастикой, а если взять себестоимость доставка старшипом (а даже Маск говорит что это необходимое условие) - то все может стать очень сильно реальнее.
если вы осилите
Попрошу на личности не переходить.
если Маск доделает Starship - ему нужны грузы, чтобы обеспечить рентабельность
Как ни парадоксально - но в логике Маска - так и есть.
Еще раз. Я не говорю, что это так. Я говорю что это так в логике заявлений и действий Маска.
Логика такая. Маск хочет колонизировать Марс (или построить базу на Луне, сделать ИИ к в космосе или еще что-то глобальное в космосе, не суть). Это его желание не зависит от того можно ли на этом заработать. Вот просто цель такая у человека. Неважно чем она вызвана, болезнью, безумием, жаждой славы или еще чем то, но он этого хочет и опыт показывает, что он возможно может этого добиться.
С этим можно спорить, но "за" работают два аргумента: 1 - он вложил все в ракеты имея минимальные шансы на успех, что являлось едва ли не худшей инвестицией из возможных (а он не похож на круглого идиота). 2 - имея сейчас больше всех денег он мог бы тупо расслабиться, он все равно их не потратит, но он продолжает действовать.
Таким образом, Маск по-любому хочет отправлять тысячи Starship в космос. Но если 90% деятельности SpaceX будет обслуживать тупо хотелки одного человека - что будет с его акциями? Кто поставит на долгосрочное выживание проекта если он завязан на не сильно рациональные желания одного человека? Поэтому Маску нужны коммерческие проекты связанные с доставкой больших объемов грузов в космос. пусть даже по себестоимости, но ему это нужно чтобы была поддержка, чтобы были разрешения, чтобы был политический вес и пр. Отправлять спутники по себестоимости, и даже ниже - рентабельно, если учесть косвенные бенефиты, а не тупо цифру в счете.
Кроме того, нужно учитывать, что датацентр на земле и датацентр в космосе могут иметь ооочень разную стоимость. Космический датацентр может за один день поменять "гражданство" - оказаться собственностью компании в другой стране где ограничений ИИ меньше. В такой датацентр не придут дяди и не конфискуют серверы если ты будешь себя не так вести. И так далее.
это тот самый Маск? который недавно сообщил, что антропоморфные роботы все будут делать вместо людей и деньги отменят, да?
А вы имеете доказательства противоположного? У него есть свое мнение, как у любого.
Пока "доказательства" звучат в стиле "потому что так всегда было" - это скорее напоминает список "вы находитесь здесь".
если он что-то говорит, то это не значит, что он "стремится".
Вы возможно не знаете, но упомянутое мной IMHO - это In My Humble Opinion вы же не откажите мне в этом праве?
что человек делает, а не говорит
А вот это ключевое. Предлагаю на это и опираться - не смотреть, что он говорит, а смотреть, что уже сделал, и подумать может это что-то да значит?:
Сделал многоразовые орбитальные ракеты практической нормой
Резко ускорил переход автопрома к электромобилям
Построил крупнейшую спутниковую интернет-сеть в истории
Вернул США собственные пилотируемые запуски и сделал их коммерческими
Довёл нейроинтерфейсы Neuralink до испытаний на людях
Вопрос только в том стоит ли давать почитать такую поверхностную статью? Автор никаких конкретных выкладок не привел, вся статья - только повторяет известные штампы, без попытки из осмыслить и хотя бы попытаться опровергнуть. Может автор и прав, но как он об этом узнал если не попробует себя оспорить?
Практически все его "непреодолимые" преграды имеют очевидные пути обхода или минимизации:
Охлаждение требует больших рассеивателей? - за солнечной батареей можно спрятать рассеиватель в десятки раз больше по площади - этого хватит за глаза.
Ошибки от излучения? - ИИ модели это не софт управления спутником, требования по надежности несопоставимы. А ошибки в отдельных ячейках памяти в абсолютном большинстве случаев фактически не повлияют на результат...
Требования по массе/площади/числу спутников - все это преграды из прошлого ну и частично настоящего, но если Маск доделает Starship - ему нужны грузы, чтобы обеспечить рентабельность...
И самый важные момент на мой взгляд вообще не из области техники или даже экономики. Он из области бюрократии. По моему мнению, Маск реально рассчитывает стоить бизнес в условиях приближения к технологической сингулярности (а может и после). Он понимает, для выполнения своих планов - он должен наращивать мощности с такой скоростью которую ему никогда не достичь если он будет от кого-то зависеть. Он просто не хочет бегать по штатам и выпрашивать электростанции, или строить датацентры в других странах, а потом натыкаться на "экологические риски" когда очередному "всенародноизбранному" захочется "справедливойкомпенсации"... У него есть шанс оказаться за пределами досягаемости всех мелких царьков - в космосе, на Луне, на Марсе... И глубоко неважно насколько это все экономически оправдано, если это вообще возможно - IMHO, он будет к этому стремиться.
"Заказать столик в ресторане" - это уже какая-то навязчивая идея, она буквально в каждой статье о пользе ИИ... Я фанат прогресса в области LLM, но неужели это единственное, что приходит в голову авторам? Насколько часто среднему человеку на планете вообще нужно заказать столик? Так вообще хоть кто-то делает? Я вот ни разу в жизни не бронировал столик, мне ИИ-смартфон не положен, да?
300-400 млн в год, это же значит они должны быть буквально везде!.. Может стоит вначале выйти на улицу и посмотреть как люди используют смартфоны? А вдруг окажется, что сказать своему телефону чтобы он забронировал столик, чтобы телефон сказал менеджеру ресторана чтобы тот забронировал столик - не единственная их функция?? Ну а вдруг, а?..
Просто интересно, а почему почти на всех скринах всего по 5-10 оценок приложения пользователями?
Спасибо, за прояснение ситуации. По статье сложилось иное мнение, и хорошо, что оно хотя бы отчасти ошибочное. Сложно не принимать ситуацию близко к сердцу, когда в жизни видишь печальные последствия.
Степень справедливого наказания тех кто ответственен за этот процесс, вообще за пределами воображения.
Если все так, и по сути один человек, путем умышленного подлога, привел тому, что наука 30 лет "искала не там" - то я даже не знаю наказания которого он заслуживает.
За 30 лет от Паркинсона и Альцгеймера в мире умерло порядка 40 млн. человек.
Если бы, к середине этого срока, было, с вероятность 20%, найдено лекарство на 20% уменьшающее риск смерти, и его получили бы только 20% нуждающихся - это привело бы к тому что 80 000 человек не умерли бы...
Он один убил больше людей чем атомный взрыв в Хиросиме.
Думаю тут скорее прогресс будет в генерации стихов. Возможность итеративно подбирать рифмы может сильно повысить качество. Особенно если основу генерировать обычной LLM, а потом делать несколько шагов "улучшений"...
Интересно попробовать ее доучить на стихах.
PayOnline?
Простите, но "пользователи" - это люди. В этих 60 компаниях трудится половина населения планеты? Или вы пользователями называете строчки в табличке?
В целом статья хорошая, полезная. Но вот эта чехарда с миллиардами пользователей - все портит. Ощущение попытки э.. обмануть. Да еще с рекламой курса, тоже это очень плохо сочетается.
Продукт на 4 миллиардов пользователей, и при этом "из за санкций, я не мог использовать Jira" - вероятно российский? Прямо теряюсь в догадках...
Может это РКН? Если считать пользователями все заблокированные попытки - примерно столько и получится))
Шутка. Ну, я надеюсь.
Глобально их задача не сделать модель которая сможет больше заработать на вендинге, и даже не создать максимально человечную модель. Цель - создать максимально полезную и безопасную модель. Не сделать ИИ-копией человека, а сделать его лучше чем человек.
Если учить модель, что кидать нельзя потому, что будут последствия - модель может также пытаться поступить с последствиями, например попробовать кинутых покупателей запугать или убить. Это вызовет новый виток эскалации, и так далее.
Пока, конечно, модель проиграет, но если эскалация будет в ее архитектуре то это может выйти боком после.
Цели у антропиков далекие, сделать когда-то в будущем модель которая ради повышения выручки кофейного автомата развяжет мировую войну - не очень с ними соотносится.
Забавно, что у меня точно такой же опыт.
Попросил нарисовать физически достоверный взрыв сверхновой. Omni думала минут 5, потом написала, что лимит закончился. Видео так и не создано. Аккаунт Google AI Pro честно оплачиваемый.
Попробовал тот же промпт в той же модели в flow, получил полную хрень.
На этом эксперименты с omni завершил. Думал глюк, а оно вон как.
:)
Хотел написать, что в статье на IT ресурсе в 26-м году не хватает только раздела "зачем нужны нейросети", но у вас он есть))
Серьезно - не надо так на Хабре писать, тут люди в курсе. Правда.
Всю статью можно уместить в "Мы сделали прокси для API AI сервисов, цены x3 от провайдерских".
Вероятнее всего минусят за имя. Новости об Андрее Карпати на хабре многих достали.
Обучение, тесты/эксперименты, пет-проекты, обкатка без нагрузки до полноценного запуска, локальная разработка, DIY... просто любопытство, в конце концов.
В норме аспират пойдет минимум соавтором, а может и автором если профессор адекватный, а его доля пренебрежимо мала. ИИ даже соавтором пока не поставить.
Думаю тут лучше подойдет модель работы из археологии. Статья в стиле "Я тут
нашелсгенерировал рассуждениядревнего философамогущественной цивилизациикого то умного, вот мои рассуждения на тему корректности изложенного..."Способ контроля интересный, но имеет явную проблему. Модели ничего не стоит придумать "кодовый язык" для текстовой интерпретации.
Условно: модель думает "о захвате мира", это имеет прямое отражение в матрице активации, анализируя оную модель называет это состояние "всечеловеческим благом", дальше та же модель превращает "всечеловеческое благо" - обратно в активации размышлений о захвате мира...
Отчасти это можно решить если использовать отдельную модель для переформулирования текста (типа рерайта) между "бутылочными горлышками". Так чтобы словестные конструкции были другие, но смысл тот же. Но даже это не защитит если модель выучит "кодовые концепции", типа "благо это вред, вред это благо"...
Так что все далеко не так просто.
Обратите внимание, я не говорил, что выкладок не существует. Я говорил что в данной статье их нет.
В вашей статье они есть, но это мало меняет вывод. По сути статья выделяет проблемы: Масса, Охлаждение, Связь, Срок службы, Экономика
Отдельно можно вынести связь - статья по сути включает вариант названный C2, когда датацентр на орбите использует для связи существующую инфраструктуру орбитальной сети, только не делает логичное продолжение. Очевидно что уже имея Starlink на орбите датацентры будут в первую очередь встраиваться в эту систему становясь ИИ составляющей этот системы. Т.е. ставя на первое место другие варианты, такие как отдельная система "заземления" трафика и подсчитывая их экономику - автор решая проблему как попасть в дом первым делом предлагает разобрать крышу, а потом упоминает что еще есть незапертая дверь.
Остальные проблемы - по сути сводятся к экономике, главная статья расходов в которой - доставка груза на орбиту. И по текущим коммерческим ценам автор приходит к росту себестоимости в 3 раза (по минимальной его оценке). Что уже выглядит не фантастикой, а если взять себестоимость доставка старшипом (а даже Маск говорит что это необходимое условие) - то все может стать очень сильно реальнее.
Попрошу на личности не переходить.
Как ни парадоксально - но в логике Маска - так и есть.
Еще раз. Я не говорю, что это так. Я говорю что это так в логике заявлений и действий Маска.
Логика такая. Маск хочет колонизировать Марс (или построить базу на Луне, сделать ИИ к в космосе или еще что-то глобальное в космосе, не суть). Это его желание не зависит от того можно ли на этом заработать. Вот просто цель такая у человека. Неважно чем она вызвана, болезнью, безумием, жаждой славы или еще чем то, но он этого хочет и опыт показывает, что он возможно может этого добиться.
С этим можно спорить, но "за" работают два аргумента: 1 - он вложил все в ракеты имея минимальные шансы на успех, что являлось едва ли не худшей инвестицией из возможных (а он не похож на круглого идиота). 2 - имея сейчас больше всех денег он мог бы тупо расслабиться, он все равно их не потратит, но он продолжает действовать.
Таким образом, Маск по-любому хочет отправлять тысячи Starship в космос. Но если 90% деятельности SpaceX будет обслуживать тупо хотелки одного человека - что будет с его акциями? Кто поставит на долгосрочное выживание проекта если он завязан на не сильно рациональные желания одного человека? Поэтому Маску нужны коммерческие проекты связанные с доставкой больших объемов грузов в космос. пусть даже по себестоимости, но ему это нужно чтобы была поддержка, чтобы были разрешения, чтобы был политический вес и пр. Отправлять спутники по себестоимости, и даже ниже - рентабельно, если учесть косвенные бенефиты, а не тупо цифру в счете.
Кроме того, нужно учитывать, что датацентр на земле и датацентр в космосе могут иметь ооочень разную стоимость. Космический датацентр может за один день поменять "гражданство" - оказаться собственностью компании в другой стране где ограничений ИИ меньше. В такой датацентр не придут дяди и не конфискуют серверы если ты будешь себя не так вести. И так далее.
А вы имеете доказательства противоположного? У него есть свое мнение, как у любого.
Пока "доказательства" звучат в стиле "потому что так всегда было" - это скорее напоминает список "вы находитесь здесь".
Вы возможно не знаете, но упомянутое мной IMHO - это In My Humble Opinion вы же не откажите мне в этом праве?
А вот это ключевое. Предлагаю на это и опираться - не смотреть, что он говорит, а смотреть, что уже сделал, и подумать может это что-то да значит?:
Сделал многоразовые орбитальные ракеты практической нормой
Резко ускорил переход автопрома к электромобилям
Построил крупнейшую спутниковую интернет-сеть в истории
Вернул США собственные пилотируемые запуски и сделал их коммерческими
Довёл нейроинтерфейсы Neuralink до испытаний на людях
Вопрос только в том стоит ли давать почитать такую поверхностную статью? Автор никаких конкретных выкладок не привел, вся статья - только повторяет известные штампы, без попытки из осмыслить и хотя бы попытаться опровергнуть. Может автор и прав, но как он об этом узнал если не попробует себя оспорить?
Практически все его "непреодолимые" преграды имеют очевидные пути обхода или минимизации:
Охлаждение требует больших рассеивателей? - за солнечной батареей можно спрятать рассеиватель в десятки раз больше по площади - этого хватит за глаза.
Ошибки от излучения? - ИИ модели это не софт управления спутником, требования по надежности несопоставимы. А ошибки в отдельных ячейках памяти в абсолютном большинстве случаев фактически не повлияют на результат...
Требования по массе/площади/числу спутников - все это преграды из прошлого ну и частично настоящего, но если Маск доделает Starship - ему нужны грузы, чтобы обеспечить рентабельность...
И самый важные момент на мой взгляд вообще не из области техники или даже экономики. Он из области бюрократии. По моему мнению, Маск реально рассчитывает стоить бизнес в условиях приближения к технологической сингулярности (а может и после). Он понимает, для выполнения своих планов - он должен наращивать мощности с такой скоростью которую ему никогда не достичь если он будет от кого-то зависеть. Он просто не хочет бегать по штатам и выпрашивать электростанции, или строить датацентры в других странах, а потом натыкаться на "экологические риски" когда очередному "всенародноизбранному" захочется "справедливойкомпенсации"... У него есть шанс оказаться за пределами досягаемости всех мелких царьков - в космосе, на Луне, на Марсе... И глубоко неважно насколько это все экономически оправдано, если это вообще возможно - IMHO, он будет к этому стремиться.
ИИ выдал афоризм, не могу не поделиться:
"Заказать столик в ресторане" - это уже какая-то навязчивая идея, она буквально в каждой статье о пользе ИИ... Я фанат прогресса в области LLM, но неужели это единственное, что приходит в голову авторам? Насколько часто среднему человеку на планете вообще нужно заказать столик? Так вообще хоть кто-то делает? Я вот ни разу в жизни не бронировал столик, мне ИИ-смартфон не положен, да?
300-400 млн в год, это же значит они должны быть буквально везде!.. Может стоит вначале выйти на улицу и посмотреть как люди используют смартфоны? А вдруг окажется, что сказать своему телефону чтобы он забронировал столик, чтобы телефон сказал менеджеру ресторана чтобы тот забронировал столик - не единственная их функция?? Ну а вдруг, а?..
Задал пример чему равно: "десять на четыре" и "десять на-два"
Большинство отвечает, что первый пример 40 а второй 5 :)