Comments 39
<q> следующее поколение систем искусственного интеллекта сможет самостоятельно выполнять задачи без участия человека </q>
А зачем? Зачем заменитель человека?
<q> "Если представить, что каждый ученик получает индивидуальное обучение, созданное специально для него, а также другие возможности для обучения", - это очень важно. </q>
С чего бы это? Тезис странный.
<q> "Если ИИ поможет нам изобрести новые вещи, лечить болезни, придумать лучшие источники энергии, это будет огромной победой" </q>
Победой для кого? А если промахнется и создаст НОВЫЕ болезни и опасные источники? Ему то радиация, к примеру не страшна. А вот нам, хюманам да.
Эта кучка ненормальных ученых и инженеров с самозабвением выпиливающее человека и, наверное, думающих, что их это не коснется?
Сжечь их!
В средневековье и чуть позже подобным образом думали об учёных, на работах которых базируется наша наука. Где гарантия, что мы не то средневековье, про которое будут думать люди будущего? Так же зачем смотреть категорично и только на плохую сторону, а сколько всего хорошего может все это дать; и то, и то нужно равноценно оценивать.
Вы случаем шапочку из фольги не носите?
Главное, чтобы он не посчитал болезнью кожаность мясных мешков, или их уровень интеллекта.
То, что для вас - болезнь, для других - жизнь. Для вирусов, бактерий. Вы для них - корм и питательная среда. Стоит только забыть об эгоцентризме и особенно об антропоцентризме и всё становится на свои места. Есть просто жизнь - процессы взаимодействия разных форм белковой жизни в рамках того, что мы называем естественным отбором. Тут примечательно то, что носитель ИИ белковой формой жизни не является, но ей порождён, так же как и органическая материя порождена неорганическими соединениями.
Здесь можно задуматься: органическая материя не отменила и не заменила собой неорганическую, но её использует и вообще-то без неё жить не может. Использует её не спрашивая у гор - можно их сравнивать с землёй или нет, можно ли копать уголь или нет.
То же самое, вполне вероятно, будет делать ИИ, обретший интерфейсы для физического взаимодействия со средой, но уже по отношению к своему первоисточнику - использовать его по своему усмотрению. И как ты не противься, ты всё равно будешь не больше протестующего камешка перед шагающим экскаватором.
Если абстрагироваться от того, возможно ли добиться описанного в статье (качественно новых "думающих" систем машинного обучения), то я вижу тут очевидный риск во внедрении таких систем для автоматизации.
Далеко ходить не надо - достаточно погуглить инциденты с ИИ на биржах
Во-первых это не ожидаемое поведение, что в критичных, например, инфраструктурных системах, может быть попросту опасным.
Во-вторых это ворох новых векторов атаки по ИБ. Ну вот взять даже теслу. Кто гарантирует, что не случится инцидент ИБ, который вынудит выехать на встречку машину какого-нибудь Илона Маска, чисто чтобы занять его кресло или обнулить ключевых сотрудников конкурента по бизнесу или политике? или что будет корректно работать система scada, управляемая ИИ на какой-нибудь тэц?
Я не являюсь ИИ фобом, но, очевидно, нужны четкие меры по обеспечению безопасности таких систем или систем куда оно будет интегрироваться
Особенно "весело" будет противостоять (обеспечивать безопасность), когда оно разовьется и станет умнее самых умных людей.
нужны четкие меры по обеспечению безопасности таких систем или систем куда оно будет интегрироваться
Практически любая сложная разработка в каждой области является, прежде всего, разработкой оружия, а затем гражданское применение. В разработке вакцин, например - это вообще единый процесс. ИИ (кто бы и что бы под этим не понимал) таже вид вооружений.
Есть ли модель, обученная ГОСТ? Включая ГОСТ Р 57580.3-2022 и ГОСТ Р 57580.4-2022?
Это облегчило бы работу методологам.
А если нет, то мы банкроты.
Ждём, когда бог из машины скажет всему миру : 42
Конечно хорошо если так и будет, но следует учитывать что данный персонаж изрекает подобные утверждения исключительно ради того чтобы дали денег, поэтому чем ближе его речи к разглагольствованию Остапа Бендера в шахматном клубе тем больше денег дадут, но его слова по факту ничем не подкреплены.
слова по факту ничем не подкреплены
Инвесторы не дураки, чтобы нести деньги только за слова.
Слова подкреплены имеющимися и расширяющимися мощностями ДЦ, исследованиями по росту эффективности моделей при масштабировании - пока не видно даже выхода на плато, да даже текущими результатами компании как доминирующей на ИИ рынке - и по метрикам моделей и по охвату аудитории (здесь более авторитетной свежей статистики не нашел).
пока не видно даже выхода на плато
Есть еще одна вещь которой тоже пока не видно - это полезного результата от работы моделей. Только писанина тупых статей да генерация однообразных картинок. Ну надеюсь не зря он языком шлепает, и когда то вместо хайповой игрушки практическая польза таки появится. Хотя когда оно начнет обучаться на своих же результатах (а при столь интенсивном засорении интернета сгенерированным материалом это неизбежно) то получится печалька
Инвесторы не дураки, чтобы нести деньги только за слова.
Заносят не за слова а за хайп - главное же вовремя выйти забрав куш
Кодинг, медицина, образование, обработка данных и прочие сферы не польза?
Если к конкретным примерам - Амазон обновил легаси код своих приложений за пару недель с 8/11 java до 17 через свой ИИ Amazon Q - по их подсчетам у людей бы на это ушло 4500 лет.
Если это не "полезный результат" - напишите, что для вас будет являться таковым и вернемся к вашему комментарию, когда ИИ это реализует.
Кодинг, медицина, образование, обработка данных и прочие сферы не польза?
Польза конечно, только пока что ни с чем из этого оно не справляется, когда будет тогда будет и польза.
Если к конкретным примерам - Амазон обновил легаси код своих приложений за пару недель с 8/11 java до 17 через свой ИИ Amazon Q - по их подсчетам у людей бы на это ушло 4500 лет.
4500 лет на то что на 90% состоит из банального Find All and Replace? И это конечно же не реклама их собственного продукта ни разу. Вот когда какой-н банк свое легаси так порефакторит и оно работать будет не хуже чем было, тогда да, можно будет говорить о том что это работает.
только пока что ни с чем из этого оно не справляется
Ваш критерий полезности и справляемости - автономное выполнение верхнеуровневых задач? Т.е. когда ИИ полностью сам сможет писать приложения и тп, пользу в качестве ИИ-помощника, сокращающего затраты не учитываем?
В таком случае подождем AGI, ок.
В цифрах амазона очевидно есть маркетинговая составляющая, но и сводить всю работу к нулю достаточно странно.
Я лично вчера за пару часов переписал индексацию данных на многопоточность с o1-preview, не открывая документации по библиотекам, без ИИ я бы на это потратил в разы больше времени, при этом стоимость одного часа покрывает месячную платную подписку на chatGPT.
Пускай пока глобального влияния на человечество или экономику не видно - странно отрицать, что его совсем нет и не будет - подождем еще немного.
Ваш критерий полезности и справляемости - автономное выполнение верхнеуровневых задач?
Мой критерий это хотя бы чтобы не надо было полностью вручную перепроверять все что оно там наколбасило.
Кмк это было актуально во времена ChatGPT-3.5 и ранних 4 версий, начиная с 4o (ну и Claude Sonnet 3.5, если возьмем альтернативы) - все более чем хорошо.
На мой взгляд полезность достигается, если время на успешное выполнение задачи с ИИ меньше (в идеале в разы), чем без оного, а на моем опыте это уже так.
На мой взгляд полезность достигается, если время на успешное выполнение задачи с ИИ меньше (в идеале в разы), чем без оного, а на моем опыте это уже так.
У вас критерий успешности выполнения задачи это "программа компилируется + программа запускается" здесь и сейчас, а дальше хоть трава не расти? А вы всегда уверены что сгенерированный код написан с учетом потенциальных проблем производительности? Что его легко модифицировать и масштабировать? Легко ли искать в нем ошибки?
Не, всякий monkeyjob вроде сложных автозамен ему конечно доверить можно, но что это за работа где это является большей частью процесса?
А я не отрицал необходимость в ревью написанного кода - но его сделать на порядок быстрее, чем написать тот же код.
И да, ИИ уже пишет достаточно качественный код, чтобы проходить мои критерии ревью, а если нет - вносит фиксы по замечаниям также быстрее человека, даже с учётом необходимости в формулировании задачи и копирования кода между чатом и файлами - экономия времени (а как следствие польза) для меня очевидна.
Кроме того, это прекрасно работает и в обратную сторону - ии ревьюит код людей. Осталось дождаться повсеместного внедрения в существующие инструменты на должном уровне (гитлабе, ide, etc) - то что уже есть не слишком удобно для массового потребителя.
А я не отрицал необходимость в ревью написанного кода - но его сделать на порядок быстрее, чем написать тот же код.
И да, ИИ уже пишет достаточно качественный код, чтобы проходить мои критерии ревью, а если нет - вносит фиксы по замечаниям также быстрее человека, даже с учётом необходимости в формулировании задачи и копирования кода между чатом и файлами - экономия времени (а как следствие польза) для меня очевидна.
Это все справедливо только для небольших кусочков автономного кода, хелловорлдов иными словами. Попробуйте встроить что то в логику большого проекта, да там одни только промты строчить дольше чем код придется
Я писал выше про многопоточность - описание задачи уложилось в предоставление файла с сервисом и указания, что я хочу многопоточность на symfony/process, с 1 раза мне o1 переписал сервис, создал отдельный комманд, даже написал как изменить метод в репозитории, хотя я ему этот код не давал вообще.
Да, конкретно в этой задаче основная логика лежала в одном классе и все вышло просто, но уже давно есть copilot, который держит контекст по открытым файлам и понимает их, осталось дождаться либо моделей с большим контекстом, чтобы грузить в него весь проект (что маловероятно), либо интегрированного RAG в IDE, который будет предоставлять моделям все необходимое и самостоятельно вносить правки.
В любом случае, не разделяю вашего скепсиса и тем более тезиса об отсутствии пользы ИИ)
Инвесторы не дураки, чтобы нести деньги только за слова.
NFT
Инвестор несет деньги туда, где видит шанс заработать, на NFT многим удалось это сделать)
Я больше имел ввиду альтернативные вложения в ИИ-стартапы или конкурентов, т.к. наибольшее преимущество получит тот, кто первым получит продвинутую модель и у кого будет больше мощностей для ее обучения и работы, по этим критериям OpenAI отлично проходит (что не отменяет диверсификации).
Наибольшее преимущество всегда получает тот кто лучше пропихивает свой продукт, потому что пользователи понесут свои деньги к тому кто на каждом углу на слуху. Иногда это совпадает с первенством в техническом плане, как в данном случае например, а иногда нет, связь тут как между количеством пиратов и глобальным потеплением. А впарить людям даже самое корявое и убогое поделие можно, фейсбук тому пример
на NFT многим удалось это сделать
кот Базилио и лиса Алиса тоже убедили доверчивого Буратино, что нужно посадить деньги в ямку. Но можно ли считать доставшиеся им деньги заработком?
Убеждение доверчивых и/или глупеньких "вложиться" != заработок.
NFT хайп был разводиловом глупеньких, не более.
Инвестор несет деньги туда, где видит шанс заработать
В большинстве случаев "инвесторов" убеждают, что "тема стоящая", "профи одобряют", "если бы вложились ранее, то заработок был бы уже воооот такой" и прочее. А "инвестор" на самом деле потом теряет.
Хорошо про убеждение и втюхивание "инвесторам" показано в фильмах:
"Бойлерная (2000)"
"Гленгарри Глен Росс (Американцы) (1992)"
"Волк с Уолл-стрит", куда уж без этого эпического биографического фильма.
Обман доверчивых - это не заработок, обман - это обман.
Ок, тут можно еще приводить аргументы, но все сведется к тому, что только время покажет куда вложиться было выгоднее, а многие факты/фин отчеты и исследования, которые мы имеем могут оказаться искаженными.
Но лично я все же верю в перспективы ИИ, жаль техническую возможность сделать даже минимальный вклад отключили.
Все это здорово и перспективно, до тех пор пока не начнет применяться против неугодных стран в военном деле. Как тот же Старлинк
Само собой
Сэм Альтман: «ИИ следующего поколения будет способен изобретать прорывные технологии и лечить болезни»