Хабр Курсы для всех
РЕКЛАМА
Практикум, Хекслет, SkyPro, авторские курсы — собрали всех и попросили скидки. Осталось выбрать!
Поток AI и ML доступен 24/7 благодаря поддержке друзей Хабра
Комментарии 47
Около 80% задач в экономике второй половины XIX века сейчас выполняют комбайн и трактор. Хотелось бы больше определённости относительно этих самых задач.
Понятно. Ждём следущий занимательной статистики от Альмана
Вот перевод одной из llm, там намного больше интересного чем в заметке:
ВЕЛЬТ: Сэм, какое качество в тебе искусственный интеллект никогда не сможет заменить?
Сэм Альтман: Наверное, мы это узнаем только со временем. Но то, что действительно уникально — это то, насколько люди заботятся друг о друге и о том, чем они занимаются, насколько сильно люди хотят взаимодействовать именно с другими людьми.
Я думаю, эти качества станут всё более важными в мире ИИ. У нас будет невероятный инструмент в руках, но нам всё равно придётся решать, что делать, чего хотят другие люди и что окажется для них полезным.
Искусственный интеллект развивается стремительно. Когда, по-вашему, появится суперинтеллект, превосходящий людей по всем параметрам?
Во многих смыслах GPT-5 уже умнее меня — и, думаю, многих других людей тоже.
GPT-5 способен делать невероятные вещи, которые многим кажутся впечатляющими. Но при этом он до сих пор не может выполнить многое из того, что легко даётся человеку.
Так будет продолжаться ещё какое-то время, пока люди используют эти инструменты и применяют собственное человеческое понимание, креативность и изобретательность в действительно важных делах. Однако я ожидаю, что траектория роста возможностей ИИ останется чрезвычайно крутой.
Всего за три года с момента запуска ChatGPT модели стали гораздо мощнее. И я не вижу признаков замедления этого прогресса. Через пару лет станет вполне реалистичным, что ИИ сможет делать научные открытия, которые люди не смогли бы совершить в одиночку. Для меня это уже будет ощущаться как нечто, что можно по-настоящему назвать суперинтеллектом.
Можно ли назвать конкретный год, когда, по вашему мнению, такой суперинтеллект появится?
Я бы точно сказал, что к концу этого десятилетия — к 2030 году — если у нас не будет чрезвычайно мощных моделей, способных делать то, что мы сами не можем, я был бы очень удивлён.
Также, если в 2026 году мы не увидим темпов прогресса, сопоставимых с теми, что наблюдались в 2024 и 2025 годах, я тоже удивлюсь. Это означает, что к концу 2026 года я ожидаю появления моделей, которые, будь они у нас сегодня, сильно нас поразили бы.
Какой процент сегодняшних рабочих мест может исчезнуть в обозримом будущем?
Подумайте о профессиях, которые существовали 30 лет назад, но сегодня полностью исчезли, или о новых профессиях, которые было трудно представить 30 лет назад, но которые сейчас стали обыденными.
Я читал статистику, согласно которой примерно половина всех рабочих мест в обществе меняется каждые 75 лет — и это даже без учёта ИИ. Сейчас этот процесс, вероятно, ускорится.
Мне кажется полезным думать не о проценте исчезнувших профессий, а о задачах. Во многих профессиях значительная часть того, что составляет суть работы, изменится. Конечно, появятся совершенно новые профессии, а многие существующие исчезнут и будут заменены новыми.
Но интереснее другое: какой процент ежедневных задач каждого человека будет выполняться ИИ? Я легко представляю мир, в котором 30–40% задач, выполняемых в экономике сегодня, будут решаться ИИ в недалёком будущем.
В этом году вы стали отцом. Какое образование вы посоветуете своему сыну, чтобы его профессия не оказалась заменена ИИ через 30 лет?
Мета-навык — умение учиться, адаптироваться и быть устойчивым к переменам. Ранее я уже упоминал: важно научиться понимать, чего хотят люди, как создавать для них полезные продукты и услуги и как взаимодействовать с миром.
Я уверен, что люди останутся центром внимания друг для друга. Всё, что связано с этим, будет великолепно. Я также уверен, что человеческое стремление к новому, желание быть полезным другим и выражать свою креативность безграничны.
Люди справедливо задаются вопросом: «Чем мы будем заниматься?» — как это было во времена промышленной революции, когда машины начали делать то, что раньше делали люди.
Каждое новое поколение использует свою креативность, новые идеи и все инструменты, созданные предыдущим поколением, чтобы удивлять нас. Я уверен, что мои дети сделают то же самое.
Вы звучите очень оптимистично, но есть и критики ИИ. Например, исследователь Элиезер Юдковский утверждает, что отношения между суперинтеллектом и людьми будут примерно такими же, как между людьми и муравьями. Боитесь ли вы, что ИИ в итоге будет воспринимать нас как муравьёв и просто уничтожит?
Я слышал множество разных взглядов на то, какими могут быть отношения между ИИ и человечеством.
Мне больше всего нравится та версия, которую однажды озвучил мой соучредитель Илья Суцкевер: он надеялся, что искусственный общий интеллект (ИОИ) будет относиться к человечеству как любящий родитель. Задавая этот вопрос, мы в некотором смысле приписываем ИИ человеческие черты.
Я верю, что этот инструмент будет невероятно мощным. Даже если у него не будет намерений как таковых, его действия по нашей просьбе могут повлечь последствия, которые мы не до конца понимаем. Поэтому крайне важно выровнять его по человеческим ценностям. Я не думаю, что он будет относиться к людям как к муравьям.
Критики обвиняют вас в том, что вы превратили OpenAI из некоммерческой организации в коммерческое предприятие и в процессе отчасти проигнорировали риски безопасности. Согласны ли вы с этой критикой? Или вы считаете, что иногда нужно просто двигаться вперёд, чтобы добиться прогресса?
Прежде всего, у нас по-прежнему есть некоммерческая организация, и она останется навсегда. Мы надеемся, что это будет самая хорошо финансируемая и, надеюсь, самая влиятельная некоммерческая организация в истории. Это очень важно для нашей миссии.
Роль её в управлении также критически важна: она гарантирует, что мы остаёмся верны нашей миссии и ставим безопасность, благополучие и максимальную пользу для человечества на первое место.
Мы, конечно, совершали ошибки — и понимаем, что с появлением таких новых технологий будем совершать их и в будущем. Но в целом я чрезвычайно горжусь тем, как наша команда справляется с задачей создания безопасных, полезных и широко доступных сервисов.
Одна из наших ключевых убеждённостей: если мы создадим этот инструмент, выровняем его по человеческим ценностям и передадим людям, позволив им проявить всё, что они хотят с ним делать, — это пойдёт на пользу миру и полностью соответствует нашей миссии.
Мир с интересом следит за вашими аппаратными разработками. Вы наняли дизайнера из Apple. Можно предположить, что устройство будет выглядеть отлично, но что оно будет делать?
Оно точно будет хорошо выглядеть.
За всю историю компьютеров произошло две большие революции в способах взаимодействия: первая — появление мыши, клавиатуры и оконного интерфейса на мониторе; вторая — сенсорные устройства, где мышь заменили пальцем, сделав компьютер по-настоящему личным. Это был огромный шаг.
Но мы никогда раньше не имели ничего настолько мощного, как ИИ. Компьютеры теперь действительно могут понимать, чего мы хотим, могут думать — и это позволяет нам переосмыслить само понятие «использования компьютера». Мы всё ещё находимся в стадии исследований. Это займёт время — не ждите чего-то немедленно.
Но со временем, я думаю, мы создадим небольшую линейку устройств. Они будут выглядеть отлично — конечно, но это не главное. Я надеюсь, что если мы проделаем действительно отличную работу, эти устройства изменят то, что значит «пользоваться компьютером», как вы работаете, играете и живёте. Но между нами и этим будущим ещё много работы и исследований.
Можете привести пример одной функции или возможности, которую могло бы иметь такое устройство?
Сейчас, если вы хотите выполнить задачу на компьютере, вам приходится щёлкать мышью и переключаться между множеством приложений. Если задача сложная, это может занять много времени.
Одно из обещаний ИИ — возможность сказать компьютеру что-то сложное, что должно произойти в течение дня, месяца или даже года, и просто довериться, что он поймёт, выполнит это и вернётся к вам, когда потребуется помощь.
Представьте: вы задаёте компьютеру очень тонкий и сложный, но краткий запрос — и просто доверяете, что он сделает всё правильно и свяжется с вами, когда понадобится. Это полностью изменит ощущение от работы с компьютером по сравнению с запуском множества приложений и постоянными уведомлениями. Вот это — одна из возможностей.
Технологическая индустрия США долгое время придерживалась либерально-демократических взглядов. Сейчас многие техлидеры открыто поддерживают Дональда Трампа. Как вы объясняете эту смену настроений?
Технологический сектор должен сотрудничать с любым президентом США. Но в данном конкретном случае, я думаю, произошли некоторые позитивные изменения в политике. Возможность строить инфраструктуру в США долгое время была очень сложной и крайне важной для таких компаний, как наша. Президент Трамп проделал отличную работу, поддерживая это. Более бизнес- и техно-дружелюбный климат в целом также стал приятной переменой.
США сейчас крайне поляризованы, можно сказать, расколоты. Что вы думаете о идее позволить ИИ управлять страной вместо президента США в будущем?
Я не думаю, что люди захотят этого в ближайшее время. Но я ожидаю, что президенты и лидеры по всему миру всё чаще будут использовать ИИ для помощи в принятии сложных решений. Однако я уверен: мы все ещё хотим, чтобы окончательное решение принимал человек.
В завершение: многие люди сейчас получают советы по отношениям от ChatGPT. Спрашивали ли вы когда-нибудь своего бота о помощи в личных вопросах?
Я использую его для этого гораздо реже, чем другие. Пробовал — да, но это точно не один из моих основных личных сценариев использования. Хотя очевидно, что многие люди действительно так делают.
А интернет вообще в целом умнее всех, но работают почему-то люди и из из своего опыта, а не интернета.
Угу, осталось только научить его отличать те 40% что он может выполнить, от других 60%.
Феерический доптимист :)
Офтоп:
интересно, а в перплексити и на сайте опенаи на сколько разные модели гпт5
мне вот нужна была небольшая функция, которая состоит максимум за 25 строчек, на сайте опенаи мне выдали как раз эти 25 строчек, не считая 3х строчек комментариев, а в перплексити, в думающей гпт5 модели, мне выдало функцию из 48 строк, и которая не работала, что-то на уровне YandereDev
Не он, но его бывший компаньон обещал беспилотные автомобили заметят водителей... И даты уже прошли... Что до ИИ текущих-это сродни заявления что библиотека (не принципиально какого уровня поселковая или национальная) умнее человека.
Ну траки скорее всего точно заменят. Даже в России уже появляются отдельные полосы для беспилотных траков.
Однако водители все равно нужны будут для коротких дистанций и сложных участков.
Так часть водителей уже заменили, всё так. Беспилотные такси - реальность для нескольких городов. Не думаю, что он говорил про 100% водителей
Сто миллиардов долларов сами себя у инвесторов не выпросят. Так что надо обещать что угодно, пока верят...
А он не сказал, когда хотя бы 30% дохода нейросети начнут приносить его собственной компании?
Давно уже умные машины существуют. Умнее всех людей. Например, калькуляторы.)
Разработчикам ИИ надо потратить время и изучить человеческое мышление. От психологов, биологов ( антропологов, нейробиологов, этологов ) могли бы узнать много интересного. Например , что ИИ это даже близко не ИИ. ИИ просто нет. Есть некие компьютерные программы , которые называют ИИ, нейросети и машинное обучение.
Как это заменит 30-40 процентов задач в экономике? Офисных сотрудников заменит? Или рабочих? Что-то завышенные цифры называет. Вообще, он же айтишник, правильно? Не экономист, не политолог. Не его тема.
Вот, проблема и в том, что психологи, антропологи, биологи никак не могут подсказать - близко ИИ или не близко. Может уже на тоненького, рядом, а может в световых годах от нашей механики мышления, про которую толком никто не знает.
Все выше перечисленные учёные, которых я читал или слушал, говорят что ИИ невозможен в принципе. Толком не понятно как работает мозг, а как работает мышление, это более менее понятно. Хотя бы на примере млекопитающих и птиц. И становится понятно, что все современные ИИ даже близко к ним не приблизились .
Нет задачи повторить мозг. Есть задача решать задачи, извините за тавтологию. А с этим прогресс определенно есть.
Пока нет задачи "повторить мозг" в широком смысле. Качественного прогресса приближающего человечество к тому самому, настоящему, субъектному сильному ии не бу дет, твёрдо и чётко.
Btw это лишь моё скромное мнение.
Почему интеллект может быть исключительно в такой топологии?
Вообще, есть разные виды мышления. Словесно-логическое, предметно-действенное, математическое, ( эмоциональный интеллект выделяют, хотя я не уверен, уместно ли это называть интеллектом ), наглядно-образное. Спорная и неоднозначная интуиция.
Есть разные операции мышления. Сравнение, анализ, синтез, абстрагирование, классификация, аналогия.
Какой конкретно вид ( или виды ) мышления и логических операций ходят добиться разработчики ИИ? Не принижая их достоинства, знают ли они вообще про все это? Что они вообще хотят воспроизвести?
Друзь сказал, примерно так "ум это умение разобраться в ситуации, проанализировать что и как произошло или происходит, увидеть причинно-следственнуб связь". Примерно так сказал и мне нравится такое определение.
Например, когда искусственному интеллекту дадут задачу: определить высаживались ли американцы на Луне, было ли монгольское нашествие, был ли Навальный отравлен новичком ( если да, то кем ). Вот если он сможет самостоятельно найти всю необходимую информацию, проанализировать её, сможет ли понять, что некоторые темы политически ангажированы и поэтому некоторые сми могут врать, вот тогда то его и можно будет назвать интеллектом. Ну хотя бы исходя из выше приведенного определения.
Потому что есть другие определения. Например, интеллект это способность решать задачи нестандартными способами. ( или нестандартные задачи нестандартными способами ). С этим сложнее, чем с тем, о чём говорится выше. ( хотя сказанное выше невозможно в принципе для ИИ ). Там-то надо анализировать инфу, а здесь ему надо понять что такое стандартные методы, что такое нестандартные. И как он эти нестандартные методы будет придумывать.
Т.е. критерием интеллекта является анализ высаживались ли американцы на Луне. А решение олимпиадных задач по математике - это про что? Там тоже надо причинно-следственные связи строить. Если второе не интеллект, то почему первое - интеллект?
с америкосами на Луне просто пример. Есть ситуация, есть две взаимоисключающие точки зрения и есть объективные факты, которые можно проанализировать.
Решение математических задач это тоже одно из проявлений интеллекта. Но это проявление интеллекта сильно отличается от умения разобраться в какой либо ситуации, проанализировать её, определить причинно-следственные связи. Тут ( в ситуации с Луной и американцами ) совсем другие причинно-следственные саязи, совсем другие виды мышления и мыслительные операции.
К тому же я написал, что это просто разные определения интеллекта.
Так-то есть разные виды мышления, разные мыслительные операции. И умение решать математические задачки никак не связано с другими проявлениями интеллекта. Человек, сильный в математике, может быть слабым или середнячком в других видах мышления.
Не упираетесь лбом в эту Луну. Это вам просто для примера написали нетривиальную задачу.
На мой взгляд дело в том что мы не видим интеллекта вне биологических систем. Но я ни в коем случае не говорю что он невозможен в ином исполнении.
Да, не обязательно повторять мозг. Но и мышление тоже не представляется возможным воспроизвести. В мышлении животных пока что много чего не понятно. Объясняются внешние проявления интеллекта, но как конкретно это мышление происходит?
Вот почему крутейшие нейросети путают кошек с собаками? Почему у самих кошек и собак не возникает трудностей, хотя их никто не учил? Почему ИИ может посоветовать есть стекло, почему ему надо вбить ( или запрограммировать ) что стекло есть вредно? ( ещё попробуй ему объясни что такое "вредно" ). Люди это и многие другие вещи понимают сразу, легко и быстро. А в ИИ нужно вкладывать эту информацию. В том -то и проблема с ним, что он не врубается. Он ни во что не врубается, ничего не понимает, всё надо ему разжевывать и вкладывать в ротик, образно выражаясь. Тогда как млекопитающие или даже насекомые всё схватывают на лету.
Люди это и многие другие вещи понимают сразу, легко и быстро.
Ребёнок не поймёт, что стекло опасно, пока не порежется. Взрослый человек может это понять, даже не видя условного стекла, просто прочитав его описание. Ну так и LLMки точно так же по буквам "понимают", что стекло есть нельзя и могут это "знание" воспроизвести. Как понять, что это "фейковое" знание, находясь в китайской комнате?
Животные тоже не едят стекло, хотя описание прочитать не могут, и даже не стараются его съесть. А ИИ этому необходимо научить.
Человек понимает, что не надо есть дерево, камни, твердые вещества, в общем. Хотя можно есть орехи или там ещё что-то такое твердое и съедобное. Как запрограммировать ИИ что можно есть, а что нет? По принципу органики? Но тогда и деревья можно есть и застывшие высохшие крысинные экскременты. По принципу наличия полезных веществ? Те же экскременты опять же.
Всегда есть какие-то исключения, какие-то необычные критерии, отдельные частные случаи и ИИ их никогда не усвоит. Ему надо тупо механически написать список того, что можно есть, и список того, что нельзя. Тогда как люди и животные сами могут понять и им не вбивали в мозг списки съедобного и не съедобного.
В китайской комнате человек хотя бы выполняет функцию переводчика. Но технически это довольно просто. Есть простой алгоритм действий, и он ему следует. А интеллект, с одной стороны, предполагает решение задач ( не стандартныйх в том числе ) нестандартными методами. С другой стороны всесторонний анализ ситуации, установление причинно-следственных связей, что страшно сложнее того, что делает переводчик в китайской комнате.
Тут даже алгоритмов никаких не придумать. Ну точнее можно, но они будут грубымм, они не будут работать в каждой конкретной ситуации.
Как запрограммировать ИИ что можно есть, а что нет?
Неправильное слово запрограммировать. ОБУЧИТЬ. Человек ведь обучается, что камни есть не надо. Они банально невкусные. В детстве этому обучаешься самостоятельно, ещё не понимая слов. ИИшке тоже не проблема этому обучиться, достаточно добавить соответствующие интерфейсы, что бы можно было пробовать. Ходить роботы вон уже учатся, пугающе эффективно учатся, Boston Dynamics свежий гляньте. Вот добавят органов чувств, и прочему обучатся.
Топы ai компаний стали говорить "скоро" вместо конкретных интервалов, прогресс
К сожалению, это правда. Но речь идет о моделях уровня ChatGPT5 Pro, крайне дорогих. Пользователськие бытовые моделм бесполезны. ChatGPT Thinking Extended на грани, скорее, бесполезно
Во многих смыслах GPT-5 уже умнее меня — и, думаю, многих других людей тоже.
В первую очередь с собой сравнивает... Он бы для начала просто попытался объяснить, что значит "умнее"...
Ну так значит уже можно доверить GPT-5 расследование загадочного дела о т.н. самоубийстве Сучира Баладжи - бывшего сотрудника OpenAI. Может чат-гпт именно в этой области умнее не только следователей, но и самого Сэма...
Сегодня идёт эпидемия идиотизма мозг человека уменьшается..скоро африканцы будут способнее белых...
Сегодня идёт эпидемия идиотизма мозг человека уменьшается..скоро африканцы будут способнее белых...
Вот Вы, например, ставить знаки препинания уже разучились.
А так — сингулярность уже скоро,
но есть нюанс...
Во многих аспектах GPT-5 уже умнее многих людей
Это не ваше достижение — это наша (в смысле людей) недоработка!
Опять Альтушка принял на грудь. Все рассказывает, рассказывает, как будет круто, что ИИ всех заменит. А на деле гпт 5 это провал.
Подумайте о профессиях, которые существовали 30 лет назад, но сегодня полностью исчезли
А что это за профессии? Я тут подумал, но не мог вспомнить ни одной. Может кто-нибудь привести примеры таких профессий?
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Альтман: «Во многих аспектах GPT-5 уже умнее многих людей, и скоро 30-40% задач в экономике будет выполнять ИИ»