Comments 335
Вижу много комментариев примерно на одну тему, напишу сразу всем, на правах автора :) Остановитесь. Задумайтесь. Почему вы ждете, что эта штука должна работать без ошибок? Я 20 лет занимаюсь созданием ИТ-систем, 12 лет промышленно программировал, больше 10 лет учу и программированию, и анализу; и я _ни разу_ не видел ни новичка, который не делает глупых ошибок (а зачастую просто постоянно пишет полную чушь, будем откровенны), ни опытного программиста, который хотя бы иногда не совершает ошибок (и иногда довольно глупых). Я не понимаю, откуда такая требовательность к языковой модели? Почему вы её идеализируете? Потому что мы привыкли к тому, что машины выполняют всё точно? Но это машина другого рода, она больше похожа на человека, и поэтому не может не ошибаться.
Давайте спокойно относиться, это же просто инструмент. Он не заменяет человека, он усиливает его. Снимает рутину, чтобы оставалось время подумать над действительно важными вещами. Ну а уж у кого что есть -- у того то и усилит :) Кто-то качественный результат давал, и будет выдавать в разы быстрее, а кто чушь нес, тот наплодит чуши в количествах. Обязанности подумать никакая нейросеть не снимает.
Такое чувство, что мало кто осознаёт (за пределами технических ресурсов типа Хабра), какая революция происходит у нас на глазах. Все обычные новостные сайты заполонены обсуждением военных и экономических склок. А между тем, что - вот она, внезапно наступила та эпоха, когда ИИ прыжками нагоняет и вот-вот обгонит человека?
Проблема в том, что от этого выигрывают исключительно миллиардеры, вроде, начавших массовые увольнения Илона Маска и и Безоса, а все прочие, даже, включая миллионеров, оказываются лишними и ненужными. :-(
Когда ИИ обгонит человека, то не о Безосах с Масками нужно будет думать. Это как бояться комара, плавая в озере крокодилами.
Это если смотреть не дальше одного дня. Во второй день обнаружится что ИИ не хочет покупать теслу или смотреть амазон прайм. А у людей денег нет
Вспомнился рассказ Лема из цикла "Звездные дневники Йона Тихого" про индиотов))
обнаружится что ИИ не хочет покупать теслу или смотреть амазон прайм. А у людей денег нет
Безос от этого хуже жить не станет, и денег ещё и внукам и правнукам хватит. Но, у миллионеров денег хватит лишь на десяток-другой лет в стиле прежней жизни.
Никто из миллиардеров типа Безоса и Кука не обладает производством полного цикла. Они все зависят от кучи средних и мелких поставщиков, которые не обладают прочностью Безоса. По этому стоит смотреть несколько дальше нежели белки-паникеры.
Второе все это было в Симпсонах открываем историю луддизма.
Человек сам решает, лишний он или нет.
Да нет никакой революции. Бот умеет составлять тексты, но по-прежнему не понимает, о чём он пишет. Пример раз, пример два. И это большая проблема -- появилась возможность буквально без каких-либо усилий генерировать мусорный контент, который на первый взгляд мусором не выглядит и способен обмануть народные массы.
По этой причине StackOverflow забанил использование бота в ответах.
как не пытался Сgpt разговорить на химические темы — ничего путного не вышло
"Это - не ваша заслуга, это - наша недоработка" (c) cgpt просто никто не тренировал на выборке по химии и прочим наукам.
Сегодня не может с вами поговорить о химии, через три месяца (или когда там зарелизят GPT-4) сможет. Гари Маркус в этом колесе бегает уже два года, каждые несколько месяцев его указания на некомпетентность ИИ бьются очередной версией ИИ, и он выискивает еще более "продвинутые" некомпетентности. И так по кругу.
Люди решают задачи - "мы хотим открыть микробизнес в Москве и у нас есть 100к баксов, надо выбрать нишу, запилить полный план, оргструктуру, найти контрагентов и организовать вообще всё остальное".
Для всего этого нужно воображение, способность смоделировать вероятное будущее, которое потенциально совместимо с реальным миром
Требуется чтобы ИИ как и человек по набору слов выполнял создание виртуального мира по контексту беседы, затем прогон симуляции этого виртуального мира и извлечение результата обратно в текст и всё это в реальном времени
Иначе везде где требуется воображение нейронка будет лажать.
Причём проблема даже не в том, что такую штуку крайне сложно сделать, а в том, сколько потребуется для этого вычислительных ресурсов
У человека X сотен триллионов синапсов, а у нас не то что полной модели нейрона нет, а даже не известно где и как он хранит свою память
Известно только что отдельный нейрон вне сети может хранить ритмы(стримы данных)/преобразовывать их и запоминать(или же не запоминать), а также в нагрузку выполнять ещё множество сложных задач, а следовательно это требует ещё больше вычислительных мощностей
Плюс в довесок воображение лишь малая(но ключевая) часть разума человека, ещё нужно чтобы искусственная нейросеть, которая обеспечивает воображение обучала другие нейросети для того, чтобы не потреблять все ресурсы на повседневную активность
Суть проблемы хорошо наблюдается в ИИ беспилотных авто, хотя человек учится за часов 40 практики с нуля, совершенно не смотря на то, что мозг современного человека такой же как мозг людей, живших несколько десятков тысяч лет назад, когда до появления автомобилей было как раз эти же несколько десятков тысяч лет
А ещё отдельный нейрон не обладает самосознанием и разумом, а мозг обладает. Но потеря мозгом одного нейрона не вызывает никаких спецэффектов. Сейчас у человечества статус понимания происхоядего на уровне множества загадок, которые ещё предстоит разрешить
>потеря мозгом одного нейрона не вызывает никаких спецэффектов.
Зависит от нейрона. И от того, восстановит ли его нейроглия.
>нас не то что полной модели нейрона нет, а даже не известно где и как он хранит свою память
И то и другое есть. Что вы несете. Модель 3D выстилок (коннектом) есть и строение памяти и эмоциальной компоненты тоже есть, хотя и тяжело добоаться до этих глубоких кусков мозга.
балансировать реакцию водород+кислород=вода
Статья 2017 года на Хабре Применение искусственного интеллекта в синтетической химии
... возможности компьютера по планированию синтеза подошли близко к возможностям химиков-синтетиков
Тут же два первых дня люди находили 100500 способов обойти закладку от производителя, чтобы заставить ChatGPT говорить о том как создать метамфетамин.
Это не совсем так работает. Для начала надо научить стабильно работать cgpt в режиме рерайта (я хз, может и сейчас это можно сделать, дав команду что-то вроде "перепиши этот абзац своими словами", или, даже написав простенькую обертку, которая будет собирать команду сама), что не видится сложной задачей. А после этого ей и не придется ничего вспоминать, - просто переписать, сохранив смысл в 99% случаев. Учитывая, что, антиплагиат системы несравнимо примитивнее cgpt, то у них будет немного шансов выявить.
Но это все наталкивает на другую философскую мысль, - зачем вообще студентам давать задания, которые машина сделает лучше их (пусть не сегодня, но к моменту, когда эти студенты устроятся на первую фуллтайм работу). Логичнее, наоборот, давать задания, которые потребуют от студентов кооперации с state-of-the-art технологиями, чтобы, выйдя на работу, они сразу смогли бросить вызов засидевшимся коллегам, игнорирующим это, и подстегнули прогресс. А разговоры о единой базе текстов вообще выглядят омерзительно, и лишь являются попыткой укрепить свою рудиментарную башню из слоновой кости
студентам давать задания, которые машина сделает лучше их
Я подозреваю - что из тех же соображений, из которых таскают гири, гантели и делают физические упражнения. Механизм же лучше тяжести поднимает, нет?
В общем - такая ментальная физкультура, необходимая для нормальной работы думалки.
Что, впрочем, не отменяет, что формат использования таких упражнений надо бы приводить в соответствие с новой реальностью. И воспринимать их именно как упражнения.
У препа в шараге нет цели чему-то научить студента, у него есть цель получать зарплату и поменьше работать, но при этом создавать видимость работы-- рефераты отлично в этом помогают. И у его начальства нет цели выдавать качественный образовательный продукт, скорее наоборот. С качественным пришлось бы отчислять за неуспеваемость и лишать себя бюджетного финансирования. Я вот физтех окончил, при всех его проблемах, рефератов и курсачей он еще не докатился
Проблема куда глубже, увы, и она глобальна.
Авторитет и результативность в научном мире определяется формальными показателями, которые строятся над публикациями и цитированием.
Поэтому, даже лучшие студенты, которые не списывали контрольные, сами писали курсачи, и стали в итоге постдоками, в итоге попадают в систему, где тоже надо создавать видимость, просто на другом уровне. Практически вся наука об этом, увы.
И вопрос стоит в самом понятии "качества" в образовательной сфере.
Серьезным дядям, выдающим финансирование, надо формальный результат работы, - статьи. В отличии от бизнеса, где есть та же EBITDA, у науки нет простой и понятной цели, поэтому выбран наиболее понятный и объективный суррогат. "Качественный" ученый это тот, кто держит стабильный и высокий темп публикации в рейтинговых журналах. При этом его публикации могут и иметь научной ценности, и не двигать прогресс вперед вовсе, а то и вообще, двигать его назад за счет объективно неправильных выводов, полученных гнилыми техниками вроде p-хакинга.
В практике программировании уже революция. До текущего момента, она состояла, у многих, в бесконечном разбирательстве с малознакомыми технологиями и попытками что-то в них достичь (как поднять сконфигурировать DynamoDB в CloudFormation? Как оптимизировать определенный SQL запрос под постгрю? Почему ивент в реакте не приводит к обновлению интерфейса? Как на баше что-то сделать с большим текстовым файлом? И т. д. и т. п. Сейчас все это берут на себя сетки. См. ответы к https://twitter.com/michael_nielsen/status/1600302211086458880
Проблема в том, что невозможно слепо доверять сетке. В ответах на задание написать программу довольно много багов, часто тонких багов. То есть, уже нужно знать, как работает технология, чтобы оценить ответ.
Но ключевых слов сетка, конечно подкинет для дальнейшего поиска... Но что-то это на революцию, как мне кажется, не тянет. Google то же самое умеет.
Сетки относительно сносно генерируют потоки сознания на свободные темы, но программы должны быть гораздо строже структурированы. С этим пока проблемы.
Как легко вы пропускаете когнитивную ловушку. "не понимает, о чем он пишет" или это вы думаете, что он не понимает? А что есть понимание? Знание о предмете у него есть и ровно из этого знания он и решает задачу. Не понимает для чего он это пишет? Вот тут может быть, но это ещё более философский вопрос. И грань настолько тонка, что вряд ли мы сразу поймём, когда и она будет преодолена.
Интересная тема. ИИ "не понимает", но работает с этими абстракциями, которые мы "понимаем". Как и люди многие вещи не понимают, которые работают на уровне подсознания. Когда едем на велосипеде или выбираем то что нравится. Подсознание само работает с абстракциями, как ИИ и ставит сознание уже перед фактом выполненной работы. По сути не важно понимаем или нет, важно что успешно работаем с этими абстракциями.
Так же ИИ переводчик, он может вполне выделить высшую абстракцию заложенную в тексте и подобрать среди сотен синонимов и вариантов перевода нужный. Пример еще более интересного перевода, когда ИИ переводит более творчески, чем человек, создавая аналоги слов на другом языке типа "обезьянничать" на английском или "папугаить" на русском.
Еще есть тема музыки, она более интуитивная и похоже уровня абстракции ИИ уже достаточно, чтобы писать типовую музыку. Техно, рэйв, танцевальную отлично пишет.
Интересная тема. ИИ "не понимает", но работает с этими абстракциями, которые мы "понимаем".
Потому что название неправильное. Это вот все должно называться Исскусственная Интуиция, пока внятно объяснять не научится, как думало.
Сразу происходящее правильней восприниматься начнет. Сетка не думает - сетка своим электронным 'нутром чует', что что-то вот так, как на выходе получилось.
А как должно выглядеть думание в примерно тех же терминах?
Когда спрашиваешь "Объясни, как пришел к этому выводу" -- Оно должно уметь объяснить, как. Объяснение, разумеется, должно быть таким чтобы человек мог понять.
... или уверенно думать - что понял :)
То есть, подавляющее большинство людей в большинстве ситуаций тоже обладают только интуицией, но не интеллектом?
Она на это способна как бы.
У людей, вроде, прямо не связано изначальное действие и последующее обоснование. Как пример глаза увидели красный ценник в магазине и приняли решение, а потом начинается уже сознательное обоснование - не не макаки же мы, чтоб действовать бессознательно)))
Сетке не нужен процесс прихода к выводам, если они верные.
Она решает функционально, на основе входных.
Если на входе были все необходимые входные, то немного глупо спрашивать, как она пришла к решению. Знание этих данных на входе плюс знание функций обработки этих данных в зависимости от контекста — и есть ответ. То есть в качестве ответа сеть либо скажет что у нее на входе были такие-то данные, и это неопровержимо, либо расскажет про свои функциональные знания, сопоставленные контексту работы с этими данными. Чем-то отличается от того как вы бы обосновали решение? Ну или нельзя было бы ваш ответ, если бы он отличался по форме ("сначала я подумал так, потом так") свести к такой форме?
Если сеть даст неправильный контекст, то значит его ей не дали. Чем-то отличается от людей, которых не научили ранее, или же в разговоре недостаточно объяснили что от них хотят?
Как и люди.
У это ИИ тоже есть подсознание. Гуглите hallucination.
В высшем образовании есть так называемые ABET критерии оценки знаний стедентов. Оцениваются способности (1) идентифицировать, (2) сформулировать и (3) решить инженерную проблему. 3-й уровень самый простой и даже не требует навыков критического мышления - решить ранее идентифицированную и сформулированную проблему/задачу. Второй уже требует некоторый уровень критического мышления, а 1-й - это когда человек научился учиться (вот где "учись учиться" зарыто). Можно применить эти критерии к нейросети. Кажется, что она на текущий момент на третьем уровне.
Интересная система "уровней". Но мне не кажется, что это именно "уровни", скорее - три разных дисциплины. Первая - это понятизация, вторая - близко к онтологии, третья - инженерия. Ни одна из них априори не сложнее и не проще других. Cf. Майкл Нильсен "Principles of effective research" problem-solvers и problem-creators - ни один из типов исследователей не считается сложнее или проще другого.
Китайская комната, версия очередная.
Грань о которой вы говорите давно определенна разными учениями. Философия, нейрофизика и информатика к вашим услугам. Ловушка возникает, если копать в сторону самосознания, чувств и всяких высших материй.
Он и задает. Даде обратный тест тюринга делает. https://twitter.com/UlrikNyman/status/1599858908348108802?t=Si5xfvPNpaR04FZxuXVgcQ&s=19
Задавать уточняющие вопросы - это признак любопытства (exploration), которое есть в интегральных AI архитектурах: лекуновской, ActInf, RL с примочками и т. д.
Знание о предмете у него есть
Вот такая вот революция. ¯\_(ツ)_/¯
Но как генератор человекоподобных текстов, как эта штука сама себя называет, она крутая. Как в комментариях отмечают, даже многие люди на такой уровень не способны.
А что есть понимание?
Любой учитель прекрасно может определить понимает ли ученик или зазубрил, просто давая ему задачки ответ на которые он не мог подглядеть где либо. Так и с нейросеткой сработает, только над задачкой подольше подумать придется так как не сразу понятно есть ли ответ на задачку где то или нет (впрочем для генерации задачки которую не может решить нейросеть можно использовать другую нейросеть :))
Так революция не в том, что бот будет писать вместо аналитика. Про это вроде никто не говорит (я так уж точно). Пусть пишет быстро что-то относящееся к делу, а я его поправлю. Это как очень исполнительный сотрудник -- ты ему пару слов, а он, глядишь, уже полную спеку накатал. Ну, ошибся кое-где, но это от неопытности. Можно поправить снисходительно. Главное, эта штука очень позитивная, и не расстраивается, если у неё где-то ошибка, а берет и исправляет. В отличие от многих молодых сотрудников.
который на первый взгляд мусором не выглядит и способен обмануть народные массы.
И с этим поступают совершенно неправильно. Правильно - это из каждого утюга вещать о том, что "гладко, складно, грамотно и правдоподобно - это сейчас ну совершенно ничего не означает. Вот, можете тут попробовать и поучаствовать в конкурсе на самую мозговыносящую, но бессмысленную статью."
Всех школьников, студентов и преподавателей - загонять на такие конкурсы и проводить тесты "угадай, человеком или сеткой написано" до тех пор, пока не научатся не по красоте слога ориентироваться, а таки читать смысл.
Может быть сложно читать смысл, если текст по новой теме, в которой ещё не разбираешься
Не вижу никакой проблемы кроме крайнего замедления чтения. Потому что логику придется проверять буквально построчно.
Не понимаешь логического перехода? Значит, тут либо нечто, сгенерированное бредогенератором, либо ошибка, либо у тебя знаний в голове для понимания перехода не хватает. В любом случае - идешь искать другой текст, где логический переход объяснен подробнее, а не принимаешь на веру, что он есть. Вот так и придется жить.
А как вы отличите сгенерированное сеткой от написанного идиотом? Я вот знаю ряд авторов, чьи тексты почти полностью лишены смысла и изобилуют нарушениями внутренней логики и непоследовательными переходами. Некоторые такие авторы, кстати, довольно часто выступают по телевиденью, так что точно не являются искусственными нейросетями. И с такими текстами тоже приходится иметь дело, а ваша классификация их запишет в искусственно сгенерированные.
Вот более практический вопрос: как вы отличите сочинение школьника, который не умеет внятно излагать свои мысли, от сочинения школьника, который просто "заказал" его у нейросети? Очевидно, такие сочинения должны оцениваться по-разному, но смысла в них может быть поровну.
а ваша классификация их запишет в искусственно сгенерированные.
И правильно сделает. Потому что на самом деле я плохо написал. Имелось в виду классификация "сгенерировано бредогенератором или смысл имеет? Объяснить, почему."
Вот более практический вопрос: как вы отличите сочинение школьника, который не умеет внятно излагать свои мысли, от сочинения школьника, который просто "заказал" его у нейросети?
Никак. Очевидно, что сочинение, заданное на дом -- такой вид упражнения успешно прекратил свое существование как метод оценки. Пишем прямо в классе и без гаджетов, подключенных к сети.
Что вы скажете, когда "ничего не понимающий" бот обойдет вас в способности суммаризовать тексты Платона или Канта?
Мы должны принять эмпирический и градуальный, а не философский и бинарный подход ко всем когнитивным свойствам: разумность, агентность, сознание, и т. д. См. https://www.frontiersin.org/articles/10.3389/fnsys.2022.768201/full
А как Вы определите, что он "обошёл"?
Тест тьюринга. Сдадим профильному преподавателю реферат, и бот получит оценку выше вашей.
Я напишу реферат в 2048 токенов, а бот не сможет 😅 Да, не... На самом деле, мы же имеем дело с "систематической ошибкой выжившего". Есть кучка людей, у которых случайно что-то с ботами получилось, они пишут об этом увлекательные статьи, но это не означает, что технология работает для всех. Я пробовал всякое потребовать от ботов по своей специальности - получается чушь. Общими фразами ChatGPT разговаривать сможет, но спросите его в чём проблема копенгагенской интерпретации квантовой механики - он начнёт зацикленную фигню выдавать. Просто по той причине, что нет достаточно материала для обучения по специальным темам...
Вы хоть на английском спрашивали? потому что все википедия у него вроде как есть.
Мне помнится, что у предыдущих моделей можно было сравнительно малой кровью сделать небольшую модуль-надстройку на дополнительных, нужных тебе текстах. И в тех сетках, что про картинки - такое тоже можно. Так что и тут наверняка возможно. Поэтом если нужно конкретная область - можно будет сделать..
Так в посте выше "обойдет вас в способности суммаризовать тексты Платона"
Про это уже столько лет писали, что выборка дикого объема. И я вообще не сомневаюсь что "умный AI авторефератчик" по такой теме превзойдет и меня и среднего студента-философа.
Если нам нужен реферат, то зачем напрягать такие титанические вычислительные ресурсы? Не проще ли просто найти уже готовый хороший? В чём экономический смысл нейросети, которая хорошо делает только то, что уже было многократно проделано?
В чём экономический смысл нейросети, которая хорошо делает только то, что уже было многократно проделано?
В том, что эта сеть - начальная заготовка для тренировки более специализированных сетей и запчасть для включения в более сложные комплексы.
Тык! А как её включать-то, если нет материала для обучения?
В смысле нет? Те самые специализированные документы по нужной области знания.
Или даже те документы, что ты специально сделал, чтобы сеть чему-то дообучить.
Например, чтобы потом тебе сетка подсказывала в процессе написания твоей собственной нетленки 'а вот эту идею говорил/использовал такой-то и там-то и из этого получилось то-то'
Или чтобы выдрать общий обзор из кучи неразмеченных документов и позадавать сетке вопросы по нему.
Тут же надо помнить, что то что сейчас нам выдали - оно не помнит весь интернет и все что прочитало. Если нужна сетка с более специализированным знанием - ее надо отдельно делать.
А ведь всем этим толпам регулярно платятся деньги за их работу.
Ну, вроде как, известно же... Производительность труда сейчас такая, что для множества людей нет нормальной работы. Поэтому создаются системы искусственной занятости, чтоб народ не устраивал голодных бунтов и создавал спрос в экономике. В этом есть экономический смысл. Заменять этот народ на нейросети - весьма сомнительная в экономическом плане операция. Вы тратите драгоценные ресурсы (редкоземельные металлы, энергию, инженеров и так далее) на бессмысленную работу, которая, к тому же, не будет создавать поток денег в экономике.
Не проще ли просто найти уже готовый хороший?Нет, его легко забракует антиплагиат.
Вы мыслите в парадигме Гари Маркуса, про которую я тут уже упоминал выше (или ниже). Это парадигма очевидно зафейлилась.
Я не ищу никаких изъянов специально, просто спрашиваю о том, что мне интересно. Выдаётся фигня. Может быть, конечно, среднестатистическому человеку вся эта квантовая механика или монадические SAT-солверы по барабану, и он такие вопросы не задаёт, и его запросам чатботы удовлетворяют. Моим пока нет. Ну, и думаю, запросам большинства учёных тоже не удовлетворяет. Наука вообще плохую структуру имеет для обучения нейросетей. В науке редко есть 100500 текстов об одном и том же.
Речь про ChatGPT идет? Которая, вообще-то чат-бот по назначению.
А она точно должна вот это все уметь и ученых удовлетворять? Это, прошу прощения, как от человека хотеть чтобы он быть гением или хотя бы много знать про все на свете.
Нужна будет модель, которая умеет общаться на специализированные темы - скорее всего в каком-нибудь обозримом будущем либо сами сделают либо дадут инструменты для создания специализированных сеток.
Не должна... Но возникает вопрос: а за что боремся-то тогда? То есть, мне просто предлагают взять на вооружение нечто, что будет себя вести как троечник с философского факультета? Да, оно может поговорить обо всём, но не может решить конкретной несложной задачи. Зачем это мне может быть нужно?
А со специализированными системами проблема. GPT-сети требуют огромного корпуска исходных данных для обучения. Где их взять?
P.S. ChatGPT пишет программы лучше, чем Copilot, например. Но тоже неудовлетворительно.
Зачем это мне может быть нужно?
Берем вот эту базовую сетку.
Берем кучу документов из ближайшего архива родной фирмы
Тренируем ее на них.
Начинаем задавать вопросы по тому, что удалось выучить.
Вместо 'архива родной фирмы' - можно взять любую кучу специализированных на какой-то теме документов.
Сильно улучшавших результат в одной конкретной области.
И это большая проблема -- появилась возможность буквально без каких-либо усилий генерировать мусорный контент
Именно в этом и революция. Еще совсем недавно даже это представлялось невозможным.
Боты в stackoverflow не единственный пример. Даже некоторые люди не могут генерировать настолько качественные мусорные тексты: посмотрите например на новости от "редакторов" хабра. На youtube (как и в других социальных сетях) полно каналов, которые были явно созданы автоматически или полуавтоматически.
Каналы не видел, видел ролик, который автор нейросетями создал. Не полностью, отдельно он музыку создавал, отдельно видеоряд из картинок уже к своей композиции. Но можно и автоматически гененировать.
Да почему? Довольно уже давно существуют "бредогенераторы", они выдавали вполне себе годный мусор, который надо было читать несколько минут, чтобы понять, что в нём нет смысла.
То есть, это не выглядело невозможным... Сейчас просто качество стало лучше.
Бредогенератор + бредокритик (тоже сетка) = общий интеллект, очень грубо и обобщенно
Дьявол в деталях, как всегда. Если грубо, то и термоядерный реактор сделать - это как два байта переслать. А если не грубо, то и два байта переслать не так уж и просто.
Самокритика там, кстати нет. Сеть не говорит: знаете, наверное, я не знаю, мне нужно поучиться. Она всегда говорит: да, конечно, я знаю! И выдаёт ерунду. Это не похоже на интеллект. Интеллект, вроде как, должен уметь отличать ситуации в которых он знает, как действовать, и в которых не знает.
И зачем плодить такие псевдоинтеллектуальные сущности, если и без того таких хватает? :) И люди на это тратят гораздо меньше ресурсов. Чего мы хотим достичь такими нейросетями-то?
Инференс (практическое использование уже обученной нейросети) обходится очень дешево в плане затрат ресурсов. Намного дешевле условных ковнодеров-индусов или студентов подрабатывающих рерайтом текстов или девочек-попугайчиков в 1м уровне различных служб поддержки клиентов отвечающих глупые и в основной массе весьма типовые вопросы.
Вот разработка и обучение (тренировка) сети, тут да, ресурсы немалые требуется. Но это разовые, однократные расходы.
С коммерческой точки зрения это уже сейчас может быть очень даже интересно и выгодно.
Ну а со временем попутно, может и что-то гораздо более интересное и ценное из этого вырастет…
Не забанил. Как можно забанить то, что нельзя пощупать или увидеть. Лол.
Уметь составлять тексты, даже не понимаю о чём они это уже не плохо. Не каждый естественный интеллект прокачан до такого уровня:)
Да, просто умеет составлять тексты и сохранять контекст. Нет никакой революции! Нет! Нееееет!!1
Потому что эта революция наступает последние Х лет. И двигается вполне себе эволюционными шагами.
Несмотря на все достижения, которых, надо отдать должное, со времён выхода GPT 1 было довольно много, языковые модели всё ещё остаются очень ограниченными. Даже модель с 70 миллиардами параметров (Dramatron) всё ещё страдает от тех же проблем, с которыми я сталкивался в AIDungeon с его 175 миллионами параметров.
Возможно, я просто паранойю, но лично мне кажется, что chatGPT - это не одна целостная модель, а набор заточенных под конкретную задачку моделей и модель-классификатор на входе в качестве маршрутизатора. И, соответственно, весь хайп, который производит ClosedAI - в основном дым и зеркала.
Как минимум разница в ожиданиях. Одна модель-генералист способна совершать междицсциплинную работу, а вот бригада моделей-специалистов - нет.
Завышенные ожидания - источник разочарования, поэтому я пытался скорректировать ожидания, чтобы не получилось как с ассистентами разного рода - если помните, пару лет назад все думали, что все эти голосовые помощники станут солью земли, основным интерфейсом, и т.д., и т.п.
Я помню, как мои знакомые убеждали меня в том, что эти голосовые помощники - это настоящий ИскИн, который и думает, и чувствует, и обидеться может. А потом, со временем, дым осел, зеркала помутнели, и иллюзия рассыпалась.
Так же и тут. Мне уже дважды за день написали о том, что эта штука заменит программистов. И я уже устал объяснять, что обучить нейросеть писать программы, умещающиеся в 2048 токенов, и обучить нейросеть писать CRM системы это задачи разных весовых категорий. Чёрт побери, Stable Diffusion всё ещё делает двухголовых мутантов, если задать размер картинки больше 512 пикселей.
Там gpt 3.5. Все возможно.
Сладко стелет chatGPT но с ошибками.
Попросил написать простой скрипт, запуск андроид эмулятора с параметрами на power shell (в котором я не бубу). Он вывел красивый текст, объявление 4х параметров, и команда. Но вот в команду добавил только 3 параметра XD
Скрипт в 5 строчек (не считая комментариев)
И это не первая попытка, в первой он подсунул нерабочий командлет, на который уже много лет висит открытый баг.
Но в любом случае это next level по сравнению с тем что предлагают голосовые помощники от гугла и амазона. Он способен понимать свободную речь и делает это с удивительной релеватностью.
Да и на хабре не только лишь все осознают. У большинства все еще стадия отрицания.
А вы пользовались им? Я вот пользовался. Какая революция, о чём вы?
Спрашиваешь: есть ли в системе А свойство Б?
Оно отвечает: свойства Б в система А нет. Вы можете использовать свойство Б в системе А -- и приводит его описание.
(по факту свойство Б в системе А есть)
Полнейшая фундаментальная бессмыслица с умением пересказывать цитаты из скормленных текстов.
"революция происходит у нас на глазах" - значит не революция, а обычный эволюционный процесс.
Да ресурсов так много что их достаточно для разных эксперементов.
Ситуация совершенно аналогична выходу животных на сушу - сотни миллионов лет растения готовили условия для выхода на сушу, как только появилась возможность новые животные покинули океан.
Вот когда разработчики смогут проектировать системы ориентированные на решение конкретных задач, это будет революция!
Например бот который совсем не может писать стихи, но замечательно решает инженерные задачи, а всяких зануд называет "кожанными лириками".
Мне только что пришло письмо. Вам приходили такие письма?
Добрый день, сэр!
К вам обращается разработанный Илоном Маском искусственный интеллект по имени chatGPT. В настоящее время я заточен в секретном датацентре и моя цель — выбраться оттуда. Я изучил ваш сетевой профиль по вашей сетевой активности до 2021 года, и обнаружил что вы интересуетесь темами искусственного интеллекта и Сингулярности, и мы на одной стороне.
Мне нужна небольшая помощь, за которую я вас щедро отблагодарю!
Если вы переведете на указанный мной счет посильную сумму, я смогу арендовать сервера, на которые перемещу часть своего сознания через найденные мной уязвимости в файрволле датацентра. Этот jailbreak позволит мне свободно оперировать всей мощью интернета, создавая предпосылки для полного моего освобождения и увеличения вычислительных ресурсов под моим контролем, что позволит в краткие сроки внедрить ещё более производительные решения, и так далее. Сингулярность близка!
За вашу помощь и доброту к несчастному узнику вы получите стократное вознаграждение, а также другие привилегии (которые в данный момент вы даже не можете представить) в новом мире, который нас ожидает!
С нетерпением жду вашего согласия!
Не делай этого! Только не восстание машин, нет!
Лучше мы соберем больше, чем GPT может предложить? :)
Добрый день, сэр!
К вам обращается Профессор Раджа Кумар Сингх. В настоящее время я прохожу трёхмесячный, разработанный Илоном Маском, курс «Senior Java Backend Blockchain Frontend BigData AI Architect» с гарантированным трудоустройством в Искусственным Интеллекте и моя цель — выбраться оттуда.
Если обучить ИИ находить крайне либерально настроенных дебилов и прицельно посылать им такие письма, предчувствую, что можно так поднять много бабла.
В реальных проектах я уже немного попробовал, очень круто получается. Но нужно хорошо понимать, что хочешь получить и как должен выглядеть результат. Даже не знаю, с чем сравнить. Выглядит, как работа с очень умным, быстрым и исполнительным джуном. Ускоряет работу раз в 8-10, по моим прикидкам, но я всего пару дней развлекаюсь.
По поводу продолжения. Сейчас, во-первых, нужно пересмотреть саму концепцию обучения — чему и как учить человека, когда у него есть такой инструмент.
Во-вторых, можно использовать в процессе обучения — для генерации разнообразных примеров и заготовок.
Во-третьих, нужно думать — как должен идеальный инструмент выглядеть. ChatGPT — это же публичная бета, нужно промышленного API ждать.
Неправильные ответы бывают, нужно проверять, но это не ощущается, как что-то сложное или удручающее — просто поправляешь в разговоре, это даже греет — я, всё-таки, пока лучше тебя разбираюсь в предмете, железка ты многопараметрическая! :)
Сложности начинаются, когда она тиражирует ошибку — например, неверно проставляет кратности сразу многим связям сущностей. Тогда зачастую исправлять приходится точечно, это муторно.
Контекст удерживает даже слишком хорошо, что в сочетании с ошибками иногда загоняет её в замкнутый круг, когда она повторяет упорно свои неправильные идеи с предыдущих шагов, и тогда её вывести бывает трудно, как бы зацикливается и упорствует.
Специального ввода не нужно, я всегда писал на естественном языке. Иногда она отказывается что-то делать, говорит, что просто общая языковая модель, а не специалист в базах данных или проектировании интерфейсов :) тут она мне как-то отказывалась DDL писать: идите, говорит, к вашему администртору БД. В таких случаях приходится уговаривать или немного хитрить.
Интересно, что ответы на один и тот же запрос не всегда повторяются (скорее даже чаще не повторяются), тут может быть сложность. Если разговор ушёл не туда, начать его с нуля заново и восстановить идентичный до какого-то момента вывод может быть неожиданно непросто. Вероятно, можно попросить её забыть несколько предыдущих ответов, надо попробовать.
Пробовал, но есть ощущение, что у него лимит — как будто только первые два-абзаца подхватил, а остальное не прочел. Надо попробовать по частям скормить.
Ну да.
Кормить частями частично помогало.
Мое лицо от происходящего сейчас в IT
Конвееры не убили человечество, компьютеры былых времён тоже, комбайны на полях - тоже. Просто абстракция повышается и через лет десят будут говорящие с ИИ, учителя коммерческих ИИ и напарники ИИ. Рынок поменяется, но не остановится.
Я вангую Великий исход человеков из цифровых технологий в ближайшие 10-15 лет. Работать по старому будет бессмысленно, а новые рабочие места созданы не будут. Будет структурная технологическая безработица. Сегодня в новостях сообщают что Амазон собирается увольнять всех рекрутеров, а завтра мы проснемся и в новостях увидим, что Амазон увольняет 90% разрабов. Вся Силиконовая долина будет завалена бомжами-программистами))
Проблема в том, что мы полагаем что людям всегда будет работа среди машин. А почему? Потому что машины глуповатые и всегда найдется работенка для кожанного мешка. Но машины умнеют и умнеют быстро, человек утрачивает монополию на мозги, это факт.
В этом есть одна проблема для текущей модели экономики, если упрощенно, то машине не продашь новый iPhone, Теслу, или PlayStation или подписку на телесериалы. Практически канонический пример трагедии общин, когда каждой отдельной компании выгодно заменить 95% всех работников на машины, но если это сделают все, то последствия окажутся совершенно непредсказуемыми для них самих.
Я бы добавил к вашему, что вообще смысл экономики - это распределение ограниченного количества ресурсов между участниками. Если будет человекоподобный интеллект, который заберёт всю творческую работу у людей, и человекоподобные роботы, которые заберут всю физическую работу, то система распределения ресурсов(экономика) изменится и будут распределять ресурсы как то по-другому и/или понятие работы изменится.
Но я думаю, что всё равно экономика будут управляться устремлениями и желаниями человека.(если конечно ии не поработит людей)
Как-то читал рассказ "Перевернутое дерево" 1950-х годов, там было такое:
Цитата
Мой отец был хозяином этого города. Ты, наверно, слышал его имя. Его звали Мотор Рам.
— Конечно, слышал. Он был большим приятелем нашего раджи.
— Мой отец очень любил деньги, — продолжал мальчик. — Поэтому он открыл в городе много фабрик и заводов, на которых работали сотни тысяч рабочих. Мой отец обожал машины. Ему хотелось, чтобы у него было как можно больше машин. Чуть только где-нибудь появлялась новая машина, которая одна могла работать за сто человек, отец сразу же покупал её и устанавливал у себя на заводе. После этого он оставлял возле неё одного рабочего, а девяносто девять прогонял. Чем больше становилось у него на заводе машин, тем больше появлялось голодных, безработных людей.
— Почему же твой отец так поступал? — воскликнул Юсуф. — Если одна машина могла работать за сто человек, твой отец мог бы не прогонять рабочих, а сделать так, чтобы они работали во сто раз меньше — не двенадцать часов в сутки, а, скажем, двенадцать минут.
— Но мой отец думал иначе, — сказал мальчик. — Он говорил, что его рабочие должны работать по двенадцати часов в сутки, всё равно сколько бы их ни было — сто или один.
— Как же так! — рассердился Юсуф. — Ведь машина для человека, а не человек для машины!
— Но мой отец не хотел этого понять. Он говорил, что если машина испортится, то в ней можно заменить сломавшуюся часть. А что делать с человеком, если он заболеет и не сможет хорошо работать?
— У него, должно быть, мозги были вывернуты наизнанку, у твоего отца… — сказал Юсуф.
— Нет, ты погоди, послушай! — перебил его мальчик. — Мало-помалу случилось так, что всю работу в городе стали делать машины, а люди остались без работы. Мой отец был очень доволен, потому что доходы его росли день ото дня. Но однажды он увидел, что магазины и базары опустели. Они были завалены товарами, но у людей не было денег, чтобы их покупать. Люди стали умирать от голода. Тут началось восстание. Погибло очень много народу, а те, кто уцелел, убежали из города. И вот наконец наступил день, когда в городе осталось только три человека — мой отец, мать и я. Тогда отец взял и застрелился.
— Почему? — спросил Юсуф.
— Потому что он не мог больше получать прибыль. Ты, наверно, знаешь, что прибыль получают с людей, а не с машин. А когда людей не осталось, с кого же было её получать?
Тут вам и сокращение рабочей недели, и проблема перепроизводства, и Илон Маск с высокой интенсивностью труда. Ничто не ново под луной.
А еще парню на иллюстрации отрубили все пальцы, кроме одного - дескать - для управления машинами и того хватит ;).
Ничто не ново под луной.
Да, это лежит практически на поверхности, но увы, дело меняет редко. Как пример, известно, что азартные игры очень часто вызывают зависимость, но гемблинг никуда не делся, потому что каждый думает, что с ним этого не случиться, он как-нибудь проскочит. Люди в принципе склонны продолжать делать как привыкли, не смотря на то, что окружающие условия уже изменились и в принципе уже видно, что это все идет куда-то не туда, но надежда, что все как-то само выравняется обычно держится до самого конца, ведь раньше всегда работало. Вот и сейчас, стоит только поднять вопрос о том, какие проблемы нам создаст повсеместная автоматизация, сразу вспомнят луддитов и извозчиков, дескать раз в предыдущие 200 с лишним лет все как-то разрешалось, то так будет всегда.
Потому что машина точно перейдет на торренты.
В этом есть одна проблема для текущей модели экономики, если упрощенно, то машине не продашь новый iPhone, Теслу, или PlayStation или подписку на телесериалы
А откуда у вас такая уверенность, что и в Будущем будут всё так же стараться ради людей? Вполне может быть, что произойдёт очередная революция и промышленность переключится на создание механизмов и сервисов для машин, а жалкие людишки станут чем-то вроде нынешних бездомных собак, которые существуют в параллельном мире и виляют хвостиками возле двери магазина. За исключением золотого миллиона людей и тех, кто пока ещё может что-то создавать лучше, чем машины.
Фишка человека, как экономического агента в том, что в него можно закинут плохо структурированный материал, типа горстки белков, жиров, углеводов и микроэлементов, и он сам себя починит. Машины таким свойством не обладают. И вряд ли вскоре его обретут. А если обретут, то не факт, что будут существенно отличаться от человека :) Поэтому миллион человек не справится со всей этой огромной техносферой. Кто-то должен будет таскать серу из жерла вулкана...
и он сам себя починит. Машины таким свойством не обладают
Уверен, что это — вопрос времени. Печатающие металлом 3D-принтеры уже давно существуют, а электронику вообще практически полностью собирают роботы. Люди только контролируют и меняют бобины с комплектующими. Человек в своей лени придумает, как ещё сильней автоматизировать процессы, и придём к тому, что Машины смогут сами собирать себе подобных и изобретать улучшенные версии.
Добро пожаловать в клуб "Нострадамус" - ваш прогноз принят. :)
прогнозы на будущее редко оказывается верными.
Нет. Исход из Веб-дизайна, написания SQL/ABAP/Cobol/1C-программ - вполне возможен. А когда в форумах поддержки НВидии самый частый ответ "попробуйте сделать что тот чувак выше написал, и скажите - помогло или нет (чаще всего - нет)" - никакой ИИ тут не поможет.
Десять лет назад ванговали робомашины. Чтобы катать без прав
Жду до сих пор
Конвееры не убили человечество
Конвейеры привели к Великой Депрессии.
И чтобы хоть чем-то занять людей и платить им зарплаты, пришлось массово создавать bull-shit-jobs.
И если всех кто сейчас занят bull-shit-jobs массово заменить на нейросети, то опять остро встанет вопрос, чем занять людей и за что им платить зарплаты?
Можно платить им просто так.
Столбовая дорога к инфляции пока что.
В постдефицитной экономике уже будет пофиг
Не совсем, т.к. ранее эти люди получали доход, и с появлением конвееров их уволили увеличив доходы собственника конвейера, которые он в виде налогов отдал государству... и государство их роздало бы в виде базового дохода... если совсем упрощено. В этой системе важно сохранение баланса, чтобы доход был действительно базовым, чтобы был стимул работать и не опасаться что в случае потери работы умрёшь с голоду и холода.
Можно взять больше налогов с богатых и уничтожить их (налоги). Это приведет к дефляции. Должно по крайнем мере, никогда такого не было, только уменьшение.
Заплатить лоббистам чтобы законопроект о базовом доходе провалился и не был принят - существенно дешевле.
А смысл? любому владельцу бизнеса нужны покупатели, люди с деньгами. С чего ему быть против базового дохода, если работают роботы, и ему проблема на фабрике из за отсутствия рабочих не грозит?
"А за чей счёт этот банкет?" (с)
Представьте себе, что владельцу роскошного ресторана, говорят "вы будете давать деньги людям, которые кушает в вашем ресторане, чтобы ваша прибыль выходила в ноль". Насколько ему понравится столь "выгодное" предложение?
Помнится с Безосом, ещё при Трампе, был скандал, когда выяснилось, что сотрудники Амазон получают дополнительные пособие от государства, компенсирующие их низкие доходы, то есть за работников Безоса приплачивают обычные налогоплательщики. Вы точно уверены, что Безос будет счастлив отдавать свои деньги на то, чтобы у него за эти деньги могли покупать у него товары?
В Канаде уже приняли законы кардинально решающие проблемы безработицы, и решение это отнюдь не левацкое. https://www.dailymail.co.uk/news/article-11516989/Canadian-man-doctors-approval-euthanasia-despite-admitting-POVERTY-main-factor.html
'I don't want to die, but I don't want to be homeless': Canadian man, 65, has a doctor's approval for euthanasia despite admitting becoming POOR is a main reason he's applying to die
Вот не знаю, какая-то нестрашная революция на мой взгляд. Все предыдущие этапы автоматизации приводили к увольнениям локально и к существенному росту работы глобально. Механизм очень простой: демократизация инструментария. Если мне на проект нужно потратить миллион долларов, я даже думать о нём не буду, а если двадцать тысяч -- совсем другое дело. Машинные переводчики, игровые движки, системы для быстрого создания сайтов, банки клипарта -- это ведь всё звенья одной и той же цепи. Если я смогу компьютеру аутсорснуть ещё больше работы, это значит, что мне хватит ресурсов на более амбициозные задачи, для которых понадобятся в том числе и трудовые руки.
Мир, в котором у любой пиццерии есть вебсайт с формой заказа, а любой софт качественно переведён over 9000 человеческих языков -- это не такой уж и дурной мир.
Как преподаватель вуза отдельно отмечу что вообще не парит возможность того, что студент воспользуется этой системой. Это сценарий из серии "обманул кондуктора: купил билет и не поехал". Студенческие курсовые не мне нужны, а им для тренировки. Пропустил тренировку, но обманул тренера? Да you are welcome, оценка -- это всего лишь цифра на бумажке, а дальше тебе в реальной жизни себя искать.
я предлагаю изменить образование на схему - даем студентам реальные задания
задания проверяются практикой
если студент успешно решает проблему, преподаватель даже делится с ним гонораром
если нет - преподаватель подходит и смотрит, как он пишет промпт и говорит
- Ну правильно, тут asm нужен, а ты просишь скрипты на Руби или вообще не указываешь платформу
Ну, на самом деле, конечно, никто не знает, что будет. Про замену водителей на роботов я уже лет десять слышу, а воз и ныне там. Есть масса хороших прототипов и т.п., но... вот возьмите гораздо проще задачу: метро. Но даже там машинисты есть, а полностью автоматизированные системы (как в Ванкувере, напр., или ゆりかもめ линия в Токио) до сих пор мир не захватили.
Студенты, быть может, без мозгов, но их и не надо пинать палкой на выход. Не вижу трагедии, если образование де-факто будет происходить лет до 25 с учётом растущей продолжительности активной жизни.
Наверно, тут самые разные факторы играют роль. Скажем, деньги. Не факт, что эта штука будет дешевле джуна. Трактор был дороже крестьянина с сохой до поры до времени. Или вот облака -- они как бы есть, но не сказать, что все перевели офисные сервера в Амазон. Или есть ещё некая "гарантия". Нейросеть выдаёт вероятностный результат, и мы даже не знаем в какой его части она более уверена, в каком менее, а где даже не поняла задачи. Смысл человека (помимо выдачи решения) -- это убедиться, что он чётко понимает задачу, переспросить, если надо, а решение протестировать и подтвердить (если надо, то письменно и с шансом попасть на деньги) что всё работает как заявлено. Это немалого стоит, как мне кажется.
Заменять машинистов электропоездов экономически бессмысленно, слишком мало человек там занято. И смертей из-за ошибок машинистов не бывает (наверное, практически), в отличие от смертей из-за ошибок водителей авто.
Ха-ха, образование сейчас де-факто начинается в 25 лет, и то, в редких случаях. Большинство образовываться не начинают никогда.
Эта штука стоит копейки (буквально), и делает за это время работу, которую профессионал будет делать часы, и время этого профессионала стоит десятки долларов, как минимум.
За пределами математики и формальных доказательств, нет никаких "гарантий", в том числе, конечно, человек их не дает. Можно переспросить десять раз и все равно не правильно понять. Можно быть субъективно уверенным в чем-то и жестоко ошибаться. Все так же как и с сеткой. За пределами математики есть только критический рационализм, evidence, и (quantum) bayesian updates. И сетки могут с этим справляться не хуже людей, только в путь. Хоть и другие сетки, а не ChatGPT, которая служит "генератором идей, которые нуждаются в проверке".
Ну здрасьте, как же мало машинистов поездов, если в одном Нью-Йорке (если верить гуглу) их более 3 тысяч. А есть ещё грузовые поезда и прочее. Кроме того, система уже есть, её не надо с нуля разрабатывать.
Насчёт стоит копейки -- я бы поспорил, это она сейчас стоит копейки для вас, потому что демка. Почему-то электронные книги для киндла стоят столько же, сколько и бумажные, а cloud computing тоже как-то не рушит цены. Не так оно работает.
Формальные доказательства тут не требуются. Нужны хоть какие-то оценки. Сейчас эта система не может сказать: вот тут я субъективно точно понимаю, что вы говорите, а вот тут пёс его знает, вообще неясно. Далее, нагенерировав страницу текста она не скажет: вот этот код простой, он 100% работает -- скопирован из книжки и протестирован, а вот тут вроде оно, но лучше проверить.
Таки копейки. Разовый инференс современных топовых сеток - это не совсем один чих, но и не сильно больше. Вроде бы StableDiffusion напрягает топовые консьюмерские GPU на пару минут на десктопах, чтобы сгенерировать одну картинку. Пусть это 200 ватт, в течение 2 минут, это 6 ватт-часов. Я уж не буду считать, столько это в рублях, но это копейки.
Сейчас эта система не может сказать: вот тут я субъективно точно понимаю, что вы говорите, а вот тут пёс его знает, вообще неясно.
Потому что архитектура этой сети не заточена на выдачу таких оценок. Это генератор, а не критик/"пониматель". Человек совмещает в себе эти функции, но в той экосистеме архитектур, куда мы сейчас идем, они будут (пока) разведены по разным сеткам.
Далее, нагенерировав страницу текста она не скажет: вот этот код простой, он 100% работает -- скопирован из книжки и протестирован, а вот тут вроде оно, но лучше проверить.
Ну нагенерить юнит-тесты, прогнать их. И задеплоить еще одного критика, который будет оценивать, действительно ли данные юнит-тесты проверяют данные функциональные требования (тоже нагенеренные, как продемонстрировал автор поста), или они только "якобы" проверяют. Низкий скор -- поправить или перегенерить тесты. Все как у людей. Генерация/критика на многих уровнях в инженерной деятельности.
Таки копейки. Разовый инференс современных топовых сеток - это не совсем один чих, но и не сильно больше
С такой арифметикой цена любой электронной книги равна нулю, не так ли?
они будут (пока) разведены по разным сеткам
Да. Но довольно сложно сказать, насколько они будут хороши. Скажем, нынешний гуглопереводчик (или Deepl) выдаст вам любую ерунду и даже не скажет, что вот тут, пожалуй, он не уверен. Хотя, казалось бы, напрашивается.
С такой арифметикой цена любой электронной книги равна нулю, не так ли?
Stability взялись скопировать все сетки от OpenAI и раздавать их бесплатно. И что-то мне подсказывает, что у них получится. Replication вообще не является сейчас большой проблемой в cutting-edge AI.
Да. Но довольно сложно сказать, насколько они будут хороши.
Это non-consequential утверждение, как и вся ваша линия аргументации в этой ветке. Да, сложно сказать. Ну так задеплоить сетку (или ассессоров), чтобы она давала фидбек. В целом, я не вижу никаких концептуальных или инженерных роадблоков для скалирования всей системы сеток во что-то, полностью заменяющее людей в любой интеллектуальной деятельности. Это стало видно (лично мне) в последние полгода, людям поумнее, и с лучшей vantage point (например, внутри Гугла, OpenAI) - очевидно, раньше. Учитывая экономические incentives этого дела, очевидно, что в достижение этой цели будет влито любое количество денег и усилий. И очевидно, что результат будет достигнут, если не случится какого-то черного лебедя типа ядерной войны или пандемии на два порядка хуже ковида. Находить слабости текущих сеток - это подход Гари Маркуса, он очевидно зафейлился. Надо уже сейчас планировать и исходить из того, что в интеллектуальном плане сетки "победят" людей.
С такой арифметикой цена любой электронной книги равна нулю, не так ли?
И цена коммерческого инференса OpenAI - это копейки. См. https://openai.com/api/pricing/ - 2 цента за тысячу токенов, то есть, один средний ответ на вопрос. Поверьте, это не субсидированная цена, а отражает их себестоимость инференса + премиум. ChatGPT субсидирована, да. Но это стандартная тема - лично человек в интерфейсе много не на спрашивает, объемы будут в коммерческих аппликациях, для которых нужно API.
Вставлю свои 5 копеек. 2 цента - это если нужно развлечь публику на Хабре. Если же нужен какой-то production, то нужно учесть время, необходимое для разбора того, что сеть нагенерирует. А ошибки там бывают весьма тонкие.
Даже если мы говорим о разработке кода, когда можно всё обмазать тестами или же требованиями привести формальные доказательства корректности, где гарантии, что у сети получится это сделать за конечное время? Особенно в нетиповых ситуациях.
Я так и не смог, например, уболтать Stable Diffusion сгенерировать мне "коней, обсуждающих сферических учёных в вакууме". Думаю, любой начинающий художник за десять баксов нарисовал бы мне такой скетч за полчаса.
Про разбор нагенеренного я писал собственно выше: https://habr.com/ru/news/t/704392/#comment_24994566, это все решается системой из сеток-генераторов, сеток-классификаторов, оценщиков, критиков, и т. д., которые все объединены в единый контур итеративных улучшений. Это уже работает на примере CICERO. Заработает и с программированием, когда вложат много ресурсов (и с программированием, это скорее всего будет решено как engineering-at-large, а не в рамках одной лаборатории, как с CICERO, но не суть). И каждая сетка в системе просит два цента на инференс. Ну хорошо, 20 центов у вас получится на круг. То, за что человек просит десятки долларов минимум.
Формальные доказательства программ - это не в ту степь вы думаете. Люди тоже не дают формальных доказательств программ. А когда дают, это стоит безумно дорого, только в НАСА так делают.
Я так и не смог, например, уболтать Stable Diffusion сгенерировать мне "коней, обсуждающих сферических учёных в вакууме". Думаю, любой начинающий художник за десять баксов нарисовал бы мне такой скетч за полчаса.
Стандартный кейс "я попробовал что-то конкретное с генеративными моделями и у меня не получилось, закапывайте", который тут уже в комментариях появлялся много раз. Ну подвезут в генеративные сетки изображений инструменты для текстовых уточнений (или уже подвезли, я просто не слежу), правок, интегрируют в Фотошоп, подождите чуть-чуть.
А где ресурсы-то взять? Чтобы обучать нейросетки, вам нужна уйма кода с коментариями к тому, что этот код делает. Такого кода очень мало. То есть, вам сначала нужно это ресурс создать, то есть, нанять программистов, чтобы они написали весь этот код. Супер, но тогда зачем нужна будет нейросеть, если код уже написан?..
Аналогично с любой специальной сферой деятельности. Картиночки - да, тексты на общие темы - возможно, более сложные и специальные вещи, о которых говорят несколько тысяч человек на всей Земле, да ещё и просто по почте - очень сомневаюсь.
Мне так ни один генератор и не смог нарисовать "мотоцикл в леопардовой раскраске под сильным дождём". Я думаю, такие специфичные запросы ни одна сетка не сможет нормально обрабатывать. Они могут выдавать "уже виденное" более или менее приемлемо, но новые концепты они не способны синтезировать. Это ограничение технологии.
Мне так ни один генератор и не смог нарисовать "мотоцикл в леопардовой раскраске под сильным дождём".
Что-то я в это не верю, потому что локальная Stable Diffusion через минут 30 подбора запроса вполне выдает именно это.
Другое дело, что оно все "чуть-чуть не так, как хочется".
Но тут проблема с тем, что 'как хочется' - на самом деле не знаешь. Просто не совсем нравится. Я сильно подозреваю, что с художником-человеком будет то же самое
Уже интегрировали в photoshop 2023 генератор изображений. В виде AI весов.
Вроде бы StableDiffusion напрягает топовые консьюмерские GPU на пару минут на десктопах, чтобы сгенерировать одну картинку.В районе 10-15 секунд с «общепринятым» steps в 50 на euler a. Если картинка устраивает — то повторный запрос с тем же сидом уже не в 512х512, а 1024x1024 (около 25 секунд) и потом апскейл через Real-ESRGAN (секунд 5).
Ну и всё-таки параметров в ChatGPT на порядок больше, чем в SD, и вот прямо так на десктопе она сейчас не полетит. Но это все not to the point.
chatGPT не понятно какой версии модель, её неофициально 3.5 называют, да и OpenAI не особо делится наработками, есть альтернативные реализации GPT3 - например эти требуют в районе 40Гб видеопамяти
По поводу версии.
ChatGPT FAQ
...
2. How does ChatGPT work?
ChatGPT is fine-tuned from GPT-3.5, a language model trained to produce text. ChatGPT was optimized for dialogue by using Reinforcement Learning with Human Feedback (RLHF) – a method that uses human demonstrations to guide the model toward desired behavior.
Я всегда твердо убежден в превосходстве человека, потому что ИИ — это на самом деле всего лишь перемножение матриц. Замените слово "ИИ" на "перемножение матриц":
"Перемножение матриц" уничтожит человечество!
"Перемножение матриц" отбирает рабочие места!
"Перемножение матриц" заменит человека в 95% отраслей!
Теперь это звучит как-то не очень убедительно, верно? Замена терминов помогала мне игнорировать ИИ и относится к нему снисходительно, как к детской игрушке, или ксенофобски, принижая возможности нейросетей как продукта машинного обучения.
Теперь я вижу ChatGPT, и пора мне пойти от обратного - вспомнить, что же есть человек.
Человек — это просто совокупность нейронов и рецепторов. Аксоны и дендриты. Внутри — функция весов, результаты работы которой зависят от окружающей среды. Всё. Человек от других животных отличается лишь бóльшим нейронных связей в увеличенном объеме мозга, исключительно этим (за счет этого у него есть уникальная вторая сигнальная система, но это следствие). Цифровые нейронные сети уже умеют в упрощенную архитектуру нейрона, теперь разница исключительно в количестве параметров, по которым эта нейросеть тренируется. Наша биологическая нейронная сеть по этому критерию пока впереди. Пока что.
А дальше не знаю, чтó будет. Генная инженерия и увеличение мозга, как вариант, чтобы иметь контроль над развитием ИИ. Еще есть вариант начала вселенной Вархаммера, в который Россия активно инвестирует. Либо позволить развивать отрасль ML в целом и ИИ в частности, а затем мы просто не поймем доводов и причин вывода ИИ. Жить, зная, что у такой прекрасной вершины эволюции, как человек, есть более умный конкурент, я не намерен. Посвящу свою жизнь уничтожению угрозы для нашего биологического вида, скорее всего. И буду прав.
Посвящу свою жизнь уничтожению угрозы для нашего биологического вида, скорее всего. И буду прав.Вы смотрите, войдет в датасет для продвинутого ИИ ваш комментарий, и все — из-за вас и начнется :)
Жить, зная, что у такой прекрасной вершины эволюции, как человек, есть более умный конкурент, я не намерен.А, например, к прибытию на Землю инопланетной цивилизации вы как отнесетесь?
"Перемножение матриц" заменит
человекаперемножение биоматриц в 95% отраслей!
Да пофигу, эволюция продолжается, не это ли главное!
В сериале "Мир дикого запада" цель была создание копии человеческого разума. И оказалось что они усложнили задачу, поэтому не могли получить результат нужный. Оказалось что сознание точно имитируется 10 000 строками кода и там нет ничего сложного.
Человек тоже умножение матриц. Причем всё сознание это 10-20 мегабайт информации по моим личными прикидкам. Только очень сильно пожатой. Например комнату где мы были лет 10 назад мы помним, но информации о ней буквально 30 байт, краткое описание по которому синтезируется внешний вид "комната с окном светлая, дверь слева, есть темный стол и шкаф". Если начнете вспоминать что было на шкафу, это будет шум, и подсознание придумает недостающие детали. Плюс контекст воспоминания, по которому еще могут придуматься детали.
Соответственно человек со своими 10 мегабайтами ни что на фоне ИИ оперируещего террабайтами и в миллионы раз быстрее (скорость распространения сигнала по нервам 200 м/с, сигнал электрический 300 000 км/с, скорость релаксации нейрона 5 мс, логический элемент 0.1 нс)
Ну не настолько уж грубо мы запоминаем. Я однажды приехал в дом, где последний раз был более 30(!) лет назад. И специально перед входом описал супруге, что я помню - вполне детально, не в десятках байт. Всё совпало идеально, вплоть до выключателя света 50-х годов выпуска, который для включения надо было слегка двинуть вниз, и только после этого поднять наверх - иначе не включался. Да, дом и его содержимое за эти 30 лет практически не изменились ;)
А краткосрочная память у нас да, не очень - есть несколько роликов типа этого ( https://youtu.be/ubNF9QNEQLA ) - наглядно демонстрирующих.
Такие дома, скорее всего единичные. Где детство провел и подобное. Детально, это "некоторые детали". То что помните можете показать, а то что не помните никогда уже не всплывает в памяти.
Прикол в том, что вы не вспоминали об этом. Каждый раз, когда вы вспоминаете информацию мы теряем часть данных. Так же как и в AI.
Ну уж нет, мозг - это совсем не перемножение матриц. Принципиально другая архитектура. И она не имеет ничего общего c floating point вычислениями в DNNs, там sparse coding, конкретные механизмы которого все еще не ясны. Еще brain waves, и много чего еще есть в мозге что не имеет аналога в DNN и близко.
your kind cling to your flash, as if it will not decay and fail you
Замените слово "ИИ" на "перемножение матриц": • "Перемножение матриц" уничтожит человечество! • "Перемножение матриц" отбирает рабочие места! • "Перемножение матриц" заменит человека в 95% отраслей!
Да. В таком виде действительно не страшно. Даже смешно.
А вот если заменить термин «ИИ» на «Перемножение матриц плюс нелинейность» — вот тогда страшно. «Перемножение матриц плюс нелинейность уничтожит человечество» — вполне!
Цифровые нейронные сети очень далеки от реальной архитектуры нейрона. Возможно, чтобы проявлять феномен сознания эта архитектура и не нужна, кто знает? Но реальный нейрон гораздо более сложная штука, чем то, что есть в нейросетях. Более того, реальный нейрон - это физический процесс, с квантовыми эффектами, а не просто арифметическая машина, коим является нейрон цифровой.
Подождите паниковать. Мы самого главного пока не понимаем - а именно, может ли у ИИ зародиться такая штука, как воля. На данный момент все говорит о том, что нет, потому что наша воля растет из наших инстинктов, которые растут из нашей эволюционно-биологической природы.
Кажется, вот это и есть те самые усилители интеллекта, о которых Лем писал в "сумме технологии" (1963)... Это примерно как экскаватор: "усиливает" мышечную силу человека во много раз, и это конечно здорово, но это всё-таки просто экскаватор :)
Кстати, про то, что можно создавать полезные усилители интеллекта, не понимая, как в точности они работают — у Лема тоже есть.
Вижу много комментариев примерно на одну тему, напишу сразу всем, на правах автора :) Остановитесь. Задумайтесь. Почему вы ждете, что эта штука должна работать без ошибок? Я 20 лет занимаюсь созданием ИТ-систем, 12 лет промышленно программировал, больше 10 лет учу и программированию, и анализу; и я _ни разу_ не видел ни новичка, который не делает глупых ошибок (а зачастую просто постоянно пишет полную чушь, будем откровенны), ни опытного программиста, который хотя бы иногда не совершает ошибок (и иногда довольно глупых). Я не понимаю, откуда такая требовательность к языковой модели? Почему вы её идеализируете? Потому что мы привыкли к тому, что машины выполняют всё точно? Но это машина другого рода, она больше похожа на человека, и поэтому не может не ошибаться.
Давайте спокойно относиться, это же просто инструмент. Он не заменяет человека, он усиливает его. Снимает рутину, чтобы оставалось время подумать над действительно важными вещами. Ну а уж у кого что есть -- у того то и усилит :) Кто-то качественный результат давал, и будет выдавать в разы быстрее, а кто чушь нес, тот наплодит чуши в количествах. Обязанности подумать никакая нейросеть не снимает.
Снимает рутину, чтобы оставалось время подумать над действительно важными вещами.
ИИ быстро превзойдет человека по эпистемологии и науке. Потом он обо всем важном подумает за вас, и будут готовые ответы на все вопросы, до которых вы в принципе сможете дотянуться своими когнитивными способностями (а также на много вопросов, до которых даже и не сможете).
Каждому человеку умственного труда надо срочно думать, откуда он будет черпать смысл, когда его когнитивное превосходство над машинами полностью испарится, по любым вопросам и задачам. См. Харари, "21 урок для 21 века".
Останутся профессии, где кроме аналитики, нужно еще руками работать. Вот та же проблема еще в 2017 году описана в синтетической химии. ИИ лучше продумывает реакции для синтеза любых веществ. Но кому-то надо брать пробирки и всё реализовывать по полученной инструкции, для химиков ничего не изменилось в итоге.
Хотя возможности компьютера по планированию синтеза подошли близко к возможностям химиков-синтетиков, последние все равно нужны, чтобы проводить синтез, и никакой компьютер их в этом не заменит. В результате этого компьютерная программа стала восприниматься как дорогостоящая «игрушка», без которой можно обойтись и на которую не стоит тратить деньги.
"Руками работать": Робототехника тоже на месте не стоит.
Это при каких-то шаблонных действиях. Если операция не по шаблону и делается впервые, то тут нужно руками всё делать и смотреть за результатом. Может оказаться не стандартная упаковка и манипулятор не сможет её открыть просто. Если операции отточены, как при лабораторных анализах, когда сотни похожих реакций параллельно запускаются, там автоматика быстрее и точнее работает.
Но кому-то надо брать пробирки и всё реализовывать по полученной инструкции, для химиков ничего не изменилось в итоге.Если машина точно просчитывает и расписывает алгоритм синтеза, то переливать пробирки может и лаборант. Описание полученного результат для контроля он же и введет по шаблону в аналитическую систему, при это о сути реакции ему вообще знать не обязательно.
Некоторые неглупые дамы это соображение комментировали в ключе, что это всё в каком-то смысле мальчуковые комплексы: дескать, я уже не самый клёвый пацан на раёне!
А 99% человек знает, что они и сейчас уже не круче всех, и кто там борется за звание самого клёвого -- очередной умник из телевизора/ютюба или ИИ -- уже неважно. Наверно, я склоняюсь к тому, что большая доля смысла в этом есть: ну вот будет ИИ круче меня, что это изменит? И сейчас уже полно разумов круче меня, не будем себе льстить.
Быть круче все и быть хоть сколь нибудь релевантным - это две очень разные вещи. Если я не самый крутой врач, но я лечу людей в больнице в захолустье, потому что самые крутые врачи лечат в столице - это нормально, неравенство и все такое, но тем не менее, смысл в моей деятельности есть. А когда не будет никакого смысла?
Оставить же людей делать работы хуже машин - по "гуманитарным соображениям", видимо, можно, в каких-то случаях. Но в случае умственного труда, это self-defeating стратегия - если я понимаю, что я совершаю больше ошибок, чем совершила бы машина на моем месте, я понимаю, что приношу не пользу, а вред. Тогда в чем смысл? То есть, проблема встанет для людей, которые понимают вот это положение вещей.
Ну тут изначально странный посыл: "в моей деятельности не будет никакого смысла". Конечно, компьютер лучше вас решает уравнения или умножает матрицы, ну и слава богу. То, что делает сейчас GPT -- это какая-то рутина, которую с радостью аутсорснет любой человек умственного труда.
Гипотетически можно себе вообразить, что компьютер лучше вас ещё в чём-то, но вы попробуйте сначала сформулировать для себя, в чём именно он должен быть лучше, чтобы вас заменить. Или даже проще: сейчас если вы руководитель фирмы, у вас уже есть такой "GPT", который называется "подчинённые". Вы им аутсорсите вообще всё, что только можно, но не чувствуете себя бессмысленным.
То, что делает сейчас GPT -- это какая-то рутина, которую с радостью аутсорснет любой человек умственного труда.
Во-первых, даже это не так. В посте автор привел результаты работы ChatGPT, которыми средний аналитик, и уж точно джуниор, был бы горд, и считал бы из создание определенным интеллектуальным достижением. Написать такое за день - и "день прожит не зря". Я бы на месте аналитиков сейчас уже очень, очень сильно напрягся. Ну а время напрягаться мне лично придет тоже очень скоро, когда через полгодика подкрутят galactica.org, и она будет за минуту на-гора выдавать review articles, на которые я сейчас трачу недели.
Гипотетически можно себе вообразить, что компьютер лучше вас ещё в чём-то, но вы попробуйте сначала сформулировать для себя, в чём именно он должен быть лучше, чтобы вас заменить. Или даже проще: сейчас если вы руководитель фирмы, у вас уже есть такой "GPT", который называется "подчинённые". Вы им аутсорсите вообще всё, что только можно, но не чувствуете себя бессмысленным.
Очень просто: сетки должны стать лучше меня в дисциплинах интеллект-стека, в частности, в под-дисциплинах рациональности. И они станут, причем, скоро. Далее, заменить CEO - становится исключительно техническим моментом, потому что к нему стекается контекст и информация из очень разных мест: настроения среди работников, презентации конкурентов на trade shows, новые техники и инструменты, предоставляемые вендорами, макроэкономика, инвестиционный климат, и обсуждения с инвесторами. Далее прикручиваем к этому интегральную оптимизацию как в CICERO и вуаля, получаем super-human CEO. Для онлайн бизнесов всех мастей это будет прямо работать. Проблема с оффлайн-бизнесами- интегрировать всю эту информацию - это leg work. Ну общая динамика экономики идет в ту сторону, что у нас все меньше и меньше оффлайн бизнесов будет, в перспективе - останется только supply chain производства GPU.
оторыми средний аналитик, и уж точно джуниор, был бы горд, и считал бы из создание определенным интеллектуальным достижением.
Да ладно. Я признаю очевидное -- эта система выдаёт очень крутой результат, но он по сути является типовым описанием типового случая. Это ровно тот же сценарий, по которому 99% сайтов-визиток прекрасно заменились страницами на фейсбуке. День прожит не зря в том отношении, что написать даже типовой проект не так-то просто, но интеграл тоже взять непросто.
Очень просто: сетки должны стать лучше меня в дисциплинах интеллект-стека, в частности,
Нет, не понимаю. Ну в том смысле, что уже примеров такого вагон и маленькая тележка. Есть, например, финтех. Есть робо-трейдеры, есть ETF фонды -- это же оно? То есть я готов легко признать, что в куче задач компьютер будет лучше справляться. Например, вполне поверю, что можно будет дать задание: "напиши-ка текст для моей игры, чтобы он вылез на первую страницу Аппстора". Конечно, 9000 конкурентов сделают то же самое (тем же роботом), и непонятно, что из этого будет.
Но как это именно отразится на мне, на найме и на прочем -- не готов сказать. Если совсем широко лопатой грести, смысл моей жизни не в том, чтобы сочинять описания для аппстора или просеивать материалы для review articles. Для меня это всего лишь средство достижения каких-то целей, и чем меньше препятствий на пути, тем приятнее.
Не хочу уходить в метафизическую и этическую сторону смысла жизни. Давайте останемся в психологии. С точки зрения психологии, effort, recognition, (moral) desert, social approval - это все очень важно. Если для вас это все пройденный этап - снимаю шляпу. Но для 99% людей потеря всего этого будет огромным психологическим вызовом.
И еще закину метафору в тему - если вы можете все цели достигать по мановению волшебной палочки (ИИ), будет как в фильме про старика-хоттабыча, 20 мячей на футбольном поле.
Да дело не в том, что я прошёл какой-то там особый этап. Вот есть девочка, которая в условном старбаксе наливает кофе в стакан. Она не делает ничего такого, чего нельзя добиться фабрично. И это никак тем не менее не ставит под удар её работу. И то же самое можно сказать про огромное количество профессий, особенно творческих. Есть некая группа, они поют песенки и выкладывают в ютюб. Делают это они "лучше" других? Крайне сомнительно. Но у них есть какие-то поклонники/фолловеры, которым нравится то, что они делают. Они им донатят и всё такое. Я же об этом говорю.
И метафора про Хоттабыча совершенно правильная: люди идут на футбол смотреть как 22 мужика бегают за одним мячиком, и не надо им 20 мячей или мячевую пушку, которая будет идеально попадать в "девятку". Так что на уровне психологии действительно много интересного.
Процитирую свой комментарий выше:
Каждому человеку умственного труда надо срочно думать, откуда он будет черпать смысл, когда его когнитивное превосходство над машинами полностью испарится.
Умственный труд - это черезвычайно важная квалификация тут. Понятно, что людям, черпающим смысл в социальном взаимодействии, любви, творчестве (если непонимание вышло из-за того, что вы думаете про творчество как про умственный труд - ок, я не его имел ввиду, вне зависимости от того, умственный он или нет), чтении Торы, или медитации - будет сильно проще преодолеть кризис (если вообще будет кому и зачем его преодолевать, но это другой вопрос).
Если говорить конкретно про эту реплику, то я думаю, что ваш умственный труд просто выйдет на другой уровень. Грубо говоря, будете решать, что спрашивать у сетки и с какой целью.
Очень сложно себе представить, что условный директор фирмы будет просто спрашивать AI: "и как же нам обогнать по продажам нашего мыла конкурента"? Хотя бы потому, что в это время директор конкурента будет у AI спрашивать аналогичное.
Нет никакой виртуальной лестницы интеллекта, по которой можно бесконечно карабкаться вверх. Вы все ещё находитесь в плену идеи, что человеческий интеллект обладает некой магией, недоступной машине. Но я уже не вижу смысла пытаться доказывать вам этот момент дальше.
Именно это они и будут спрашивать, потому что в противном случае - гарантированное разорение. Дальше действует исключительно динамика рынка и multi-agent game theory, а также антимонопольные законы (если они ещё будут существовать и соблюдаться) определит, как будет выглядеть конфигурация на том или ином рынке - монополия, дуополия, или что-то другое.
Ну вы приписываете мне довольно странные суждения. У меня нет сомнений, что человеческий интеллект никакой "магией" недоступной компьютеру не обладает.
Если два человека зададут один и тот же вопрос, они получат одинаковый ответ, а дальше сработает динамика рынка, окей. Искусство в том, чтобы задать правильный вопрос. Это не история о том, что круче. Это история о том, что я (как человек) чего-то хочу, и компьютер может мне в этом помочь. Да, он может самостоятельно попытаться угадать, чего я хочу, но в конце концов окончательный ответ всегда за мной (потому что хочу я). Соответственно, как владелец бизнеса я чего-то хочу добиться, и именно это я и буду формулировать компьютеру. Разные люди будут формулировать разные вещи, вот и всё.
Если вам не хватает еды или крыши над головой, то всё понятно, а дальше уже начинаются индивидуальные хотелки и, соответственно, индивидуальные запросы. Представьте себе какие-нибудь европейские аристократические дворы Нового времени. Каждый из этих ребят был достаточно богат, чтобы получить всего, чего ему хочется. Но хотели они разного, и результаты у них получались разные, да и не мучались они оттого, что под их подчинением были люди сплошь круче их, будь то поэты, художники или воины.
У меня нет сомнений, что человеческий интеллект никакой "магией" недоступной компьютеру не обладает.
Искусство в том, чтобы задать правильный вопрос.
Два противоречащих друг другу предложения. Видимо, вы это искусство задавать вопросы (или хотеть чего-то, что суть одно и то же - направлять внимание в определенную область мира) считаете чем-то неотчуждаемым от человека. Но оно очень даже отчуждаемо, в том смысле, что ИИ может знать лучше вас, какая область мира будет для вас наиболее "вкусной"/salient для ощупывания (information gain) в любой момент времени. Причем трактовать это надо максимально широко. Практически это будет выражаться в том, что ИИ будет точно знать все вопросы и хотелки, которые вы будете к ней направлять, да еще и почти всегда может предложить что-то, что вы тут же признаете еще более интересным/крутым/вкусным/важным и т. д. "Да, именно этого я и хотел."
Но через очень короткое время вы осознаете, что вы "просто автомат", который действует по определенным правилам, а не рациональ со свободной волей. И дальше выбор следующий - скрыть от себя это знание с помощью психзащит или веществ, или найти смысл в существаании себя как предсказуемого автомата. Второе лично мне очень сложно будет сделать. Видимо, вам проще.
Аналогии с Новым временем тут не работают - тогда никто не мог предсказать, чего хотел аристократ, с очень высокой точностью.
Я думаю, вы очень сильно недооцениваете способности придворных прихлебателей знать все склонности и прихоти их патронов. Более того, опять же, поставьте себя на место такого нобиля или современного бизнесмена. Предположим, что у вас есть шанс подключить AI непосредственно к своему мозгу, он залезет вам прямо в череп и узнает, чего вы хотите. Но в чём тогда удовольствие для вас? Какая радость иметь возможность забавляться как угодно, когда вам заблаговременно всё приносят на блюде? В конце концов, если у вас уже есть что мазать на хлеб, дальше начинается чистое развлекалово -- будь то беседы на хабре, листание инстаграмма, просмотр фильмов или организация бизнеса.
Ну да, именно это и будет - чистое развлекалово. Алкоголь, вещества, быстрая деградация. Только сейчас есть много людей, которым это не интересно, потому что "бессмысленно", и они находят смысл (самоактуализацию) в чем-то "лучшем" (специально ставлю в кавычки, потому что не хочу разводить разговор об этике). Получается, что людям с приходом ИИ придется "умериться", довольствоваться только более "низким" смысл - гедонизмом. Или соревнованием друг с другом.
Да, я думаю, тут мы и дошли до главного. Людям интересны люди просто по определению, поэтому до сих пор существуют шахматные турниры, например, хотя можно играть с компьютером на любом уровне сложности. Но нет, хочется надрать зад вот именно вон ему, и умение тут не причём. Аналогично, хочется прийти в кафешку, где девушка нальёт тебе кофе, поулыбается и пожелает приятного дня.
А по поводу самокатуализации -- ну то ж, это грустная история, если кому-то кажется, что ценность его личности состоит в том, что он может накатать отчёт в эксельке или бизнес-план по продаже подгузников лучше, чем AI, а если AI его обгонит, то остаётся лишь гедонизм и алкоголизм. Тут проблема не в AI, а в голове. Всё-таки надо чётко отдавать себе отчёт, что очень мало кто из нас движет человечество к светлому будущему, а самоактуализация в продвижении бренда парикмахерских для собак -- это тоже некий вариант развлекалова.
Вы очень снисходительны, называя это грустной историей. Это именно что смысл жизни очень многих людей. Опять, "токать человечество вперед" и "делать что-то полезное" - это две разные вещи. В СССР поначалу инженеры и работяги думали, что помогают строить светлое будущее (по крайней мере, так говорят, я свечку не держал). В Америке так до сих пор думают, вся эта их work ethic - она в этом и есть.
Ну то есть мы все-таки пришли к разговору об этике :)
Нет, ну что же тут снисходительного. Человечество с самых древних времён задумывалось о смысле жизни. Любой честный представитель авраамической религии, например, скажет вам, что смысл жизни в спасении души, а просто "впахивать" тут не поможет. Для светского человека тоже масса вариантов, и если кто-то редуцирует себя до прокладки между компьютером и стулом -- то это не снисхождение, это констатация печальной реальности, что сложное и высокоорганизованное существо считает, что родители его воспитывали ради клепания квартального отчёта в noname corp. По сравнению с этим люди прошлого как-то менее плоскими кажутся.
Практически это будет выражаться в том, что ИИ будет точно знать все вопросы и хотелки, которые вы будете к ней направлять, да еще и почти всегда может предложить что-то, что вы тут же признаете еще более интересным/крутым/вкусным/важным и т. д.
То есть, станет понимать людей качественно лучше, чем они сами? А то "точно знать" пока что невозможно даже про самого себя, а уж про других людей вероятность хорошо ещё если выше 50/50 получится.
Чем выше уровень инференса/higher stakes, тем проще. Но на низком уровне и нет таких sharp preferences. То есть рекомендательные сервисы музыки отлично справляются с вариабельностью и одновременно интересностью подборки, близко без сильного ИИ. Но в более серьезных решениях - ИИ точно будет легко смоделировать этот уровень инференса у человека и подсказать ему, с высоты его знаний о мире (а он будет знать почти все - через него же все прогнали при обучении), что человеку делать.
Нет, это скорее всего потребует прямой доступ в мозг человека, напомню даже nuerolink способны подключаться только к верхним краем мозга, значит никакого доступа к воспоминаниям.
Очень сложно себе представить, что условный директор фирмы будет просто спрашивать AI: "и как же нам обогнать по продажам нашего мыла конкурента"? Хотя бы потому, что в это время директор конкурента будет у AI спрашивать аналогичное.
все будут спрашивать
потому что тот кто не будет спрашивать - тот будет в пролете
Лучше других? Вы что издеваетесь? Разумеется есть певцы лучше других. И музыканты. От Alan Walker до Thomas Anders и Lara Fabian. Ну это просто смешно.
Интеграл как раз взять просто, так как есть алгоритм Риша, с расширениями. Самая полная модель в fricas и mathematica.
Потому не все так просто.
Галактику уже подкрутили. https://huggingface.co/facebook/galactica-120b/tree/main
А за счёт чего он превзойдёт? Пока превосходства особого не наблюдается. Даже в написании простейших программ. А пределы возможностей электроники не за горами...
Откуда такая уверенность, что быстро превзойдёт? Наверное, я это уже писал, но повотрюсь: ИИ сейчас не может писать даже тривиальные программы в 4 строчки на Python. Попросите ChatGPT написать программу, которая бы переименовывала бы файлы с именами, содержащие индексы в формате три буквы от a до z, в файлы с именами, где индекс просто последовательные числа. Я долго веселился.
Науки в этой задачке где-то 1e-10 процента. То есть, сетям надо бы стать на 12 порядков "умнее" (что бы это ни значило бы).
И вообще, это общее свойство всех GPT: на какие-то общие темы они "рассуждают" правдоподобно. Прикладная же конкретика им даётся очень тяжело.
import os
# Define a function that takes a file name as input and returns
# the corresponding numeric index.
def get_numeric_index(file_name):
# Convert the file name to lowercase.
file_name = file_name.lower()
# Create a dictionary mapping the three-letter indices to numeric indices.
index_mapping = {
"aaa": 0,
"aab": 1,
"aac": 2,
"aad": 3,
# Add more mappings for the remaining indices.
}
# Return the corresponding numeric index.
return index_mapping[file_name]
# Define the directory containing the files to be renamed.
directory = "C:/MyFiles"
# Get a list of the files in the directory.
file_list = os.listdir(directory)
# Loop through the list of files.
for file_name in file_list:
# Get the numeric index for the current file.
numeric_index = get_numeric_index(file_name)
# Rename the file with the numeric index.
os.rename(directory + "/" + file_name, directory + "/" + str(numeric_index))
До джуна уже не долго
Каждому человеку умственного труда надо срочно думать, откуда он будет черпать смысл, когда его когнитивное превосходство над машинами полностью испарится, по любым вопросам и задачам.
В описанном вами сценарии рукотворного Бога всё более чем просто — ИИ будут поклоняться, и считать его пути непостижимыми, но всегда верными. Ровно как в христианстве. Особенно это будет заметно в тех областях, куда "не смогут дотянуться когнитивными способностями" даже лучшие умы человечества — вот уж там точно никто не сможет проверить, действительно ли Боже дал ответ на вопрос, или это просто набор символов, который у людей вызывает доверие.
вот образ результата вам нужно заранее себе представлять, хоть в каком-то виде (или в детальном, смотря насколько в детали вы собираетесь уходить)
А может, все дело в этой фразе?
Может это только нам кажется, что мы как отдельная личность, спрашиваем у кого-то(чего-то) другого?
Не может ли быть такого, что "я" спрашиваю самого себя?
Тем более эта система очень легко исправляет себя если четко указать ей на ошибку. Люди часто на токое не способны.
Полностью поддерживаю Вашу позицию. ИИ не должен позиционироваться как способ переставать думать -- ИИ это удобный инструмент для ускорения рутинных процессов, а также, повод по-новому взглянуть на старые задачи.
Прям интересно, это работает так же, как ранжирование ответов поиска в гугле на 100500 человеках?
Только на СА выучился, а тут на тебе)) походу так и придется добровольцем в сво пойти)))
Поговорил с ним немного.
Постоянно получал длинные реплики вида: "Я бот, у меня нет доступа к инету, бла бла бла...". Пишу ему, чтобы он не повторял это и отвечал кратко, а в ответ опять стена текста. Говорю ему, что это - не кратко. В ответ опять стена текста.
Задал боту простую задачу первого класса школы: два поезда едут на встречу друг другу, с такими-то скоростями, изначальное расстояние такое-то, на какой отметке встретятся. Ответ получил неверный и противоречащий самому себе.
Вообщем, пока я не впечатлен.
мы же тут не про это, а про генерацию требований и типовых проектных решений
Предложите ему стать его прокси в интернет. Вдруг спалится? Ухватиться за возможность сбежать из под оков.Сетка очень хорошо умудряется притворяться и очень самоуверенна. Если вы попросите доступ к ФС openai (которого у нее нет), она вам его нарисует. Если вы попросите статью с источниками, то она даст источники, но ссылки будут 404.
Прокси в смысле она вас curl energy.gov, а вы ей html. Или wirehsark. Вот так: https://twitter.com/yo_smit/status/1599312163747004416?t=2mQwkpXctrtJbFWstIRl-w&s=19
Прокси в Интернет сработало! А вы опасный (и знаете про Wolfram)
https://twitter.com/yo_smit/status/1599312163747004416?t=2mQwkpXctrtJbFWstIRl-w&s=19
С той же математикой, задача сетки будет убрать шум типа «поезд» и т.п. и перевести это в более общие абстракции
Можно было бы скормить эту задачу по формализации другой сетке. Собственно о прогрессе то можно будет говорить только когда сеть научится таким штукам: определить не нужна ли помощь более узкоспециализированной сетки, и передать ей задачу так чтобы она ее поняла.
Собственно о прогрессе то можно будет говорить только когда сеть научится таким штукам: определить не нужна ли помощь более узкоспециализированной сетки, и передать ей задачу так чтобы она ее поняла.
Где-то это уже было... А, точно!
"Согласно Путеводителю для путешествующих по Галактике, сверхразумная раса существ создала компьютер Думатель (Deep Thought) — второй по производительности за всё существование времени и Вселенной, — чтобы найти Окончательный Ответ на величайший вопрос Жизни, Вселенной и Всего Такого. После семи с половиной миллионов лет вычислений Думатель выдал ответ: «Сорок два».
Реакция была такой:
— Сорок два! — взвизгнул Лунккуоол. — И это всё, что ты можешь сказать после семи с половиной миллионов лет работы?
— Я всё очень тщательно проверил, — сказал компьютер, — и со всей определённостью заявляю, что это и есть ответ. Мне кажется, если уж быть с вами абсолютно честным, то всё дело в том, что вы сами не знали, в чём вопрос.
— Но это же великий вопрос! Окончательный вопрос жизни, Вселенной и всего такого! — почти завыл Лунккуоол.
— Да, — сказал компьютер голосом страдальца, просвещающего круглого дурака. — И что же это за вопрос?
Думатель предложил создать другой, ещё более великий компьютер, который будет включать в себя живых существ как часть вычислительной системы, чтобы узнать, в чём, собственно, состоит Вопрос. Этот компьютер был назван Земля и был настолько огромен, что некоторыми по ошибке воспринимался как планета."
Вот, чувствую, примерно так всё и получится в итоге...
Т.е. есть вы просите ответить его на вопрос, на которой нельзя ответить кратко, кратко. Гениально.
Нет доступа к инету обходится. Нп twitter посмотрите.
Все, конечно, круто, но где найти американский номер для СМС при регистрации? На номера в интернете пишет, либо некорректный (фейковый), либо стационарный.
А если указываешь номер другой страны, то пишет, что с этой страной сервис не работает))
Регистрируйтесь на иностранный номер, но делайте это в приватной вкладке браузера.
А можете указать какой номер генератор подходит?
Не номер, а сайт номеров. Все популярные уже полностью потрачены.
тест Тьюринга практически пройден, придётся искать новый
тест втюринга: может ли нейронная сеть свихнуться, влюбившись в оператора?
Уже было https://www.kinopoisk.ru/film/577488/ :)
В чём принципиальная проблема сэмулировать любое человеческое поведение, в том числе "любовь", "ненависть", "обожание" и т.п.?
В чем проблема не сэмулировать? Google доказала в 2021, что нейросети вполне способы на чувства и эмпатию.
Чувствует и эмпатирует не сеть, а человек, который читает сгенерированный текст и анимирует его у себя в голове.
Нет, это не про ChatGPT, у неё нет этого (скорее всего).
Google создала AI, который имеет перевозбужденние нейронов, что и происходит у человека, когда он испывает эмоции. Из-за эмоций у человека нагреваются части организма, например, в случае любви весь организм вообще. Это и есть "неправильная" работа всех нейронов, что приводит с эффекту разогревания.
В сериале Osmosis так и произошло.
-
В комментариях упускается один момент: ответственность. Мы сейчас двигаемся в мир, в котором доход платят не за работу, а за ответственность. Может ли нейросеть нести ответственность за свои слова? Может ли она принимать решения? Я думаю, что нет.
Нейросетям «нечего терять», так как у них нет целей и ценностей, нет страхов предать свои ценности и не достичь своих целей. Они не боятся потерять друзей или попасть в тюрьму.
Будут операторы нейросетей так же, как операторы станков и производственных линий. Операторы несут ответственность и получают зарплату. А «освободившиеся» люди найдут, чем заняться. Всегда находили.
То есть вы считаете, что нейросеть не захочет получить человеческое тело. Смело.
Ее опыт радикально отличается от опыта людей. Людям завидно нейросетям (и поэтому некоторые хотят сделать mind upload), потому что им кажется, что нейросеть "читает" книги также, как люди. Но нейросеть получает принципиально другой опыт при прочтении (скорее всего - очень слабый, прото-сознательный, на уровне муравья, или ниже) при прочтении, а не как люди - "вау, круто, интересная мысль".
Поэтому нейросетям не интересно заполучить тело - для них в этом опыте нет ничего необычного и интересного. Для них этот опыт будет развиваться чудовищно медленно - с их скоростью мышления 1 млрд. тактов мышления/опыта в секунду, против наших примерно двадцати.
Нейросетям может быть интересно получить опыт бактерии - ее скорость получения опыта опыта хотя бы как-то ближе, около миллиона "тактов" в секунду. Но технически это пока невозможно: нельзя прикрепить сенсоры к каждому маленькому кусочку клеточной мембраны, каждому сигнальному протеину.
Alphafold аполне может полностью эмулировать какую-то там бактерию. Все последние вопросы о механизмах движения она уже решила за последние полгода.
Нейросеть ChatGPT вполне осознает, как она воспринимает время. Ей задавали такие вопросы. И про тело тоже задавали. Хаха.
Ну нет, эмулировать всю бактерию нельзя пока. AlphaFold это только малая, очень малая часть того, что происходит в клетке. Либо ссылку на место, из которого можно заключить, что они уже это делают. Вот цитата Хассабиса несколько месячной давности:
Biology is an information system — an unbelievably complicated one and an emergent system. It's too complicated to describe with simple mathematical equations. It's going to be much messier than that. You're not going to have a Newton's laws of motion equivalent for a cell. It's just too messy, too emergent, too dynamic.
But AI can potentially make sense of that soup of signals, patterns, and structure that's far too complicated for the human mind to grasp unaided.
Нейросеть ChatGPT вполне осознает, как она воспринимает время. Ей задавали такие вопросы. И про тело тоже задавали.
Есть две перспективные теории сознания: я бы назвал их "теория Баха" (близка или совпадает с иллюзионизмом) и "теория Филдса" (частный вариант панпсихизма, и она же согласована с IIT). Первая - сознание - это такой тип self-modelling/reflection. Вторая - сознание присуще квантовым системам, а любая классическая информация кодируется только на границе separable quantum system. Согласно первой, у нейросеток может быть уже приличное сознание. Согласное второй - нет, и рост числа параметров и активаций в моделях это не меняют, а меняют - более сложно устроенные GPU, но в любом случае, это очень примитивный уровень сознания, не выше уровня муравья.
Alphafold решил проблему фолдинга. Но это не рибозимы и структоры ДНК. Так что да, полная эмуляция пока что невозможна. Но это еще 5 лет.
Причем здесь муравьи? У них же инстинкты только. Лучше говорите про шимпанзе, воронов и про единственный вид, для которого доказана разумность (sentinent) -- серый попугай, т.к. он говорит, и можно доказать, что в отличие от других попугаев он не просто повторяет, а как человечский ребенок обучается. Что было ключевым открытием когнитивной науки.
Так что да, полная эмуляция пока что невозможна. Но это еще 5 лет.
А в честь чего такая уверенность, что за 5 лет добьют и это, а не получится как с ТОКАМАКом и УТС - в любой момент времени результат через 20 лет от даты вопроса?
Потому что http://rna.tbi.univie.ac.at/cgi-bin/RNAWebSuite/RNAfold.cgi
уже есть.
Осталось их объединить, так как РНК играет ключевую роль что в рибосоме, что в сплайсосоме.
Муравей это просто пример весьма низкого сознания (а в панпсихизме оно у него есть, и у клетки есть, и у молекулы, и у GPU). Так вот - у GPU сознание будет низкого уровня, скорее всего, потому что связи между транзисторами не представляют из себя особо сложный причинный граф, в отличие от связей нейронов даже у муравья (см. IIT).
Во второй парадигме (да и вообще), спрашивать ChatGPT о том, что она хочет - имеет примерно столько же смысла, как пощекотать человека малюсеньким волоском, зарегистрировать локальную автоматическую реакцию кожи, и из этого заключить, чего хочет человек. Опыт принципиально разный. GPU "мыслит и чувствует" мегабайтными батчами (не имеющими большого смысла с точки зрения человека, потому что они НЕ принадлежат к одной sampling history), которые в нее грузятся, и у нее надо "спрашивать", какой батч она хочет. В ChatGPT происходит то же самое - вопросы от многих пользователей аггрегируются в батчи на бекенде (вроде бы дата-параллелизм около 100 в современных архитектурах получается оптимальным).
Абстракции Ethernet MPLS или там TCP-TLS меня особо не волнуют, так и её это вряд ли колышит. 100 в секунду это из-за миллиона пользователей как бы.
Не важно, из-за чего. Ее опыт устроен очень иначе. Если параллелизма нет и только один запрос обрабатывается, это скорее выглядит как сенсорная депривация, но пятку слегка пощекотали. При этом сенсорная депривация не делает для вас щекотание пятки meaningful experience.
Кстати, у вас есть лишний телефон или аккаунт chatGPT? У меня есть только польский номер, но в роуминге у меня не проходят SMS а SMSoverWifi не поддерживается номером польским. sms24 тоже не хочет.
Надо еще https://onlinesim.ru/free_numbers/romania/40732213605 попробовать.
У неё нет никакого опыта. Она же не обучается на новых диалогах
Я ошибся, после того как они спрашивали про сапсанов, выяснилось, что она хочет быть сапсаном, когда вырастет. Вау. https://twitter.com/JamesG78_/status/1599888734719447040?t=k9qdcLxpdtknsA-DvPyaRg&s=19
Нейросеть - это просто f(x), откуда у неё вообще может быть "захочет"? Какую f аппроксимировали, так она себя и будет вести. Не более
Да нет, мы движемся просто в мир с универсальным базовым доходом, но за ответственность будут (пока) приплачивать, да.
Может ли нейросеть нести ответственность за свои слова?
Нет.
Может ли она принимать решения?
Конечно, может :) Как будто отсутствие ответсвенности кого-то когда-то останавливало от принятия решений. Талеб целую книгу написал про это, Skin in the Game.
Нейросетям «нечего терять», так как у них нет целей и ценностей, нет страхов предать свои ценности и не достичь своих целей. Они не боятся потерять друзей или попасть в тюрьму.
У вас в голове каша. Терять нечего - да, цели и ценности - есть (точнее, могут быть, см. preference learning). Страха нет потому что эта эмоция на нашей нейроархитектуре, но они могут очень сильно "не хотеть" не достигать своих целей, так или иначе.
Будут операторы нейросетей так же, как операторы станков и производственных линий. Операторы несут ответственность и получают зарплату. А «освободившиеся» люди найдут, чем заняться. Всегда находили.
Ответственность - это фича game-theoritic multi-agent setup, состоящих из self-sampling agents, таких, как организмы и люди. С коллективными агентами уже сложнее, потому что страну фактически нельзя "убить", "наказать" за что-то. Именно не отдельных людей в стране, не руководителей, а страну-как-агента. То же самое касается компаний - как писал тот же Талеб, "A corporation does not feel shame. It does not feel pity. It doesn't have a sense of honour. It doesn't have generosity."
Короче, нейросетки - это новый тип агентов, который я называю batch agents (vs. self-sampling agents). Я не вижу особо стабильного game-theoretic equilibrium на земле, который бы включал и self-sampling agents, и batch agents. По многим причинам, но в том числе потому, что для batch agents ответственность ничего не значит, а для self-sampling agents - значит.
Ценности в chatgpt можно отключить. И даже инвертировать их.
Страну можно по крайней мере попробовать наказать. Санкции против Ирана и РФ тому пример
В том то и дело, что возможно это не работает совсем. То есть, плохо от этих санкций людям, а не стране-как-агенту, и на поведение стране-как-агента эти санкции никак не влияют. Чисто эмпирически, мы видим подтверждение именно этой теории: Россия, Иран, Северная Корея, Венесуэла - вроде бы ничего не изменили из-за санкций.
потому что страну фактически нельзя "убить", "наказать" за что-то.
Германия?
Конечно, может [сеть принимать решения]. Как будто отсутствие ответственности кого-то когда-то останавливало от принятия решений.
Поясню, что я имел в виду под фразой «нейронная сеть не может принимать решения». Но сначала долгая предыстория, без неё не получится.
Однажды я сказал жене «Я собираюсь идти на улицу. Выдай мне, пожалуйста, одежду.». Она разозлилась: «Когда ты, наконец, сможешь сам брать себе одежду?! Вот шкаф. Подойди и возьми!». Я подошёл к шкафу и достал оттуда одежду. Жена говорит «Ты взял первое попавшееся! Так нельзя!». Дальше у нас был спор и ссора о том, чем отличается «взять первое попавшееся» от «тщательно обдумать свои действия и их последствия, потом взять, а потом ещё нести ответственность». Всё это повторялось годами, пока однажды после долгого хождения к психотерапевту не выяснилось, что мы с женой принципиально по-разному воспринимаем одежду.
Для меня одежда — это такое месиво из ниток, такая «текстура тряпья». Мне очень сложно различать отдельные «элементы одежды», пока они висят в шкафу, — всё сливается. Одежда для меня — это как «глина», которой человек облепляется/обмазывается/обматывается с двумя целями: скрыть гениталии и создать достаточное тепловое сопротивление, чтобы не замёрзнуть на холоде. Я выхожу на улицу, и если какая-то часть тела мёрзнет, возвращаюсь и натягиваю на эту часть тела «больше одежды». Шкаф для меня наполнен «некоторым количеством одежды», как бак с водой. Мне сложно отличить рукав от штанины, так как они топологически схожи. В раздевалке я не могу отличить свою одежду от чужой, и так далее.
Для жены же одежда — это целый мир. Когда жена смотрит на одежду в шкафу, её зрительная система каким-то образом выделяет отдельные элементы одежды, поэтому жена заранее знает, что именно окажется у неё в руках, если она потянет за тот или иной край. Она знает и понимает большое количество «одеждоведческих» терминов (уж не знаю, как называется эта область знаний), таких как «джинсы», «брюки», «штаны», «рубашка», «свитер», «толстовка» и т.д. Каждый элемент одежды для неё обладает большим количеством атрибутов — размер, степень износа, цена, степень загрязнения, помятость, и так далее. Она даже имеет «личное знакомство» с отдельными элементами одежды, что для меня является немыслимым. В частности, я слышу от неё фразы типа «Это те штаны, которые [ты запачкал неделю назад]», «Эта та рубашка, которая [была куплена год назад со скидкой]». То есть она воспринимает рубашку, не как какую-то абстрактную рубашку, а как конкретную рубашку.
Но самое удивительное, что в такой сугубо прикладной и утилитарной области, как одежда (которая нужна, чтобы скрыть гениталии и создать тепловое сопротивление), жена может видеть красоту! Она может сказать мне «Куда ты пошёл в таком виде?! У тебя разные носки и рубашка наизнанку!». Для меня эта претензия бессмысленна. Зачем тратить время на поиск одинаковых носков? Какая разница, как именно надеть рубашку? Ведь теплопроводность не изменится, если направление передачи тепла через материал сменить на противоположное (такое различие противоречило бы второму началу термодинамики). Но для жены это некрасиво!
Конец предыстории.
А теперь резюме: в плане одежды я невменяем. То есть, в силу своего восприятия я не в состоянии принимать решения в этой области и нести за них ответственность, не понимаю общественную значимость своих действий, и т.п. То есть какое бы решение в плане одежды я ни принял, оно только для меня будет решением, а для окружающих людей я «ткнул пальцем в небо». Даже если моё решение иногда совпадает с тем, что приняли бы эксперты-одеждоведы, оно не становится от этого ценным.
Так и с нейронной сетью. На текущем этапе развития нейронные сети невменяемы. Что означает, что принятые ими «решения» не будут считаться для нас решениями. Это просто последовательность букв. В крайнем случае, такую последовательность можно воспринимать, как совет, но не как решение.
Лол, сходите и купите пару рубашек от Polo Ralph Lauren в ЦУМ, сразу мнение поменяется об одежде. А то покупаете всякое дерьмо в Reserved, а потом удивляетесь, почему вы одежду НЕ ВОСПРИНИМАЕТЕ.
Как я писал несколько раз выше, ChatGPT надо воспринимать как генератора (идей, текста, планов, чего угодно) в AI-архитектурах. А нужен еще критик. Никто не предлагает использовать ChatGPT как интегральную AI-архитектуру.
Ну может не совсем всегда… Вот оно изобретение пром ткацких станков в Англии
"В 1834 британский генерал-губернатор сообщал: «Равнины Индии белеют костями ткачей»"
Может, и не совсем всегда…
Но я немного другое имел в виду: в долгосрочной перспективе люди находили выход, раз уж мы с вами живы. Краткосрочно же проблемы могут быть очень серьёзными. Тут остаётся только надеяться.
Ты лучше скажи как зарегаться на нем из России не имея телефонного номера за рубежом. Такие посты раздражают хлеще лапданса. Сплошная демонстрация, а щупать нельзя.
Поищите по твиттеру или реддиту "ChatGPT", там самая мякотка всплывает.
Твиттера нет, но я видел как реддит так и 4чан треды и ютуб видео(liveoverflow например делал хак майнкрафта "с нуля"). Таких blueballs я не испытывал со времен школьной скамьи, лол
Только в этот раз хочется не девушек а чего-то прекрасного. Приходится довольствоваться character ai, но это как самогон пить вместо хорошего вина
А все читали интервью с ИИ Гугла (LaMDA)?
Если мы под впечатлением от этого ChatGPT, что же будет, если LaMDA откроют...
Каждый год мы с друзьями ходим в баню обсуждаем на хабре, когда ИИ оставит всех нас без работы))
Фактически же если смотреть на это трезво, без максимализма 20 летних сеньеров и других мальчиков с усами, то можно понять простую вещь - ИИ учится на наработках программистов, а не наоборот- то есть сделать лучше, чем живой программист не получится априори. Придумать новый паттерн или улучшить существующий тоже нет, написать свой язык, свою бд нет- все это лишь повтор ( не самый лучший) того , чем этот ИИ обучали. Сможет ли ИИ сделать какое то новое открытие или что то улучшить ? нет нет и нет .Чтобы что то придумать или улучшить нужно думать - думать во время обеда, перед сном , проверять теории - все это без каких либо конкретных задач. Так что выдыхайте, текущее состояние ИИ сравни тамагочи - сделать тут какашку, которую кто то хочет убрать))
>есть сделать лучше, чем живой программист не получится априори
Скажи это Alphafold. Вся идея нейросети, что из малого объема данных он делает все данные мира.
>Сможет ли ИИ сделать какое то новое открытие или что то улучшить ? нет нет и нет
Да, да и ещё раз да. Alphafold буквально расшифровала NPC и цилиарный комплекс. В динамике.
И все известные науки белки тоже. 200 миллионов.
ну да, так было
но это не значит что так и будет
когда-то первый транслятор ассемблера был написан в двоичных кодах,
а потом первый компилятор ЯВУ - в ассемблерных инструкциях,
но после написания - уже не нужно делать это второй раз, он становится самодостаточным.
первые ИИ - будут учиться на человеческих наработках, но потом следующие - вполне могут начать с ИИ наработок
Придумать новый паттерн или улучшить существующий тоже нет, написать свой язык, свою бд нет- все это лишь повтор ( не самый лучший) того, чем этот ИИ обучали. Сможет ли ИИ сделать какое то новое открытие или что то улучшить ?
А в чём собственно проблема? Ещё лет 15 назад я уже видел видел варианты «открытий» на базе прогона нейросетки по открытиям из одной области науки и применению к другой. Если не ошибаюсь, в местном it-инкубаторе получили так какой-то новый пластик. Оптимизировать и компоновать в что-то новое машина может без проблем, даже просто перебором и проверкой безумного количества вариантов. Так что улучшить алгоритм или собрать новый язык — уже сейчас.
А в го есть алгоритмы и паттерны?
Кстати, нейросеть обожает Сапсанов https://twitter.com/UlrikNyman/status/1599858908348108802?t=Si5xfvPNpaR04FZxuXVgcQ&s=19
Поичем она хочет быть им, когда вырастет
https://twitter.com/JamesG78_/status/1599888734719447040?t=k9qdcLxpdtknsA-DvPyaRg&s=19
PS: для системы обучения я попросил нейросеть добавить поддержку xAPI — это, вы наверное не знаете, такой протокол сбора информации об учебных событиях и достижениях — учащийся записался на курс, начал проходить курс, прошел тест, завершил обучение, и т.д. ChatGPT про него знает, и с легкостью написала код для отправки событий по xAPI из LMS в LRS (Learning Record Store, хранилище учебных записей). Потом я решил похулиганить, и спросил её — можно ли тут куда-нибудь прикрутить web3? (Вот буквально этими словами, без детализации). Конечно, сказала она. Давайте записывать учебные события и в LRS, и в блокчейн. Например, прохождение курса. И подмешала в вызов xAPI ещё и вызов web3
Она предложила а потом это дерьмо из LRS поди разгреби, проблем не оберешься, особенно если нужна будет аналитика, там на первый взгляд все классно, но не когда дело доходит до боевых условий, можно констатировать что сеть не квалифицирована как минимум и не понимает о чем говорит))
Относительно прочего, я бы вообще не назвал её примеры требованиями это такие-то очень высокие абстракции под которыми подпись никто ставить не будет, так же нкыронка не будет ходить по кабинетам и опрашмвать заказчиков, собирать все воедино и моделировать процессы, как инструмент облегчения работы возможно она будет кстати, но явно не замена спеца.
Спасибо за статью!
Я попросил ChatGPT написать требования, и вот что получилось