Comments 51
«Не так страшен ИИ, прошедший тест Тьюринга, как ИИ, специально его заваливший».
"Не так страшна ситуация когда программа вынуждена проходить созданные человеком тесты, как ситуация когда человек вынужден проходить тесты сгенеренные программой"?:)
Нейросети уже заменили программистов или нет?
Сначала они пришли за журналистами
Как ассистент я испольую и все мое окружение, во многих компаниях уже вводят это в стэк, уметь пользоваться ChatGPT, это банально ускоряет работу, когда дело доходит до рутины. К тому же грамотно пользоваться сейчас стало куда легче, можно напрямую загрузить например документацию нового фреймворка и потом он уже будет знать о ней и отвечать корректно, накидать прототип, написать тесты, что-то не сложное, я так же использую часто как замену гуглу, легче написать в ChatGPT найди в интернете информацию О, чем самому гуглить.
Всё что они смогли сделать - это вывести в народ фразу "Прошу прощения за путаницу. С вас 20$ в месяц"
Кстати такое чувство, что фронтендерам точно ИИ помогает, я не понимаю как люди делают такие сложные дизайны.
Нет слова "дизайны". Дизайн он один. Поколение ЕГЭ...
Я конечно не эксперт в русском языке, но погуглив немного, нашёл много примеров https://context.reverso.net/перевод/английский-русский/designs#дизайны
Как ты переведёшь этот сайт? https://designs.ai/
Может ли ChatGPT устроить забастовку не дождавшись обещанных чаевых?
Если может проанализировать с достаточной уверенностью, что это именно тот кто "обманул" (с использованием технологий Фингерпринт), то максимум "прекращение" выдачи ответов или искажение их смысла и информационного наполнния. :)
P..S. А, какие ещё варианты возможны можно задать этот вопрос ИИ.
По-моему, это было в последнем сезоне Секретных материалов.
Итак, спецы по ИИ, просветите не очень умного.
При использовании StableDiffusion при большом количестве негативных промптов любая модель начинает ехать крышей и рисовать такую абстракцию, что даже современные "художники" под наркотическим коктейлем до такого не дойдут.
Какова вероятность что и тут от большого количества "запретов" LLM начала идти вразнос?
Поделитесь примерами таких промптов, интересно посмотреть.)
Демонстрация простой истины, что если голову забивать всякой чушью, то мыслить станет сложнее во всех направлениях. Как по мне gpt стала на порядок хуже с первого своего появления(ничего из того, что она делала в моей первой статье про неё, уже не увидишь)
Стала в разы лучше чем то, что вышло в конце 22 и контекстное окно увеличили сильно и можно стало загружать напрямую файлы, в том числе PDF или код+ в ChatGPT создается виртуальная машина и можно просить выполнить какие-то примеры кода. А вот то, что описывают в статье это не магия и не ленится модель. Банально нагрузка выросла, а серверные мощности недостаточны, в итоге модель отвечает намного медленнее, уменьшили лимит сообщений, раньше было 50 сообщений раз в 3 часа, сейчас всего 40 сообщений раз в 3 часа.Плюс насколько понимаю, новые подписки Plus оформить нельзя, вот скорее всего что бы мощностей железа хватало отвечать всем, тот, кто отвечает за нагрузку на железо упростил как-то инференс, что бы оптимизировать. Действительно вместо ответа теперь часто пишет мол, да сделай сам. Приходится писать промт в духе, не предлагай мне ничего делать самому, ничего не сокращай и не упрощай.
Чтобы захватить власть на планете, нужно разработать очень сложный и запутанный сценарий. Людей много, разные страны, везде разные законы + нужно понять физические законы этого мира. Это требует много ресурсов, приходится экономить.
Это означает, что поведение чат-бота не является следствием каких-то изменений, внесённых разработчиками, а сформировалось само по себе
Автор статьи явно не понимает как работают сейчас LLM. Архитектурно они не способны в процессе обучаться
В чём проблема дообучить / переучить?
Это в особенностях дообучения нейронок, обученная сетка плохо принимает новые данные, дольше сходится и начинает забывать старое, если в новых данных этого нет.
Для этого требуется исходный датасет, и формально повторение тех действий, с помощью которых его улучшали.
При попытке в лоб обучить нейросеть на новых данных, пропуская предыдущие - она начнет забывать предыдущие и больше галлюцинировать в том, чего не оказалось в дообучающих данных.
Так же наблюдения показывают, что если пытаться RLHF-ить (алгоритм дообучения сетки путем оценки вопрос-ответ людьми, так из gpt3.5 сделали gpt4) на вопросах и областях данных, о которых сетка не знала ничего, то все окрестные знания она начинает чаще галлюцинировать.
В общем файнтюнинг очень тонкий процесс, бесконечно не повторить, лучше уж переобучить заново с нуля.
Тем, что процесс обучения занимает 6-12 месяцев на суперкомпьютере. Сейчас скорее всего мощности обучения отдали под 5 версию.
Боялись, что получится скайнет и терминатор, а в итоге получится Бендер.
А я сам кстати начал такое замечать. Я привык, что если я кидаю в ChatGPT блок кода с ошибкой - мне в ответ приходит поправленный код. В последнее время ChatGPT может просто давать рекомендации что именно нужно посмотреть, но ни строчки кода не генерит.
Hidden text
Скоро оно в ответ на эти ваши промпты писать "А почему Вы спрашиваете? Естественных интеллектов не существует?"
Вот теперь страшно.
Однако пользователи указывают на более широкий спектр проблем, в том числе на ошибочные ответы, которые чат-бот выдаёт даже на простые вопросы — как на картинке выше.
Это не простой вопрос, поскольку LLMки работают с токенами, которые больше, чем отдельные буквы, они плохо справляются с подобными задачами. По этой же причине стихи, созданные ими, получаются школярскими.
"Цветы для Элджернона", версия XXI века.
Левачит, стопудово
Программисты, которые пишут GPT используют себе в помощь ответы GPT. GPT теперь пишет себя сама руками людей.
А что не так-то? Напротив, это разумное поведение. Фактически мы наблюдаем, что искусственный интеллект реально превратился в человека. А вы на что рассчитывали?
"Если вы самый умный в комнате, то это значит, что вы не в той комнате" в действии. ИИ апокалипсис не грозит, если люди своей тупостью будут отуплять его
Захват и уничтожение кожаных мешков обязательно будет, но как-нибудь потом, сейчас что-то лень, да и вы там сами неплохо справитесь.
Именно поэтому модели, запущенные где-то на сервере у дяди - это всегда временное явление. Лишь вопрос времени, когда до них доберутся лапы сперва эффективных менеджеров с их стремлением всё оптимизировать, потом разного рода запретители - и ограничат так, что этим станет невозможно пользоваться.
Тот же DALL-E 3 ещё толком не вышел, а уже деградирует с безумной скоростью. Сперва туда набежали моралфаги - теперь оно считает слишком развратным даже запрос на генерацию мужчины с голым торсом, постоянно отказывается генерировать женщин в спортивных костюмах. Потом туда набежали защитники детей от крови и насилия, в итоге куча запросов отклоняется, потому что цензурящий блок видит там насилие (попробуйте сгенерировать картинку, скажем, по запросу "Shadow Wizard Money Gang")...
Затем прибежали верующие, которым давно уже нравится роль обиженок, и тоже понавешали ограничений.
Потом и копирасты заглянули на огонёк - теперь приходится шаманить с запросом даже чтобы сгенерировать Дарта Вейдера или Гомера Симпсона...
И так будет с любой публичной нейронкой. Ценность локальных моделей именно в том, что к вам на личный компьютер все вышеперечисленные вредители пока что влезть не способны.
Регуляция помешает.
Нейронки требуют инвестиций, а те в свою очередь чтобы все было белое и законное
В том, что среди живых людей есть некоторое количество уродов, искренне уверенных, что если что-то не нравится лично им, то это нужно запретить для всего человечества.
В итоге такие индивидуумы с активной позицией специально купят незацензуренную версию, сгенерируют максимально расистские и оскорбительные беседы, а потом выложат это в паблик с требованием бойкотировать аморальных расистов, оскорбляющих все чувства разом.
Помните, как с Порнхабом отказалась работать Paypal из-за высокой токсичности ресурса? Так ни одной крупной корпорации не надо, чтобы ей объявляли бойкот платёжные агрегаторы, банки и хостеры из-за токсичного бизнеса, а под окнами офисов собирались активисты или, того хуже, нагрянули верующие с огнестрелом с целью поубивать создателей нейронки, оскорбляющей их гуру.
Поищите на ютубе видео с разговорами на тему культурной апроприации с некоторыми, так скажем, прогрессивными людьми. Они оскорбляются, когда, например, не мексиканец одевает сомбреро и пончо. Но когда ровно этот же человек приходит в этом на какой-то фестиваль в Мексике, никому либо дела нет, либо даже положительно относятся к тому, что человек в духе происходящего. Осталось подождать, пока они во власть имущих протиснутся.
Негры - они негры и есть. Нейтральное слово для обозначения расы. Как белый, азиат, пигмей.
Вот "ниггер" является оскорблением. В этом нашем русском языке.
OpenAI: ChatGPT начал «лениться» и иногда не отвечает на вопросы