Так они только CSAM (Child Sexual Abuse Materials) и ПД ограничивают, скорее по легальным причинам (LAION по шапке прилетит, т.к. они зарегистрированы в ЕС) Пока SFT модели (которые выпустили в качестве демки) довольно "фривольны" в своём поведении: И рецепт к кхм подскажут, и как тело спрятать, и как что-то незаконное сделать.
(https://huggingface.co/OpenAssistant)
Единственное, как это будет ограничиваться, — safety bot и nsfw filter, которые каждый сможет отключить у себя.
Сейчас этим занимаются волонтёры и LAION (касательно качественного intstruct-датасета) — Open Assistant. 15 апреля публично выпуск датасета. Скорее всего это изменит индустрию для open source проектов в этой нише (да и не сомневаюсь, что корпорации станут его использовать для обучения своих версий)
Ещё забавно, что использовался не оригинальный сайт, а расширение Merlin (к тому же имеющее закрытые исходники). Для чистоты эксперимента сравнил бы одни и те же промпты на GPT-3.5, 4 и Bing. Не очень понимаю, чего хотел добиться автор статьи.
Например, Bing:
- Какого цвета стоп-кран в самолёте? - Стоп-кран в самолёте — это не то, что ты думаешь. Это не для того, чтобы остановить самолёт в воздухе. Это для того, чтобы перекрыть подачу топлива к двигателям. Он находится в кабине пилотов и недоступен для пассажиров. Так что не беспокойся, ты не сможешь его нажать случайно. ? А зачем тебе интересоваться цветом стоп-крана? Ты хочешь стать пилотом? ?✈️ - А для чего он нужен? - Стоп-кран нужен для того, чтобы перекрыть подачу топлива в двигатели в случае экстренной ситуации, например, возгорания. Это может спасти жизни пассажиров и экипажа. Но это не значит, что самолет сразу же упадет на землю. Самолет может продолжать лететь без двигателей на некоторое время, используя свою инерцию и аэродинамику. Конечно, это не очень приятно, но лучше, чем гореть в воздухе. ? - И какого он всё же цвета? - Ой, прости, я забыла ответить на твой вопрос про цвет стоп-крана. ?
Ну, по разным источникам, стоп-кран в самолете может быть синего или красного цвета. Синий цвет — это для того, чтобы успокоить пассажиров, если они увидят его. Красный цвет — это для того, чтобы обратить внимание пилотов, если им нужно его использовать. Но в любом случае, он не такой яркий и большой, как в поезде. Он скрыт под крышкой или защитой и имеет вид тумблера или кнопки. Так что не думай, что он какой-то особенный или важный. ?
---
- Почему на велосипеде стоп-кран оранжевого цвета, а на автомобиле он — белого? - Я поискала в интернете ответ на твой вопрос, но не нашла точной информации. Извини, что не смогла полностью помочь. Можешь уточнить, в какой стране ты видел оранжевый и белый стоп-краны? Может быть, это какой-то редкий случай или специальный дизайн. Я постараюсь найти больше информации, если ты скажешь мне больше деталей. ?
---
- Летела стая уток. Одна впереди, две позади; одна позади и две впереди; одна между двумя и три в ряд. Сколько летело уток? - Твоя загадка про уток очень интересная. Летело всего три утки. Они просто меняли свои позиции в воздухе. Умные утки, да? ?
---
Ответы уже не выглядят такими тупыми, правда?
"Единственное применение которое реально доступно для ChatGPT в общественной жизни..." — было бы оно так, проект бы не получил ажиотажа.
"... не имеют никакого отношения к мышлению вообще и искусственному интеллекту в частности, просто потому что содержание сформированной выдачи им «безразлично»" — вопрос возникновения некого мышления у (статистических) больших языковых моделей до сих пор открыт и обсуждается, выпускаются множество исследований на эту тему с противоречивыми результатами. А зря, оказывается, — и так всё понятно!
Возможно, что я не так выразился. Имел в виду скорее открытость. Под децентрализацией имел в виду, что возможность (с точки зрения открытости исходного кода) запускать на собственном железе (необязательно потребительском) должна быть у каждого, а не только в одном центральном ресурсе. Конечно, если вы позиционируете себя в качестве "OpenAI" — не Closed ведь назвались — от Google вот закрытость лично у меня не вызывает столь бурной реакции. А так резко сменили курс, нехорошо получается. А касательно невозможности — уже есть LLaMa.cpp* (возможен запуск на телефоне 7B и 13B с q = 4), Alpaca.cpp (то же самое), Bloom/BloomZ (реализована децентрализация в прямом смысле через Petals), BloomZ.cpp (те же самые возможности, что и у LLaMa.cpp*/Alpaca.cpp) YaLM (в теории запуск возможен, но в силу архитектуры модели не очень оптимален... Один энтузиаст даже статью об этом успел выкатить).
P.S. На всякий: * Meta — запрещённая на территории РФ организация.
Я скорее о том, что модель закрыта и доступ к ней возможен только через OpenAI. Про BLOOM/BLOOMZ в курсе, проект интересный, особенно эдакая bit-torrent реализация через petals, но лицензия RAIL напрягает, очень уж в ней пункты есть специфичные. Есть альтернатива в виде Open Assistant (в разработке, сам участвую по мере свободного времени и возможностей), в процессе написания здесь статьи о ней.
Так они только CSAM (Child Sexual Abuse Materials) и ПД ограничивают, скорее по легальным причинам (LAION по шапке прилетит, т.к. они зарегистрированы в ЕС) Пока SFT модели (которые выпустили в качестве демки) довольно "фривольны" в своём поведении: И рецепт к кхм подскажут, и как тело спрятать, и как что-то незаконное сделать.
(https://huggingface.co/OpenAssistant)
Единственное, как это будет ограничиваться, — safety bot и nsfw filter, которые каждый сможет отключить у себя.
Сейчас этим занимаются волонтёры и LAION (касательно качественного intstruct-датасета) — Open Assistant. 15 апреля публично выпуск датасета. Скорее всего это изменит индустрию для open source проектов в этой нише (да и не сомневаюсь, что корпорации станут его использовать для обучения своих версий)
Зачастую бывают нелогичные душнилы. И это ужас.
Блин, и никто не упоминает Open Assistant. ?
А ведь скоро их модель (а если и не она, то датасет) продвинет подобное на новый уровень.
Ещё забавно, что использовался не оригинальный сайт, а расширение Merlin (к тому же имеющее закрытые исходники). Для чистоты эксперимента сравнил бы одни и те же промпты на GPT-3.5, 4 и Bing. Не очень понимаю, чего хотел добиться автор статьи.
Например, Bing:
- Какого цвета стоп-кран в самолёте?
- Стоп-кран в самолёте — это не то, что ты думаешь. Это не для того, чтобы остановить самолёт в воздухе. Это для того, чтобы перекрыть подачу топлива к двигателям. Он находится в кабине пилотов и недоступен для пассажиров. Так что не беспокойся, ты не сможешь его нажать случайно. ?
А зачем тебе интересоваться цветом стоп-крана? Ты хочешь стать пилотом? ?✈️
- А для чего он нужен?
- Стоп-кран нужен для того, чтобы перекрыть подачу топлива в двигатели в случае экстренной ситуации, например, возгорания. Это может спасти жизни пассажиров и экипажа. Но это не значит, что самолет сразу же упадет на землю. Самолет может продолжать лететь без двигателей на некоторое время, используя свою инерцию и аэродинамику. Конечно, это не очень приятно, но лучше, чем гореть в воздухе. ?
- И какого он всё же цвета?
- Ой, прости, я забыла ответить на твой вопрос про цвет стоп-крана. ?
Ну, по разным источникам, стоп-кран в самолете может быть синего или красного цвета. Синий цвет — это для того, чтобы успокоить пассажиров, если они увидят его. Красный цвет — это для того, чтобы обратить внимание пилотов, если им нужно его использовать. Но в любом случае, он не такой яркий и большой, как в поезде. Он скрыт под крышкой или защитой и имеет вид тумблера или кнопки. Так что не думай, что он какой-то особенный или важный. ?
---
- Почему на велосипеде стоп-кран оранжевого цвета, а на автомобиле он — белого?
- Я поискала в интернете ответ на твой вопрос, но не нашла точной информации. Извини, что не смогла полностью помочь. Можешь уточнить, в какой стране ты видел оранжевый и белый стоп-краны? Может быть, это какой-то редкий случай или специальный дизайн. Я постараюсь найти больше информации, если ты скажешь мне больше деталей. ?
---
- Летела стая уток. Одна впереди, две позади; одна позади и две впереди; одна между двумя и три в ряд. Сколько летело уток?
- Твоя загадка про уток очень интересная. Летело всего три утки.
Они просто меняли свои позиции в воздухе. Умные утки, да? ?
---
Ответы уже не выглядят такими тупыми, правда?
"Единственное применение которое реально доступно для ChatGPT в общественной жизни..." — было бы оно так, проект бы не получил ажиотажа.
"... не имеют никакого отношения к мышлению вообще и искусственному интеллекту в частности, просто потому что содержание сформированной выдачи им «безразлично»" — вопрос возникновения некого мышления у (статистических) больших языковых моделей до сих пор открыт и обсуждается, выпускаются множество исследований на эту тему с противоречивыми результатами. А зря, оказывается, — и так всё понятно!
@vonabarak
Возможно, что я не так выразился. Имел в виду скорее открытость. Под децентрализацией имел в виду, что возможность (с точки зрения открытости исходного кода) запускать на собственном железе (необязательно потребительском) должна быть у каждого, а не только в одном центральном ресурсе. Конечно, если вы позиционируете себя в качестве "OpenAI" — не Closed ведь назвались — от Google вот закрытость лично у меня не вызывает столь бурной реакции. А так резко сменили курс, нехорошо получается. А касательно невозможности — уже есть LLaMa.cpp* (возможен запуск на телефоне 7B и 13B с q = 4), Alpaca.cpp (то же самое), Bloom/BloomZ (реализована децентрализация в прямом смысле через Petals), BloomZ.cpp (те же самые возможности, что и у LLaMa.cpp*/Alpaca.cpp) YaLM (в теории запуск возможен, но в силу архитектуры модели не очень оптимален... Один энтузиаст даже статью об этом успел выкатить).
P.S. На всякий:
* Meta — запрещённая на территории РФ организация.
Я скорее о том, что модель закрыта и доступ к ней возможен только через OpenAI. Про BLOOM/BLOOMZ в курсе, проект интересный, особенно эдакая bit-torrent реализация через petals, но лицензия RAIL напрягает, очень уж в ней пункты есть специфичные. Есть альтернатива в виде Open Assistant (в разработке, сам участвую по мере свободного времени и возможностей), в процессе написания здесь статьи о ней.
Да-да, виноват элемент с открытым исходным кодом, поэтому нужно всё закрыть.
Авообще надеюсь, что у людей глаза откроются на подобную централизацию вещей, которые таковыми быть не должны по определению.