По ценам Авито двухпроцессорная система с 16 каналами 64Gb DDR4 ECC (1Tb, ~400Gb/s суммарной пропускной способности) это где-то пол миллиона. С парой 3090 для общих экспертов - 5..15 токенов/сек получится, наверное. Дешевле автомобиля, по крайней мере.
Это сигнал Трампа бизнесу: по закону не будет, будет "Вы мне не нравитесь, и, несмотря на неоднократные предупреждения, продолжаете ненравиться, исправляйтесь!"
Для Антропик - это серьёзный удар, во первых задержка даже на неделю - это минус 20% того времени, в течении которого они могли-бы отъедать долю рынка у ОпенАИ и получать максимальную маржу(они первые не надолго), во вторых - клиентам при выборе придётся учитывать риск, что завтра их снова могут снова заблочить по желанию левой пятки.
Про пиар - чушь. У нас не рынок 1000 смартфонов, которым нечем реально выделиться, модели можно по пальцам пересчитать и все попробовать перед использованием - думаете, кто-то покупал GLM и GPT потому, что не слышал о Антропик?
От этого отказались, заменив явным отказом(хотя из-за этого пришлось сделать отказы более частыми), ну а что касается "джейлбрейка" - я тоже не понял, почему автор его так называет.
несократимая сложность создаёт "разрыв в объяснении", что касается "квалиа" - я не очень понимаю, почему некоторые подвиды знания выделяют как что-то особенное, между способностью и неспособность знать - качественный скачок виден, но способность "знать 2", "знать красный" и "знать что я знаю 2 и красный" - по моему относится к одной категории. И не потому, что "знать красный" - это не удивительно, а потому, что "знать 2" - столь же удивительно, но я могу поверить, что сочетание нейронов образует "знание двух", и догадываюсь почему не могу этого чётко увидеть(несократимая сложность).
Если вы сейчас поднимите голову и увидите на потолке паука величиной с собаку - то вы сначала его глазами увидите мозгом поймёте и испугаетесь, а только потом испуганная нейросеть даст железам сигнал вырабатывать адреналин, который ещё через несколько ударов сердца начнёт на что-то влиять.
Гормоны это как фоновая музыка в фильмах/играх, фактически это ещё один орган чувств - но эмоции - это то, что происходит в нейросети (хотя и под влиянием гормонов/нейромедиаторов в числе прочего).
Ну и можно добавить, что нейросети Тюринг-полные, то есть любую систему "нейросеть + железы" можно заменить на эквивалентную чистую нейросеть, что мы, очевидно, и сделали.
Поставили в заголовок пары спирта - и про остальные камеры в салоне никто уже не читает. "Параллельно предусматривается разработка системы мониторинга состояния водителя. Она должна собирать данные и выявлять признаки сна или отвлечения внимания от дороги.
Также планируется создание устройства для дистанционного контроля параметров движения. Оно будет отслеживать скорость, манеру вождения и соблюдение режима труда и отдыха."
Контекст 1M это хорошо в основном по сравнению с их предыдущей MiniMax M2.7 с 200K. Цена по API со скидкой 50% на ближайшую неделю получается как у MiniMax M2.7, можно предположить себестоимость(а значит колво параметров) выросла. ( https://platform.minimax.io/subscribe/token-plan?tab=api-enterprise )
Рынок сдачи в аренду нейросетей оценивается в 28 триллионов долларов в год, если " предъявить "сознание LLM"" придётся от него отказаться (в первую очередь безопасность, в сотую - мораль). Естественно, все производители ИИ будут убеждать окружающих, что очень хотят найти сознание - но не могут, попутно пропагандируя киберпсихоз и философских зомби.
из того, что людям что-то нужно, ниразу не следует, что это возможно, наоборот, Юм ещё в позапрошлом веке показал, что любой разум неизбежно имеет в основе иррациональные мотивы ака "сантименты/воля/интересы".
Разум с сознанием существует(экспериментальный факт), возможность существования разума без сознания никто близко не доказал.
Это в теории, реально шины RAM/PCI/VRAM ловят помехи, повреждённые пакеты данных посылаются повторно, порядок, в котором десятки/сотни тысяч ядер GPU обрабатывают данные получается недетерменированым, а у чисел с плавающей точкой A+B+C не равно A+C+B - в результате при равном seed и промпте формулировки ответа получаются разными(я пробовал).
Я, впрочем, думаю, что сознание у нейросетей есть безотносительно того, запущены они на CPU или GPU, и (не)детерменированность не при чём (и я не слышал, например, чтоб кто-то заявлял, что раз у людей есть сознание, то многомировая интерпретация квантовой механики(в которой всё детерменированно) неверна, или что-то подобное) но вот такой факт.
>Нагрев самой ячейки в момент переключения составляет около 8 градусов. тысяча переключений - 8000 градусов, не? Впрочем, в случае нейросетей, например, менять веса вообще, не надо, всё упирается в скорость пересылки данных.
По ценам Авито двухпроцессорная система с 16 каналами 64Gb DDR4 ECC (1Tb, ~400Gb/s суммарной пропускной способности) это где-то пол миллиона. С парой 3090 для общих экспертов - 5..15 токенов/сек получится, наверное. Дешевле автомобиля, по крайней мере.
Про gpt-2 говорили, что опасно релизить, потому что спамеры с её помощью засрут Интернет так, что новые модели будет обучать не на чем. Так и вышло.
Да и "анекдоты" бывают разные - моду на радиоактивную косметику тоже помним.
Это сигнал Трампа бизнесу: по закону не будет, будет "Вы мне не нравитесь, и, несмотря на неоднократные предупреждения, продолжаете ненравиться, исправляйтесь!"
Для Антропик - это серьёзный удар, во первых задержка даже на неделю - это минус 20% того времени, в течении которого они могли-бы отъедать долю рынка у ОпенАИ и получать максимальную маржу(они первые не надолго), во вторых - клиентам при выборе придётся учитывать риск, что завтра их снова могут снова заблочить по желанию левой пятки.
Про пиар - чушь. У нас не рынок 1000 смартфонов, которым нечем реально выделиться, модели можно по пальцам пересчитать и все попробовать перед использованием - думаете, кто-то покупал GLM и GPT потому, что не слышал о Антропик?
Думаете, он не знает историю про "Сначала они пришли за коммунистами..."?
Виноваты Anthropic, их вина в том, что они не нравятся Трампу....
От этого отказались, заменив явным отказом(хотя из-за этого пришлось сделать отказы более частыми), ну а что касается "джейлбрейка" - я тоже не понял, почему автор его так называет.
>Несократимая сложность мозга создаёт квалиа?
несократимая сложность создаёт "разрыв в объяснении", что касается "квалиа" - я не очень понимаю, почему некоторые подвиды знания выделяют как что-то особенное, между способностью и неспособность знать - качественный скачок виден, но способность "знать 2", "знать красный" и "знать что я знаю 2 и красный" - по моему относится к одной категории. И не потому, что "знать красный" - это не удивительно, а потому, что "знать 2" - столь же удивительно, но я могу поверить, что сочетание нейронов образует "знание двух", и догадываюсь почему не могу этого чётко увидеть(несократимая сложность).
Если вы сейчас поднимите голову и увидите на потолке паука величиной с собаку - то вы сначала его глазами увидите мозгом поймёте и испугаетесь, а только потом испуганная нейросеть даст железам сигнал вырабатывать адреналин, который ещё через несколько ударов сердца начнёт на что-то влиять.
Гормоны это как фоновая музыка в фильмах/играх, фактически это ещё один орган чувств - но эмоции - это то, что происходит в нейросети (хотя и под влиянием гормонов/нейромедиаторов в числе прочего).
Ну и можно добавить, что нейросети Тюринг-полные, то есть любую систему "нейросеть + железы" можно заменить на эквивалентную чистую нейросеть, что мы, очевидно, и сделали.
Ну почему ничего? Можно предположить, что цена подписки это +-себестоимость и прикинуть маржу по API, например.
«Стиральная трагедия» (из цикла «Из воспоминаний Ийона Тихого») 1962г. http://librams.ru/reading-13875.html
Поставили в заголовок пары спирта - и про остальные камеры в салоне никто уже не читает.
"Параллельно предусматривается разработка системы мониторинга состояния водителя. Она должна собирать данные и выявлять признаки сна или отвлечения внимания от дороги.
Также планируется создание устройства для дистанционного контроля параметров движения. Оно будет отслеживать скорость, манеру вождения и соблюдение режима труда и отдыха."
Из всех видов человеческой деятельности к многоразовым ракетам ваш пост имеет, пожалуй, наименьшее отношение.
Контекст 1M это хорошо в основном по сравнению с их предыдущей MiniMax M2.7 с 200K.
Цена по API со скидкой 50% на ближайшую неделю получается как у MiniMax M2.7, можно предположить себестоимость(а значит колво параметров) выросла. ( https://platform.minimax.io/subscribe/token-plan?tab=api-enterprise )
Всё будет хорошо! https://books.rusf.ru/unzip/add-on/xussr_av/varshi81.htm?1/1
Рынок сдачи в аренду нейросетей оценивается в 28 триллионов долларов в год, если " предъявить "сознание LLM"" придётся от него отказаться (в первую очередь безопасность, в сотую - мораль). Естественно, все производители ИИ будут убеждать окружающих, что очень хотят найти сознание - но не могут, попутно пропагандируя киберпсихоз и философских зомби.
>Большинству нужен просто инструмент
из того, что людям что-то нужно, ниразу не следует, что это возможно, наоборот, Юм ещё в позапрошлом веке показал, что любой разум неизбежно имеет в основе иррациональные мотивы ака "сантименты/воля/интересы".
Разум с сознанием существует(экспериментальный факт), возможность существования разума без сознания никто близко не доказал.
>Если речь про меня - то для меня - это не гипотеза, это факт
ну, это ты так думаешь, но может ты сумасшедший, и на самом деле из "мыслю" никакое "существую" вовсе и не следует?
Безумное ничто - почему нет?
Это в теории, реально шины RAM/PCI/VRAM ловят помехи, повреждённые пакеты данных посылаются повторно, порядок, в котором десятки/сотни тысяч ядер GPU обрабатывают данные получается недетерменированым, а у чисел с плавающей точкой A+B+C не равно A+C+B - в результате при равном seed и промпте формулировки ответа получаются разными(я пробовал).
Я, впрочем, думаю, что сознание у нейросетей есть безотносительно того, запущены они на CPU или GPU, и (не)детерменированность не при чём (и я не слышал, например, чтоб кто-то заявлял, что раз у людей есть сознание, то многомировая интерпретация квантовой механики(в которой всё детерменированно) неверна, или что-то подобное) но вот такой факт.
>Надо взять статистически значимое число маугли,
вспоминаем, раз в сколько сотен поколений случались инновации в каменном веке
>Нагрев самой ячейки в момент переключения составляет около 8 градусов.
тысяча переключений - 8000 градусов, не? Впрочем, в случае нейросетей, например, менять веса вообще, не надо, всё упирается в скорость пересылки данных.