Вообще-то требования к процессору довольно высоки, не стоит думать, будто бы только от пропускной способности памяти всё зависит. Например, EPYC 7763 с 64 ядрами становится ограничением первее, чем восьмиканальная DDR4 3200MHz память. Кроме того, двухсокетовая конфигурация не даст двойного прироста даже близко - лучше взять односокетувую с более производительным процессором за те же деньги.
DDR5 в несколько раз дороже и может себя не раскрыть полностью без мощного процессора, так что стоит брать только если есть много лишних денег на всё сразу, и на процессоры, и DDR5, и видеокарты. Иначе может оказаться, что EPYC с DDR4 и хотя 3090 картами будет производительнее, да и более универсален для разных AI моделей.
Кстати, для CPU+GPU хорошая идея использовать ik_llama.cpp. Например, я с EPYC 7763 и 3090 видеокартами получаю 8 токенов в секунду с UD-Q4_K_XL квантом, больше, если сделать свой оптимизированный под ik_llama.cpp квант.
Ещё можно выиграть производительность, если использовать новую модель DeepSeek R1T Chimera вместо старой R1, так как она тоже может думать ничуть менее эффективно, но тратит при этом на 40% меньше токенов в среднем, менее склонна к зацикливанию, да и в целом пишет лучше.
С Samsung DEX по моему мнению лучше всего работают OLED FullHD AR очки, особенно если цель мобильность. Не нужно никаких переходников, достаточно прямого подключения к USB-C. Не хочу рекламировать конкретных моделей, так как каждый решаем сам для себя, но современные AR очки, если хорошо подойдут и сделаны качественно, имеют отличную чёткость от края до края, что можно легко читать мелкий шрифт в любом месте экрана. Стационарные мониторы всё ещё могут иметь смысл, если нужен 4K или HDR, ну или если очки по каким-то причинам не подходят (например, из-за нетипичного межзрачкового расстояния или индивидуальных предпочтений). И если уж упомянули Самсунг, то например Note20 Ultra, хоть и не новая модель, но идёт с 12GB оперативной памяти и имеет слот для карт памяти, что позволяет добавить сколько нужно, и эту модель можно найти по цене меньше, чем миникомп в статье.
В сущности, единственный плюс мини-компа из статьи - совместимость с десктопными приложениями, но тут мне видится проблема, что с маленьким сенсорным экраном ими толком пользоваться не получится, а USB-C на нём не поддерживает видеовыход, то есть очки без переходника к нему не подключить. Конечно, переходник не очень громоздок, но если не ограничивать выбор по наличию USB-C видеовыхода и сенсорного экрана - то на рынке и так полно миникомпов. У меня есть несколько миникомпов, и ни разу не было ощущения нехватки сенсорного экрана. Если нужно, можно зайти через телефон и иметь возможность зума и сенсорного контроля курсора, ну или подключить через HDMI на USB-C переходник очки, если нужно видеть полноценный размер экрана. Или традиционный монитор, если компактность неважна и нужно 4K или HDR. Во всех случаях пользы со встроенного маленького сенсорного экрана не вижу, так как для десктопных приложений слишком мал и неточен, а если просто смотреть видео или что-то подобное, то на OLED экрана более-менее современного смартфона или очков чёткость и контрас будут лучше.
Самое главное, что сходства такого миникомпа с наладонниками никакого. У меня были в своё время разные "наладонники", так есть с чем сравнивать. Поэтому на мой взгляд заголовок статьи надо было делать иначе, вроде как сделали сами японцы - типа мини-PC размером со смартфон с сенсорным экраном. Было бы более правильное описание сути статьи. И раскрыть какие-то применения, зачем кому-то нужен такой девайс, без подключения очков или тем более полноразмерных мониторов с мышью и клавиатурой - так как в этом случае логичнее купить миникомп без встроенного сенсорного экрана, ну или просто использовать ноутбук.
/**
* These author ID lists are used purely for metrics collection. We track how often we are
* serving Tweets from these authors and how often their tweets are being impressed by users.
* This helps us validate in our A/B experimentation platform that we do not ship changes
* that negatively impacts one group over others.
*/
То есть переменные использовались в метриках как посты от авторов из этих групп (одна из которых состоит только из одного Elon) показываются и просматриваются. Так что этот код был там на полном серьёзе. И да, они действительно пытались затереть всё форс-пушем патча "remove all bias", который убирает этот код, как было отмечено в этом комментарии: http://web.archive.org/web/20230401074328/https://github.com/twitter/the-algorithm/commit/ec83d01dcaebf369444d75ed04b3625a0a645eb9#commitcomment-107057024 - но смысл этого непонятен, так как всё равно всё сохранено, а форс-пуш на публичном репозитории это немного неправильно.
Вообще-то требования к процессору довольно высоки, не стоит думать, будто бы только от пропускной способности памяти всё зависит. Например, EPYC 7763 с 64 ядрами становится ограничением первее, чем восьмиканальная DDR4 3200MHz память. Кроме того, двухсокетовая конфигурация не даст двойного прироста даже близко - лучше взять односокетувую с более производительным процессором за те же деньги.
DDR5 в несколько раз дороже и может себя не раскрыть полностью без мощного процессора, так что стоит брать только если есть много лишних денег на всё сразу, и на процессоры, и DDR5, и видеокарты. Иначе может оказаться, что EPYC с DDR4 и хотя 3090 картами будет производительнее, да и более универсален для разных AI моделей.
Кстати, для CPU+GPU хорошая идея использовать ik_llama.cpp. Например, я с EPYC 7763 и 3090 видеокартами получаю 8 токенов в секунду с UD-Q4_K_XL квантом, больше, если сделать свой оптимизированный под ik_llama.cpp квант.
Ещё можно выиграть производительность, если использовать новую модель DeepSeek R1T Chimera вместо старой R1, так как она тоже может думать ничуть менее эффективно, но тратит при этом на 40% меньше токенов в среднем, менее склонна к зацикливанию, да и в целом пишет лучше.
С Samsung DEX по моему мнению лучше всего работают OLED FullHD AR очки, особенно если цель мобильность. Не нужно никаких переходников, достаточно прямого подключения к USB-C. Не хочу рекламировать конкретных моделей, так как каждый решаем сам для себя, но современные AR очки, если хорошо подойдут и сделаны качественно, имеют отличную чёткость от края до края, что можно легко читать мелкий шрифт в любом месте экрана. Стационарные мониторы всё ещё могут иметь смысл, если нужен 4K или HDR, ну или если очки по каким-то причинам не подходят (например, из-за нетипичного межзрачкового расстояния или индивидуальных предпочтений). И если уж упомянули Самсунг, то например Note20 Ultra, хоть и не новая модель, но идёт с 12GB оперативной памяти и имеет слот для карт памяти, что позволяет добавить сколько нужно, и эту модель можно найти по цене меньше, чем миникомп в статье.
В сущности, единственный плюс мини-компа из статьи - совместимость с десктопными приложениями, но тут мне видится проблема, что с маленьким сенсорным экраном ими толком пользоваться не получится, а USB-C на нём не поддерживает видеовыход, то есть очки без переходника к нему не подключить. Конечно, переходник не очень громоздок, но если не ограничивать выбор по наличию USB-C видеовыхода и сенсорного экрана - то на рынке и так полно миникомпов. У меня есть несколько миникомпов, и ни разу не было ощущения нехватки сенсорного экрана. Если нужно, можно зайти через телефон и иметь возможность зума и сенсорного контроля курсора, ну или подключить через HDMI на USB-C переходник очки, если нужно видеть полноценный размер экрана. Или традиционный монитор, если компактность неважна и нужно 4K или HDR. Во всех случаях пользы со встроенного маленького сенсорного экрана не вижу, так как для десктопных приложений слишком мал и неточен, а если просто смотреть видео или что-то подобное, то на OLED экрана более-менее современного смартфона или очков чёткость и контрас будут лучше.
Самое главное, что сходства такого миникомпа с наладонниками никакого. У меня были в своё время разные "наладонники", так есть с чем сравнивать. Поэтому на мой взгляд заголовок статьи надо было делать иначе, вроде как сделали сами японцы - типа мини-PC размером со смартфон с сенсорным экраном. Было бы более правильное описание сути статьи. И раскрыть какие-то применения, зачем кому-то нужен такой девайс, без подключения очков или тем более полноразмерных мониторов с мышью и клавиатурой - так как в этом случае логичнее купить миникомп без встроенного сенсорного экрана, ну или просто использовать ноутбук.
Некоторые думают это была первоапрельская шутка, но первая попытка прислать патч для удаления политического мусора в классификации пользователей была 31 мая: https://web.archive.org/web/20230331194218/https://github.com/twitter/the-algorithm/pull/179. И был найден коммент, который объясняет цель этого кода:
/** * These author ID lists are used purely for metrics collection. We track how often we are * serving Tweets from these authors and how often their tweets are being impressed by users. * This helps us validate in our A/B experimentation platform that we do not ship changes * that negatively impacts one group over others. */То есть переменные использовались в метриках как посты от авторов из этих групп (одна из которых состоит только из одного Elon) показываются и просматриваются. Так что этот код был там на полном серьёзе. И да, они действительно пытались затереть всё форс-пушем патча "remove all bias", который убирает этот код, как было отмечено в этом комментарии: http://web.archive.org/web/20230401074328/https://github.com/twitter/the-algorithm/commit/ec83d01dcaebf369444d75ed04b3625a0a645eb9#commitcomment-107057024 - но смысл этого непонятен, так как всё равно всё сохранено, а форс-пуш на публичном репозитории это немного неправильно.