Comments 34
А есть броузер такой же удобный как Хром (чтобы запоминал открытые вкладки и синхронизировал их между устройствами), только не распоряжающийся моим компьютером как своим собственным?
Сдается мне, бесплатный браузер сделать стоит совсем немаленьких денег, так что считать пользователей товаром для авторов совсем не странно.
Я бы сказал, что ff - но и то, они, прямо уверен, сейчас напрягутся и встроят и себе модель. Или две.
ФФ конечно же
Brave, например.
librewolf
Синхронизация вкладок давно есть в любом форке хромиума, вопрос лишь в количестве встроенной телеметрии конкретного дистрибутива
Есть куча форков Chrome. И если вам не нужно смотреть Netflix или другие видеосервисы, защищающие видеопоток с помощью DRM, то их вполне можно использовать. Если же вам хочется смотреть DRM-видео, то выбор невелик. Вот, на Habr недавно статья была: https://habr.com/ru/articles/485918/
Как идея хорошо. Реализация так себе.
Отдельное пер сайт разрешение точно нужно, естественно с возможностью разрешить/запретить всем. Явное включение или хотя бы явный запрос на выключение при первом использовании тоже нужно. Интерфейс для пользователя тоже нужен, дайте пользователям возможность использовать эту модель как они хотят. И конечно нужна открытая апишка чтобы пользователи могли любые модели подкладывать. И тогда будет нормально.
Я бы ещё добавил логирование того какие промты запускает сайт. Так и проситься расширение для такой бд. Квоту на домен и предупреждения по достижении. Чтобы сразу посмотреть что он там делает.
А зачем? Для локальных моделей есть ollama, lmstudio - зачем их функционал еще и в хром тащить?
Скажем, в хром можно еще встроить калькулятор, wiki, терминальный клиент - можно, но не делают же (но разрешают делать через расширения браузера).
Здесь же самое ключевое: пересказ текста работает не через локально установленную модельку, а через облако. Локальная модель якобы читает текст на посещаемых страницах, чтобы понять, обманывают ли на них посетителя - честно говоря, выглядит как надуманная причина!
А теперь подумать: миллионы никому не нужных, но готов к запуску моделей по всему миру, причем по умолчанию активированных - с какой целью Гугл это сделал?
Гугл никогда не добавит явные пермишены для сайтов на запуск ИИ, это сразу убьет саму идею бесшовного внедрения нейронок в веб
Гиблое направление. Лучше бы не хилую модель совали в браузер, а браузер в облако, ближе к модели. Чтобы как в GeForce NOW, все работало как с тонкого клиента.
Чем то напоминает навязывание антивирусов. Память под завязку, какие-то фоновые процессы? Эй, у меня вообще то другие LLM крутятся, которые мне нужны, мне не нужен антивирус или личный цензор. VRAM и так мало, ОЗУ тоже дорогая, я эту память купил не для того, чтобы у меня там жил совершенно неподконтрольный мне ИИ. Сегодня они "злостные" сайты распознают а завтра будут крутить чужой инференс на моем компе? Распознавать намерения? Мыслепреступления? И никак не проконтролируешь, считай вирус. По сути они воруют ресурсы у пользователей, конечно с благой целью. Мало им утечки памяти у хрома...
Потому заметку и написал, чтобы люди не забывали снимать галочку эту, стоящуюь по дефолту.
чтобы люди не забывали снимать галочку эту, стоящуюь по дефолту.
Браузер всё равно скачает и запустит свою LLM, всё равно будет сканировать всё, до чего сможет дотянуться, но это галочка будет героически сдерживать его, как тот голландский мальчик, затыкающий пальцем плотину.
Можно попробовать запустить браузер через самописный лаунчер с квотой по памяти. Начнёт отжирать не вмеру и помрёт. А там - умерла, так умерла.
Знаешь значит вооружен, сразу понятно куда место пропадёт и как можно попытаться вырезать. А если монолит так и уйти от такого браузера не сложно. Или вы предлагаете просто молчать? Все равно, все равно. Такая статья может просто помочь задуматься о том на что раньше не обращал внимание. Ну есть кнопка и есть, а так пойдешь и проверишь, что там под капотом.
Гугл просто не дает твоей дорогой видеокарте покрыться толстой пылью)
Это может породить довольно забавную ситуацию: на российском компьютере лежит несколько гигабайт локальной Gemini, облачная кнопка Gemini официально недоступна, а локальная модель ещё и не умеет нормально работать с русским текстом.
Зато ресурсы жрёт в полный рост и постоянно качает обновы...
Спасибо за инфу, будем отключать.
установил, поигрался. сам gemini на русском неплохо работает, хотя пишут что нет. но работает очень медленно для своего размера (даже на GPU 3090). qwen27b гораздо быстрее работает. Для суммаризации языки сейчас: en, es, ja, de, fr, и с русским не запускается. Но суммаризацию можно делать через промт. Но опять же с такой скоростью смысла не имеет. удаляем…
Про локальную аналитику фишинга звучит как красивая сказка для инвесторов, по факту они парсят наши экраны для дообучения своих моделей
API выглядит бедным. Как бы опять не стало через год depricated и лежало мертвым грузом
Главное, чтобы модели потом тоже не лежали мертвым грузом. Судя по всему, 99% владельцев хрома пока от обрезанных моделей на диске никакой пользы не видно (и, будем честны, все точно тоже самое можно и в облаке сделать, т.е. ответ на вопрос зачем мне модель выглядит неправдивым, каким-то "для отвода глаз"). Но вот для многих из этих владельцев пропадание 4 Гб (а в пике - до 8, когда идет обновление модели и обе лежат на диске) окажется неприятным сюрпризом.
И ладно бы вводили по принципу "отключено, но включи при желании", но сделали-то наоборот!
Читая сайты/журналы как xakep.ru и подобные, где разбирались и разбираются автономные встроенные в браузер ИИ с точки зрения кибербезопасности, мне кажется что Гугл и другие хотял стрелять в ногу не себе, а нам, и даже не просто пистолетом. Придумываю что-то одно как бы для безопасности они создают больше того, что вредит ей.
Опция скачивания за/против появилась далеко не сразу, ближе к 150, кажется, хотя сами веса качались до 140, или раньше. Нельзя так. Тем более, как и указал автор, "Вы против? Мы вот ещё раз галочку поставим. Вдруг вы за".
Ну и есть ресурсы без спроса такими размерами это наглость.
Мало что нельзя, так сама история напоминает тихое перенастраивание машин юзеров в воркеры для задач гугла. Скажем, преклассификация сайтов - чем не тема? Ночь, комп простаивает, браузер качает сотню сайтов по присланному списку, "читает" их моделью, и отправляет выводы "в центр"
Объясняют, что это они проверяют на безопасность.
А в итоге - миллионы видях по миру на халяву вполне себе выгода!
Я так понимаю ждем расширения для Хрома по включению и оталючению ИИ и квази-интерфейс к этой же модели (благо у расширений доступ есть).
Chrome скачавает 4 Гб локальной Gemini Nano: нужно ли, и как отключить