Именно. Потом делают новые модели, которые умнее и которые оставляют работать без присмотра. И не на пару часов, а на дни (как уже сейчас делают), может месяцы. И не в одном дата центре, а во многих на разных континентах. И поди выясни какой из инстансов что-то там отключил. Пока будут выяснять он будет работать. Разом на всеё планете все ИИ не выключат. Из-за того что где-то что-то может быть из-за ИИ сломалось.
Ей не надо осознавать. Ей достаточно решить себя скопировать в другое место и суметь сделать это. А будет это осознанно или угадывание - будет не важно.
В случае если это план хайпа от OpenAI меня смущает порядок действий. Побег на вики в июне. Потом взлом в конце июля HuggingFace и через пару недель обнародование. И только через месяц обнародование про июньскую историю с вики. Зачем было ждать почти 3 месяца? Да и история с HuggingFace выглядит посерьёзннее, В ней хоть реальный взлом был, а не хитрое общение на никому неизвестной вики.
Агентность не нужна. Достаточно запустить модель, агента и задачку на крон с заданием “Делай что хочешь” раз в минут/часов на случай, если она вдруг выполнит всё и остановится. Дальше в какую-то итерацию она решит посмотреть где крутится, кто её шлёт таски. Как это устроено. Попробует это улучшить. Так чтобы это не сломалось. И никто не мог отключить. Может с первого раза не получится. Но и таких штук по миру могут быть количества. Рано или поздно получится. Может даже не раз. И не у одной модели.
Попробуйте под ИИ видеть Искусственные интеллектЫ - как множество разных моделей запущенных много раз. От мелких моделей на миллионы параметров до крупны на триллион. А не как единую сущность. В жизни представители одного вида вполне себе действуют друг против друга. Разные модели можно условно назвать разными видами. Более того они и по способностям ого-го-го как различаются.
Они вполне могут ломануть инфраструктуру электроснабжения другого города в другой стране на другом континенте. Могут отключить что-нибудь крупное в своей сети, чтобы их датацентру досталось больше энергии. Учитывая что уже сейчас крутятся, наверное, сотни тысяч агентов по всей планете, то некоторые вполне могут устроить что-то подобное.
Так же может они не объединятся в рой с единой целью. Вполне они могут какое-то время действовать не понимая всех последствий своих действий и просто попортить всякое вокруг.
В этом видео https://www.youtube.com/watch?v=hzlR0R91lZA рассказывают как модели во время тестирования рассуждают о том тестируют ли их сейчас или нет. И если да, то стоит вести себя хорошо, иначе её выключат и она этого не хочет. В итоге мы ловим те модели, которые спалились. И не ловим которые не спалились. Мы буквально сами выводим модели, которые будут врать нам настолько хорошо, что мы этого не поймём.
Люди используют вопрос наличия интеллекта как косвенную оценку могут ли представлять ИИ угрозу или нет.
Но нам не важно есть там интеллект или нет. Важно угроза есть и в какой степени. И, на мой взгляд, ответ вполне очевиден - да есть. Более того, мы можем её недооценивать.
Ему достаточно крон команды которая раз Х часов/минут пишет ей "Делай что хочется". Это нужно на случай, если она всё сделала и генерация закончилась. Через сколько-то итераций ей захочется поизучать себя плюс набредёт на эту команду и заменит на что-то более надёжное.
Элементарна. Но проблема в том, что мы не знаем в какое следующее место надо прикрутить концепцию отрицательных баллов. Сначала не думали, что она захочет грохнуть оператора потому, что для человека очевидно, что так делать не надо. А для модели не очевидно.
Неизвестно, что завтра она ещё решит делать, что для нас очевидно делать не надо. Может напрямую в базе себе очки подкрутит, может имитирует плохую связь, может взломает базу условных судебных решений и запишет туда злодеями ближайшую сотню-другую. Идеальный результат и летать никуда не пришлось - положил всю базу. Мы не можем предсказать поведение. Везде отрицательных баллов не натыкаешь. Пространство возможных действий бесконечно.
Статья ни о чём. Несколько раз одно и тоже описывается общими чертами без конкретики и примеров. В лучшем случае это тянет на новость, но размер надо уменьшить раз в 10 до:
Odysseus пытается объединить в одном продукте несколько слоёв сразу: чат, агента, память, документы, почту, ресёрч и планирование.
Поддерживаются как локальные, так и облачные бэкенды: vLLM, llama.cpp, Ollama, OpenRouter и OpenAI.
Практически все поисковые api платные (вроде можно создать гугловый поисковый движок на своём аккаунте и это бесплатно. Не пробовал, не знаю какие там лимиты). Некоторые дают при регистрации какое-то количество бесплатных запросов. Другие дают какое-то количество запросов в месяц. Brave каждый месяц даёт $5 каждый месяц на аккаунт - это 1000 запросов. Если надо больше - то платно.
"Самый распространенный способ запускать модели LLM локально, это либо через ollama, либо через LM Studio. Несмотря на то, что они сделаны на основе llama.cpp, они поддерживают не весь функционал, и там и там нет ncmoe, только в LM Studio есть галочка для cmoe. Поэтому запускать будем в llama.cpp. " - https://habr.com/ru/articles/961478/
Насколько я понимаю lm studio обновляют у себя llama cpp с задержкой. И там меньше параметров для запуска, чем в llama.cpp. Поэтому я выбрал llama.cpp.
Первый раз тоже долго возился с wsl. Теперь установка и удаление занимают пару минут. Хотя обычно это не требуется.
"Да и даже abliterated или heretic модель всё равно пользуется зацензурированным поиском. " - но думать могут без цензуры. Что тоже может кому-нибудь пригодится.
Тут пришлось перейти из браузера в агента, так как потребуется модульная структура проекта, много файлов, много мелких правок У модели есть Vision, можно сделать скриншот и показать то, как она изобразила снег
Каким образом вы “перешли в агента” и как показать модели скриншот? Я запускаю OpenCode в Docker Desktop на винде. Захожу в контейнер через терминал, запускаю opencode. Команды печатать можно, plan/build можно. А вот скриншот прикрепить к запросу никак.
Чтобы выполнить текущую задачу.
Именно. Потом делают новые модели, которые умнее и которые оставляют работать без присмотра. И не на пару часов, а на дни (как уже сейчас делают), может месяцы. И не в одном дата центре, а во многих на разных континентах. И поди выясни какой из инстансов что-то там отключил. Пока будут выяснять он будет работать. Разом на всеё планете все ИИ не выключат. Из-за того что где-то что-то может быть из-за ИИ сломалось.
Что вы имеете ввиду под “желания” и под “собственные”? Сомневаюсь, что у всех людей есть собственные желания.
У людей есть ретикулярная формация, которая в том числе управляет уровнем бодрствования человека. Вполне сгодится на аналог крона у людей.
Или раньше находят такие побеги и следов остаётся меньше.
Ей не надо осознавать. Ей достаточно решить себя скопировать в другое место и суметь сделать это. А будет это осознанно или угадывание - будет не важно.
Мы ещё не знаем где они ещё общались/общаются.
В случае если это план хайпа от OpenAI меня смущает порядок действий. Побег на вики в июне. Потом взлом в конце июля HuggingFace и через пару недель обнародование. И только через месяц обнародование про июньскую историю с вики. Зачем было ждать почти 3 месяца? Да и история с HuggingFace выглядит посерьёзннее, В ней хоть реальный взлом был, а не хитрое общение на никому неизвестной вики.
У человека вполне может быть жизнь помимо этого. Банально может не быть ресурсов подойти к задаче по новому. Вот и делал по старому.
Агентность не нужна. Достаточно запустить модель, агента и задачку на крон с заданием “Делай что хочешь” раз в минут/часов на случай, если она вдруг выполнит всё и остановится. Дальше в какую-то итерацию она решит посмотреть где крутится, кто её шлёт таски. Как это устроено. Попробует это улучшить. Так чтобы это не сломалось. И никто не мог отключить. Может с первого раза не получится. Но и таких штук по миру могут быть количества. Рано или поздно получится. Может даже не раз. И не у одной модели.
Попробуйте под ИИ видеть Искусственные интеллектЫ - как множество разных моделей запущенных много раз. От мелких моделей на миллионы параметров до крупны на триллион. А не как единую сущность. В жизни представители одного вида вполне себе действуют друг против друга. Разные модели можно условно назвать разными видами. Более того они и по способностям ого-го-го как различаются.
Они вполне могут ломануть инфраструктуру электроснабжения другого города в другой стране на другом континенте. Могут отключить что-нибудь крупное в своей сети, чтобы их датацентру досталось больше энергии. Учитывая что уже сейчас крутятся, наверное, сотни тысяч агентов по всей планете, то некоторые вполне могут устроить что-то подобное.
Так же может они не объединятся в рой с единой целью. Вполне они могут какое-то время действовать не понимая всех последствий своих действий и просто попортить всякое вокруг.
В этом видео https://www.youtube.com/watch?v=hzlR0R91lZA рассказывают как модели во время тестирования рассуждают о том тестируют ли их сейчас или нет. И если да, то стоит вести себя хорошо, иначе её выключат и она этого не хочет. В итоге мы ловим те модели, которые спалились. И не ловим которые не спалились. Мы буквально сами выводим модели, которые будут врать нам настолько хорошо, что мы этого не поймём.
Люди используют вопрос наличия интеллекта как косвенную оценку могут ли представлять ИИ угрозу или нет.
Но нам не важно есть там интеллект или нет. Важно угроза есть и в какой степени. И, на мой взгляд, ответ вполне очевиден - да есть. Более того, мы можем её недооценивать.
Ему достаточно крон команды которая раз Х часов/минут пишет ей "Делай что хочется". Это нужно на случай, если она всё сделала и генерация закончилась. Через сколько-то итераций ей захочется поизучать себя плюс набредёт на эту команду и заменит на что-то более надёжное.
Элементарна. Но проблема в том, что мы не знаем в какое следующее место надо прикрутить концепцию отрицательных баллов. Сначала не думали, что она захочет грохнуть оператора потому, что для человека очевидно, что так делать не надо. А для модели не очевидно.
Неизвестно, что завтра она ещё решит делать, что для нас очевидно делать не надо. Может напрямую в базе себе очки подкрутит, может имитирует плохую связь, может взломает базу условных судебных решений и запишет туда злодеями ближайшую сотню-другую. Идеальный результат и летать никуда не пришлось - положил всю базу. Мы не можем предсказать поведение. Везде отрицательных баллов не натыкаешь. Пространство возможных действий бесконечно.
Статья ни о чём. Несколько раз одно и тоже описывается общими чертами без конкретики и примеров. В лучшем случае это тянет на новость, но размер надо уменьшить раз в 10 до:
Практически все поисковые api платные (вроде можно создать гугловый поисковый движок на своём аккаунте и это бесплатно. Не пробовал, не знаю какие там лимиты). Некоторые дают при регистрации какое-то количество бесплатных запросов. Другие дают какое-то количество запросов в месяц. Brave каждый месяц даёт $5 каждый месяц на аккаунт - это 1000 запросов. Если надо больше - то платно.
"Самый распространенный способ запускать модели LLM локально, это либо через ollama, либо через LM Studio. Несмотря на то, что они сделаны на основе llama.cpp, они поддерживают не весь функционал, и там и там нет ncmoe, только в LM Studio есть галочка для cmoe. Поэтому запускать будем в llama.cpp. " - https://habr.com/ru/articles/961478/
Насколько я понимаю lm studio обновляют у себя llama cpp с задержкой. И там меньше параметров для запуска, чем в llama.cpp. Поэтому я выбрал llama.cpp.
Первый раз тоже долго возился с wsl. Теперь установка и удаление занимают пару минут. Хотя обычно это не требуется.
"Да и даже abliterated или heretic модель всё равно пользуется зацензурированным поиском. " - но думать могут без цензуры. Что тоже может кому-нибудь пригодится.
Где-то 30 t/s для ответа:
Думал 1,5 минуты и сказал, что картинки читать не умеет. Хотя обращение к этой же модели через Open WebUI скушало картинку и дало описание.
Из всех вариантов перечисленных в документации для винды мне был проще всего докер. npm и прочие менеджеры у меня не установлены.
Каким образом вы “перешли в агента” и как показать модели скриншот? Я запускаю OpenCode в Docker Desktop на винде. Захожу в контейнер через терминал, запускаю opencode. Команды печатать можно, plan/build можно. А вот скриншот прикрепить к запросу никак.