Comments 5
Пока обсуждают галлюцинации моделей, настоящие проблемы в том, что через них вытаскивают IAM креды
Годный ресерч, я тоже хостю 1 ханипот под анализ как сканят и атакуют LLM эндпоинты. Думаю тоже выложу аналитику как дойдут руки
ОК, представим ситуацию, что какой-то гений или компания создали AGI или ASI и выпустили его в сеть с командами: развивайся, поглощай (вычислительные ресурсы), приноси мне деньги. Насколько реально что такая система, которая умеет ломать все что угодно, получит и расширит ресурсы для своего инфиренса?
вообще вот очень вероятно и если такое еще не началось (массово), то скоро начнется
и у меня вот, кстати, вкладки с открытой страницей поиска гугла и его AI подозрительно цпу жрать стали как не в себя - как закроешь, сразу потребление падает
Я спросил у ИИ, где сейчас обитают вычислительные мощности: сервера, суперкомпы, облака: 75 - 80%, ПК только 15 - 20%. Причем, возможно, оценка строилась именно по производительности без учета того, что ПК работают не 24/7. И пользователи могут заметить подвох, если видюха будет подозрительно загружена. В итоге наверное можно рассчитывать максимум на 1% мировых вычислений. Что в целом то и не мало. Еще нужно будет решить вопрос с низкоскоростным интерконнектом между ПК при сильно распределенном инфиренсе. думаю, AGI решит эту проблему. А на серверах и в облаках наверное более серьезные методы контроля стоят и сложнее будет невидимо запустить стороннюю модель. Тут наверное надо встраивать ее код в программы, которые крутятся на серверах. Без подозрений тут тоже не сильно много мощностей можно будет втихаря забрать, тот же 1% мб.
Кто ворует ваш GPU: атаки на открытые LLM-эндпоинты (Ollama, llama.cpp) — и при чём тут кража облачных ключей