Когда ты используешь API или интерфейс вендоров больших языковых моделей ты отдаешь им свои данные в виде запроса. Некоторые по невнимательности приватные ключи так сливают.
Как круто сливать корпоративные данные куда-то на аутсорс и еще платить за это! Ведь написать регулярку для решения простой задачи это так сложно, а вот подключаться к какой-то левой апишке, писать промпты и настраивать пайплайн для закидывания денег на счет, обработки данных и т.д. -- это просто!
Сразу видно человека, который код не пишет, а занимается профанацией.
1.7 млрд параметров потребуется примерно 1.7*2 GB видеопамяти. По идее даже на 2060 спокойно запустится.
Когда ты используешь API или интерфейс вендоров больших языковых моделей ты отдаешь им свои данные в виде запроса. Некоторые по невнимательности приватные ключи так сливают.
Как круто сливать корпоративные данные куда-то на аутсорс и еще платить за это! Ведь написать регулярку для решения простой задачи это так сложно, а вот подключаться к какой-то левой апишке, писать промпты и настраивать пайплайн для закидывания денег на счет, обработки данных и т.д. -- это просто!
Сразу видно человека, который код не пишет, а занимается профанацией.