Обновить

Комментарии 5

 освободить open source модели от Python-стека, который его "не устраивает"

Правильно.

Пришлось погуглить, что такое инференс

Часто инференсом называют процесс работы уже обученной нейросети на конечном устройстве, или её логический вывод (конечный результат обработки данных).

Инференс — использование обученной модели для решения конкретной задачи. Например, вы включили камеру на телефоне. Она сразу определяет лицо, фокусируется, размывает фон. Всё это результат инференса.

Инференс — это этап, когда модель перестаёт учиться и начинает работать по назначению. Она получает запрос, обрабатывает его с учётом своих параметров и выдаёт итоговый результат. Именно на этапе инференса пользователи сталкиваются с «умением» модели.

ИИ цыгане каждый день выдумывают новые термины, можно даже не следить.

Какой ещё новый термин? Это базовый термин в логике, как дисциплине.

Ну вообще то ии уже давно может написать вообще любой код полностью. Осторожно с драйверами и embedded кодом, я его тоже иногда пишутам хуже.

Но...... я пользуюсь всеми llm через cursor пришел к мнению,что если код второстепенен, на него нет времени, он не так важен, разные отладки, веб интерфейс, тесты тогда все это пишем через ии. Средне важный код разрабатываем арзитектуру, код отдаем писать не больше ыункии 30 строчек и все пррверяем.

Очень важные части, только вручную и потом просим ии оценить правильность.

Иначе производительность только падает.

Сколько раз ии набросал суперсложный код на тысчи строчек логики и математики, все великолепно раьотает. Только очень редко падает..

Зарегистрируйтесь на Хабре, чтобы оставить комментарий

Другие новости