Эффективное использование памяти при параллельных операциях ввода-вывода в Python

[inchernar]

Чтобы воспользоваться преимуществами asyncio, я использовал aiohttp вместо requests. asyncio — асинхронный эквивалент requests со схожей функциональностью и API.

Опечатка? Наверное aiohttp это эквивалент?

[P0rt]

Спасибо, поправил.

[baldr]

А это специально для каждого запроса своя сессия открывается? Общая сессия — залог более быстрой работы.
Кроме того надо учитывать особенности библиотек при коннекте к одному серверу. У вас 100 запросов — это как раз предел для aiohttp (при общей сессии).
Также сервер может использовать ограничение одновременных коннектов. Если у вас, скажем, максимум 5 одновременных скачиваний, то, скорее всего, полноценной одновременности не получится. Для более чистого теста, может быть, использовать просто чтение из файла?
Также интересно было бы сравнить с PyPy — может быть там свои особенности?

[dvska]

задачи активно использующие ЦП, такие как обработка изображений

странно, что multiprocessing вообще не упомянут

[baldr]

Кстати да, но как там мерять память?

[user-vova]

asyncio это не "параллельная обработка"

[baldr]

Ну если смотреть формально, то потоки тоже не параллельные в питоне (CPython и тп).

[user-vova]

Это формальная параллельность или псевдо-параллелизм. Даже множество запущенных процессов с одноядерным процессором концептуально не отменяет параллелизм. А вот асинхронность (acyncio) никак не параллелизм. Дело в переводе, в оригинальной статье (да и в офф документации) acyncio описан как concurrency. А конкурентность и параллельность это разные вещи. Можно почитать: https://m.habrahabr.ru/company/piter/blog/274569