В качестве вступления стоит сказать что я пользуюсь macOS и потому некоторые части:
- Автозапуск (launchd)
- Формат конфигурационных файлов (plist)
- Программа, используемая для уведомлений (terminal-notifier)
будут специфичны для этой ОС. Однако, если Вас заинтересует проект, думаю, поменять пару путей и слегка поправить несколько функций, чтобы заставить этот код работать с Вашей системой уведомлений, yaml'ом и, допустим, кроном, не составит труда.
Итак, к делу.
Проверять трекеры на обновления любимых телевизионных шоу, вспоминать в момент когда вышел новый эпизод, смотрел ли ты предыдущий, — надоедает. К тому же, как известно, все что нужно делать больше двух раз, стоит автоматизировать. Проект был начат на скорую руку и, вероятно, будет совершенствоваться.
Что же он содержит?
- Класс парсера в parser.py
- Класс загрузчика в core.py
- Плагины, наследующие класс загрузчика в директории plugins
- Файлы конфигурации плагинов в директории configs
- Директорию icons для иконок уведомлений
- Файл main.py, дергающий плагины
- Файл install.py
Класс парсинга
Так как почти на всех сайтах сериалов есть свои RSS-ленты, было решено для упрощения процесса написания плагинов слепить функцию парсинга, позволяющую автоматически распарсить rss по ссылке и выдать список пар (заголовок, ссылка) с возможностью указания кодировки.
Чуть позже пришла необходимость простого парсинга html, а потом подумалось что некоторые сайты могут отдавать ссылки и через api в формате json.
Так функция превратилась в класс, хранящий сессию (requests Session) для сайтов, требующих авторизации и возвращающий response-объект с методами html(), rss(), json() и auto(). Последний пытается угадать содержимое (xml, html или json) и кодировку по заголовку 'Content-Type'. По умолчанию — 'utf-8' и html.
- Метод html() возвращает объект beautifulsoup всей страницы
- Метод rss() вызвращает массив кортежей (заголовок, ссылка)
- Метод json() возвращает объект, полученный методом json.loads текста страницы
Класс загрузчика
Предоставляет плагинам методы parse() и download().
- Метод parse() предоставляет возможность передать ссылку и параметры url. Он же проверяет 'If-Modified-Since' если сайт предоставляет данные о последнем изменении. Возвращает response-объект из файла parse.py.
- Метод download() принимает словарь с данными о названии сериала, эпизода, ссылкой и прочими мелочами, а так же http-заголовки и куки. А далее самостоятельно производит всю магию. Загружает файл в предварительно созданную им папку "Название_сериала[имя_класса_плагина]", где предполагается что имя класса плагина — название студии озвучания/сайта с которого происходит загрузка. Если файл — торрент, загружает эпизод с торрента и удаляет файл торрента. Загрузка производится с помощью aria2c, который должен быть установлен в системе и находиться в одной из директорий, прописанных в $PATH. После чего вызывается метод save(), который сохраняет ссылки в файл конфигурации для предотвращения повторной загрузки.
- Метод __notify(), который вызывается при начале и окончании загрузки, если по пути /usr/local/bin/terminal-notifier обнаружено соответствующее приложение. Посмотреть как это выглядит можно чуть ниже.
Плагины
Классы, наследующие класс загрузчика, реализующие метод start() в котором надо произвести парсинг и вызвать метод download() с ожидаемыми параметрами.
Файлы конфигурации плагинов
*.plist
Содержат:
- Интересующее качество
- Список подписок
- Список исключений ("полный сезон", например)
- last_modified для сайтов, дающих информацию о последнем изменении
- Сюда же будет записан список ссылок для предотвращения повторной загрузки
Директория icons
Папка в которую можно положить файлы иконок, которые будут использованы при уведомлении о загрузке/окончании загрузки эпизодов из соответствующих источников. Названия иконок должны соответствовать названиям плагинов, но с расширением jpg/ico/png.
main.py
Дергает поочередно метод start() всех плагинов в директории plugins.
install.py
- Установит зависимости
- Переместит файлы проекта в ~/.NB-series-downloader
- Создаст файл автозапуска
- Удалит директорию склонированного репозитория
Автозагрузка
Файл install.py сделает это за Вас, но если Вы решили сделать все вручную, то...
Мне не удалось рассказать launchd о $HOME, посему Вам придется самостоятельно заменить в тексте ниже $HOME на путь до домашнего каталога вашего пользователя /Users/Username и, возможно, изменить путь до директории со скриптами, если вы положили их в другое место.
<?xml version="1.0" encoding="UTF-8"?>
<!DOCTYPE plist PUBLIC "-//Apple//DTD PLIST 1.0//EN" "http://www.apple.com/DTDs/PropertyList-1.0.dtd">
<plist version="1.0">
<dict>
<key>Disabled</key>
<false/>
<key>EnvironmentVariables</key>
<dict>
<key>PATH</key>
<string>/usr/local/bin</string>
</dict>
<key>KeepAlive</key>
<dict>
<key>SuccessfulExit</key>
<false/>
</dict>
<key>Label</key>
<string>series_downloader</string>
<key>ProgramArguments</key>
<array>
<string>python3</string>
<string>$HOME/.NB-series-downloader/main.py</string>
</array>
<key>RunAtLoad</key>
<true/>
<key>StartInterval</key>
<integer>900</integer>
<key>WorkingDirectory</key>
<string>$HOME/.NB-series-downloader</string>
</dict>
</plist>
Сам файл с этим содержимым стоит назвать series_downloader.plist и положить в ~/Library/LaunchAgents/.
Загрузить описанные в этом файле задания сразу можно командой
launchctl load ~/Library/LaunchAgents/series_downloader.plist
Иначе задания активируются при следующей загрузке компьютера.
Эти действия заставят main.py, лежащий в директории $HOME/.NB-series-downloader/, запускаться каждые 900 секунд (15 минут).
Итого
Честно говоря, первое что я туда выкладываю, так что мог напортачить. Подскажите, если что не так.
Уведомление о начале загрузки:
После загрузки надпись "Загрузка начата" сменится на "Загрузка закончена".
Вот и все что мы увидим в результате работы плагина, а эпизоды будут аккуратненько сложены в папочку и ждать своего часа.
Сериалы в моем случае складываются в Series в том же каталоге (можно указать иное место в self.series_dir класса downloader в core.py).
А для просмотра загруженных серий мною написан workflow для Alfred 3:
После просмотра каждой серии он предлагает:
- Удалить оную (я не храню архив, всё просмотренное отправляется в корзину)
- Запрашивает оценку эпизода от 1 до 5, а так же отмечает только что просмотренную таковой в моем аккаунте на myshows.me и выставляет рейтинг эпизода используя их api
- Выводит уведомление о том удачно ли все прошло
- По клику на уведомление можно открыть страницу только что просмотренного эпизода на myshows
Но это всё — уже совсем другая история...