Как стать автором
Обновить

Вышли Java/Python SDKs 1.3.5, а также частичная реализация MapReduce для AppEngine

Время на прочтение2 мин
Количество просмотров731
Сначала расскажу об изменениях в SDKs, а потом о MapReduce.

Итак,
— Увеличение квот TaskQueue с 50 запросов на приложение до 50 запросов на очередь, в последующих резилах ожидаются дальнейшие улучшения этого сервиса.
— Возможность настройки лимита хранилища для TaskQueue.
— Прекомпиляция для Python, в настоящее время отключена по умолчанию, включается в конфиге.
— Добавлены программные интерфейсы для доступа к blob-файлам напрямую из приложения. Идет работа над созданием и редактированием blob из приложения, пока не готово.
— Для local python SDK задания теперь выполняются автоматически.

Из изменений видно, что текущий релиз был в контексте развития технологии MapReduce для AppEngine, о ней речь пойдет ниже.



Год назад Brett Slatkin пообещал набор технологий для работы с огромными массивами данных, и очевидно, что в основе должна была быть MapReduce. Но возникли сложности (для интересующихся смотрите презентацию этого года), и решено было использовать TaskQueue для имплементации.

Проект appengine-mapreduce полностью opensource, и довольно быстро развивается усилиями 4 человек. Для java в основе положен Apache Hadoop, для python полностью свой код.

В настоящее время существует лишь нетранзакционная map-фаза, в дальнейшем появится полноценный MapReduce с shuffle+reduce фазами. Вся инфа по проекту находится на главной и в вики-страницах. Пользуйтесь на здаровье.

Кстати, в следующем релизе, скорее всего, появится поддержка web-sockets, сейчас уже все готово в SDKs, включая полноценный API, но видимо есть еще трудности для production.

2Guria: в protobuf описании rpc для XMPP в обоих SDK появились методы SendPresenceRequest и SendPresenceResponse, что дает вам надежду на скорое закрытие вашего тикета. Продолжайте писать на форуме и непосредственно в своем тикете, теребя разрабов.

Полные списки изменений:
Release Notes: Python
Release Notes: Java
Revision History
Product Roadmap
Теги:
Хабы:
Всего голосов 26: ↑26 и ↓0+26
Комментарии12

Публикации

Истории

Ближайшие события

19 августа – 20 октября
RuCode.Финал. Чемпионат по алгоритмическому программированию и ИИ
МоскваНижний НовгородЕкатеринбургСтавропольНовосибрискКалининградПермьВладивостокЧитаКраснорскТомскИжевскПетрозаводскКазаньКурскТюменьВолгоградУфаМурманскБишкекСочиУльяновскСаратовИркутскДолгопрудныйОнлайн
3 – 18 октября
Kokoc Hackathon 2024
Онлайн
24 – 25 октября
One Day Offer для AQA Engineer и Developers
Онлайн
25 октября
Конференция по росту продуктов EGC’24
МоскваОнлайн
26 октября
ProIT Network Fest
Санкт-Петербург
7 – 8 ноября
Конференция byteoilgas_conf 2024
МоскваОнлайн
7 – 8 ноября
Конференция «Матемаркетинг»
МоскваОнлайн
15 – 16 ноября
IT-конференция Merge Skolkovo
Москва
25 – 26 апреля
IT-конференция Merge Tatarstan 2025
Казань