Заметили, что мегапикселей стало как-то очень много? В Samsung готовят матрицы разрешением 600 Мп, уже есть — 108 Мп, а вот в iPhone, по-прежнему, 12 Мп. Почему так?
Вы наверное думаете, что всё дело в Deep Fusion и других волшебных алгоритмах. Отчасти, да. Но дело не только в них.
А что если я вам скажу, что в iPhone гораздо больше мегапикселей, чем мы думаем. А в Samsung, наоборот, гораздо меньше. Смотря как посчитать эти мегапиксели. Что это еще за заговор такой? Давайте разберемся!
Первый момент. Если внимательно посмотреть на современные ультра-мегапиксельные матрицы на 48, 64 или даже 108 Мп (а Samsung официально анонсировал, что работает над 600 Мп сенсором), то становится понятно, что разрешение матрицы стало вещью относительной. Почему я так говорю?
Традиционно, каждый пиксель на матрице состоял как минимум из 3 вещей:
И получается что если в пикселе есть эти три компонента, его можно назвать полноценным. И в матрицах с такими дополнениями пикселя мы всегда получаем честное разрешение: если матрица 12 МП, то и фотография будет 12 МП. Но разве можно делать как-то иначе?
Оказывается, можно. Долгое время у производителей матриц была проблема. Они никак не могли сделать пиксель меньше 1 мкм. А значит они не могли при том же физическом размере матрицы увеличить разрешение. Вот мы и сидели в основном с 12 Мп камерами.
Но в 2018 году барьер в 1 мкм был преодолён и появились первые компактные матрицы с размером пикселя 0,9 или 0,8 мкм и разрешением в 48 МП и больше. Но с уменьшением размера пикселя при прочих равных падает и их светочувствительность. Что, кстати, происходит не всегда…
Поэтому придумали очень простой хак. Цветовой фильтр стали накладывать не на один, а сразу на четыре пикселя и назвали такую структуру Quad Bayer, ну или Tetra Cell, если вы маркетолог Samsung. А дальше, объединив 4 пикселя в один гигантский, мы получаем отличную светочувствительность!
Но при этом реальное разрешение в 48 Мп камерах с Quad Bayer структурой в 4 раза меньше номинального и все равно — 12 Мп. Потому что пиксели в таких матрицах не проходят наш критерий полноценности: в каждом пикселе есть фотодиод, в каждом есть микролинза, но цветовой фильтр только один на четырёх. А значит цветовое разрешение в таких камерах в 4 раза ниже фактического.
Более того, даже в новых Samsung со 108 Мп камерами, реальное разрешение тоже 12 Мп, потому как в них объединяют не четыре, а сразу девять пикселей. Итого, 108 делим на 9, получаем 12.
Но почему же просто не сделать большие пиксели и не заморачиваться с этим объединением? Как ни странно такой подход даёт массу преимуществ!
Во-первых, днём когда света много — можно не объединять пиксели, а наоборот, при помощи алгоритма Re-mosaic можно восстановить хоть и неполное разрешение матрицы, но очень высокое.
Во-вторых, мы можем заставить разные пиксели работать с разной выдержкой. Тогда на выходе мы получим один светлый и один темный кадр, а склеив их мы можем получить полноценную HDR фотографию, или даже HDR видео!
Короче, вариантов для экспериментов масса и грех такое не использовать.
Но, если все уже поняли, что подход работает, почему же тогда ни в iPhone, ни в Pixel не используется преимуществами новых матриц? И вот тут самое интересное. На самом деле они пользуется, причем давно, но по-другому!
Помимо структур Bayer и Quad Bayer, существует и альтернативная школа, которая называется Dual Pixel или вернее сказать Dual Photo Diode.
Она отличается от традиционного Байера тем, что каждый пиксель в ней состоит из двух независимых фотодиодов. При этом оба фотодиода перекрывает только одна микролинза.
Но зачем это нужно? Если посмотреть на традиционную цифровую матрицу под микроскопом, то помимо обычных пикселей мы заметим какие-то странные зоны — вот эти зеленые штучки.
Это датчики фазовой фокусировки. Они необходимы для автофокуса. Кто снимал на зеркальные, помните вот такие зоны фокусировки в видоискателе? Вот это они!
Чем больше таких датчиков, тем быстрее и точнее будет работа автофокуса или AF. Но вот проблема. Они физически занимают место на матрице и отнимают его у нормальных пикселей. А значит, нельзя бесконечно увеличивать количество фазовых пикселей. Потому как если бы на каждый обычный пиксель приходился один фазовый пиксель, то система фокусировки занимала бы процентов 60 от общей площади.
Так было раньше, пока Canon не придумал технологию Dual Pixel. В качестве датчиков фазовой фокусировки они стали использовать обычные пиксели, разделив их на две части! Это позволило все пиксели сделать фазовыми! Опять же все кто пользовался зеркалками, знает какой у Canon крутой автофокус.
Но если у взрослых камер такая технология есть только у Canon, то в смартфонах матрицы с двойными пикселями производит и Samsung, и Sony, поэтому такую систему фокусировки можно встретить в куче смартфонов. В том числе во всех Google Pixel, начиная со второго и в iPhone 11 и 12.
Поэтому фактически в iPhone матрицы 24 мегапиксельные, если считать по количеству фотодиодов. Только полноценными такие 24 Мп конечно назвать нельзя, потому как тут пиксели делят на двоих не только цветовой фильтр, но и макролинзу. Поэтому в таких матрицах пиксели всегда работают в режиме объединения.
Правда есть одно исключение, если в iPhone систему двойных пикселей используют исключительно по назначению то есть для улучшения фокусировки, и, кстати, автофокус в iPhone замечательно работает как в фото, так и в видео, то в Google Pixel при помощи этой технологии научились делать портретные снимки с одной камеры. Они просто берут две фотографии, которые получились с правого и левого фотодиода и, подсчитав насколько сдвинулось изображение, строят карту глубины.
Так к чему я всё это? 12 Мп в iPhone — это осознанный выбор Apple, как и 108 Мп в Galaxy — осознанный выбор Samsung. Каждый из которых даёт свои преимущества и недостатки.
Камеры с высоким разрешением и структурой Quad Bayer или NonaCell — позволяют добиться более высокого разрешения днём и классной светочувствительности ночью. Позволяют проводить съёмку с алгоритмами HDR для фото и видео и вообще могут очень гибко настраиваться под конкретную задачу. Но пока не каждый процессор может справится с обработкой такого количества пикселей, а также, как показали тесты Galaxy S20 Ultra, бывают проблемы с фокусировкой.
Dual Pixel матрицы с низким разрешением вроде бы ничем особо не отличаются от традиционных матриц, но фотографии в низком разрешении проще обрабатывать. А структура Dual Pixel позволяет добиться потрясающей скорости и точности фокусировки.
Тем не менее мир не стоит на месте, Samsung и Sony уже показали новые матрицы с Quad Bayer структурой и двойными пикселями, которые берут лучшее из двух миров. Поэтому в будущем ждем еще более крутые камерофоны в следующем году.
Вы наверное думаете, что всё дело в Deep Fusion и других волшебных алгоритмах. Отчасти, да. Но дело не только в них.
А что если я вам скажу, что в iPhone гораздо больше мегапикселей, чем мы думаем. А в Samsung, наоборот, гораздо меньше. Смотря как посчитать эти мегапиксели. Что это еще за заговор такой? Давайте разберемся!
Традиционная структура
Первый момент. Если внимательно посмотреть на современные ультра-мегапиксельные матрицы на 48, 64 или даже 108 Мп (а Samsung официально анонсировал, что работает над 600 Мп сенсором), то становится понятно, что разрешение матрицы стало вещью относительной. Почему я так говорю?
Традиционно, каждый пиксель на матрице состоял как минимум из 3 вещей:
- Фотодиод — маленький сенсор, который улавливает свет.
- Это цветовой фильтр, который позволят каждому фотодиоду улавливать только нужный спектр света: красный, зеленый или синий.
- Микролинза — которая позволяет точнее фокусировать свет внутрь пикселя.
И получается что если в пикселе есть эти три компонента, его можно назвать полноценным. И в матрицах с такими дополнениями пикселя мы всегда получаем честное разрешение: если матрица 12 МП, то и фотография будет 12 МП. Но разве можно делать как-то иначе?
Quad Bayer
Оказывается, можно. Долгое время у производителей матриц была проблема. Они никак не могли сделать пиксель меньше 1 мкм. А значит они не могли при том же физическом размере матрицы увеличить разрешение. Вот мы и сидели в основном с 12 Мп камерами.
Но в 2018 году барьер в 1 мкм был преодолён и появились первые компактные матрицы с размером пикселя 0,9 или 0,8 мкм и разрешением в 48 МП и больше. Но с уменьшением размера пикселя при прочих равных падает и их светочувствительность. Что, кстати, происходит не всегда…
Поэтому придумали очень простой хак. Цветовой фильтр стали накладывать не на один, а сразу на четыре пикселя и назвали такую структуру Quad Bayer, ну или Tetra Cell, если вы маркетолог Samsung. А дальше, объединив 4 пикселя в один гигантский, мы получаем отличную светочувствительность!
Но при этом реальное разрешение в 48 Мп камерах с Quad Bayer структурой в 4 раза меньше номинального и все равно — 12 Мп. Потому что пиксели в таких матрицах не проходят наш критерий полноценности: в каждом пикселе есть фотодиод, в каждом есть микролинза, но цветовой фильтр только один на четырёх. А значит цветовое разрешение в таких камерах в 4 раза ниже фактического.
Более того, даже в новых Samsung со 108 Мп камерами, реальное разрешение тоже 12 Мп, потому как в них объединяют не четыре, а сразу девять пикселей. Итого, 108 делим на 9, получаем 12.
Но почему же просто не сделать большие пиксели и не заморачиваться с этим объединением? Как ни странно такой подход даёт массу преимуществ!
Во-первых, днём когда света много — можно не объединять пиксели, а наоборот, при помощи алгоритма Re-mosaic можно восстановить хоть и неполное разрешение матрицы, но очень высокое.
Во-вторых, мы можем заставить разные пиксели работать с разной выдержкой. Тогда на выходе мы получим один светлый и один темный кадр, а склеив их мы можем получить полноценную HDR фотографию, или даже HDR видео!
Короче, вариантов для экспериментов масса и грех такое не использовать.
Но, если все уже поняли, что подход работает, почему же тогда ни в iPhone, ни в Pixel не используется преимуществами новых матриц? И вот тут самое интересное. На самом деле они пользуется, причем давно, но по-другому!
Dual Pixel
Помимо структур Bayer и Quad Bayer, существует и альтернативная школа, которая называется Dual Pixel или вернее сказать Dual Photo Diode.
Она отличается от традиционного Байера тем, что каждый пиксель в ней состоит из двух независимых фотодиодов. При этом оба фотодиода перекрывает только одна микролинза.
Но зачем это нужно? Если посмотреть на традиционную цифровую матрицу под микроскопом, то помимо обычных пикселей мы заметим какие-то странные зоны — вот эти зеленые штучки.
Это датчики фазовой фокусировки. Они необходимы для автофокуса. Кто снимал на зеркальные, помните вот такие зоны фокусировки в видоискателе? Вот это они!
Чем больше таких датчиков, тем быстрее и точнее будет работа автофокуса или AF. Но вот проблема. Они физически занимают место на матрице и отнимают его у нормальных пикселей. А значит, нельзя бесконечно увеличивать количество фазовых пикселей. Потому как если бы на каждый обычный пиксель приходился один фазовый пиксель, то система фокусировки занимала бы процентов 60 от общей площади.
Так было раньше, пока Canon не придумал технологию Dual Pixel. В качестве датчиков фазовой фокусировки они стали использовать обычные пиксели, разделив их на две части! Это позволило все пиксели сделать фазовыми! Опять же все кто пользовался зеркалками, знает какой у Canon крутой автофокус.
Но если у взрослых камер такая технология есть только у Canon, то в смартфонах матрицы с двойными пикселями производит и Samsung, и Sony, поэтому такую систему фокусировки можно встретить в куче смартфонов. В том числе во всех Google Pixel, начиная со второго и в iPhone 11 и 12.
Поэтому фактически в iPhone матрицы 24 мегапиксельные, если считать по количеству фотодиодов. Только полноценными такие 24 Мп конечно назвать нельзя, потому как тут пиксели делят на двоих не только цветовой фильтр, но и макролинзу. Поэтому в таких матрицах пиксели всегда работают в режиме объединения.
Правда есть одно исключение, если в iPhone систему двойных пикселей используют исключительно по назначению то есть для улучшения фокусировки, и, кстати, автофокус в iPhone замечательно работает как в фото, так и в видео, то в Google Pixel при помощи этой технологии научились делать портретные снимки с одной камеры. Они просто берут две фотографии, которые получились с правого и левого фотодиода и, подсчитав насколько сдвинулось изображение, строят карту глубины.
Так к чему я всё это? 12 Мп в iPhone — это осознанный выбор Apple, как и 108 Мп в Galaxy — осознанный выбор Samsung. Каждый из которых даёт свои преимущества и недостатки.
Камеры с высоким разрешением и структурой Quad Bayer или NonaCell — позволяют добиться более высокого разрешения днём и классной светочувствительности ночью. Позволяют проводить съёмку с алгоритмами HDR для фото и видео и вообще могут очень гибко настраиваться под конкретную задачу. Но пока не каждый процессор может справится с обработкой такого количества пикселей, а также, как показали тесты Galaxy S20 Ultra, бывают проблемы с фокусировкой.
Dual Pixel матрицы с низким разрешением вроде бы ничем особо не отличаются от традиционных матриц, но фотографии в низком разрешении проще обрабатывать. А структура Dual Pixel позволяет добиться потрясающей скорости и точности фокусировки.
Тем не менее мир не стоит на месте, Samsung и Sony уже показали новые матрицы с Quad Bayer структурой и двойными пикселями, которые берут лучшее из двух миров. Поэтому в будущем ждем еще более крутые камерофоны в следующем году.
