Алгоритмы Apple стали слишком сложными. Вся правда о камере iPhone 13 Pro от разработчиков Halide

Разработчики Halide, одного из самых популярных и продвинутых фотоприложений для iOS, не первый раз делятся интересными подробностями и нюансами новых смартфонов Apple:

Как работают портретные режимы iPhone;

На что на самом деле способна камера iPhone XS;

Что особенного в камерах iPhone 12 Pro Max.

Вот и на этот раз, проведя несколько месяцев с iPhone 13 Pro, разработчики решили поделиться не только потрясающими фотографиями, сделанными на камеру смартфона, но и самыми интересными наблюдениями, а также неочевидными недостатками. Ну а мы, по традиции, перевели этот материал.


Октябрь — волнительный месяц в штаб-квартире Halide. Apple выпускает новые iPhone, в которых компания постоянно обновляет камеры. Мы, как создатели приложения камеры, склонны к более длительному изучению этих обновлений. Там, где другие обозреватели могут быстро составить первое впечатление и поделиться им, мы тратим много времени на тестирование камер новых iPhone, прежде чем вынести наш вердикт. 

Этот процесс занимает недели (или месяцы, как в этот раз) после появления первых обзоров, поскольку я верю, что для понимания всех особенностей и причуд новых камер iPhone требуется много времени, особенно во времена умных камер, когда таких причуд стало больше, чем когда-либо. В этом году глубокое изучение последнего и наиболее крутого продукта компании — iPhone 13 Pro — заняло гораздо большее время, чем обычно. Мне пришлось изучить целый набор новых причуд. 

«Причуд»? Использование такого слова может показаться странным в контексте обзора камер iPhone 13 Pro, систему которых во многих обзорах называют лучшей на рынке в данный момент.

И я ни в коем случае не возражаю.

Однако я должен признать, что я не фотографирую так, как это делает большинство людей. Среднестатистический пользователь iPhone фотографирует в предустановленном приложении «Камера»… Я же работаю над собственным приложением «Камера». Я фотографирую посредством и предустановленного приложения, и своего собственного, что позволяет мне делать то, чего в приложении Apple сделать нельзя — снимать в формате RAW. Получившиеся в RAW снимки, к которым не применялась никакая обработка софтом, я могу редактировать и редактировать. Глядя на снимки в RAW я могу сказать, что у Apple очень сложная ситуация с программным обеспечением камеры, несмотря на то, что в области железа они действительно сделали серьёзный шаг вперёд. 

Важность обработки

Когда вы фотографируете на современный iPhone (или на любой другой смартфон, раз уж на то пошло), вам может нравиться думать, что то, что вы увидели, то и было запечатлено камерой, однако это очень далеко от истины. 

Нули и единицы, которые видны сенсору камеры, ничего не значат для человеческого глаза. Они требуют интерпретации. Например, некоторые цвета, которые видит ваша камера, не могут быть отображены на вашем дисплее, поэтому камера старается найти что-то на них похожее. Некоторые из процессов обработки творческие, например, добавление контраста, которое способствует отделению объекта от фона, в то время как другие процессы компенсируют недостатки аппаратного обеспечения, такие как шум. 

Рассмотрим эту недостаточно обработанную фотографию, сделанную на iPhone: 

Этот шумный снимок сделан не на iPhone 5, а на iPhone 13 Pro. Это необработанное изображение намного более шумное, чем то, что вы могли бы получить с помощью специальной полноразмерной камеры. Почему? Всё дело в физике. 

Рассмотрим это изображение, демонстрирующее более чем полувековую эволюцию камер Canon:

Вы заметите, что пока технологии приходят и уходят, и даже меняется средний формат (несмотря на то, что эти камеры похожи внешне, они перешли с 35 мм плёнки на цифру), камеры остаются прежней формы и, что важно, прежнего размера. 

Технологии всегда стремятся к миниатюризации. Ваш iPhone оснащён меньшими и более плотными чипами, которые обладают большей мощностью, чем большие настольные компьютеры десятилетней давности; экран вашего iPhone имеет более высокое разрешение, чем у большинства телевизоров, а камера составляет лишь небольшую часть от размеров цифровых камер прошлых лет. 

К сожалению, камеры ограничены законами физики. Объектив большего размера может собирать больше света и создавать «глубину резкости», которая нам очень нравится в портретах. Больший сенсор означает меньший уровень шума и большую детализацию на получившейся фотографии. Неудобная правда мобильной фотографии заключается в том, что невозможно уменьшить камеру без потери качества. Однако у смартфонов есть серьёзное преимущество перед камерами — магия обработки. Сегодня самые передовые исследования фотографии (в том числе и наши собственные в Halide) проводятся в области так называемой вычислительной съёмки. 

Внедрение «ума» в мобильную фотографию

Примерно во времена iOS 4 (да, двенадцать лет назад) Apple представила режим HDR в своём приложении «Камера», чтобы решить наиболее распространённые технические проблемы в фотографии: съёмку очень ярких и очень тёмных объектов одновременно.

HDR-режим на iPhone 4. На четвёртом iPhone. Не на iPhone 13 Pro.

При съёмке облака в небе становятся настолько яркими, что камера видит только белую фигуру. Если вы уменьшите эту яркость, тени станут чёрными, теряя детали. В то время как человеческий глаз может видеть облака и тени одновременно, сенсор iPhone 4 так не умеет, поскольку имеет меньший «динамический диапазон».

На самом деле, эта проблема «высокого динамического диапазона» существовала с первых дней фотографии. Опытные фотографы справились с этим, сделав несколько фотографий с разной экспозицией и соединив их вместе. iOS 4 решила эту проблему с помощью режима HDR, который вы могли включать и выключать. Этот переключатель был важен, потому что…

Автоматическое редактирование фотографий может ошибаться. Когда объект находится в движении, «слияние» фотографий создаёт артефакты или «призрачность». Это удалось решить благодаря более умным алгоритмам, более мощным чипам, более быстрой памяти и iPhone, который мог просто делать фотографии так быстро, что на фотографиях было меньше пробелов.

Перенесёмся в наши дни — iPhone выходит далеко за рамки HDR. Это не та настройка, которую вы можете переключать в течение некоторого времени. Когда вы делаете снимок сейчас, камера на iPhone автоматически объединяет множество снимков, чтобы получить окончательный результат. Сегодня ваша камера, по сути, всегда «редактирует» ваши фотографии за вас. Однако как именно она их редактирует — загадка.

Apple, известная своей секретностью, не разглашает информацию о своём софте для редактирования. Мы знаем, что он осветляет лица, сохраняя при этом текстуру, сглаживает небо, придаёт цвет и четкость пейзажу, а при слабом освещении он может сглаживать шум, сохраняя детали свитера нетронутыми. Это чудо инженерной мысли, созданное в мгновение ока благодаря собственным чипам, оптимизированным для этих процессов.

Можно с уверенностью сказать, что большинство пользователей камер, несомненно, рады подобному. Хотя эти «правки» могут быть выполнены и опытными фотографами, опытные фотографы составляют менее 1% пользователей iPhone. На практике это означает, что редактура фотографий софтом является частью камеры. А в обзоре камеры iPhone для большинства людей вычислительные процессы так же важны (если не более важны) для оценки, как и аппаратное обеспечение.

Что такое камера?

С учётом этой информации вы можете понять, почему так важно определить, что мы имеем в виду, когда говорим о «камере». Если я говорю о той камере, которую вы держите в руках, то я, говорю о её «железной» составляющей (объективе, сенсоре и базовом софте, в случае с цифровой камерой), или о целом комплекте технологий и алгоритмов (железе с продвинутым софтом для объединения получившихся фотографий и последующей гиперобработки)?

Камеры смартфонов действительно следует оценивать именно по этому комплекту, поскольку софт камеры стал настолько непропорциональной частью создания изображения, что отделить его от железа больше нельзя. Если мы это сделаем, то полученное изображение вряд ли будет хорошо выглядеть. Однако дело не только в его качестве: выбор объектива или плёнки, на которую будет производиться съёмка, может быть творческим и зависит исключительно от того, какой снимок в итоге хочет получить автор. Владельцы же смартфонов встают перед выбором: доверять алгоритмам обработки или нет. 

Не смотря на то, что все снимки в этом обзоре сделаны на iPhone 13 Pro — и получившиеся кадры действительно кажутся лучше, чем те, что получались на моделях предыдущих поколений — только некоторые из фотографий не были обработаны софтом камеры Apple. 

Поскольку софт камеры начинает делать за нас выбор в более творческих аспектах съёмки, а мы не можем отказаться от его использования, оценивать алгоритмы обработки мы будем так же, как и любой другой компонент системы камер iPhone 13 Pro. Этим я и займусь в этом обзоре. 

Изменения

В iPhone 13 Pro Apple обновила всё железо системы камер, за исключением фронтальной камеры (она же селфи-камера). Давайте разберём их один за другим. 

Широкоугольная камера 26 мм 

Основная камера iPhone, широкоугольная, получила больший сенсор и более быстрый объектив, что означает, что она пропускает больше света. Это позволяет делать снимки в условиях недостаточного освещения с меньшим уровнем шума даже до того, как фотография будет обработана софтом. 

Все кадры сделаны на широкоугольную камеру с фокусным расстоянием 26 мм

Широкоугольный объектив iPhone по-прежнему наиболее универсальный и остаётся идеальной камерой для большинства снимков. Вполне разумно, что Apple продолжает инвестировать в разработку лучшей камеры в линейке. В каждом следующем поколении iPhone видно, как этот объектив улучшается.

Здесь я сравнил получившиеся на широкоугольную камеру iPhone 13 Pro снимки с изображениями, получившимися на аналогичную камеру предыдущих поколений iPhone: iPhone X и iPhone 11 Pro. Все снимки сделаны в формате RAW без какой-либо обработки софтом и обрезаны так, чтобы выделялись детали. 

Первый кадр сделан на широкоугольный объектив iPhone X, второй — на широкоугольный объектив iPhone 11 Pro, а третий — на широкоугольный объектив iPhone 13 Pro. Все снимки сделаны в формате RAW и кропнуты.

На iPhone X можно разглядеть детали, но на полученных фотографиях много шумов. И если разница между камерами iPhone X и iPhone 11 Pro заметна невооруженным глазом, то разницу между кадрами, полученными с iPhone 11 Pro и iPhone 13 Pro разглядеть сложнее, несмотря на наличие большего сенсора и более быстрого объектива у последнего. Возможно, и сенсор, и объектив, могут захватить больше деталей, однако точно этого мы сказать не можем, поскольку разрешение камеры составляет 12 мегапикселей и не менялось со времён iPhone 6S, который вышел семь лет назад. 

Впрочем, такое разрешение камеры iPhone никогда меня, довольно хардкорного фотографа, не ограничивало, но в течение последних нескольких лет, мы видим снижение отдачи, поскольку Apple вкладывает огромные средства в аппаратное обеспечение камеры и обработку.

Не удивляйтесь, если следующий iPhone получит разрешение камеры, например, 48 мегапикселей. Вероятно, одна из причин, по которой Apple не увеличила разрешение камеры в этом году, заключается в том, что для такого увеличения разрешения потребуется в 4 раза больше вычислительной мощности, затрачиваемой на постобработку получившихся снимков. Это намного больше данных, которые системе нужно обработать в мгновение ока.

Ультраширокоугольная камера 13 мм

В 2019 году Apple пополнила систему камер iPhone 11 ультрашироким объективом. Это супер-супер широкий угол обзора (подобный тому, что даёт GoPro), который позволяет делать впечатляющие снимки и избавляет нас от необходимости думать, обрежется ли кадр и как он обрежется.

Самая большая проблема и компромисс ультраширокоугольных камер — это искажения. Когда изображение достигает краёв рамки, линии начинают изгибаться, искажая геометрию кадра и форму объекта. Такие искажения могут быть вам знакомы по кадрам, получающимся при съёмки с применением фишай-объективов — изображения получаются очень круглыми. 

Ультраширокоугольный объектив iPhone по-прежнему даёт квадратное изображение, однако по краям картинка выглядит… немного странно:

Мой байк выглядит странно на этой фотографии — когда колесо достигает границы изображения, оно искажается

В процессе постобработки получившееся изображение значительно корректируется, однако иногда создаваемый камерой эффект вам может и понравиться. Вскоре после начала продаж iPhone 11 разработчики нашли способ отключить постобработку, чтобы увидеть, как выглядит исходное изображение, которое снимает камера: 

Не лучший ракурс Маркеса

Такой наглядный пример показывает, насколько важна коррекция изображений, получаемых с ультраширокоугольного объектива. Эта камера чаще и больше других в iPhone полагается на алгоритмы постобработки при создании изображения. 

В iPhone 11 и iPhone 12 возможность снимать на свершироугольную камеру мне показалась намного более полезной, чем тот же режим панорамной съёмки, но я старался ей не пользоваться. Смущал меня «фиксированный фокус», который не позволял настраивать резкость. Сам объектив был спроектирован таким образом, что в фокусе был весь кадр. Однако зачастую это приводило к тому, что изображение получалось размытым, жертвуя чёткостью в угоду более широкому углу обзора. Из-за этого мне всегда казалось, что на ультраширокоугольную камеру не получится снять хороший кадр, особенно по сравнению с теми, что получались на широкоугольную камеру. 

iPhone 13 Pro решил все эти проблемы. Я могу безо всякого преувеличения сказать, что это самое значительное изменение камеры iPhone с того времени, как iPhone 3GS научился снимать видео.

Дело в том, что ультраширокоугольный объектив стал значительно больше, а диафрагма — шире, и теперь при съёмке на ультраширик можно менять фокус. Ультраширокоугольный объектив всё ещё меньше, чем широкоугольный, по краям изображение всё ещё искажается, а алгоритмы всё ещё смягчают эти искажения, но в целом теперь ультраширик создаёт впечатляющие снимки с очень приличной чёткостью. Это не просто обновление уже существовавшей камеры, а совершенно новая камера.

Вы можете сделать снимок с видом от первого лица и даже поместить в кадр ваши ноги, и он будет чётким: 

Отдыхаю после заезда на ралли Deus Swank в Сардинии. Обратите внимание, что фотография очень чёткая даже по краям, что удивительно для объектива с фокусным расстоянием эквивалентным 13 мм

Благодаря реальной глубине резкости вы можете отделить фотографируемый объект от фона. Увеличенный объектив и более быстрая диафрагма создают реальный эффект «боке» без использования портретного режима.

Настоящий эффект «боке»! На ультраширике? Что-то новое!

Кроме того, регулируемый фокус открывает новую суперспособность…

Макро

Ещё один бонус, который пользователи получили благодаря способности камеры изменять фокус — это причудливая фокусировка на объектах, которые находятся очень близко к камере. Этот новый объектив может приблизить объект съёмки на полдюйма. При этом фокус не собьётся и фотографируемый предмет останется чётким. 

Наличие подобной функции уже позволяет взглянуть на мир по-новому через призму камеры iPhone, однако если добавить к получаемым с её помощью кадрам немного магии постобработки, будет ещё круче. Камера, которая может снимать макро — это, конечно, здорово, но мы, как разработчики приложения для съёмки на камеру iPhone, не могли её не доработать. Когда мы выпустили для нашего приложения обновление с тонко-настраиваемым управлением фокуса и существенно расширившимися функциями искусственного интеллекта, мы поняли, что его функции можно применить и к этой камере, уже поддерживающей макросъемку, превратив её в своеобразный микроскоп: 

Новая система камер iPhone — мощная и обладает невероятным потенциалом, который раскрывается посредством постобработки софтом, и, в частности, как мы показываем здесь, благодаря такой фишке как режим Neural Macro. 

На первый взгляд, подобное обновление камеры кажется неудачным, однако нужно понимать, что большинство рецензентов столкнулись с определёнными проблемами при использовании этой камеры. И большая часть из них была связана лишь с тем, что камера была «умной».

Переключение между объективами

В итоге можно смело сказать, что iPhone 13 Pro оснащён очень крутым набором камер, среди которых выделяются, прежде всего, широкоугольный и сверхширокоугольный объектив. Но для среднестатистического пользователя iPhone есть только одна камера — та, на которую он снимает. И камера iPhone продумана именно таким образом, чтобы исключить из процесса съёмки те трудности, которые возникают при использовании нескольких объективов.

Как опытный фотограф, на съёмку я возьму с собой три объектива для своей большой камеры и буду выбирать между ними в процессе, учитывая те компромиссы, на которые мне придётся пойти при использовании того или иного объектива, например, угол обзора и степень размытости краёв фотографии. Приложение камеры iPhone хочет принять это решение за вас. При использовании камеры iPhone вы не выбираете объектив — она просто работает. iPhone выберет наиболее подходящий объектив, даже если вы этого не сделаете. И при необходимости сможет переключиться между ними, независимо от того, хотите вы этого или нет.

Работа этого интеллектуального переключения подобна волшебству. Камера ведёт себя и работает лучше, чем набор отдельных камер. Вы не выбираете между ними (если, конечно, не используете Halide или другие приложения для более точного выбора камеры), но приложение камеры было запрограммировано на интеллектуальную настройку для максимально плавного переключения между объективами. В нашем приложении вы можете изменить фокусное расстояние, просто прокручивая колесо и выбирая в диапазоне от 13 мм до 75 мм:

Однако есть два способа работы этого интеллектуального переключения камер: в первом оно работает как настоящая магия, когда камера будет вести себя намного лучше, чем если бы каждый из этих объективов снимал по отдельности, во втором — софт может запутаться и внезапно переключиться с одного объектива на другой, даже не дав понять пользователю, почему это произошло.

Например, на предыдущих айфонах с системами, состоящими из двух камер, каждая из них имела ограничения в фокусе. Ваш широкоугольный объектив (1×) мог фокусироваться ближе, чем телеобъектив (2×). Поэтому, если вы пытались сфотографировать что-то находящееся довольно близко к камере, iPhone делал снимок с широкоугольного объектива и обрезал его, даже если вы выбрали 2× в приложении. С этим решением было трудно поспорить, поскольку лучше получить фотографию с меньшим разрешением, чем с объектом съёмки не в фокусе.

Однако это смутило пользователей Halide, которые писали нам и спрашивали, почему мы не можем сфокусироваться на тех объектах, которые находятся близко, и сфотографировать их на телеобъектив. Дело в том, что при использовании одного объектива вы обнаружите, что у него есть определённые ограничения в фокусе, и мы были вынуждены сообщить нашим пользователям нечто напоминающее то, что родители говорят подросшим детям о Санте: этот «телеобъектив с близкой фокусировкой» был ненастоящим. Когда вы снимали с включённым зумом 2x, а фокус находился за пределами минимального фокусного расстояния телеобъектива, iPhone фотографировал на широкоугольный объектив и увеличивал его масштаб. Прикройте телеобъектив пальцем, и вы обнаружите, что он всё ещё каким-то образом работает. Что это? Тёмная магия?

Это была буквально фейковая камера, которую Apple создала для того, чтобы одурачить всех нас:

И это подводит нас к так называемому «макро-гейту». Раньше не было никакого смысла переключаться на ультраширокоугольную камеру, но теперь, когда это стало возможно, многие люди им воспользовались и нашли другую проблему с камерами, о которой и написали в Twitter. Различные рецензенты были сбиты с толку, увидев, как их камера беспорядочно меняет объективы при простом приближении к ней объекта съёмки. 

Всё дело в том, что в блоке камер объективы расположены слишком близко друг к другу, и когда они фокусируются на чём-то поблизости, переключение между ними создаёт «скачок» в изображении. И это никак нельзя исправить с помощью алгоритмов постобработки или кропа — это оптический эффект, называемый параллаксом. Если вы посмотрите на ваш нос, прикрыв один глаз рукой, а затем уберёте руку и закроете ей другой глаз, вы увидите, как ваш нос «прыгает». Так и в iPhone — иллюзия одной камеры нарушается и никакая обработка это скрыть не может. 

Причина трений заключается в том, что пользователи знают, чего они хотят, но в сверх-простом интерфейсе «умные» алгоритмы обработки изображений и выбора камеры должны предсказать это желание. Если система предсказывает желание пользователя правильно — отлично. Однако чем сложнее становится эта система, тем чаще пользователь сталкивается с ситуациями, когда плавный переход к выбранному системой объективу начинает казаться выбором, который делается за пользователя.

В приложении Halide есть специальный режим «Макро». Вы включаете его, чтобы переключиться на наиболее подходящий для такой съёмки объектив и наиболее подходящее фокусное расстояние (и мы, как и Apple, тоже применяем некоторую постобработку софтом). Apple пыталась избежать подобных сложностей в своём приложении «Камера», но в последнем обновлении всё-таки пошла на встречу и сделала этот режим одной из настроек. 

Не поймите нас неправильно: мы считаем, что их цель (максимально плавное и незаметное переключение между камерами) является наилучшим решением для большинства пользователей. Однако задача Apple сделать приложение камеры, с которым будет комфортно работать фотографам любого уровня квалификации, — незавидная. Мы разрабатываем Halide для более опытных фотографов и даже для профессионалов. Apple же хочет, чтобы их камерой могло комфортно пользоваться всё население планеты: от профессиональных фотографов до ваших родителей. Но это требует применения гораздо более крутых алгоритмов постобработки, чтобы заполнить эти пробелы.

К сожалению, здесь софт перестал создавать иллюзию «волшебства» и начал мешать пользователю. 

Телеобъектив 75 мм

И это подводит нас к последней камере iPhone 13 Pro, но моему личному фавориту — телевику. Впервые появившийся в iPhone 7 Plus телеобъектив стал отличным инструментом для съёмки классных кадров с определённой дистанции, а большое фокусное расстояние отлично подходило для портретов и художественной фотографии.

Фотографии сделаны на телевик iPhone 13 Pro c фокусным расстоянием 77 мм

Первый шаг на пути к серьёзному изменению телевика в iPhone 13 Pro Apple сделала в прошлогоднем iPhone 12 Pro Max, который в отличие от iPhone 12 Pro получил телеобъектив 2,5x, что эквивалентно фокусному расстоянию в 65 мм. Правда, для этого компании пришлось увеличить диафрагму и пожертвовать небольшим количеством света, которое может захватить объектив. И хотя мне это понравилось, в целом подобное действие, на мой взгляд, было довольно странным. Зума 2,5x мне не хватало, чтобы получать кайф от съёмки издалека, да и по дополнительной резкости, которая была на телеобъективе 2x, я скучал. Просто тот шаг в 0,5x, что сделала компания в iPhone 12 Pro Max, был довольно маленьким.

Больше же никаких полумер: iPhone 13 Pro, как и его старший брат iPhone 13 Pro Max, получили телеобъективы 3x эквивалентные фокусному расстоянию 77 мм. Но к сожалению, увеличив размеры остальных объективов, Apple не увеличила телевик в размере — и это серьёзная проблема.

Практически все телеобъективы имеют серьёзный недостаток — малое количество поступающего в камеру света. Например, на iPhone 12 Pro широкоугольный объектив имел диафрагму ƒ /1.6, а его телеобъектив имел более узкую диафрагму ƒ / 2.0, что не позволяло ему пропускать больше света. Меньшее количество света, поступающего в камеру, приводит к большему количеству шума в получившемся снимке  и / или размытости при движении снимаемого объекта, что существенно затрудняет получение хорошего кадра.

В этом году этот разрыв между диафрагмами объективов только увеличился. Широкоугольная камера iPhone 13 Pro имеет диафрагму ƒ / 1.5, а телеобъектив имеет ƒ / 2.8, из-за чего количество захватываемого им света стало ещё меньше.

Это означает, что камера, которой немного не хватало чёткости и резкости в предыдущих iPhone, стала только хуже.

Да, компромисс был очевиден: теперь на телевик мы можем снимать с более дальних расстояний. И при ярком дневном свете вы действительно получаете фантастически чёткие снимки, которые раньше просто не могли получить.

Это фото было снято на объектив, фокусное расстояние которого — 77 мм. Посмотрите на мотоциклистов в левом нижнем углу кадра. При наличии солнечного света этот снимок получился довольно резким

Но понятно и то, что теперь фотографии, снимаемые на телевик, гораздо больше обрабатываются софтом:

На этом увеличенном снимке, сделанном в Сан-Франциско, хорошо виден эффект «акварели», когда изображение кажется слишком сглаженным из-за того, что алгоритмы пытались уменьшить количество шума на фото, появившегося в процессе быстрой съёмки, которая должна была компенсировать не самую удачную комбинацию объектива и маленького сенсора камеры

Такова природа зум-объективов и скоростей затвора. При съёмке с рук большее увеличение масштаба изображения существенно увеличивает вероятность того, что кадр или какой-то движущийся объект на нём получится размытым из-за едва заметных движений руки, держащей телефон. Как правило, при съёмке с рук вы должны установить выдержку в два раза больше фокусного расстояния объектива. Телевик на iPhone 12 Pro Max имел фокусное расстояние 65 мм, так что математика срабатывала с точностью до 1/130 секунды. С 77-миллиметровым iPhone 13 Pro она работает с точностью до 1/144 секунды. Чтобы было понятно: это в три раза больше, чем у «обычной» широкоугольной камеры.

Кроме того, выдержка в 1/144 секунды — это меньшее время экспонирования или пропускания света. А меньшее количество света, поступающего в камеру, как мы помним, существенно затрудняет получение отличного снимка.

И у iPhone есть всего один инструмент, который поможет ему сделать снимок в этот короткий момент — увеличение чувствительности камеры к свету (ISO), что, в свою очередь, приведёт и к увеличению шума на снимке. А это означает, что постобработка iPhone будет включать в себя более интенсивное шумоподавление, потому что снимки, очевидно, получатся очень шумными:

На этом изображении в формате RAW можно увидеть шумы, появляющиеся при съёмке на телевик iPhone 13 Pro. Экспозиция, настраиваемая алгоритмами в предустановленном приложении «Камера», никогда бы не показала подобный шум — эта фотография сделана до того, как она пройдёт все этапы постобработки «умными» алгоритмами Apple.

Во время моего тестирования телевик iPhone 13 Pro был намного более шумный, чем на предыдущих моделях iPhone.

Впрочем, увеличение количества шума в кадре, получаемого с более нового iPhone, по сравнению с теми изображениями, которые давали предыдущие модели, не ново. Уже были некоторые поколения iPhone, постобработка изображений с камер которых была более интенсивная и заметная. Например, iPhone XS оставлял своих пользователей в лёгком недоумении тем, что сильно сглаживал кожу на снимках. Пользователи считали, что это происходит с помощью SmartHDR, хотя на самом деле это из-за того, что софт объединял несколько кадров для получения лучшего снимка: камеры делали снимки получше, но с существенно большим количеством шума, поскольку обработка каждого из получившихся кадров требовала большей экспозиции, и единственным способом сделать эти несколько кадров было увеличение ISO. К таким шумным кадрам применялась более интенсивная постобработка, в процессе которой изображение и сглаживалось так сильно, что это было заметно. 

Это сглаживание вернулось в iPhone 13 Pro. Теперь камера применяет такой «фильтр» к листьям на дереве.

На фотографиях, сделанных на закате на телевик iPhone 13 Pro в формате RAW, становится заметен шум. При съёмке тех же кадров с помощью предустановленного Apple приложения «Камера» изображения в форматах JPEG и ProRAW выглядят «разукрашенными», поскольку довольно интенсивное шумоподавление делает своё дело, хотя, по общему признанию, и сохраняет некоторые детали на фотографии

Что ещё хуже, здесь снова появилось и незаметное переключение между камерами. Поскольку телевик стал гораздо менее чувствительным в свету, приложение «Камера» изменило свои критерии оценивания чёткости получаемого изображения, и не в лучшую сторону. 

Это означает, что теперь многие снимки, в том числе и те, что делаются при дневном свете, на самом деле снимаются на широкоугольную камеру с увеличением 1x, а после обрезаются софтом. 

Оба изображения я сделал с помощью предустановленного Apple приложения «Камера». Второе отличается лишь тем, что его я снял используя 3-кратный зум

Несмотря на то, что на этом снимке софт восстановил большое количество деталей, второй снимок сделан не на телевик — это просто кропнутый кадр, который iPhone сделал на обычный широкоугольный объектив, выбранный им просто потому, что телевик получает гораздо меньше света, чтобы сделать хороший кадр с рук ночью. 

Кропнув второй снимок, можно понять, что это лишь увеличенное изображение с широкоугольной камеры, а вовсе не с телевика. Из-за этого фотография и получилась чересчур «сглаженной» и с очень низкой детализацией

Усугубляется проблема и увеличенной разницей между фокусным расстоянием широкоугольной камеры и телевика. Раньше она составляла от 1x до 2x, а теперь — 3x. И нужно учитывать, что количество мегапикселей почти ничего не решает, когда вы кропаете его настолько сильно. Получите вы в таком случае что-то такое: 

Впрочем, Apple делает нечто интересное, чтобы избежать пикселизации. Например, на изображении выше софт как бы «заполняет» деталями знак ограничения скорости, сохраняя его разборчивым. Однако другие области снимка улучшаются, казалось бы, совсем причудливыми способами, из-за чего, например, на фотографии по необъяснимым причинам исчезают подвесные тросы моста вокруг столбов: 

И тут возникает проблема, с которой я чаще всего сталкиваюсь, делая фотографии на iPhone 13 Pro. Его сложные «умные» алгоритмы не совсем правильно взаимодействуют друг с другом. Превосходная, но ограниченная в количестве мегапикселей широкоугольная камера пытается максимально незаметно переключиться на телеобъектив и в итоге создаёт размытое изображение. Тут вмешивается софт, отвечающий за масштабирование снимаемых объектов, и значительно изменяет внешний вид снимка так, что при увеличении фотография начинает больше напоминать картину.

Когда я переключаюсь между объективами, я надеюсь, что камера будет использовать настоящий телевик, однако если он не может собрать нужное количество света, в процессе постобработки изображение будет так изменено, что будет выглядеть «переобработанным». И в итоге я смогу получить или увеличенный кадр, который был снят на широкоугольную камеру, или кадр с телеобъектива, шумы на котором будут подавлены очень сильно. 

Мне очень нравился этот снимок, который я сделал на телевик: 

Однако, многие пользователи Twitter, где я опубликовал эту фотографию, решили, что эта фотография выглядит как картина. 

И я могу понять, почему они так решили: этот кадр, сделанный в условиях недостаточной освещённости, был очень сильно сглажен софтом. Обратите внимание, как сохраняется и насколько улучшается детализация снимка, однако в конечном итоге он выглядит неестественно. Сосредоточение софта на деталях делает картинку в целом очень размытой:

Сравните это с кадром, сделанным на тот же телевик в формате RAW, к которому не применялась постобработка софтом и вы поймёте, почему Apple сделала такой выбор: 

Именно на этом кадре можно увидеть тот шум, с которым так активно борется софт камеры iPhone. На самом деле, я не возражаю против шума. Мне кажется, что в данном случае он добавляет изображению текстуру, благодаря чему оно выглядит более «реалистично», чем сглаженное алгоритмами изображение. 

В конечном итоге — это очередной творческий выбор. Apple творит настоящую магию с помощью своего софта и делает очень классные и детализированные кадры с помощью очень маленького сенсора и объектива, который попросту не может собрать достаточного количества света для получения хороших кадров в ночное время. И это ещё без той обработки, которая применяется при использовании «Ночного режима». Однако если вы фотограф, вы должны знать о том, что камера iPhone автоматически обрабатывает сделанные вами снимки, и принять обоснованное решение: хотите вы её использовать или нет.

Я принял решение через несколько месяцев использования iPhone 13 Pro: для меня применяемая его софтом обработка временами слишком сложна. 

Другая странная ситуация произошла с телевиком iPhone 13 Pro, когда разработчик iOS Митч Коэн подумал, что на одной из его фотографий камера iPhone заменила голову бедной женщины на изображение листвы.

Однако позже выяснилось, что это был обман зрения. Но этот кейс ещё раз подтвердил, что постобработка софтом камеры iPhone действительно слишком интенсивно сглаживает снимок, что порой затрудняет понимание смысла изображения. Это характерная фотография iPhone 13 Pro: никакого шума, но много «скремблированных» краев и буквально «нарисованный» вид всего изображённого: 

Сейчас я активно взялся за выбор инструментов, которые буду применять при обработке фотографий. При дневном свете я чаще буду снимать с помощью нашего приложения для камеры, которое по умолчанию снимает в формате RAW. Это позволит избежать агрессивного шумоподавления и улучшения детализации, которые так любит применять софт предустановленного на iPhone 13 Pro приложения «Камера». Лёгкая зернистость получившегося изображения меня даже привлекает, а менее «обработанный внешний вид» снимка — нравится. Ночью я выберу «магию» постобработки, применяемой предустановленным приложением «Камера» в ночном режиме, — она поможет мне получить отличные снимки в темноте с помощью улучшенной детализации и ProRAW-шумоподавлению.

Осознание «волшебства» вычислительной фотографии помогает мне ценить её гораздо больше.

Действительно ли шум на этих изображениях так раздражает?

Как я и говорил ранее, самый важный творческий выбор, который мы должны будем делать как фотографы, — это выбор объёма постобработки, применяемой софтом наших камер к получившимся у нас изображениям. По крайней мере, в том случае, если у нас будет возможность выбирать. Как мы знаем, иногда этот выбор делается за нас.

Последний пример того, как трудно избежать вычислительной обработки, применяемой софтом iPhone. В iPhone 12 Pro, Apple представила свой собственный формат RAW для снимков. Раньше съёмка фотографий в формате RAW влекла за собой потерю всей магии постобработки изображений софтом Apple — фотографии часто требовали гораздо большего редактирования при съёмке в формате RAW по сравнению с тем же JPG. Получившиеся изображения были очень шумными и не имели большого динамического диапазона, тогда как на обычных снимках в формате JPG блики и тени выделялись при съёмке с несколькими экспозициями. Включение ProRAW даёт пользователям возможность получить эту интеллектуальную обработку со всей гибкостью и качеством изображения, присущими RAW-файлам.

К сожалению, использование ProRAW не позволяет вам отказаться от некоторых видов постобработки изображения софтом Apple. Моя самая большая проблема заключается в том, что я не могу отказаться от шумоподавления, но на iPhone 13 Pro есть гораздо более серьёзная проблема. Даже если вы включите ProRAW, переключение объективов в предустановленном Apple приложении «Камера» не означает, что оно действительно переключится на нужную камеру. Несколько снимков, которые я сделал в режиме телеобъектива, оказались кропнутыми — iPhone сделал их не на тот объектив и обрезал.

Этот ProRAW снимок сделан на объектив с фокусным расстоянием 77 мм. Так ли это? На самом деле нет, это масштабированный алгоритмами снимок с ультраширокоугольной камеры

Да, я в курсе, что эта проблема есть не только на iPhone. Google Pixel тоже незаметно переключается между камерами, когда считает это необходимым, обрезая полученный снимок на 0,3-мегапикселя, даже при съёмке в режиме RAW. 

Единственное решение (помимо использования такого приложения, как Halide), это внимательное наблюдение за видоискателем после изменения объекта съёмки. Так вы сможете увидеть, переключилась ли камера. Но, к сожалению, этот процесс может занять до нескольких секунд.

На наш взгляд, автоматическая смена объектива с последующим кропом изображения до того размера, в котором оно изначально должно было быть сделано, пересекает ту границу, которую компьютерная фотография не должна пересекать в контексте профессиональной фотографии. Фотография в формате RAW должна делаться с чётким намерением фотографа, а не так, как захотели алгоритмы. При съёмке изображения в формате RAW камера должна учитывать намерения пользователя и его творческий выбор. Если пользователь выбирает объектив — пусть даже не подходящий для той или иной съёмки — софт должен использовать этот объектив. И если даже приложение «Камера» сочтёт мой выбор ошибкой, я не хочу, чтобы это помешало мне сделать снимок. Я хочу совершать свои собственные ошибки. Как говорится: творчество — это позволять себе совершать ошибки, а искусство — знать, какие из них стоит повторить.

Я понимаю, что предустановленное в iPhone приложение «Камера» не предназначено для профессионалов, и вы всё равно сможете получить отличные фотографии, пользуясь этим приложением. Но я по-прежнему считаю, что Apple находится в трудном положении: приложение «Камера» должно работать для каждого пользователя iPhone, от новичка до опытного фотографа с многолетним опытом.

В отношениях между софтом и железом существует парадокс: легко создавать более умное программное обеспечение с плохим оборудованием. Но по мере того, как железо становится все более сложным, решения софта включают в себя всё больше аспектов обработки фотографии. Но как наука может количественно определить приемлемый уровень шума или размытия при движении, когда многое из этого зависит от художественного замысла каждой фотографии? По мере того как сложность вычислительной фотографии растёт, увеличивается и её влияние на наши творческие решения, и я всё чаще оказываюсь в противоречии с теми решениями, которые она принимает.

Я думаю, что по мере продолжения этой тенденции выбор уровня программной обработки данных вашей камеры всё чаще будет становиться самым важным творческим выбором в фотографии.

Заключение

iPhone 13 Pro — это серьёзный скачок в iPhone-ографии. В новой модели компания серьёзно улучшила весь блок камер и вывела на новый уровень свои «умные» алгоритмы постобработки фотографий. Воспользовавшись каждой из составляющей камеры нового iPhone, вы удивитесь, когда осознаете все их возможности и их ограничения.

Однако если вы используете iPhone 12 и не фотографируете часто, вы можете и не увидеть никакого скачка в качестве снимков, потому что сейчас многое определяется существующей обработкой, которая уже была фантастической в предыдущем поколении. Однако iPhone 13 Pro — это шаг вперёд и в железе камеры, который был сделан благодаря увеличению зума в телевике и увеличению сенсора широкоугольной и ультраширокоугольной камер. Правда, к сожалению, «магия» постобработки иногда работает против обновлённого железа.

Если вы серьёзный фотограф, то iPhone 13 Pro — отличная камера, с помощью софта которой вы только начнёте раскрывать её потенциал. А при использовании таких приложений, как Halide или других сторонних приложений, сможете воспользоваться всеми её возможностями. Те «умные» алгоритмы обработки, которые Apple реализовала в камере iPhone 13 Pro, так же, как и в случае с датчиком LIDAR, который был добавлен в предыдущий iPhone, лишь фундамент для дальнейшего развития. 

Единственное, что нужно добавить в камеру iPhone вам, — это ваше собственное творческое видение.

Похожие материалы

2 Comments

  1. У вас ошибка в тексте есть. Посмотрите сюда: «Вполне разумно, что Apple продолжает инвестировать в разработку лучшей камеры в линейки.». Исправьте, пожалуйста.

Добавить комментарий

Ваш адрес email не будет опубликован.

65 + = 72