Возвращение плёночной фотографии?

Хотя я и критиковал недавно результат нейросетей в рисовании по описанию, тем не менее я не сомневаюсь, что через короткое время то, что они будут генерировать, не отличит от реальных цифровых фотографий ни одна экспертиза.

А это значит — широкое поле для фейков в источнике, которому мы ещё пока не отвыкли доверять, — фотографии. Да ещё и оформлено это будет в какие-нибудь онлайновые сервисы с нулевым порогом вхождения, любой «нафотографирует» то, что ему в голову придёт.

Фотоаппарат «Зоркий» (в центре) когда-то принадлежал моему деду — Александру Тимофеевичу Миронову

В этой связи, как мне кажется, нас ждёт откат на плёночную фотографию там, где требуется надёжная фиксация фактов, — фотографии на плёнке-то мы подделывать нормально не умеем, насколько я знаю. Фотоплёнка фиксирует свет каждой своей молекулой, так что сильно дискретный «пиксельный» свет от искусственной картинки, в моём представлении, должен заметно отличаться на плёнке от реальности с её отдельными фотонами.

Но с фото более-менее понятно, более интересно что делать с видео, его-то в перспективе тоже научатся надёжно подделывать — не вешать же ГИБДД на столбы кинокамеры с километрами плёнки для видеофиксации нарушений? Пока непонятно.

Возможно будущее за какими-нибудь голографическими приёмниками, которые будут записывать реальность настолько «глубоко», что это ещё долго невозможно будет «нарисовать» нейросетями, но вопрос как это передавать и хранить — цифровая техника на такое не способна, — слишком много «цифр» получается, всё равно нужно что-то гибридное с аналоговым миром.

 670   2 мес  
10 комментариев
Евгений Суреев 2 мес

Зачем придумывать инструмент, который уже есть и надежно работает для текстов?
Все изображения будут подписываться авторами.

Евгений Степанищев 2 мес

Я не понял мысль, можно её раскрыть? Что это за инструмент?

Михаил 2 мес
Евгений Степанищев 2 мес

Я думал на эту тему, но там есть проблемы. Две самые острые — наличие цепочки доверия от корневых сертификатов (можно погуглить проблему с казахстанским корневым сертификатом или теперь уже с сертификатом «минцифры») и быстрое устаревание.

Я не знал, что производители уже применяют ЭП, но мне не вполне ясно что мешает потенциальному фейкоделателю распотрошить камеру, вынуть сенсор и подать пискели напрямую из нейросети? Камере же всё равно, она подпишет что угодно.

xm02 2 мес

Думаю, помешать использовать подписывающий механизм камер может хитрая конструкция каких-то предохранителей, для этого будет достаточно повредить данные подписи при любой механической попытке потрошения. Наверно будет очередное проявление борьбы хакеров и безопасников, а также будет некая ожидаемая цена взлома, достаточная для ограничения массовых его проявлений.

Евгений Степанищев 2 мес

Да, но это одна сторона проблемы, меня больше волнует другая — устаревание ЭП. Это же вопрос лет, а фиксирующие фотоматериалы нередко нужны куда дольше.

Михаил 2 мес

что мешает потенциальному фейкоделателю распотрошить камеру, вынуть сенсор и подать пискели напрямую из нейросети?

Техническая сложность, прежде всего. Сенсор и ЦАП часто делают единным модулём, ту да же добавить криптоблок (как встроенное видео в процессорах), и подлезть между этими блоками будет довольно сложно.

Да, при использовании ЭЦП всегда встает вопрос, а можно ли быть уверенным что документ не был модифицирован до подписания? Не поправила ли чего секретарша в документе, который шеф ей отдал на на подписать и отправить? Это вопросы решаются уже не криптографией, а административно-методологически (нужен многоуровневый контроль за секретаршей) или технологически (делаем сенсор, ЦАП и криптоблок на одном куске кремния, или что там).

Евгений Степанищев 2 мес

Да, при использовании ЭЦП всегда встает вопрос, а можно ли быть уверенным что документ не был модифицирован до подписания?

Встаёт, но я говорю не про это. У ЭП есть устаревание — сертификаты выдаются от года до десяти, десять — это максимум, насколько я знаю, через 10 лет уже нельзя с достаточной уверенностью сказать, что приватный сертификат не подобрали.

…нужен многоуровневый контроль за секретаршей…

Да он не нужен, если сделать нормальный интерфейс, руководители сами всё рассматривают и подписывают.

Кстати, есть такая штука, про которую я забыл — метка времени, она должна приходить из какого-то надёжного источника, иначе неясно когда произошло подписание. В стационарных системах для этого используется защищённый сервер времени (гуглить «штамп времени в электронной подписи»), у фотоаппарата, как будто бы, ему взять неоткуда.

Делаем сенсор, ЦАП и криптоблок на одном куске кремния, или что там…

А так реально делают вообще? Если да, эта проблема скорее всего снимается.

Михаил 2 мес

У ЭП есть устаревание — сертификаты выдаются от года до десяти, десять — это максимум, насколько я знаю

Просроченым или отозванным (CRL/OCSP) сертификатом подписывать нельзя, да, но уже подписанные документы остаются валидными.

через 10 лет уже нельзя с достаточной уверенностью сказать, что приватный сертификат не подобрали

если через двадцать лет появятся квантовые компьютеры, которым такая длина ключей «на один зуб», что будем делать?

Уже появились квантово-устойчивые алгоритмы шифрования, не уверен что их стандартизовали и выпустили в оборот, но разработки есть.

метка времени, она должна приходить из какого-то надёжного источника, иначе неясно когда произошло подписание

Да, TSP, я в теме ) Но сейчас, когда в интернет ходят буквально холодильники и чайники, это не проблема. Уж гаишные камеры точно имеют доступ к сети.

А так реально делают вообще? Если да, эта проблема скорее всего снимается.

ADC точно делают одним модулем к сенсору (не всегда, конечно). Ну, в крайнейм случае зальём корпус камеры компаундом. Как выше заметили, впрос в цене взлома.

Евгений Степанищев 2 мес

Просроченым или отозванным (CRL/OCSP) сертификатом подписывать нельзя, да, но уже подписанные документы остаются валидными.

Это не так, не остаются. Устаревают даже сами алгоритмы, некоторые из причин — находятся уязвимости в алгоритмах, повышается мощность оборудования, подписи становятся вычислимыми.

Уже появились квантово-устойчивые алгоритмы шифрования, не уверен что их стандартизовали и выпустили в оборот, но разработки есть.

Разработки есть, но в бизнесе это использовать нельзя, после первой же валидации (а валидировать приходится перед каждый использованием), подпись становится непригодной, кроме того, она не сохраняется, если пропадает питание.

Уж гаишные камеры точно имеют доступ к сети.

Камеры — наверное, но выше давали ссылки на ЭП в «Никоне» и «Кеноне», я так понял (подробно не читал), что речь об обычных цифровых камерах.

Евгений+Суреев 2 мес

Почему вы обсуждаете подпись, принадлежащую камере? Конечно это просто подделать. Можно просто условный лист бумаги с нарисованным фото сфотографировать.
Нет, подписывать снимок надо личной подписью фотографа. И тут уже только он отвечает за подлинность.

Евгений Степанищев 2 мес

Сделать какой-то единый реестр подписей фотографов всего мира? А мерой подлинности будет репутация фотографа?

Евгений Суреев 2 мес

Да, тут только на репутацию полагаться.
Но по крайней мере мы будем знать, что это изображение вышло именно таким, каким его данный конкретный человек и предполагал выпустить. Правда, надо что-то еще сделать с пережатием при последующем распространении, но это уже технический вопрос.

Евгений Степанищев 2 мес

Чем отличается внешне репутация фотографа от репутации человека с нейросетью (или даже нейросети без человека)? Как их различить?

У меня шизофрения так разовьётся ) Как будто теперь на сайте есть два Евгения Суреева — с плюсом между именем и фамилией и без него. Но в этом после то ли кто-то один из вас пишет, но то с плюсом, то без, то ли один согласен с другим ))

Евгений+Суреев 2 мес

Чем отличается внешне репутация фотографа от репутации человека с нейросетью (или даже нейросети без человека)? Как их различить?

Если мы рассматриваем не единичный случайный снимок, а использование фото/видео для фиксации фактов, то очевидно, что фотограф как минимум присутствовал лично. Про человека с нейросетью такого сказать нельзя.

Как будто теперь на сайте есть два Евгения Суреева

Нас тут кажется на самом деле два. Но в этом посте писал пока только я. Почему появляется и пропадает плюс, это неизвестно.

Евгений Степанищев 2 мес

Про человека с нейросетью такого сказать нельзя.

Мы никак не отличим человека с нейросетью от человека без нейросети. Часть изображений на этом сайте так или иначе обработано нейросетями (другая часть публикуется как есть, если считать, что в моём смартфоне обработки нейросетями нет), сомневаюсь, что хоть кто-то надёжно сможет отделить одно от другого.

Евгений Суреев 2 мес

Вопрос не в нахождений отличий между людьми, а в установлении степени доверия фотографии.
Если фотография содержит в себе подпись фотографа, или, например, несколько подписей «понятых», присутствовавших при фотографировании, степень доверия этой фотографии будет значительно выше, чем если бы она была не подписана, или подписана третьим лицом.

Евгений Степанищев 2 мес

Если фотография содержит в себе подпись фотографа, или, например, несколько подписей «понятых», присутствовавших при фотографировании, степень доверия этой фотографии будет значительно выше, чем если бы она была не подписана, или подписана третьим лицом.

Что мне помешает получить десять таких подписей, например? На разных людей.

Евгений Суреев 2 мес

Десять подписей или десять приватных ключей для подписывания?

Евгений Степанищев 2 мес

Речь о цепочках доверия? Соберу в кучу то, что уже я говорил:

1) глобального реестра не будет, цепочки доверия сломаны уже сейчас на сертификаты доменов;
2) корневые реестры в руках у организаций, где живые люди — сертификаты можно подделать, надавив на них;
3) внешние источники времени даже сейчас крайне редки, хотя документы подписываются десятками тысяч (как минимум) каждый день, подписать что-то задним числом ничего не стоит;
4) человек с фотоаппаратом и человек с нейросетью никак не различаются с точки зрения ЭП и стороннего потребителя между собой;
5) криптоалгоритмы устаревают, не исключено, что лет через пять подобрать коллизию второго рода на хеш по ГОСТу 89-го года можно будет на смарт-часах;
6) сертификаты ЭП устаревают — через десять лет этот сертификат можно будет перебрать и подписать «задним числом» (меток времени-то нет).

Как в этих условиях может помочь ЭП (которая даже сейчас не помогает нормально подписывать документы) я не понимаю.