Акелла промахнулся. Что не так с инициативой Apple

Акелла промахнулся. Что не так с инициативой Apple
Источник: 9to5mac

Благая цель. Странная реализация и позиция морализатора. Что-то явно пошло не так.

Выпустив заявление о том, что в Apple будут бороться с распространением нелегального контента, через сканирование фотографий на устройствах пользователей(wtf?!), в компании, похоже, сами не ожидали, что запустят острую дискуссию в обществе на тему приватности.

Нет сомнений, что с распространением нелегального и абьюзивного контента среди детей нужно бороться всем вместе. Мы все за. Однако, почему компания, которая ставит во главу угла приватность данных пользователей, решила подвергнуть сомнению основу любого справедливого судопроизводства - презумпцию невиновности и неприкосновенность частной жизни без судебного решения?

Давайте попробуем разобраться.

Что конкретно предложила Apple

В заявлении говорится о том, что ближе к концу текущего года, на устройствах под управлением iOS 15, iPadOS 15, macOS Monterey и watchOS 8 будет запущен функционал по предотвращению распространения нелегального контента среди детей и детской порнографии. Пока что только на территории США.

Система будет состоять, упрощённо, из двух частей:

  1. Сканирование фотографий пользователя на устройстве при получении их через iMessage;
  2. Сканирование фотографий пользователя при выгрузке их в iCloud.

Чуть позже компания выпустила pdf с разъяснениями о том, как именно будет работать вся система.

Краткая выжимка.

Сканирование фотографий при получении в iMessage и родительский контроль

  • Данная опция будет активирована только для семейных аккаунтов;
  • Будет две опции проверки: для устройств детей возрастом 12 лет и младше, и для устройств детей возрастом 13-17 лет;
  • Сканирование будет происходить прямо на устройстве, но Apple уверяет, что она не будет иметь доступа к контенту. Сканировать будут только хэши фотографий по такой же базе хэшей запрещённого контента при помощи Искуственного Интеллекта (нейросети);
  • При получении снимка с сомнительным содержанием, iMessage предупредит ребёнка о том, что данный контент лучше не смотреть и размоет фото;
  • Если ребёнок откажется от просмотра, то никаких дальнейших действий не последует;
  • Если же ребёнок проигнорирует предупреждение и решит просмотреть медиафайл, то его родители будут предупреждены о подобном инцеденте;
  • Для детей 13 - 17 лет алгоритм будет только предупрждеать детей, но не будет отправлять уведомления родителям;
  • Данная функция не будет включена по умолчанию. Её нужно будет активировать владельцу семейного аккаунта.

Сканирование фотографий при выгрузке в iCloud

  • Данная опция будет касаться всех устройств, вне заивисимости от возраста пользователя и/или типа аккаунта;
  • Данная опция будет включена по умолчанию и её нельзя отключить;
  • Она будет активироваться при выгрзке ваших фотографий в iCloud. Если учесть, что при современном качестве фотографий и места на мобильных устройствах, фактически, большинство пользователей будут выгружать фотографии в iCloud и подпадут по действия опции;
  • Принцип работы будет точно такой же: локальная нейросеть (ИИ) будет сканировать хэши фотографии на устройствае которые готовы для выгрузки в iCloud по той же самой базе хешей фотографий, которая хранится удалённо;

Общие условия

  • В обоих случаях в Apple делают упор на то, что сканироваться будут не сами фотографии а только их обезличенные хэши;
  • ИИ будет сранивать локальные хэши фотографий с облачной базой данных запрещённого контента, которую предоставит Национальный центр пропавших и эксплуатируемых детей (NCMEC);
  • Apple не имеет и не будет иметь доступа к этой базе данных. Добавлением хэшей запрещённого контента занимаются общественные организации;
  • Apple утверждает, что система создана только для оповещения о фотографиях, которые находятся в базе данных уже известного властям детского порно;
  • Система не передаёт автоматически данные властями при совпадении локального хеша и хеша из базы. Сначала Apple сама проверит полученные данные и если подвердится факт наличия запрещённого контента, данные будут переданы властям;

На первый взгляд система выглядит продуманной и вроде как даже безопасной для конечного пользователя. Однако, есть несколько важных вопросов, ответы на которые необходимо получить от Apple.

Что не так с инициативой Apple

Ещё раз повторюсь - бороться с нелегальным контентом и детской порнографией крайне важно. Вопрос только в том, почему для такой благой цели был выбран именно такой метод?

Почему компания выбрала путь сканирования устройств? Вместо того, что бы открыто, вместе со своими пользователями, экспертами и общественностью обсудить и выбрать лучший путь решения в таком сложном и чувствительном вопросе, в компании решили, что им лучше знать, как бороться с проблемой и самостоятельно распорядились приватностью пользователей и их устройствами.

Звучит пафосно? Давайте разберемся, что смущает в предложенной реализации:

  • Почему сканирование происходит именно на устройствах пользователей? Почему не в облаке, как у других компаний? Все сообщения iMessage и так идут через сервера Apple, почему бы не сверять хэши там?
  • Тоже самое и по проверке при загрузке фотографий в iCloud. Сканируйте хэши там. Фотографии зашифрованы в облаке? Так они зашифрованы и на устройстве. Или данные на устройствах Apple лежат в открытом виде?
  • В Apple утверждают, что сканироваться будут только хеши фотографий по базе, к которой Apple не имеет доступ. Хорошо. Но тогда кто гарантирует, что в базу не загрузят очередной мемчик и все, кто будут его пересылать друг-другу не получат "негативный ваучер"? Есть ли какая-то защита от подобного фрода?
  • Кто гарантирует пользователям, что будут сканироваться только фотографии? Где гарантия, что через какое-то время Apple не захочет сканировать вообще все данные, что хранятся на устройствах пользователей?
  • Кто гарантирует пользователям, что отдельные правительства не продавят Apple на тотальное сканирование устройств пользователей на своей территории?
  • Кто будет проверять, на сколько добросовестно сотурдники Apple будут расследовать случаи получения пользователями "негативных ваучеров"?
  • В Apple обещают систему аппеляций. Будет ли на время рассмотрения аппеляции блокироваться устройства пользователей? Или людям придётся доказывать свою невиновность полностью выключенными из экосистемы Apple?
  • Отказа от выгрузки фотографий в iCloud будет ли автоматически расцениваться как признак попытки сокрытия какой-либо информации о себе?

Почему важно где происходит сканирование контента

Ваше устройство это ваша собственность. Частная собственность, неприкосновенность которой гарантирована законом. Так же есть юридическое понятие как "тайна частной жизни и переписки". Ни одна компания не имеет права без вашего прямого разрешения или судебного решения перлюстрировать какую-то часть вашей переписки или её целиком. Даже по российским законам, не говоря уже про законы США.

Да, все сделано таким образом, что вы включая выгрузку фотографий в iCloud фактически даёте разрешение Apple сканировать ваше устройство. Но есть ли у вас выбор? Фактически нет. При современном развитии фотографии и устройств, вы будете вынуждены сделать подобный шаг рано или поздно. О какой добровольности мы говорим?

Другое дело, когда вы осознано разрешаете какой-либо компании делать с вашими загруженными данными всё, что угодно. Вы осознано дали своё согласие, и вы чётко понимаете, что где-то там с вашими данными, по сути, может происходить всё, что угодно. Но не на вашем устройстве. Чувствуете эту тонкую грань?

По этому Apple, заявляя о такой системе борьбы с детской порнографией и незаконным контентом, на мой взгляд, балансирует на тонкой грани нарушения, если не буквы, то духа закона.

Мне могут возразить: "А как же антивирусы? Они сканируют ваше устройство и тоже отправляют куда-то, какие-то данные."

Всё так. Но есть несколько важных отличий:

  • Антивирус сканирует ваши данные, но у него не стоит задачи найти на вашем устройстве запрещенный контент и сообщить об этом полиции. Антивирус вам доверяет;
  • Антивирус отпраляет только отчёты о прошедшем сканировании. Он не классифицирует ваш контент по степени опасности с юридической точки зрения;
  • На основе этих сканирований вас вряд-ли могут отдать под суд или обвинить в распространении детской порнографии;
  • И наконец - вы можете не устанавливать антивирус. Вас никто не заставляет.

Реакция на инициативу не такая единодушная, как хотелось бы Apple

Почти сразу после публикации пресс-релиза, социальные сети и сетевые СМИ стали активно обсуждать инициативу Apple. И нельзя сказать, что компания получила единодушную поддержку.

Electronic Frontier Foundation (EEF) прямо заявили, что данная инициатива Apple это самый настоящий бэкдор, который в любой момент может быть использован как угодно против пользователей Apple.

Эдвард Сноуден высказался в том же ключе - что реализация предложенная Apple это бэкдор и он в любой момент может быть использован против вас. О том же говорит и Уилл Кэткарт, глава WhatsApp.

Бывший глава службы безопасности Facebook Алекс Стамос считает, что ситуация не столь однозначна. С одной стороны это нарушение приватности пользователей, с другой стороны необходимо решать вопрос с распространением детской порнографией и лёгкого решения, которое устроит всех, тут нет.

Да и в самой компании понимают, что их предложение вызвало неоднозначную реакцию у достаточно большой части аудитории. Проще сказать, что она была воспринята негативно. Но, при всём при этом, в компании не собираются отказываться от своих планов и будут внедрять систему в изначальном виде 🤷‍♂️

О логике принятия решений и том, что будет дальше

При всей серьёзности проблемы, мне до сих пор не понятно: неужели в Apple действительно не понимают, что запуская, по сути своей, шпионское ПО (мы не знаем точно, как оно работает; по каким алгоритмам и что именно сканирует) на устройствах пользователей, пусть и в обезличенном, зашифрованном виде на основе машинного обучения, они одним махом расписались в том, что компания считает всех своих пользователей потенциальными нарушителями закона и ни одному из них она не доверяет.

Ну и у кого в Купертино не возникло подобной мысли? Серьёзно?

Я правда хочу понять, почему всех пользователей перевели в разряд подозреваемых? Презумпция невиновности уже отменена? Неприкосновенности частной собственности тоже больше нет? Почему Apple решает за пользователя, что должно хранится на его устройстве, а что нет? Разве Apple платит пользователю за то, что он пользуется их устройством? Разве Apple является собственником устройства пользователя?

Какие-то даже странные вопросы, не правда-ли? Однако, получается странная ситуация:

  • мы покупаем у компании устройство, за собственные деньги;
  • мы являемся собственниками устройства, не Apple;
  • компания заявляет, что будет сканировать фотографии на вашей собственности и если ей из этого что-то покажется подозрительным и/или будет совпадать с данными в базе, к которой мы даже не имеем доступа, она сообщит об этом в полицию а вы потеряете доступ к своей собственности;
  • и это всё без официального полицейского расследования и решения суда.

Как тебе такое Илон Маск? Дальше будет больше. Я, как и многие критики данного решения уверен, что за сканированием фотографий последует сканирование всего устройства и анализ его содержимого.

Вряд-ли Apple устоит под нажимом даже в демократических странах, чего уж говорить об авторитарных, которые сделают доступ к данным пользователей на устройствах единственно возможной платой за доступ компании на местные рынки. И это не маленькие рынки, должен вам сказать.

Я не зря вынес в заголовок фразу "Акелла промахнулся". Несомненно в Apple исходили из лучших побуждений, стараясь защитить детей. Но, на мой взгляд, главной ошибкой является попытка сканировать устройства пользователей. Возможно, это единственный вариант для Apple в сложившихся условиях, но можно было предположить, что эта инициатива не будет понята широкой общественностью. Обычно, люди не любят, когда лезут к ним в карман без их спроса, какой бы целью это не было продиктовано.

Похоже, рекламный слоган "Всё, что происходит на вашем iPhone, остаётся на вашем iPhone" можно выбрасывать в утиль. Отныне будет сложно убедить людей, что забота компании о приватности серьёзная цель, а не рекламная уловка маркетологов.

Как сказал один известный блоггер: "Это классический выстрел в ногу".

Сложно с ним не согласится.

UPD: 3-го сентября Apple выпустили заявление, что они берут паузу и временно откладывают внедрение технологии для того, что бы вместе с сообществом выработать более верный подход и реализацию.

Хочется надеяться, что в компании услышали мнение общественности и пользователей.

В телегу
Поделиться
Класснуть
Вотсапнуть

Интересное