Apple пытается защитить свободу слова, удаляя изображения сексуального насилия над детьми
Apple, возможно, не сможет защитить детей и свободу слова.
Apple сделала конфиденциальность краеугольным камнем своих продаж и маркетинговых кампаний. Но серьезные изменения в том, как он защищает детей, поставили технологического гиганта в противоречие с исследователями в области безопасности, которые говорят, что авторитарные правительства могут использовать новую инициативу Apple, чтобы заставить замолчать диссидентов.
Новые функции Apple преследуют достойную похвалы цель: обнаружение фотографий с материалами о сексуальном насилии над детьми и публикация таких материалов, что, как показывает отчет New York Times за 2019 год, резко возросло в последние годы из-за распространения шифрования, социальных сетей и смартфонов.
Однако некоторые исследователи опасаются, что правительства могут заставить Apple использовать свои возможности сканирования изображений для поиска изображений, начиная от репрессивных фотографий и заканчивая предметами, осуждающими права геев.
Apple пообещала никогда не соглашаться с такими требованиями и загружать в органы только проверяемые копии неправомерных данных. Но исследователи не совсем уверены, что он может давать такие обещания.
«Я считаю, что Apple просчиталась», - сказал Мэтью Грин , доцент Института информационной безопасности Джонса Хопкинса, Yahoo Finance . Я думаю, было бы здорово, если бы Apple попробовала это в ограниченном масштабе и действительно посмотрела на результаты: сколько людей они поймали, сколько людей фактически подверглись судебному преследованию.
Компания, которая гордится конфиденциальностью и безопасностью пользователей, сейчас находится в деликатном положении, пытаясь защитить детей, сохраняя при этом безопасность тех, кто находится под угрозой со стороны тоталитарных правительств.
Apple оказалась в затруднительном положении, потому что она выдвинула свою позицию в отношении конфиденциальности во главу угла своих маркетинговых кампаний. Она установила рекламные щиты по всей стране и запустила телерекламу, чтобы укрепить свою репутацию технологической компании, которая больше всего заботится о конфиденциальности.
« Apple боролась с попыткой Министерства юстиции вынудить компанию создать бэкдор, чтобы получить доступ к одному из iPhone, который использовался одним из стрелков во время атаки в Сан-Бернардино . Apple объяснила, что создание такого дыра в безопасности, это поставит под угрозу безопасность всех iPhone, подвергая опасности пользователей по всему миру.
Как он продолжает поддерживать эту репутацию, помогая бороться с распространением изображений оскорблений? По словам Грина , компании следовало начать с меньшего уровня, чем внедрение одеял для всех продуктов в США.
Если методы, которые Грин планирует использовать в этом случае, сработают, это будет стоить потенциальных проблем с конфиденциальностью, говорит Apple .
Но индустрия высоких технологий сильно отстала в работе с материалами о сексуальном насилии над детьми. В отчете 2020 Times было обнаружено резкое несоответствие между такими компаниями, как Facebook , которых хвалили за их усилия по искоренению такого контента, и другими компаниями, такими как Apple , Microsoft и Yahoo, которые не так много охотятся.
Создавая многоступенчатую систему для выявления изображений жестокого обращения с детьми. Во-первых, вместо того, чтобы использовать реальные изображения детей, Apple работает с такими агентствами, как Центр пропавших без вести и эксплуатируемых детей, чтобы создать то, что по сути является числовым представлением этих фотографий, называемым хешами.
Они представляют собой строку чисел, которую нельзя использовать для просмотра изображений или реконструировать для их отображения, но можно отображать вместе с существующими изображениями.
Когда Apple отправит следующее крупное обновление программного обеспечения, ваше устройство получит хэши, относящиеся к известным изображениям, изображающим злоупотребления. Когда вы подключаетесь к iCloud и начинаете загружать фотографии, ваш телефон автоматически выполняет поиск этих совпадений на вашем устройстве, то есть Apple не знает результатов поиска на данный момент.
Если он обнаруживает совпадения, на вашем телефоне появляется ваучер. Когда вы загружаете свои фотографии в iCloud , Apple отсканирует эти ваучеры, и, если обнаружит определенный порог ваучеров, соответствующих известному оскорбительному контенту, Apple начнет проверку вручную. В случае отрицательного отношения к незаконным изображениям Apple поделится контентом с NCMEC .
По сути, технология Apple позволяет ей смотреть на бесчисленные изображения, не глядя на фотографии пользователей, которые больше эксплуатируют. Более того, iCloud начинает сканировать мои фотографии, пока я не подключусь к Apple . Без этого соединения сканирование даже не выполняется на вашем телефоне, не говоря уже о серверах Apple.
Если Apple имеет дело только с ужасными фотографиями, почему исследователи безопасности внезапно так нервничают? По Нью - Йоркского университет Тандона школы инженерного профессора Джастина Cappos, они волнуются правительство как Китай Коммунистической партии s заставит компанию Apple в изменении хэш , хранящиеся на пользователь телефонов , чтобы найти изображения для изображений или документов для протестных групп.
Apple сейчас внедряет новые технологии в США , но заявляет, что откроет их для других стран в будущем. Он не прокомментировал Китай , который является одним из крупнейших рынков сбыта.
Проблема в том, что фильтрация жестокого обращения с детьми, технологический способ сделать это так же, как вы фильтруете изображения революционного флага или изображения, вы знаете, или документы, которые содержат, вы знаете, что-то вроде определенного документа, который может «быть манифестом организации, выступающей за перемены», - сказал Каппос.
Китай коммунистическая партия может оказаться особенно большой угрозой для Apple в новую систему s, особенно в свете рычагов он может оказать на тек гиганта.
«Правительство имеет огромный контроль не только над ИТ-инфраструктурой Apple в Китае , но и над производственной инфраструктурой», - сказал Грин. Таким образом, на Apple может быть оказано огромное давление, чтобы заставить ее делать то, что лично Apple может не устраивать.
Apple часто соблюдает законы правительства Китая, даже если они кажутся противоречащими позиции компании в отношении конфиденциальности.
Закон о кибербезопасности 2017 года вынудил Apple хранить данные пользователей iCloud в государственной независимой ИТ-компании, а китайское правительство держало ключи шифрования для этой информации. В том же году Apple запретила китайские приложения из своего частного магазина приложений, согласно правительственному распоряжению, потому что приложения могут использоваться для обхода Великого китайского файрвола. Я думаю, что в ту минуту, когда вы создадите технологический потенциал, который правительства захотят использовать, а затем скажете: «Не волнуйтесь, это может быть использовано для этой плохой цели. «Я думаю, что это действительно опасно», - сказал Грин.
«Это не скользкий спуск. Мы собираемся оказаться у подножия этого скользкого склона или немного по нему, и мы туда доберемся (добавлено зеленым цветом).
Но эксплуатационные изображения также могут привести к более широкому распространению более широких личных данных. Службы зашифрованных сообщений позволяют нам отправлять информацию, фотографии и видео, не опасаясь слежки со стороны правительства.
`` Единственное, что я действительно могу думать, что могло бы сделать что-то подобное, это если бы Apple отказалась фактически собирать и передавать эту информацию правоохранительным органам, а вместо этого решила показать пользователю какое-то предупреждение или что-то в этом роде, и информация об этом никогда не покидала телефон ''. - сказал Каппос.
На данный момент средства Apple сканирования на предмет жестокого обращения с детьми могут быть единственным способом остановить распространение таких материалов при сохранении конфиденциальности. Для Apple может быть невозможно расширить одни и те же возможности для всех своих пользователей по всему миру, обеспечивая при этом аналогичную защиту.
Отвечайте Дэниелу Хоули через dhowley yahoofinance.com или по электронной почте на danielphowley protonmail.com и подписывайтесь на него в Twitter на DanielHowley.
