Apple будет сканировать фотографии пользователей, чтобы защитить детей от насилия

Компания Apple будет автоматически проверять медиатеку айфонов в США на предмет детской порнографии и других запрещенных изображений, сообщает The Guardian. Инициативу поддержали представители организаций по защите детей. Однако некоторые специалисты в сфере безопасности обеспокоены тем, что систему могут использовать не по назначению, например в правительстве для слежки за гражданами. В качестве дополнительной меры безопасности Apple также планирует сканировать зашифрованные сообщения пользователей, чтобы выявлять откровенное сексуальное содержание.

Функция neuralMatch будет проверять фотографии перед их загрузкой в облачное хранилище. Если система найдет подозрительные изображения, их повторно оценит сотрудник компании. В случае обнаружения запрещенных снимков учетную запись пользователя отключат, а данные передадут Национальному центру США по делам пропавших и эксплуатируемых детей.

The Guardian уточняет, что родителям, фотографирующим своих детей на пляже или в ванной, не о чем беспокоиться. Нейросеть заранее проанализировала 200 тысяч запрещенных изображений, с которыми будет сравнивать снимки пользователей. Однако некоторые эксперты считают, что систему легко обмануть.

Профессор Университета Джонса Хопкинса Мэттью Грин уверен, что достаточно отправить человеку на первый взгляд безобидное изображение, которое совпадет с маркерами фотографий жестокого обращения с детьми, чтобы подставить его. Также Грин опасается, что технологию могут незаконно использовать власти разных стран для слежки за политическими оппонентами и протестующими.

Представленная neuralMatch — не первая программа для обнаружения изображений жестокого обращения с детьми. В 2009 году американский ученый Хани Фарид совместно с Microsoft Research создал систему PhotoDNA, которая анализирует снимки в интернете и определяет нелегальный контент. Функцию применяют многие компании, в том числе Facebook, Twitter и Google.