Apple проверяет фотографии сексуального насилия над детьми перед их загрузкой

- В четверг Apple Inc объявила, что внедрит систему проверки фотографий на iPhone в Соединенных Штатах на предмет совпадения с известными изображениями сексуального насилия над детьми, прежде чем они будут загружены в ее службы хранения iCloud.

Если будет обнаружено достаточно загруженных изображений жестокого обращения с детьми, Apple инициирует проверку человеком и сообщит о пользователе сотрудникам правоохранительных органов, сообщила компания. Apple заявила, что новая система предназначена для уменьшения количества ложных срабатываний до одного триллиона.

С помощью новой системы Apple пытается решить две задачи: запросы правоохранительных органов о помощи в борьбе с сексуальным насилием над детьми и методы обеспечения конфиденциальности и безопасности, которые компания сделала основным принципом своего бренда. Другие компании, такие как Facebook Inc, используют аналогичную технологию для обнаружения и сообщения о сексуальном насилии над детьми.

Как устроен iPhone от Apple на iOS? Сотрудники правоохранительных органов ведут базу данных известных изображений жестокого обращения с детьми и переводят эти изображения в хэши - числовые коды, которые однозначно идентифицируют изображение, но не могут использоваться для их восстановления.

Apple создала собственную реализацию этой базы данных с использованием технологии NeuralHash, которая также предназначена для отлова отредактированных, но аналогичных исходным изображениям. База данных будет храниться на iPhone.

Когда пользователь загружает изображение в службу хранения Apple iCloud, iPhone создает хэш изображения для загрузки и сравнивает его с базой данных. По словам Apple, фотографии, хранящиеся только на телефоне, не проверяются.

Financial Times ранее освещала некоторые аспекты программы.

Одним из ключевых аспектов системы является то, что Apple тестирует фотографии, хранящиеся на смартфонах, перед их загрузкой, а не проверяет изображения после того, как они поступают на серверы Apple.

В Твиттере эксперты по конфиденциальности и безопасности выразили опасения, что система потенциально может быть расширена для сканирования телефонов в целом на предмет запрещенного контента или политических высказываний.

Независимо от долгосрочных планов Apple, они подали очень четкий сигнал. По их мнению, можно безопасно создавать системы, которые сканируют телефоны пользователей на предмет запрещенного контента, - написал в ответ предыдущим репортерам Мэтью Грин, исследователь безопасности из Университета Джона Хопкинса. Что делает правильным или неправильным то, что человек каким-то образом оказывается правым или неправильным? Это прорвет плотину - правительства потребуют этого от всех.