Apple внедрила в iOS 18.2 функцию, направленную на защиту детей от неприемлемого контента. Система автоматически размывает изображения обнаженной натуры, предупреждает о содержании и требует подтверждения для продолжения просмотра, но сохраняет полное шифрование данных.
Apple внедрила в iOS 18.2 новую функцию для защиты несовершеннолетних, направленную на охрану нравственного и психического здоровья. Система определяет изображения с обнаженными телами (нюдсами), размывает их, выводит предупреждение и запрашивает пароль для дальнейшего просмотра. При этом функция сохраняет сквозное шифрование данных и не предусматривает бэкдоров для властей.
Функция работает на алгоритмах машинного обучения. При обнаружении подобных изображений она автоматически добавляет размытие, предупреждает о деликатном содержании и предлагает несколько вариантов действий: выйти из переписки, заблокировать собеседника или воспользоваться онлайн-ресурсами по безопасности. Также доступна опция уведомления родителя или опекуна.
Apple.com
На устройствах iPhone и iPad система анализирует изображения в «Сообщениях», AirDrop, контактных постерах, видеосообщениях FaceTime и некоторых сторонних приложениях с фото- и видеообменом. Поддержка функции появится также на компьютерах, часах и гарнитуре Vision Pro с обновлениями до iOS 18, iPadOS 18, macOS 15 Sequoia или visionOS 2. Первоначально функция запущена в Австралии, где власти намерены обязать технологические компании следить за материалами, связанными с терроризмом и жестоким обращением с детьми, «где это технически осуществимо».
Ранее, в 2021 году, Apple планировала ввести систему для локального анализа всех пользовательских материалов на наличие подобных изображений с уведомлением властей в случае нарушений, но отложила эту идею из-за опасений по поводу конфиденциальности и возможных злоупотреблений со стороны авторитарных режимов.
