Home
» Wiki
»
Проблемы конфиденциальности Apple AI
Проблемы конфиденциальности Apple AI
На конференции WWDC24 компания Apple представила ряд функций искусственного интеллекта , пообещав внедрить мощные инструменты на iPhone, iPad и Mac. Но может ли Apple действительно гарантировать конфиденциальность в мире ИИ? Решения Apple для устройств и частных облаков впечатляют, но интеграция ChatGPT создает потенциальную уязвимость.
Как Apple планирует превратить свой ИИ в инструмент конфиденциальности
Apple представила ряд функций ИИ на WWDC24, и к концу 2024 года они будут доступны на всех поддерживаемых Mac, iPhone и iPad. Однако ИИ и конфиденциальность не всегда идут рука об руку. Тем не менее, Apple взяла на себя смелые, но разумные обязательства в отношении конфиденциальности.
Обработка на устройстве
Предложения запросов Siri, улучшенные с помощью искусственного интеллекта
Обычно операции ИИ требуют значительной вычислительной мощности, которой не хватает большинству стандартных телефонов и ноутбуков. Однако с появлением процессоров Apple все компьютеры Mac, iPhone и iPad, оснащенные чипами серии M или A17 Pro (и более новыми), смогут локально выполнять большинство моделей генеративного ИИ , включая языковую модель Apple.
Компания Apple уже некоторое время разрабатывает собственную платформу Apple Neural Engine (ANE) для управления машинным обучением и искусственным интеллектом. За прошедшие годы обработка запросов ИИ стала более эффективной, без необходимости передавать их полностью центральному процессору или графическому процессору. Большинство моделей искусственного интеллекта Apple фактически будут работать в автономном режиме и обеспечивать конфиденциальность.
Частные облачные вычисления (PCC)
Однако ваше устройство Apple может оказаться не в состоянии обрабатывать некоторые запросы ИИ локально. Хотя Apple и заявила об этом на WWDC24, они не уточнили и не привели примеры того, какие запросы будут слишком большими для локального автономного процессора. Примеры носят предположительный характер, но Apple утверждает, что «сложные запросы» могут повредить ваше устройство.
Решение Apple — Private Cloud Computing (PCC) — облачный процессор искусственного интеллекта, созданный на основе фирменных кристаллов Apple. Он делает упор на конфиденциальность и прозрачность и поставляется с собственным Secure Enclave, как и решение Apple для защиты устройств. При использовании PCC запросы ИИ удаляются сразу после обработки, и никто, включая Apple, не может получить доступ к данным через бэкдор. Для дальнейшего укрепления доверия Apple обеспечивает проверяемую прозрачность, позволяя сторонним исследователям безопасности проводить аудит программного обеспечения, работающего на узлах PCC.
ChatGPT представляет серьезную угрозу конфиденциальности
Обработка на устройстве и PCC являются отличными мерами обеспечения конфиденциальности, но есть один аспект Apple Intelligence, который все еще вызывает вопросы: ChatGPT . Для тех, кто не знает, Apple планирует интегрировать ChatGPT в свои возможности искусственного интеллекта, включая Siri. Эти приложения на основе искусственного интеллекта будут использовать более широкую базу знаний ChatGPT и заимствовать ее возможности обработки изображений.
Использование ChatGPT на iPhone
Справедливости ради следует отметить, что Apple приняла некоторые меры для обеспечения конфиденциальности пользователей при использовании ChatGPT. Например, когда вы отправляете запрос в OpenAI, устройство скроет ваш IP-адрес, и никаких записей с вашей информацией создано не будет. Кроме того, все запросы ChatGPT требуют вашего предварительного разрешения, и вам придется предоставлять его каждый раз.
Примечание : несмотря на заявления Илона Маска, OpenAI не может получить доступ ко всем данным на устройстве пользователя; ChatGPT может обрабатывать только информацию, представленную в его подсказке.
Однако для использования самых мощных функций ChatGPT требуется подписка, и вам придется подключиться к премиум-аккаунту. Однако в этом случае вы будете обязаны соблюдать политику конфиденциальности OpenAI. Политика конфиденциальности OpenAI позволяет собирать персональные данные, регистрировать использование, обучать модели на основе персональных данных, передавать ваши данные третьим лицам и выполнять многие другие связанные с этим действия.
ChatGPT Compose на macOS Sequoia
Хотя существуют способы обойти некоторые нарушения конфиденциальности ChatGPT, большинство решений являются обходными, и OpenAI может легко их обойти. Похоже, что избежать ChatGPT в Apple Intelligence (особенно на macOS) будет сложно, если не невозможно. В зависимости от того, как вы используете Siri или Compose, вы можете обнаружить, что в значительной степени полагаетесь на ChatGPT, оставляя большую часть своих персональных данных в руках OpenAI.