Создатель Всемирной паутины заявил о рисках использования ИИ в Apple

Начальник службы безопасности компании Inrupt и создатель Всемирной паутины Тим Бернерс-Ли сообщил, что использование ChatGPT в Apple Intellingence повышает риски защиты конфиденциальности пользователей, пишет издание 9to5mac, сообщает РБК.
Apple Intelligence имеет трехступенчатую иерархию функций искусственного интеллекта. Обработка запросов по максимуму выполняется на устройстве, без отправки данных на серверы. Если требуется внешняя вычислительная мощность, запросы поступают на серверы Apple. Если и они не могут помочь, у пользователей запрашивают разрешение на использование ChatGPT.
При передаче запросов в ChatGPT применяются дополнительные меры защиты. Apple анонимизирует все запросы в ChatGPT, поэтому серверы OpenAI не имеют информации о том, кто отправил конкретный запрос и кто получает ответ.
Соглашение Apple с OpenAI также гарантирует, что данные из переписки пользователей с нейросетью не будут использоваться в качестве учебного материала для моделей ChatGPT.
Однако, несмотря на такую степень защиты данных, риски для конфиденциальности по-прежнему существуют. В частности, Apple удаляет идентификационную информацию при отправке запросов OpenAI, но личная информация о пользователе может содержаться в самих запросах.
"По сути, чем более личным является для вас запрос искусственного интеллекта, тем выше риск того, что вас могут идентифицировать по его содержанию", — отмечает руководитель отдела архитектуры безопасности Inrupt Брюс Шнайер.
Например, если вы попросите ChatGPT помочь вам спланировать маршрут поездки по городу, того факта, что вы находитесь в определенном городе в определенные выходные и у вас указаны определенные интересы, вполне может быть достаточно, чтобы идентифицировать вас.
Специалисты по информационной безопасности призвали с особой осторожностью относиться к личной информации, которой вы делитесь во время использования искусственного интеллекта.
Модель Apple Intelligence была представлена в начале июня на ежегодной конференции WWDC 2024 (Worldwide Developers Conference — Всемирная конференция разработчиков) в Купертино. Она глубоко интегрирована во всю экосистему устройств американского техгиганта. Языковые модели позволят анализировать и расставлять приоритеты при получении уведомлений и обновлений, "чтобы минимизировать отвлекающие факторы".
Кроме того, появился ряд новых "умных" инструментов для работы с текстом, которые помогут редактировать контент, подбирать нужный стиль, исправлять ошибки и обобщать записи. Более того, ИИ способен понимать заданные в письмах вопросы и автоматически предлагать ответы на них.
При этом функции Apple Intelligence будут работать не на всех iPhone. Доступ к ней будет только у владельцев iPhone 15 Pro и Pro Max.