Безопасные платформы обмена сообщениями, такие как Signal, WhatsApp и недавно,Шифрованный RCSТМР существуют для выполнения многих различных функций, от управления цифровыми правами (DRM) до защиты контента в вашем мобильном кошельке на телефоне, но для наших целей мы сосредоточимся на том, как технологические компании используют их для своих инструментов ИИ.
Основная идея проста: большинство потребительских устройств недостаточно мощны для обработки типов функций ИИ, которые компании хотят предлагать, поэтому иногда они отправляют данные с вашего устройства на более мощные серверы в облаке для выполнения вычислений, а затем отображают результаты на вашем устройстве. Поскольку ваши данные покидают ваше устройство, происходит компромисс в отношении конфиденциальности. Например, если вы попросите приложение для обмена сообщениями обобщить разговор, оно может передать вычислительную мощность на сервер в облаке, отправив все содержание ваших сообщений в облако, а затем обратно на ваш телефон.
ТМР, как утверждается, предлагают способ держать эти запросы в тайне. Существует несколько реализаций, таких как Apple Private Cloud Compute.
ТМР, по сути, создают изолированную среду, в которой код может выполняться без доступа к остальной части системы. Это помогает защитить данные и код от взлома или манипуляций.
ТМР, как ожидается, обеспечивают конфиденциальность этих запросов. Они могут гарантировать, что данные остаются в пределах доверенной среды и не могут быть перехвачены или прослежены.Частный облачный вычислительный ресурс, Google’s (Google — )Private AI Compute (Частный вычислительный интеллект), and WhatsApp’s (и WhatsApp — )Private Processing (Частная обработка). It’s not just the big tech players, we’ve (Это не только крупные технологические компании, мы также)seen chatbots built with TEEs (видели чат-боты, построенные с использованием TEE)as well. (также)
TEEs can provide more security and privacy than simply running in the clear, but they are fundamentally different from actual encryption or running locally. (TEE могут обеспечить большую безопасность и конфиденциальность, чем простое выполнение в открытом режиме, но они фундаментально отличаются от реального шифрования или выполнения локально. Несмотря на обещания некоторых технологических компаний, они никогда не смогут достичь такого уровня безопасности и конфиденциальности.)
Что именно такое ТЕЭ?
ТЕЭ — это защищённая секция компьютера, которая запускает программное обеспечение таким образом, что оно должно оставаться секретным даже от других процессов, работающих на компьютере. ТЕЭ также позволяют пользователям проверять, что выполняется тот код, который они считают правильным, а не заменённый код, используя процесс, называемый «подтверждением». Вы также могли слышать об этом как о «защищённой зоне» или о брендах SGX или TrustZone.
Цель ТЕЭ, основанного на облаке, проста: компания может запустить сервер в своём центре обработки данных, но всё равно обрабатывать данные, предоставленные от вашего имени, не имея возможности увидеть эту информацию сами.
Безопасен ли ТЕЭ?
На практике мы наблюдаем множество трещин и хакерских атак каждый год, показывающих, что доступ к этим данным возможен. Это связано с тем, что, в то время как шифрование опирается на математику, ТЕЭ обеспечивают безопасность благодаря инженерным решениям. Стандартные алгоритмы шифрования создаются в результате многолетних процессов, разработанных совместно математиками со всего мира, и основаны на проблемах, изучаемых на протяжении десятилетий. Математика надежна, и нет краткого пути к её взлому, который не нарушил бы фундаментальные представления о математике как области знаний.
Общее понимание всех математиков мира заключается в том, что стандартные алгоритмы шифрования не поддаются взлому, насколько известно человечеству. Ответственные инженеры не создают систему, основанную на новом методе шифрования, до тех пор, пока она не будет подвергнута тщательному анализу.
Инженерия работает иначе. Каждая индивидуальная система является продуктом группы инженеров, которые выпускают её в мир, и каждая продукция будет иметь свои собственные особенности и ошибки, которые должны быть обнаружены и исправлены по отдельности. Эти ошибки обнаруживаются после создания системы, а не до неё. Никто ещё не создал непреодолимую систему. Напротив, постоянно появляются новые исследования, открывающие новые способы взлома систем ТЕЭ. Их исправляют по мере появления, но маловероятно, что они когда-либо станут идеальными, особенно не в ближайшее время.
ТЕЭ представляют собой особенно сложную инженерную задачу, потому что ключ шифрования физически находится прямо на устройстве. Создание ТЕЭ означает сохранение ключа полностью отделённым и недоступным, в то время как он находится на одном физическом устройстве с частями системы, к которым доступ не должен быть предоставлен.
Многие атаки на TEEs (защищённые вычислительные элементы) включают «боковые каналы». В атаке с использованием бокового канала,Нападающий измеряет электрические импульсы.Чтобы определить время выполнения операций внутри TEE и, следовательно, ключ, используемый в этом процессе, они анализируют другие эффекты. Получив ключ, они могут читать все данные. Сравните это с шифрованием от конца до конца, когда ключа нет на устройстве изначально, поэтому атакующему придётся провести подобное нападение на устройство пользователя.
Компании, которые используют ТЕЭ (TEEs) для защиты данных, хотят иметь ключ на сервере и одновременно обеспечить его защиту при выполнении сложных операций, таких как работа с LLM. Это значительно усложняет защиту этих ключей.
С учетом вышесказанного, сравнение защищённого ТЕЕ (TEE - Trusted Execution Environment, доверенная среда выполнения) и обычного текста на сервере представляет собой разницу между возможностью легко читать данные и необходимостью выполнять множество специализированных действий для доступа к данным. Такие действия часто включают доступ к физическому устройству. Это наиболее актуально для защиты от массового наблюдения, и для многих людей это может быть достаточным уровнем безопасности.
Но это суть проблемы. "Достаточно безопасно для большинства случаев" и "шифрованный как в математике" - это не одно и то же, и важно не путать эти два понятия. А сервисы, которые в настоящее время предлагают "шифрованный как в математике", действительно снижают уровень безопасности, когда переходят на защиту, основанную на TEE.
Если вы хотите погрузиться в множество проблем безопасности и ограничений, которые мы наблюдали на данный момент в отношении ТЭ (TEE), они хорошо задокументированы.Текст: здесь, Здесь, ЗдесьиЗдесь.
Что это имеет общего с LLM и ИИ?
Иногда организации хотят предложить LLM, который может отвечать на запросы в частном порядке. Существуют локальные LLM, но они ограничены по размеру. Поэтому, когда организации хотят предложить возможность отвечать на запросы, не видя разговора, они обращаются к TEE. Это полезный способ запуска чат-бота, который является достаточно частным. Вот что делают Apple, Google, WhatsApp и другие.
Почему бы не обратиться к шифрованию? В конце концов, вывод LLM — это просто математика, как и любые другие действия компьютера. Это ввод данных в (очень большую) функцию и выдаёт результат. У нас есть математика для выполнения этих вычислений таким образом, чтобы скрыть входные и выходные данные от того, кто выполняет вычисления, но это очень дорого. Это называется гомоморфным шифрованием, и никто пока не придумал способ сделать его достаточно быстрым для такого рода вычислений.
Вместо этого привлекательность TEE в том, что он выполнит эти вычисления для вас внутри специального непрозрачного раздела сервера. Производители TEE пытаются сделать всё возможное, чтобы человек, управляющий TEE, не мог заглянуть внутрь. Но всё равно нужно доверять оператору, чтобы он не подключил стетоскоп к коробке, чтобы попытаться выяснить, что происходит внутри.
В данном случае разумно рассматривать эти системы как "сохраняющие конфиденциальность", но не "шифрованные". Это различие важно, особенно когда мы говорим о взаимодействии TEE с безопасными сообщениями. Когда пользователь, использующий приложение для чата с конечной шифровкой, просит LLM обобщить, проверить или хранить эти сообщения, содержание этих сообщений покидает устройство и передается на нешифрованный сервер третьей стороны где-то. Это серьезная угроза конфиденциальности безопасных приложений для чата, и одна, которая становится все более сложной для пользователей, чтобы взять под контроль.
Как это переводится в практические советы?
Ответ на этот вопрос будет варьироваться в зависимости от модели угроз индивидуума, но хорошее правило — что устройство пользователя никогда не должно автоматически отправлять данные в TEE. Когда человек, держащий телефон, может выбрать, какие данные отправляются, даже если это кусок данных, например, "непрочитанные сообщения", у них есть возможность остановиться и подумать, может ли эта информация быть слишком чувствительной, чтобы рисковать ее отправкой.
В отличие от этого, когда данные отправляются автоматически, автоматическая отправка становится функцией всей системы. Если система ранее была полностью зашифрованной, добавление автоматической эксполияции делает всю систему уже не полностью зашифрованной.
Разработчикине создавайте системы, которые автоматически отправляют данные с устройства в TEE, особенно когда они поступают из приложения, которое в противном случае полностью зашифровано.
Пользователи:если разработчики игнорируют нас и создают такую систему,Терн Текст: Журналистский текст: В этом году празднование Дня независимости в стране проходило под знаком единства и патриотизма. Тысячи людей собрались на центральных площадях, чтобы принять участие в параде и продемонстрировать свою любовь к родине. Президент в своем обращении подчеркнул важность национального единства и призвал к дальнейшему развитию страны. Он также отметил вклад ветеранов и их роль в защите независимости нации. Парад стал ярким событием, где были представлены современные военные технологии и исторические реконструкции. Участники парада демонстрировали разнообразные военные формирования и демонстрации навыков. Празднования завершились фейерверком, который осветил ночное небо над городом, символизируя надежду и процветание на будущее.Любые автоматические функции отправки данных. Посвятите секунду размышлениям о том, насколько вы готовы рискнуть отправкой данных, когда решаете отправить их с устройства.
Так что же мне следует беспокоиться?
ТЕЭ полезны для обеспечения безопасности в ряде обстоятельств. Ваш телефон, вероятно, имеет ТЕЭ, где он хранит ключ, который шифрует данные о биометрическом разблокировании, и базовую часть ключа, где хранятся пароли. Он также позволяет использовать некоторые системы резервного копирования, например, как вы можете восстановить телефон с помощью своего пароля или восстановить резервные копии WhatsApp или Signal.
Но когда мы говорим о облачном вычислении, важно понимать, что это не то же самое, что шифрование от конца до конца, и оно не обеспечивает такой же уровень конфиденциальности.
Большая часть нашей личной жизни находится в наших телефонах и сообщениях. Мы в течение многих лет работали над обеспечением безопасности этих сообщений, добившись значительных успехов, таких как зашифрованный RCS, а также продолжая улучшать пользовательский опыт в приложениях Signal и WhatsApp. Мы даже наблюдали реальное улучшение безопасности резервных копий.функции, такие как Расширенная защита данныхЭто обеспечивает конечно-конечное шифрование для различных данных за пределами обмена сообщениями, таких как заметки и фотографии.
Но по мере того как компании внедряют функции ИИ, взаимодействующие с этими зашифрованными сервисами, извлекая данные с устройств и в облачную среду TEE, они подрывают защитные меры конфиденциальности конечно-конечного шифрования и рискуют вызвать серьезную путаницу относительно того, какие данные защищены, а какие нет.