Connect with us

Hi, what are you looking for?

Наука и технологии

Использование квантовых вычислений для защиты ИИ от атак

Машинное обучение — это область искусственного интеллекта (ИИ), в которой компьютерные модели становятся экспертами в различных задачах, потребляя большие объемы данных. Это вместо того, чтобы человек явно программировал этот уровень знаний.

Например, современные шахматные ИИ не нуждаются в том, чтобы гроссмейстеры обучали шахматным стратегиям, они могут «выучить» их самостоятельно, сыграв миллионы игр против своих копий.

Это бесценно в ситуациях, когда запись явных инструкций нецелесообразна, если не невозможна, — как определить математическую функцию, которая может определить, изображена ли на картинке кошка или собака?

Человеческие дети никогда не учатся такой функции, а скорее видят множество примеров кошек и собак, а затем в конечном итоге развивают понимание их различий.

Машинное обучение — это воспроизведение этого процесса на компьютерах.

Но, несмотря на их невероятные успехи и все более широкое распространение , платформы на основе машинного обучения остаются очень уязвимыми для атак со стороны злоумышленников, то есть злонамеренного вмешательства в их данные, что приводит к неожиданным сбоям.

Например, модели классификации изображений (которые анализируют фотографии, чтобы идентифицировать и распознавать широкий спектр критериев) часто можно обмануть, добавляя хорошо продуманные изменения (известные как возмущения) к их входным изображениям, которые настолько малы, что незаметны для глаза. человеческий глаз. И этим можно воспользоваться.

Сохраняющаяся уязвимость к подобным атакам также вызывает серьезные вопросы о безопасности развертывания нейронных сетей машинного обучения в потенциально опасных для жизни ситуациях. Это включает в себя такие приложения, как самоуправляемые автомобили, где система может быть сбита с толку при движении через перекресток из-за безобидного граффити на знаке остановки.

В критический момент, когда разработка и развертывание ИИ быстро развиваются, наша исследовательская группа ищет способы использования квантовых вычислений для защиты ИИ от этих уязвимостей.

Машинное обучение и квантовые вычисления

Недавние достижения в области квантовых вычислений вызвали большой интерес к перспективам улучшения машинного обучения с помощью квантовых компьютеров. Уже были предложены различные алгоритмы «квантового машинного обучения», включая квантовые обобщения стандартных классических методов.

Обобщение относится к способности модели обучения должным образом адаптироваться к новым, ранее неизвестным данным.

Считается, что модели квантового машинного обучения могут изучать определенные типы данных значительно быстрее, чем любая модель , разработанная для современных или «классических» компьютеров.

Обычные компьютеры работают с битами данных, которые могут быть либо «нулевыми», либо «единицами» — классическая двухуровневая система.

Квантовые компьютеры работают с «кубитами», состояниями двухуровневых квантовых систем, которые обладают странными дополнительными свойствами, которые можно использовать для решения определенных задач более эффективно, чем их классические аналоги.

Однако менее ясно, насколько широко будут распространены эти ускорения и насколько полезным будет квантовое машинное обучение на практике.

Это связано с тем, что, хотя ожидается, что квантовые компьютеры будут эффективно изучать более широкий класс моделей, чем их классические аналоги, нет никакой гарантии, что эти новые модели будут полезны для большинства задач машинного обучения, которые действительно интересуют людей. Это могут быть проблемы с медицинской классификацией или генеративные системы искусственного интеллекта.

Эти проблемы побудили нашу команду задуматься о том, какие другие преимущества квантовые вычисления могут принести задачам машинного обучения, помимо обычных целей повышения эффективности или точности.

Защита ИИ от атак

В нашей последней работе, опубликованной в журнале Physical Review Research , мы предполагаем, что модели квантового машинного обучения могут быть лучше защищены от атак злоумышленников, генерируемых классическими компьютерами.

Состязательные атаки работают путем выявления и использования функций, используемых моделью машинного обучения .

Но функции, используемые универсальными моделями квантового машинного обучения, недоступны классическим компьютерам и, следовательно, невидимы для противника, вооруженного только классическими вычислительными ресурсами.

Эти идеи также можно использовать для обнаружения наличия состязательных атак , одновременно используя классические и квантовые сети.

В нормальных условиях обе сети должны делать одинаковые прогнозы, но при наличии атаки их выходы будут расходиться.

Хотя это обнадеживает, квантовое машинное обучение продолжает сталкиваться с серьезными проблемами. Главным из них является огромный разрыв в возможностях, который разделяет классическое и квантовое вычислительное оборудование.

Современные квантовые компьютеры по-прежнему существенно ограничены своим размером и высоким уровнем ошибок, что не позволяет им выполнять длительные вычисления.

Огромные инженерные проблемы остаются, но если их удастся преодолеть, уникальные возможности крупномасштабных квантовых компьютеров, несомненно, принесут удивительные преимущества в широком диапазоне областей.

Использование квантовых вычислений для защиты ИИ от атак

Теги: ИИ, квант, хакеры