Брюс Шнайер: Благодаря ИИ "мы вступим в эпоху массового шпионажа"

Издание Slate опубликовало статью Брюса Шнайера, американского криптографа, писателя, специалиста по компьютерной безопасности, а также члена правления Electronic Frontier Foundation и AccessNow, в которой затрагивается проблема отслеживания и шпионажа в эпоху развития искусственного интеллекта. Об этом пишет securitylab.
Согласно статье, в последнее десятилетие произошли значительные изменения в практиках слежения и шпионажа. В прошлом слежение требовало значительных временных и финансовых затрат, включая личное наблюдение за человеком, отслеживание его перемещений, встреч и покупок.
Однако в современном мире, где технологии стали неотъемлемой частью нашей жизни, массовое наблюдение стало делом обыденным. Телефоны отслеживают наше местоположение, кредитные карты – наши покупки, приложения – с кем мы общаемся, а электронные книги – что мы читаем. То, что раньше было индивидуальным и ручным процессом, теперь превратилось в массовое и автоматизированное событие. Слежение стало бизнес-моделью интернета, и мы не можем реально отказаться от этого.
Шпионаж, в свою очередь, всегда подразумевал прослушивание телефонов или установку жучков, но это требовало человеческого труда для анализа собранной информации. С развитием искусственного интеллекта (ИИ) эта ситуация кардинально изменится. Современные генеративные системы ИИ уже умеют создавать сводки из длительных встреч, анализировать миллионы разговоров и сортировать их по темам. Это означает, что скоро мы войдем в эру массового шпионажа.
Массовое слежение изменило природу наблюдения, позволяя проводить его задним числом и без знания конкретной цели. Точно так же массовый шпионаж изменит природу шпионажа. Все данные будут сохраняться, их можно будет искать и понимать в массовом порядке. Это даст возможность узнать, кто обсуждал определенную тему за последний месяц, как развивались обсуждения, выявлять заговоры, распространение слухов или планирование участия в политических протестах.
Такой шпионаж не ограничится только нашими телефонами или компьютерами. Так же, как камеры повсюду способствовали массовому слежению, микрофоны повсюду будут способствовать массовому шпионажу. Siri, Alexa и "Привет, Google" уже всегда слушают – разговоры просто еще не сохраняются.
Осознание постоянного наблюдения изменяет поведение людей. Люди начинают соответствовать, "самоцензурироваться", что влечет за собой сдерживающий эффект. Слежение способствует социальному контролю, а шпионаж только усугубит эту проблему. Правительства по всему миру уже используют массовое слежение и, безусловно, будут заниматься массовым шпионажем.
Корпорации также будут шпионить за людьми. Массовое слежение открыло эру персонализированной рекламы. Массовый шпионаж только усилит индустрию. Информация о том, о чем говорят люди, их настроениях, секретах, — это все соблазн для маркетологов, ищущих преимущество. Технологические монополии, которые уже держат нас под постоянным наблюдением, не смогут устоять перед соблазном собирать и использовать все эти данные.
Мы могли бы ограничить эту возможность, запретить массовый шпионаж, принять строгие правила конфиденциальности данных. Но мы ничего не сделали, чтобы ограничить массовое слежение. Почему же шпионаж будет чем-то иным?