«Экзистенциальный кризис поведет нас в авторитаризм»

02 сентября, 18:43

«Экзистенциальный кризис поведет нас в авторитаризм»

 

Несмотря на то, что системы искусственного интеллекта (ИИ) пока не демонстрируют выдающихся результатов, американские политологи и специалисты по национальной безопасности бьют тревогу. Даже имеющиеся на сегодняшний день технические возможности формируют мощную тенденцию повсеместного ограничения прав и свобод, а от авторитаризма до тоталитаризма, как говорится, рукой подать. Дело, однако (что гораздо серьезнее), не столько в массовом распространении ботов и дронов, сколько в экзистенциальном кризисе, охватившем западный мир.

Как полагает создатель блога Global Guerrillas Джон Робб, в рамках организации системы тотального учета и контроля государственные и негосударственные структуры будут активно сотрудничать с Facebook. Имея наибольший массив данных, позволяющих идентифицировать пользователей в интернете, в недалеком будущем эта социальная сеть создаст наилучший алгоритм распознавания лиц в реальности (отметим, что аналогичный проект FindFace уже достаточно успешно обкатывается в российской соцсети вКонтакте). Она же сможет реализовать его в глобальном масштабе (за исключением, отмечает Робб, России и Китая).

По-видимому, это одна из причин, по которой руководство соцсети активно борется с фейковыми аккаунтами. Уже сейчас (Робб ссылается на знакомого эксперта по борьбе с терроризмом) стало значительно сложнее создать фальшивый профиль (необходимый, в частности, для включенного наблюдения за «группой риска»): команда Facebook отслеживает и блокирует подобные в течение 24 часов (в русскоязычном сегменте сети это пока не практикуется). Джон Робб считает это одним из признаков наличия функциональной глобальной системы цензуры и наблюдения, создаваемой по требованию национальных правительств, прежде всего, американского. Это уже не предположение - это реальность, предупреждает эксперт.

Каковы функции этой системы, рассчитанной на широкое использование будущих  возможностей искусственного интеллекта? Во-первых, она призвана мгновенно распознавать шок-контент (экстремистского или просто жестокого содержания, в частности, прямые трансляции убийств/самоубийств, ставшие в последние месяцы настоящим проклятием англоязычного Facebook) и удалять или, что еще лучше, вообще не позволять закачку подобных видео и трансляций. 

Во-вторых (и, пожалуй, в-главных), это «обычная цензура и наблюдение». Если сейчас в Facebook работают около 7,5 тысяч сотрудников, мониторящих опубликованные и личные сообщения, чтобы оперативно удалять нежелательный, с точки зрения руководства соцсети, контент и «банить» нарушителей, то в скором времени их заменит полностью автоматизированная система ИИ, которая будет делать то же самое, но в глобальном сетевом масштабе.

В-третьих, будет реализована «перепись в реальном времени каждого человека в мире» (опять-таки, за пределами Китая, где Facebook заблокирован, и России, где он не столь распространен, чтобы позволять делать далеко идущие выводы). В Европе и США, где совокупно насчитывается около 2 миллиардов ежедневных пользователей Facebook и Android (с разных устройств), идея big data «обо всем и обо всех» уже практически реализована, а вскоре дело дойдет и до остальной части мира.

Социальные сети уже лишили традиционные СМИ решающей роли в формировании национального и мирового общественного мнения, и последние вряд ли смогут изменить ситуацию. Соцсети будут использовать возможности ИИ, чтобы заблокировать нежелательную и распространить необходимую, с их точки зрения, информацию (расцвет индустрии «фейковых новостей» - абсурдно уже само определение - доказывает верность этих оценок), что будет особенно четко продемонстрировано на следующих президентских выборах в США.

Тотальный контроль над пользователями открывает возможность для массовых злоупотреблений. Джон Робб видит решение в создании альтернативных неофициальных электронных сетей, которые смогут противостоять диктату бюрократического ИИ. «Эти новые сети могли бы стать единственным реальным способом нейтрализовать, полностью изменить или перенаправить растущую мощь больших социальных сетей, шагающих по нашим жизням», - констатирует он. Правда, сколь долго они останутся вне контроля тех или иных темных сил, остается непонятным. Выйти из навязываемой парадигмы можно, лишь начав борьбу на принципиально ином концептуальном уровне, который пока даже не просматривается.

Создатель «Глобальных партизан» также обращает внимание на явление, названное им «автоматизацией терроризма». Современные технические средства позволяют полностью автоматизировать конкретную террористическую атаку и даже целую террористическую сеть, что, по его мнению, и наблюдается сейчас в США и Европе. Социальные сети позволяют объединить людей для свержения правительств, как это продемонстрировала т.н. «арабская весна» или «пригласить на работу» в запрещенную в РФ террористическую организацию, именующую себя «Исламское государство», около 30 тысяч боевиков со всего света. По сути, именно они породили феномен т.н. «одиноких волков» (террористов-одиночек, сформировавших свои «убеждения» под влиянием глобального информационного поля, но не связанных формальными организационными отношениями с теми или иными террористическими структурами).

Получившие широкое распространение боты (программное обеспечение, имитирующее человеческое общение) активно способствуют распространению дезинформации, в том числе экстремистского содержания. Направляемые ИИ, они позволят полностью автоматизировать вербовку и последующую «активацию» террористов (мы также заметили эту тенденцию на примере «групп смерти» вКонтакте), по примеру того, как дроны становятся средством автоматизации физических нападений в реальном мире.

И хотя нынешние попытки ботов создать некий собственный язык вызывают, скорее, желание поиронизировать над подобным, действительно, «искусственным интеллектом», теоретический возможный выход ИИ на иной уровень может уничтожить человечество, как это уже многократно демонстрировалось в фильмах-антиутопиях. Что, если настоящая угроза человечеству не будет иметь никаких признаков антропоморфности, окажется ботом, а не роботом?.. - задается вопросом политический обозреватель The Washighton Post Энн Аппельбаум. Описывая использование ботов в дезинформационных кампаниях разного уровня, она прозорливо отмечает: «Нет ни гигантских космических кораблей, ни армий человекоподобных роботов. Вместо этого мы создали болото нереальности, в котором …скоро нельзя будет разобрать, что реально, а что только мерещится. Разве это не та антиутопия, которой мы так долго боялись?».

Как же на Западе дошли до жизни такой?.. Джон Робб предлагает свое объяснение роста бытового, политического и религиозного (а также в целом немотивированного, если говорить о России - прим. авт.) терроризма. При всем многообразии деталей, теракты последнего времени объединяет основной фактор: их совершают мужчины-неудачники, мужчины, не нашедшие своего места в мире, лишенные внутренней силы, мужчины, страдающие от глубокой психологической боли. Их действия - это отчаянная, истерическая попытка поднять свой статус (став «святым» или хотя бы воином), вырваться из навязанного обществом порочного круга.

«Смерть мужественности», отмечает Робб, приняла в США (и на Западе в целом) характер настоящей эпидемии. Индикатором охватившего нацию психологического бедствия является значительный рост смертей от передозировки наркотиков и общий рост общественного насилия, примером чему служат и последние события в Шарлотсвилле (те же депрессивно-агрессивные тенденции, сознательно развиваемые в молодежной - и не только - среде, характерны и для России, о чем мы неоднократно писали - прим.авт.).

«Смерть Бога» (и христианской морали вместе с ним), то есть утрата глобальных смыслов, в конце XIX века вызвала жесткую аллергическую реакцию в виде племенного нигилизма (фашизм) и экономического утопизма (коммунизм), которые чуть не погубили человечество. Сейчас, пишет Джон Робб, мы убиваем «ядро нашего социального существа - мужественность», которая становится помехой в современном «толерантном» мире, и если эти попытки действительно увенчаются успехом, то ценой потери могут стать настоящие «океаны крови».

«Экзистенциальный кризис будет вести нас в авторитаризм», - прогнозирует Джон Робб, анализируя политическую ситуацию в США. Этот авторитаризм, в зависимости от победы «трампистов» или противостоящих им сил, по большому счету, будет различаться лишь методами. Крайние формы обоих вариантов могут привести к массовому кровопролитию. «Давайте надеяться, что мы избежим этого», - призывает аналитик. Однако развитие событий показывает, что внутреннее противостояние в Америке вплотную подошло к роковой черте, за которой может последовать новая гражданская война. И если об этом открыто пишут издания вроде The New Yorker, проблема (а внутренние проблемы подобного рода обычно «решаются» «маленькой победоносной войной» вне собственных границ) куда серьезней, чем кажется.

Яна Амелина - секретарь-координатор Кавказского геополитического клуба

Яна
 
Амелина
02 сентября, 18:43