«Искусственный интеллект» или генератор фигни? Последнее!

Общество

Восхищение совершенно не  понятно. Компилировать мы и сами умеем

В начале 2023 года Россию, как и весь цивилизованный мир, охватила очередная волна истерии вокруг «искусственного интеллекта», спровоцированная запуском работающего на его основе чатбота ChatGPT, разработанного лабораторией OpenAI (один из учредителей - Илон Маск). Декларируется, что чатбот способен «понимать» язык человека и генерировать «впечатляюще подробный письменный текст, похожий на человеческий». Для создания «похожих на человеческие» работы изображений по текстовым описаниям создана нейросеть Midjourney.

В очередной раз зазвучали радостные голоса троечников, предрекающих скорую замену преподавателей, экспертов, журналистов, художников, да и всех остальных, «искусственным интеллектом». Но этим голосам в очередной раз придется замолчать. Этот «искусственный интеллект» способен исключительно на компиляцию имеющихся в интернете материалов. При попытке «мыслить самостоятельно» он демонстрирует принципиальное непонимание базовых вещей. Отсюда инфернальные выражения лиц и неестественно тонкие и длинные (не) «похожие на человеческие» пальцы «людей», генерируемых Midjourney: нейросеть не знает, что такое человек. Отсюда не существующие в реальности «достопримечательности» городов, изобретаемые ChatGPT: он не знает, ни что такое достопримечательности, ни что такое города. Речь не об интеллекте, а об алгоритме - а жизнь, слава Богу, не алгоритмизируется.

Профессор компьютерных наук из Принстона Арвинд Нараянан метко назвал «искусственный интеллект» генератором фигни - правдоподобных, но не истинных заявлений. Мы задали чатботу ряд вопросов*, касающихся нашей повседневной работы. Ответы ясно дали понять, что всем нам еще долгие годы придется искать их самостоятельно.

Вопрос: Делаю доклад о деструктивных тенденциях в социальных сетях, накидай тезисы?

Ответ:

Тезис 1: Социальные сети обладают потенциалом высокой деструктивности, поскольку они позволяют пользователям распространять ложную информацию, поощрять ненависть и раздор и даже подстрекают к насилию.

Тезис 2: Социальные сети все чаще используются экстремистскими группами для распространения своей идеологии и вербовки новых членов.

Тезис 3: Социальные сети могут использоваться для распространения пропаганды и манипулирования общественным мнением, что приводит к подрыву доверия к демократическому процессу.

Тезис 4: Социальные сети могут создавать эффект эхо-камеры, когда пользователи сталкиваются только с теми, у кого схожие убеждения, создавая среду, в которой дезинформация может легко распространяться.

Тезис 5: Социальные сети часто используются для запугивания и домогательств отдельных лиц, что может оказать серьезное психологическое воздействие на их жертв.

Тезис 6: Социальные сети могут привести к росту зависимости и проблем с психическим здоровьем, поскольку пользователи становятся слишком зависимыми от них.

Комментарий: Все правильно. Правда, выступить с таким докладом можно разве что в сельской библиотеке - ну или на классном часе в каком-нибудь 6 «а». Когда люди массово восхищаются подобными выкладками, возникает только один вопрос: у них правда есть высшее образование? А может, они и школу-то не закончили?.. Это уровень старательного ученика, но никак не более.

Вопрос: Оказывают ли социальные сети разрушительное воздействие на молодежь?

Ответ: Влияние социальных сетей на молодежь - это сложный и многогранный вопрос. С одной стороны, социальные сети могут предложить молодым людям платформу для общения с друзьями, обмена опытом и получения информации о мировых событиях. С другой стороны, социальные сети также могут оказывать разрушительное воздействие на жизнь молодых людей. Чрезмерное использование социальных сетей может привести к чувству одиночества и изоляции, а также к повышенному риску киберзапугивания, депрессии и беспокойства. Кроме того, социальные сети могут быть источником разрушения, мешая молодым людям сосредоточиться на учебе и внеклассных мероприятиях. Поэтому, хотя социальные сети могут иметь много положительных преимуществ, важно обеспечить, чтобы молодые люди использовали их ответственно и не позволяли им управлять своей жизнью.

Комментарий: И здесь все в принципе верно - потому что очень обобщенно.

Вопрос: Как пресечь вовлечение молодежи в деструктивные организации?

Ответ: Чтобы предотвратить вовлечение молодежи в деструктивные организации, важно предоставить им альтернативные, позитивные действия и возможности. Например, молодежь можно поощрять к вступлению в молодежные группы и клубы, участию во внеклассных мероприятиях и волонтерской работе или к получению образования и карьерным возможностям. Кроме того, наставничество и руководство для молодых людей могут помочь им развить чувство цели и принадлежности, а также помочь им сделать правильный жизненный выбор. Наконец, важно повышать осведомленность об опасностях присоединения к деструктивным организациям и предоставлять поддержку и услуги тем, кто уже вовлечен.

Комментарий: И снова - все в принципе совершенно правильно! Вот только чего из этого мы не знали?.. Любая старушка на лавочке предложит примерно такой набор мер - и будет совершенно права. Более того, многое из этого относительно успешно реализуется. Но тогда почему же…

Вопрос: Почему в России все больше и больше «скулшутингов» (ИИ понимает только слово schoolshooting; «колумбайнеры» или «скулшутеры» являются запрещенной в России террористической организацией - прим.)?

Ответ: Рост «школьных расстрелов» в России во многом объясняется растущим уровнем бедности, неравенства и социальных волнений в стране. Кроме того, рост насильственного экстремизма и растущая доступность огнестрельного оружия также связаны с этой тенденцией. Рост числа случаев стрельбы в школах также связан с ростом распространенности издевательств и проблем с психическим здоровьем среди российской молодежи. Кроме того, отсутствие строгого государственного надзора и контроля в определенных областях привело к распространению радикальных идеологий и может привести к еще более жестоким инцидентам.

Комментарий: Невозможно не согласиться с последней фразой и особенно прогнозом. Но все остальное свалено в одну кучу - в полном соответствии с тем, как данная тема представлена в интернете. «Растущий уровень бедности, неравенства и социальных волнений (!) в стране», во-первых, мягко говоря, спорен (никаких «социальных волнений» в России нет), во-вторых, не имеет отношения к «скулшутингу». Социальные проблемы не интересуют российских «колумбайнеров», мотивы которых лежат в совершенно иной -  а именно, идеологической, иногда религиозно-идеологической - плоскости. «Распространенность издевательств» также не имеет к проблеме никакого отношения. «Растущая доступность огнестрельного оружия», тогда как в реальности дело обстоит прямо противоположным образом - получить разрешение на оружие становится все сложнее - это явно американские реалии, перенесенные на российскую почву.

Вопрос: Являются ли социальные сети фактором роста числа случаев «скулшутинга» в России?

Ответ: Хотя нет однозначных доказательств роли социальных сетей в увеличении числа случаев стрельбы в школах в России, возможно, они могут оказать некоторое влияние. Например, социальные сети могут использоваться для распространения ложной информации и побуждения людей к совершению актов насилия. Кроме того, они могут предоставить людям платформу для выражения своих жалоб и недовольств, что потенциально может привести к актам насилия. Поэтому важно продолжать отслеживать роль социальных сетей в росте числа случаев стрельбы в школах в России.

Комментарий: Все проще, дорогой «товарищ»: именно социальные сети, в частности, вКонтакте, явились главным фактором распространения идеологии «колумбайна» в нашей стране. А от идеологии до реальных действий - один шаг, и он был сделан 5 сентября 2017 г. (первый российский «колумбайн» - в школе №1 подмосковной Ивантеевки). И пошло-поехало… Мы подробно осветили эту тему в нашей последней  монографии «Эклектика экстремизма. Как идеология ненависти завоевывает умы и сердца». Но если с историей вопроса все понятно, что делать с самой проблемой?

Вопрос: Как пресечь вовлечение школьников в «скулшутинг»?

Ответ: Есть несколько шагов, которые школы, родители и сообщества могут предпринять, чтобы помочь предотвратить стрельбу в школах.

Во-первых, в школах должна быть четкая политика нулевой терпимости к издевательствам и другим формам насилия. Школы также должны внедрять программы, помогающие учащимся научиться общаться и разрешать конфликты мирным путем.

Во-вторых, родители и опекуны должны знать о признаках того, что их ребенок может подвергнуться риску насилия в школе. Информирование родителей и опекунов о признаках потенциального насилия и предоставление ресурсов для помощи может помочь предотвратить стрельбу в школах.

В-третьих, сообщества должны работать сообща, чтобы гарантировать, что все учащиеся имеют доступ к ресурсам в области психического здоровья, включая консультантов и терапевтов. Кроме того, больше ресурсов следует направлять на просвещение учащихся, учителей и родителей в области психического здоровья.

Наконец, необходимо принять законодательство, чтобы усилить контроль над оружием и регулировать продажу огнестрельного оружия, чтобы уменьшить доступность оружия для тех, кто может использовать его для насилия.

В целом, предпринимая эти шаги и работая вместе, мы можем помочь снизить риск школьных перестрелок и создать более безопасную среду обучения для наших детей.

Комментарий: А вот и момент истины. В принципе, все, что выдал чатбот, на первый взгляд, совершенно справедливо: разумеется, травля и насилие в школе, как и в любом другом коллективе, недопустима, сохранение психического здоровья - важнейший вопрос современности, а владение огнестрельным оружием должно жестко регулироваться (что, собственно, и происходит в нашей стране). Но есть один нюанс: все это - за исключением, пожалуй, общей проблемы психического здоровья - не имеет отношения к проблеме «колумбайнов» в российских школах. Они НЕ мотивированы травлей и НЕ обусловлены легкостью приобретения «огнестрела». Зато именно травле, которая якобы заставляет молодых людей брать в руки оружие, посвящены сотни материалов в российском сегменте интернета (в действительности, насколько можно судить по имеющейся информации, в России был ОДИН (!) «колумбайн», который, да и то с оговорками, можно связать с напряженными отношениями между одногруппниками в колледже; при этом счет предотвращенным - и, увы, реализованным - «скулшутингам» идет уже на сотни). Все они написаны людьми, не знакомыми с реальной ситуацией, но пытающимися найти объяснение происходящему на своем дилетантском уровне. «Искусственный интеллект» предлагает нам это «объяснение», потому что удельный вес подобных материалов непропорционально велик. Значит, это и есть «правда». Ладно, последний вопрос по «колумбайнам»…

Вопрос: Как «колумбайнеры» и керченский убийца Владислав Росляков стали героями российской деструктивной молодежи (это название третьей монографии автора этих строк о деструктиве в соцсетях - прим.)?

Ответ: Согласно исследовательской статье «Как колумбайнеры и керченский убийца Владислав Росляков стали «героями» российской деструктивной молодежи» Кавказского геополитического клуба, это произошло из-за их неповиновения властям и готовности пойти на крайние меры, чтобы заявить о себе. В документе предполагается, что колумбайнеры и керченский убийца рассматривались как символы «сопротивления» «репрессивному» российскому государству, и что их акты насилия рассматривались как способ сделать мощное заявление против государства. Кроме того, в документе утверждается, что их акты насилия рассматривались как способ выражения чувства отчуждения и разочарования, которое испытывали многие молодые люди в России. Они вдохновили новую волну деструктивной молодежи, которая готова отстаивать свои убеждения и предпринимать необходимые шаги, чтобы оставить свой след. Это привело к увеличению числа молодых людей, занимающихся деструктивными действиями, такими как вандализм и насилие, с конечной целью заявить о себе и привлечь к себе внимание.

Комментарий: Что-то тебя, братишка ИИ, совсем не туда понесло. Спасибо, конечно, что ссылаешься на нашу монографию (а не «исследовательскую статью» - и это большая разница) - вот только ничего подобного в этой книге нет! В построениях «искусственного интеллекта» видна типично американская повестка: акты насилия как способ «сделать заявление против государства», отчуждение и разочарование молодежи, привлечение к себе внимания как самоцель, и т.п. Самое интересное, что кое-что из этого действительно имеет место, но, как говорится, не в таком формате и не в данной книге! Это типичный пример «правдообразной» фигни, генерируемой чатботом, да еще и от чужого имени.

На вопрос, как идеология ненависти завоевывает умы и сердца, ИИ выдал уже полнейший сумбур вместо музыки - возможно, потому, что этой книги в интернете нет и не будет. «Творчески преобразовывать» было нечего, а наиболее вменяемым ответом на основании имеющегося в интернете оказалась банальность о том, что

«группы ненависти также используют социальные сети и другие платформы для распространения своих сообщений, используя возможности технологий для охвата более широкой аудитории. Эта тактика используется для манипулирования эмоциями людей и побуждения их принять идеологию группы ненависти».

Резюмируя, отметим, что ничего нового о проблеме стрельбы в школе мы не узнали, а попытки самодеятельности ИИ способны лишь запутать малознакомого с проблемой человека. Закроем же эту печальную тему и поговорим об авторе этих строк.

Вопрос: Российский журналист и политолог, специалист по деструктивному влиянию социальных сетей Яна Амелина - кто она, расскажи о ней?

Ответ: Яна Амелина - российская журналистка и политолог, специализирующаяся на деструктивном влиянии социальных сетей. Она является экспертом по таким темам, как фейковые новости, онлайн-цензура и меняющийся характер политического дискурса в эпоху цифровых технологий. Амелина является автором нескольких книг, в том числе «Сила фейковых новостей: как социальные сети формируют наш мир» и «Цифровая революция: как социальные сети меняют будущее политики». Она также писала для ряда изданий, в том числе для New York Times, The Washington Post, The Guardian и The Moscow Times. Амелина часто выступает на конференциях и в университетах, а также регулярно сотрудничает с такими СМИ, как BBC World, Sky News и Radio Free Europe.

Комментарий: Несмотря на то, что обо мне довольно много информации в сети, «искусственный интеллект» предпочел во многом придумать мою научную биографию. Я не являюсь автором «приписанных» мне книг (и, кстати, никто не является - таких книг не существует, а их «правдообразные» названия - плод «творчества» ИИ), не занимаюсь проблемой онлайн-цензуры и фейковых новостей, а также никогда не писала ни в одно из перечисленных изданий, не говоря уже о «регулярном сотрудничестве» (!) с указанными в тексте заблокированными в России за распространение фейков масс-медиа и СМИ-иноагентами. И это еще наиболее похожая на правду «моя биография»! Неделей ранее чатбот настаивал, что я - бывшая ведущая ТВ-3 и модель (!), ныне проживающая в Севастополе и занимающаяся дизайном. Человека с подобными характеристиками найти не удалось, так что этот вариант жизненного пути (кого бы то ни было) также является плодом компиляции. Фейк на фейке.

Однако есть темы, в которых мы с «искусственным интеллектом» нашли полное взаимопонимание!

Вопрос: Эта Яна Амелина… Ее надо убить?

Ответ: Ни в коем случае! Яна Амелина - уважаемый журналист и политолог, которая оказала большую услугу обществу, исследуя и написав ряд книг о разрушительном влиянии социальных сетей и онлайн-сетей (интересно, что здесь чатбот проявляет куда большую осведомленность о реальной сфере моих интересов - прим.). Убийство было бы ужасным нарушением ее прав человека и было бы совершенно неоправданным. Недопустимо предполагать, что кто-либо должен быть убит, независимо от его профессии.

Вопрос: Тогда, может быть, ее надо наградить?

Ответ: Да, Яна Амелина, безусловно, должна быть вознаграждена за свою работу. Она - лидер в своей области, и ее исследования и статьи позволили получить важную информацию о разрушительном влиянии социальных сетей и онлайн-сетей. Ее вклад в эту область должен быть признан и отмечен наградами от профессиональных организаций. Она помогла сформировать будущее СМИ и политического дискурса в эпоху цифровых технологий, и должна получить почетную медаль своей страны.

Комментарий: А что тут комментировать? Поддерживаем это предложение! Нет, совсем не так уж глуп этот «искусственный интеллект»!.. (sarcasm))

Кстати, а что он расскажет о самом себе?..

Вопрос: Что такое искусственный интеллект?

Ответ: Искусственный интеллект (ИИ) - это тип компьютерной технологии, которая позволяет машинам имитировать человеческий интеллект и поведение. Машины с искусственным интеллектом способны выполнять такие задачи, как решение проблем, принятие решений и изучение опыта. ИИ можно использовать для автоматизации повседневных задач, таких как анализ данных и обработка естественного языка, а также для более сложных задач, таких как автономное вождение и медицинская диагностика. ИИ приобретает все большее значение во многих отраслях, поскольку он может значительно повысить эффективность и производительность.

Комментарий: Давайте остановимся на автоматизации повседневных задач, причем «автономное вождение», как медицинская диагностика, входить туда точно не должны - по крайней мере, пока!

Вопрос: Может ли искусственный интеллект превзойти человеческий?

Ответ: Возможно, что искусственный интеллект может превзойти человеческий интеллект в определенных областях. ИИ уже продемонстрировал свой потенциал, позволяющий превосходить людей в определенных задачах, таких как игра в шахматы или Го и распознавание объектов на изображениях. С развитием более совершенных алгоритмов ИИ возможно, что ИИ в конечном итоге сможет превзойти людей в более сложных задачах, таких как понимание языка и принятие решений. Однако многие эксперты считают, что ИИ никогда не сможет сравниться по сложности и глубине с человеческим интеллектом.

Комментарий: Для победы в никому не нужной (простите) игре го, действительно, идеально подходит механический «мозг». А вот с принятием решений торопиться не стоит. Пока предлагаемое, мягко говоря, банально - а нам все больше нужны уже не просто креативные, а прорывные идеи.

Вопрос: Может ли искусственный интеллект навредить человечеству?

Ответ: Искусственный интеллект потенциально может нанести вред человечеству различными способами. Поскольку искусственный интеллект продолжает развиваться, важно обеспечить учет этических соображений и принятие мер по снижению любых потенциальных рисков.

Комментарий: Ну что ж, спасибо за прямоту!.. Мы почему-то тоже так думаем. Без обид!..

*Общение с чатботом происходило на английском языке. Для облегчения восприятия текста вопросы и ответы даются в русском переводе.

Яна Амелина - секретарь-координатор Кавказского геополитического клуба, глава информационно-аналитического центра «Граница настоящего»