Чертоги искусственного разума

Взгляд редакции

Мы в редакции используем искусственный интеллект: иногда генерим короткие посты и описания, бывает – картинки создаем для соцсетей, расшифровываем интервью и выступления экспертов. То есть глубина погружения совсем маленькая. Принятие управленческих решений и написание статей остается за нами, и менять мы это не намерены. Пока ИИ – наш самый младший помощник младшего помощника, а не полноценный член команды. 

Пусть потенциал обработки информации у нас ниже, чем у нейросети, но человек обладает чем-то более ценным – чувственным восприятием, опытом, что позволяет нам создавать контент глубже, сильнее, выше, пусть и не быстрее ИИ. 

«Не классно, что люди стали использовать, по сути, преобразователь текста, обученный на ограниченном количестве данных для получения представлений о жизни, мире и т.д.», – считает наш редактор портала МетрологияPro Марина Чайкина.

ИИ усиливает как экспертизу, так и некомпетентность. Что с этим делать? 

Когда неопытный сотрудник дает задачу ИИ, чаще всего это приводит к ошибкам или неверному фокусу. Потому что:

• ИИ слепо подчиняется и выдаст неверный ответ, если не задать правильный контекст;

• новички не умеют приоритизировать важное.

Вместо обучения нейросетей закрепляется некомпетентность новичков. База знаний тут не спасает. Она – про знания и факты, реже про инструкции, но не про прикладные навыки и нюансы принятия решений.

Сила контекста

«Я предлагаю вам заменить термин «искусственный интеллект» на «искусственные помощники», – с этого начал наш разговор Михаил Канавцев. И беседа потекла совсем в другом направлении, чем планировалось, но получилась куда глубже и интереснее. 

И первое, на чем заострил внимание Михаил, – не нужно технологии очеловечивать. Антропоморфизм мешает увидеть суть. Важно понимать, что на данном этапе и еще достаточно длительное время нейросети будут помощниками, а никоим образом не акторами. Ведь интеллект подразумевает целеполагание, восприятие, мышление, внимание, представления, воображение, волю, рефлексию и ощущения. Поэтому пока то, что принято называть искусственным интеллектом, является искусственным помощником, который работает на человеческие задачи.

Культурный базис нейросетей

Важно понимать, что все решения искусственных помощников базируются на достаточно прочном культурном фундаменте. То есть это  векторная база , которая в своей основе имеет культурный слой, накопленный капиталистической цивилизацией. И поэтому почти все решения соответствуют миропониманию именно ее представителей.

Любой запрос, адресованный нейросети, проходит через определенную мировоззренческую призму. И, с одной стороны, по мощности обработки информации и задействования различных баз данных искусственные помощники часто превосходят среднестатистического пользователя. Поэтому с ними интересно общаться. Мы примеряем роль маленького ребенка, который задает родителю вопросы, и он дает ответ на любой из них.

Но, с другой стороны, все обычно забывают: этот помощник искусственный и черпает информацию из определенных хранилищ. И какой контекст лежит в основе этих данных, рядовой пользователь зачастую не знает и не задумывается. 

Сегодня при взаимодействии с искусственными помощниками ответ на вопрос всегда дается в контексте. Это иллюзия, что мы получаем просто решение нашей задачи. Проверить контекст нейросети можно, сравнив  официальный  взгляд на политические события с тем, что выдает нейросеть. 

Если мы, к примеру, задаем искусственному помощнику вопрос в сфере пиара или медиа, то ответ будет дан не с точки зрения заботы о людях, а с точки зрения  инжиниринга согласия . Когда Эдвард Бернейс закладывал матрицу  public relations , он изначально создавал ее как систему манипуляций общественным мнением с целью приведения общества к единому согласию.

Подробнее об инжиниринге согласия и влиянии контекста на наше мировоззрение читайте в первом интервью с Михаилом Канавцевым «Столетняя война за умы и кошельки».

Риски использования искусственных помощников

Используя сегодня искусственных помощников при анализе книг или при обобщении фактов, при аналитике, мы будем получать ответы, пропущенные через призму колониального мышления.

Справка

Неоколониальное мышление (неоколониализм) – это система подчинения и эксплуатации развитыми капиталистическими государствами молодых неразвитых стран и экономик, в том числе недавно освободившихся из колониальной политической зависимости. 

Цель – сохранить эксплуатацию и зависимость народов этих стран с помощью неравноправных экономических и прямых военно-политических отношений и договоров. 

Термин «неоколониализм» возник во второй половине ХХ века, его происхождение связывают с именем президента Ганы Кваме Нкрума, который в 1965 году определил его как «империализм на его последней и, возможно, самой опасной стадии». 

На формы и методы неоколониализма в современных условиях влияет научно-техническая революция, которая углубляет разрыв в уровнях экономического развития и в технико-экономических достижениях, используемых в развитых капиталистических и в развивающихся странах. 

подробнее

Отечественным искусственным помощникам тоже еще нужно длительное время на то, чтобы переделать свою векторную систему. Потому что сейчас редко можно найти решение с нашей отечественной базой данных. В основном весь контент, на котором обучаются базовые алгоритмы, – западный. 

Очень важно доносить до людей, что в работе с искусственными помощниками необходимо критическое мышление и нельзя слепо доверять информации, которую они выдают. Но даже при высоком уровне развития критического мышления, когда вы из десяти вопросов девять задаете искусственному помощнику, скорее всего, критически оценить его ответы вы не сможете.

Дает ли искусственный помощник эффективные бизнес-решения? Да. К чему они могут привести? К тому, что наши бизнесмены перестанут задумываться о стратегическом конгломерате. А стратегический конгломерат в условиях Российской Федерации – это триада равноправных партнеров: бизнес, государство и народ.

Бизнес – это, по сути, хозяйственник на территории. Его задача – решать интересы народа и взаимодействовать с гарантом стабильности – государством. В современных ответах искусственного помощника этой триады нет. Там есть просто бизнес-интересы. Но в нашей системе координат то, что основная задача бизнеса – это прибыль, – ошибка. Это колониальный взгляд. Но именно по такой модели сегодня будет давать решение искусственный помощник. Он не подскажет, как выстроить эти долгосрочные отношения внутри триады. 

Поэтому нельзя переусердствовать в использовании искусственных помощников и доверять им важные решения.

Что делать?

Это базовый вопрос к разработчикам. Необходимо активно создавать наш контент – датасеты, которые соответствуют нашему культурному коду. И обучать искусственных помощников на этих данных. В интересах крупного бизнеса вкладываться в эти разработки. Но это очень долгий процесс.

Для того чтобы насытить конкретную сферу, например, промышленности или услуг, нужно производить контент про людей оттуда. Нужно записывать аудио, делать текстовые расшифровки, нужно помогать искусственным помощникам искать эти данные. Нужно выкладывать их на разных платформах, в том числе на наиболее виральных, откуда часто искусственные помощники берут контент.

Также бизнес должен консолидироваться с медиа и задаваться вопросами – каким образом в повышение общей конкурентоспособности, а следовательно, и качества жизни населения, вовлечь разные платформы: кинопроизводителей, медиапроизводителей, СМИ? Как нам вместе создать эти условия? Такой подход обеспечит бизнесу стратегическое преимущество.

Как себя обезопасить?

Во-первых, каждый бизнесмен должен пройти курс по промптингу с нашими российскими экспертами. Сложность в том, что в современных реалиях нам придется научиться внутрь промпта встраивать запросы с учетом российской культуры – давать более подробный контекст. 

Во-вторых, нужно выделять время на то, чтобы читать классическую российскую литературу. Это поможет формировать мировоззренческий фильтр. Он не про критическое мышление. Добро и зло, какой-то моральный компас – это часто не про критическое мышление. И для того, чтобы этот уровень подключался в момент, когда ты анализируешь решение, нужно приучить к нему свой мозг. А ничто иное этому не учит так, как классическая литература. Этот внутренний фильтр, который в том числе поможет при написании промпта, нужно тренировать.