Потребность в увеличении потенциала систем управления для выработки эффективных решений в условиях постоянно повышающихся требований к качеству и скорости этого процесса на всех уровнях управления и практически во всех сферах, уже достаточно давно является очевидной и, как правило, не требует специальной аргументации. Однако достаточно интенсивные и упорные попытки решения этой задачи за последние 30–60 лет не дали ожидаемого результата.

При этом в научном сообществе уже с момента появления вычислительных машин в середине XX века формировалось и крепло понимание невозможности решения этой задачи простыми методами, из чего явным образом следовала необходимость поиска нетривиального ее решения.

История попыток поиска нетривиальных решений задачи повышения качества управления в условиях высокой неопределенности, в силу своей крайней важности, весьма обширна, богата победами и провалами, вплоть до личных трагедий, пронизана интригами и включает множество важных этапов. Этапы, наиболее значимые в контексте настоящей записки, будут кратко обозначены ниже.

1. Утопия математических моделей

Бурное развитие информационных технологий в сфере управления во второй половине XX века началось с романтизма – с «детской болезни», значительные следы которой и в настоящее время отчетливо наблюдаются в научно-практическом сообществе и в органах управления. На этом этапе практически всем научно-практическим сообществом и значительной долей прогрессивных руководителей овладела иллюзия всемогущества модельного подхода.

Подавляющему большинству специалистов и руководителей (а особенно это касалось неспециалистов в области моделирования сложных систем) казалось, что любые сколь угодно сложные объекты управления можно представить в виде математических моделей, которые достаточно лишь регулярно насыщать соответствующими исходными данными и тогда результат модельных исследований «очевидным образом» превратится в эффективное управленческое решение.

В реальности же после множественных попыток и затрат ресурсов стало понятно, что такой подход дает практически значимый результат лишь в некоторых и, при этом, в очень немногих направлениях – там, где достаточны относительно простые модели, то есть те, которые можно разработать и верифицировать за приемлемое количество времени (лет, десятилетий). Тогда научно-практическое сообщество, согласно третьему закону диалектики («закон маятника») от одной крайности устремилось в другую – в экспертные системы.

2. Утопия экспертных знаний

Идея проста: эксперты знают почти всё (хотя это достаточно серьезное допущение), поэтому необходимо «всего лишь» извлечь из них необходимые знания и придать им такую форму, которая обеспечивала бы опять же «самоочевидное» решение задач управления. Эта идея завладела в какое-то время значительной частью сообщества управленцев, исследователей, разработчиков систем поддержки принятия решений, особенно той ее частью, для которой, в силу недостатка математических знаний, идея и технология математического моделирования оказалась слишком сложной.

Однако, в силу специфики предметных компетенций значительной части апологетов идеи экспертной оценки (как правило, это «новая формация» руководителей и специалистов – разработчиков систем поддержки принятия решений), сама идея и методология этой оценки были фактически изуродованы примитивной реализацией и ажиотажностью предложения. Со временем стало очевидно, что методы «дельфи», «форсайт», основанные на опросах экспертов и весьма примитивных технологиях обработки их ответов, а также другие весьма несовершенные технологии организации экспертной оценки позволяют всего лишь несколько поднять уровень результатов совсем некачественной экспертизы – поднять уровень некомпетентных «экспертных» групп, однако они оказались совершенно непригодными для ответственного решения сложных задач с привлечением специалистов – экспертов высокого класса.

Более поздние попытки поднять качество экспертных систем за счет использования технологий социальной инженерии и т.п. - также ни к чему хорошему не привели, поскольку они фактически вошли в конфликт с современными этическими установками общества.

И тогда человека (эксперта, специалиста) попытались заменить машиной.

3. Утопия данных

Когда в последние 20–30 лет вычислительная мощность достигла весьма значительных величин, тогда и оказалась востребованной технология автоматического построения моделей, которая на самом деле, родилась намного раньше - еще в середине прошлого века – технология искусственных нейросетей. Начался бум их применения в различных сферах. На фоне фиаско технологий модельных исследований, для которых просто отсутствовали необходимые знания прикладных областей, для того чтобы на их основе построить адекватные сложные модели, на фоне фиаско экспертных систем, для которых, несмотря на множественные попытки, так и не смогли организовать эффективную работу экспертов, искусственные нейросети многим показались удачным решением.

Нейросети действительно показали свою состоятельность для решения многих задач. При этом, конечно же, появилась новая иллюзия – иллюзия всемогущества «искусственного интеллекта» (с которым стали ассоциировать искусственные нейросети) – многим стало казаться, что достаточно всего лишь набрать необходимое количество определенных данных для обучения нейросетей и нейросеть сама сформирует такую модель, которую можно будет использовать и для анализа, и для прогноза, и для синтеза.

Однако, как и предупреждали специалисты в области применения нейросетей и в области создания самообучаемых систем, такой подход бессилен, когда речь идет о задачах, решаемых в условиях дефицита данных об обстановке, в условиях высокой неопределенности и даже, зачастую, в условиях целенаправленной дезинформации, что в последнее время становится всё более актуальным. А это и есть именно те основные задачи, эффективное решение которых обеспечивает сегодня необходимое ситуационное, тактическое и стратегическое превосходство.

Достаточно неожиданным для многих явилась и невозможность применения нейросетей для решения весьма ответственных задач. Основной причиной этого является принципиальная неинтепретируемость нейросетей, а, следовательно, и непредсказуемость результатов их работы. На вопрос «Почему этот «черный ящик» сгенерировал в такой обстановке именно такое решение?!» сегодня нет ответа ни в практике применения нейросетей, ни в их теории.

4. Гибридный интеллект

Здесь обозначены только три важные вехи развития информационных технологий, направленных на интеллектуальную обработку информации, однако это далеко не все вехи развития технологий поддержки принятия решений, технологий управления.

Ситуационные центры, big-data, block-chain, интеллектуальные агенты и множество менее масштабных, но популярных в своё время течений в большинстве своем конечно же нашли какие-то свои ниши. Однако они не стали универсальным «философским камнем» информационных технологий – таким, каким их пытались и до сих пор пытаются представить их апологеты, а за ними и «легион» маркетологов, прохиндеев и других кипучих «деятелей» от ИТ, повторяющих друг за другом модные «мантры», но, мягко говоря, весьма слабо понимающих содержание, суть и ограничения тех решений, о которых они говорят.

Вместе с тем, несмотря на поистине катастрофическое несоответствие ожиданий и результата, попытки широкого внедрения этих технологий не прошли бесследно. Бросаясь из одной крайности в другую, мы в итоге получили тот необходимый опыт, который после его системного анализа позволил уже сегодня сделать практический шаг в сторону перехода к существенно более совершенной технологи – технологии, в которой должны органично объединиться все три основные технологии обеспечения процессов поддержки принятия решения: модельные исследования, экспертные оценки и искусственный интеллект. Таким образом мы приходим к некой новой концепции – «гибридный интеллект».

Гибридный интеллект – это парадигма построения систем поддержки принятия решений, которые представляет собой единую систему из технологии модельных исследований, искусственного интеллекта и технологии объективизации субъективных/экспертных оценок.

Целью такого объединения является создание методологии и соответствующей программно-методической платформы, которая позволит гарантированно получить позитивный системный эффект при решении задач управления сложными системами в условиях высокой неопределенности.

Высокий потенциал системного объединения обозначенных технологий связан с тем, что в единую систему объединяются три различных в своей основе, но взаимодополняющих друг друга подхода к решению задач оптимизации поведения:

- математические модели процессов и явлений – представляющие собой результат формализованной научной деятельности определенных специалистов и обладающие свойством доказуемости;

- экспертные знания в виде субъективного эмпирического опыта, накопленного в предметных областях и обладающие свойством интерпретируемости;

- нейронные сети, как опыт, обладающий свойством статистической состоятельности и являющиеся в каком-то смысле аналогом опыта, накапливаемого в «подсознании» у естественных интеллектуальных систем.

Предлагаемое решение, как уже неоднократно было в истории науки, фактически заимствовано у природы. Очевидно, что человек, как индивид и продукт цивилизации для обеспечения высокой эффективности интеллектуальной деятельности органично объединяет в себе все три подхода: и научные знания (модели) там, где он сумел их разработать, субъективные эмпирические (экспертные) знания, и условно подсознательные знания (образы объектов, ситуаций и сценариев их развития, последствий воздействий и т.п.) там, где он сумел получить соответствующий опыт.

Другими словами, при реализации парадигмы «гибридный интеллект» эффект предполагается получить за счет более полного воспроизводства функционирования единой системы из наблюдаемых в природе механизмов. Такой эффект практически невозможно было получить при попытках построении эффективных систем путем воспроизводства работы лишь отдельно взятых природных механизмов. Причем, возможность создания такой системы появилась относительно недавно, когда появились необходимые вычислительные возможности, когда определенных успехов достигли когнитивные науки, когда у экспертов появился оперативный доступ к огромным массивам информации.

Рассматривая парадигму «гибридный интеллект» с технологической точки зрения, необходимо в качестве одного из важнейших ее ключевых элементов выделить взаимообусловленное развитие широкого спектра технологий искусственного интеллекта (которые сегодня практически узурпированы технологиями нейронных сетей) и технологий объективизации субъективных экспертных оценок для того, чтобы в итоге получить новое качество от их объединения. В связи с этим исследователями сегодня особое внимание уделяется таким технологиям построения самообучающихся систем, которые обеспечили бы с одной стороны - интерпретируемый результат обучения (чего не дает технология искусственных нейросетей в чистом виде), а с другой стороны – органично комплексировались бы с результатами работы подсистем объективизации субъективных оценок.

В части, касающейся развития технологий модельных исследований, основной акцент в рамках парадигмы «гибридный интеллект» делается на создании таких технологий формирования моделей и их эксплуатации, которые обеспечили бы не повышение вероятности ошибочности модели при росте ее размерности (как это в настоящее время происходит в 99,999% случаев), а как раз наоборот – за счет применения специальных структур и архитектур моделей обеспечили бы повышение вероятности получения достоверной/качественной модели объекта исследования при повышении ее размерности.

В рамках работ по этим направлениям развиваются следующие ключевые технологии:

– Технологии построения эффективных самообучающихся систем.

– Технологии объективизации субъективных экспертных оценок.

– Технологии макромоделирования эволюции нелинейных систем на базе моделей, формируемых разнородными экспертными группами.

– Технологии решения оптимизационных задач (в том числе нелинейной оптимизации) большой размерности.

– Технологии моделирования эволюции крупномасштабных нелинейных систем.

– Технологии вычленения, анализа и прогноза эволюции неявных систем.

– Технологии формирования непротиворечивой модели объекта исследования по слабым косвенным признакам.

5. Заключение

Системный подход к решению задач анализа, прогноза и синтеза решений в условиях высокой неопределенности, выражающийся в органичной интеграции трех технологий: модельные исследования, экспертные системы, искусственный интеллект, позволит вывести на новый технологический и методический уровень решение многих ключевых задач управления на всех его уровнях уже в обозримом будущем (3-5 лет).