Многоаспектное моделирование ситуаций в задачах обеспечения функциональной безопасности аппаратно-программных комплексов

Полный текст

Введение

Возрастание роли систем обработки данных в управлении распределёнными техническими системами выдвигает на первый план обеспечение функциональной безопасности (ФБ) аппаратно-программных комплексов (АПК). Цифровая экосреда является системообразующим фактором сетецентрического управления территориально распределёнными сложными техническими системами (СТС). Базовым требованием к их информационной инфраструктуре является предоставление своевременной полной и достоверной информации, необходимой для урегулирования ситуаций, возникающих в разных частях распределённой СТС. Потребительские свойства АПК определяется качеством управления проектами создания АПК [1], относящихся к классу субъектоцентрических систем [2].

Безопасность является латентной характеристикой АПК и объективно характеризуется удовлетворённостью потребителей поведением комплекса. В настоящей работе рассматривается подход к решению задачи, связанной с управлением проектом АПК и состоящей в выявлении конфликтных ситуаций, имеющих место в системе управления проектом.

1  Подходы к обеспечению ФБ АПК

При создании АПК обеспечение безопасного их функционирования является важнейшей задачей [3, 4]. В [1, 3] отмечается необходимость развития методологических и теоретических основ дефектологии АПК как одного из направлений исследований в области системной инженерии. В [4] выделяются классы задач, связанные с обеспечением технологической и эксплуатационной безопасности. В [5, 6] отмечается необходимость совершенствования систем управления проектами создания компонент распределённых коммуникационно-вычислительных систем. В [3, 7, 8] выделяются задачи, связанные с обеспечением конфиденциальности, целостности и доступности информации в случае, когда пользователи принимают активное участие в управлении СТС. Задачи, связанные с обеспечением ФБ АПК при решении задач управления в реальном времени, обсуждаются в [9, 10].

Под ФБ АПК понимается свойство сохранять работоспособность в соответствии с целевым назначением при случайных дестабилизирующих воздействиях и отсутствии злоумышленного влияния на программную, аппаратную составляющие и базы данных [3]. Из анализа работ [11-13] можно сделать заключение о том, что ФБ определяется не выявленными (латентными) дефектами в конструкции АПК. Дефекты являются следствием ошибок, допускаемых разработчиками АПК на разных стадиях их жизненного цикла (ЖЦ). Существуют разные подходы к управлению непреднамеренно допускаемыми дефектами на разных стадиях ЖЦ, включая предпроектную стадию. Важное значение имеет природа возникновения дефектов. На начальных стадиях ЖЦ преобладают дефекты, обусловленные неопределённостью среды использования и нечёткостью целей управления. По мере перехода от начальных стадий ЖЦ к последующим акценты перемещаются в области: неверного использования руководств по разработке; технологий использования инструментальных средств; нарушения условий применимости моделей ЖЦ АПК. Используемые методы управления дефектами можно соотнести с проактивным, активным и реактивным подходами к управлению СТС.

К настоящему времени развитие получили методы, соотносимые с активным и реактивным подходами, т.е. ориентированные на выявление ошибок по результатам специально организованных испытаний и изучения исторических данных об опыте эксплуатации АПК с целью установления закономерностей в проявлениях симптомов дефектов, а также причин возникновения дефектов. Эту группу методов, можно объединить понятием - анализ коренных причин отказов [14]. Они являются адаптацией положений теории решения изобретательских задач [15] в область управления ФБ АПК, а именно методов, относящихся к диверсионному анализу [16]. К другому развиваемому в настоящее время направлению активного подхода к обеспечению ФБ АПК относятся методы, которые можно объединить понятием анализ распространения ошибок [17-19]. Суть этих методов состоит в раннем обнаружении проявлений дефектов и сбоев и парировании этих явлений. К методам, основу которых составляет проактивный подход к управлению СТС, следует отнести методы, ориентированные на сравнительный анализ альтернатив проектных решений по критериям ФБ (анализ видов и последствий отказов; анализ дерева отказов) [20-22].

В работах [23, 24] к числу критических факторов, негативно влияющих на успех реализации проектов создания АПК, относятся функциональные¹ и нефункциональные требования² к потребительским свойствам систем. Это обусловлено сложностью формирования консолидированного мнения различных целевых групп пользователей в условиях неопределённости среды использования и размытости целей функционирования СТС [2, 25-27]. В работах [26, 27] обосновывается необходимость развития подходов к выработке консолидированных решений на основе методов конвергентного управления и развития сетевых технологий согласования решений заинтересованных сторон.

2  Информационная сущность ситуаций

Информационная сущность ситуаций, связанных с обеспечением ФБ АПК, формируется на основе следующих понятий.

События - проявление взаимодействий процессов, протекающих как внутри исследуемого объекта, так и вне его. Событие объективно. Ситуация определяется местом субъекта внутри события, его озабоченностью событием. Степень озабоченности влияет на восприятие события субъектом, составляет основу для выделения симптомов ситуаций, формирования описания ситуации [2, 25]. Описание ситуации служит основанием получения ответа на вопросы: в чём содержание события и как наилучшим образом реагировать на событие сейчас? Режим понимания ситуаций – реактивный.

Шаблоны событий предназначены для выявления наиболее вероятных условий возникновения событий, которые неоднократно имели место ранее. Режим понимания – адаптивный, что определяет выбор способов наиболее эффективного реагирования на события. Составляющая, связанная с управлением ситуацией, т.е. стимулированием возникновения /предотвращением возникновения событий, в шаблонах отсутствует.

Систематическая структура предназначена для выявления «генераторов», «виновников» возникновения событий. При формировании систематических структур необходимо определить системообразующие факторы (в том числе гипотетические, ранее не наблюдавшиеся). Установление причин возникновения ситуаций есть производная от ментальных моделей исследователей, основу которых составляют представления о ценностях. Режим понимания – креативный, определяемый ментальными моделями субъектов - конструкторов систематических структур. Выявление условий возникновения ситуаций создаёт базу для влияния на них, т.е. выбора «точек приложения рычага» [28] изменения ситуаций в нужную сторону.

Расширенное видение - понимание того, что хочется получить в результате урегулирования ситуации, какие альтернативы систематических структур позволят достичь желаемого. Новые знания изменяют положение дел как за счёт инженерных решений, так и за счёт изменения ментальных моделей с учётом понимания сложности событий и ограниченности ресурсов для урегулирования ситуаций. Это соответствует генеративному режиму понимания событий.

Информационная сущность делает возможным построение разных знаковых моделей характеристик ФБ, которые создают основу для выработки обоснованных решений по урегулированию ситуаций. Одной из разновидностей структурных моделей ситуаций являются так называемые «системные архетипы» (СА) [29].

СА составляют основу решения двух классов задач: диагностических и прогностических. Основой решения диагностических задач является выбор из доступного множества СА того, который соответствует наблюдаемым симптомам ситуации. Это позволяет на качественном уровне определить основные причины сложившейся ситуации и подходы к её урегулированию. Рекомендации по урегулированию ситуаций, соответствующих разным СА, приведены в [29]. Одной из разновидностей прогностических задач является выявление по результатам анализа динамических характеристик поведения СТС конфликтных ситуаций в системе управления. Результатом решения задачи является параметрическая настройка существующей структуры системы управления либо внесение изменения в структуру. Получаемые оценки зависят от динамических характеристик поведения, учитываемых при выявлении ситуаций. Полученные результаты создают основу планирования системы мер по целенаправленному изменению структуры и параметров системы управления («выбора точки приложения рычага» [30]).

3  Концептуальная основа многоаспектного моделирования

Концептуальную основу моделирования СТС составляют следующие положения.

• АПК есть разновидность СТС. Это даёт основание научной адаптации моделей ситуаций, возникающих при управлении СТС иной природы, в область управления ФБ АПК.
• Признаком наличия ситуаций являются симптомы событий, которые характеризуют отклонение поведения системы от ожидаемого. Различные субъекты (аналитики, постановщики задач, проектировщики, испытатели, системные администраторы, пользователи и потребители информационных продуктов и услуг), вовлечённые в урегулирование ситуаций, в силу различия их ментальных моделей по-разному воспринимают одно и то же событие и по-разному выделяют ситуации. Последнее обстоятельство служит причиной одновременного использования разных моделей ситуаций для характеристики одного и того же события.
• Соответствие свойств системы запросам потребителей определяется качеством управления на всех стадиях ЖЦ АПК: от обследования информационных потребностей, желаний и представлений о ценностях потребителей, до эксплуатации и модернизации АПК. Свойства АПК определяются их устройством и проявляются как внешнее поведение. Ошибки в организации управления проектом представляют наибольшую опасность для результатов проекта.
• Особенностью СТС является наличие множества взаимодействующих контуров причинно-следственных связей параметров, определяющих поведение системы, а также задержек времени между оказываемыми на систему воздействиями и последствиями от их проявления. Особенности взаимодействия контуров изменяются во времени.

Известные рекомендации по урегулированию ситуаций на основе выделения СА носят качественный характер [29]. Недостаточное развитие получили структурные и математические модели, посредством которых можно обеспечить информационную поддержку выбора обоснованного подхода к урегулированию ситуаций. В настоящей статье методическую основу исследований составляет системное сочетание динамических моделей параметров, характеризующих ФБ, и структурных моделей, соответствующих конфликтным ситуациям, возникающим при обеспечении требуемого уровня ФБ.

4  Этапы построения моделей ситуаций

Основными этапами построения системы структурных и динамических моделей ситуаций в рамках архитектурного подхода, содержание которого представлено в стандарте IEEE 1471³, являются следующие.

• Определение подхода к исследованиям. Множественность точек зрения на события, влияющих на поведение показателей ФБ АПК, является проявлением свойства полиморфизма моделей. Точка зрения на событие предопределяет выбор существенных факторов, т.е. подходы к построению моделей и границы их применимости.
• Временной горизонт. Наличие адекватных структурных моделей ситуаций и динамических моделей изменения поведения ситуации во времени делает возможным оценить временные горизонты, в которых целесообразно обсуждать подходы к урегулированию ситуации.
• Определение границ описания ситуации. Этап предопределяет выделение минимально достаточного множества характеристических параметров ситуации.
• Определение уровня детальности описания ситуации (уровня абстракции): определяется уровнем понимания содержания ситуации, также временным горизонтом, в пределах которого предполагается урегулирование ситуации. Целью построения системы моделей является обобщение частных динамических характеристик к виду СА.
• Значимые задержки. Построение на основе анализа частных динамических характеристик СА создаёт основу для выделения значимых задержек в системе обеспечения ФБ. Задержки являются причиной нарастающего дисбаланса между свойствами разных частей системы. Своевременно выявленные временные задержки могут сыграть роль предохранительного клапана, препятствующего преобразованию дисбаланса в негативные последствия. Недостаточный учёт роли временных задержек может явиться причиной взрывного изменения свойств системы.
• Примеры многоаспектного анализа ситуаций

В качестве событий в примерах многоаспектного анализа ситуации, связанных с обеспечением ФБ программной компоненты АПК, выступают проявления латентных дефектов, негативно влияющих на возможность получения ценных для потребителя информационных продуктов и услуг.

Пример 1. Влияние устранения латентных дефектов на показатели ФБ.

Описание задачи. Показателем ФБ является вероятность успешного завершения/отказа программы в серии прогонов. Считается, что при реализации серии сведения о проявлениях дефектов, их местоположении и характере лишь собираются. После завершения серии прогонов выполняется анализ коренных причин отказов, и в ПС вносятся изменения, улучшающие её свойства.

Требуется: построить совокупность моделей, способствующих повышению обоснованности принятия решения относительно объёмов ресурсов, необходимых для обеспечения требуемого уровня показателя ФБ.

Описанной задаче можно сопоставить структурную модель, представленную на рисунке 1.

 

Рисунок 1 - Структурная модель точки зрения на ситуацию

Figure 1 -    Structural model of the point of view on the situation

 

Здесь:

S₁ – этап подготовки исходных данных, соответствующих запросам пользователей;

S₂ – этап оформления информационных продуктов и сервисов и передачи их потребителям;

S₃ – состояние системы, при котором с вероятностью Р дефекты проявляются;

S₄ – состояние системы, при котором дефекты не проявляются с вероятностью Q =1-Р;

t_пд – время подготовки данных, соответствующих запросам потребителей;

t_лд – время устранения проявившихся дефектов и последующей обработки данных;

t_бд – время обработки данных в случае, когда латентные дефекты не проявляются;

µ – интенсивность запросов пользователей.

Имитационный эксперимент выполнен по следующему укрупнённому алгоритму.

Шаг 1. Задаётся ограничение на время обработки запроса пользователей Т_гр. Если время обработки запроса превышает это значение, считается, что произошел отказ ПС [31].

Шаг 2. Посредством датчиков случайных чисел генерируются значения времени подготовки данных t_пд⁽ⁱ⁾; время устранения проявившихся дефектов и последующей обработки данных t_лд⁽ⁱ⁾, время обработки данных в случае, когда латентные дефекты не проявляются t_бд⁽ⁱ⁾. Время между поступлениями заданий (на вход блока S₁) генерировалось посредством датчика случайных чисел на основании µ. В качестве распределения случайных величин принимался показательный закон. Его выбор обоснован тем, что он является характеристикой простейшего потока событий [32]. При этом параметры закона принимались обратными математическим ожиданиям M[t_пд],M[t_лд] и M[t_бд]. В ходе проведения исследований принималось, что M[t_пд]< M[t_лд]. Чтобы обеспечить устойчивость статистических оценок, число реализаций в серии принималось равным 1000.

Шаг 3. Выбор пути обработки данных (по ветке Р либо ветке Q) для каждой заявки, поступающей на вход блока S₁, осуществлялся случайным образом. Путь, на котором дефект проявлялся, выбирался с вероятностью Р, а путь, на котором дефект не проявлялся, - с вероятностью Q. Для каждой i-й заявки генерировались t_пд⁽ⁱ⁾ (когда выбиралась ветка Q), либо t_лд⁽ⁱ⁾ (когда выбиралась ветка Р). Общее время обработки заявки Т_общ⁽ⁱ⁾ определялось как сумма времён подготовки и обработки данных. При этом в качестве времени обработки данных выбиралось t_лд⁽ⁱ⁾ (когда выбиралась ветка Р), либо t_пд⁽ⁱ⁾ (когда выбиралась ветка Q). Если соблюдалось условие Т_общ⁽ⁱ⁾< Т_гр, считалось, что заявка обслужена успешно. В противном случае считалось, что произошел отказ ПС.

Шаг 4. На основе массива данных о результатах испытаний серии оценивалась вероятность отказа /безотказной работы ПС.

Шаг 5. Выполнялась оценка влияния усилий на выявление и устранение латентных дефектов на показатели ФБ. Для этого вносились изменения в значения вероятности проявления латентных дефектов при прогоне ПС по правилу: Р_l=Р_l-k/l. Здесь l- номер серии испытаний; k - задержка времени (выражаемая количеством серий) между внесением улучшений и проявлением последствий этого.

На рисунке 2 представлены динамические характеристики интегрального показателя ФБ - вероятности отказа P_отк АПК при разных значениях временной задержки k.

 

Рисунок 2 - Динамические характеристики интегрального показателя ФБ

Figure 2 -    Dynamic characteristics of the integral indicator of functional safety

 

Полученные зависимости создают основу планирования ресурсов (затрат времени на уменьшение вероятности проявления латентных дефектов) для обеспечения требуемых значений показателя ФБ. Выделенной ситуации ставится в соответствие СА «Уравновешивание с задержкой» (рисунок 3):

Контурная модель, представленная на рисунке 3, представляет собой стабилизирующий цикл. Характеристикой состояния ПС является вероятность безотказной работы/отказа.

 

Рисунок 3 - СА «Уравновешивание с задержкой»

Figure 3 -    The system archetype of "Balancing with delay"

 

На рисунке 4 представлен демонстрационный пример изменения вероятности отказа ПС в случае, когда усилия, направленные на уменьшение вероятности проявления латентных дефектов, не предпринимаются.

 

Рисунок 4 - Демонстрационный пример изменения вероятности отказа АПК при отсутствии подхода к уменьшению вероятности проявления латентных дефектов

Figure 4 -    The probability of failure of hardware and software complexes in the absence of a systematic approach to reducing the probability of latent defects

 

Пример 2. Эффективность использования ресурсов на устранение дефектов.

Описание задачи. Обеспечение ФБ реализуется на основе реактивного и проактивного подходов. В реактивном подходе осуществляется выявление и устранение проявившихся дефектов; проактивного – создание барьеров, препятствующих возникновению дефектов. При планировании проектов следует принимать обоснованные решения по выделению ресурсов на реализацию разных видов деятельности, как в рамках реактивного, так и проактивного подходов. Одним из критериев принятия решений является анализ динамики эффективности устранения дефектов.

Объективными косвенными показателями ФБ являются латентные дефекты [33]. Объективным показателем изменения ФБ является динамика количества выявленных дефектов в результате целенаправленной деятельности по выявлению и устранению латентных дефектов [1]. В силу свойства уникальности проектов [34] и субъектоцентрического характера программных проектов, модели динамики количества выявленных дефектов целесообразно строить в классе эмпирических моделей [35]. Модели, позволяющие оценить количество невыявленных дефектов, описаны, например, в [33].

Постановка задачи. Дано: динамика относительного показателя D(t), характеризующего выявленные дефекты (например, в виде количества дефектов на 1000 строк кода); динамика затрат ресурсов на выявление дефектов S(t); критерий эффективности устранения дефектов вида E(t)=D(t)/S(t); нижняя граница критерия эффективности E*, меньше которой дальнейшие затраты ресурсов на устранение дефектов становятся нецелесообразными.

Требуется: построить зависимость E(t) и определить границу ресурсов (времени) t*, соответствующую E*.

Допущения: постулируется, что зависимость D(t) имеет вид:

D(t) = K*exp(-Λ*t),                                                             (1)

где K - исходное значение относительного показателя засоренности дефектами. Возможные подходы к оцениванию K описаны, например, в [33].

Зависимость затрат на устранение дефектов имеет вид:

S(t) = exp(µ*t)-1                                                         (2)

Пример решения задачи выполнен при значении Λ и µ равных единице; K=0.4. На рисунке 5 представлены зависимости D(t) и S(t).

 

Рисунок 5 - Динамические модели D(t) и S(t)

Figure 5 -    Dynamic models D(t) and S(t)

 

Временные отметки τ_i (i=1, 2, 3,…) соответствуют значениям D(t) = D(0)/(2)⁽ⁱ⁾, т.е. это отметки времени, в которых количество дефектов по сравнению с предыдущей отметкой уменьшилось вдвое.

В таблице 1 приведены значения D(t), S(t), E(t), соответствующие разным отметкам времени τ_i. На рисунке 6 приведена графическая модель, характеризующая поведение E(t) и построенная на основе данных, представленных в таблице 1.

 

Таблица 1 – Значения D(τ_i), S(τ_i), E(τ_i) соответствующие разным отметкам времени τ_i.

Table 1 - The values of D(τi), S(τi), E(τi) corresponding to different timestamps of τi.

i	τi	D(τi)	S(τi)	E(τi)
1	1,1	0,20	0,07	3,43
2	2,2	0,10	0,14	0,87
3	3,0	0,05	2,00	0,28
4	4,0	0,02	2,26	0,10

 

Рисунок 6 - Характеристика эффективности устранения дефектов

Figure 6 -    Defect elimination efficiency characteristic

 

Зависимость E(t) построена при условии, что Е(0)=0, так как если усилий по устранению дефектов не прилагается, эффект отсутствует.

На основе зависимости E(t) (рисунок 6) при заданном E* можно оценить границы периода (ресурс времени) $T\in \left[0;t^{\ast }\right)$, в течение которого имеет смысл совершенствовать ФБ за счёт выявления и устранения дефектов.

 

Рисунок 7 - Структурная модель, соответствующая СА «Пределы роста»

Figure 7 -    Structural model corresponding to the Limits of Growth archetype

 

Выделенному видению задач обеспечения ФБ АПК можно поставить в соответствие СА «Пределы роста» (рисунок 7).

С течение времени действия по устранению дефектов приводят к уменьшению их количества (усиливающий контур ФБ). Вместе с тем, с течением времени стоимость устранения дефектов возрастает. Это препятствует выделению ресурсов на другие виды деятельности, связанные с обеспечением ФБ, например, за счёт создания и совершенствования барьеров, препятствующих возникновению дефектов на разных стадиях ЖЦ АПК.

Пример 3. Анализ сбалансированности параметров проекта

Описание задачи. Уровень потребительских свойств программных продуктов, включая ФБ, определяется подходами к решению комплекса задач, связанных с реализаций программных проектов [36]. Основа успешности программного проекта – сбалансированность требований к потребительским свойствам предполагаемого продукта и объёмов ресурсов, выделяемых на реализацию проекта [31]. В [37] показано, что результатом несбалансированности ресурсов в первую очередь является недостаточная глубина испытаний.

Постановка задачи. Дано: динамика относительного показателя D(t), характеризующего выявленные дефекты (например, в виде количества дефектов на 1000 строк кода); динамика затрат ресурсов на выявление дефектов S(t); ограничение на бюджет проекта S*; ограничение на допустимое число латентных дефектов D*.

Требуется: оценить сбалансированность показателей S* и D*.

 

Рисунок 8 - Несбалансированность параметров проекта по показателю количества дефектов

Figure 8 -    Imbalance of project parameters in terms of the defects amount

 

Основу решения задачи составляют зависимости D(t), S(t) (рисунок 8).

В примере постулированы зависимости D(t), S(t), описанные в примере 2. Заданному значению S* соответствует t*, представленное на рисунке 8. Этому значению t* соответствует показатель D(t*), указанный на оси ординат.

Различие ω=| D*- D(t*)| есть характеристика несбалансированности параметров проекта по показателю количества латентных дефектов.

Аналогичным образом можно оценить величину S(t*), нужную для обеспечения требуемого значения D* (рисунок 9).

 

Рисунок 9 - Несбалансированность проекта по показателю бюджета

Figure 9 -    Imbalance of the project in terms of budget

 

Следствие несбалансированности нефункциональных требований и объёма выделяемых ресурсов является превышение ограничений на бюджет и время реализации проекта либо несоответствие фактических значений потребительских характеристик программных продуктов желаемым (см. также [24]).

Величина γ=|S*- S(t*)| есть характеристика несбалансированности по показателю бюджета (рисунок 9). Интегральной характеристикой несбалансированности может служить индекс I=∑α_lI_l , где α _l – весовые коэффициенты, характеризующие значимость l-го показателя ФБ. В качестве индивидуальных индексов приняты I₁= ω/ D*; I₂= γ/ S*.

Описанной задаче может быть поставлен в соответствие СА «Эрозия целей» (рисунок 10). В рамках этого СА несбалансированность желаемых и фактических свойств устраняется за счёт снижения требований к свойствам продукта либо за счёт увеличения объёмов ресурсов.

 

Рисунок 10 – Структурная модель, соответствующая СА «Эрозия целей»

Figure 10 - Structural model corresponding to the Eroding goals system archetype

 

Заключение

В статье обоснована возможность использования СА как методической основы построения моделей ситуаций, возникающих при решении задач обеспечения ФБ АПК в условиях ограничений на ресурсы.

Дано определение информационной сущности ситуаций, позволяющее создать основу для принятия решений о целесообразности внесения изменений в структуру системы управления СТС.

Предложены концептуальные основы многоаспектного моделирования ситуаций, возникающих при обеспечении ФБ АПК, сочетающие динамические модели параметров, характеризующих ФБ, и структурные модели ситуаций.

Выделены базовые этапы построения системы структурных и динамических моделей ситуаций, возникающих при обеспечении ФБ АПК на разных стадиях их жизненного цикла.

 

¹ Функциональные требования описывают сервисы, предоставляемые АПК или программной системой, её поведение в определённых ситуациях, реакцию на входные данные и действия, которые система позволит выполнить пользователям.

² Нефункциональные требования фиксируют условия, которые непосредственно не связаны с поведением или функциональностью решения, а скорее описывают условия окружающей среды, при которых решение должно оставаться эффективным, или качества, которыми система должны обладать. Они также известны как атрибуты (показатели) качества или дополнительные требования. Они могут включать требования, связанные с пропускной способностью, надёжностью, масштабируемостью, скоростью, безопасностью, доступностью, информационной архитектурой и др.

³ Стандарт IEEE 1471-2000 - рекомендуемая практика описания архитектуры систем, интенсивно использующих программное обеспечение (Recommended Practice for Architectural Description of Software — Intensive Systems). https://standards.ieee.org/ieee/1471/2187/.

Об авторах

Владимир Ефимович Гвоздев

Уфимский университет науки и технологий

Email: wega55@mail.ru
ORCID iD: 0000-0002-1481-0982
Scopus Author ID: 7101700484

д.т.н. , профессор кафедры технической кибернетики 

Россия, Уфа

Оксана Яковлевна Бежаева

Уфимский университет науки и технологий

Автор, ответственный за переписку.
Email: obezhaeva@gmail.com
ORCID iD: 0000-0002-3373-7266
Scopus Author ID: 57216845244

к.т.н. , заведующая кафедрой технической кибернетики 

Россия, Уфа

Гульнур Радиковна Сафина

Уфимский университет науки и технологий

Email: lafleur300997@gmail.com
Россия, Уфа

Список литературы

Дополнительные файлы