Гарбук Сергей Владимирович

Рассматривается проблема оценки и подтверждения доверия к прикладным системам искусственного интеллекта (CИИ). Показано, что, несмотря на разнообразие работ в данной области, на практике отсутствует единый подход к подтверждению доверия. При этом разные исследователи делают акцент на тех или иных аспектах доверия, без попытки охватить проблему в целом. Свойство доверия сводится к эмоциональной характеристике, конструктивный смысл которой в контексте управления жизненным циклом CИИ не определен. В некоторых случаях происходит не вполне оправданное «очеловечивание» понятия доверия, в результате которого характеристики технической системы полностью замещаются субъективным отношением к её создателям, поставщикам или владельцам.

В работе предпринята попытка обоснования целостной модели доверия к CИИ, основанной на формализации связи между доверием и качеством системы. При этом показано, что характеристика доверия может быть использована для принятия решения эксплуатантом, регуляторами и другими заинтересованными лицами о возможности (или невозможности) применения системы по назначению в определенных условиях эксплуатации. Выявлены основные аспекты доверия, учитывающие как общие вопросы доверия к автоматизированным системам (техническая надежность, информационная безопасность и импортонезависимость), так и специфику систем ИИ на основе алгоритмов машинного обучения (функциональная корректность). Предложен подход к оцениванию характеристик CИИ по этим аспектам.

Полученные результаты могут быть использованы для развития системы оценки соответствия в области технологий ИИ, а также при выборе систем, обеспечивающих решение задач интеллектуальной обработки данных в различных отраслях экономики и социальной сферы.