Управление развития технологий искусственного интеллекта

Что означает искусственный интеллект в военном деле

Слово это стало модным и потому размытым. В военном применении за ним стоят вещи вполне определённые, и не все они про оружие.

Первое и самое распространённое — обработка данных. Разведка собирает огромные объёмы сведений: снимки, записи переговоров, показания приборов. Человек не успевает их просматривать, и программы помогают отбирать важное: находят на снимке технику, замечают изменения, сравнивают с прежними наблюдениями.

Второе — поддержка принятия решений. Система не решает за командира, а показывает обстановку, считает варианты, напоминает о том, что упущено. Работа примерно та же, что у штабного офицера с калькулятором, только быстрее.

Третье — навигация и управление аппаратами. Беспилотник, способный держать курс при потере сигнала или обходить препятствия, использует как раз такие решения. Об этом говорил и начальник управления инновационного развития: по его словам, в навигации подобные системы показывают себя хорошо.

Четвёртое — обслуживание техники: определение износа по показаниям датчиков, предсказание отказов, проверка качества на производстве.

Пятое — обучение: тренажёры, разбор учений, модели боевых действий.

Общее у всех этих применений одно: машина берёт на себя работу, которую человек делает медленно или не делает вовсе из-за объёма. Просмотреть тысячу снимков, сравнить показания сотни датчиков, следить за обстановкой без перерыва — задачи не для человеческого внимания.

Главная ценность таких систем в военном деле: время. Решение, принятое на минуту раньше, нередко определяет исход.

Чем занимается управление

Задачи перечислены в официальных описаниях и сводятся к нескольким направлениям.

Разработка и внедрение систем искусственного интеллекта для военных нужд, включая робототехнические комплексы. Создание систем поддержки принятия решений. Моделирование боевых действий и анализ разведывательных данных. Координация научных и конструкторских работ в этой области. Внедрение таких решений в системы навигации, связи, разведки и управления.

Две задачи в этом перечне заслуживают отдельного разбора.

Первая — обеспечение этических и правовых норм применения таких технологий в военной сфере, причём с прямой оговоркой: окончательное решение о применении оружия остаётся за человеком.

Вторая — работа с учебными заведениями для подготовки специалистов. Людей, разбирающихся и в этих технологиях, и в военном деле, немного, и готовить их приходится отдельно.

Управление создано в 2022 году и работает в связке с главным управлением инновационного развития и научными организациями ведомства. Возглавляет его полковник Василий Васильевич Елистратов.

Работа идёт и с промышленностью: требования к таким системам приходится формулировать заново, потому что прежние правила разработки техники под них не рассчитаны.

Люди

Главная нехватка в этой области не техническая, а кадровая. Нужен человек, который понимает и устройство таких систем, и военное дело: специалист по программам не знает, что нужно войскам, а офицер не знает, чего можно ждать от техники.

Готовят таких людей в военных вузах по новым программам и вместе с гражданскими учебными заведениями. Есть и обратный путь: научные роты, где служат выпускники технических вузов, занимаясь работой по специальности.

Реестр технологий

Одно из направлений работы, о котором начальник управления рассказывал публично, — создание реестра технологий искусственного интеллекта.

Смысл в упорядочивании. Разработок много, они разного качества и разной готовности, и заказчику нужно понимать, что уже существует и работает. Технологии, прошедшие проверку, включаются в реестр и рекомендуются для работ по государственному оборонному заказу.

По словам Елистратова, такой реестр позволяет формировать облик новых образцов вооружения: зная, какие решения доступны, можно закладывать их в проект с самого начала, а не приделывать потом.

Он же отмечал, что несмотря на непростое положение промышленности удалось заставить продукты с элементами таких технологий работать в настоящих условиях, а не только в лаборатории. Оговорка не случайна: разница между работающим на стенде и работающим в поле велика.

Опыт последних лет используется для доработки: то, что выяснилось в применении, идёт в требования к новым образцам.

Где это уже применяется в мирной части

Не всё военное применение таких технологий связано с оружием, и о невоенной части говорят открыто.

Обслуживание техники: по показаниям датчиков определяется износ узлов и предсказываются отказы, а ремонт назначается до поломки, а не после.

Контроль качества на производстве: проверка сварных швов, заготовок и сборочных единиц по снимкам, где программа замечает дефекты надёжнее уставшего глаза.

Медицина: обработка снимков и анализов, помощь в постановке диагноза в госпиталях.

Обучение: тренажёры, подстраивающиеся под ученика, и разбор учений по записям.

Делопроизводство: обработка документов, поиск по архивам, подготовка справок. Работа скучная, зато отнимающая у людей много времени.

Главный вопрос: кто принимает решение

Вокруг применения таких технологий в военном деле идёт спор, который касается не техники, а человека. Вопрос простой по формулировке: может ли машина самостоятельно решать, применять оружие или нет.

Позиция российского ведомства сформулирована прямо. На форуме 2024 года начальник управления заявил, что ответственность за применение оружия несёт человек и решение на применение оружия также является функцией человека. Там же он отметил, что оружие становится умнее и это упрощает работу оператора, который им управляет.

Формулировка про оператора здесь важна. Она означает, что человек остаётся в цепочке: техника помогает ему целиться, находить, наводить, но команду даёт он.

При этом тот же руководитель говорил, что уровень технологий уже позволяет переходить к автономному использованию робототехнических комплексов. Противоречия здесь нет: автономность в передвижении, разведке и обслуживании не то же самое, что автономность в применении оружия.

Различие это и составляет суть международной дискуссии.

Почему это трудный вопрос

Сложность не в технике, а в ответственности. Когда решение принимает человек, понятно, кто отвечает за ошибку. Когда решение принимает программа, ответственность распределяется между теми, кто её написал, кто обучил, кто применил и кто разрешил применять.

Вторая сложность в том, что граница подвижна. Система, которая находит цель и предлагает её оператору, формально оставляет решение человеку. Но если оператор видит сотню предложений в минуту и нажимает подтверждение не думая, решение фактически принимает машина.

Третья сложность в проверяемости. Со стороны нельзя увидеть, как устроена чужая система и кто в ней принимает решение. Это и мешает договориться о запретах: соблюдение их не проверить.

Военные разных стран сходятся в одном: право войны требует, чтобы за каждым применением силы стоял ответственный человек. Как обеспечить это при растущей скорости событий — вопрос, на который ответа пока нет.

Точной даты образования управления в открытых источниках нет, поэтому в календаре материал не привязан к конкретному дню.

• 2021 — начинается работа по формированию систем такого рода в ведомстве
• 2022 — создано Управление развития технологий искусственного интеллекта
• 2024 — на форуме заявлено о возможности перехода к автономной работе робототехнических комплексов
• 2024 — формируется реестр технологий для оборонного заказа

Тема автономных систем вооружений обсуждается на международном уровне больше десяти лет, в том числе в рамках конвенции об обычных вооружениях. Единого договора до сих пор нет, и позиции расходятся.

Часть стран и общественных организаций добивается прямого запрета систем, способных выбирать и поражать цель без участия человека. Их довод: решение о жизни человека не может принимать программа, а ответственность за ошибку окажется размытой между разработчиком, командиром и производителем.

Другая часть считает запрет преждевременным и предпочитает договариваться о правилах применения, а не о запрете самих технологий. Довод здесь в проверяемости: запретить то, что нельзя увидеть со стороны, значит принять документ, который никто не соблюдает.

Есть и практический довод, который приводят военные разных стран: ответственность за применение оружия и так лежит на людях по действующему праву, и появление новой техники этого не меняет.

Общее у всех подходов одно: понятие «человек в контуре управления». Спор идёт о том, насколько близко к спуску должен находиться этот человек.

Мы приводим здесь позиции сторон, не занимая ничьей: тема относится к обсуждаемым в международной политике, и наше дело изложить её честно.