Минцифры хочет создать единый центр безопасности для защиты от ИИ
В России появится единый центр исследования безопасности для защиты от рисков, связанных с ИИ. Возможно, центр будет создан уже в 2024 г. Его содержание может обходиться до 30 млн руб. в год.
Центр быстрого реагирования
Минцифры ведет работу по созданию CERT (computer emergency response team — общепринятое название команд реагирования на инциденты информационной безопасности) по искусственному интеллекту (ИИ), пишут «Ведомости».
«С учетом того что вопросы безопасности ИИ в отдельных компаниях и госструктурах развиваются, создание единого центра исследований информационной безопасности (ИБ) искусственного интеллекта как единой точки исследований необходимо», — сказал замминистра.
Работа с ИИ требует «доверенности, верифицируемости и надежности, а также проверки инструментов разработки на наличие уязвимостей», считает управляющий директор «Лаборатории Касперского» в России и странах СНГ Анна Кулашова, нужно объединить усилия, быстро обмениваться информацией и рекомендациями по реагированию на инциденты: «В действующих CERT организовать тот же процесс сложно, поскольку технологии ИИ развиваются очень быстро и включают в себя большое количество участников, постоянно появляется что-то новое, и ни одна компания не может все отслеживать самостоятельно».
По ее словам, при активном взаимодействии с участниками такой центр может появиться уже в течение 2024 г.
Тема создания CERT для ИИ обсуждается в рамках готовящегося национального проекта «Экономика данных», который должен прийти на смену нацпроекту «Цифровая экономика», сказал советник генерального директора Positive Technologies Артем Сычев.
При среднерыночной стоимости специалистов госсектора и налогах, с учетом стоимости аренды, оборудования, ПО и амортизации содержание CERT может обходиться примерно в 25–30 млн руб. в месяц, оценил эксперт рынка НТИ SafeNet Игорь Бедеров.
Как работает CERT
CERT — это группа реагирования на инциденты, т. е. это могут быть организации и специалисты, имеющие подходящую квалификацию; их количество может варьироваться от нескольких до нескольких сотен человек, пояснил руководитель департамента расследований T.Hunter, эксперт рынка НТИ SafeNet Игорь Бедеров. Действующие CERT — это, по сути, аутсорсинг специалистов по ИБ, которые в случае возникновения критического инцидента подключаются и работают в интересах заказчика.
Кулашова считает логичным создание на базе регулятора центра, к взаимодействию с которым могли бы присоединиться операторы связи, организации из Альянса в сфере ИИ или специализирующиеся на этой технологии компании, а также другие регуляторы: «В части классической кибербезопасности проводится регулярная проверка алгоритмов безопасной разработки ПО. То же самое может касаться и алгоритмов использования ИИ для разработки, проверки и мониторинга».
CERT по ИИ позволит специализироваться на прогнозировании новых и упреждении существующих угроз, которые могут быть связаны с использованием ИИ в различных сферах — от медицины до финансов, добавил эксперт «Университета 2035» Ярослав Селиверстов.
Борьба с угрозами ИИ
Атаки в сфере ИИ имеют мало общего с атаками на информационную инфраструктуру, поэтому и сбор информации о них, и ее анализ организованы по-другому, подчеркнул заместитель генерального директора ГК «Гарда» Рустэм Хайретдинов.
Технологии машинного обучения имеют специфичные угрозы безопасности, согласился руководитель Центра противодействия киберугрозам Innostage SOC Cyberart Максим Акимов. В качестве примера он привел «отравление» данных, используемых для обучения алгоритмов: «Алгоритмы принимают решения на основании данных, поэтому преднамеренное искажение таких выборок может привести к непредсказуемым последствиям».
В конце декабря 2023 г. премьер Михаил Мишустин дал поручение Минцифры проработать к 19 марта 2024 г. вопрос выявления фейков, созданных с помощью ИИ. А в феврале 2024 г. на заседании правительственной комиссии обсуждался вопрос необходимости регулирования применения этой технологии.
Озабоченность растущими угрозами, исходящими от очень быстро развивающихся технологий ИИ, звучит по всему миру. Первый в международной практике закон о регулировании искусственного интеллекта одобрил в марте 2024 г. Европарламент.
Документ довольно жестко, как писал CNews, ограничивает возможности применения ИИ с целью минимизировать риски от его использования. В частности, запрещается присвоение так называемого «социального рейтинга», ограничивается применение технологий распознавания лиц. Закон предписывает также, что сгенерированные ИИ изображения, видеоролики или аудиозаписи реально существующих людей, мест или событий должны быть помечены как искусственно созданные.