17 июля генеральный директор ООО «Рубикон» Евгений Мартынов принял участие в круглом столе «Бизнес внедряет и защищается: где баланс между ИИ и ИБ?», организованном деловым медиа «Эксперт Юг».

Встреча объединила представителей бизнеса, государственных структур, научного сообщества и ИТ-компаний для обсуждения практических аспектов внедрения искусственного интеллекта.
Искусственный интеллект становится одним из ключевых инструментов цифровой трансформации бизнеса. Национальная стратегия развития искусственного интеллекта до 2030 года, утвержденная Указом Президента РФ № 490 от 10.10.2019, определяет развитие ИИ как приоритетное направление повышения производительности труда и конкурентоспособности экономики. При этом ГОСТ Р 71476-2024 «Искусственный интеллект. Концепции и терминология» закрепляет единый понятийный аппарат и рассматривает системы искусственного интеллекта как комплексы алгоритмов и моделей, обучающихся на массивах данных для решения прикладных задач.

Сегодня перед организациями стоит задача не просто внедрить технологии искусственного интеллекта, а обеспечить баланс между их возможностями и требованиями информационной безопасности.

Где искусственный интеллект приносит наибольшую пользу

Наиболее эффективно искусственный интеллект применяется в процессах, связанных с обработкой больших объемов данных и выполнением повторяющихся операций.

Одно из ключевых преимуществ — автоматизация рутинных задач. Передавая стандартные операции алгоритмам, компании позволяют сотрудникам сосредоточиться на решении более сложных и приоритетных задач. По данным аналитических агентств, автоматизация рутинных процессов с использованием ИИ позволяет сократить внутренние операционные издержки на 15-25 %.

Не менее важным направлением является аналитика. Современные алгоритмы способны быстро обрабатывать большие массивы информации, выявлять скрытые закономерности, прогнозировать спрос, оценивать финансовые и операционные риски, оптимизировать логистические процессы и управление запасами.

Активно развивается использование ИИ в клиентском сервисе. Интеллектуальные чат-боты, автоматический анализ резюме кандидатов, распознавание и классификация первичной бухгалтерской документации позволяют значительно ускорить выполнение типовых операций.

Наиболее активно технологии внедряются в финансовом секторе, промышленности, ритейле, телекоммуникациях и здравоохранении. Однако практика показывает, что даже самые совершенные алгоритмы должны оставаться инструментом поддержки принятия решений. Известный кейс компании Xsolla продемонстрировал, что автоматические кадровые решения без участия человека могут привести к судебным спорам и серьезным репутационным последствиям. Финальное решение всегда должно оставаться за человеком.

Ограничения и риски использования ИИ

Наряду с преимуществами искусственный интеллект создает новые вызовы для бизнеса.

Современные модели часто работают по принципу «черного ящика»: пользователь получает результат, но не всегда может объяснить, каким образом система пришла к тому или иному выводу. Это затрудняет проверку корректности принимаемых решений.

Кроме того, эффективность модели напрямую зависит от качества данных, на которых она обучалась. При изменении рыночной ситуации или использовании неполных и неактуальных данных точность прогнозов может существенно снижаться. При этом создание модели — лишь первый этап. Для поддержания ее эффективности необходимы регулярное обновление, вычислительные ресурсы и постоянный контроль со стороны профильных специалистов.

Отдельную угрозу представляют специализированные атаки на системы машинного обучения. Среди них — атаки типа data poisoning («отравление данных»), при которых злоумышленники незаметно изменяют обучающую выборку, а также состязательные атаки (adversarial attacks), направленные на преднамеренное введение модели в заблуждение с помощью специально сформированных входных данных. Классические средства защиты далеко не всегда способны эффективно противодействовать подобным угрозам.

Использование публичных ИИ-сервисов и риск утечки данных

Одним из наиболее серьезных вызовов становится использование сотрудниками внешних облачных сервисов искусственного интеллекта.

На практике сотрудник может загрузить в публичный чат-бот финансовый отчет, проект договора или клиентскую базу для анализа или проверки документа. В этот момент конфиденциальная информация покидает защищенный контур организации. По статистике, до 30 % сотрудников используют публичные нейросети в рабочих целях, зачастую не оценивая возможные последствия.

Основные риски связаны с тем, что многие внешние сервисы используют пользовательские запросы для дальнейшего обучения моделей. Передача персональных данных способна привести к нарушению требований Федерального закона № 152-ФЗ «О персональных данных», а зависимость от внешнего провайдера создает дополнительные риски, связанные с изменением политики доступа, техническими сбоями или прекращением работы сервиса.

Для предотвращения подобных инцидентов организации все активнее внедряют DLP-системы. По данным аналитиков, более 70 % утечек информации происходят по вине внутренних пользователей — вследствие ошибок или умышленных действий. Современные DLP-решения позволяют анализировать информацию еще на этапе ввода и автоматически блокировать передачу конфиденциальных документов, персональных данных и коммерческой информации в публичные нейросети и сторонние сервисы.

Оптимальной практикой считается разделение информационных потоков. Для решения задач, связанных с обработкой открытых данных, допустимо использовать публичные сервисы. Если же работа ведется с персональными данными, коммерческой тайной или внутренними документами организации, предпочтительным решением становится развертывание собственной изолированной системы искусственного интеллекта внутри корпоративной инфраструктуры. Это позволяет полностью контролировать обработку информации и исключить ее передачу третьим лицам.

Новые возможности для злоумышленников

Технологии искусственного интеллекта активно используются не только бизнесом, но и злоумышленниками. Современные алгоритмы позволяют значительно быстрее анализировать программный код, искать потенциальные уязвимости, прогнозировать наиболее вероятные точки компрометации ИТ-инфраструктуры, а также создавать базовые сценарии проведения кибератак и обхода защитных механизмов. Это существенно сокращает время подготовки атак и повышает их эффективность.

В ответ на новые угрозы производители средств защиты информации интегрируют технологии машинного обучения в собственные решения. Такие технологии позволяют выявлять аномалии в сетевом трафике, фиксировать нетипичное поведение пользователей, обнаруживать признаки работы вредоносного программного обеспечения и анализировать потенциальные уязвимости еще до ввода информационной системы в промышленную эксплуатацию.

Это отражает переход отрасли от статической модели защиты к концепции непрерывного обеспечения информационной безопасности, при которой мониторинг и анализ угроз ведутся постоянно.

Организационные меры как обязательное условие внедрения ИИ

Эффективное использование искусственного интеллекта невозможно без организационной подготовки.

Методический документ ФСТЭК России от 12.04.2026 устанавливает требования по обеспечению защиты информации при использовании систем искусственного интеллекта.

До начала реализации ИИ-проекта необходимо провести оценку угроз безопасности информации, определить требования к данным и мерам их защиты, разработать корпоративную политику применения ИИ, назначить ответственных лиц и распределить роли участников проекта. Если система обрабатывает персональные данные или иную информацию ограниченного доступа, необходимо обеспечить безопасную разработку программного обеспечения и провести его сертификацию в предусмотренных случаях.

Даже при ограниченном бюджете организация может существенно снизить риски за счет соблюдения базовых принципов кибергигиены: своевременного обновления программного обеспечения, резервного копирования данных, обучения сотрудников и грамотного выбора облачных сервисов. По данным аналитиков, ошибки конфигурации, слабые пароли и устаревшее программное обеспечение присутствуют в 66 % инфраструктур малого и среднего бизнеса, а около 90 % успешных атак связаны с человеческим фактором.

26 июля 2026 года президент РФ подписал закон «О поддержке развития искусственного интеллекта в Российской Федерации», который принят Госдумой еще 8 июля.  № 243-ФЗ вступает в силу с 1 сентября. 

Этот закон вносит ряд корректировок для использования ИИ и его производных продуктов:

• • Появились статусы «суверенная» и «национальная» модель ИИ. Для госсектора и банков со временем могут ввести обязательное использование именно таких моделей — вместо ChatGPT, Claude и т.п. 
  • Крупные площадки (охват 500k+ пользователей в сутки) обязаны дать возможность помечать ИИ-контент предупреждением. 
  • Сервисы, дающие доступ к ИИ, обязаны сообщать пользователю, кому принадлежат права на сгенерированный контент. 
  • акон разрешает обучать российские модели на защищённых авторским правом материалах, если они в открытом доступе без технической защиты от парсинга. 

Вывод

Искусственный интеллект уже стал важной частью современной экономики и продолжит активно внедряться в бизнес-процессы. Однако его использование требует комплексного подхода к информационной безопасности. Организациям необходимо учитывать не только преимущества новых технологий, но и связанные с ними риски, внедрять средства защиты информации, соблюдать требования законодательства и выстраивать процессы, позволяющие безопасно использовать возможности искусственного интеллекта в корпоративной среде.