По данным компании «2UP», 74% сотрудников используют нейросети в своей работе. Фото: «Эксперт Юг»
Поделиться
«Любопытно, что в двух компаниях из десяти есть внутренние системы, развернутые для решения служебных задач, — добавил Алексей Росляков. — Но, как мы увидели, не все задачи ими решаются. Например, генерация текста, подготовка коммерческих предложений выполняют более умные коммерческие модели».
Поделиться
Сотрудники, загружая в интерфейс нейросети конфиденциальные документы компании, часто не задумываются о том, что их обработка происходит на внешних серверах // Фото: «Эксперт Юг»«Сегодня ИИ-технологии активнее всего применяются там, где нужна обработка больших данных и глубокая аналитика: клиентский сервис, административные процессы, продажи, маркетинг, — подчеркнула директор управления по ИИ-трансформации и техническому развитию клиентов Юго-Западного банка Сбербанка Виктория Гаркина. — Важно понимать: ИИ меняет не профессии, а отдельные трудовые функции внутри них. Более того, благодаря современным решениям любой сотрудник может выстраивать цепочки агентов, которые самостоятельно принимают решения и координируют свои действия».
Однако сотрудники, загружая в интерфейс нейросети конфиденциальные документы компании, часто не задумываются о том, что их обработка происходит на внешних серверах. Оттуда данные могут утечь куда угодно, как это недавно произошло с китайской нейросетью DeepSeek, чьи переписки пользователей оказались доступны в поисковой выдаче Google. Для бизнеса это риск как потерять чувствительную информацию, так и нарушить закон — ведь законодательство РФ запрещает хранить и обрабатывать персональные данные на зарубежных серверах.
Как бизнесу защитить свои секреты в современном мире и как возглавить то, что не можешь остановить, говорили на круглом столе «Эксперта Юг».
Стратегия закрытого сейфа
Уровень секретности у компаний может быть разный. Существуют организации, в том числе коммерческие, где информационная безопасность критически важна. Один из примеров — НПК «АС», которая разрабатывает и производит приборы безопасности для грузоподъемной техники.«Компании больше 30 лет, и вопрос безопасности основной для нашего бизнеса. Он преобладает над оптимизацией и эффективностью, — говорит генеральный директор Наталья Заметина. — Специфика нашей продукции такова, что от точности отработки зависят жизни и тех, кто работает на кранах, и тех кто находится вокруг. Плюс мы производим продукцию двойного назначения, и это добавляет ещё один уровень безопасности».
При этом у организации накопилось уже несколько сотен собственных разработок, и так как конкуренция в сегменте высока, важно защитить их от недобросовестных соперников. Компания даже не патентует многие изобретения, чтобы не передавать информацию конкурентам.
Но и отказаться от возможностей, которые открывает перед инженерами искусственный интеллект, для НПК «АС» нецелесообразно: «Мы давно используем нейросети, обучаем собственные модели, заточенные именно под наши задачи, — рассказала Наталья Заметина. — У нас интерес к локальным моделям, которые мы можем установить на свои сервера и полностью закрыть от внешней среды».
Поделиться
Сохранить контроль за информацией помогут корпоративные решения с защищённым контуром, отмечает директор управления по ИИ-трансформации и техническому развитию клиентов Юго-Западного банка Сбербанка Виктория Гаркина // Фото: «Эксперт Юг»
Такие решения существуют на рынке и предлагаются крупными ИТ-компаниями: «Для работы с персональными данными, внутренними регламентами и стратегическими расчётами я рекомендую использовать корпоративные решения с защищённым контуром. Это необходимо, чтобы сохранить контроль над тем, какая информация покидает периметр компании, — посоветовала директор управления по ИИ-трансформации и техническому развитию клиентов Юго-Западного банка Сбербанка Виктория Гаркина.
Малый, но защищенный
Многим другим организациям, особенно из сферы малого бизнеса, закрытый информационный контур не нужен. Это дорого и избыточно там, где защищать, казалось бы, нечего. Кроме того, многие руководители считают, что использование нейросетей, связанных с российским государством, для них может нести большие риски, чем работа с иностранными LLM.«Я очень сомневаюсь, что есть хоть какая-то вероятность того, что моя компания интересна, например, Илону Маску, чтобы анализировать, что же я туда забрасываю, — сделал провокационное, как он сам позже его охарактеризовал, заявление генеральный директор АО «ПластФактор» Владимир Ермолов. — И напротив, для меня есть большая опасность в том, что, передавая информацию в наши сервисы, я могу привлечь лишнее внимание некоторых структур. Не столько страшно, что спросят, сколько жалко потерянного на разъяснения времени».
«Безопасность всегда конфликтует с удобством. Всё новое в момент своего создания будет небезопасным. Если вы хотите что-то совершенно безопасное, значит, оно будет кондовое, деревянное, и катать его нужно будет на колёсиках, — привел образный пример заместитель директора по научной работе ФГАНУ НИИ «Спецвузавтоматика» Константин Гуфан. — В этой связи все сервисы, которые создаются с использованием искусственного интеллекта, в некотором смысле менее безопасны, чем системы, которые отрабатывались годами».
Эксперт также подчеркнул, что средства искусственного интеллекта используются сегодня и злоумышленниками. Если в недавнем прошлом массовые атаки были редкостью, то сейчас хакеры во всём мире активно применяют ИИ для проникновения в любые системы. Так как хакеру больше не нужна высокая квалификация, злоумышленников становится всё больше.
«Повышение уровня безопасности в этом случае похоже на строительство забора, — привел еще одну аналогию Константин Гуфан. — Мы же строим забор, в первую очередь не от профессиональных воров, а от уличных хулиганов. К сожалению, эти заборы с учётом наличия искусственного интеллекта, в том числе и у хакеров, придётся строить всё выше и выше, и каждый раз проводить аудит: а нет ли у вас дыры на заднем дворе».
«В вопросах кибербезопасности существует заблуждение, что субъекты малого и среднего бизнеса атакуют реже, — отметил директор филиала МТС в Ростовской области Игорь Марьясов. — Однако наша аналитика показывает, что современные комплексные автоматизированные атаки угрожают всем. Например, через уязвимость в системе безопасности малого предприятия вирус следующим ходом может атаковать крупного партнёра. Для малого бизнеса речь идёт не только о самозащите, но и о том, чтобы не стать угрозой для контрагентов».
Марьясов согласился с тем, что содержать собственную службу кибербезопасности и покупать дорогостоящее оборудование — затратно и не всегда эффективно. Альтернатива — подписочная модель, когда специализированные организации предоставляют компаниям многоуровневую защиту — от анализа уязвимостей и контроля доступа до обучения сотрудников безопасному поведению в интернете на рабочем месте.
Поделиться
Аналитика показывает, что современные комплексные автоматизированные атаки угрожают не только крупному, но и среднему, а также малому бизнесу, говорит директор филиала МТС в Ростовской области Игорь Марьясов // Фото: «Эксперт Юг»Как говорят эксперты, малым компаниям, не имеющим для этого производственной необходимости и ресурсов, необязательно также обучать свою защищенную LLM, чтобы не допустить утечек. Можно поставить на сервер программу, которая проксирует трафик и позволяет отслеживать запросы сотрудников, сообщил генеральный директор ООО «Вебант» Владимир Даронь. Кроме того, есть решения, позволяющие автоматически обезличивать персональные данные при передаче в сторонние нейросети, а при возвращении запроса они будут возвращены на свое место. Таким образом, юрист может отправить на проверку нейросети договор, не опасаясь утечки персональных данных.
Нужны лидеры цифровой трансформации
Для внедрения искусственного интеллекта в бизнес-процессы самое важное — обучить сотрудников его безопасному и эффективному использованию. Причем, обучение должно быть качественным, иначе может получиться как у одной из ростовских компаний.«Как только появился ИИ, я вложил более 200 тысяч в обучение сотрудников, но КПД оказался около 15%, — поделился опытом генеральный директор ООО «БВН Инжениринг» Александр Сироткин. — В частности, мы продаем продукцию на маркетплейсах. Начали готовить с помощью ИИ карточки очень красивые карточки товаров, но роста интереса к товарам не произошло. Ушли обратно на обычный «Фотошоп» — сразу увидели резкий скачок посещаемости, карточки стали небанальные. К сожалению, я думал: “Сейчас заплатим кучу денег и пребудет с нами счастье”. На самом деле так не получилось».
Генеральный директор ИТ-компании «РНД Софт» Роман Забродин основную проблему видит в нехватке лидеров цифровой трансформации с опытом в ИИ-технологиях.
«Нужно готовить большой пласт специалистов, которые могут выстроить архитектуру, оценить риски, выбрать правильные инструменты, расставить приоритеты внедрения и четко понимать, как работать с данными. Таких курсов единицы, — сказал Роман Забродин. — Следующий этап - уровень зрелости компании. Есть микробизнесы, которым городить огород из того, что сейчас предлагают на рынке, просто нет смысла. Им нужно помочь выбрать правильные инструменты для их уровня бизнеса. Когда компания вырастает до средней, тогда уже нужен отдельный человек, который занимается ИТ, отдельная архитектура, выстроенные процессы».
С появлением новых цифровых инструментов постоянно возникают и новые способы атаки, поэтому кибербезопасность должна быть многослойной: от запрета отправлять конфиденциальные данные во внешние системы до безопасности разработки, подчеркнул руководитель отдела развития платформенных решений и ИТ-школы банка «Центр-инвест» Сергей Задорожный.
Поделиться
Обучение персонала и многослойность киберзащиты — сегодня важнейшие правила IT-безопасности, говорит руководитель отдела развития платформенных решений и ИТ-школы банка «Центр-инвест» Сергей Задорожный // Фото: «Эксперт Юг»
«Важно постоянно обучать сотрудников: если в компании не внедряют ИИ централизованно, люди начинают использовать его как придется. Например, отправляют туда персональные данные, что порождает утечки. Мы целенаправленно работаем над повышением технической грамотности: проводим конференции, хакатоны, тренинги для госслужащих, — добавил он. — Например, в 2026 году специалисты банка «Центр-инвест» провели серию бесплатных интенсивов по ИИ для государственных и муниципальных служащих Ростовской области. В результате время подготовки управленческих документов сократилось с нескольких дней до считанных минут. Кроме того, совместно с ведущими вузами региона (ЮФУ, РГЭУ, ДГТУ) банк создал образовательную экосистему: от хакатонов до обучения по федеральным программам «Искусственный интеллект». В эти процессы вовлечены уже более 10 тысяч человек».
Системность и контроль
Эксперты сошлись в том, что важнее всего в безопасном внедрении ИИ-технологий системность и контроль. Прежде всего, бизнес должен опираться на выстроенные процессы внутри самого предприятия, но не закрываться от нового.«От искусственного интеллекта можно защититься только с помощью искусственного интеллекта, — считает технический директор ООО «Кибергид» Александр Кольцов. — Политика безопасности должна быть распределенной: в каких случаях можно использовать публичный ИИ, в каких — только корпоративный и в каких нельзя использовать ни один ИИ. Полезно также спроектировать систему так, чтобы при взломе она не раскрывалась, а наоборот, автоматически закрывалась, инкапсулировалась. Таким образом будет невозможно попасть извне с помощью ещё более технологичных ИИ, которые появятся в будущем».
Защищаться от умышленных или непредумышленных действий сотрудников, которые могут привести к утечкам, нужно при помощи как обучения, так и программных средств.
«Первое, что нужно соблюдать — это базовую кибергигиену. Не хранить пароли под клавиатурой, не использовать устаревшее ПО, устанавливать средства защиты информации, — перечисляет генеральный директор ООО «Рубикон» Евгений Мартынов. — Следующее — организация резервного копирования. Можно также внедрить DLP-систему, которая отслеживает аномальное поведение пользователя — куда он заходит, что скачивает — и помогает защититься от ошибочных или зловредных действий».
Поделиться
Относиться к ИИ нужно не как к волшебному помощнику, а как к новому сотруднику, которому нужны обучение, должностная инструкция и постоянный контроль, предупредил Владимир Даронь // Фото: «Эксперт Юг»Системное внедрение генеративного ИИ должно идти поэтапно: от аудита процессов и формирования требований до пилотного прототипа, сбора метрик и масштабирования, сказала Виктория Гаркина: «В Сбере мы переосмыслили архитектуру ИИ-трансформации компании и перешли к модели AI Disrupt PDLC, где ИИ-агент становится субъектом цикла реализации, а человек — субъектом цикла намерения».
Относиться к искусственному интеллекту нужно не как к волшебному помощнику, а как к новому сотруднику, которому точно так же нужно обучение, должностная инструкция и постоянный контроль, предупреждает Владимир Даронь.
А потратить лишний миллион рублей в настоящих условиях полезнее даже не на развитие бизнеса, а на холодный бэкап — такое действие позволит сохранить критически важную информацию в случае атаки.
«Все самые важные данные запишите на какой-нибудь носитель и положите в сейф, и через месяц заново запишите, положите в сейф, — советует Константин Гуфан. — Не переживайте за утечки, в этом смысле нет безопасных решений. За две вещи надо переживать: за развитие бизнеса, и здесь внедрение ИИ необходимо, и второй момент — холодные бэкапы».
В будущем, несомненно, искусственный интеллект будет использоваться все более активно, в этом сомнений нет. Уже скоро автономные ИИ-агенты одной компании будут договариваться о поставках с ИИ-агентами другой компании, говорит генеральный директор ООО «Аватар машина» Виктор Носко: «Это означает, что контроль вначале ослабнет, потому что это выгодно, дешево и удобно. Но на самом деле, эту систему надо будет контролировать очень строго».
