Начальник управления информационной безопасности АО «Свой Банк» Алексей Ахмеев рассказал о ключевых принципах безопасного взаимодействия с искусственным интеллектом. По словам специалиста, нейросети представляют собой мощный инструмент, требующий соблюдения строгих правил информационной гигиены.
Эксперт отметил, что современные модели ИИ, несмотря на высокий уровень развития, остаются внешними ресурсами, контролируемыми третьими лицами. Вся передаваемая в нейросети информация сохраняется и обрабатывается на сторонних серверах, что создает риски утечки конфиденциальных данных. Ахмеев сообщил о случаях индексации поисковыми системами данных, ранее направленных в нейросети, а также о возможностях киберпреступников осуществлять «отравление данных» – манипуляции, заставляющие ИИ давать ложные или опасные рекомендации.
Для минимизации рисков специалист рекомендует никогда не передавать в нейросети реальные персональные или коммерческие данные. Дополнительной мерой безопасности является перекрестная проверка полученных от ИИ результатов: консультация с профильными специалистами или анализ ответов через альтернативные нейросети с запросами на оценку этичности и выявление потенциальных рисков.
Ахмеев подчеркнул, что соблюдение этих правил позволит использовать возможности искусственного интеллекта без угрозы компрометации конфиденциальной информации или получения недостоверных данных.