Риски применения в бизнесе искусственного интеллекта (ИИ) очень существенные. Но говорить о таких угрозах начали только в 2026 году, и пока решений по их снятию или ограничению «практически нет». Об этом президент группы компаний InfoWatch Наталья Касперская заявила на конференции ЦИПР-2026 в Нижнем Новгороде.
В рамках конференции ЦИПР состоялась панельная дискуссия «ИИ без иллюзий. Технологии для реального сектора», на которой выступила Наталья Касперская. По её словам, необходимо четко осознавать не только преимущества, которые дает применение решений и сервисов на основе ИИ, но и риски.
«Они существенные. И самое страшное, эти угрозы пока не проработаны. Про риски искусственного интеллекта и про то, как их предотвращать, говорить начали только в этом году, хотя про генеративные модели мы слышим с 2023 года. Они уже три года на слуху, а риски начали обсуждать сейчас, и решений против них практически нет. Это та дверь, которую нам ещё предстоит открыть», - пояснила глава InfoWatch.
По мнению Натальи Касперской, в настоящее время технологии искусственного интеллекта - «на хайпе».
«Я считаю, что принимать решения, когда что-то на хайпе, неправильно… Большинство генеративных моделей искусственного интеллекта и большинство нейросетей, которые существуют в нашей стране, иностранного производства. В России существует одна, а с натяжкой - полторы собственных моделей ИИ, и всё. Больше, в общем, выбирать не из чего. И для промышленных применений, в основном, используются иностранные нейросети. Если брать модель и не переносить её в периметр [IT-инфраструктуры] предприятия, то возникает риск утечки информации», - отметила руководитель InfoWatch.
Она привела следующий пример: одно промышленное предприятие загрузило в нейросеть набор данных для анализа своих внутренних процессов, включая технологические тонкости. Другое предприятие, создав умный промт, все эти секреты «вытащило к себе», поскольку любые данные, загруженные в такую систему, могут быть извлечены.
Более того, как пояснила Наталья Касперская, по запросам, которые загружают в иностранные нейросети сотрудники российских предприятий, можно понять, что это за предприятие и какую дезинформацию, при желании, ему можно «слить» под видом ответов на запросы или обратной связи.
«На той стороне тоже есть акторы, которые отслеживают запросы. Наша страна сейчас находится в фокусе атак. Естественно, те акторы могут по запросам понять, что это какое-то российское предприятие, и подсунуть ему скомпрометированную информацию. Будет казаться, что это правильный ответ. А на самом деле это специально сгенерированная для данного предприятия ложь. Как эту ложь отличить - совершенно непонятно», - отметила она.
Наталья Касперская напомнила, что нейросети устроены как вероятностная технология, которую иногда называют «галлюцинирующей». Нейросети выдают ответ, про который нельзя со стопроцентной вероятностью утверждать, что он верный. Иногда такие галлюцинации могут быть очень странные. «Это тоже нужно учитывать: доверять ИИ на 100% никак нельзя», - подчеркнула глава InfoWatch..
Напомним, конференция «Цифровая индустрия промышленной России» (ЦИПР) является главным деловым событием по цифровой экономике и технологиям в России. Она проходила в Нижнем Новгороде с 18 по 21 мая 2026 года.
Фото: TelecomDaily.