Консорциум для исследования информационной безопасности искусственного интеллекта приступил к тестированию российских нейросетей, разработанных на базе иностранных моделей ИИ с открытым кодом. Тестирование позволит выявить значимые уязвимости этих систем в рамках национального цифрового суверенитета и выработать «достаточно простые и эффективные меры» защиты. Об этом сообщил заместитель главы Минцифры Александр Шойтов в ходе Российского форума по управлению интернетом.
По словам замглавы Минцифры Александра Шойтова, консорциум для исследования информационной безопасности искусственного интеллекта (ИИ) в этом году уже приступил к тестированию российских нейросетей, разработанных на базе иностранных моделей ИИ с открытым кодом. «Сейчас начинается исследование и тестирование конкретных систем, чтобы определить их значимые уязвимости и предложить достаточно простые и эффективные меры», - подчеркнул Александр Шойтов.
Как пояснил заместитель руководителя Минцифры, «здесь говорить о доверии и информационной безопасности не приходится»: кто разрабатывает модели ИИ с открытым кодом, тот их и контролирует.
Напомним, консорциум для исследования информационной безопасности ИИ был создан в России в 2024 году с целью объединения на его площадке разработчиков ИИ, производителей, а также представителей организаций и ведомств из числа регуляторов в этой сфере. К декабрю прошлого года консорциум насчитывал 12 участников, в этом году его состав будет значительно расширен. Об этом Александр Шойтов также сообщил на открытии Российского форума по управлению интернетом. «Если есть заинтересованные компании, обращайтесь, будем рады сотрудничеству», - добавил он.
В настоящее время целый ряд российских компаний разрабатывают и внедряют нейросети на базе открытых иностранных моделей ИИ. В частности, в марте 2025 года компания «Авито» представила семейство генеративных моделей ИИ - текстовую A-Vibe и мультимодальную А-Vision. Обе модели обучены на базе китайской нейросети с открытым исходным кодом Qwen2.5 (разработка китайской компании Alibaba) с 7 миллиардами параметров и специализированы для задач, связанных с покупкой и продажей. По данным «Авито», глубокое переобучение открытых моделей позволяет добиться высокого качества и производительности при меньших затратах, чем обучение с нуля. Т-банк также разработал свою генеративную модель Gen-T на основе решения Qwen 2.5.
Фото: Шедеврум