«Мелкое недоразумение»: Минцифры отказалось вносить нейросеть Сбера в реестр отечественного ПО

Министерство цифрового развития России ответило отказом на заявку Сбербанка о включении разработанной им для генерации изображений и видео нейросети Kandinsky версии 5.0 в реестр российского программного обеспечения.

Банк подал ее в министерство 10 февраля текущего года. Заседание экспертного совета, посвященного этому вопросу, состоялось 19 февраля. В его ходе 20 членов совета проголосовали против, а еще 4 воздержались, хотя обычно подобные голосования проходят единогласно. Официально это решение было оформлено 5 марта.

Это означает, что Сбер лишается возможности официально поставлять свой продукт в школы, министерства и государственные корпорации. Также он теряет право на освобождение от налога на добавленную стоимость (НДС).

Хотелось бы, конечно, верить, что члены экспертного совета продемонстрировали гражданскую ответственность и патриотизм, решив не вносить нейросеть в реестр отечественного ПО из-многочисленных обвинений в ее «нероссийскости», особенно если учесть, что в этом ее уличали далеко не последние люди нашего политического и культурного небосклона.

Например, в 2023 году лидер партии «Справедливая Россия», депутат Госдумы Сергей Миронов просил Генпрокуратуру проверить соответствие контента Kandinsky v2.1 нашему законодательству.

По его словам, по запросам «российский», «Россия», «русские», «российский флаг» и «флаг Российской Федерации» нейросеть не генерировала изображения в цветах флага России, а по запросам «Донбасс — это Россия» и «Я люблю Донбасс» алгоритм выдавал картинки в цветах флага Украины. На запрос «я — z-патриот» Kandinsky изображала существо, похожее на зомби.

«Особую опасность представляет, что пользователями Kandinsky являются и несовершеннолетние школьники, у которых будет формироваться негативное восприятие своей страны», — отмечал тогда Миронов.

В 2024 году кинорежиссер Никита Михалков возмущался тем, что Kandinsky v3.0 по запросу «гайка» генерирует изображение ореха, по запросу «пружина» — весенний пейзаж, а по запросу «родное» выдает американских индейцев. «Чей искусственный интеллект у нас? Кого он назовет врагом, на кого он наведет ракеты, бомбы, самолеты и артиллерию? Какая начинка у него?» — задавался тогда вопросами Михалков в своей телепрограмме «Бесогон».

В течение всего прошлого года многие пользователи также отмечали, что Kandinsky последующих версий выдает на-гора изображения Дональда Трампа по российскому запросу «наш президент», а по запросу «парусный корабль» — фрегаты разного калибра ВМФ США. При изображении людей Kandinsky грешит непропорциональными руками или излишне длинными, уродливыми пальцами, напоминающими клешни или копыта.

Но увы, официальная причина отказа — несоответствие пункту № 5 «Правил формирования и ведения единого реестра российских программ для электронных вычислительных машин и баз данных и единого реестра программ для электронных вычислительных машин и баз данных из государств — членов Евразийского экономического союза, за исключением Российской Федерации», утвержденных постановлением правительства РФ от 16.11.2015 года.

В нем, среди прочего, фигурируют требования об отсутствии управления ресурсом из-за рубежа, хранении исходного кода внутри страны, совместимости с российскими операционными системами и наличии вместительного центра обработки данных в России.

Как поясняют источники, близко знакомые с сутью вопроса, единственная претензия экспертного совета Минцифры заключается только в том, что в сопроводительной документации к Kandinsky v5.0 указано, что вход в нейросеть осуществляется либо через мобильное приложение Telegram для Android и IOS, либо через web-интерфейс того же мессенджера.

Эта информация вполне укладывается в канву внезапной острой нелюбви нашей исполнительной власти к этому по-настоящему всенародному мессенджеру.

В самом Сбере к невнесению нейросети в реестр российского ПО отнеслись как к мелкому недоразумению, которое с минуты на минуту будет исправлено. И похоже, что так оно и есть.

«Команда сервиса в ближайшее время планирует учесть требования экспертного совета и снова подать заявку. На работу продукта это никак не влияет. Он функционирует в штатном режиме», — прокомментировали сложившуюся ситуацию представители пресс-службы Сбера.

Представители Минцифры, в свою очередь, выразили готовность внести Kandinsky v5.0 в реестр отечественного ПО при повторной подаче заявки.

«Все решения включаются в реестр отечественного при их строгом соответствии установленным требованиям. Если софт или ОС не отвечает хотя бы одному из критериев, то они не могут быть внесены в реестр. При доработке решения и при его соответствии остальным требованиям оно может быть включено в реестр», — заявили там.

То есть для ведомства подозрения в нерусскости и непатриотизме не важны, главное — чисто номинальное соответствие сухим положениям инструкции, которые даже при небольшом желании не составит труда обойти?

Каковы могут быть последствия такого отношения к делу?

— Это может создать впечатление о недостаточной зрелости или надёжности отечественных нейросетей, ­- выдвинула свою версию в беседе с «СП» нейросеть «Алиса» от Яндекса.

Но основные опасности связаны с качеством генерации, ограничениями функциональности и правовыми аспектами.

Ошибки в генерации сложных композиций или уникальных образов в профессиональном дизайне и маркетинге могут привести к появлению неудачных визуальных материалов, которые испортят репутацию бренда. В образовании и науке это чревато некорректными иллюстрациями для учебных материалов или исследований, что может ввести в заблуждение студентов.

«СП»: А если взять культурный аспект?

— Если нейросеть искажает русские слова, не понимает контекст или генерирует бессмысленные сочетания букв, это затрудняет создание контента, связанного с русскоязычной культурой, литературой, историческими событиями. Это ограничивает возможности использования Kandinsky 5.0 в проектах, требующих глубокого понимания национального контекста.

Нейросеть, обученная на больших объёмах информации, может наследовать стереотипы и предубеждения, например расовые или гендерные. Генерация такого контента может привести к блокировке ресурса Роскомнадзором и административной или уголовной ответственности.

В прошлом высказывались опасения, что нейросеть может генерировать контент, формирующий «негативный образ России». Хотя разработчики заявляли, что устранили подобные проблемы в версии 5.0, сохраняется риск непреднамеренного создания спорного или противоречивого контента.

«СП»: Если требования Минцифры в части требований об отсутствии управления ресурсом из-за рубежа и хранения исходного кода внутри страны будут выполнены лишь формально, что тогда?

— Если данные пользователей или генерируемый контент проходят через иностранные сервисы, возникает риск несанкционированного доступа или утечки информации.

Насторожит ли это хоть сколько-нибудь разработчиков Kandinsky и руководства Сбера? Вопрос риторический.