«Налоги: Разный подход к верхам и низам, разделяет общество...»
Сергей Аксенов
Чтобы нейросети не превратились в инструмент для автоматизации военных преступлений, контроль над ними должен быть выстроен как минимум на пяти уровнях. Об этом «Свободной Прессе» заявил директор по технологическому развитию АО «Нетрис» ПАО «Ростелеком» Артем Аксянов.
Недавно со ссылкой на исследование компании Vals сообщалось, что нейросети OpenAI, Anthropic и Google в ходе военных симуляций выбирали в качестве целей мирных жителей, сдающихся солдат и машины скорой помощи. Исследователи предупредили, что подобные ошибки создают риски при использовании ИИ в военных системах.
По мнению Аксянов пять уровней должны выглядеть следующим образом. Первый: технический барьер на уровне API*. Провайдеры публичных нейросетей обязаны внедрить внешние серверные классификаторы (как требуют авторы отчета Vals). Эти фильтры должны блокировать любые попытки использовать гражданский API для поиска целей, баллистических расчетов или анализа боевых кадров с дронов, независимо от того, замаскирован ли запрос под «научное исследование» или «сценарий для шутера».
«Второй — законодательный запрет на конвейерное подтверждение целей за 20 секунд. Командир, отдающий приказ на основе подсказки ИИ, должен нести такую же персональную уголовную ответственность по Женевским конвенциям, как если бы он сам смотрел в прицел. Третий — обязательное обучение на международном гуманитарном праве. Военные версии алгоритмов должны проходить дообучение под надзором военных юристов», — пояснил собеседник «СП».
Четвертым уровнем эксперт назвал независимый аудит до допуска к контрактам. Ни одна система не должна попадать в войска без жестких стресс-тестов от независимых аудиторов, проверяю щих модель на галлюцинации, провокации и ошибки. Пятый уровень — каждое действие боевого ИИ (от исходного спутникового снимка до весовых коэффициентов, по которым алгоритм решил, что перед ним штаб, а не начальная школа) должно в реальном времени записываться в черный ящик. Это единственный способ потом провести честное расследование инцидента и найти виновного.
«Вопрос сегодня уже не в том, будет ли искусственный интеллект воевать, так как он уже воюет. Главный вопрос в том, сумеют ли государства и инженеры договориться о том, кто именно поставит свою подпись под крестиком, который машина нарисовала поверх объекта. Пока этой подписи не будет, любой прорыв в военном ИИ будет лишь повышать скорость, с которой совершаются ошибки», — подчеркнул Аксянов.
Ранее сообщалось, что Еврокомиссия подверглась крупной кибератаке. Множество персональных данных могли оказаться под угрозой.
* API (от английского Application Programming Interface — интерфейс программирования приложений) — это набор правил и инструментов, который позволяет разным программам, сервисам или операционным системам взаимодействовать друг с другом, обмениваться данными и использовать функции. По сути, это посредник, который переводит запрос одной программы на язык, понятный другой, и возвращает ответ обратно
Незаконное потребление наркотических средств, психотропных веществ, их аналогов причиняет вред здоровью, их незаконный оборот запрещен и влечет установленную законодательством ответственность.