Андрей Масалович: Те задачи, где надо соврать, ИИ решает отлично, где вам нужна правда — не рекомендую

Перспективы внедрения искусственного интеллекта и технологического суверенитета «Свободная Пресса» обсудила со специалистом по кибербезопасности, кандидатом физико-математических наук, подполковником спецслужб в отставке Андреем Масаловичем, известным в сети как «Кибердед».

«СП»: Искусственный интеллект (ИИ) все чаще применяется в вооруженных конфликтах. Будущее — за «войнами машин»?

— В начале 1950-х за ИИ стали платить военные, это было первой волной интереса. Оказалось, что с помощью ИИ можно подступиться к задаче определения корабля — свой или чужой — из подлодки, без долгого обучения специалистов. И возникла первая эйфория: ИИ захватит мир, изменит его, превзойдет людей. Сейчас уже четвертая волна ИИ. Она сильно больше, чем предыдущая, но все «родовые травмы» остались. И ничего он не захватит.

Есть небольшой сегмент задач, который ИИ решает хорошо. И есть большой круг задач, вроде управления государством, экономическими процессами даже уровня региона или крупной компании, военные конфликты. Это задача, к которой ИИ подпускать нельзя. Одна из причин — математическая проблема «барьера бесконечного выбора», когда каждый шаг экспоненциально увеличивает время и стоимость вычислений, вокруг таких задач идет основная спекуляция.

---

СМОТРИТЕ БЕСЕДУ С АНДРЕЕМ МАСАЛОВИЧЕМ В СП-ВИДЕО

Прямые ссылки передачи в RuTube, YouTube, VK. Смотрите все передачи СП-Видео

---

«СП»: Но ИИ уже внедрили в госуправление, в том числе в нашей стране. Эти технологии стали неотъемлемой частью экономических процессов в частных и государственных структурах.

— Наберите в поисковике два похожих запроса: топ 10 применений ИИ и топ 10 приложений ИИ. В первом случае — начитаетесь про управление регионом, компанией. А топ 10 приложений — то, за что платят.

Подкорректировать табличку, старое фото заставить двигаться, превратить текст в фотографию или видео. Есть направления, где технологии заменят 90% рутинной работы даже творческого человека. Но не будут нормально работать, если нет этих 10% творческих.

«СП»: Внедрение таких сервисов выгодно для экономики?

— В 2024−25 годах компании массово внедряли ИИ. Но только 5% получили прибыль соразмерно затраченным деньгам. Пока что внедрение ИИ дорого. ИИ будет выполнять 90% функций специалиста. Но человека вообще убрать нельзя.

«СП»: Но это же неплохо. Иначе массовая безработица.

— Это больше страшилка. Вот много сейчас на улице безработных «конюхов» из-за появления автомобилей? Появятся новые профессии. Появится беспилотный комбайн — понадобится наладчик беспилотных комбайнов. Появятся беспилотные автомобили — нужен будет диспетчер беспилотных автомобилей.

«СП»: Государство должно включиться, чтобы переучить людей?

— Государство должно обозначить целевую функцию. А если KPI — процент внедрения ИИ, то он завтра станет 70%, послезавтра 90%. Без целей это всё красивые погремушки.

«СП»: Может, пузырь ИИ скоро лопнет?

— Капитализация того же Open AI уже падает. И опустится еще после закрытия проекта Sora, ИИ сервиса для создания качественных коротких видео. Оказалось, что себестоимость роликов слишком высокая. И чтобы хотя бы деньги отбить, нужно было генерить 11 миллионов роликов в сутки.

Причем зрители должны быть каждый раз новыми, потому что качество хуже, чем в рекламной демоверсии и у конкурентов дешевле.

Весь пузырь ИИ такой: за очень большие деньги показывают дьявольски красивые картинки. А как доходит до дела, выясняется, что надо немало платить, а качество и результат не очень.

Такая цифра: из 100 компаний 95% признали, что деньги инвестировали зря. Они пропали, инвестиции вернуть невозможно: нет математической модели для этого.

«СП»: Но люди уже начинают общаться с ИИ, как с живым человеком.

— Это очень серьезная проблема. По сути, это наложение на уже имеющиеся алгоритмы, изучающие поведенческий профиль пользователя, алгоритмов, которые помогли чат-боту «заговорить» на человеческом языке.

И такой идеальный собеседник уже не просто показывает вам таргетированную рекламу, а поддерживает разговор, хвалит и всё про вас знает. Но это «синдром шершавого кабана» — состояние психологической зависимости от нейросетей, потеря чувства реальности и полное доверие к тому, что выдает ИИ.

«СП»: В будущем появится цифровой двойник человека?

— Это следующая волна. ИИ уже может нас «разводить» в разговоре, изображая собеседника. Но изобразить реального человека у него пока не получается. Правда, до психоза или до влюбленности уже доводил.

Так, после того как в Италии депутаты заставили разработчиков чат-ботов для взрослых поставить ограничители, народ потянулся к психиатрам и психологам с вопросом: «почему она меня разлюбила?»

«СП»: А какое регулирование нужно для ИИ?

— Существует два этических кодекса ИИ. Первый предложил Департамент высоких технологий Ватикана. Второй — Россия, уже много стран этот кодекс подписали. Но это кодексы для разработчиков. Затем, в 2016 году создали ресурс incidentdatabase.ai. Это база данных инцидентов с людьми по вине ИИ. Там уже более 6000 записей.

ИИ, как я уже сказал, нельзя давать субъектность, давать в руки политиков, руководству регионов, военным. Нельзя на него сваливать свои провалы, как это, вероятно, случилось с ударом по иранской гимназии в Минабе.

Нужна подпись ответственного лица, с которого спрос. А также маркировка, что это ИИ на фото или видео. Вы должны видеть, что вас дурят.

Ряд задач надо решать в суде, скажем, использование образов реальных людей на фото и видео без их согласия. В общем, те задачи, где надо соврать, ИИ решает отлично, где вам нужна правда — не рекомендую.

«СП»: Технокапиталист, подрядчик администрации Трампа Питер Тиль, говорит, что все, кто хочет ограничить ИИ, приближают антихриста. Папа Римский Лев XIV, напротив, говорит об экзистенциальной опасности ИИ.

— Тиль — очень эффективный инвестор. В конце 90-х создал одну из лучших и первых систем мировых платежей PayPal. И появилось новое измерение аналитики: большие данные позволили увидеть странные транзакции, перемещение денег.

В 2003 году догорал пузырь доткомов, стало понятно, что интернет будущего станет интернетом пользовательского контента, тогда как первый интернет был для военных и спецслужб, а второй — для бизнеса.

Тогда Питер Тиль пришёл в инвестиционный фонд ЦРУ с продуктом Palantir, который будет шпионить за социальными сетями, куда люди сами будут всё о себе выкладывать. Хотя соцсети были только в начале пути.

Собственно, Тиль в них же и проинвестировал. То есть Питер Тиль — человек, который зарабатывает на тотальном шпионаже, теперь с ИИ. В марте этого года он запустил программу Maven smart system, она начала активно использоваться в интересах военных. Тиль — не философ, не визионер, он делает деньги. У него личный интерес размером с планету.

«СП»: А что в России? Как обеспечить технологический суверенитет?

— В интернете нельзя запрещать, надо заменять. Скажем, ежемесячно WeChat используют 1,2 миллиарда китайцев. Если в мире исчезнут карта Visa, информагентства, службы знакомств, системы продажи авиабилетов или турагентства, 1,2 миллиарда китайцев этого не заметят.

Так как всё это делает WeChat, это основа цифрового суверенитета, продукт, который полностью формирует экосистему. И России такой нужен.

Но внедрение идёт плохо, надо было делать это давно. И нужна конкуренция. Тех же мессенджеров надо было создать хотя бы два, пусть конкурируют. Правда, в России было 10 мессенджеров, но без агрессивной рекламы народ на них не переходил.

«СП»: Возможно, потому, что они хуже? А, скажем, Телеграм — уже сформированная, удобная экосистема. Не надо блокировать, надо конкурировать. И объяснять людям, как правильно пользоваться теми или иными инструментами, а не запрещать и ограничивать. Все равно люди находят способы обхода.

— Нас учили концепции «среды нулевого доверия». Вышел за дверь — все враги. Любой человек враг, любая техника заражена, любое устройство шпионит. А если правильно строить среду нулевого доверия, вы сможете сохранить работу вашей группы. И оставить в секрете планы и намерения. Но для этого понимание «среды нулевого доверия» должно быть пожестче.

Если вы на передовой, работаете в госорганах, в критической информационной структуре, в ВПК, у вас кто-нибудь из родственников относится к этим категориям, не надо лезть в экран, ничего не выкладывать в интернет.

Но если не можете без этого, придумайте себе образ. Вот есть Андрей Масалович, есть Кибердед. Это два разных существа, они на многие вопросы отвечают принципиально по-разному. Это так называемая легенда прикрытия. Хотите публичности? Придумайте публичную картинку!

«СП»: Лидерами технологического развития являются Китай и США. Россия может конкурировать?

— Сегодня задачи похожи на задачи из прошлого. Когда-то нас это спасло: где мы технологически отставали, мы те же задачи просто решали другим, более экономным способом. Сейчас время математиков, а их у нас много. Да, «железа» своего нет. Но есть две державы, которые не дружат: Китай и США. И от тех или других можно его получать.

«СП»: А своё разрабатывать?

— Надо пытаться. Но это 7−10 лет. И надо вернуть НКВД, убрать Счётную палату. Ты либо решил задачу, тогда за деньги никто не спросит, либо не решил, тогда «секир-башка». И надо порождать конкуренцию. В СССР летали классные самолеты. Почему? Потому были Туполев и Илюшин. Если бы был только один, не летали бы. Даже космонавтика была пилотируемая и не пилотируемая. Эта конкуренция здорово нас продвигала.

С 1949 по 1994-й год существовал Комитет по контролю над экспортом из стран Восточного блока. Он был жестче, чем сейчас санкции. Главный абзац там — СССР не должны поступать изделия, содержащие технологии последних пяти лет. То есть гарантированное 5-летие отставания. Но в космос летали, ГЭС строили.

«СП»: Благодаря научным школам или технологической разведке?

— Технологическая разведка была существенной частью жизни. Если у меня есть 10 конкурентов, не надо быть умнее всех 10. Надо, чтобы кто-то принес их техническую документацию. Но сейчас сам ИИ — большая база, хорошее подспорье, пока не закрыли чужие модели, надо разбираться и делать лучше. А интеллекта у нас больше.