От вирусов до кибератак: эксперт раскрыл главную опасность идеи Гейтса по регулированию ИИ

Основатель Microsoft Билл Гейтс предложил создать международную организацию по контролю за искусственным интеллектом (ИИ). По его замыслу, новый орган мог бы объединить принципы работы структур, следящих за нераспространением ядерного оружия, выполнением климатических соглашений и безопасностью гражданской авиации. Футуролог, венчурный инвестор Евгений Кузнецов объяснил, почему реализовать такую инициативу будет не просто.

По словам эксперта, в мире уже существуют разные модели международного регулирования технологий. Одним из примеров служит МАГАТЭ, другим — система договоренностей об использовании космического пространства. Однако ни одна из этих моделей не может быть напрямую перенесена на искусственный интеллект из-за особенностей самой технологии.

Кузнецов пояснил, что ядерная энергетика требует сложной инфраструктуры, значительных вложений и продолжительных производственных процессов. Добычу, переработку и перемещение ядерных материалов можно отслеживать. ИИ устроен иначе: после обучения модель может использоваться практически в любой точке мира.

«А дальше искусственный интеллект действует глобально. Поэтому скорее нам придется изобретать совершенно новые программы регулирования, а старые просто не сработают, из-под них очень легко ускользнуть», — заявил Кузнецов.

Кроме того, нейросети постепенно проникают во все сферы человеческой деятельности. Поэтому попытка установить жесткие ограничения по аналогии с ядерными технологиями, по мнению футуролога, рискует оказаться неэффективной и затормозить развитие многих разработок.

Эксперт подчеркнул, что необходимость контроля связана прежде всего с рисками использования искусственного интеллекта людьми.

«Потому что есть очень много рисков, связанных с тем, как люди его используют. Например, становится легче изобретать всякие не очень хорошие бактерии, вирусы, яды и так далее. Есть возможность совершать всякие преступления в сфере кибербезопасности и так далее. То есть страшен не искусственный интеллект, страшны люди, которые начинают его использовать для своих не всегда хороших целей», — отметил футуролог.

Еще одной проблемой Кузнецов назвал возможное влияние крупных технологических компаний на будущую систему регулирования.

Отдельно эксперт затронул вопрос участия России в формировании глобальных правил. Кузнецов считает, что страна должна участвовать в международных переговорах, поскольку решения в этой сфере будут определять развитие одной из ключевых технологий XXI века.

По оценке футуролога, американские разработчики сохраняют технологическое преимущество, тогда как Китай обладает значительными возможностями для массового внедрения искусственного интеллекта, сообщает Радио «Комсомольская правда».

Ранее зампред Совбеза РФ Дмитрий Медведев говорил, что создатели различных вариантов генеративного ИИ опасаются не за то, что «оборзевший от своей мощи AI» погубит человечество, а за возникновение ситуации, когда программный продукт, использующий продвинутую версию для управления крупным производством или транспортным узлом, причинит колоссальный ущерб.