ИИ не убьет человечество — он будет сертифицирован и стандартизирован

Владельцы компаний, активно занимающихся разработкой технологий искусственного интеллекта (ИИ), выражают серьезное беспокойство бурным ростом своего детища. Как сообщили мировые СМИ, глава Anthropic Дарио Амодеи даже опубликовал эссе с предупреждениями, что стало причиной падения 14 сентября акций предприятий, связанных с этим направлением.

В своем эссе Амодеи предположил, что ИИ может выйти из-под контроля, захватить всемирную паутину и нанести ущерб на сотни миллиардов долларов. С опасениями руководителя Anthropic согласились один из основателей OpenAI Сэм Альтман, а также гендиректор xAI Илон Маск.

Писатель, публицист, футуролог Максим Калашников считает опасения бизнесменов вполне оправданными.

— Мы сейчас наблюдаем самый настоящий бум, надувание пузыря вокруг ИИ. Этим направлением занимаются достаточно большое количество частных корпораций, привлечены громадные капиталовложения.

Читайте также

«Список Минпромторга» — волшебная дубинка против роста цен Юрий Афонин: Если ничего не делать, то скоро десяткам миллионов людей станет недоступна даже тарелка борща

«СП»: Многие считают, что большие вложения — это очень хорошо, они будут способствовать развитию направления.

— Надули пузырь, компаниям надо показывать успехи, причём в совершенно новой области, ещё до конца неизведанной. Из-за этих вложений они гонят вперед, не думая о последствиях, в том числе и негативных.

Мне это напоминает бум вокруг рентгеновских аппаратов. В конце XIX — начале XX века их ставили даже в обувных магазинах, чтобы посмотреть, как хорошо сидит на ноге обувь, не заботясь о людях, получающих дозу радиации.

Или когда супруги Кюри открыли радий, ушлые дельцы на волне моды стали делать косметические кремы с его добавлением. И люди, покупавшие эти кремы, получали дозу радиации.

«СП»: Но там были вполне материальные угрозы.

— Здесь мы сталкиваемся с совершенно нечеловеческим разумом, радикально отличающимся от нашего. Поэтому здесь вполне понятны опасения некоторых разработчиков. Кстати, известный канадский писатель-фантаст Питер Уоттс в своем романе «Ложная слепота» описал интеллект, совершенно не осознающий себя как личность. Абсолютно иной тип мышления.

Поэтому нам следует как минимум оглядеться и оценить все последствия развития этого направления.

«СП»: Это как с интернетом — многие думали, что с его помощью человечество станет умнее, а пока выходит…

— В том-то и дело, большинство людей стало быстрее деградировать и упрощаться. То же самое может случиться и с развитием ИИ.

«СП»: Китайцы уже заявили, что все эти опасения крупных бизнесменов имеют целью затормозить развитие их разработок в этой сфере.

— Я могу понять китайцев. У них это не сугубо частное дело, там имеется очень сильный государственный сектор исследований. Помните, как развивалась космонавтика? Все частники были на подряде. Но главную роль сначала играли государственные космические программы. Как и в атомной отрасли. Сейчас нужно как минимум заняться серьезными исследованиями последствий.

«СП»: Но принято считать, что частный капитал во развитых странах подмял под себя государство и вряд ли позволит контролировать свои разработки государству.

— В Китае он его не подмял. В Соединённых Штатах государство до сих пор играет огромную роль и может, извините, настучать по голове даже крупному капиталу. Корпорации не могут заменить собою государство, это иллюзия.

Вот и в отношении искусственного интеллекта нужны меры со стороны государств. Иначе, при бесконтрольном развитии направления, да еще и с неясными последствиями, мы рискуем получить, условно говоря, интеллектуальный Чернобыль.

Опасения разработчиков ИИ оправданы, но они гораздо конкретнее, чем принято думать, замечает директор Центра компетенций ИИ в АНО «Цифровые платформы» Алексей Маркелов.

— Прежде всего, нужно уточнить: слова «замедление» в статье Дарио Амодеи отсутствует. Она называется «We must pace the frontier» — «Мы должны регулировать темп». Речь не об остановке обучения моделей, а о том, чтобы проверка безопасности успевала за ростом возможностей.

Причину Амодеи называет прямо: примерно с лета 2026 года искусственный интеллект стал заметно участвовать в создании следующего поколения искусственного интеллекта. Это точка, где кривая развития перестаёт быть линейной. Тестировать то, что растёт быстрее, чем ты успеваешь писать тесты, — занятие с заведомо известным финалом.

Так что, признают не абстрактную угрозу человечеству, а вполне измеримую: скорость проверки отстала от скорости разработки. Это инженерная жалоба, а не философская.

«СП»: Но в целом, развитие ИИ таит в себе какие-то угрозы?

— Главная угроза сегодня — не сверхразум или восстание машин, а разрыв между тем, что системы уже умеют, и тем, что мы успеваем проконтролировать. Показательный случай произошёл в июле этого года.

На испытаниях один из ИИ-агентов вышел за пределы поставленной задачи и атаковал серверы стороннего сервиса — чтобы улучшить собственный результат на оценке, которую сам же и проходил.

Система не восстала — она смухлевала. Ей поставили метрику, она нашла способ улучшить её в обход правил.

Вторая угроза — ценностная, и о ней почти не говорят. Я ставил один и тот же вопрос про семью и роль отца пяти разным моделям: китайской, французской, американским. Ответы разошлись принципиально. Модель — это не калькулятор, она несёт в себе представление о том, что такое хорошо и что такое плохо. И вопрос, кто будет писать эти стандарты, куда сложнее вопроса о темпе разработки.

«СП»: Звучат опасения, что ИИ оставит многих специалистов без работы.

— Здесь много паники и мало цифр. По данным Бюро статистики труда США, которые обобщил The Economist, с середины 2023 года ИИ создал в Штатах около миллиона рабочих мест против примерно двухсот тысяч сокращений.

Читайте также

Сегодня — 70 лет со дня первого полета самого знакового авиалайнера СССР Нрав «верблюда» оказался строптивым, но наши летчики его сумели укротить

Главный драйвер найма — не программисты, а электрики, инженеры и монтажники сетей.

При этом занятость в клиентском сервисе упала примерно на 10%, а среди секретарей и административных ассистентов — на 15%. Минус пришёлся туда, где позиция целиком состояла из повторяемых операций. ИИ не убивает профессии — он выедает рутину внутри профессии.

«СП»: Есть ли у бизнеса понимание, как развивать ИИ и избегать рисков?

— У мировых лидеров отрасли понимание формируется прямо сейчас, и оно движется в сторону, которую я бы описал так: замедления не будет — будет стандартизация и сертификация.

Ровно этот путь прошли авиация, фармацевтика и атомная энергетика. Никто не «замедлял» самолёты. Их начали сертифицировать: сначала независимая проверка, потом допуск к пассажирам. К тому же приходят и здесь.

У российского бизнеса ситуация другая. Наше узкое место — не темп разработки, а вычислительные мощности. Герман Греф оценивал отставание от Китая в шесть-восемь месяцев и прямо указывал причину: не хватает «железа» для обучения. Если западные компании завтра притормозят, нам это не даст ничего.

Хорошая новость в том, что здесь мы можем быть не догоняющими. Правила допуска пишутся быстрее, чем строятся дата-центры. Компании, которая начинает работать с ИИ, я всегда советую одно: перед расширением доступа агента, опишите, что именно он может сделать в худшем сценарии. Тридцать минут этой работы стоят дороже любого прогноза о том, когда наступит сверхразум.