Эксперт предупредил о неизбежной угрозе ИИ

Глава OpenAI Сэм Альтман назвал два сценария, при которых развитие искусственного интеллекта (ИИ) может пойти по крайне неблагоприятному пути: если люди утратят контроль над собственным будущим, поскольку все больше решений будет зависеть от ИИ или из-за чрезмерной концентрации власти и возможностей в руках ограниченного круга людей или организаций.

Главный редактор журнала «IT EXPERT» и портала IT-WORLD Андрей Виноградов заявил, что опасения вокруг дальнейшего развития нейросетей имеют основания. По его мнению, уже сегодня ИИ позволяет отдельному человеку выполнять задачи, на которые раньше могла потребоваться большая команда специалистов и значительное время.

В качестве примера Виноградов рассказал о знакомом специалисте по информационной безопасности, который с помощью современных инструментов за один вечер создал систему защиты, разработка которой прежде могла бы занять около года у целой команды. По словам эксперта, подобные возможности становятся доступнее даже людям без глубоких навыков программирования.

«Если понимать, что вот такие возможности открываются, то у нас не то чтобы нет гарантии, что такие возможности не будут использоваться в целях не блага, а зла, они точно будут использованы во зло», — сказал Виноградов.

Он отметил, что одни и те же технологии могут применяться как для полезных задач, так и для противоположных целей. Чем мощнее становятся модели и чем шире круг доступных им инструментов, тем сложнее обеспечить их безопасное использование. При этом эксперт считает, что остановить развитие нейросетей уже невозможно.

По словам Виноградова, современные ИИ-системы остаются компьютерными программами и статистическими моделями, поэтому говорить о них как о человеческом интеллекте было бы некорректно. Однако сложность таких систем постоянно увеличивается. Они способны взаимодействовать с другими инструментами и выполнять многоступенчатые задачи, а человеку становится все труднее полностью отслеживать логику их работы.

Эксперт также обратил внимание на случаи, когда разработчики ограничивают широкий доступ к отдельным возможностям своих моделей. По его мнению, это показывает, что даже сами создатели технологий продолжают искать способы надежно контролировать их поведение.

«То, что сделано, уже сделано, и остановить развитие нейросетей уже невозможно. Они будут развиваться», — отметил эксперт.

При этом он подчеркнул, что сам по себе рост возможностей искусственного интеллекта еще не означает неизбежной утраты контроля. Основной риск, по мнению эксперта, связан с тем, насколько быстро будут развиваться механизмы безопасности, ограничения доступа и правила использования новых технологий, сообщает Радио «Комсомольская правда».

Ранее зампред Совбеза РФ Дмитрий Медведев говорил, что создатели различных вариантов генеративного ИИ опасаются не за то, что «оборзевший от своей мощи AI» погубит человечество, а за возникновение ситуации, когда программный продукт, использующий продвинутую версию для управления крупным производством или транспортным узлом, причинит колоссальный ущерб.