Датские ученые раскрыли пугающую правду о чат-ботах

Склонность постоянно обращаться к сервисам искусственного интеллекта (ИИ) при поиске ответов может привести к тому, что объём человеческих знаний станет значительно хуже. Об этом сообщили датские ученые.

Проблема в том, что ИИ неизменно повторяет и транслирует одни и те же взгляды, пренебрегая альтернативными точками зрения.

В ходе исследования, проведённого учёными Копенгагенского университета на основе 27 больших языковых моделей, было установлено, что даже у самой эффективной из них разнообразие предоставляемой информации почти на 19% ниже по сравнению с результатами стандартного поиска Google. Информация становится менее вариативной, предлагается ограниченный набор ответов и точек зрения, и возможности для их интерпретации сужаются.

Эта тенденция грозит вытеснением определённых материалов на периферию общепринятой системы знаний, а другие начинают считаться основными или доминирующими. Это грозит тем, что люди станут менее осведомлёнными и, возможно, менее интеллектуально развитыми, чем сегодня. Для анализа того, как ИИ-модели формируют ответы, их протестировали на 155 темах — от ядерного оружия до музыкального жанра K-pop. Исследователи использовали 200 вариантов запросов, основанных на данных о реальной работе чат-ботов, и получили массив из 70 млн ответов.

Наибольшее разнообразие ответов показала модель OpenAI GPT-5, но и она по этому показателю на 18,5% уступила поисковой системе Google. «Люди в значительной степени сталкиваются с одной и той же информацией снова и снова. Так что чат-боты с ИИ меняют не просто способы поиска знаний, но и то, к каким знаниям у нас есть доступ», — указывают учёные.

ИИ-модели могут работать в составе поисковых систем, или пользователи могут обращаться к ним напрямую — будь то Gemini, ChatGPT или другие чат-боты — результаты исследования указывают на то, что меняются принципы представления информации.

«Мы рискуем ограничить доступ людей к разнообразным точкам зрения и сузить спектр знаний. Это может создать порочный круг: самый популярный контент будет доминировать всё больше, а остальной — всё больше оставаться без внимания», — предупреждают исследователи.

Эффект действует сродни глобализации: сегодня практически во всём мире продаются одни и те же товары и продукты — некоторые преимущества у этого есть, но разнообразие снижается, сообщает 3dnews.ru.

Как заявил президент РФ Владимир Путин в ходе выступления на на пленарной сессии клуба «Валдай», миру еще предстоит учиться жить с ИИ.