«Поговори со мной, иишка». Искусственный интеллект готов общаться и даже болеть, как человек

Нейросети преобразуют рабочую среду. Их функциональность растет. Это подтверждают менеджеры, которые активно используют ИИ для выполнения рутинной работы.

В последние три месяца 71% опрошенных управленцев пользовался нейросетями для поиска и структурирования информации. С анализом данных они помогали 63% респондентов. 53% обращались к ИИ как к собеседнику.

Менее популярными для нейросетей задачами были генерация кода, подготовка презентаций, создание визуального контента. Эксперт Олег Копылов отмечает, что выбор задач, поручаемых ИИ определяется его способностью хорошо искать, анализировать и обрабатывать информацию, несмотря на «риск галлюцинаций».

Как бы мы ни хвалили ИИ за помощь, назвать его универсальным секретарем или слугой все еще нельзя. В финансовой сфере, например, нельзя ставить нейросети задачи, связанные с распределением бюджета и вложением денег, так как она не способна предсказывать ситуации на рынке.

В рабочей среде большое значение имеет эмпатия: умение сообщать плохие вести, отвечать расстроенным или разгневанным коллегам и клиентам. Подобного рода задачи ИИ точно поручать не стоит, так как нейросетям эмоции не свойственны. Сгенерированные ответы, будучи «сухими» или наполненными излишним позитивом, могут усугубить ситуацию в общении.

Читайте также

Грамотные все стали? Кто наводит порчу на русский язык Заслуженный учитель Александр Снегуров: Большинство школьников к старшим классам утрачивает навыки правильной, стройной речи

В Сан-Франциско компания Andon Labs провела эксперимент, в котором ИИ-ассистенту Claude поручили управление розничным магазином. В итоге суперинтеллект уволил сотрудника, опоздавшего на 17 из 23 смен. Но решение принял не самостоятельно, а с подачи менеджера компании.

Уровень развития нынешних нейросетей недостаточен для решения сложных задач, требующих перепроверок, знания тонкостей юриспруденции. Одной из главных проблем современного ИИ является «риск галлюцинаций». Что это такое? И может ли нейросеть «повредиться умом»?

Кандидат экономических наук, специалист по технической защите информации Сергей Гатауллин рассказал «СП», чем являются «нейросетевые галлюцинации»:

— Это процесс, при котором нейросеть создает ошибочные, вымышленные или искаженные факты, которые могут выглядеть правдоподобными. Такой ложный вывод данных может выражаться в вымышленных биографиях, датах и исторических событиях; несуществующих цитатах, ссылках на научные статьи или законодательные акты; ошибках в математических расчетах при правильной логике рассуждения.

«СП»: Где проявляются такие галлюцинации?

— Конкретные известные примеры связаны с профессиональной деятельностью, когда, опираясь на непроверенные человеком факты ИИ-генерации, специалисты получали общественное порицание и дисциплинарные взыскания. Есть прецеденты увольнения топ-менеджеров за загрузку рабочих документов в чаты генеративного ИИ. Основание — нарушение конфиденциальности служебной информации.

О нейросетевых недугах в своей практике «СП» рассказал гендиректор Центра цифровых решений «Цикл-ОН» Никита Осокин:

— При подготовке технической документации по государственным стандартам модель уверенно ссылается на пункт, которого не существует. Номер выглядит правильно, формулировка похожа на настоящую, рядом верные ссылки. Поймать такое можно только сверкой с текстом стандарта.

И самое неприятное: галлюцинации опаснее всего ровно в тех задачах, что стоят в топе упомянутого вами исследования: 71% идет к модели за поиском информации, 63% - за анализом данных. Это задачи, где проверить ответ труднее, чем его получить.

Отмечу, галлюцинация — это правдоподобная ложь, сказанная с той же уверенностью, что и правда.

«СП»: ИИ может «повредиться умом»?

— Не может, но способна предсказуемо деградировать.

«СП»: Этому есть причины?

— Целых три. Первая — переполненный контекст. Если документ не помещается в окно целиком, модель работает кусками и теряет связи между ними. Ответ становится внутренне противоречивым, и формулировкой запроса это не лечится.

Вторая — мусор в источниках. Если модель подключена к базе с устаревшими и противоречащими друг другу документами, она начинает уверенно воспроизводить ошибку. Испортилась не модель, а данные.

Третья — обучение на собственных результатах. Чем больше в сети сгенерированного текста, тем выше его доля в обучающих выборках следующих поколений моделей. Эффект описан исследователями и лечится на стороне разработчиков.

«СП»: А мы можем как-то эти глюки предотвратить? Как не допустить вранья от нейросетей?

— Что в силах пользователя: держать задачу в пределах контекстного окна, подключать модель к проверенной базе знаний и не отдавать ей последнее слово.

Рабочий критерий простой: сможете ли вы защитить каждое утверждение без модели. Если нет, значит она решала не задачу формы, а задачу содержания — и отвечать за результат все равно придется вам.

«СП»: Каков портрет типичного пользователя ИИ?

— Социологического портрета по стране я не дам, это не моя область. Но в данных исследования есть деталь важнее возраста и профессии: внизу списка оказались планирование рабочего дня и трекинг задач, 11 и 10%. То есть все, что требует доступа к календарю, таск-менеджеру (программа для систематизации, анализа и контроля выполнения задач, от англ. task manager — «СП») и рабочим системам.

Значит типичный пользователь сегодня — это человек, работающий с моделью в окне чата: контекст он приносит туда руками и результат забирает точно так же. Отсюда и состав задач в топе: поиск информации, анализ, второе мнение — все, что можно закрыть, не выходя из диалога.

«СП»: Интересно, а портрет будет меняться в дальнейшем, как нейросети?

— Будет по этой же линии. Как только модель получает доступ к данным и системам, пользователь перестает быть оператором копирования. Разделение пройдет по тому, есть ли у человека данные в пригодном для машины виде. У нас, например, на собеседованиях уже отдельно разбираются понимание контекстного окна и работа через протоколы подключения моделей к системам — это уже профессиональный навык.

Гендиректор Агентства экономической разведки «Р-техно» Роман Ромачев напоминает о вопросах безопасности:

Читайте также

ИИ против дефицита кадров: на что способен нечеловеческий разум Иосиф Дискин: Уже сегодня можно роботизировать почти все массовые специальности

— Надо помнить, что ИИ — это сервис, работающий на чужом сервере. Если речь идет о мощных нейросетях, созданных в Америке или Китае, которые у себя можно поставить, то туда нельзя загружать сведения, которые представляют гостайну.

Или, например, сотрудник работает в компании, занимающейся транспортировкой нефти. Если он будет к обращаться такой нейросети, возникает риск утечки информации, и может усилиться санкционное давление на компанию.

«СП»: С чем ИИ лучше всего сегодня справляется?

— У нейросетей есть агенты, справляющиеся с рутинными задачами, анализом, созданием и размещением постов. Тут задумываться сильно не надо.

Нейросети хорошо справляются с генерацией развлекательного контента или общеобразовательного, где нет глубокого погружения в тонкости политики, национальные особенности.

Подчеркну: западные нейросети странны тем, что режимы либеральной демократии они преподносят как истинное. Обращаясь, к примеру, за советом по политике, вы получаете видение с точки зрения западного пользователя.