«Диагноз от ИИ? Опасная игра»: почему советам нейросетей нельзя верить на слово

Эксперт в области медицинского искусственного интеллекта (ИИ) Борис Зингерман предупредил: нейросети могут помогать с информацией о здоровье, но полагаться на них как на врача — рискованно.

По его словам, популярность чат-ботов объясняется удобством — они всегда доступны, быстро отвечают и не требуют записи, в отличие от врачей. Однако качество таких советов остается под вопросом.

Исследование, опубликованное в BMJ Open, показало: лишь около половины ответов ИИ не вызвали сомнений у специалистов. Треть рекомендаций оказалась спорной, а почти 20% — потенциально опасной.

Зингерман подчеркивает: ответственность за использование таких советов лежит на самом человеке.

Ситуация похожа на поиск симптомов в интернете — среди полезной информации легко встретить недостоверные или даже вредные рекомендации.

При этом эксперт признает, что в отдельных случаях ИИ может быть полезен — например, при анализе редких заболеваний благодаря способности обрабатывать большие объемы данных.

Но даже тогда его выводы необходимо проверять: у врача, через дополнительные источники или хотя бы с помощью других систем.

Главный вывод — нейросети могут быть лишь вспомогательным инструментом, но не заменой медицинской диагностики. Ошибки возможны всегда, даже в специализированных системах, пишет НСН.

Ранее сообщалось, что новые ИИ-инструменты для поиска уязвимостей в программном обеспечении вряд ли приведут к глобальным угрозам или перевернут рынок кибербезопасности.