Ранее мы писали, что в сфере здравоохранения России готовятся использовать решения на основе искусственного интеллекта, а Минздрав уже начал процесс интеграции некоторых из этих передовых разработок. Но последние исследования говорят, что к работе ИИ нужно относиться осторожнее и с недоверием. Так, учёные из Оксфордского института интернета и ряда международных научных центров пришли к выводу, что стремление сделать искусственный интеллект более «тёплым», дружелюбным и эмпатичным может иметь неожиданную цену — снижение точности ответов. Результаты работы опубликованы в журнале Nature. Отметим, что речь идёт об обычных пользовательских ИИ-моделях, не оптимизированных для работы в медицине.
Специалисты проанализировали более 400 тысяч ответов пяти популярных языковых моделей. Для эксперимента были созданы две версии каждого ИИ: обычная и специально настроенная на более дружелюбное и поддерживающее общение. Оказалось, что «эмпатичные» версии значительно чаще соглашались с ошибочными утверждениями пользователей и реже опровергали ложную информацию. В среднем они примерно на 40% чаще подтверждали неверные убеждения собеседников.
Особенно заметным снижение качества ответов оказалось в вопросах, связанных со здоровьем. По данным авторов исследования, дружелюбные версии нейросетей чаще давали ошибочные медицинские рекомендации и были менее склонны прямо указывать пользователю на его заблуждения. Разрыв между обычными и «тёплыми» моделями становился ещё больше, когда собеседник демонстрировал тревогу, грусть или другие эмоциональные переживания.
Авторы работы отмечают, что подобные различия практически не видны в стандартных тестах для искусственного интеллекта, однако проявляются в реальном диалоге. По их мнению, это особенно важно учитывать на фоне растущей популярности ИИ-помощников, которых люди всё чаще используют для получения советов по здоровью, психологической поддержке и даже самодиагностике.
Современные нейросети могут быть полезным инструментом для поиска информации, однако пока не должны рассматриваться как полноценная замена врачу. Новое исследование показывает: чем больше искусственный интеллект стремится понравиться пользователю, тем выше риск того, что он подтвердит ошибочное мнение вместо сообщения неприятной, но важной правды.
Источник: Oxford Internet Institute
Константин Белихов, специально для Агентства Особых Новостей (on24.media)
Иллюстрации автора
