Искусственный интеллект не может заменить врача, а в некоторых случаях способен усугубить ситуацию, идя на поводу у пользователя. Об этом рассказал главный редактор аналитического издания Runet Владимир Зыков. Главная опасность, по его словам, в том, что человек быстро начинает воспринимать ответы нейросети как мнение специалиста, хотя перед ним все же не врач, пишет RT.
"Модель может хорошо поддерживать разговор, задавать вопросы, помогать разложить мысли по полочкам, но это ещё не означает, что она правильно оценивает психическое состояние человека", – пояснил эксперт.
Более тонкая проблема, отметил Зыков, заключается в том, что ИИ во многом следует за логикой самого пользователя. Если человек приходит с сильным подозрением, страхом или уже готовой версией происходящего и ищет ей подтверждение, модель рискует начать подкреплять эту версию.
"Получается своего рода эффект очень убедительного собеседника, который иногда недостаточно спорит с человеком там, где как раз стоило бы усомниться в исходной предпосылке", – предупредил аналитик.
Особенно осторожно к таким разговорам, подчеркнул Зыков, стоит относиться при тяжелой депрессии, мании, психозе, параноидальных идеях или вопросах назначения препаратов – ошибка здесь может иметь серьезные последствия.
"ИИ полезен как дополнительный инструмент, которому можно выговориться, сформулировать проблему, подготовиться к разговору со специалистом, получить общую информацию, – заключил он. – Но заменять им профессиональную помощь, особенно в сложных состояниях, точно не стоит".