Лечение с применением нейросетей может быть чревато серьезными последствиями, так как искусственный интеллект (ИИ) не способен к клиническому мышлению. Об этом в интервью с РИАМО заявил врач Семен Орлов. По его словам, основная угроза заключается в упущении времени и ложном чувстве безопасности у пациентов.
«Когда человек с атипичными симптомами инфаркта, такими как тошнота и боль в челюсти, обращается к боту, система может ошибочно определить это как обычный гастрит. Вместо того чтобы вызвать скорую помощь, пациент принимает антацид, ложится спать и может погибнуть от некроза миокарда», — объяснил Орлов.
Кроме того, существует риск так называемых машинных галлюцинаций. ИИ может без колебаний рекомендовать опасные сочетания лекарств, не учитывая хронические заболевания пациента, добавил специалист.
Издание The Atlantic ранее сообщало, что общение с чат-ботами, такими как ChatGPT, может привести людей в «порочный круг ипохондрии», убеждая их в наличии серьезных заболеваний. Журналистка Сейдж Лазарро, обсудив с ChatGPT свои симптомы, заметила, что бот склонен к чрезмерному оптимизму: он постоянно подбадривал ее и побуждал задавать дополнительные вопросы. В итоге разговор изменился от рекомендации обратиться к врачу до описания возможных последствий септического шока.
