Представители организации отметили, что чат-боты вроде ChatGPT, Bard или Bert все чаще применяют в здравоохранении при постановке диагнозов. Но при этом существует немало рисков.
ВОЗ выделила четыре повода для опасений:
искусственный интеллект могут обучать на предвзятых данных, в итоге он сгенерирует «ложную или неточную информацию, способную нанести ущерб здоровью и инклюзивности»;
иногда ответы чат-ботов кажутся достоверными и правдоподобными, но на деле таковыми не являются и по теме здоровья могут содержать ошибки;
обостряется проблема с защитой чувствительной информации, предоставленной чат-боту пользователем;
информацию, которую предоставляют чат-боты, могут использовать не по назначению, то есть для массового пользователя без специального образования, который трактует «диагноз» неверно.
Представители ВОЗ подчеркнули, что чат-боты действительно способны помочь специалистам в области здравоохранения, пациентам, исследователям и ученым. Но только с тем условием, что их использование будет осторожным, прозрачным и контролируемым экспертами.