ВОЗ усомнилась в точности диагнозов от ChatGPT

Представители организации отметили, что чат-боты вроде ChatGPT, Bard или Bert все чаще применяют в здравоохранении при постановке диагнозов. Но при этом существует немало рисков.

ВОЗ выделила четыре повода для опасений:

• искусственный интеллект могут обучать на предвзятых данных, в итоге он сгенерирует «ложную или неточную информацию, способную нанести ущерб здоровью и инклюзивности»;

• иногда ответы чат-ботов кажутся достоверными и правдоподобными, но на деле таковыми не являются и по теме здоровья могут содержать ошибки;

• обостряется проблема с защитой чувствительной информации, предоставленной чат-боту пользователем;

• информацию, которую предоставляют чат-боты, могут использовать не по назначению, то есть для массового пользователя без специального образования, который трактует «диагноз» неверно.

Представители ВОЗ подчеркнули, что чат-боты действительно способны помочь специалистам в области здравоохранения, пациентам, исследователям и ученым. Но только с тем условием, что их использование будет осторожным, прозрачным и контролируемым экспертами.