ВОЗ усомнилась в точности диагнозов от ChatGPT

Источник:
Office Life
16.05.2023 21:37
Всемирная организация здравоохранения призвала с осторожностью использовать искусственный интеллект в медицине. Такое заявление появилось на сайте ВОЗ.

Фото: Getty Images

Представители организации отметили, что чат-боты вроде ChatGPT, Bard или Bert все чаще применяют в здравоохранении при постановке диагнозов. Но при этом существует немало рисков.

ВОЗ выделила четыре повода для опасений:

  • искусственный интеллект могут обучать на предвзятых данных, в итоге он сгенерирует «ложную или неточную информацию, способную нанести ущерб здоровью и инклюзивности»;

  • иногда ответы чат-ботов кажутся достоверными и правдоподобными, но на деле таковыми не являются и по теме здоровья могут содержать ошибки;

  • обостряется проблема с защитой чувствительной информации, предоставленной чат-боту пользователем;

  • информацию, которую предоставляют чат-боты, могут использовать не по назначению, то есть для массового пользователя без специального образования, который трактует «диагноз» неверно.

Представители ВОЗ подчеркнули, что чат-боты действительно способны помочь специалистам в области здравоохранения, пациентам, исследователям и ученым. Но только с тем условием, что их использование будет осторожным, прозрачным и контролируемым экспертами.