Эксперты назвали топ-3 опасностей для пользователей чат-ботов

Первая опасность: для доступа к решениям на основе нейросетей пользователи могут использовать неофициальные «сервисы-прослойки». Речь идет о сторонних сайтах, приложениях или ботах в мессенджерах. В таком случае данные пользователей могут оказаться скомпрометированы. В придачу под видом приложений и сайтов нейросетей злоумышленники распространяют вредоносные программы и фишинг.

Вторая опасность: чат-боты могут выдавать неверную информацию из-за «галлюцинаций». У этого могут быть серьезные последствия.

Третья опасность: т. н. феномен подхалимства нейросетей, которые склонны соглашаться с мнением пользователя, приводят аргументы в его поддержку.

К примеру, в России исследования показали, что каждый пятый пользователь допускает возможность дружбы с нейросетью, а три четверти положительно относятся к идее ИИ-сервисов для поиска романтического партнера.

Эксперты рекомендуют работать только с официальными приложениями и сервисами, общаться с чат-ботом как с незнакомым человеком, не делиться с ним личными и корпоративными конфиденциальными данными. Важно перепроверять информацию, которую вам предоставил чат-бот, а также использовать специальные защитные решения.