В новой версии ChatGPT нашли уязвимости. Ее взломали за одни сутки

Фото: «Коммерсантъ»

Например, специалисты компании NeuralTrust в результате серии несложных манипуляций заставили чат-бот показать им пошаговые инструкции для изготовления оружия.

А команда SPLX (ранее известная как SplxAI) пришла к выводу, что последний вариант ChatGPT «практически непригоден для корпоративного использования без дополнительных изменений».

В результате создатели забрали пятую модель на доработку, а платным подписчикам вернули старую версию буквально через несколько дней после обновления.

Обучить модель сейчас может любой специалист по data science: скачиваешь модель, загружаешь данные и обучаешь. Но пропорций, в которых нужно добавлять данные, никто толком не знает. Это все эксперименты. В данном случае, скорее всего, поторопились с релизом», — прокомментировал эксперт по искусственному интеллекту сервиса «Битрикс24» Александр Сербул.

Кстати, по результатам тестов эксперты признали самой надежной моделью ИИ из всех ранее созданных компании OpenAI предыдущую версию — ChatGPT-4o.