Разработчик ChatGPT набирает команду, которая будет контролировать ИИ
По словам соучредителя OpenAI Ильи Суцкевера, сейчас у компании «нет вариантов управления или контроля потенциально сверхинтеллектуального искусственного интеллекта». Он также отметил, что пока нет алгоритма, как предотвратить выход ИИ из-под контроля.
В OpenAI прогнозируют, что искусственный интеллект может развиться в течение ближайшего десятилетия.
Новая команда получит название Superalignment. Она в том числе будет разрабатывать ИИ на уровне человеческого. OpenAI намерена выделить 20% своей вычислительной мощности на эти исследования.
Глава OpenAI Сэм Альтман уже давно призывает регулирующие органы обратить внимание на риски ИИ для человечества и даже предлагал ввести лицензирование деятельности искусственного интеллекта.