Разработчики ChatGPT придумали, как контролировать нейросеть

Представители OpenAI заявили, что скоро в нашей жизни появится Artificial general intelligence (AGI), то есть «искусственный интеллект общего назначения». Речь идет о нейросети, которая способна решать любые задачи не хуже человека, а порой даже лучше.

Чтобы избежать проблем для человечества, разработчики OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI и которые советует взять на вооружение коллегам.

• Развертывать и изучать не слишком мощные ИИ-системы в реальном мире. Такой подход позволит получить опыт работы с ними, а также обратную связь.

• Упростить доступ к ИИ-системам, чтобы изучать их могли все желающие.

• Поддерживать человеческие ценности и предпочтения при разработке нейросети.

• Международные структуры должны работать вместе, чтобы регулировать нейросеть.

• Обмен данными и опытом о прогрессе искусственного интеллекта должен быть открытым.

При этом специалисты OpenAI не скрывают, что у них есть не все решения для потенциальных проблем в будущем.