Разработчики ChatGPT придумали, как контролировать нейросеть
Представители OpenAI заявили, что скоро в нашей жизни появится Artificial general intelligence (AGI), то есть «искусственный интеллект общего назначения». Речь идет о нейросети, которая способна решать любые задачи не хуже человека, а порой даже лучше.
Чтобы избежать проблем для человечества, разработчики OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI и которые советует взять на вооружение коллегам.
Развертывать и изучать не слишком мощные ИИ-системы в реальном мире. Такой подход позволит получить опыт работы с ними, а также обратную связь.
Упростить доступ к ИИ-системам, чтобы изучать их могли все желающие.
Поддерживать человеческие ценности и предпочтения при разработке нейросети.
Международные структуры должны работать вместе, чтобы регулировать нейросеть.
Обмен данными и опытом о прогрессе искусственного интеллекта должен быть открытым.
При этом специалисты OpenAI не скрывают, что у них есть не все решения для потенциальных проблем в будущем.