Разработчики ChatGPT придумали, как контролировать нейросеть

Источник:
Office Life
27.02.2023 20:28
Компания OpenAI, которая разработала ChatGPT, задумалась о последствиях распространения нейросети. В итоге ее специалисты сформулировали принципы, которые помогут контролировать искусственный интеллект.

Фото: Getty Images

Представители OpenAI заявили, что скоро в нашей жизни появится Artificial general intelligence (AGI), то есть «искусственный интеллект общего назначения». Речь идет о нейросети, которая способна решать любые задачи не хуже человека, а порой даже лучше.

Чтобы избежать проблем для человечества, разработчики OpenAI предложили набор принципов, которыми команда руководствуется в своей работе над AGI и которые советует взять на вооружение коллегам.

  • Развертывать и изучать не слишком мощные ИИ-системы в реальном мире. Такой подход позволит получить опыт работы с ними, а также обратную связь.

  • Упростить доступ к ИИ-системам, чтобы изучать их могли все желающие.

  • Поддерживать человеческие ценности и предпочтения при разработке нейросети.

  • Международные структуры должны работать вместе, чтобы регулировать нейросеть.

  • Обмен данными и опытом о прогрессе искусственного интеллекта должен быть открытым.

При этом специалисты OpenAI не скрывают, что у них есть не все решения для потенциальных проблем в будущем.