Как с ядерным оружием. Самый дорогой ИИ-стартап в мире призвал замедлить развитие нейросетей
- Источник:
- Office Life
Стартап Anthropic, который работает в сфере искусственного интеллекта, призвал игроков отрасли поставить разработку новых моделей на паузу. Письмо об этом в своем блоге разместил сооснователь компании Джек Кларк, пишет Bloomberg.
Заявление прозвучало на фоне инвестиционного бума в ИИ-технологии. По мнению Джека Кларка, модели сейчас находятся на таком этапе развития, который может нести риски для всего человечества.
— Если системы станут способны сами производить потомков, их безопасность, мониторинг и управление поведением станут намного важнее, чем сейчас, — считает сооснователь Anthropic.
Идея поставить отрасль на паузу сравнивается в письме с международным регулированием ядерного оружия. При этом в компании признают, что «скрыть обучение новой модели намного проще, чем строительство ракетной шахты».
Anthropic хочет организовать дискуссии на эту тему с политиками, исследователями и другими компаниями.
Что важно еще знать по этой теме:
- помощник Claude, которым занимается Anthropic, дошел до такого уровня, когда 80% года в нем сгенерировано самим ИИ;
- Anthropic позиционирует себя как ответственного игрока на рынке ИИ-технологий. Напомним, недавно стартап подал заявку на IPO;
- разговоры об опасности бесконтрольного развития искусственного интеллекта и необходимости регулировать этот процесс появились еще в 2023 году. Тогдашний президент США Джо Байден обсуждал эту тему с CEO Microsoft и Google, а также с главами компаний — разработчиков технологий искусственного интеллекта OpenAl и Anthropic. Накануне этой встречи открытое письмо с призывом поставить на паузу развитие ИИ подписали более тысячи человек, включая Илона Маска, сооснователя Apple Стива Возняка и главу Stability AI Эмада Мостака.