Маск, Возняк и другие. Тысяча экспертов призвала остановить разработку нейросетей мощнее GPT-4

Открытое письмо с этим предложением опубликовал некоммерческий Институт будущего жизни, его подписали более 1000 человек, включая Илона Маска, главу Stability AI Эмада Мостака, исследователей DeepMind, экспертов Йошуа Бенджио и Стюарта.

Цель обращения к лабораториям, создающим искусственный интеллект, — подождать, пока общие протоколы безопасности для таких конструкций не будут разработаны, внедрены и проверены независимыми экспертами.

Мощные системы искусственного интеллекта следует разрабатывать только тогда, когда мы уверены, что их эффекты будут положительными, а риски — управляемыми», — говорится в письме.

Письмо также содержит описание потенциальных рисков для общества и цивилизации, возникающих со стороны конкурентоспособных систем искусственного интеллекта в виде экономических и политических потрясений.

Ранее сообщалось, что в магазине App Store появилось приложение, программный код которого полностью написал ChatGPT. Человек только наблюдал за процессом и ставил ИИ задачи.