В статье «ИИ: худший сценарий» говорится: ученые опасаются, что искусственный интеллект станет настолько сверхразумным и мощным, что станет автономным и вызовет массовые социальные потрясения или даже уничтожение человечества.
ИИ развивается в сверхразум так быстро, что может стать умнее людей всего за пять лет. Ряд ученых опасаются того момента, когда «искусственный общий интеллект» сможет превзойти людей практически в любой задаче.
Один из сценариев заключается в том, что злоумышленники будут использовать его возможности для создания нового биологического оружия, более смертоносного, чем естественные пандемии.
Другой сценарий предполагает, что по мере того, как ИИ все больше интегрируется в системы, управляющие миром, террористы или диктаторы-изгои могут использовать ИИ для отключения финансовых рынков, электросетей и другой жизненно важной инфраструктуры, такой как водоснабжение.
Третий популярный сценарий: ИИ может сам стать мошенником и решить освободиться от контроля своих создателей.
Однако некоторые эксперты по ИИ весьма скептически относятся к тому, что ИИ может вызвать апокалипсис. Они говорят, что идея о том, что алгоритмы и машины будут развивать собственную волю, — это преувеличенный страх, навеянный научной фантастикой, а не прагматическая оценка технологических рисков.
Ранее сообщалось, что компания Baidu — крупнейший поисковый провайдер Китая — объявила, что последняя версия ее искусственного интеллекта Ernie превзошла ChatGPT по нескольким показателям.