Безопасность ИИ – чего ждать от искусственного интеллекта?
Стремительное развитие сферы искусственного интеллекта заставляет учёных волноваться. К примеру, Стивен Хокинг уже не первый год призывает исследователей уделять повышенное внимание сфере безопасности ИИ. На днях физик, космолог и профессор Массачусетского технологического института Макс Тегмарк выпустил книгу под названием «Life 3.0: Being Human in Age of Artificial Intelligence». В ней он углубился в суть темы. О том, стоит ли уже сейчас переживать об опасном потенциале ИИ, и о том, будет ли положено начало восстанию машин, попытался разобраться ресурс The Verge.
В интервью The Verge физик и космолог попытался объяснить, почему вопрос безопасности ИИ сегодня является приоритетным. Тегмарк рассматривает ИИ в ключе чуть ли не самого эффективного двигателя прогресса, который непременно повлияет на все аспекты жизни человечества: на преступность и правосудие, на стратегию будущих войн, на рынок трудоустройства и, разумеется, на нас самих. И хотя Тегмарк в вероятность повторения сценария культового фильма «Терминатор» не верит, он все же считает, что об ИИ сегодня мы знаем все-таки недостаточно.
Ученый размышляет о жизни, как о любом другом процессе. К примеру, концепция «Life 1.0» — это сама простая стадия, схожая с жизненным циклом бактерии. Их главная беда заключается в том, что на протяжении всей своей жизни они ничему не могут научиться, а вот эволюция при смене нескольких поколений может сделать это возможным. Между тем нам, человечеству, он отводит ступень «Life 2.0». Мы умеем учиться, более того, обладаем огромным потенциалом к загрузке так называемого «нового ПО» — новых знаний. А вот уже «Life 3.0» — это жизнь, которая полностью выходит за рамки привычного и доступного. Тегмарк отмечает, что если мы создадим ИИ, который будет таким же умным, как и человек, то логично предположить, что тот сможет создать собственное ПО для самостоятельного обучения чему-то новому. Кроме того, ИИ можно совершенствовать, и все эти изменения будут действительно заметными, чего нельзя сказать о человеке. Люди могут устанавливать кардиостимуляторы, заменять суставы на искусственные, но по-настоящему кардинальных изменений мы претерпеть не можем, а вот ИИ эта задача по плечу.
Тегмарк считает, что ИИ станет либо самым лучшим, либо самым худшим, что когда-либо случалось с нами. В первом случае на искусственный интеллект возлагаются серьезные надежды, ведь с его помощью можно будет решить массу проблем, которые нам, людям, пока не по зубам. А сверхчеловеческий интеллект вполне может справиться с вопросами изменения климата, бедности, заболеваний и многими-многими другими задачами. Макс Тегмарк верит в то, что с ИИ нас ждет действительно великое будущее. Однако прежде чем это случится, на тщательную проработку множества ключевых нюансов по реализации может уйти до 30 лет, тем не менее уделить им внимание нужно именно сейчас. Сегодня в ИИ инвестируются миллиарды и миллиарды долларов, а на исследования безопасности выделяются крохи. И Тегмарк считает, что такое положение дел нуждается в переосмыслении.
