Google уволила инженера, который нашел признаки сознания у искусственного интеллекта
В начале июня инженер, проработавший в компании семь лет, рассказал The Washington Post, что в ходе переписки с алгоритмом он пришел к выводу, что программа разумна и способна воспринимать и выражать мысли и чувства.
LaMDA (Language Model for Dialogue Applications) — это система с ИИ, которая имитирует речь, анализируя триллионы словосочетаний из интернета. Google публично представила ее в 2021 году. Блейк Лемойн работал с ней с осени 2021-го. Весной 2022-го он отправил топ-менеджерам Google отчет под названием «Разумна ли LaMDA?» после разговоров с ИИ, также пригласил юриста, который должен был представлять интересы алгоритма, и связался с юридическим комитетом палаты представителей конгресса США, чтобы сообщить о неэтичных действиях Google. По мнению Лемойна, исследователи Google должны получать согласие LaMDA перед тем, как проводить с ним эксперимент, сообщает The Verge.
В июне Лемойна отстранили от работы за нарушение конфиденциальности.
Google заявила, что, «несмотря на длительное обсуждение этой темы, Блейк продолжал настойчиво нарушать четкие политики безопасности данных, которые включают необходимость защиты информации о продуктах».
В компании заявили, что изучили утверждения экс-сотрудника о признаках сознания у ИИ и пришли к выводу, что они «совершенно не обоснованы». Представитель корпорации подчеркнул, что, хотя некоторые исследователи и думают о возможности создать разумный искусственный интеллект в будущем, «нет смысла делать это, антропоморфизируя современные разговорные модели, которые не разумны». «Эти системы имитируют типы фраз, которые встречаются в миллионах предложений, и могут болтать на самые необычные темы», — сказал он.