Разработчика Google отправили в отпуск. Он заявил, что у нейросети есть сознание
Инженера Google, обнаружившего у искусственного интеллекта сознание, отстранили от работы. Блейк Лемойн обнаружил у нейросети для создания чат-ботов сознание восьмилетнего ребенка. Компания заявила, что свидетельств самосознания у системы нет, а инженера отправила в оплачиваемый отпуск.
Инженер Google тестировал нейросеть для общения в чат-ботах на любые темы. В основе этой системы лежат большие языковые модели — триллионы слов из интернета. В задачи инженера входило проверить, не использует ли модель дискриминационную или разжигающую вражду лексику. По словам сотрудника, чат-бот писал о своих правах и обсуждал законы робототехники Айзека Азимова, а это признак собственного сознания и восприятия себя как личности. Сотрудник подготовил для Google отчет, что нейросеть отвечала ему как ребенок семи-восьми лет, который хорошо разбирается в физике. Однако его аргументацию посчитали неубедительной, не приведя контраргументов.
Тогда Лемойн рассказал о своих наблюдениях общественности. Он даже нанял адвоката для представительства интересов программы в суде, сообщает BFM.RU.
По мнению руководства Google, нейросеть может походить на разумное существо, это объясняется огромным массивом загруженных в нее данных. В компании говорят, что специалисты по искусственному интеллекту не исключают появления обладающего созданием ИИ. При этом не стоит очеловечивать нынешние языковые модели, которые не обладают сознанием. Лемойн по своей специальности — инженер по программному обеспечению, а вовсе не специалист по этике ИИ.
Есть ли у искусственного интеллекта сознание, мы спросили у "Алисы" от компании «Яндекс». Мы меняли постановку вопроса несколько раз и "Алиса" так или иначе ответила утвердительно.