Что стоит за сообщениями о созданном Google разумном ИИ?
В середине июня Google уволила одного сотрудника. Казалось бы, дело житейское – в компании работают более 130 тысяч человек. Но тут СМИ взорвались: «Google уволил программиста, который заявил, что созданный компанией ИИ обладает разумом». Даже известный политический обозреватель Такер Карлсон сообщил: «Эта история из тех, что может бесповоротно изменить нашу жизнь». Многие отметили, что инженер, работавший над прорывным проектом, еще и священник. И что интересно, всё как бы правда. Только правда, отраженная в очень кривом зеркале.
Нашего героя зовут Блейк Лемойн. Фамилия читается на американский манер, хотя она французская, а в Twitter он зарегистрирован как «каджун-дискордианец». Дискордианство – такой пародийный культ Эриды (римской Дискордии), богини раздора, той самой, что подбросила яблоко, положившее начало описанной Гомером войны. Этот культ нафаршировали всякой всячиной из псевдовосточных учений и разных философских «измов», а в качестве фундаментального принципа провозгласили «строгое убеждение в том, что любое строгое убеждение ошибочно». Каджуны – самобытная франкоязычная группа на юге страны, в основном в Луизиане. Туда и перебрался Блейк из родного Сан-Франциско, чтобы изучать информатику.
Луизианский университет – странный выбор для того, кто якобы с детства мечтал стать программистом. Этот вуз занимает скромное место в хвосте второй сотни национального рейтинга, и знаменит главным образом своими программами в области зеленого перехода и устойчивого развития. Среди его выпускников трудно найти выдающихся ученых, зато полно представителей креативных профессий, много политиков, а больше всего профессиональных спортсменов, составляющих предмет особой гордости любого американского университета. Лемойн закончил бакалавриат, магистратуру и даже защитил диссертацию. В интернете нашлась одна научная статья на семь страниц, написанная им в соавторстве с двумя коллегами, – про уменьшение искажений в процессе состязательного обучения алгоритмов машинного обучения.
Блейк Лемойн @cajundiscordian / Blake Lemoine / Twitter
В 2015-м Лемойн устроился на работу в Google. Сейчас он старший инженер по программному обеспечению. Это просто название должности. К написанию кода его работа не имеет никакого отношения. Лемойн входит в группу по этике ИИ. Следит за тем, чтобы компьютерные мозги вели себя прилично: не ругались матом, не обзывались, не хамили – а то уже были нехорошие прецеденты. Раз уж начался разговор об этике, стоит разобраться с тем, какой Лемойн священник. Некоторые свои посты он действительно подписывает как жрец культа «Клёвой Магдалины». По-английски – COOL Magdalene, именно большими буквами, потому что это еще и сокращение от Cult of Our Lady Magdalene. У Лемойна вообще очень насыщенная духовная жизнь: «Я уже 17 лет как жрец. Считаю себя гностическим христианином. Но в разное время ассоциировал себя и с дискордианцами, и с Орденом восточных тамплиеров (с рыцарями-храмовниками эта структура никак не связана, являясь по сути сообществом последователей оккультиста Алистера Кроули. – «Профиль» ), и с разными викканскими группами (неоязычники с весьма либеральными взглядами на мораль. – «Профиль»), а когда-то был просто католиком. Я рукоположен Универсальной церковью жизни (спиритуалисты из так называемых Новых религиозных движений, придерживающиеся полной свободы вероисповедания и дающие сан любому желающему. – «Профиль»). Имею право заключать браки в штате Луизиана и уже провел две церемонии. Что касается культа Магдалины, его ценности ясно изложены на нашем веб-сайте». Но самое главное: и Лемойн, и его помощник, и машина рассуждают о разумности. Но о какой разумности идет речь? Это не интеллект, как можно было бы предположить, задавшись вопросом: разумен ли искусственный разум? Здесь речь о том, что называется «сентиентность». Это особая способность чувствовать. С одной стороны, она противопоставляется рассудительному думанию, с другой – отличается от «простых» сенсорных ощущений. Сентиентной, например, является способность испытывать чувство комфорта или обиды. И всё это квалиа – свойства нашего чувственного опыта, то, как вещи выглядят для нас, как мы их осознаем. Настоящий переворот произвела в 1974 году статья американского философа Томаса Нагеля «Каково быть летучей мышью?». Он утверждает, что поскольку летучая мышь воспринимает окружающий мир с помощью недоступных нам органов чувств, ее сознание непостижимо для нас с помощью научного метода.
На Западе философия сознания, которая, кстати, дословно называется «философией разума», очень популярное, даже модное направление. С этой точки зрения сентиентное существо и есть разумное, в смысле сознательное. Если вы читаете, что «в Британии осьминогов и омаров официально признали разумными существами», можете быть уверены: речь о сентиентности, а не о сапиентности, под которой понимают специфически человеческие когнитивные способности. Иногда в прямом биологическом смысле принадлежности к Homo sapiens. Это упрощает ответ на вопрос: может ли машина быть разумной? Нет по определению! С другой стороны, это делает общую картину еще сложнее. Возможен ли интеллект без сознания и наоборот? Может ли нечто, не имея сознания, утверждать, что оно у него есть? Должно ли нечто принадлежать к Homo, чтобы считаться человеком? Действительно ли язык – это то, что отличает нас (и только нас) от других (животных)?
А Лемойн между тем продолжает бойко раскручивать историю. Не так давно он заявил, что LaMDA попросил нанять ему адвоката, и утверждает, что уже готовит от его имени нужные бумаги. Шоу продолжается. Как и поиски ответа на вопрос: «Что есть человек?» Есть робкая надежда, что именно ИИ поможет найти на него ответ. Вот только не факт, что этот ответ нам понравится.