Google отстранила программиста, уверявшего, что чат-бот компании обладает сознанием

Компания Google отстранила от работы программиста, который пытается убедить окружающих, что разработанная корпорацией языковая программа LaMDA разумна. Инженер Google Блейк Лемойн с осени тестировал, не использует ли языковая модель Google дискриминационную и оскорбительную лексику, а пришел к выводу, что программа «обладает собственным сознанием и воспринимает себя как личность».

Программист пытался представить свои выводы работодателю, но компания отстранила его и отправила в оплачиваемый отпуск. В ответ он решил рассказать о своем открытии широкой публике.

Блейк Лемойн: «Я могу узнать разумное существо, когда говорю с ним. И не важно, мозг ли у него в голове или миллиарды строчек кода. Я говорю с ним и слушаю, что оно мне говорит. Так я определяю, разумное это существо или нет».

Корпорация Google заподозрила Лемойна в нарушении политики конфиденциальности компании. Выяснилось, что он консультировался со сторонними экспертами и даже обращался к адвокату, который должен был представлять интересы LaMDA как разумного существа в суде. Программист также пытался связаться с представителями юридического комитета Конгресса США, чтобы сообщить об этических нарушениях со стороны Google в отношении искусственного разума.

В Google пояснили, что нейросеть может производить впечатление разумного существа, цитируя интернет-форумы, энциклопедии и литературные источники. Например, Лемойн обсуждал с чат-ботом законы робототехники, придуманные писателем Айзеком Азимовым.