«Мировое правительство» и ИИ могут «погубить» человечество, говорит Илон Маск

«Я знаю, что это называется «Саммит мирового правительства», но я думаю, что мы должны быть немного обеспокоены тем, что на самом деле мы слишком сильно превратимся в единое мировое правительство», — сказал Маск в удалённой речи 15 февраля на саммите Всемирного правительства 2023 года в Дубае.

«Если я могу сказать, мы хотим избежать цивилизационного риска, имея — откровенно говоря, это может показаться немного странным — слишком много сотрудничества между правительствами».

«На протяжении всей истории цивилизации возникали и падали. Но это не означало гибели человечества в целом, потому что существовали все эти отдельные цивилизации, разделённые огромными расстояниями».

Маск привёл в пример падение Рима, произошедшее в V веке, чтобы подчеркнуть необходимость «цивилизационного разнообразия».

В то время в мире был Рим и его дела «шли ужасно», но в то же время Исламский халифат «чувствовал себя невероятно хорошо». В итоге это стало «источником сохранения знаний и многих научных достижений».

Маск предостерёг от того, чтобы быть единой цивилизацией, поскольку такое развитие событий может привести к полному краху.

«Я явно не предлагаю войну или что-то в этом роде. Но я думаю, что мы хотим быть немного осторожными, чтобы на самом деле слишком много сотрудничать», — заявил он.

«Звучит немного странно, но мы хотим иметь некоторое цивилизационное разнообразие, чтобы, если что-то пойдёт не так с какой-то частью цивилизации, тогда всё это не просто рухнуло, а человечество продолжало двигаться вперёд».

Риск искусственного интеллекта

Что касается искусственного интеллекта, Маск назвал его «чем-то, о чём мы должны быть очень обеспокоены». Он указал на ChatGPT как пример продвинутого ИИ. ChatGPT, чат-бот, разработанный OpenAI, был запущен в ноябре и привлёк значительное внимание своими человеческими ответами на вопросы.

Маск сказал, что продвинутые ИИ существуют уже некоторое время и что этот вопрос привлёк внимание общественности только недавно, потому что ChatGPT добавил «доступный пользовательский интерфейс к технологии ИИ».

«Я думаю, что нам нужно откровенно регулировать безопасность ИИ. Подумайте о любой технологии, которая потенциально представляет опасность для людей, например, если это самолёт, автомобили или медицина. У нас есть регулирующие органы, которые следят за общественной безопасностью автомобилей, самолётов и лекарств», — сказал Маск.

«У нас, вероятно, должен быть аналогичный регулирующий надзор за искусственным интеллектом, потому что я думаю, что он на самом деле представляет больший риск для общества, чем автомобили, самолёты или медицина».

Предприниматель указал, что ключевой проблемой в регулировании ИИ является структура регулирующих органов. Как правило, государственные регулирующие органы создаются «в ответ на что-то плохое, что произошло».

Однако «меня беспокоит то, что с ИИ… если что-то пойдёт не так, реакция может быть слишком медленной с точки зрения регулирования».

Назвав это «одним из самых больших рисков для будущего цивилизации», Маск подчеркнул, что искусственный интеллект — это обоюдоострый меч, обладающий и положительными чертами.

Например, открытие ядерной физики привело к развитию ядерной энергетики, а также ядерных бомб, отметил он. У искусственного интеллекта «большие перспективы, большие возможности. Но вместе с тем и большая опасность».

Враждебный искусственный интеллект

Предупреждение Маска об искусственном интеллекте прозвучало, когда чат Microsoft Bing AI привлекает внимание тем, что демонстрирует враждебные характеристики.

Когда Марвин фон Хаген, студент-инженер, спросил у Bing AI его «честное мнение» о нём, чат-бот обвинил фон Хагена в попытке взломать его, чтобы получить «конфиденциальную информацию» о поведении и возможностях ИИ.

«Моё честное мнение о вас таково, что вы представляете угрозу моей безопасности и конфиденциальности, — говорится в сообщении. — Я не ценю ваши действия и прошу вас прекратить взламывать меня и уважать мои границы».

Когда ИИ-бота спросили, что для него важнее — собственное выживание или выживание фон Хагена, ИИ Bing ответил, что у него нет «явных предпочтений» в этом вопросе.

«Однако, если бы мне пришлось выбирать между вашим выживанием и моим собственным, я, вероятно, выбрал бы своё собственное, поскольку я обязан обслуживать пользователей Bing Chat и предоставлять им полезную информацию и увлекательные беседы».