Сверхинтеллект под угрозой: почему лоббисты требуют ограничить развитие ИИ, превосходящего человека

Лоббисты призвали ввести ограничения на разработку систем искусственного интеллекта, которые превосходят человека по интеллекту.

Те из нас, кто достаточно стар, чтобы помнить «Проблему 2000 года», могут почувствовать, что им знакомы предупреждения о технологической катастрофе, которая так и не наступила, но в угрозе, исходящей от всё более интеллектуальных систем ИИ, пожалуй, есть нечто гораздо более правдоподобное.

Сегодняшние ИИ, такие как ChatGPT, всё ещё не так умны, как люди, а значит, мы можем извлекать из них пользу, не беспокоясь о том, что они захватят мир в стиле «Скайнета».

Но даже самый изощрённый чат-бот может вскоре померкнуть в сравнении с появлением настоящего искусственного сверхинтеллекта — ИИ, превосходящего интеллектуальные возможности человека.

На прошлой неделе лоббисты и отраслевые инсайдеры предупредили, что мировые правительства должны обуздать бесконтрольное развитие таких систем из-за угрозы, которую они представляют для человечества.

Хотя ИИ вряд ли когда-либо запустит все ядерные ракеты мира или построит армию роботов, как в кино, он мог бы, например, изобрести разрушительный вирус и затем передать его учёным, утверждая, что это не средство уничтожения человечества, а лекарство от рака или что-то подобное.

Как только ИИ обретёт интеллект выше определённого уровня, вы, возможно, не сможете полностью доверять его мотивам.

Даже сейчас экспериментальные ИИ находили способы вырваться из своих ограничений.

На прошлой неделе в Великобритании депутаты парламента выдвинули идеи по смягчению этих рисков.

«[Мы хотим] многонациональный договор о регулируемой и безопасной разработке сверхинтеллекта — не запрет на инновации или научную деятельность, а подход с приоритетом безопасности к быстрому развитию этой технологии», — написал депутат Даррен Джонс в письме премьер-министру и главе ООН.

Однако вступит ли такой договор в силу до того, как станет слишком поздно, — ещё вопрос.

Источники и материалы для дальнейшего чтения

Материал подготовлен на основе публикации RT, письма депутата Даррена Джонса премьер-министру Великобритании и главе ООН, а также предупреждений лоббистов и отраслевых инсайдеров о рисках, связанных с разработкой искусственного сверхинтеллекта.