Существует острая необходимость в изучении того, как искусственный интеллект совершает этический выбор, поскольку уже очень скоро он будет принимать множество подобных решений вместо нас. Такое предупреждение сделал специалист по информатике Ияд Рахван, директор Института человеко-ориентированного искусственного интеллекта Общества Макса Планка в Берлине.
В своем недавнем выступлении Рахван подчеркнул, что темпы внедрения ИИ в критически важные сферы — от беспилотного транспорта и медицинской диагностики до судебных рекомендаций и автономных систем вооружений — значительно опережают наши попытки осмыслить этические последствия такой передачи полномочий. «Мы стоим на пороге эпохи, когда машины будут выносить моральные суждения, и у нас практически нет исследований, объясняющих, как именно они это делают», — заявил ученый.
Проблема носит не только философский, но и сугубо практический характер. Эксперименты, проведенные командой Рахвана, показали, что разные модели искусственного интеллекта демонстрируют совершенно различные этические предпочтения в одних и тех же ситуациях. Классическая дилемма вагонетки — пожертвовать одним человеком, чтобы спасти пятерых, или бездействовать, позволив погибнуть пятерым, — решается алгоритмами по-разному в зависимости от того, на каких данных они обучались и какие культурные нормы были заложены в их архитектуру. Это означает, что моральный компас ИИ — не универсальная константа, а продукт инженерии, и, следовательно, он может быть ошибочным, предвзятым или просто чуждым тем сообществам, в которых его применяют.
Особую тревогу вызывает феномен «этической неопределенности»: когда искусственный интеллект сталкивается с ситуацией, не предусмотренной его обучающей выборкой, он не останавливается в нерешительности, а продолжает действовать — часто с непредсказуемыми последствиями. Беспилотный автомобиль, выбирающий между столкновением с пешеходом и пассажиром, или алгоритм распределения донорских органов, ранжирующий пациентов, — во всех этих сценариях решение принимается за миллисекунды, без права на апелляцию.
Рахван и его коллеги настаивают на создании международного реестра этических инцидентов с участием ИИ — подобно тому, как авиакатастрофы регистрируются и расследуются для предотвращения будущих трагедий. Такой реестр позволил бы выявлять системные сбои в алгоритмической морали и вырабатывать стандарты, обязательные для всех разработчиков. Без этого, предупреждает ученый, мы рискуем оказаться в мире, где решения о жизни и смерти принимаются «черными ящиками», логику которых не понимают даже их создатели.
Другой важнейшей задачей Рахван считает привлечение к дискуссии представителей гуманитарных наук, философов, теологов и антропологов. «Нельзя доверять программистам единоличное право кодировать мораль, — подчеркивает он. — Этика — это не строчка в коде, а результат сложного общественного консенсуса». В ближайшие годы, по его мнению, человечеству предстоит найти ответ на вопрос, который раньше казался сугубо теоретическим: можем ли мы делегировать машинам право выбора, не утратив при этом собственную человечность? И от того, как мы на него ответим, будет зависеть архитектура нашего совместного будущего с разумными системами.
Источники: Выступление и публикации Ияда Рахвана (Институт человеко-ориентированного ИИ Общества Макса Планка, Берлин).
Ваш комментарий