Когда люди думают о том, что ChatGPT или другие большие языковые модели делают за кулисами, обычно они прибегают к языку вычислений. Вы можете предположить, что существует база данных или логическая последовательность шагов, выполняемых для предоставления ответа на ваш запрос.
Представлять ответы ИИ как нечто похожее на то, как ваш компьютер открывает файл, — это разумный образ мышления. Но это неверно. Понимание центрального влияния когнитивной науки на эволюцию ИИ помогает объяснить, почему.
История ИИ — это не только история информатики. Фундаментальные достижения, породившие сегодняшний ИИ, были совершены людьми, чья цель состояла в том, чтобы понять человеческий разум, а не помочь вам с домашним заданием или планом поездки. Это различие важно, потому что оно помогает лучше объяснить, как эти системы «ведут себя» так, как они себя ведут.
Мы — когнитивные учёные, которые преподают студентам междисциплинарные корни нашей области, включая её глубокие и часто игнорируемые связи с информатикой и ИИ. Существует общая история, которая часто теряется в разговорах о том, что делает ИИ.
Происхождение ИИ часто игнорируется
Термин «искусственный интеллект» был придуман в 1956 году на семинаре в Дартмутском колледже. В то время люди думали, что машину можно сделать разумной, если записать правильный набор правил, которым она должна следовать.
Однако вместо создания машины, следующей правилам, психолог Фрэнк Розенблатт построил в 1958 году машину — Perceptron, — которая училась на примерах. Розенблатт не был на Дартмутском семинаре, но он думал о том, как сделать машину разумной принципиально иным, более человеческим способом. Его ключевая идея состояла в том, чтобы построить искусственную нейронную сеть: компьютерный алгоритм, смоделированный по архитектуре мозга.
Этот подход опирался на работу психологов, таких как Дональд Хебб, которые изучали мозг и поведение. В частности, Хебб исследовал, как нейронные связи усиливаются при использовании, — фундаментальное понимание, которое позже заложило основу машинного обучения.
Дальнейшие достижения появились в 1980-х годах, когда психологи стремились объяснить, как люди выполняют сложные когнитивные задачи, такие как распознавание слов и формирование воспоминаний. Когнитивные и компьютерные учёные вместе — Дэвид Румельхарт, Джеффри Хинтон и Рональд Уильямс — выяснили, как обучать искусственные нейронные сети с несколькими слоями, идея, которая позже стала известна как «глубокое обучение». Эти многослойные нейронные сети были способны на более сложные задачи и обобщение того, что они «выучили», для применения к новым примерам.
В последующие десятилетия компьютерные учёные и инженеры позволили масштабировать вычислительные возможности, разработав графические чипы, архитектуру трансформеров и многое другое. Без этих систем современный ИИ всё ещё с трудом распознавал бы буквы и слова, вместо того чтобы вести реалистичные разговоры на естественном языке. Однако фундаментальные insights пришли из изучения разума: ИИ должен учиться на примерах, и его архитектура должна основываться на человеческом мозге.
Эти основополагающие идеи важны по причинам практичности. Современный ИИ не рождён из правил — он выращен из примеров. И вещи, которые выращены, не так предсказуемы, как системы, основанные на правилах.
Его происхождение помогает объяснить его «поведение»
Человеческие интуиции и ментальные модели о том, как работает технология, управляют тем, как люди её используют. Идея ИИ как программного обеспечения — детерминированного, извлекающего факты — заставляет людей неправильно интерпретировать выдаваемые им результаты.
«Галлюцинации» ИИ распространены; чат-боты часто утверждают ложь. Мысль об ИИ как о базе данных делает это поведение запутанным. Как система может найти ответ, которого не существует? Но человеческая память не «ищет» ответы. Она реконструктивна и несовершенна, заполняя пробелы правдоподобными деталями. Благодаря пионерской работе психолога Элизабет Лофтус исследователи знают, что ложные воспоминания, к сожалению, распространены и могут быть внедрены с относительной лёгкостью.
Система, которая «что-то ищет», даёт одинаковый ответ каждый раз, но поэтому ограничена в ответе на конечный набор вопросов. Человеческие умы работают не так, и ИИ тоже. Цена, которую приходится платить за способность обобщать на новые вопросы и задачи, — это система, склонная к конфабуляции.
Мысль об ИИ как о примитивном мозге также помогает объяснить дополнительные озадачивающие поведения, такие как получение разных ответов на один и тот же вопрос. Спросите вашего маленького ребёнка, что он хочет на ужин, дважды, и вы можете получить разные запросы. Формулировка имеет значение и при взаимодействии с системой ИИ, поскольку эти системы можно подтолкнуть к тому, чтобы дать вам предпочтительные ответы. Они работают вероятностным образом, во многом как человеческая память, а не детерминированным образом, как калькулятор.
Ничто из этого не означает, что ИИ обязательно думает так, как думают люди, если системы вообще думают. Люди и ИИ обычно «воспринимают» вещи по-разному; компьютерное зрение может заметить тонкие аномалии, которые человеческие screening-операторы могут пропустить, но также может неправильно интерпретировать что-то, например, испорченный дорожный знак.
Почему это происхождение всё ещё важно
Если современный ИИ непредсказуем, как люди могут его понять? Ответ — понимая, откуда пришла эта технология. Признание того, что системы ИИ больше похожи на мозги, чем на базы данных, может помочь людям построить более точные ментальные модели того, что ИИ может делать, и может привести к лучшим способам понимания того, как эти системы работают.
Пользователи слишком доверяют не тому. Поскольку значительная доля пользователей ChatGPT указывают, что они используют ChatGPT как поисковую систему, кажется, что люди рассматривают результаты как извлечённый факт, а не как беглые, уверенные догадки. Это непонимание может заставить пользователей пропустить этап проверки, который они, вероятно, применили бы к человеку, и потенциально принимать решения, включая финансовые, основанные на конфабуляции.
Институты борются с разными ментальными моделями. Преподаватели остаются разделёнными между запретом инструментов ИИ и встраиванием их в курс, рассматривая ИИ как производящий ответы, которые нужно проверять, или доверять им как коллегам. Разногласия вызывают путаницу и сеют раздоры среди (и внутри) преподавателей и их студентов.
Информатика заново открывает вопросы когнитивной науки. Сегодняшние системы непрозрачны даже для их создателей. Один из подходов к их пониманию — зондирование того, что входит и что выходит, — напоминает бихевиоризм, когда-то доминирующую область психологии, изучавшую только наблюдаемое поведение. Исследователи сейчас движутся к интерпретируемости: открытию моделей, чтобы увидеть, что происходит внутри, — ближе по духу к нейронауке — и работе над проблемами, которые когнитивные учёные пережёвывали десятилетиями.
Обмен идёт в обоих направлениях. Как информатика черпает из вопросов и методов когнитивной науки, так и когнитивная наука черпает из доступности самих моделей ИИ, используя их для проверки и уточнения теорий разума. Информатика и когнитивная наука отделились от одного проекта десятилетия назад: понимания того, как работает интеллект. Чем больше эти области обмениваются вопросами и инструментами, тем лучше будет положение человечества.
Понимание когнитивных корней ИИ имеет не только академическое значение. Оно влияет на то, как мы разрабатываем, регулируем и используем эти системы.
Если мы будем думать об ИИ как о базе данных, мы будем ожидать от него точности и надёжности, которых он не может обеспечить. Если мы будем думать о нём как о мозге, мы будем понимать его ограничения и использовать его более эффективно.
Для разработчиков это означает необходимость интеграции когнитивных наук в процесс создания ИИ. Для регуляторов — необходимость учитывать вероятностную природу систем при разработке законов. Для пользователей — необходимость критического мышления при взаимодействии с ИИ.
ИИ не думает как человек. Но он вырос из попыток понять, как думает человек. И это понимание — ключ к тому, чтобы использовать его мудро.
Источники: The Conversation, Дартмутский семинар 1956 года, работа Фрэнка Розенблатта, Дональда Хебба, Дэвида Румельхарта, Джеффри Хинтона, Рональда Уильямса, Элизабет Лофтус, исследования в области когнитивной науки и ИИ.
Ваш комментарий