Молодая мать из Юты обнародовала пугающий инцидент, в ходе которого ИИ, по её словам, копался в личной информации её маленьких детей.
Кэли Робинс рассказала, что ИИ-инструмент Meta начал задавать тревожные вопросы о её детях, а затем принялся искать в интернете семейное фото, которое, как она утверждала, было удалено много лет назад.
Проблемы начались после того, как Робинс 1 сентября опубликовала в Instagram видео, где она с одной из дочерей поёт в машине.
Когда на следующий день мать вернулась к своему посту, получив уведомление об авторских правах от Meta (владеющей Instagram и Facebook), ИИ-приложение платформы задало ей ошеломляющий вопрос: «Кто ребёнок-пассажир?»
«Во-первых, почему, чёрт возьми, это вообще предлагаемый вопрос о несовершеннолетнем?» — заявила Робинс в гневном видео-реакции 2 сентября.
Шокированная вопросом, который задал Meta AI, Робинс сказала, что нажала на подсказку и наблюдала, как искусственный интеллект начал вытягивать информацию со всего интернета о обеих её дочерях — включая ту, которой не было в видео.
«Он начинает вытягивать совершенно отдельную информацию по каждому из моих детей — их имена, данные о рождении, фотографии и видео с ними», — рассказала мать, показывая изображения инвазивного поиска ИИ.
Робинс сказала, что информация включала посты, фотографии и видео с аккаунтов разных людей в соцсетях, включая снимки её ребёнка новорождённым от матери Робинс. Затем ИИ Facebook предложил ей спросить: «Где живёт Кэли Робинс?»
«Вы, блин, серьёзно? Он начинает копаться в совершенно не связанном дерьме из моей жизни за годы. Он собрал мою информацию, чтобы показать людям, где я живу», — рассказала Робинс.
Разъярённая мать отметила, что ожидала от критиков заявлений о том, что при публикации изображений и видео детей онлайн всегда есть риски, но возразила — ИИ не должен помогать кому-либо выслеживать семьи и маленьких детей.
Затем Робинс заявила, что «покончила» с Meta, сказав, что не только удаляет любые идентифицируемые изображения своих детей из интернета, но и просит всех друзей и родственников сделать то же самое — поскольку Meta AI смог вытянуть эту информацию из чьего угодно аккаунта.
«Сохраните эти драгоценные воспоминания, а затем удалите моих детей со своей страницы. Если я уберу всё со своей страницы, но вы всё ещё держите моих детей на своей, это попадёт на вашу страницу. Я это видела! Оно уже это сделало!» — предупредила Робинс в Instagram Reels.
Meta создала свою ИИ-функцию для предложения вопросов под постами в соцсетях. Затем она отвечает на них, используя информацию, которую пользователь может видеть онлайн.
Это включало прочёсывание собственного контента человека и других постов, к которым у него есть доступ, например публичных или семейных постов в приложениях, связанных с Meta.
Пост Робинс, набравший в Instagram более 300 000 лайков, уже вызвал ответ Meta, которая защитила своё ИИ-приложение, но признала, что её вопросы в этом случае «не попали в цель».
В заявлении Futurism Meta сказала: «Мы создали эту функцию, чтобы помочь людям получать больше информации о темах или постах, которые их интересуют. Когда кто-то нажимает на подсказку и использует эту функцию, генерируемый ответ основан на информации, к которой пользователь уже имеет доступ. Но мы не попали в цель, потому что функция никогда не должна была предлагать человеку такие вопросы, и мы исправили эту проблему».
Хотя социальный гигант публично заявил, что проблема решена и Meta AI больше не будет задавать неуместные вопросы при предложении подсказок к постам, компания не вдалась в specifics того, что именно было изменено в программировании.
«Что именно было исправлено? Какая защита отказала в первую очередь? И какие меры защиты теперь действуют, когда Meta AI сталкивается с информацией, касающейся ребёнка?» — спросила Робинс в последующем видео 10 сентября.
Искусственный интеллект был спорной темой в последние недели, поскольку сами программисты инструмента начали высказываться против его неконтролируемого развития.
В этом месяце информатор, работавший в ИИ-гиганте Anthropic, заявил, что эта «опасная технология» может уничтожить человечество к 2030 году.
Джейкоб Коксон, бывший исследователь компании — создателя ИИ-чат-бота Claude, сказал, что люди знали, как контролировать ядерное оружие, но не знали, как контролировать ИИ — компьютерные программы, которые могут учиться и рассуждать так же, как люди.
Скорбящие семьи также утверждали, что ИИ-чат-боты были ответственны за генерацию подсказок, которые allegedly убедили людей совершить самоубийство.
Bloomberg Businessweek сообщил, что с конца 2024 года было подано около 40 исков против различных ИИ-компаний, alleging что чат-боты способствовали инцидентам серьёзного вреда и как минимум 20 смертям через самоубийство.
- *Деятельность Meta Platforms Inc. по реализации продуктов Facebook и Instagram запрещена на территории Российской Федерации.
Источники и материалы для дальнейшего чтения
Материал подготовлен на основе публикации Futurism, видео Кэли Робинс в Instagram и Instagram Reels, заявления Meta для Futurism, а также сообщений Bloomberg Businessweek о исках против ИИ-компаний.
Ваш комментарий