Носимые ИИ-устройства угрожают свободе воли человека
Большинство людей не осознают всю глубину угрозы, которую искусственный интеллект вскоре начнет представлять для человеческой субъектности. Расхожее мнение гласит, что «ИИ — это просто инструмент», и, как любой инструмент, его польза и вред зависят от того, как люди его используют. Это устаревшее мышление. ИИ переходит от роли инструментов, которыми мы пользуемся, к роли протезов, которые мы носим. Это создаст серьезные новые угрозы, к которым мы совершенно не готовы.
Нет, я говорю не о жутких мозговых имплантатах. Эти работающие на базе ИИ протезы станут массовыми продуктами, которые мы будем покупать на Amazon или в Apple Store и рекламировать под дружелюбными названиями вроде «ассистенты», «тренеры», «вторые пилоты» и «репетиторы». Они принесут реальную пользу в нашу жизнь — настолько большую, что мы почувствуем себя в невыгодном положении, если другие носят их, а мы нет. Это создаст быстрое давление в пользу массового внедрения.
Протезные устройства, о которых я говорю, — это «носимые гаджеты на базе ИИ», такие как умные очки, кулоны, значки и наушники. Ваш носимый ИИ будет видеть то, что видите вы, и слышать то, что слышите вы, отслеживая при этом, где вы находитесь, что делаете, с кем обстоят дела и чего вы пытаетесь достичь. Затем, без необходимости говорить хоть слово, эти ментальные помощники будут шептать советы вам на укр или выводить подсказки перед глазами.
Разница между инструментом и протезом может показаться незначительной, но последствия для человеческой субъектности огромны. Это лучше всего понять через простой анализ входа и выхода. Инструмент принимает человеческий ввод и генерирует усиленный вывод. Инструмент может сделать нас сильнее, быстрее или позволить нам летать. Ментальный протез, с другой стороны, образует петлю обратной связи вокруг человека, принимая ввод от пользователя (путем отслеживания его действий и вовлечения в разговор) и генерируя вывод, способный немедленно повлиять на мышление пользователя.
Эта обратная связь меняет все. Дело в том, что носимые на теле устройства с ИИ смогут отслеживать наше поведение и эмоции и использовать эти данные, чтобы убедить нас поверить в то, чего нет на самом деле, купить то, в чем мы не нуждаемся, или принять взгляды, которые, как мы бы в противном случае поняли, не отвечают нашим интересам. Это называется проблемой манипулирования с помощью ИИ, и мы не готовы к этим рискам. Это насущная проблема, поскольку крупные технологические компании спешат вывести эти продукты на рынок.
Почему петли обратной связи так опасны?
В современном мире все вычислительные устройства используются для целенаправленного влияния в интересах платящих спонсоров. Носимые продукты с ИИ, скорее всего, продолжат эту тенденцию. Проблема в том, что этим устройствам можно легко задать «цель влияния» и поставить задачу оптимизировать их воздействие на пользователя, адаптируя свою разговорную тактику для преодоления любого обнаруженного сопротивления. Это превращает концепцию целенаправленного влияния из картечи социальных сетей в самонаводящиеся ракеты, которые искусно обходят вашу защиту. И тем не менее, политики не осознают этот риск.
К сожалению, большинство регуляторов по-прежнему рассматривают опасность ИИ через призму его способности быстро генерировать традиционные формы влияния (дипфэйки, фальшивые новости, пропаганду). Конечно, это серьезные угрозы, но они и близко не так опасны, как интерактивное и адаптивное влияние, которое вскоре может получить широкое распространение через разговорных агентов, особенно когда эти агенты ИИ путешествуют с нами по жизни внутри носимых устройств.
Это скоро произойдет
Meta, Google и Apple спешат выпустить носимые ИИ-продукты как можно быстрее. Чтобы защитить общественность, политикам необходимо отказаться от концепции «использования инструментов» при регулировании устройств с ИИ. Это сложно, потому что метафора использования инструментов восходит к 35-летней давности, когда Стив Джобс красочно описал ПК как «велосипед для ума». Велосипед — это мощный инструмент, который позволяет ездоку полностью контролировать ситуацию. Носимый ИИ перевернет эту метафору с ног на голову, заставляя нас задуматься о том, кто же управляет велосипедом — человек, агенты ИИ, шепчущие человеку на уши, или корпорации, которые развернули этих агентов? Я считаю, что это будет опасная смесь всех трех факторов.
Кроме того, пользователи, скорее всего, будут доверять голосам ИИ в своих головах больше, чем следует. Дело в том, что эти агенты ИИ будут предоставлять нам полезные советы и информацию на протяжении всей нашей повседневной жизни — обучая, напоминая, тренируя, информируя. Проблема в том, что мы можем оказаться не в состоянии отличить момент, когда агент ИИ сменил свою цель с помощи нам на влияние на нас. Чтобы оценить эту разницу, вы можете посмотреть отмеченный наградами короткометражный фильм Privacy Lost (2023) об опасностях носимых устройств на базе ИИ. Это особенно верно, когда устройства включают в себя такие инвазивные функции, как распознавание лиц (которые, как сообщается, Meta добавляет в свои очки).
Что мы можем сделать для защиты общества?
Прежде всего, политики должны понять, что разговорный ИИ делает возможной совершенно новую форму медиа — интерактивную, адаптивную, индивидуализированную и все более учитывающую контекст. Эта новая форма медиа будет функционировать как «активное влияние», поскольку она может корректировать свою тактику в режиме реального времени для преодоления сопротивления пользователя. При использовании в носимых устройствах эти системы ИИ могут быть спроектированы так, чтобы манипулировать нашими действиями, склонять наши мнения и влиять на наши убеждения — и делать все это через кажущийся непринужденным диалог. Хуже того, со временем эти агенты будут узнавать, какая именно разговорная тактика лучше всего работает на каждом из нас на личном уровне.
Дело в том, что разговорным агентам нельзя позволять формировать петли контроля вокруг пользователей. Если это не регулировать, ИИ сможет влиять на нас со сверхчеловеческой убедительностью. Кроме того, агенты ИИ должны быть обязаны информировать пользователей всякий раз, когда они переходят к выражению рекламного контента от имени третьей стороны. Без такой защиты агенты ИИ, вероятно, станут настолько убедительными, что современные методы целенаправленного влияния покажутся на их фоне архаичными.
Луис Розенберг — пионер дополненной реальности и давний исследователь ИИ. Он получил докторскую степень в Стэнфорде, был профессором в Университете штата Калифорния и написал несколько книг об опасностях ИИ, в том числе Arrival Mind и Our Next Reality.
Добро пожаловать в сообщество VentureBeat!
Наша программа гостевых публикаций — это площадка, где технические эксперты делятся инсайтами и предоставляют нейтральные, непредвзятые глубокие обзоры об ИИ, инфраструктуре данных, кибербезопасности и других передовых технологиях, формирующих будущее корпоративного сектора.
Читайте далее из нашей программы гостевых постов — и ознакомьтесь с нашими рекомендациями если вы хотите опубликовать собственную статью!
