Саммит по искусственному интеллекту обсуждает потерю рабочих мест и человеческое достоинство

На недавнем вашенгтонском саммите, посвященном искусственному интеллекту, политики столкнулись с предупреждениями о масштабном сокращении рабочих мест и потенциальной «бойне «белых воротничков», при которой миллионы вакансий могут исчезнуть в течение пяти лет. Представители власти предложили возможные решения: от финансируемой государством «Академии ИИ» до национального трастового фонда, спонсируемого технологическими компаниями. В совокупности эти предупреждения и предложения отражают общее понимание: интеллект становится повсеместным, в то время как судьба людей остается неопределенной и нерешенной.

Приведет ли применение ИИ к сокращению штатов в погоне за эффективностью или мы сможем спроектировать системы, сохраняющие человеческое достоинство, свободу воли и общий смысл? Именно это напряжение движет когнитивной миграцией. Но миграция — это не только отправление. Это еще и пункт назначения.

Любая миграция где-то заканчивается. Вопрос в том, что ждет на другом берегу. 

До сих пор в этой серии статей описывались ландшафты утраты цели, слаженности и контроля. Если бы на этом история закончилась, она свелась бы к бесцельному дрейфу. Какие гавани поддержат нас, когда познание перестанет быть прерогативом только человека? Чтобы достичь лучшего места, мы должны его спроектировать. 

Какими принципами должно руководствоваться общественное устройство в когнитивную эру, когда интеллект становится повсеместным, общим и оспариваемым? Технологии не ответят на эти вопросы. Но на них могут ответить этика, политика и возобновленная приверженность чувству принадлежности. Здравые принципы проектирования — это обязательное условие для будущего, которое остается человеческим.

Пределы дрейфа

Любая миграция приносит моменты дрейфа, когда путешественники оказываются зажатыми между мирами. Но дрейф — это дезориентация, а не пункт назначения. Без целенаправленного проектирования когнитивная эра не приведет нас к надежной гавани принадлежности. Вместо этого она оставит нас дрейфовать подобно обломкам в рыночных течениях, скованных институциональной инерцией и сталкивающихся с целым рядом потенциальных угроз.

Одна из таких потенциальных угроз — будущий мир эффективности без достоинства. Уже сейчас проводятся кампании с призывами «прекратить нанимать людей», как будто люди — это всего лишь накладные расходы, от которых нужно избавиться для оптимизации. Если оставить это без контроля, логика скорости и масштаба может опустошить институты, лишив их человеческого участия и цели.

Другая возможная опасность в ближайшей перспективе — раскол гражданской идентичности. Персонализированные алгоритмы уже расщепляют общественное достояние на расходящиеся реальности. Если институты не будут активно защищать плюрализм, мы рискуем превратиться в архипелаги восприятия, где почти не останется общей почвы для обсуждений или принятия решений.

И существует третья маячащая на горизонте опасность: Исключение. При любой миграции кто-то двигается первым, а кто-то отстает. Первопроходцы сродни передовым разведчикам, которые могут найти безопасную посадку, но целые сообщества могут остаться на мели. Если разрыв в темпах внедрения будет расти бесконтрольно, мы можем оказаться в мире, где преимуществами повсеместного интеллекта пользуются только те, кто может его формировать или позволить себе его купить, в то время как остальные останутся позади. Прогресс для одних будет означать лишение прав и возможностей для многих.

Таким образом, проектирование — это не роскошь. Это необходимость для обеспечения того, чтобы преимущества ИИ разделялись всеми, и одновременно предотвращения предсказуемого вреда. Задача состоит в том, чтобы формировать институты не только ради эффективности, но и ради смысла; не только ради масштаба, но и ради социальной сплоченности. 

Институты здесь включают в себя не только правительства, но и школы, которые нас учат, предприятия, которые нас нанимают, а также культурные и гражданские организации, которые связывают нас воедино. Они являются сосудами преемственности, где принципы имеют значение не как технические исправления, а как компасы, указывающие на гуманное будущее. Без целенаправленного проектирования они также могут дать сбой в когнитивную эру.

Спроектированная миграция

Если дрейф — это наша опасность, то проектирование должно стать нашим ответом. Но проектирование не может начинаться только с чертежей. Как бы ни было заманчиво, мы не можем сразу переходить к готовым решениям. Процесс начинается с ориентации, с принципов, которые ведут нас к тому, в каком мире мы хотим жить. Проектирование — это не только этическая задача, но и политическая, определяемая тем, у кого находятся рычаги власти и насколько широко они распределены.

Эти принципы должны затрагивать фундаментальные вопросы, чтобы интеллектуальные системы проектировались и внедрялись с целью защиты человеческих ценностей и значимости человека. Для этого нам необходимо решить несколько вопросов. Как сохранить человеческое достоинство? Как поддерживать разнообразие точек зрения? Как обеспечить подотчетность? Как сохранить контроль в руках человека?

Подобно тому, как прошлые миграции направлялись звездами или ориентирами, эта миграция требует от нас создания собственных компасов. Это не технические спецификации, а этические ориентиры, призванные сохранять институты человечными даже по мере того, как само познание проникает в каждый инструмент и каждую транзакцию. Эти компасы представляют собой принципы общественного устройства в когнитивную эпоху. Они не произвольны и не навязаны извне, а выведены из повторяющихся тем в предыдущих эссе о труде, институтах и смысле.

Достоинство

Первый и, возможно, самый важный из них заключается в том, что человеческое достоинство должно превозноситься, а не приноситься в жертву эффективности. Существует сильный соблазн использовать ИИ для восприятия людей как накладных расходов, процессов — как узких мест, а заботы — как неэффективности. Если мы не сохраним ощущение того, что человеческое присутствие и суждения по-прежнему имеют значение, мы действительно станем лишь винтиками в огромной машине. Но если мы преуспеем, человеческое достоинство станет не второстепенной мыслью, а самой целью наших новых институциональных норм и поведения.

Плюрализм

Второй компас — это плюрализм вместо единообразия. Интеллектуальные системы уже грозят разделить нас на частные реальности, каждая из которых подпитывается персонализированными алгоритмами, и в то же время подталкивают нас к единообразию, сужая рамки того, что считается знанием. Любой из этих путей опасен. Если реальность фрагментируется слишком сильно, общественное достояние растворится, и мы окажемся неспособными принимать решения вместе. Если реальность будет выровнена, человеческое разнообразие будет стерто, а инакомыслие объявлено опасным. 

Чтобы избежать этой участи, институты должны проектироваться так, чтобы рассматривать разнообразие как силу. Они должны знакомить нас с точками зрения, выходящими за рамки наших собственных, защищать несогласие, сохранять жизненно важное трение плюралистических голосов и избегать самоуспокоенности единообразного мышления. Гуманное будущее не построить отрицанием различий, оно строится за счет создания условий для их сосуществования. В противном случае мы рискуем повторить судьбу Боргов из вселенной «Звездного пути»: коллективный разум, где индивидуальность исчезает, а люди превращаются в дронов.

Прозрачность

В‑третьих, мы должны настаивать на прозрачности ИИ как на условии доверия. Скрытые системы подрывают уверенность. Уже сейчас алгоритмы принимают решения, влияющие на кредитоспособность, найм на работу, условно-досрочное освобождение и здравоохранение, причем понимание того, как эти решения достигаются, крайне туманно. По мере того как машинное познание просачивается во все сферы жизни, непрозрачность будет только углублять пропасть между теми, кто управляет системами, и теми, кто живет с их последствиями.

Прозрачность — это не техническая особенность, а гражданская ответственность. Это не значит, что каждая строка кода должна быть видна, но это означает, что алгоритмические рассуждения можно объяснить, а границы систем — сделать понятными. Это может включать интерпретируемые модели и журналы аудита, показывающие, как принимались решения. Без этого институты рискуют превратиться в «черные ящики» власти, неподотчетные никому. С ней они могут оставаться сосудами общности, где люди чувствуют, что суждения не скрыты в схемах машин, а открыто разделяются для обеспечения подотчетности.

Субъектность

Четвертый компас — человеческая субъектность в центре внимания. Передача познания на аутсорсинг — это не то же самое, что отказ от него. И тем не менее, именно перед такой угрозой мы стоим: соскальзывание от дополнения к зависимости, когда решения принимаются уже не вместе с нами посредством сотрудничества, а за нас. В статье «Одна полезная вещь» профессор Уортонской школы бизнеса Итан Моллик писал: «Мы переходим от роли соавторов, формирующих процесс [с участием ИИ], к роли просителей, получающих результат. Это переход от работы с со-интеллектуалом к работе с волшебником». Если мы не будем осторожны, те же самые инструменты, которые могут расширить наши знания и способность к анализу, могут сузить наш выбор, притупить наши способности и оставить нас пассажирами в собственной жизни. 

Институты должны строиться так, чтобы углублять субъектность, а не уменьшать ее. Это означает проектирование систем, которые расширяют человеческое суждение и сохраняют пространство, где совесть и творчество имеют значение. Если этот компас проигнорировать, когнитивная миграция не приведет к большему единению, а вместо этого скатится к отречению от ответственности. Это будет мир, где интеллект окружает нас, но больше не зарождается внутри нас.

Ориентиры проектирования

Одни лишь компасы не могут подсказать нам, как именно строить школы, предприятия или правительства в когнитивную эру. Но они могут задать направление. Достоинство, плюрализм, прозрачность и субъектность не являются опциональными; они представляют собой условия для гуманного будущего. Без них рынки и инерция приведут нас в гавани, которые эффективны, но пусты. С ними мы сможем начать формировать процветающие институты, которые остаются человечными в своей основе.

Тем не менее, эти принципы носят ориентировочный, а не догматический характер. Их применение будет различаться в зависимости от культурного и политического контекста. Но более глубокая задача носит универсальный характер: обеспечить, чтобы в мире, преображенном машинным познанием, человеческий смысл и чувство принадлежности оставались центральными. 

Стоящая перед нами задача заключается не просто в том, чтобы прибыть в пункт назначения, а в том, чтобы прибыть туда с умом. Чтобы вернуть себе человеческое будущее, мы должны начать уже сейчас намеренно перестраивать институты, которые почитают достоинство, поддерживают субъектность и укореняют чувство принадлежности в мире, все более разделяемом с машинными технологиями. Мы не пассажиры в этом путешествии. Если нам нужна гавань, в которую стоит прибыть, мы должны научиться строить корабль прямо на ходу.

Гэри Гроссман (Gary Grossman) — исполнительный вице-президент по технологической практике в Edelman и глобальный руководитель Центра передового опыта в области ИИ компании Edelman.

Добро пожаловать в сообщество VentureBeat!

Наша программа гостевых публикаций — это площадка, где технические эксперты делятся идеями и проводят нейтральный, независимый глубокий анализ ИИ, инфраструктуры данных, кибербезопасности и других передовых технологий, формирующих будущее бизнеса.

Читайте далее в рамках нашей программы гостевых публикаций — и ознакомьтесь с нашими рекомендациями , если вы хотите опубликовать собственную статью!