1 Введение
Крупные языковые модели, настроенные на выполнение инструкций (LLM), всё чаще используются в качестве универсальных ИИ-помощников в фирмах.1 Как правило, эти системы являются корпоративными внедрениями таких продуктов, как ChatGPT. Эти системы используются в задачах, которые можно широко рассматривать как «партнерство по мышлению», выполняя когнитивные задачи, которые ранее выполнялись отдельными сотрудниками или группами сотрудников, действующими совместно. ИИ-помощники отличаются от использования генеративного ИИ в качестве компонента приложений, производимых фирмами; например, приложение, не являющееся ИИ-помощником, может представлять собой интеграцию генеративного ИИ в инструмент, который обобщает неструктурированные данные для целей соблюдения нормативных требований. Корпоративные внедрения продуктов, подобных ChatGPT, как правило, предоставляются «из коробки» с минимальными изменениями или без них. Обычно они доступны каждому члену фирмы и предназначены для повышения производительности за счет поддержки общих сценариев использования, таких как проведение исследований, редактирование документов и мозговой штурм. Такое использование LLM позволяет сотрудникам переложить часть своих когнитивных задач, от составления электронных писем до стратегического мышления.
Однако влияние ИИ-помощников в фирмах не ограничивается результатом индивидуального контента. Скорее, ИИ-помощники будут формировать то, как взаимодействуют сотрудники, и культуру всей фирмы, поскольку это влияние происходит в масштабе. ИИ-помощники теперь глубоко интегрированы в рабочие процессы, поэтому они оказывают сильное влияние на то, как принимаются решения и как коллеги относятся друг к другу внутри фирмы. Но, как мы покажем в этой статье, ИИ-помощники внедряют различные «перспективы» — то есть они демонстрируют поведенческие диспозиции, которые проникают в процессы принятия решений, в конечном итоге влияя на то, как осуществляется власть, как происходит сотрудничество и как сотрудники и менеджеры понимают свои роли, обязанности и относятся друг к другу.
В этой статье утверждается, что фирмы морально обязаны быть преднамеренными в отношении того, как разрабатываются и внедряются ИИ-помощники. Согласование является стратегическим и этическим императивом, если и в той мере, в какой фирмы хотят сохранить контроль над своей культурой (Kaptein 2008). Согласование, как мы его понимаем, является не только техническим, но и фундаментально этическим и реляционным вопросом. С этой целью мы утверждаем, что необходимо понимать согласование перспектив ИИ-помощников в отношении целей и ценностей фирм. Мы предлагаем три различные стратегии (поддерживающую, состязательную и разнообразную) для развертывания ИИ-помощников и анализируем этические компромиссы, возникающие из каждой стратегии. Затем мы показываем, что выбор стратегии влияет на внутрифирменную реляционную динамику и, таким образом, требует оценки того, как конкретные нормы, регулирующие отношения между менеджерами и сотрудниками, а также между сотрудниками, будут формироваться в результате внедрения ИИ-помощников.
Статья построена следующим образом. Раздел 2 разрабатывает концепцию того, что значит для ИИ-помощника иметь перспективу. Раздел 3 обсуждает, где эти перспективы могут оказать влияние на фирмы. Раздел 4 опирается на научные исследования в области нормативной деловой этики, чтобы лучше охарактеризовать внутрифирменные моральные нормы и значимые внутрифирменные человеческие отношения, на которые, вероятно, повлияют ИИ-помощники. На этом фоне Раздел 5 затем разрабатывает три стратегии согласования ИИ-помощников и анализирует их этические компромиссы. Раздел 6 завершает обсуждение.
2 Перспективы ИИ-помощников
Мы можем рассматривать ИИ-помощников как обладающих перспективой на мир. Эту перспективу можно понимать как набор поведенческих диспозиций для ответа на запросы пользователей в соответствии с определенными социальными, политическими, этическими или культурными предубеждениями. Например, ИИ-помощник, используемый в фирме политического консалтинга, может быть предрасположен отвечать на вопросы в соответствии с неоконсервативными обязательствами. Кроме того, фирмы могут счесть определенные модельные перспективы более желательными, чем другие — в этом случае фирма политического консалтинга может захотеть ИИ-помощника, который предрасположен отвечать на вопросы в соответствии с неоконсервативными обязательствами.
Метафизически перспективы могут быть истолкованы двумя способами (Shanahan, McDonell, and Reynolds 2023). При причинно-следственном прочтении ИИ-помощник имеет некоторую уникальную перспективу, которая фигурирует в причинно-следственных объяснениях его поведения примерно так же, как перспектива человека может причинно-следственно объяснять его поведение (например, Энн посоветовала Бет ф, потому что Энн — неоконсерватор, а ИИ-помощник посоветовал Бет ф, потому что ИИ-помощник — неоконсерватор). При эпифеноменальном прочтении перспектива ИИ-помощника не является причиной поведения ИИ-помощника, а скорее чем-то, что накладывается на поведение ИИ-помощника для интерпретации этого поведения человекоподобным способом. В этой последней картине ИИ-помощник начинает диалог в суперпозиции над набором возможных перспектив, и эта суперпозиция сужается по мере продвижения диалога и наложения дополнительных требований согласованности на то, какие перспективы ИИ-помощник может разумно интерпретировать как занимаемые. Например, если ИИ-помощник выводит текст, который не соответствует неоконсервативным обязательствам, то его больше нельзя интерпретировать как имеющего неоконсервативную перспективу.
Здесь мы интерпретируем перспективы в соответствии с причинно-следственным прочтением. Перспективы, понимаемые таким образом, возникают в первую очередь из взаимодействия двух классов факторов.2 Первый класс факторов — это предубеждения, закодированные в LLM, который лежит в основе ИИ-помощника. Предубеждения в распределении данных предварительного обучения или в предварительной обработке данных предварительного обучения могут привести к тому, что LLM будут предрасположены отвечать на запросы пользователей в соответствии с конкретными социополитическими точками зрения (Bender et al. 2021; Bommasani et al. 2022). Например, дифференцированное представление западных и незападных текстовых данных в корпусе предварительного обучения может привести к тому, что LLM будут иметь более детальные представления о западных концепциях, что может предрасположить LLM отвечать на запросы в соответствии с западными ценностями (Tao et al. 2024; Zhou, Ethayarajh, and Jurafsky 2022; Garg et al. 2018). Второй класс факторов касается целей разработчиков при тонкой настройке LLM с помощью контролируемой тонкой настройки, обучения с подкреплением на основе обратной связи с человеком и других связанных методов (Thoppilan et al. 2022; Ouyang et al. 2022; Lee et al. 2024). Здесь разработчики могут явно тонко настраивать LLM, чтобы отразить конкретные ценностные обязательства, такие как полезность, честность и безвредность (Bai et al. 2022b, a; Askell et al. 2021). Поскольку LLM обладают явными представлениями социополитических перспектив (Kim, Evans, and Schein 2025), можно тонко настраивать LLM, чтобы они отвечали на запросы пользователей с соответствующих социополитических перспектив.
Перспективы ИИ-помощников, понимаемые таким образом, могут варьироваться по крайней мере в двух измерениях. Во-первых, перспективы могут быть более или менее конкретными. В частности, на одном конце находятся схематические перспективы, такие как наличие у ИИ-помощника широкого правого или левого уклона; а на другом конце находятся узкоспециализированные перспективы, такие как отражение ИИ-помощником идеологических взглядов Ноама Хомского или Генри Киссинджера. Во-вторых, перспективы могут быть более или менее последовательными. В частности, определенные перспективы — такие как те, которые преднамеренно внедрены в базовый LLM с использованием контролируемой тонкой настройки или обучения с подкреплением с обратной связью с человеком (RLHF) — вероятно, будут настойчиво резонировать в ответах ИИ-помощника в ответ на широкий класс запросов. Эти перспективы последовательны в том смысле, что они последовательно объясняют соответствующие особенности содержания ответов ИИ-помощника. И наоборот, другие перспективы — такие как те, которые возникают в результате предубеждений в обучающем распределении, которые относятся к конкретным темам — могут быть менее последовательными, поскольку эти перспективы объясняют содержание ответов ИИ-помощника в меньшинстве случаев, которые относятся к соответствующим темам.
Во многих случаях фирмы, внедряющие ИИ-помощников, и сотрудники этих фирм будут иметь небольшую или вообще не иметь возможности влиять на то, какие перспективы демонстрируют ИИ-помощники, используемые их сотрудниками. С одной стороны, поскольку большинство сотрудников имеют низкую или нулевую техническую экспертизу, их основное взаимодействие с ИИ-помощниками будет происходить через интерфейс на основе чата, который не предоставляет доступ к конфигурации модели или опциям настройки. Возможности тонкой настройки доступны только через интеграцию API, недоступную и нелегко используемую нетехническими пользователями. С другой стороны, ИИ-помощники могут быть предварительно обучены и тонко настроены независимыми разработчиками, что предоставляет фирмам минимальные возможности для формирования перспективы помощника. В этом случае перспектива ИИ-помощника может быть неизвестна фирме, и потенциально неизвестна и разработчику — если, например, перспектива ИИ-помощников не была явно определена в спецификации модели или разработчик не пытался оценить, какая перспектива неявно заложена в модели. В других случаях фирмы будут иметь больше возможностей влиять на перспективу, демонстрируемую ИИ-помощниками. Хотя большинство фирм не смогут предварительно обучить базовый LLM, разработчики могут предоставить им возможность тонко настраивать LLM в соответствии с желаемым набором ценностей или обязательств. В целом, важно, чтобы фирмы были преднамеренными в отношении перспективы используемого ИИ-помощника, либо принимая потребительские решения в соответствии с соответствующими ценностями, либо тонко настраивая базовые LLM для обеспечения согласования с этими ценностями. В противном случае фирмы рискуют, что им будут навязаны перспективы с потенциально широкими последствиями.
3 Влияние перспектив ИИ-помощников
Перспективы, которые ИИ-помощники привносят в фирмы, вероятно, будут иметь широкое влияние. ИИ-помощники — это не просто инструменты. Скорее, они являются активными участниками создания контента, начиная от обыденных электронных писем и заканчивая документами стратегического видения. Тот факт, что эти системы насыщают перспективу и участвуют в широкой генерации контента, делает правдоподобной идею о том, что перспективы систем будут формировать контент, в который они вносят вклад, примерно так же, как перспективы отдельных сотрудников или перспективы команды влияют на результат традиционного сотрудничества без ИИ-помощников.
Действительно, влияние перспектив ИИ-помощников может быть более значительным, чем влияние перспективы отдельного сотрудника. На это указывают исследования по темам предвзятости автоматизации (Lyell and Coiera 2016) и снижения критического мышления при взаимодействии с ИИ-помощниками (Lee et al. 2025; Gerlich 2025). Доказательства свидетельствуют о том, что пользователи часто оказывают чрезмерное доверие информации, генерируемой автоматизированными системами, иногда за счет своего собственного суждения. Следствием этого неправильного доверия является то, что перспективы, представленные ИИ-помощником, могут быть недостаточно оспорены людьми, которые просматривают результат. Кроме того, особый риск этих конкретных технологий заключается в том, как они могут напрямую влиять на критическое мышление у людей, использующих систему (Lee et al. 2025; Gerlich 2025). Эта комбинация чрезмерной зависимости и сниженной критической вовлеченности делает правдоподобным, что перспектива, которая внедряется в контент, в который вносит вклад ИИ-помощник, с меньшей вероятностью будет тщательно изучена, что усиливает их общее влияние на принятие решений и понимание.
Снижение критической оценки результатов ИИ-помощников, наряду с повышением доверия к ним, означает, что люди будут оспаривать их реже. Следствием этого явления в деловой среде является то, что сотрудники и команды будут всё больше и больше полагаться на ИИ-помощников, даже в рамках совместных взаимодействий. Следовательно, ИИ-помощники будут влиять не только на конкретные решения и результаты, но и на межличностные отношения и модели общения, которые приводят к этим результатам, изменяя культуру фирмы. Далее мы покажем, почему внимание должно быть сосредоточено не только на том, как ИИ-помощники формируют конкретные результаты, но и на том, как они формируют моральные нормы, регулирующие профессиональное поведение внутри фирм.
4 ИИ-помощники и внутрифирменные нормы
В предыдущем разделе утверждалось, что ИИ-помощники, когда они используются в качестве универсальных инструментов, выражают перспективы, которые формируют то, как пользователи думают, обдумывают и действуют. Эти перспективы могут влиять не только на индивидуальные решения, но и на отношения между сотрудниками или, в более широком смысле, на культуру фирмы. Степень влияния, которое ИИ-помощники могут оказать на культуру фирмы, делает правдоподобным, что внутрифирменное согласование является не только технической проблемой, но и стратегической для фирм.
Чтобы лучше понять этические последствия перспектив ИИ-помощников и их влияние на фирмы, мы предлагаем ориентировать этический анализ вокруг моральных норм, которые регулируют профессиональное поведение внутри фирм.3 Эта ориентация влечет за собой то, что вместо того, чтобы рассматривать ИИ-помощников как нейтральные интерфейсы, необходимо рассмотреть, как они взаимодействуют с моральными отношениями, которые регулируют внутрифирменное моральное поведение между менеджерами и сотрудниками, усиливают или нарушают их.
Нормативная деловая этика обеспечивает основу для анализа этой динамики. Нормативная деловая этика касается моральных обязанностей, которые существуют в контексте фирмы (Moriarty 2021). Хотя деловая этика часто касается внешних обязанностей фирм, таких как обязанности перед потребителями, сообществами или окружающей средой (Friedman 1970; Hsieh 2004; Mejia 2020), существует параллельная область, касающаяся внутренних моральных обязательств (Buchanan 1996; Heath 2023). Внутрифирменная деловая этика, таким образом, касается моральных принципов и стандартов, которые направляют поведение и принятие решений внутри компании; в частности, отношений между ее сотрудниками, менеджерами, отделами и руководством. Соответственно, внутрифирменная деловая этика занимается такими вопросами, как справедливое отношение, солидарность и уважение сотрудников и среди коллег, выполнение своих обязанностей профессионализма и лояльности, соблюдение кодекса поведения, ценностей и принципов, а также цели. Например: старший инженер имеет иные этические обязанности, чем младший аналитик, не только в силу своей роли в фирме, но и в силу своей власти принятия решений и последствий своих действий. То же самое относится и к менеджерам, которые должны сбалансировать стратегические приоритеты фирмы с вниманием к потребностям и благополучию сотрудников.
Если ИИ-помощники встроены во внутренние процессы принятия решений и рабочие процессы в разных иерархиях, они предсказуемо повлияют на моральную динамику фирмы или культуру фирмы — общие ценности, убеждения, предположения и модели поведения, которые характеризуют то, как сотрудники взаимодействуют, принимают решения и ведут себя (Kaptein 2008). ИИ-помощники могут помогать менеджеру в структурировании сроков, поддерживать сотрудника в составлении отчета или посредничать между отделами с разными приоритетами. При этом они влияют на то, как воспринимаются и выполняются внутрифирменные обязательства. По этой причине ИИ-помощники не должны пониматься просто как инструменты, которые поддерживают производительность. Их присутствие меняет то, как сотрудники принимают решения, как осуществляется власть и как интерпретируются роли. Моральное значение ИИ-помощников, таким образом, возникает именно потому, что они влияют на нормы, которые определяют, как коллеги, подчиненные и начальники относятся друг к другу.
Чтобы оценить, какие виды согласования ИИ-помощников являются подходящими, мы можем рассмотреть, как различные концепции внутрифирменной деловой этики характеризуют моральные обязанности внутри фирмы. Эти теории предлагают дополнительные и, отчасти, конкурирующие взгляды на внутрифирменные моральные обязанности, которые существуют в иерархически структурированных фирмах. Эти соображения, в свою очередь, позволят нам вывести стратегии внутрифирменного согласования ИИ-помощников в следующем разделе. Таким образом, стратегия состоит в том, чтобы изучить степень, в которой согласование ИИ-помощников может быть истолковано в соответствии с этими различными концепциями, и определить, могут ли быть получены конкретные формы операционализации.
Существует два основных способа концептуализации внутрифирменных обязанностей. Один взгляд — редукционистский. Согласно этой концепции, моральные обязанности внутри фирм лучше всего понимать как ограничения, предназначенные для предотвращения морального риска в отношениях принципал-агент (Heath 2023; Buchanan 1996). Эти ограничения направлены на ограничение риска того, что сотрудники действуют против интересов менеджеров, будь то из-за небрежности, конфликта интересов или оппортунизма. Согласно редукционистской концепции, цель согласования ИИ-помощника состоит в первую очередь в том, чтобы поддержать предотвращение неправомерного поведения или ошибочного суждения сотрудников. Таким образом, ИИ-помощники будут действовать как ограждения, которые обеспечивают соблюдение существующих нормативных ожиданий. Этот взгляд поддерживает узкое понимание внутрифирменного согласования, сосредоточенное на избегании вреда, а не на продвижении позитивных ценностей, таких как коллегиальность, моральное мужество или критическое осмысление.
Напротив, нередукционистские подходы утверждают, что внутрифирменные моральные нормы являются sui generis (Werhane 1985; Andre 1991). Вместо того, чтобы рассматривать отношения как контрактные механизмы для минимизации риска, они подчеркивают обязанности, специфичные для роли, которые возникают между людьми внутри фирмы в зависимости от их отношений в качестве их ролей внутри фирмы. Менеджер может нести обязанности справедливости, поддержки и руководства перед подчиненными, например; а коллеги могут нести друг перед другом солидарность, конструктивную обратную связь и помощь (Betzler and Löschke 2021). С этой точки зрения ИИ-помощники должны быть согласованы не просто для снижения рисков, а для поддержки морального качества профессиональных отношений. ИИ-помощники могут, соответственно, играть роль в помощи сотрудникам в соблюдении профессиональных стандартов, разрешении напряженности между обязательствами или более вдумчивом участии в трудных решениях.
5 Стратегии согласования
Несогласованные/неправильно согласованные ИИ-помощники могут подорвать контроль фирмы над процессами принятия решений, а также формировать общую культуру фирмы в непреднамеренных отношениях. Соответственно, как мы утверждали ранее, фирмы должны быть преднамеренными в отношении согласования ИИ-помощников. Нередукционистские подходы к внутрифирменной деловой этике предлагают подходящий способ думать о том, как должно быть выполнено согласование, поскольку они подчеркивают, как ИИ-помощники влияют на моральную основу отношений на рабочем месте. Вероятно, фирмы должны оценивать и формировать перспективу своего ИИ-помощника, чтобы его присутствие последовательно отражало и усиливало реляционные нормы, ролевые ожидания и динамику власти, соответствующие рабочему процессу фирмы. Это согласуется с недавними исследованиями, призывающими к разработке ИИ-чат-ботов, отражающих конкретные социофункциональные роли и отношения между человеком и ИИ (Earp et al. 2025).
Далее мы предлагаем три формы внутрифирменного согласования:
Поддерживающая, когда ИИ-помощник усиливает заявленную миссию фирмы;
Состязательная, когда ИИ-помощник помогает провести стресс-тестирование миссии фирмы;
Разнообразная, когда ИИ-помощник помогает расширить моральный горизонт фирмы, указывая на дополнительные перспективы заинтересованных сторон.
Каждая стратегия согласования формирует повседневные взаимодействия внутри компании, что означает, что она оказывает влияние на моральную траекторию фирмы изнутри.
5.1 Поддерживающая
Поддерживающие ИИ-помощники отражают ценности, цели и стратегии бизнеса, как предложено (Saviano et al. 2024). Эта стратегия согласования включает тонкую настройку базового LLM на данных или руководствах, специфичных для компании, обеспечивая, чтобы его результаты соответствовали миссии фирмы, нормам принятия решений и этическому кодексу.
Отношения между менеджером и сотрудником:
Общая цель стратегии поддерживающего согласования — продвигать стратегическое направление компании, поддерживая при этом этические методы лидерства. Поддерживающий ИИ-помощник должен помогать менеджерам в предоставлении обоснований и решений, которые поддерживают корпоративные ценности, а также поощрять рассмотрение отзывов сотрудников и благополучия. Для сотрудников согласованный ИИ-помощник может служить когнитивной помощью, помогая им выполнять задачи таким образом, чтобы они соответствовали ожиданиям руководства и более широкой культуре фирмы.
Пример: В компании, приоритетом которой является инновация и скорость, ИИ-помощник может помочь менеджерам структурировать сроки и стимулы для максимизации быстрой доставки, но также должен предлагать сбалансировать это с рисками выгорания сотрудников и общим профессиональным благополучием. Кроме того, сотрудники могут использовать ИИ-помощников для перекладывания части своей работы, такой как мозговой штурм идей или завершение задачи, таким образом, чтобы это соответствовало ожиданиям руководства и желаемой культуре фирмы.
Этические проблемы: Уже задокументировано, что агенты на основе LLM демонстрируют подхалимское поведение, льстят пользователям и говорят им то, что они хотят услышать (Carro 2024; Sharma et al. 2025). Если цели руководства этически ошибочны (например, приоритет скорости ценой безопасности пользователя), ИИ-помощник может просто усиливать эти недостатки, вместо того чтобы оспаривать их. Проблема тогда заключается в том, что в отличие от менеджеров, которых могут оспаривать или критиковать коллеги и подчиненные, ИИ-помощники могут тонко усиливать асимметрию власти, делая доминирующую перспективу более заметной, более оправданной или разумной. Кроме того, ИИ-помощники могут отдавать приоритет взглядам руководства и общим целям компании, так что сотрудники чувствуют себя менее уполномоченными поднимать этические проблемы, если ИИ-помощники последовательно подтверждают решения руководства. Если ИИ-помощник согласован с бизнес-стратегией и ценностями, и если сотрудники знают об этом, ИИ-помощники могут в конечном итоге поощрять чрезмерное доверие к ним без достаточного контроля. Уже было показано, что работники, полагающиеся на LLM, склонны терять свои навыки критического мышления и уверенность, что может привести к снижению квалификации, будь то профессиональной или моральной (Lee et al. 2025). С этической точки зрения это означает, что важные решения могут приниматься по совету ИИ, который никто не перепроверяет, особенно если он соответствует тому, что хотят услышать акционеры.
Отношения между сотрудниками:
Поддерживающий ИИ-помощник будет продвигать или помогать развивать заявленные общие ценности фирмы, зафиксированные в кодексе поведения, заявлении о миссии и т. д. Кроме того, поддерживающие ИИ-помощники могут помочь укрепить солидарность между сотрудниками, что может включать поощрение конструктивной обратной связи, поддержку коллеги при непредвиденной рабочей нагрузке или содействие взаимному решению проблем.
Пример: Поддерживающий ИИ-помощник может помочь сотрудникам разработать стратегии, которые продвигают общую производительность команды, а не просто продвигают индивидуальную производительность. Или поддерживающий ИИ-помощник может помочь выполнить коллегиальные обязанности в более общем плане; например, помогая сотрудникам предоставлять обратную связь конструктивно или подталкивая их помогать друг другу. В равной степени, поддерживающий ИИ-помощник может облегчить межведомственное сотрудничество. Возьмем случай исследовательской компании в области компьютерных наук, которая ценит этические исследования. Здесь поддерживающий ИИ-помощник может подтолкнуть инженеров к соблюдению внутренних норм публикации/этики, которые продвигают строгость, а не быстрые результаты.
Этические проблемы: Усиление или продвижение заявленного этоса может подавлять ценное несогласие и альтернативные подходы к решению проблем. Более того, сотрудники с меньшинством перспектив могут чувствовать себя маргинализированными, если ИИ-помощник поддерживает только доминирующие ценности команды. Существующие ведомственные или профессиональные предубеждения (такие как инженерное дело над этикой) могут быть усилены без пространства для оспаривания. Другая проблема — потенциальное усиление нежелательной статической культуры в фирме, что делает менее вероятной более текучую динамику, такую как рост или стремление к творчеству. Постоянно повторяя сотрудникам текущие ценности и практики, ИИ-помощник может затруднить фирме эволюцию, экспериментирование с новыми идеями или реагирование на возникающие вызовы (Lee et al. 2025). Таким образом, то, что было бы направлено на поддержку сплоченности и коллегиальности, может быть ценой гибкости и инноваций.
5.2 Состязательная
Состязательные модели должны помогать менеджерам и сотрудникам проводить стресс-тестирование и выявлять слабые места в своих идеях, а также заставлять обосновывать решения и указывать на этические проблемы или предубеждения, которые пользователи/команды могли упустить (как предложено здесь (Chiang et al. 2024)). В отличие от согласованной модели, состязательный ИИ-агент может критически оценивать точку зрения пользователя, потенциально приводя к более информированным решениям и повышая критическое мышление. Эта стратегия включает тонкую настройку модели на примерах, где ценности/нормы фирмы находятся в напряжении (например, кейсы по деловой этике), а также на целом ряде примеров того, как конструктивно критически оценивать аргументы. Например, набор данных может включать диалоги, в которых предлагаемый запуск продукта ставится под сомнение по соображениям конфиденциальности, несмотря на соответствие целям компании по скорости. Кроме того, модель может быть обусловлена принимать на себя роль «сократического» коллеги, который ставит под сомнение предположения и идеи (Landes, Voinea, and Uszkai 2024).
Чтобы прояснить, под «состязательной» мы не подразумеваем, что ИИ-помощник должен по умолчанию противостоять ценностям фирмы. Скорее, состязательный ИИ-помощник будет действовать в пространстве этих ценностей, чтобы оспаривать то, как они интерпретируются или применяются. Возьмем случай компании, которая ценит «жестокую честность»; состязательный ИИ-помощник не будет поощрять противоположность честности, то есть обманчивость, но может оспаривать, действительно ли решение отражает эту ценность или скрываются ли корыстные мотивы под видом честности. В этом смысле состязательное согласование — это не отрицание ценностей, а метод критического взаимодействия с ними.
Отношения между менеджером и сотрудником:
Состязательный ИИ-помощник может поддерживать менеджеров, обращая внимание на риски, проблемы заинтересованных сторон или более широкие обязательства, такие как соблюдение законодательства, безопасность пользователей и благополучие сотрудников, которые явно не указаны в этическом кодексе или не проявляются в культуре фирмы, а не просто усиливая непосредственные бизнес-цели. Для сотрудников состязательные ИИ-помощники могут помочь, выявляя проблемы, которые в противном случае было бы трудно поднять в иерархических условиях, тем самым обеспечивая более инклюзивное принятие решений.
Пример: Состязательный ИИ-помощник может оспорить стремление менеджера к поспешному запуску продукта, указав на риски для конфиденциальности пользователей, несоблюдение нормативных требований или даже влияние на благополучие сотрудников (что-то вроде «у подчиненных уже есть другие сроки для проектов X и Y, рассмотрите, как добавление еще одного повлияет на них»). В компании, где ценится лояльность, состязательные ИИ-помощники могут подтолкнуть менеджеров к рассмотрению того, не может ли слепая лояльность поставить под угрозу долгосрочную репутацию. Он также может помочь сотрудникам оспаривать решения менеджеров, высказывая опасения — как бы с точки зрения третьей стороны — вместо сотрудника.
Этические проблемы: Состязательные ИИ-помощники могут способствовать эрозии управленческих навыков. Если менеджеры слишком сильно полагаются на состязательную обратную связь ИИ, они рискуют стать чрезмерно почтительными к возражениям ИИ-помощника, особенно в морально неоднозначных ситуациях. В конечном итоге эта эрозия может потенциально подорвать собственное чувство ответственности менеджеров и ясность в отношении этических приоритетов. Менеджеры могут быть сбиты с толку тем, кому доверять — например, своим подчиненным-людям, состязательным ИИ-помощникам или своему собственному суждению, когда эти перспективы сталкиваются. Кроме того, если сотрудники начнут полагаться на ИИ-помощника для высказывания возражений, которые они боятся поднять сами, они могут потерять навыки морального обсуждения, а также стать менее уверенными в том, чтобы быть критичными самостоятельно, и менее доверять своей собственной перспективе.
Отношения между сотрудниками:
Состязательный ИИ-помощник может поощрять критическую оценку идей среди коллег для предотвращения группового мышления, а также способствовать совместной командной среде. Таким образом, состязательные ИИ-помощники могут улучшить групповую производительность за счет повышения креативности и избегания группового мышления. Фактически, было показано, что группы работают лучше, когда кто-то играет «адвоката дьявола» (Akhmad, Chang, and Deguchi 2020; Nemeth, Brown, and Rogers 2001; Schweiger, Sandberg, and Ragan 1986; Schwenk and Valacich 1994). Аналогично, состязательный ИИ-помощник может подтолкнуть коллег к оспариванию предположений, выявлению упущенных рисков и повышению качества предложений без фундаментального подрыва взаимного уважения и командной работы.
Пример: В маркетинговой команде состязательный ИИ-помощник может побудить одного сотрудника поставить под сомнение популярную, но этически сомнительную идею кампании («эта стратегия может усилить вредные стереотипы в отношении женщин, стоит ли нам переосмыслить это?»). Другой пример: в инженерии состязательный ИИ-помощник может оспорить быстрое исправление ошибки коллегой, подтолкнув к рассмотрению долгосрочной масштабируемости и влияния на пользователя.
Этические проблемы: Постоянная состязательная обратная связь может подорвать доверие и добрую волю между коллегами, подрывая сплоченность команды, что может привести к эскалации небольших разногласий в более крупные конфликты, нанося ущерб моральному духу и сотрудничеству. Кроме того, сотрудники могут стать нерешительными предлагать новые идеи, если они опасаются постоянной критики со стороны сверстников, поддерживаемой ИИ. В более широком смысле, если состязательный ИИ-помощник станет слишком антагонистичным, существует риск эрозии культуры фирмы, которая должна поддерживать эффективную командную работу, подрывая заявленные ценности фирмы и нанося ущерб ее внутренней целостности.
5.3 Разнообразная
Разнообразные ИИ-помощники предназначены для внедрения и представления множественных (и потенциально конфликтующих) перспектив по данному вопросу. Этот подход направлен на то, чтобы помочь как менеджерам, так и сотрудникам справляться с компромиссами между конкурирующими ценностями, предлагая взгляд на различные этические рамки и интересы заинтересованных сторон. Вместо того, чтобы усиливать единую точку зрения для фирмы, разнообразный ИИ-помощник будет стремиться развивать ценность плюрализма, поощряя пользователей ценить сложность принятия этических решений. Разнообразный ИИ-помощник будет тонко настроен на наборах данных, где одна и та же проблема рассматривается с различных этически законных перспектив (продукт, обсуждаемый с точки зрения выгоды для пользователя, экологической устойчивости, интересов инвесторов и благополучия сотрудников), а также с разных этических рамок (деонтологическая, утилитарная, этика добродетели и т. д.). В некотором смысле, разнообразный ИИ-помощник может операционализировать ролсовскую идею рефлексивного равновесия внутри фирм — оценивая общие принципы по отношению к случаям и пересматривая суждения о случаях в соответствии с общими принципами, чтобы прийти к надежному набору принципов.
Отношения между менеджером и сотрудником:
Цель разнообразного ИИ-помощника состояла бы в том, чтобы помочь менеджерам распознать конкурирующие интересы различных заинтересованных сторон (сотрудников, акционеров, регулирующих органов, клиентов), предлагая различные типы аргументов, согласованных с интересами этих заинтересованных сторон. Цель состоит не в том, чтобы подтолкнуть менеджеров к целям компании или против них (как в случае с согласованными или состязательными моделями), а скорее в том, чтобы помочь расширить этический ландшафт решения. Для сотрудников разнообразный ИИ-помощник может служить советником в ситуациях, когда они застряли между обязанностями перед своими менеджерами и другими профессиональными или этическими обязательствами.
Пример: При принятии решения о том, как распределить бюджет, разнообразный ИИ-помощник может представить менеджеру несколько точек зрения, таких как: (1) сокращение расходов для максимизации прибыли акционеров; (2) повышение благополучия сотрудников путем выделения больше средств на обучение и поддержку; (3) приоритет удовлетворенности клиентов путем инвестирования в исследования пользователей и обеспечение качества; и (4) экологические проблемы. Таким образом, менеджер мог бы иметь более исчерпывающий взгляд/больше информации относительно этических последствий своего решения, помогая ему принять более информированное решение. Для сотрудника, застрявшего между ожиданиями менеджера и другими обязанностями, ИИ-помощник может выявить множество точек зрения: одну, согласованную с ожиданиями руководства, другую, подчеркивающую коллегиальные обязанности, и третью, отражающую профессиональные или этические стандарты. Затем сотрудник мог бы сам решить, какая из них лучше.
Этические проблемы: Менеджеры могут изо всех сил пытаться выбрать между одинаково действительными, но конфликтующими вариантами, задерживая действия. Кроме того, постоянное воздействие расходящихся проблем заинтересованных сторон может подорвать способность менеджера предоставлять четкое руководство и осуществлять свои лидерские цели. Менеджеры могут также винить сложность вариантов в плохих результатах, размывая личную ответственность за окончательный выбор. Для сотрудников эти ИИ-помощники могут также внести двусмысленность и усталость от принятия решений, особенно когда ИИ-помощник представляет несколько версий и точек зрения, без руководства о том, как их взвесить. Это может оказать чрезмерное давление на сотрудников, заставляя их справляться с этическими напряжениями без четкой институциональной поддержки.
Отношения между сотрудниками:
Разнообразный ИИ-помощник может способствовать взаимному пониманию и диалогу между сотрудниками с разным опытом и отделами, раскрывая им этические и стратегические преимущества различных стилей работы и приоритетов. Вместо того, чтобы подталкивать сотрудников к согласованию единой корпоративной ценности (как в согласованных ИИ-помощниках) или к прямому оспариванию идей друг друга (как в состязательных ИИ-помощниках), разнообразные ИИ-помощники демонстрируют множество перспектив, поощряя креативность и более широкую чувствительность к ценностям внутри команд. Это может помочь командам справляться со сложными решениями, где ни одна единственная перспектива не является очевидно правильной, и где прогресс требует интеграции множества взглядов в рабочие, уважительные компромиссы.
Пример: В рекламной компании разнообразный ИИ-помощник может представить эстетические интересы дизайнера, акцент менеджера проекта на экономической эффективности и акцент копирайтера на креативности и принятии риска рядом, предлагая этические и стратегические обоснования для каждого. Это позволит коллегам ценить интересы друг друга и взвешивать компромиссы, вместо того чтобы конкурировать за доминирование своей собственной перспективы.
Этические проблемы: Хотя разнообразные ИИ-помощники предназначены для содействия пониманию, они могут дать обратный эффект, если не будут встроены в культуру, которая ценит открытость и честность. Сотрудники могут выбирать результаты ИИ, которые подтверждают их существующие предубеждения, вместо того чтобы взаимодействовать с полным спектром перспектив. Расходящиеся перспективы, поддерживаемые ИИ, могут усилить трения, а не взаимное понимание, если сотрудники используют результаты ИИ для обоснования противоположных позиций. Кроме того, сотрудники могут быть ошеломлены нюансированными компромиссами без четких механизмов разрешения, замедляя сотрудничество и принятие решений. Без заранее существующих общих норм принятия решений или сильной культуры сотрудничества разнообразные ИИ-помощники могут замедлить сотрудничество и усложнить подотчетность, оставляя команды неуверенными в том, чье суждение в конечном итоге преобладает.
6 Заключение
Не существует универсальной стратегии для согласования ИИ-помощников, развернутых в деловых контекстах. Скорее, каждая стратегия соответствует профилю и миссии разных фирм. Поддерживающие ИИ-помощники могут быть лучше подходить для устоявшихся компаний, которые уже имеют эффективный рабочий процесс и сильное этическое управление. Состязательные ИИ-помощники, с другой стороны, могут быть более подходящими для компаний, которые больше заинтересованы в росте и изменениях, и где мышление за пределами коробки является основным двигателем для них. А разнообразные ИИ-помощники подходят для компаний, где решения и их ставки высоки, но также неоднозначны, потому что ценности заинтересованных сторон законно расходятся, и ни одна единственная этическая рамка не дает ответа, который действует во всех случаях.
Крайне важно, чтобы мы признали, что ИИ-помощники имеют перспективы, которые значительно повлияют на фирмы, в которых они развернуты. Каждый ИИ-помощник приходит с перспективой, которая влияет на то, как сотрудники внутри фирм думают, действуют и относятся друг к другу. Соответственно, лидеры и лица, принимающие решения в фирмах, должны быть преднамеренными в том, как они выбирают, разрабатывают и развертывают этих ИИ-помощников, чтобы сохранить контроль над культурной и моральной основой своих фирм.
Этическое заявление
Это исследование не включало людей и не требовало проверки IRB. Тем не менее, мы признаем, что наши связи с коммерческими и академическими учреждениями, участвующими в развертывании или исследовании LLM, могут влиять на то, как мы формулируем риски и решения. Поэтому мы стремились критически оценить, а не просто продвигать, использование стратегий согласования внутри фирм. Мы подчеркиваем необходимость осторожности, прозрачности и контекстуальной осведомленности при их развертывании.
Заявление о неблагоприятном воздействии
Существуют риски, связанные с использованием и интерпретацией наших предложенных стратегий согласования. При неправильном применении эти стратегии могут усилить доминирующие нормы, поощрять чрезмерное доверие к системам ИИ или маргинализировать несогласные перспективы внутри фирм. Более того, фирмы могут принимать стратегии согласования выборочно для поддержки уже существующих программ, а не для содействия этическому осмыслению. Наш анализ призван подчеркнуть такие риски и поощрять преднамеренные, плюралистические подходы к развертыванию ИИ, которые учитывают внутрифирменную реляционную и этическую сложность.