Это всё ещё сложно: от родительского контроля к подростко-центричным решениям цифровой устойчивости

Согласно отчёту Pew Research о подростках, социальных сетях и технологиях, 96% американских подростков ежедневно используют Интернет; 46% из них находятся онлайн почти постоянно. Большинство подростков имеют доступ к цифровым устройствам, таким как смартфоны (95%), настольные или портативные компьютеры (90%) и игровые консоли (83%) [1]. Значительное большинство подростков отмечают, что социальная активность в сети помогает им чувствовать себя более связанными, творческими и поддержанными. Тем не менее, недавние исследования связывают продолжительное время перед экраном, кибербуллинг, доступ к контенту для взрослых и проблемное использование Интернета с психическими расстройствами и угрозами физической безопасности, такими как онлайн‑груминг и торговля людьми.

В результате средства массовой информации и научные исследования непропорционально акцентировали необходимость ограничительных мер, направленных на сокращение доступа к технологиям для защиты подростков. Усиленное внимание со стороны медиа‑нарративов, основанных на страхе, поддержало законодательные инициативы сенаторов США Блументаля и Блэкберн по предложению закона «Kids Online Safety Act (KOSA)», направленного на защиту детей от онлайн‑рисков. Хотя данное законодательство имеет положительные стороны, некоторые правозащитные организации, включая группы, поддерживающие права ЛГБТК+‑молодёжи и свободу слова, выразили обеспокоенность чрезмерным использованием цифрового надзора, ограничивающего права подростков на приватность, безопасность и доступ к информации.

Подростковый возраст представляет собой особую фазу развития, соединяющую детство и взрослость, с основной целью — движение к независимости и автономии. Подростков часто описывают как «цифровых аборигенов», выросших с цифровыми технологиями и обладающих врождённой технической грамотностью. Однако более точным термином может быть «цифровые наивы», поскольку большинство подростков всё ещё формируют критическое понимание того, как распространяется личная информация и как находить доступные сведения в сетевой среде [3].

В современном цифровом мире одной из важнейших задач развития подростков является овладение навыками управления онлайн‑взаимодействиями и защиты от цифровых рисков. Между тем общество предполагает, что подростки находятся в зоне экстремального риска из‑за наивной цифровой грамотности и недостаточной осведомлённости о приватности, а онлайн‑риски рассматриваются как эпидемия, поражающая подростков. В результате были внедрены патерналистские и ограничительные стратегии (например, приложения родительского контроля) как средство защиты подростков от онлайн‑рисков. Существующая литература указывает, что подростки воспринимают такие ограничительные стратегии как вмешательство в приватность [4]. Кроме того, подобные подходы могут препятствовать здоровому развитию подростков. В 2014 году в книге «It’s Complicated: The Social Lives of Networked Teens» Данах Бойд предостерегала исследователей и общество в целом от ограничительных стратегий обеспечения онлайн‑безопасности подростков:

«Как общество мы часто тратим слишком много времени на беспокойство о молодёжи и не учитываем, что наш патернализм и протекционизм мешают подросткам становиться информированными, вдумчивыми и вовлечёнными взрослыми. Несмотря на истории в СМИ, большинство молодых людей часто находят способы преодолеть ограничения и сформировать представление о том, кто они есть и как хотят взаимодействовать с миром».

За последнее десятилетие учёные исследовали, почему ограничительные меры неэффективны для снижения онлайн‑рисков подростков, и сместили акцент на их укрепление через цифровую устойчивость. В данной статье представлен краткий обзор этого парадигмального сдвига — от приватность‑инвазивных и ограничительных стратегий к подростко‑ориентированным решениям, направленным на защиту цифровой приватности и развитие устойчивости. В частности, статья выделяет следующее:

• критический переход от ограничительных мер родительского контроля к подростко‑ориентированным подходам, основанным на устойчивости, признающим растущую цифровую автономию подростков и подчёркивающим важность их вовлечения в управление онлайн‑рисками;
• обзор исследований, посвящённых эффективности и последствиям подростко‑ориентированных и устойчивых подходов, предоставляющих доказательную базу для родителей, практиков и политиков;
• ключевые проектные выводы для родителей, дизайнеров, практиков, политиков и исследователей в области приватности и онлайн‑безопасности подростков для создания решений, защищающих приватность и способствующих устойчивости.

Таким образом, мы рассматриваем недавние законодательные инициативы и их потенциальное влияние на приватность и автономию подростков, внося вклад в критический анализ того, как правовые рамки пересекаются с онлайн‑безопасностью и правами подростков. Кроме того, мы вводим социоэкологическую перспективу в изучение онлайн‑безопасности подростков, что способствует более тонкому пониманию многогранной природы онлайн‑безопасности и разнообразных факторов, влияющих на цифровой опыт подростков. Таким образом, мы освещаем переход от приватность‑инвазивных методов родительской медиации к подростко‑ориентированным стратегиям, включающим уязвимых, маргинализированных или находящихся в зоне риска подростков, с целью повышения их онлайн‑приватности и безопасности.

Связанные исследования

Подростковый возраст является уникальной стадией развития, основной целью которой является успешное движение к независимости и автономии. С точки зрения развития, подростками считаются лица в возрасте от 10 до 19 лет. Однако в литературе по цифровой приватности в контексте США возрастной диапазон подростков часто определяется как от 13 до 17 лет, с акцентом на правовые последствия статуса несовершеннолетнего в Соединённых Штатах. (Закон США о защите конфиденциальности детей в Интернете — Children’s Online Privacy Protection Act — юридически защищает детей младше 13 лет от недобросовестного или обманного сбора, использования и/или раскрытия их персональной информации онлайн‑провайдерами, в то время как возраст 18 лет является юридическим определением взрослости.)

В подростковом возрасте молодым людям необходима автономия, чтобы отделить себя от родителей. По мере того как они становятся более социальными, чем дети младшего возраста, они ценят онлайн‑взаимодействие. Определённый уровень риска и стремления к автономии является естественной и необходимой частью подросткового периода, а предотвращение подобных опытов может препятствовать их развитию и процессу индивидуализации. С точки зрения развития подростки осознают риски цифровой приватности; поэтому они принимают взвешенные решения о раскрытии информации и балансируют желание защитить себя с желанием общаться онлайн [5]. Хотя существует мало доказательств того, что цифровые технологии приносят подросткам больше вреда, чем пользы, растущая обеспокоенность тем, как социальные сети и активное использование персональных цифровых устройств негативно влияют на развитие и психическое здоровье подростков, привела к моральной панике. Это, в свою очередь, породило ограничительные подходы, направленные на ограждение подростков от онлайн‑опыта вместо того, чтобы обучать их и укреплять их устойчивость к новым цифровым вызовам.

Эта тенденция к патерналистским подходам для защиты молодёжи онлайн проявляется в законодательных инициативах на уровне штатов, направленных на запрет TikTok и использования социальных сетей для младших подростков; в коллективных гражданских исках против социальных платформ; а также в национальном законодательстве, таком как KOSA в США — всеобъемлющем двупартийном законопроекте, предложенном сенаторами США в 2022 году [2]. Этот законопроект требует, чтобы коммерческие платформы, включая, но не ограничиваясь социальными сетями, предпринимали проактивные меры по снижению вреда для несовершеннолетних, включая решение проблем, связанных с пропагандой самоповреждений, суицида и сексуальной эксплуатации. Кроме того, он предусматривает независимые аудиты и поощряет общественный контроль со стороны экспертов и исследователей для обеспечения того, чтобы платформы действительно предпринимали значимые действия по снижению рисков для подростков.

Все эти меры могут иметь благие намерения, но в определённой степени игнорируют или умаляют агентность подростков, а также их права на информацию, свободу выражения, цифровые технологии и гражданское участие. Например, защитники приватности подростков обеспокоены тем, что принятие KOSA может стимулировать социальные платформы собирать ещё больше данных о детях для предотвращения определённого набора угроз. Неумышленно KOSA может привести к использованию широких мер фильтрации контента, ограничивающих доступ несовершеннолетних к определённым онлайн‑материалам, таким как образовательные программы по вопросам сексуальности для ЛГБТК‑молодёжи, которые ранее внедрялись школами в ответ на прежние законодательные инициативы. Таким образом, хотя ограничительные подходы к онлайн‑безопасности подростков могут обеспечивать защиту от рисков, они также могут ущемлять права подростков на цифровую приватность и ограничивать их возможности получать ценные онлайн‑ресурсы и поддержку, что особенно важно для уязвимых подростков, лишённых систем поддержки. Следовательно, подход, основанный на страхе и контроле, чрезмерно сосредоточенный на уязвимости подростков, не готовит их к будущим цифровым вызовам и не способствует продуктивному развитию области. Необходимы новые эмпирические исследования и многомерная интерпретация контекста поведения и опыта подростков в сети.

За последнее десятилетие доктор Памела Висневски и её коллеги исследовали доказательные и подростко‑ориентированные подходы, которые укрепляют подростков, развивая навыки совладания с рисками, устойчивость и саморегуляцию, чтобы они могли более эффективно защищать себя от онлайн‑угроз. В данной статье мы суммируем концепции и результаты совместных исследований, которые смещают акцент от ограничений к доказательным и подростко‑ориентированным решениям онлайн‑безопасности, направленным на развитие цифровой устойчивости. Таким образом, статья предлагает выводы для родителей, дизайнеров, практиков, политиков и исследователей в области приватности и онлайн‑безопасности подростков.

Подростковый возраст является уникальной стадией развития, основной целью которой является успешное движение к независимости и автономии.

Ограничения как средство защиты подростков от онлайн‑рисков

Ландшафт онлайн‑безопасности подростков является сложным и постоянно меняющимся, с развитием стратегий, направленных на снижение рисков и формирование ответственного цифрового поведения. Родительская медиация, варьирующаяся от мониторинга до активного вовлечения, существенно влияет на онлайн‑опыт подростков. Ограничительные подходы к медиации предполагают контроль и регулирование онлайн‑деятельности, тогда как активные стратегии побуждают к обсуждению баланса между защитой и автономией по мере взросления подростков. Одновременно социотехнические вмешательства, такие как проверка возраста и обнаружение рисков, направлены на повышение безопасности путём ограничения доступа к неподобающему контенту и выявления угроз в реальном времени. Однако обеспокоенность вопросами приватности, надзора и автономии подростков подчёркивает необходимость более тонких подходов, ориентированных на укрепление способности подростков самостоятельно управлять своими онлайн‑рисками. В данном разделе рассматриваются родительский контроль, социотехнические вмешательства и регулятивные меры в области онлайн‑безопасности подростков, выявляя связанные с ними вызовы и пересекающиеся интересы.

Родительская медиация для обеспечения онлайн‑безопасности подростков

Родительская медиация охватывает спектр стратегий — от ограничительной медиации и мониторинга до активной медиации. Ограничительная медиация, например приложения родительского контроля, предполагает, что родители ограничивают доступ детей к социальным сетям или устанавливают правила относительно допустимого медиаконтента и его потребления. Приложения родительского контроля часто используются для мониторинга онлайн‑активности подростков, предоставляя родителям прямой доступ к их цифровому контенту, такому как посещённые сайты, данные геолокации, текстовые сообщения, журналы звонков и использование мобильных приложений (например, приложение для обмена геолокацией Life360 и приложение родительского контроля Bark). Подобные подходы особенно актуальны для младших детей и подростков (в возрасте от восьми до двенадцати лет), поскольку они направлены на защиту от преждевременного контакта с контентом для взрослых. Однако большинство подростков считают инструменты родительского контроля навязчивыми и вредными для их отношений с родителями. Поэтому вместо ограничений и слежки родителям необходимо использовать активные меры для обучения детей угрозам безопасности и приватности в сети.

По мере взросления подросткам необходимы возможности для развития навыков оценки рисков, решения проблем и поиска помощи, чтобы самостоятельно справляться с потенциальными онлайн‑угрозами. Кроме того, полагаться исключительно на ограничительные подходы к онлайн‑безопасности может быть неэффективно, так как это ограничивает возможности подростков взаимодействовать с другими людьми в сети. Поэтому активные практики цифрового воспитания, такие как открытое обсуждение онлайн‑рисков, совместное использование цифровых технологий с подростками и содействие доступу к полезному онлайн‑контенту, имеют важное значение, поскольку они способствуют развитию подростков в направлении безопасного и автономного онлайн‑взаимодействия. Такая активная медиация эффективна, так как предполагает обсуждения родителей с детьми нежелательных аспектов медиапотребления и советы о том, как правильно взаимодействовать с медиаконтентом.

Однако подходы к онлайн‑безопасности подростков, ориентированные на родителей и семью, часто предполагают высокий уровень привилегий, так как требуют значительных временных и эмоциональных ресурсов родителей и могут зависеть от других аспектов динамики отношений между родителями и детьми. Более того, общение о рисках в сети с подростками часто оказывается сложным, поскольку родители могут реагировать чрезмерно или осуждающе, когда подростки делятся своим онлайн‑опытом, что усугубляет проблему вместо её смягчения. В результате это может подрывать доверие между родителями и подростками, а также разрушать позитивную семейную динамику. Более того, подростки, наиболее уязвимые к онлайн‑рискам, такие как находящиеся в приёмных семьях, часто лишены родительской поддержки, необходимой для обеспечения их онлайн‑безопасности. Поэтому исследователи выступают за социотехнические решения, которые отходят от зависимости исключительно от родительской медиации и направлены на укрепление способности подростков самостоятельно управлять своими онлайн‑рисками и быть устойчивыми.

Проверка возраста и обнаружение онлайн‑рисков

В последние годы были рассмотрены несколько социотехнических вмешательств, направленных на повышение онлайн‑безопасности подростков, включая проверку возраста и автоматическое обнаружение онлайн‑рисков. Проверка возраста предполагает технические меры, предназначенные для установления возраста или возрастного диапазона пользователей, с применением различных методов, обладающих разной степенью надёжности (например, проверка удостоверений личности или оценка возраста на основе распознавания лиц) и в контексте различных уровней онлайн‑рисков. Разнообразные меры проверки возраста обычно используются для ограничения доступа подростков к товарам, услугам и цифровому контенту, хотя такие меры подвержены обходу или обеспечивают ограниченную защиту подростков в условиях повышенного риска. Как отмечено в отчёте euConsent, подростки легко обходят эти меры, например, используя удостоверения личности своих родителей. Методы сторонней проверки возраста (например, цифровые идентификаторы) обычно более эффективны, хотя они могут порождать проблемы безопасности или приватности, такие как онлайн‑мошенничество. Кроме того, родители стремятся к автономии в принятии решений относительно контента и услуг, доступных их детям, исходя из собственных представлений о допустимости, а не из общих возрастных ограничений [6].

Другой тенденцией является использование инструментов на основе искусственного интеллекта для обнаружения широкого спектра вредоносного онлайн‑контента, главным образом в крупных технологических компаниях. Учитывая масштаб проверяемого онлайн‑контента, внедрение автоматизированных механизмов обнаружения набирает силу, поскольку альтернатива на основе человеческого анализа считается в значительной степени непрактичной. Основная предпосылка технологий обнаружения рисков, основанных на данных, заключается в том, что систематический сбор персональных данных позволяет выявлять новые угрозы, обеспечивая целевые и проактивные вмешательства. Однако формирование наборов данных для обучения алгоритмов машинного обучения порождает дополнительные проблемы приватности и надзора, так как требует использования данных, связанных с интимными и рискованными поведенческими взаимодействиями подростков (например, случаи сексуального груминга), которые часто происходят через приватные каналы.

Подходы к обеспечению онлайн‑безопасности подростков, сохраняющие приватность и основанные на устойчивости

Большинство подростков воспринимают вышеупомянутые ограничительные меры как чрезмерно навязчивые и сковывающие [7]. В ответ на такие конфликты исследователи онлайн‑безопасности подростков призывают к подростко‑ориентированным подходам, при которых подростки сохраняют определённый уровень приватности и автономии в принятии собственных решений о безопасности в сети. Ключевая идея данного подхода заключается в переходе от авторитарного взгляда на защиту подростков к более поддерживающим моделям, которые способны укрепить подростков и дать им возможность самостоятельно регулировать своё поведение и осмысленно управлять онлайн‑рисками. Это подчёркивает необходимость внедрения практик проектирования, основанных на сильных сторонах, которые могут укрепить как подростков, так и родителей в управлении онлайн‑рисками. В данном разделе суммируются исследования, выходящие за рамки традиционных подходов, основанных на ограничительных и инвазивных механизмах, и направленные на разработку решений, базирующихся на устойчивости и автономии, которые позволяют подросткам использовать свои знания для саморегуляции и совладания с онлайн‑рисками.

Осознанное и целенаправленное использование медиа

На фоне распространения функций вовлечения, таких как автозапуск и алгоритмы рекомендаций, в социальных медиа‑платформах исследователи активно изучают стратегии, направленные на снижение проблем подростков, связанных с зависимым потреблением медиа и управлением временем. Это обусловлено заметным разрывом между повышенной чувствительностью подростков к социальным стимулам и их навыками саморегуляции. С точки зрения развития навыки саморегуляции, включая рефлексию, стратегическое планирование, постановку целей и самооценку, в подростковом возрасте относительно недостаточно развиты. В результате предпринимаются усилия по разработке интервенций, способствующих осознанному и планомерному использованию цифровых медиа подростками.

Например, Дэвис и соавт. [8] разработали мобильное приложение под названием Locus, которое побуждает подростков размышлять о своём использовании социальных сетей в течение дня и ставить цели на следующий день. Locus представляет собой обёрточное приложение, позволяющее открывать социальные сети напрямую через него. После запуска Locus пользователи видят список всех установленных на устройстве приложений социальных сетей. При выборе конкретного приложения пользователю показывается текстовый рефлексивный запрос перед переходом в выбранное приложение: «Что сделает ваше время в Twitter сегодня приятным?» Ответ на этот запрос является необязательным и может быть дан в текстовой или голосовой форме. Кроме того, Locus ежедневно в 21:00 отправляет уведомление с вопросом: «Как вы думаете, как будете использовать социальные сети завтра?» В ходе двухнедельного экспериментального исследования с участием подростков 14–18 лет, включавшего предварительные и итоговые опросы, а также выходные интервью, Дэвис и коллеги обнаружили, что подростки демонстрировали повышенный самоконтроль и автономию в управлении своим потреблением социальных сетей, а также снижение случаев неосознанного использования. Подростки отмечали, что чувствовали более сильное чувство цели и уверенности в своих взаимодействиях на платформах социальных сетей.

Таким образом, осознанное и планомерное использование медиа давно признано эффективным средством развития саморегуляции, особенно начиная с раннего детства. При первоначальном руководстве родителей подростки способны приобретать осознанность и принимать целенаправленные решения как часть планомерного использования, что служит катализатором развития саморегуляции. Предоставляя подросткам возможность устанавливать собственные здоровые границы, осознанное и заранее спланированное использование медиа может смягчить напряжённость в вопросах приватности между родителями и подростками, особенно у тех, кто испытывает трудности в согласовании противоречивых границ. В то же время Дэвис и коллеги наблюдали значительные индивидуальные различия среди подростков в отношении «оптимального» уровня поддержки их саморегуляции в социальных сетях. Это указывает на необходимость проектирования интервенций с учётом таких факторов, как пол, возраст, социально‑экономический статус и этническая принадлежность, а также индивидуальные характеристики и мотивация к изменению своего использования социальных сетей. Кроме того, вовлечённость подростков в социальные сети может различаться в зависимости от особенностей конкретных платформ. Следовательно, вопрос о том, как адаптировать интервенции для удовлетворения различных потребностей и ожиданий подростков, а также для разных социальных медиа‑сред, является важным направлением проектирования, требующим дальнейшего изучения.

Ориентированное на подростков обнаружение рисков

С точки зрения человеко‑ориентированного подхода, сбор аннотаций «истинных данных» от тех, кто непосредственно сталкивается с рисками, обеспечивает, что обучаемые модели обнаружения рисков отражают реальные жизненные ситуации и точно представляют угрозы, с которыми пользователи сталкиваются онлайн. Восприятие риска является высоко субъективным; поэтому понимание восприятия риска людьми, которые его испытали (в нашем случае подростками), составляет основу проектирования социотехнических систем на базе машинного обучения для их поддержки. В стремлении создать подростко‑ориентированные ML-системы исследователи изучали способы работы с подростками для сбора экологически валидных данных об онлайн‑рисках. Например, Рази и соавт. [9] разработали онлайн‑систему для сбора данных Instagram, предоставленных подростками. Исследователи создали защищённый веб‑сайт, где участники могли заполнить анкету об использовании социальных сетей и небезопасных ситуациях, загрузить свои данные Instagram и аннотировать их (например, переписки) как «безопасные» или «небезопасные». В случае небезопасности они указывали тип и уровень риска, контекст каждой переписки (почему она вызвала чувство небезопасности) и характер отношений между участниками переписки.

Полученный набор данных позволил создать автоматизированные системы для выявления рискованного контента, сексуальных переписок и суицидальных намерений с высокой точностью. Он также дал исследователям ценные сведения для понимания контекста и многомерности онлайн‑рисков, которые подростки испытывают в приватных условиях, что имеет ключевое значение для разработки подростко‑ориентированных и индивидуализированных стратегий предотвращения рисков, способствующих устойчивости подростков к онлайн‑угрозам. Например, используя метки уровня риска, предоставленные подростками (т.е. высокий риск против низкого риска), исследователи смогли построить алгоритмы машинного обучения, которые приоритизируют выявление случаев высокого риска для оперативного вмешательства, в то время как для случаев низкого риска алгоритмы учитывают контекст переписки для более точного понимания ситуации и предотвращения ложных срабатываний (например, при модерации контента). Таким образом, применяя подход «человек в цикле» (т.е. работа с подростками по предоставлению их данных о рисках и самостоятельной аннотации опыта риска) при проектировании алгоритмов автоматического обнаружения рисков, исследователи смогли продвинуться к подростко‑ориентированным и контекстно‑чувствительным моделям «реального времени» как «своевременным» интервенциям для снижения их онлайн‑рисков.

В то же время построение систем обнаружения рисков на основе подхода «пожертвования данных» может сталкиваться с трудностями — от технических проблем при работе с чувствительными наборами данных до этических соображений. Одной из основных технических проблем, отмеченной Рази и соавт., была совместимость между данными Instagram и системами сбора данных. Instagram часто изменяет организацию и формат пользовательских данных, что требует постоянных технических обновлений системы. Более того, сбор данных об онлайн‑рисках у несовершеннолетних требует повышенных мер предосторожности, учитывая сложность и чувствительный характер приватных данных. Поэтому необходим ряд дополнительных мер помимо институционального этического контроля (например, Сертификат конфиденциальности Национального института здравоохранения, документы по снижению рисков и протоколы обязательной отчётности), чтобы обеспечить приватность, конфиденциальность и безопасность участников.

Совместное проектирование решений для онлайн‑безопасности

Методологии совместного проектирования применяются в исследованиях онлайн‑безопасности подростков для интеграции уникальных взглядов самих подростков в разработку подростко‑ориентированных решений. Одной из заметных инициатив является создание программы молодёжного консультативного совета (Youth Advisory Board, YAB), представляющей собой долгосрочный проект совместного проектирования, направленный на вовлечение подростков в разработку собственных решений по онлайн‑безопасности и приватности. В течение года исследователи работали с группой из семи подростков в возрасте от 15 до 17 лет, ставя перед собой задачи: 1) обучить их навыкам UX‑дизайна и работе с отраслевыми инструментами, а также предоставить рекомендации по профессиональному развитию; 2) получить прямую обратную связь по исследовательским протоколам, связанным с онлайн‑безопасностью подростков, и вовлечь их в исследования; 3) включить их в совместные проектные активности, соответствующие их интересам [10].

В рамках YAB исследователи изучали методологические подходы, такие как среда асинхронного исследовательского сообщества (Asynchronous Research Community, ARC), где проводились еженедельные обсуждения на платформе Discord, а также синхронные проектные сессии в Zoom. Асинхронные активности выполнялись через текстовые ответы и скриншоты, а проектные задачи — с использованием Figma, где подростки создавали собственные дизайн‑решения для новых функций онлайн‑безопасности. В синхронных встречах исследователи проводили более длительные сессии с подростками для совместного проектирования и концептуализации идей. Асинхронные обсуждения продолжались в Discord, где все участники могли давать обратную связь и предложения по текущей работе.

В течение восьминедельного периода работы в ARC исследователи выявили, что подростки воспринимают различные социальные платформы как спектр уровней приватности: частные, публичные и полупубличные. Подростки демонстрировали осознанный процесс принятия решений при выборе платформ в зависимости от целей и предпочтений, проявляя понимание потенциальных рисков приватности. Например, они предпочитали более приватные платформы для общения один на один, но переходили на более публичные для просмотра или публикации контента. Это свидетельствует о том, что подростки хорошо осознают риски приватности в социальных сетях. Следовательно, для достижения баланса между реализацией своих целей и снижением рисков подростки применяли разнообразные стратегии регулирования настроек приватности в зависимости от предполагаемой аудитории.

Соответственно, их идеи по проектированию функций приватности были сосредоточены на предоставлении более детализированного контроля над тем, какая информация в их аккаунтах может быть доступна и кому. Эти наблюдения в совокупности подчёркивают недостаточность универсальных решений для обеспечения онлайн‑безопасности подростков с различными целями и устремлениями. Вместо этого необходимо учитывать индивидуальные мотивации и взгляды подростков на использование социальных сетей, а также их восприятие приватности, чтобы разрабатывать персонализированные системы поддержки, способствующие более безопасному онлайн‑опыту.

Однако работа в удалённом формате затрудняла установление подростками доверительных связей с исследователями и сверстниками. Например, подростки из исследования Али и соавт. отметили недостаток взаимодействия «равный‑с равным», что мешало их участию и формированию долгосрочных связей. Кроме того, эта проблема проявлялась в среде ARC (Discord), где подростки участвовали в активности по собственному усмотрению, а время их участия было непостоянным. Это приводило к нерегулярным и фрагментированным взаимодействиям с другими подростками и исследователями, препятствуя формированию эффективных отношений для совместной работы.

Таким образом, установление доверительных отношений с подростками и учёт разнообразных потребностей и навыков участников могут стать ключом к преодолению вызовов, связанных с подходами совместного проектирования. Баланс между синхронными и асинхронными форматами также важен для обеспечения гибкости и стимулирования индивидуального вклада более тихих участников. Важно инвестировать время и усилия в поиск общих интересов. «Часы приёма», совместное проектирование и очные встречи (если возможно) могут способствовать укреплению доверия и командной работы, предоставляя больше возможностей для построения устойчивых отношений. Наконец, необходимо создавать условия для групповых активностей и взаимодействий, чтобы подростки могли развивать связи «равный‑с равным», формировать сети и повышать мотивацию к участию.

Оценка интервенций на основе «подталкивания»

Интервенции в реальном времени или «своевременные» интервенции на основе подталкивания также предлагаются для поддержки подростков в момент, когда они сталкиваются с рисками онлайн. Подталкивания, определяемые как тонкие сигналы, призванные влиять на поведение, исследуются как эффективные средства направлять действия подростков, не лишая их автономии. Например, Ага и соавт. [11] совместно с подростками разработали элементы онлайн‑безопасности в рамках исследования UX Bootcamp, где подростки создавали раскадровки, отражающие их прошлый опыт столкновения с онлайн‑рисками. Их опыт послужил основой для создания «подталкиваний»: публичное подталкивание против кибербуллинга, которое фильтровало рискованный комментарий и выделяло правила сообщества, предоставляя варианты просмотра, удаления или жалобы; подталкивание против запроса конфиденциальной информации о местоположении, позволяющее продолжить, игнорировать или заблокировать; подталкивание против хищнического риска, предупреждающее о неподобающих сообщениях от незнакомца, с вариантами продолжить, выйти или заблокировать отправителя; подталкивание против мошенничества и неприемлемого контента, использующее фильтры для цензуры риска, с вариантами просмотра, удаления и информирования других.

С этими разработанными совместно с подростками подталкиваниями Ага и соавт. перешли к созданию платформ моделирования ситуаций в социальных сетях для оценки эффективности подталкиваний. Логика применения симулированных сред заключается в стремлении оценить влияние подталкиваний на формирование безопасного онлайн‑поведения подростков в условиях, максимально приближённых к реальным, но без риска для участников. Поэтому исследователи представили сценарии рисков и дизайн подталкиваний группе из 20 подростков для доработки. Подросткам предложили переработать один или несколько сценариев рисков и подталкиваний, предоставив высокоуровневую обратную связь для повышения реалистичности и эффективности. Обратная связь предоставлялась через аннотации в FigJam и устные обсуждения.

Исследователи обнаружили, что подростки совместно разработали сценарии рисков, которые были тонкими и более высокими по уровню риска, чтобы казаться правдоподобными, создаваемыми «рискованными персонажами», обманывающими подростков через установление доверия или общего контекста. Подростки рекомендовали подталкивания для предотвращения рисков через персонализированные фильтры чувствительности, сохраняя автономию в принятии решения о просмотре риска. Кроме того, подростки выразили желание иметь проактивные механизмы совладания, меры по привлечению нарушителей к ответственности и образовательные правила сообщества. При оценке этих подталкиваний большинство участников выразили предпочтение симулированным средам социальных сетей, где они могли наблюдать реальные изменения поведения без воздействия реальных рисков. Одновременно подростки подчеркнули важность прозрачности в отношении сбора и записи данных для устранения проблем приватности, связанных с их участием в исследовании.

В то же время мы признаём, что внедрение подталкиваний онлайн‑безопасности в реальном времени не является простым, так как они зависят от точного выявления риска в нужный момент. Хотя обсуждаемые своевременные поведенческие интервенции могут быть эффективны для принятия подростками решений в области онлайн‑безопасности, они не могут охватывать всех подростков с разным цифровым опытом и потребностями. Для того чтобы интервенции были эффективными, они должны учитывать контекст, что во многих случаях требует применения технологий обнаружения рисков на основе машинного обучения. Поэтому совместные усилия, объединяющие пространство проектирования и техническую реализацию разработанных систем, имеют решающее значение для продвижения к персонализированным интервенциям на основе подталкивания.

Кроме того, поскольку подталкивания влияют на поведение, наиболее заметная этическая проблема, связанная с ними, заключается в том, что они могут ограничивать автономию подростков. В контексте онлайн‑безопасности подростков предотвращение рисков требует модерации контента и цензуры, что во многих случаях рассматривается как нарушение свободы слова. Однако подростки‑участники исследования Ага и соавт. считали, что контролируемые и персонализированные способы фильтрации небезопасного контента уважали их автономию в принятии решений. Кроме того, подростки полагали, что модерация вредного контента необходима и что ограничение свободы слова оправдано, если оно защищает несовершеннолетних от онлайн‑угроз. Поэтому подталкивания, побуждающие нарушителя пересмотреть свои действия, при сохранении свободы продолжить — но не без последствий — должны быть тщательно спроектированы.

Подталкивания, определяемые как тонкие сигналы, призванные влиять на поведение, исследуются как эффективные средства направлять действия подростков, не лишая их автономии.

Социоэкологические подходы к обеспечению онлайн‑безопасности подростков

Ландшафт онлайн‑безопасности подростков сместился в сторону совместных семейных подходов, способствующих развитию коммуникации, приватности и автономии в цифровом семейном контексте. Недавние исследования изучали механизмы совместного семейного надзора, позволяющие родителям и подросткам принимать решения вместе и предоставляющие подросткам автономию для поддержки себя и своей семьи в управлении онлайн‑рисками. Эти инновации свидетельствуют о переходе к совместным моделям, признающим разнообразные потребности внутри семей. Однако, несмотря на то что семейно‑ориентированные стратегии остаются распространёнными в индустрии и политическом дискурсе, всё больше признаётся ограниченность опоры исключительно на родительскую медиацию, особенно для уязвимой молодёжи, лишённой надёжных семейных систем поддержки. Данный раздел закладывает основу для рассмотрения социоэкологической модели, которая интегрирует цифровое воспитание с более широкими социальными системами для укрепления устойчивости и развития поддержки на уровне сообщества в сфере онлайн‑безопасности подростков.

Совместные семейные подходы

В последние годы исследователи изучали внедрение совместных семейно‑ориентированных подходов для решения проблем онлайн‑безопасности подростков. Эти подходы направлены на содействие открытым обсуждениям внутри семьи при уважении приватности и автономии подростков в принятии не только собственных решений о безопасности в сети, но и решений, связанных с мобильной приватностью и безопасностью всей семьи. Применяя совместный подход, ориентированный на онлайн‑безопасность подростков, Актер и соавт. [12] разработали приложение для совместного семейного надзора — Community Oversight for Privacy and Security (CO‑oPS), которое предоставляло родителям и подросткам равные возможности для мониторинга использования мобильных приложений и настроек разрешений друг друга, а также для предоставления обратной связи. Приложение CO‑oPS позволяло членам семьи просматривать установленные приложения друг друга и предоставленные или отклонённые разрешения, способствуя прямому обмену знаниями между родителями и подростками и улучшая коммуникацию. При этом пользователи могли скрывать часть своих приложений друг от друга, обеспечивая равный уровень личной приватности как для родителей, так и для подростков.

В ходе лабораторного исследования с участием 19 пар «родитель–подросток» Актер и соавт. изучали применимость данного подхода для совместного управления мобильной онлайн‑безопасностью, приватностью и защитой. Они обнаружили, что подростки чаще выступали основными поставщиками технической поддержки в семье, тогда как родители прибегали к ручным проверкам телефонов своих детей или использовали приложения родительского контроля для ограничения установки новых приложений. При оценке приложения CO‑oPS и родители, и подростки отметили ценность возможности просматривать приложения и разрешения друг друга, так как это повышало прозрачность использования приложений в семье и способствовало обсуждению связанных вопросов. При просмотре приложений и разрешений родители выражали больше обеспокоенности по поводу использования приложений подростками, считая это потенциальным каналом для внешних лиц, чтобы связаться с их детьми онлайн. Напротив, подростки в основном сосредотачивались на выявлении рискованных разрешений, предоставленных на устройствах родителей, демонстрируя повышенную осведомлённость о злонамеренных намерениях сторонних мобильных приложений.

В целом Актер и соавт. подчеркнули, что родители и подростки по‑разному воспринимают мобильную приватность, безопасность и онлайн‑защиту, и что совместный семейный надзор может способствовать повышению знаний как родителей, так и подростков в этих областях через совместный мониторинг и коммуникацию. Однако такие преимущества во многом зависят от готовности обеих сторон признать взаимную ответственность за онлайн‑благополучие друг друга, что требует парадигмального сдвига от традиционных подходов к онлайн‑безопасности подростков, таких как родительский контроль, к более совместным семейным стратегиям.

В итоге совместные семейные подходы продемонстрировали потенциал в обеспечении онлайн‑безопасности подростков. Эти подходы способствовали прозрачности, приватности и автономии, а также стимулировали обсуждения вопросов мобильной приватности и безопасности внутри семей. Благодаря таким подходам родители и подростки выявили различия в восприятии мобильной онлайн‑безопасности, приватности и защиты, что подчёркивает необходимость совместных семейных решений для повышения совместного обучения в семьях.

За пределами семейно‑ориентированных подходов

Технологические подходы к медиации, ориентированные на родителей и семью (например, приложения родительского контроля), продолжают оставаться наиболее широко рекомендуемыми стратегиями со стороны индустрии и политиков. Однако такой взгляд на онлайн‑безопасность игнорирует реальность, что наиболее уязвимые подростки перед онлайн‑рисками, например подростки в приёмных семьях, зачастую не имеют вовлечённых родителей или членов семьи, которые могли бы активно применять эти стратегии. Более того, исследования Бадильо‑Уркиолы и соавт. [13] с приёмными родителями и социальными работниками показывают, что даже те, кто отвечает за благополучие этих подростков, получают минимальную поддержку и испытывают трудности с обеспечением их онлайн‑безопасности. Социальные работники часто перегружены и имеют ограниченные возможности для решения вопросов онлайн‑безопасности, тогда как приёмные родители испытывают сильный стресс и множество обязанностей, что делает их отчаянными в поиске решений.

Поэтому современные усилия в области онлайн‑безопасности подростков выступают за подходы, использующие социоэкологические системы поддержки молодёжи, то есть различных людей и факторы, влияющие на онлайн‑опыт подростков. Эти индивиды и факторы могут быть определены на разных уровнях: индивидуальном, уровне отношений (семья и сверстники) и уровне сообщества (школа). Например, Бадильо‑Уркиола и соавт. отметили напряжённость между социальными работниками и приёмными родителями, которую можно смягчить совместной работой по управлению проблемами онлайн‑безопасности подростков в приёмных семьях. Они рекомендовали разработку совместных социотехнических систем, которые могли бы объединить социальных работников и приёмных родителей в партнёрстве друг с другом. В этом смысле социотехническая система может действовать как межличностная система, соединяющая социальных работников, приёмных родителей и подростков в приёмных семьях для усиления поддержки. В нашей предложенной концептуальной модели (см. рисунок 1) социальные экологии рамки подростковой устойчивости объединяются с практиками цифрового воспитания на протяжении подросткового периода, чтобы способствовать переходу от ограничительной родительской медиации в раннем детстве к саморегуляции, поддерживаемой социальными экологиями в подростковом возрасте. Эта модель помогает изменить нарратив онлайн‑безопасности от фокуса на родительском контроле к рассмотрению спектра стратегий медиации, способствующих социальным связям и использующих поддержку со стороны сообщества.

Рисунок 1. Социоэкологический подход к цифровому воспитанию на протяжении подросткового периода.

За пределами универсальных подходов

Хотя решения для онлайн‑безопасности, сохраняющие приватность и основанные на устойчивости, демонстрируют положительные тенденции в направлении укрепления цифрового благополучия подростков, необходимо учитывать, как различные факторы (например, социально‑экономический статус, культурный контекст и доступ к цифровым технологиям) влияют на онлайн‑опыт и риски подростков, а также как подростко‑ориентированные решения могут адаптироваться к разнообразным потребностям и условиям. Например, подростки в приёмных семьях ещё более подвержены высоким уровням онлайн‑рисков, таким как торговля людьми. Однако приёмные родители часто не обладают достаточной технической компетентностью для эффективного управления использованием технологий подростками. В результате они прибегают к ограничительным практикам. Необходимы технологии онлайн‑безопасности, в которых власть распределяется между участниками системы поддержки подростков в приёмных семьях и самими подростками, чтобы дать им возможность принимать собственные решения и учиться. Однако разработано лишь небольшое количество основанных на доказательствах интервенций, направленных на укрепление саморегуляции и онлайн‑безопасности подростков в приёмных семьях. Поэтому новые системы должны разрабатываться для и совместно с подростками в приёмных семьях при участии приёмных родителей и социальных работников.

Кроме того, значительная часть дискурса об онлайн‑безопасности сегодня формируется в странах Глобального Севера (например, Северная Америка, Европа и Восточная Азия); однако исследования показывают, что культурные факторы могут влиять на различные стратегии родительской медиации. Например, родители в Западной Европе чаще выбирают более протекционистские подходы, даже если это ограничивает онлайн‑возможности детей, тогда как родители в странах Северной Европы и Скандинавии отдают предпочтение правам и свободам детей в онлайн‑среде, даже если это может подвергать их риску [14]. Таким образом, эффективность стратегий родительской медиации может различаться в зависимости от культурного контекста. Следовательно, будущие исследования должны изучать подростко‑ориентированные решения онлайн‑безопасности, основанные на устойчивости, с глобальной перспективы, чтобы расширить дискуссию, учитывая различные культурные, правовые и социальные контексты. Такой подход позволит подростко‑ориентированным решениям быть применимыми к более широкой аудитории и способствовать более комплексному пониманию рассматриваемых проблем.

Один из способов учёта этих важных контекстуальных различий заключается в подростко‑ориентированном дизайне, который ставит подростков в позицию основных заинтересованных сторон и носителей авторитета их собственного цифрового опыта. Смещение баланса власти от акцента на потребностях и взглядах родителей и взрослых к усилению голоса подростков может укрепить их способность учиться саморегуляции онлайн‑поведения способами, способствующими устойчивости, автономии и безопасности. Более того, вовлечение подростков в качестве со‑дизайнеров и исследователей может привести к появлению новых моделей проектирования и решений, которые трансформируют современный технологический ландшафт в сторону цифровой инклюзии подростков в формирование платформ, которыми они пользуются, и политик, направленных на их защиту онлайн. Наконец, необходимо признать, что решения для онлайн‑безопасности, основанные на устойчивости, не могут считаться эффективными, пока они не будут разработаны, внедрены и оценены в реальных условиях. Поэтому будущая работа по реализации предложенных решений и их оценке вместе с подростками в реалистичных условиях является критически важной. При проведении дальнейших исследований с подростками и для подростков необходимо учитывать этическую ответственность.

Проведение этических исследований с подростками при сохранении приватности

При проведении исследований, связанных с онлайн‑безопасностью и приватностью подростков, возникают многочисленные вызовы и этические соображения. Необходимо гарантировать, что такие исследования не нарушают приватность подростков. Например, дисбаланс власти, связанный с информированным согласием, сбором данных и другими аспектами исследовательского процесса, может проявляться между исследователями и подростками. Поскольку подростки находятся на стадии перехода от детства к взрослости, они всё ещё переживают множество физических, когнитивных, социальных и эмоциональных изменений. Это приводит к классификации подростков как уязвимой группы, требующей дополнительных мер защиты (например, согласия родителей). Однако подростки стремятся к индивидуальности, часто ищут независимость и приватность.

Поэтому Бадильо‑Уркиола и соавт. [15] разработали список эвристических рекомендаций для проведения рискованных исследований с подростками. Эти рекомендации ставят во главу угла благо, автономию и приватность подростков, предлагая исследователям предоставлять им как можно больше контроля над тем, как, когда и какие типы персональных данных должны собираться. Также рекомендуется использование вспомогательных ресурсов, предупреждений и отказов от ответственности для поддержки подростков до, во время и после участия в исследованиях, связанных с рисками. Юридические обязательства (например, обязательная отчётность о случаях насилия над детьми) должны быть чётко разъяснены подросткам в понятной форме, а ожидания относительно отсутствия мониторинга данных в реальном времени для отчётности о рисках должны быть ясно обозначены.

Для руководства исследователями в США по лучшим практикам снижения рисков и защиты подростков Бадильо‑Уркиола и соавт. также предложили план снижения рисков, который описывает этические соображения и протоколы для вовлечения подростков в чувствительные исследования. Этот план включает этические аспекты, выходящие за рамки стандартных требований FDA США к исследованиям с участием людей, регулируемых институциональными этическими комитетами. Например, он содержит рекомендации по получению Сертификата конфиденциальности от Национального института здравоохранения, а также процедуры для сообщения о предполагаемых случаях насилия или пренебрежения по отношению к детям. В целом, хотя мы признаём важность вовлечения подростков в разработку решений для их онлайн‑безопасности, мы не можем позволить себе подвергать их дополнительным рискам. Следовательно, исследователи должны ставить во главу угла благополучие подростков, параллельно развивая лучшие практики и стандарты проведения этических исследований с сохранением приватности для разнообразных групп подростков.

В данной статье мы подчеркнули парадигмальный сдвиг от ограничительных и инвазивных стратегий к решениям, основанным на устойчивости и сохранении приватности, для укрепления онлайн‑безопасности подростков. Мы также представили обзор эмпирических исследований, которые концептуализировали и изучали различные подходы к укреплению цифрового благополучия подростков, позволяя им быть устойчивыми в цифровой среде. Мы выделили ключевую тенденцию в современной литературе: подростко‑ориентированные подходы к укреплению цифрового благополучия при поддержке здорового развития подростков. Эмпирические данные всё чаще подчёркивают, что универсальный подход «один размер для всех» неприменим к решениям онлайн‑безопасности подростков. Такие факторы, как возраст, семейный контекст и культура, должны учитываться при разработке решений, способных удовлетворить разнообразные цифровые потребности подростков. Поэтому необходимо применять более тонкий и контекстуализированный подход к формированию исследовательской повестки будущего. Некоторые открытые вопросы для дальнейшего изучения в области укрепления цифрового благополучия подростков включают:

• Как можно проектировать решения онлайн‑безопасности, которые балансируют защиту и поддержку здорового развития подростков?
• Как можно проектировать решения онлайн‑безопасности для разнообразных групп подростков, учитывая различия в психологических (например, развитие ребёнка) и социоэкологических факторах (например, семейный контекст и культурные нормы)?
• Как можно внедрить комплексную политику онлайн‑защиты, которая уважает цифровые права подростков?

Перед заключением мы обращаемся ко «всей деревне» родителей, опекунов, исследователей, дизайнеров и разработчиков технологий, клиницистов, педагогов и политиков с призывом приложить усилия к позитивному медиавоспитанию и подходам, основанным на устойчивости, для укрепления цифрового благополучия подростков. Подросткам необходима поддержка взрослых, пока они развивают чувство цифровой автономии и устойчивости к рискам. Следовательно, активный диалог между подростками и поддерживающими взрослыми относительно использования технологий является ключом к укреплению их цифрового благополучия. Клиницисты, педагоги и специалисты должны помогать подросткам и их опекунам вести здоровые разговоры о соответствующем возрасту родительском участии в их использовании технологий, сосредоточиваясь на развитии цифровой автономии и устойчивости. Проектирование и разработка технологий должны быть основаны на доказательствах, инклюзивными и напрямую информируемыми подростками, чтобы академические исследования трансформировались в реальные решения. Наконец, комплексное законодательство и политика должны обсуждаться с участием различных заинтересованных сторон как часть более широкой повестки. Цифровая приватность подростков должна быть защищена как право, а надёжные законы о защите данных подростков должны быть приняты и реализованы на практике. Таким образом, мы призываем к новым практикам, выходящим за рамки надзора и ограничений, к подростко‑ориентированным решениям, которые смогут наилучшим образом поддержать здоровое развитие подростков как цифровых граждан будущего.

БЛАГОДАРНОСТИ

Работа доктора Висневски была поддержана Национальным научным фондом США по грантам IIP‑2329976, IIS‑2333207 и CNS‑2326901, а также Фондом Уильяма Т. Гранта по гранту №187941. Любые мнения, выводы, заключения или рекомендации, выраженные в данном материале, принадлежат авторам и не обязательно отражают точку зрения организаций, финансирующих исследование.

Список литературы

1. М. Андерсон, М. Фаверио и Дж. Готтфрид, «Подростки, социальные сети и технологии 2023.» Pewresearch.org. Дата обращения: 31 января 2024 г. [Онлайн]. Доступно по адресу: https://www.pewresearch.org/internet/2023/12/11/teens-social-media-and-technology-2023/

2. «S.3663 – Закон о безопасности детей в Интернете (Kids Online Safety Act).» Congress.gov. Дата обращения: 31 января 2024 г. [Онлайн]. Доступно по адресу: https://www.congress.gov/bill/117th-congress/senate-bill/3663/text

3. Д. Бойд, «Это сложно: социальная жизнь сетевых подростков». Нью‑Хейвен, Коннектикут, США: Yale Univ. Press, 2014.

4. З. Ифтихар и др., «Проектирование технологий родительского мониторинга и контроля: систематический обзор,» в Proc. Human-Comput. Interaction – INTERACT 2021: 18th IFIP TC 13 Int. Conf., Бари, Италия. Шам, Швейцария: Springer International Publishing, 2021, стр. 676–700.

5. П. Дж. Висневски, Дж. Витак и Х. Хартикайнен, «Приватность в подростковом возрасте,» в Modern Socio Technical Perspectives on Privacy, Б. П. Книйненбург, Кс. Пейдж, П. Дж. Висневски, Х. Р. Липфорд, Н. Проферес, Дж. Романо, ред. Шам, Швейцария: Springer International Publishing, 2022, стр. 315–336.

6. С. Смирнова, С. Ливингстон и М. Стоилова, «Понимание потребностей и проблем пользователей: быстрый обзор доказательств по проверке возраста и родительскому контролю». euConsent. Дата обращения: 15 мая 2024 г. [Онлайн]. Доступно по адресу: https://eprints.lse.ac.uk/112559/

7. А. К. Гош, К. Бадильо‑Уркиола, С. Гуха, Дж. Дж. ЛаВиола‑мл. и П. Дж. Висневски, «Безопасность против слежки: что дети думают о мобильных приложениях родительского контроля,» в Proc. CHI Conf. Human Factors Comput. Syst. (CHI), 2018, стр. 1–14.

8. К. Дэвис и др., «Поддержка осознанного использования социальных сетей подростками через дизайн взаимодействия: исследование концепции,» в Proc. 22nd Annu. Conf. ACM Interaction Design Children Conf., 2023, стр. 322–334.

9. А. Рази и др., «Пожертвование данных Instagram: кейс по сбору экологически валидных данных социальных сетей для целей обнаружения онлайн‑рисков подростков,» в Proc. CHI Conf. Human Factors Comput. Syst. Extended Abstract (CHI EA), 2022, стр. 1–9, doi: 10.1145/3491101.3503569.

10. Н. С. Али, З. Ага, Н. Чатлани, Дж. Пак и П. Дж. Висневски, «Кейс по содействию долгосрочному молодёжному консультативному совету для вовлечения подростков в исследования онлайн‑безопасности,» в Proc. CHI Conf. Human Factors Comput. Syst. Extended Abstract (CHI EA), 2024, стр. 1–8, doi: 10.1145/3613905.3637121.

11. З. Ага и др., «Хитрость против прозрачности: к экологически валидному и безопасному подходу к оценке подталкиваний онлайн‑безопасности для подростков,» в Proc. CHI Conf. Human Factors Comput. Syst. (CHI), 2024, стр. 1–20, doi: 10.1145/3613904.3642313.

12. М. Актер, А. Дж. Годфри, Дж. Кропчински, Х. Р. Липфорд и П. Дж. Висневски, «От родительского контроля к совместному семейному надзору: могут ли родители и подростки управлять мобильной онлайн‑безопасностью и приватностью на равных?,» в Proc. ACM Human-Comput. Interaction, т. 6, 2022, стр. 1–28, doi: 10.1145/3512904.

13. К. Бадильо‑Уркиола, З. Ага, Д. Абакита, С. Б. Харпин и П. Дж. Висневски, «К социально‑экологическому подходу к поддержке социальных работников в продвижении онлайн‑безопасности подростков в приёмных семьях,» в Proc. ACM Hum.-Comput. Interaction, т. 8, 2024, стр. 135–28, doi: 10.1145/3637412.

14. Д. Смахел и др., *EU Kids Online 2020: результаты опроса в 19 странах.* EU KIDS ONLINE. Дата обращения: 15 мая 2024 г. [Онлайн]. Доступно по адресу: https://eprints.lse.ac.uk/103294/

15. К. Бадильо‑Уркиола, З. Ши, З. Ага, И. Ледяева и П. Дж. Висневски, «Проведение рискованных исследований с подростками: совместное проектирование для этичного обращения и защиты подростков,» в Proc. ACM Hum.-Comput. Interaction, т. 4, 2021, стр. 1–46, doi: 10.1145/3432930.