Несколько месяцев назад мир большой политики и высоких технологий испытал потрясение, когда стало известно, что британская компания Cambridge Analytica ненадлежащим образом использовала данные, извлеченные из безобидной викторины на Facebook, чтобы создавать профили пользователей и перенаправлять как можно более широкую аудиторию на платформу с рекламой, убеждающей посетителей голосовать определенным образом. Только часть этой информации была получена с согласия пользователей (первое нарушение), при этом полученные сведения хранились у разработчика приложения (второе нарушение) и были проданы Cambridge Analytica с нарушением условий использования информации (третий возмутительный факт).
Перед нами пример типичной мошеннической разработки в духе киберпреступников, известных также как «черные шляпы» (Black hats) — мошенническое использование тактик убеждения в сочетании с неэтичным использованием персональных данных.
С другой стороны, когда вы последний раз заказывали что-нибудь в Интернете, вы, возможно, заметили использование нескольких элементов дизайна интерфейса, побуждающих вас к покупке («последний просмотренный товар», «3 просмотра за прошлый день»). Хотя эти методы проектирования используются для убеждения пользователей, они обычно не являются мошенническими и считаются методиками «этичного хакинга» (Ethical hacking, который практикуют, например, специалисты по кибербезопасности и прочие положительные персонажи, на сленге называемые «Белые шляпы» — White hats).
Еще один пример: летом на конференции Google I/O–2018 система искусственного интеллекта Google Duplex совершила звонок в салон, чтобы договориться о встрече, и провела непринужденную беседу, настолько хорошо подражая человеческим манерам, что собеседник на другом конце провода не понял, что разговаривал с машиной. Компьютерная система не представляла себя в качестве человека, но и не идентифицировала себя как машину, что в условном диапазоне между черным и белым помещает ее в серое пространство. Что помешает в ближайшем будущем использовать подобную технологию для разработки киберпреступлений?
На одной стороне практики убеждения находятся методики «белой шляпы», для которых характерны открытость, возможность выбора, прозрачность, взаимная выгода, на противоположном полюсе — техники «черной шляпы» с присущими им скрытностью, принуждением, обманом, своекорыстием.
Как видно из приведенных выше примеров, использование тактик убеждения может размещаться в любом месте на спектральной полосе от «черных шляп» на одном полюсе до «белых шляп» — на другом, разделенные большой расплывчатой «серой» областью. В сегодняшнем мире онлайн-мошенничества, фишинговых атак и утечек данных пользователи все более настороженно относятся к тактикам убеждения, не отвечающим их интересам. Разработчики пользовательского опыта, дизайнеры и программисты несут ответственность за решения, связанные с этическим характером тактик, используемых в их проектах.
В этом посте будет представлена краткая история науки убеждения, рассмотрено, как психологические тактики используется совместно с высокими технологиями и новыми медиа, а также представлена пища для размышлений, которая способна помочь дизайнерам и разработчикам избежать перехода через тонкую этическую линию на темную сторону.
Содержание статьи
Убеждение посредством технологий и новых медиа
Этика в эпоху новых технологий и интерактивных медиа
1. Намерение убедить маскируется новизной
2. Заведомо положительная репутация новой технологии
3. Безграничная настойчивость
4. Сторонний контроль над тем, как разворачивается взаимодействие
5. Возможность влиять на эмоции, самому их не испытывая
6. Отсутствие ответственности за отрицательные последствия убеждения
Кодекс поведения разработчиков
Принципы и вопросы
Принцип А: доброжелательность и безвредность
Принцип Б: обязательность и ответственность
Принцип В: целостность
Принцип Г: справедливость
Принцип Д: уважайте права и достоинство других людей
История убеждения
Тактики и методы убеждения трудно назвать новыми — они использовались на протяжении веков. Сочинение древнегреческого мыслителя Аристотеля «Риторика», увидевшее свет более 2000 лет назад, является одним из самых ранних трудов, посвященных искусству убеждения. В нем Аристотель представил следующие способы убеждения: этос (доверие), логос (причина) и пафос (эмоция). Философ также рассмотрел, насколько кайрос (подходящее время) важен для применения упомянутых способов убеждения.
Быстро перенесемся в сегодняшние дни и обратим внимание на методы убеждения, используемые вокруг нас — в рекламе, маркетинге, средствах коммуникации. Когда мы пытаемся убедить кого-то в правоте нашей точки зрения или победить в конкурсе проектов со своей разработкой, то мы, скорее всего, используем убеждение: процесс, при котором отношение или поведение человека — без принуждения — подвергается влиянию других людей.
Хотя Аристотель был первым, кто документально засвидетельствовал существование такого явления как убеждение, в настоящее время в данном контексте чаще всего упоминается книга Роберта Чалдини «Психология влияния» (Influence: The Psychology of Persuasion). Согласно автору, существуют 6 ключевых принципов убеждения:
1. Взаимность. Люди считают себя обязанными дать что-то взамен в качестве ответной меры на получение чего-то.
2. Дефицит. Люди хотят получить больше тех вещей, которых имеется меньше.
3. Авторитет. Люди следуют примеру надежных, знающих экспертов.
4. Последовательность. Людям нравится соответствовать тому, что они говорили или делали ранее.
5. Симпатия. Люди предпочитают говорить «да» тем, кто им нравятся.
6. Консенсус (социальное доказательство). Люди — особенно когда они в чем-либо не уверены — будут смотреть поведение других, чтобы определить свои собственные действия.
Мы все когда-либо подвергались воздействию одного или нескольких из этих принципов и можем распознать их в рекламе или в обычном ежедневном процессе взаимодействия с другими людьми. Несмотря на то, что искусство убеждения существует на протяжении веков, в наши дни в нем появился новый аспект — применение методов убеждения с точки зрения новых технологий и средств массовой информации. Это тенденция возникала одновременно с первыми персональными компьютерами, усилилась с приходом интернета и стала доминирующей в эпоху всепроникающего распространения мобильных устройств.
Убеждение посредством технологий и новых медиа
Специалист по человеческому поведению американский психолог Б. Дж. Фогг (B. J. Fogg) является первопроходцем исследований роли технологий в убеждении. Более двух десятков лет он начал изучать пересечения между убеждением и компьютерными технологиями. Сфера его научных интересов включала в себя интерактивные технологии, такие как веб-сайты, программное обеспечение и устройства, созданные с целью изменения отношения или поведения людей.
Он назвал эту отрасль каптологией (Captology; акроним, образованный от словосочетания Computers as persuasive technologies — «компьютеры как убедительные технологии»). По мотивам своих исследований Б. Дж. Фогг написал книгу «Убедительная технология: использование компьютеров для изменения того, что мы думаем и делаем» (Persuasive Technology: Using Computers to Change What We Think and Do).
Каптология как наука описывает заштрихованную область, где вычислительные технологии и убеждение пересекаются между собой (область компьютеров — Computers — включает в себя видеоигры, карманные компьютеры, компакт-диски с записанными данными, электронные органайзеры, тренажеры и сотрудников; в сфере убеждения — Persuasion — находятся: изменение поведения, мотивация, перемены в мировоззрении, соблюдение требований и изменение отношения).
Интерактивные технологии имеют много преимуществ над традиционными медиа, поскольку они позволяют взаимодействие. Они также имеют преимущество по сравнению с людьми, потому что могут быть более настойчивыми (например, постоянно напоминают о необходимости обновления программного обеспечения), предлагают анонимность (что отлично подходит для чувствительных тем), могут получать и обрабатывать большие объемы данных (например, рекомендации Amazon), могут использовать множество стилей и режимов (текст, графика, аудио, видео, анимация, симуляции), могут легко масштабироваться и беспрепятственно распространяться.
Это последнее преимущество сегодня выражено еще более ярко, чем все остальные, поскольку мобильные телефоны становятся буквально продолжением наших рук, и неостановимо расширяется распространение интеллектуальных устройств, встроенных вычислений, интернета вещей, носимых технологий, дополненной реальности, виртуальной реальности и виртуальных ассистентов под управлением искусственного интеллекта, внедряемых во что угодно и где угодно вокруг нас. Кроме того, сегодняшние технологические достижения позволяют нам выбирать срок и место для высокоэффективного убеждения, поскольку теперь легко узнать местоположение, контекст, текущую деятельность пользователя и предоставить ему возможность принять меры. Это может быть напоминание от ваших «умных часов» о том, что вам пора остановиться или, наоборот, идти куда-то, или пришедшее на смартфон предложение посетить кафе, когда вы приближаетесь к этому заведению на расстояние в несколько кварталов.
Этика в эпоху новых технологий и интерактивных медиа
Использование убеждений в традиционных средствах массовой информации на протяжении последних десятилетий вызвало вопросы касательно этичности подобной практики. С распространением новых медиа и всепроникающих технологий возникает еще больше вопросов об этически безукоризненном использовании методик убеждений. Некоторые из этих вопросов обусловлены преимуществами новых технологий над традиционными средствами массовой информации и людьми. Любой, кто использует методы убеждения для изменения точек зрения или поведения людей, должен иметь полное понимание этических последствий и влияния своей работы.
Одна из ключевых обязанностей разработчика во время любого процесса проектирования — выступать выразителем интересов пользователя. Эта роль становится еще более важной, когда методы убеждения преднамеренно используются в дизайне/проектировании, поскольку пользователи могут и не знать о задействованных тактиках убеждения. Хуже того — некоторые пользователи могут просто не распознавать эти тактики, как это может быть в случае с детьми, пожилыми людьми или другими находящимися в уязвимом положении пользователями.
Б. Дж. Фогг описывает 6 факторов, дающих интерактивным технологиям преимущество над пользователями, когда дело доходит до убеждения:
1. Намерение убедить маскируется новизной
Интернет и электронная почта больше не являются новинками, и большинство из нас научились отличать жульнические веб-практики и мошеннические обещания «нигерийских принцев», но мы по-прежнему находим новизну в свежих мобильных приложениях, голосовых интерфейсах, дополненной и виртуальной реальностях. Не столь давно имевшее место быть повальное увлечение мобильной игрой Pokémon Go подняло множество этических вопросов.
2. Заведомо положительная репутация новой технологии
Пусть фраза «Это должно быть правдой, я видел это в Интернете» в настоящее время звучит как убийственная ирония, пользователи по-прежнему поддаются убеждению посредством лайков, комментариев, обмена ссылками, ретвитов, распространения челленджей, поддельных новостей или вирусного контента.
3. Безграничная настойчивость
Вы хотели бы, чтобы продавец подержанных автомобилей после вашего первого визита постоянно преследовал вас повсюду, пытаясь всучить вам машину? Хотя, к счастью, этого не происходит в реальной жизни, ваши гаджеты и приложения постоянно находятся при вас, имея возможность при помощи звуковых сигналов и вспыхивающего дисплея пытаться убедить нас в чем-то даже там и тогда, где и когда это абсолютно неприемлемо.
4. Сторонний контроль над тем, как разворачивается взаимодействие
В отличие от ситуации «человеческих» убеждений, когда индивид, которого убеждают, способен отреагировать и изменить курс взаимодействия, технология располагает заранее установленными вариантами коммуникации, которые контролируются дизайнерами и разработчиками. При разработке голосовых интерфейсов создатели должны определить, что они могут сделать при их уровне компетентности, а для всего остального у них предусмотрен ответ: «Извините, я не могу вам с этим помочь». Только в прошлом месяце одна из социальных сетей заблокировала доступ к своему мобильному веб-сайту, попросив пользователей установить приложение для получения контента, но не предоставив возможности отказаться от его инсталляции.
5. Возможность влиять на эмоции, самому их не испытывая
У новых технологий нет эмоций. Даже с учетом недавних достижений в области искусственного интеллекта машины — в отличие от людей — не испытывают эмоций. Вернемся к упомянутому в начале поста телефонному звонку от цифрового ассистента Duplex Google: могут возникнуть проблемы, когда люди не будут знать, что голос на другом конце линии связи принадлежит безэмоциональной машине, и отнесутся к ней как к еще одному человеку, такому же как они сами.
6. Отсутствие ответственности за отрицательные последствия убеждения
Что происходит, когда что-то идет не так, и приложение или технология не могут взять на себя ответственность? Берут ли разработчики ответственность на себя, даже если их стратегии убеждения приводят к непредсказуемым результатам или неправомерно используются их партнерами? А вот Марк Цукерберг (Mark Zuckerberg) во время слушаний в Конгрессе принял на себя ответственность за скандал, вызванный действиями Cambridge Analytica.
Имея в своем распоряжении все эти несправедливые преимущества, как дизайнеры и разработчики могут сделать этически безукоризненный выбор в осуществлении своих проектов и решений? Для начала нужно отступить на шаг назад и рассмотреть этические последствия и влияние своих работ, а затем взглянуть на них с точки зрения пользователей.
Многие разработчики обращают свои взгляды в прошлое и активно выступают по поводу некоторых этически сомнительных особенностей технических продуктов и дизайна. К их числу относится Тристан Харрис (Tristan Harris), бывший специалист по этике проектирования в Google, рассказавший о том, как продукты технологических компаний завладевают умами пользователей. Шон Паркер (Sean Parker), основатель Napster и бывший президент Facebook, объяснил, как Facebook был разработан для использования человеческой «уязвимости». Джонас Дауни (Jonas Downey) из компании Basecamp поделился своими размышлениями насчет того, что большинство программных продуктов находятся в собственности и под контролем корпораций, чьи деловые интересы часто противоречат интересам пользователей.
Кодекс поведения разработчиков
Американский институт графического искусства (The American Institute of Graphic Arts – AIGA), крупнейшая профессиональная организация в области дизайна, публикует серию документов «Бизнес и этика дизайна» (Design Business and Ethics). Автор книги «Профессионализм дизайна» (Design Professionalism) Энди Рутледж (Andy Rutledge) также создал профессиональный кодекс поведения. Оба источника очень детализированы и охватывают бизнес-составляющую дизайна, но не рассматривают конкретную этику, связанную с дизайном, оказывающим непосредственное воздействие или влияние на поведение человека.
Другие специалисты, воздействующие на человеческий разум, имеют собственные этические принципы и кодексы поведения, подобные тем, что были сформулированы Американской психологической ассоциацией (American Psychological Association) и Британским психологическим обществом (British Psychological Society). Цель этих кодексов поведения — защита участников обществ, а также репутации психологов и самих психологов. Дизайнеры и разработчики, использующие психологию в своих проектах, могли бы изучить, как этические принципы психологов применимы к собственной работе проектировщиков.
Принципы и вопросы
Используя этические принципы психологов в качестве основы, можно определить, как каждый принцип применяется к убедительному дизайну и перечисленным вопросам, связанным с этическими последствиями проектирования. Они ни в коем случае не являются исчерпывающими, но предназначены для того, чтобы стать пищей для размышлений в каждой из этих областей.
Принцип А: доброжелательность и безвредность
Не причини вреда. Ваши продукты могут повлиять на умы, поведение и жизнь ваших пользователей и окружающих людей, поэтому будьте бдительны и остерегайтесь злоупотребления влиянием.
- Меняет ли ваш продукт способ взаимодействия людей к лучшему?
- Преследует ли ваш продукт цель, чтоб пользователи тратили больше времени, чем они собирались?
- Упрощает ли ваш продукт доступ к социально неприемлемым или нелегальным товарам, которые в противном случае не были бы легкодоступными для ваших пользователей?
- Как ваши партнеры или «плохие парни» могли бы злоупотребить вашим продуктом без вашего ведома?
- Вам было бы комфортно с кем-то другим, применяющим ваш продукт к вам самим?
- Вы хотели бы, чтобы кто-то еще использовал этот продукт, чтобы убедить вашу мать или ребенка?
Принцип Б: обязательность и ответственность
Помните о своей ответственности перед вашими предполагаемыми пользователями, непреднамеренными пользователями и обществом в целом. Примите на себя надлежащую ответственность за результаты.
- Во время разработки продукта ищите ответы на вопрос «Как мы можем [сделать это]?», чередуя его с другим: «По какой цене?»
- Каково влияние вашего продукта/решения? Кто или что он заменяет или на что воздействует?
- Если бы ваш продукт использовался вопреки своему предназначению, каково могло быть его воздействие?
- Ваш продукт меняет социальные нормы, этикет или традиции в лучшую сторону?
- Будет ли ваш продукт подвергать пользователей опасности или делать их уязвимыми, преднамеренно или непреднамеренно (исследованиями было установлено, что приложение Pokémon GO спровоцировало более 100 000 дорожно-транспортных происшествий)? Как это можно предотвратить?
Принцип В: целостность
Поощряйте в своем продукте достоверность, честность и правдивость. Не обманывайте, не вводите в заблуждение, не совершайте мошенничество. Когда обман может быть этически оправданным для максимизации выгоды и минимизации вреда, то тщательно рассмотрите вопрос о его необходимости, учтите все возможные последствия и возьмите на себя ответственность за устранение любого возникающего подозрения, которое может возникнуть в результате использования таких методов.
- Вам нужно согласие пользователей? Когда у них спрашивают о согласии, знают ли они, с чем именно они соглашаются?
- Какова цель продукта? Она отвечает интересам пользователя или разработчика? Вы открыты и прозрачны в своих намерениях?
- Использует ли ваш продукт обман, манипуляции, искажение, угрозы, принуждение или другие нечестные методы?
- Осведомлены ли ваши пользователи о том, что их деятельность отслеживается, или эти сведения от них скрыты?
- Приносит ли ваш продукт выгоду вам или разработчикам в ущерб вашим пользователям?
- Что скажет будущий «разоблачитель» о вас и вашем продукте?
Принцип Г: справедливость
Придерживайтесь разумных суждений и принимайте меры предосторожности, чтобы гарантировать, что ваши потенциальные предубеждения и ограниченность вашего опыта не приведут к неправомерной практике или не будут потворствовать таковой. Ваш продукт должен приносить пользу как разработчикам, так и пользователям.
- Влияют ли на ваш продукт какие-либо предубеждения (гендерные, политические или другие)?
- Ваш продукт поддерживает ненависть, насилие, преступность, пропаганду?
- Если бы вы сделали это лично, без применения технологий, считался ли бы такой поступок этичным?
- Каковы выгоды для разработчиков/бизнеса? Каковы выгоды для пользователей? Складываются ли преимущества в пользу бизнеса?
- Можете ли вы просто отключить пользователей? Обладают ли пользователи средствами контроля и возможностью отказаться от услуги, не подвергаясь дальнейшему убеждению по другим каналам?
Принцип Д: уважайте права и достоинство других людей
Уважайте достоинство и ценность каждой человеческой личности, а также права частных лиц на неприкосновенность личной жизни и конфиденциальность. Для защиты прав и благосостояния уязвимых пользователей могут потребоваться специальные гарантии.
- Использует ли ваш продукт тактики убеждения потенциально уязвимых пользователей (детей, людей преклонного возраста, малоимущих)?
- Ваш продукт защищает конфиденциальность пользователей и дает им контроль над их настройками?
- Требует ли продукт ненужных разрешений для работы?
- Может ли ваш продукт использовать менее навязчивые методики для получения аналогичных результатов? (например, контроль скорости на дорогах вместо наблюдения)
- Ваш продукт делает ваших пользователей источником неудобств для других? Как вы можете это предотвратить?
Вывод
Если вы разрабатываете свои продукты и лендинги, пользуясь методиками «белых шляп», вы можете оценить этические вопросы, поднятые в данном посте. Однако если вы проектируете в «серой» или «черной зонах», спасибо за то, что вы дочитали эту статью до конца. Возможно, вы увидите, насколько сильно разработчики и дизайнеры несут ответственность за своих пользователей — и пересмотрите свою стратегию.
Делайте добро. Не причиняйте вред. Проектируйте с учетом этической точки зрения.
Высоких вам конверсий!
По материалам: smashingmagazine.com
