Цифровое общество в культурно-исторической парадигме

Предложим рабочую классификацию, позволяющую различать ситуации, в разной степени связанные с речевой деятельностью – одной из важнейших для человека. А именно, ложные подсказки («отравляющие атаки», троянское обучение), в разной степени связанные с речевой деятельностью, можно классифицировать по параметрам «мишень – средство влияния» следующим образом.

1. Мишени:

а) речевая деятельность;

б) неречевая деятельность.

Критерий различения: используется ли ложная подсказка («отравляющий пример», троянское обучение) для того, чтобы вызвать сбой, неуспех речевой или же другой – неречевой – деятельности.

2. Средства ложной подсказки (троянского обучения):

а) речевые (вербальные);

б) невербальные средства (картинка, указательный жест и т. д.).

Тогда в рамках этой рабочей классификации мы получаем 4 класса ситуаций.

1. Мишень – речевая деятельность, средство влияния – речевой, вербальной природы. Примеры в человеческом общении – актерские ложные подсказки, обучение не понимающих «иностранным языкам», нецензурным выражениям под видом благопристойных и пр.

2. Мишень – речевая деятельность, средство влияния – невербальные наводки, указания (например, указательный жест не на то место в учебнике, которое надо читать, а на другое, для соученика при опросе учительницей).

3. Мишень – неречевая деятельность, средство влияния – речевая деятельность (пример – вербальная инструкция новичку, как сделать что-то технологически неправильное, чтобы подшутить или же скомпрометировать, устранить потенциального конкурента).

4. Мишень – неречевая деятельность, средство влияния – невербальные наводки, указания (например, указательный жест, провоцирующий неправильное действие).

В предлагаемых терминах, ложные подсказки, «вредные советы» актеру («Ты там не скажи … вместо …») – это «отравляющая атака» на его семантическую сеть. То, от чего якобы предостерегают, становится «отравляющим», «заякоривающим», закрывающим всё остальное примером с неадекватно большим весом в семантической сети. Настолько большим, что произнесение на сцене озвученного до этого «шутником» неправильного варианта становится очень вероятным. При этом в живом общении людей огромное значение имеют и личные коммуникативные способности «подсказчика», включая невербальную составляющую, а также подверженность выбранной жертвы психологическому влиянию (вообще или только влиянию данного человека, в данных обстоятельствах).

При моделировании отравляющей атаки на виртуальную семантическую сеть речь может идти о влиянии посредством изменения весов узлов и связей. Напрашивающаяся грубая метафора – «дебилизация» сети в отношении возможностей поиска на ней интеллектуальных и креативных решений. Но, теоретически рассуждая, «отравляющая атака» может быть направлена и на неадекватное повышение креативности. Если семантическая сеть, поддерживающая разработку креативных рекламных слоганов, в результате хакерской атаки начнет выдавать чересчур креативные и потому «дико выглядящие», непонятные для большинства целевой аудитории слоганы, эту атаку тоже можно считать «отравляющей» – интеллектуальная система сильно отклонилась от требуемого оптимума решений.

Анализируя динамику представленности нарративов о ложных подсказках (обучении со злым умыслом) в различные периоды и в различных обществах можно оценить воспринимаемую важность (опасность) этих явлений в общественном сознании. В том числе, представляет интерес вопрос, претерпит ли эта динамика изменения в «цифровом обществе», где идея троянского обучения (в виде отравляющих атак на системы машинного обучения) органично встраивается в представления о нарастающих возможностях взлома всего и вся – и, вероятно, укрепляет эти представления. Или же динамика представлений не изменится, а просто в массив сюжетов о ложных подсказках и обучении со злым умыслом будет добавлено еще несколько подтипов, что на настоящий момент тоже можно считать вероятным.

Библиографический список

1. Лефевр В.А. Конфликтующие структуры. М.: Советское радио, 1973.

2. Поддьяков А.Н. Противодействие обучению конкурентов и троянское обучение в информационных технологиях // 1-ая Международная конференция по бизнес-информатике: Труды международной научно-практической конференции, 9–11 октября 2007 г. Звенигород, 2007. С. 261–269.

3. Поддьяков А.Н. Психология конкуренции в обучении. М.: Изд. дом ГУ-ВШЭ, 2006.

4. Поддьяков А.Н. Троянское обучение в экономическом сознании и поведении // Культура и экономическое поведение / Под ред. Н.М. Лебедевой, А.Н. Татарко. М.: МАКС Пресс, 2011. С. 421–444.

5. Boyle M. The Computer as a Trojan horse // Journal of Computer Assisted Learning. 2001. Vol. 17. P. 251–262.

6. Controlling the message: preschoolers’ use of information to teach and deceive others / Rhodes M., Bonawitz E., Shafto P. et al. // Frontiers in Psychology. 2015. № 6. Р. 867.

7. Kline M. How to learn about teaching: an evolutionary framework for the study of teaching behavior in humans and other animals // Behavioral and Brain Sciences. 2015. Vol. 38. Р. 31.

8. Manipulating machine learning: poisoning attacks and countermeasures for regression learning / Jagielski M., Oprea A., Biggio B. et al. URL: https://arxiv.org/abs/1804.00308 (дата обращения: 06.02.2018).

9. White A.L. The pedagogical Trojan horse: handheld technologies in the secondary mathematics classroom // Proceedings of the 2nd National Conference on Graphing Calculators. October 4–6, 2004. P. 105–112.

Poisoning attacks on machine learning and semantic networks: a version of a threat narrative in digital society

    Poddiakov A.,
    National Research University Higher School of Economics, Institute of Psychology RAS, Moscow

Abstract. A brief review of studies of false tips and “Trojan horse” teaching is presented. A classification giving opportunity to distinguish between situations of false tips (“Trojan horse” teaching) differing in their relations to verbal activity is described. Based on an analogy with “poisoning attacks on machine learning”, one can interpret some verbal false tips and “Trojan horse” teaching as “poisoning attacks on a semantic network”. Various aspects of inhibition of verbal creativity and performance are considered. An issue of dynamics of narratives of false tips and teaching “with evil intent” in various periods and various societies including digital one is introduced.

Keywords: “Trojan horse” teaching, poisoning attack, verbal creativity, semantic network, threat narrative.

Основные проблемы психологии компьютерной игры

    Богачева Н.В.,
    Первый Московский государственный медицинский университет имени И.М. Сеченова (Сеченовский университет), г. Москва

Аннотация. В статье приводится краткий обзор актуального состояния основных проблем современной киберпсихологии компьютерной игры и подчеркивается противоречивый статус данного предмета исследования. В настоящее время в изучении компьютерной игровой деятельности наметились изменения, в частности: получила официальное признание ВОЗ зависимость от компьютерных игр; нейропсихологические исследования отчасти опровергли распространенные данные о влиянии игрового насилия на жесткость и снижение эмпатии у компьютерных игроков в реальной жизни, также критике подвергаются и исследования развивающих возможностей компьютерной игровой деятельности. Текущий уровень развития науки не позволяет сделать однозначные выводы о том, являются ли компьютерные игры фактором риска или источником развития, а дальнейшее развитие этой проблематики возможно в том числе с опорой на объяснительные принципы отечественной психологии.

Ключевые слова: компьютерная игра, геймеры, зависимость от видеоигр, компьютерные игры и агрессия, когнитивные функции.

Компьютеры и интернет играют важную роль в повседневной жизни современного человека, проникают во все сферы деятельности и радикально их преобразуют. При этом, однако, необходимо помнить, что информационные технологии выступают новым орудием выполнения тех или иных действий, но именно человек формирует содержание интернета, социальных сетей, компьютерных игр и т. д. Включенность в деятельность, опосредствованную информационными технологиями, однако, также может влиять на психику и личность человека, что формирует потребность в ее психологическом осмыслении и задает повестку для такой отрасли психологии как киберпсихология. А.Е. Войскунский определяет ее как «отрасль психологии, объединяющую (и отвечающую за) методологию, теорию и практику исследования видов, способов и принципов применения людьми социальных сервисов Интернета» (Войскунский, 2013, с. 88) и указывает на ее тесную взаимосвязь с другими направлениями психологии. В свою очередь, представления, сформулированные в других областях психологии, могут (и должны) выступать как объяснительные принципы того, как деятельность в виртуальном пространстве соотносится с реальностью и влияет на психику человека. В отечественной психологии таким объяснительным принципом может служить теория знакового опосредствования Л.С. Выготского, позволяющая рассматривать компьютеры как систему знаков, преобразующую человеческую деятельность, личность и психические процессы. Освоение и использование технологий подразумевает, что устоявшиеся формы деятельности начинают реализовываться с помощью новых средств (Войскунский, 2013). Так, игровая деятельность ребенка на компьютере отличается от игры с игрушками; общение в интернете имеет иное строение, чем лицом к лицу и т. д. Наряду с развитием психологических функций, переопосредствование и усложнение деятельности за счет введения новых знаковых систем может вести к формированию психологической специфики, которую необходимо учитывать, особенно учитывая ранее знакомство с компьютерами нового поколения пользователей.