Доклад А.Левенчука "Персональные и коллективные виртуальные ассистенты и privacy" на Future Foundation Technology Ethics Conference, 1 октября 2016г.

1. Персональные и коллективные виртуальные
ассистенты и privacy
Москва
1 октября 2016г.

2. Мой опыт с privacy и технологиями
• СОРМ (1998, http://libertarium.ru/sorm)
как действуют чиновники/силовики, чтобы получить доступ к частной
информации (ответ: неформально – у провайдеров начинаются
неприятности по линиям всех других законов, и провайдеры тем
самым принуждаются на выполнение неформальных и избыточных
требований по нарушению privacy)
• Коммунивер (1998) – оказался очень медленным на больших объёмах
именно из-за чрезмерных мер по обеспечению privacy,
разграничению доступа к каждому объекту.
• Электронная Россия (2003-2005, )
• Тренд: обмен персональной информацией между госсистемами:
• Плюс: система одного окна для гражданина
• Минус: система одного окна для чиновника (любой чиновник получает полномочия
полиции и даже ФСБ, и система крайне подвержена коррупции – существенный
процент граждан России знает буквально всё о других гражданах)
• Наше решение: манифест (http://elrussia.ru/manifest) – «Электронное
правительство» защищает граждан от злоупотреблений в части и без того
идущих программ информатизации органов власти всех уровней. Т.е. не
помогает дооснастить чиновников техникой (они оснащены ей на уровне
много бОльшем, чем работники частного сектора), а следит за
злоупотреблениями и не допускает изменения баланса сил между
гражданским обществом и чиновничьей корпорацией.
• Ответ государства: роспуск департамента, который этим занимался.
2

3. Изначальный нейронет
• Это не «НТИ Рособороннейро», старт был за пару
лет до этого --
http://globalneuroweb.org/ru/manifesto
• Очные встречи рабочей группы, комьюнити в
фейсбуке --
https://www.facebook.com/groups/nevronet/
• Вдохновение: Mother of All Demos (MOAD), к 2018
году (50 лет спустя оригинальной презентации) --
https://en.wikipedia.org/wiki/The_Mother_of_All_D
emos
3
Две главные идеи в отличие от «просто интернета»:
• Нейростудия – возможность использовать дополнительные интерфейсы
для групповой работы (как Энгельбарт задействовал мышку и растровый
дисплей, так и тут можно попробовать использовать разные
биоинтерфейсы, условно названные «нейро» -- всевозможные варианты
BCI прежде всего).
• Искусственный интеллект (появление ассистента-агента в качестве
экзокортекса как у участника групповой работы, так и у фасилитатора. Эти
PVA и CVA способны быть лучше, чем ручка-бумажка-редактор/флипчарт-
фломастеры).

4. (Групповая) когнитивная нагрузка
• Идея объективных замеров когнитивной нагрузки
(нейростудия) -- http://ailev.livejournal.com/1280626.html
• Управление групповой когнитивной нагрузкой (нейронет) -
- http://openmeta.livejournal.com/236784.html
• Теория потока Чиксентмихайи + нейрокогнитология
• Психопрактики внимания (психонетика как пример)
• Меры повышения «играбельности» – удержания в потоке
внешними стимулами, опыт разработчиков игр.
4

5. И что получилось?!
5
https://youtu.be/V-iYcWtsZz4
http://rusneuro.net/

6. Чьи это виртуальные ассистенты?
• Текст «Мойдодыр и политическая
философия интернет-вещизма» --
http://ailev.livejournal.com/1106188.html
• Пример с рубашкой из IoT
• Вопрос о privacy – это вопрос
политической философии, уйти от этого
нельзя.
• Дополнительно про субъектность
роботов (наши ассистенты ведь тоже
роботы): «Информационные лица с
ограниченной ответственностью» --
http://ailev.livejournal.com/1299601.html
6

7. Принципиальная схема (кибер) психики как
операционной платформы
7
Воля
Экзотело
Бессознате
льное Сознание
ЭкзокортексТело
Физический мир
Психика
Вхождение в киберпсихические/киберпсихофизические системы систем
Психический мир групп и
сообществ (интерсубъектность)

8. Будут все варианты владения и границ!
8
Интернет/нейронет
PCA Боба
PCA Алисы
PCA Чарли
Права
фасилитатора?
Дополнительные стейхолдеры:
• Компании участников группы
• Компании сервиса PCA
• Компания сервиса VCA
• Спецслужбы государств PCA/VCA
• Кракеры всех мастей
• Поставщики облака
• Поставщики персональных устройств (нейросмартфон?)

9. Есть ли сегодня аналоги PVA и CVA?
Много! Что там происходит – это цветочки к ягодкам нейронета.
• Личные GTD-органайзеры и корпоративные issue trackers – а ведь должен
быть общий поток дел (http://cartmendum.livejournal.com/).
• Совместные календари
• Соцсети с закрытыми и публичными группами
• Больничные сети – защита медицинских данных
• …
Проблемы:
• Дикое количество настроек privacy
• Падение производительности сервисов
• Все эти проблемы с «серверами персональных данных только на нашей
территории»
Отличия в нейронете:
• Искусственный интеллект (твой, или чужой?! Или ничей – «свой»?!),
система не пассивна, это не данные
• Нейроинформация (может быть приравнена к медицинской), в том
числе недоступная другим образом, «явно не высказанная»
9

10. Массовое поведение
• Массовое поведение – на него ориентируются законодатели и рынок
• Вы очень легко можете быть не массовым. Вам очень легко от решений
для масс будет плохо.
• Privacy важно, её требуют, за неё воюют (в идеале)
• Privacy легко сдают в пользу бус и безделушек (в реале)
• Но всегда есть активисты, они шумят – обычно о разном.
• В непонятных ситуациях остаётся осадочек (хотя рынок быстро покажет, кто
прав. Но и законодатель не менее быстро изготовит «осадочек»).
• Спецслужбы всегда хотят иметь доступ ко всему, для них все остальные –
лохи, а они в белых одеждах и на белых конях.
• Если речь идёт о персональных и коллективных ассистентах, то как дорого
будут люди оценивать возможность немножко подглядывать за ними?
• Как поведут себя силовики? Полиция мысли – когда её ждать? Ибо если что-
то принципиально возможно, то силовики от этого обычно не отказываются.
А если очень хочется, они и закон для этого примут (писаный, даже если
право будет против).
10

11. 11
Спасибо за внимание
Анатолий Левенчук,
http://ailev.ru
ailev@asmp.msk.su