В конце июня пермские СМИ сообщили о разработке местными IT-умельцами системы психодиагностики по видеопотоку, способной анализировать настроение школьников в течение долгого времени.
Речь идет об «умном наблюдении» за состоянием обучающихся через онлайн-камеры, данные которого ежесекундно обрабатываются специальной компьютерной программой («нейросетью»). Таким образом планируется выявлять «потенциально опасных» подростков, которые пока еще ничего не сделали, но показали некие негативные эмоции. Детей, мимика которых будет идентифицирована как выражающая страх, агрессию или печаль, возьмут на карандаш педагоги-психологи, а их родителями займутся органы опеки. На стадии апробации система будет работать в нескольких школах Перми на базе видеонаблюдения при сдаче ЕГЭ. Как мы и прогнозировали, лозунги безопасности на госэкзамене оказались для цифровизаторов лишь предлогом для внедрения тотальной электронной слежки, учета и контроля за психикой школьников.Приводим наиболее интересные моменты из интервью пермского издания 59.ru с разработчиком системы онлайн-слежки в школах, гендиректором компании New Vizion Ольгой Заречной:«Полностью наш проект называется «Гибридная нейро-экспертная система экспресс-диагностики характера и эмоционального состояния человека в видеопотоке». Это видео-аналитика, но особая. Это не просто распознавание человека в видеопотоке и идентификация личности – этим сейчас уже никого не удивишь, – распознавание его психоэмоционального состояния. В основе нашей технологии ансамбль нейронных сетей, которые моделируют мышление психолога-эксперта в процессе психодиагностики эмоционального состояния. То есть, если мы говорим о реализации этого проекта для школ, то это прежде всего мониторинг эмоций детей в каждую секунду, пока он учится. А дальше идет длительная аналитика – формируется массив данных.Изначально была задумка сделать такую нейросеть для конкретных задач в бизнесе. Например, чтобы по видеопотоку оценивать сотрудников какой-нибудь конкретной компании. Отслеживать персонал, эффективные коммуникации в продажах и т. д. Это была моя идея, поскольку я являюсь специалистом в области психиатрии, психотерапии и более 15 лет своей жизни посвятила оценке персонала, диагностике, экспресс-диагностике визуальной и работе с людьми в рамках консультирования. Кстати, эти решения уже пилотируются в городе Перми.…С точки зрения выявления подростков, представляющих потенциальную опасность, мы ничего не сделаем, если мы их будем ловить в моменте прихода в негативном, критическом состоянии, с оружием в школу. Так мы не сможем избежать потенциального ущерба или, не дай бог, жертв. Поэтому выявлять их нужно заблаговременно, когда еще можно повлиять на подростка и предотвратить возникновение таких критических ситуаций. Собственно, на это мы и сориентировались. Нам оставалось придумать, как это можно реализовать в конкретных школах: где наблюдать за детьми постоянно (!!!), как определять изменения их состояния, сохранять и анализировать формирующийся массив данных поведения.В ноябре-декабре прошлого года мы провели пробный запуск в одной из школ города в партнерстве с Пермским филиалом ПАО «Ростелеком». Вот как система была реализована там: мы подключились к камерам ЕГЭ, которые уже были установлены в кабинете. То есть глаз камеры постоянно смотрит на учеников, находящихся в процессе своей естественной постоянной учебной активности, наше программное обеспечение идентифицирует, где какой ребенок, и с периодичностью три раза в секунду производит скрининг постоянно меняющихся эмоций детей.Итогом работы системы в течение дня является табличный отчет, в котором полностью указаны имена учащихся и результирующее состояние — наиболее частое у конкретного ребенка в течение дня. Это какое-то одно из семи состояний: нейтральное, радость, удивление, — это положительный спектр, — а дальше уже идет страх, отвращение, агрессия и печаль….На самом деле наше мышление работает таким образом, что мы в каждый момент не можем контролировать свои эмоциональные реакции, даже если хотим. Мимика и микромимика лица отражает происходящие внутри нас процессы, которые сам человек очень редко контролирует. Система как раз и выдаст нам картинку по человеку в течение дня, недели, месяца.Смысл этой системы в чем… Мы не хотим заменить психолога в школе. Просто необходимо понять: в зоне ответственности школьного психолога находится ежедневно от 500 до 1,5 тысяч учащихся. Соответственно, при всем желании, каким бы крутым специалистом психолог ни был, он не может в активном фокусе ежедневно держать 1,5 тысячи человек и четко знать, что происходит с каждым из учащихся, какие тенденции у него наметились.Тем более, вручную психолог не может вести такую постоянную статистику на каждого ученика и видеть, как изменялось его состояние в течение недели. Но при этом он как грамотный специалист по работе с людьми, при условии своевременного получения такой информации, может выполнить свои прямые обязанности и задать учащемуся нужные вопросы, вовремя оказать воздействие, направить его к специалисту или переговорить с родителями — то есть поддержать человека и предотвратить возникновение серьезных ЧП с человеческими жертвами….Перед началом эксперимента мы получили у них (родителей) согласие, выдержали все требования федерального закона о защите персональных данных. В экспериментальных классах было получено две формы согласия от родителей: согласие на использование видеоданных и согласие на психодиагностику. Почти все были согласны. Всего четыре отказа было. Как правило, взрослые отказывались, потому что опасались, что станет известно о проблемах в семье через ребенка (!!!), т. к. дети более искренни и как зеркало отражают происходящий кризис….В апреле благодаря поддержке депутата Городской думы Павла Фадеева нас пригласили на совещание в администрацию города, где мы обсуждали запуск теперь уже пилотного проекта. То есть планируется в новом учебном году внедрить систему в четырех школах Перми, пока не буду говорить, каких. Наша задача в пилотном проекте — определить, где можно сократить расходы, улучшить процессы внедрения, выработать наиболее эффективный процесс взаимодействия с психологической службой (!!!) и подготовить полноценную модель, которую можно было бы внедрить уже во все школы города или края».
Как видим, разработчик системы предельно откровенна – она руководствуется принципами т.н. «корпоративной культуры» транснацкорпораций, сотрудники которых фактически не принадлежат себе и воспринимаются своими работодателями как «неоптимизированный контингент» или «человеческий капитал». Такой бизнес-подход к человеку, загоняющий его в жесткие рамки и требующий конкретных реакций на происходящее, многие эксперты справедливо именуют капиталофашизмом или новым тоталитаризмом. Для адептов цифровизации не существует никакого личного пространства человека, сферы приватности, они намерены взять под контроль святая святых – эмоциональную, духовную сторону человека. Причем, как справедливо отметила автор проекта, сам человек (ребенок, подросток или взрослый) не в состоянии постоянно контролировать свои психоэмоциональные реакции – так что за него это «любезно сделает» система, настроенная на определенный алгоритм.Такой сугубо машинный, бездушно-программный подход к человеческой личности, когда чувства и переживания всех обучающихся в аудитории в каждый конкретный момент времени пытаются причесать под одну гребенку, чтобы потом принимать меры по поводу любых зафиксированных «отклонений», просто поражает своей бесчеловечностью. И тем не менее, он начинает легализовываться – в пермском случае руками беспринципных депутатов-единороссов вроде Павла Фадеева и цифровизатора-монополиста ПАО «Ростелеком», председатель совета директоров которой, экс-министр обороны Сергей Иванов считается автором афоризма: «Люди – наша новая нефть».Теперь очень даже понятно, как будет находиться работа для армии педагогов-психологов, медиаторов и проч., которых мечтают приставить к каждой семье и ребенку зампред комитета Госдумы по образованию Любовь Духанина , замминистра просвещения Татьяна Синюгина , замдиректора Департамента государственной политики в сфере защиты прав детей при Минпросвете Лариса Фальковская и иже с ними. Лоббисты «ответственного родительства», огосударствления детей, работающие по западным методичкам, на голубом глазу заявляют, что почти каждый подросток склонен к девиантному поведению, около 10-12% всех школьников потенциально социально опасны, склонны к наркозависимости и т.д. В качестве «лекарства» предлагается откровенно ювенальная, прозападная идеология, официально внедряемая органами власти на уровне методичек псевдообщественников типа Национальной родительской ассоциации, современной «детоцентричной» педагогики и психологии, регламентов органов опеки по «профилактике и раннему выявлению семейного неблагополучия». Разнорядки на количество потенциально «неблагополучных» семей уже имеются, бюджетные средства педагогам-психологам выделены – так что дело за малым: выявить таких детей в школах, чему весьма поспособствует система биометрической слежки в аудиториях.Во что в итоге выльется пермский эксперимент, можно представить на примере Китая, где в настоящее время также активно внедряется контроль школьников с помощью искусственного интеллекта. На сегодня онлайн-камеры изучают поведение 28 тыс. учеников младших классов, и совсем скоро эксперимент будет распространен на всю страну.«В Пекине 16-летний Джейсон Тодд открыл секрет своей школы в интернете. На китайском сайте микроблогов Weibo он увидел фотографию классной комнаты. Около 30 учеников сидели за партами лицом к доске. На лицо каждого из них был помещен цветной прямоугольник. Ученик, который смотрел на доску, был помечен зеленым: «ID: 000010, состояние 1: сфокусировано». У парня, который заглядывает в ящик стола, пометка красная: «ID: 000015, состояние 5: отвлекся». Девушка, стоящая напротив учителя, помечена синим: «ID: 00001, состояние 3: ответы на вопросы».В классах установлена камера над доской. Раз в секунду она делает снимок и отправляет его на сервер, где алгоритмы идентифицируют лицо каждого ученика и классифицируют его поведение по пяти категориям: слушание, ответы на вопросы, письмо, взаимодействие с другими учениками или сон.Каждый ребенок получает оценку поведения. Гистограмма показывает, сколько времени ученик провел за учебой или, например, разговорами с другими детьми. Все данные можно получить в мобильном приложении, доступ к которому есть у учеников и родителей.Одна из учениц анонимно сообщила, что система напугала ее – устройство может увеличить изображение в 25 раз, с его помощью можно рассмотреть не только лицо школьника, но и информацию на его ноутбуке. Другой школьник признался, что его одноклассники были подавлены, когда в классе появилась камера. Дети не осмеливаются даже зевнуть во время урока или отвести взгляд от доски, боясь быть наказанными. Никто не покидает класс во время перерыва.«Если ученик положил голову на стол, но на самом деле искал ручку на полу, или двое детей разговаривали во время урока, но при этом обсуждали вопрос учителя, было бы несправедливо классифицировать их как тех, кто отвлекается», — говорит Хэ Шаньюнь, преподаватель университета Чжэцзян.К оценке эмоций он отнесся скептически, поскольку китайцы очень сдержанны. Таковы особенности их культуры. Нельзя оценивать вовлеченность ребенка в учебный процесс с помощью выражения его лица. По словам профессора Хэ, машины все еще менее искусны, чем люди, в понимании культурного контекста и поведения.…Джейсон Тодд рассказывает о системе CCS своей маме. Сначала она говорит, что согласна с ее использованием: «Это поможет тебе лучше учиться». Когда мальчик показывает ей фотографию, которую обнаружил на Weibo, она надолго умолкает. А потом решительно говорит: «Ни за что. Это похоже на тюрьму» , – рассказывает китайская журналистка англоязычного ресурса Six Thone.В России ситуация развивается очень похоже: система тотального биометрического контроля внедряется административно-командными (читай – принудительными) методами без каких-либо публичных дискуссий, без учета мнений учеников и родителей. Более того, власти на местах принуждают родителей сдавать биометрические данные своих детей, в частности – образцы голоса, угрожая в случае отказа применить карательные меры ювенальщиков к мамам и папам. Об этом свидетельствует сообщение участницы группы «Комитет по защите персональных данных» «ВКонтакте».
Призываем пермскую родительскую общественность отреагировать на биометрический беспредел цифролоббистов в местных школах, а также всех родителей – не забывать о том, что без вашего личного согласия все подобные эксперименты носят противозаконный и антиконституционный характер.
