Некоторые учебные данные опасны, если остаются в цифровом виде. Речь не просто о рисках. Это принципиально неправильно.
Чарльз Фадель из Центра перепроектирования учебных программ пишет об этом, называя концепцию «Когнитивной безопасностью». Суть в том, чтобы провести чёткую границу.
Школы отслеживают оценки, посещаемость и результаты тестов. Это старая модель: простая для понимания и достаточно безопасная при должной защите.
Новые технологии работают иначе.
Интеллектуальные репетиторские системы адаптируются под детей с высокой скоростью. Они фиксируют, сколько ученик задерживается на задаче, отмечают заброшенные задания, повторяющиеся ошибки и снижение вовлечённости со временем. Всё это очень тонкие нюансы.
На основе этих данных системы делают выводы. Большие выводы.
Они оценивают когнитивную сложность, эмоциональное состояние, черты характера, риск тревожности, уровень мотивации и уверенность в себе. Это не оценки. Это психологические инференции. И именно здесь начинаются проблемы.
Опасность кроется не только во взломах. Утечки данных случаются. Это плохие новости, но более глубокая проблема куда серьёзнее.
Что, если данные защищены?
Что, если злоумышленник или просто хорошо intentionированная, но ошибочная система использует легальный профиль, чтобы направлять развитие ребёнка? Безопасная база данных всё равно остаётся записью. А устойчивое психологическое досье девятилетнего ребёнка — это ловушка.
Дети — это не статичные объекты.
Они текучи, они меняются. Метка, наклеенная в девять лет, прилипает надолго. «Низкая вовлечённость». «Плохие исполнительные функции». Сначала это просто вывод системы. Затем это становится ожиданием учителя, тревогой родителей и частью самоидентификации ребёнка.
Метки прилипают прочнее клея.
Поэтому вопрос меняется. Теперь это не «Как запереть эту базу данных?».
Вопрос звучит так: «Должны ли эти данные вообще существовать в цифровом виде?».
Нам нужно разделение. Чёткая граница между аналоговым и цифровым.
Учебные данные можно хранить в облаке. Прогресс, темп, краткосрочная вовлечённость, необходимая для урока завтра. Держите это компактно и кратко.
Сессионные данные должны исчезать после того, как выполнили свою функцию. Поддержите сейчас, забудьте потом.
А вот категории высокого риска? Эмоциональное состояние, личность, профили риска. Их никогда нельзя оцифровывать. Они остаются с учителем. В его блокноте. В его голове. Только в аналоговом виде.
Это анти-технологичная позиция? Нет. Это управление рисками.
Бумажная заметка ограничена по своей природе.
Её нельзя легко запросить. Нельзя продать. Нельзя объединить с внешними данными. Невозможно расшифровать через двадцать лет. Она стареет. Она выцветает. Она остаётся связанной с человеческим суждением.
Цифровая запись — это навсегда. Она индексируется, мобильна и ожидает применения, которое мы пока даже не представляем.
Таблица из работ Фаделя предлагает границу, разделяя приемлемые метрики обучения от чувствительного психологического профилирования.
Возьмём дроби. Система знает, что ребёнок не освоил эту тему. Полезная информация, позволяющая действовать.
Та же система не должна выводить, что ребёнок тревожен, импульсивен или обладает низкой настойчивостью.
Первое поддерживает обучение.
Второе формирует досье.
Превращать временный момент в постоянную идентичность — вредно.
Системы должны следовать трём правилам:
— Необходимость : собирать только то, что нужно.
— Срок хранения : хранить данные недолго.
— Границы : блокировать личные инференции.
Для самых чувствительных данных шифрования недостаточно. Решение — неоцифровка.
Речь не о ненависти к ИИ-репетиторам. Персонализация полезна, если остаётся в образовательном ключе.
Если она становится психологической, она проваливается.
Детям нужна поддержка сегодня. А не профиль, который будет преследовать их вечно.
Некоторые данные имеют срок годности.
Другие никогда не должны становиться цифровыми.
