Опасность: все больше школ начинают использовать распознавание лиц и технологии искусственного интеллекта для наблюдения за детьми

Родители и учащиеся все больше обеспокоены использованием технологий искусственного интеллекта (ИИ) в школе.

По данным опроса Центра демократии и технологий (CDT), более половины опрошенных родителей и учащихся были обеспокоены использованием в школах распознавания лиц и других технологий искусственного интеллекта , включая системы отслеживания местоположения.

Учителя, которые также были опрошены, показали более высокую степень принятия технологий.

Но обнадеживает ли это?

The Defender сообщает: Согласно отчету, все больше школ внедряют такие инструменты.

Сторонники этих технологий утверждают, что они могут помочь защитить школьную среду от насильственных угроз, таких как школьные стрелки.

Защитники конфиденциальности утверждают, что технологии, которые создают риск для конфиденциальности и личных данных учащихся, не повышают безопасность в школе .

По данным CDT, «экспериментальные, потенциально опасные средства безопасности используются независимо от опасений учащихся и родителей», включая технологии, «которые мы раньше считали «слишком диковинными»».

К ним относятся прогнозная аналитика , удаленное наблюдение , распознавание лиц , обмен данными с правоохранительными органами , системы обнаружения оружия и отслеживание местонахождения студентов .

Благодаря искусственному интеллекту эти технологии «распространяются в школах, чтобы реагировать на массовые расстрелы, кризис психического здоровья молодежи и другие постоянные угрозы безопасности для персонала и учащихся», — заявили в CDT. Это «тревожная» тенденция, которую школы продолжают внедрять, несмотря на «высокий уровень беспокойства» со стороны родителей и учащихся.

Этот «высокий уровень обеспокоенности» был очевиден в результатах опроса, которые показали:

58% родителей и 55% учеников (и 33% учителей) были обеспокоены использованием камер распознавания лиц для проверки того, кому следует разрешить вход в школьное здание или кому разрешено там находиться.

71% родителей и 74% учеников (и 36% учителей) выразили обеспокоенность по поводу использования таких технологий для отслеживания физического местонахождения учеников.

60% родителей и 58% учеников (и 31% учителей) были обеспокоены использованием камер с искусственным интеллектом, «чтобы замечать необычные или нерегулярные физические движения».

55% родителей и 45% учеников (и 27% учителей) выразили обеспокоенность по поводу использования подобных технологий для обнаружения выстрелов на территории школы.

69% учащихся и родителей (и 36% учителей) были обеспокоены тем, что данные учащихся анализируются с целью предсказать, какие отдельные учащиеся с наибольшей вероятностью совершят преступление, насильственный акт или акт членовредительства.

66% родителей и 65% учащихся (и 38% учителей) выразили обеспокоенность по поводу возможности того, что академическая информация учащихся, такая как их оценки и записи о посещаемости, может быть передана правоохранительным органам.

68% родителей и 71% учеников (и 37% учителей) были обеспокоены использованием таких технологий для мониторинга учетных записей учеников в социальных сетях.

Эти результаты показывают «глубокий разрыв между школами, родителями и учащимися в их приоритетах, когда дело доходит до решений о закупках образовательных технологий [образовательных данных и технологий]», пишет CDT.

Опрос основан на отчете CDT , опубликованном в сентябре, об инструментах образовательных технологий, которые выполняют фильтрацию и блокировку контента, мониторинг активности студентов или используют генеративный искусственный интеллект.

Согласно этому отчету, пандемия COVID-19 помогла ускорить внедрение таких технологий в школьной среде — событие, которое CDT  рассматривает критически.

«Использование программного обеспечения для мониторинга активности студентов быстро расширилось во время дистанционного обучения и сохранило значительное присутствие в жизни студентов. К сожалению,

оно продолжает вредить студентам, которым призвано помочь», — говорится в отчете.

Согласно отчету, этот вред варьируется от дисциплинарных мер до выселения студентов без их согласия и обращения в правоохранительные органы.

В отчет также включены данные, свидетельствующие о том, что 88% учителей сообщили, что их школы используют программное обеспечение для мониторинга активности учащихся, 40% учителей сообщили, что их школы контролируют личные устройства учеников, а 38% учителей сообщили, что их школа контролирует учеников во внеучебное время, хотя В частности, по сравнению с 2021-22 учебным годом этот показатель снизился на 9 процентных пунктов.

Кеннет Трамп, президент Национальной службы безопасности школ, заявил в октябре на Education Week : «Школы используют средства на восстановление после COVID для покупки оборудования для обеспечения безопасности».

Технологические фирмы в последние годы «усилили» маркетинг этих продуктов в школьных округах, по словам Трампа, который сказал, что закупки «были использованы для решения политических проблем и проблем в отношениях с обществом, а не только проблем школьной безопасности».

«Когда на территории кампуса происходит использование или конфискация оружия, мы видим, как школьные советы и директора школ принимают спонтанные решения и играют на потребностях эмоциональной безопасности родителей и персонала», — добавил Трамп .

В качестве примера из Соединенного Королевства Sky News сообщила в октябре 2021 года, что 27 школ начали использовать систему распознавания лиц для подачи обедов учащимся, а еще 15 были готовы внедрить эту технологию — меру, предположительно направленную на снижение риска заражения COVID-19.

Sky News сообщила, что родители и активисты «предупредили, что это нормализует подвергание детей биометрическому наблюдению, и жаловались, что они не уверены, что ученики получают адекватную информацию о риске для конфиденциальности».

И, несмотря на сообщения о высоком уровне согласия со стороны родителей, Sky News сообщила в то время, что защитники конфиденциальности детей Джен Перссон и Пиппа Кинг сказали комиссару Шотландии по делам детей: «Высокое понимание не должно быть ошибочно принято за согласие», отметив, что формы согласия, предоставленные родителям, являются согласием. кажутся обязательными.

Такие жалобы побудили Управление комиссара по информации , контролирующее данные Великобритании, провести расследование. Совет Северного Эйршира Шотландии приостановил внедрение технологии, а Палата лордов Великобритании обсуждала этот вопрос в ноябре 2021 года.