В государственной школе Colégio Estadual Professor Loureiro Fernandes на юге Бразилии, в штате Парана, начинается обычный урок. Учитель открывает приложение на телефоне, поднимает его и делает несколько фотографий класса.

В считанные секунды изображения отправляются в облачный сервер, где алгоритм распознавания лиц находит лицо каждого ученика, выделяет его и сравнивает с базой данных биометрических профилей. Приложение LRCO Paraná возвращает список имен. Ученики, опознанные на фото, отмечаются как присутствующие; те, кого система не нашла, — как отсутствующие.

Это программное обеспечение для распознавания лиц было создано для идентификации почти 1 миллиона детей в Паране ежедневно. С 2023 года технология внедрена в более чем 1700 школах по всему штату, заменив традиционный устный опрос автоматизированной системой идентификации, работающей за считанные мгновения.

Но система может ошибаться. Ингрид Адам, школьный психолог, говорит, что научилась ожидать этих ошибок. Однажды утром ученица, которая сидела в классе, обнаружила в своём ученическом приложении Escola Paraná, что её отметили как отсутствующую. Когда Адам обратилась с этим вопросом к учителю, его ответ был знакомым. «Я не отмечаю её как отсутствующую, — вспоминала она его слова. — Я использую камеру для переклички, и она сказала, что всё в порядке». Если ученик обнаруживает ошибку, он может исправить её с учителем. До этого момента решение системы остается в силе.

Для одних студентов ложное отсутствие — это бюрократическая неприятность. Для других это может угрожать доступу их семьи к социальным пособиям. В Бразилии право на участие в программе Bolsa Família («Семейная стипендия») частично зависит от школьной посещаемости, и в Паране такие записи теперь в значительной степени формируются алгоритмом.

Технология распознавания, сделавшая это возможным, была разработана в Европе словацкой компанией Innovatrics. Хотя в Европейском Союзе это не запрещено, аналогичное использование распознавания лиц в школах неоднократно блокировалось судами и властями в ряде случаев, которые постановили, что дети не могут осмысленно давать согласие на биометрическое наблюдение в классе в соответствии с правилами защиты данных ЕС (GDPR). Но в Бразилии, где орган по защите данных начал применять санкции только в 2023 году и на сегодняшний день вынес всего несколько штрафов, подобное программное обеспечение теперь может сканировать сотни тысяч детей ежедневно. Защитники приватности называют это регуляторным арбитражем: европейские компании экспортируют те виды инструментов наблюдения, которые региональные регуляторы сочли слишком инвазивными для использования на детях.

В апреле 2025 года прокурор штата Парана Маркос Жозе Порту Соареш подал первый судебный иск, утверждая, что система нарушает бразильское законодательство. Дело все ещё находится на рассмотрении. Тем временем технология распространяется на другие бразильские штаты, такие как Рио-де-Жанейро и Сан-Паулу, и даже обратно в Европу.

Сопротивление в Европе

В августе 2019 года Шведский орган по защите данных наложил штраф на школьный совет Шеллефтео, небольшого городка на севере Швеции. Местная старшая школа протестировала систему учета посещаемости, использующую программное обеспечение для распознавания лиц, разработанное финской IT-компанией, для регистрации 22 учеников в течение трёх недель — та же основная идея, что сейчас работает в масштабах Бразилии.

Шведский регулятор постановил, что эксперимент нарушает GDPR. Регулятор счел, что мониторинг посещаемости с помощью распознавания лиц был непропорциональным и чрезмерно навязчивым. «Мониторинг посещаемости может осуществляться другими способами, которые в меньшей степени нарушают личную неприкосновенность учащихся», — говорилось в решении. В основе постановления лежал вопрос согласия. Власти подчеркнули, что школьники не могут свободно соглашаться на технологии наблюдения в классе. «Отношения между Советом школы и учениками, как правило, будут характеризоваться значительным дисбалансом», — отметил регулятор, назвав мониторинг посещаемости «односторонней мерой контроля, применяемой в условиях этого неравенства».

Несколько месяцев спустя, в феврале 2020 года, административный суд в Марселе пришел к аналогичному выводу. Суд остановил два пилотных проекта, которые должны были установить системы доступа с распознаванием лиц в старших школах Ниццы и Марселя.

Судьи отклонили эксперимент по нескольким причинам. Они сочли, что у региональных властей не было законных полномочий для внедрения такой системы. Согласие, полученное от учеников, было недействительным из-за неотъемлемого дисбаланса власти между школами и несовершеннолетними. Власти не смогли продемонстрировать, что распознавание лиц было необходимым или служило существенным общественным интересам. И биометрическая система была явно непропорциональной, постановил суд, учитывая, что менее инвазивные альтернативы, такие как вход по пропускам, были легкодоступны.

Европейский Союз с тех пор продвинулся в регулировании использования технологий распознавания лиц и других связанных с ними технологий, приняв в 2024 году свой знаковый Закон об искусственном интеллекте (AI Act). Хотя это и не запрещено outright, внедрение таких систем в школах строго регулируется, хотя инструменты для учета посещаемости прямо не классифицируются как высокорисковые. Законодательство не распространяется на мониторинг экспорта этих технологий за пределы Европы.

«Мониторинг посещаемости может осуществляться другими способами, которые в меньшей степени нарушают личную неприкосновенность учащихся».— Шведский орган по защите данных.

Другой путь в Бразилии

Через Атлантику чиновники восприняли использование этих систем с энтузиазмом, видя в них двигатели развития и эффективности.

Парана — пятый по численности населения штат Бразилии, где проживает почти 12 миллионов человек на территории, простирающейся от сельскохозяйственных равнин до промышленных городов и разрастающейся столицы Куритибы. Его система государственных школ обслуживает более миллиона учеников. В 2019 году Ренату Федер занял пост главы департамента образования штата. Будучи по образованию технологическим предпринимателем, Федер пришел с чётко сформулированным видением, которое он изложил годами ранее в своей книге «Carregando o Elefante» («Неся слона»). Система образования Бразилии, писал он, страдает от «плохого управления и невероятных растрат на глупые проекты, неэффективности, раздутого административного штата и коррупции».

Федер заработал репутацию реформатора, настроенного на преобразования, помогая превратить небольшую электронную компанию Multilaser в одну из крупнейших IT-фирм Бразилии. В образовании он стремился применить схожую логику: стандартизацию, измеримость и повсеместное использование цифровых инструментов. «Технологии здесь, чтобы остаться, чтобы улучшить содержание, преподаваемое в классе», — сказал Федер после вступления в должность. Под его руководством система образования Параны была оцифрована по всем направлениям.

С 2021 по 2024 год штат потратил более 153 миллионов реалов (25 миллионов евро) на частные образовательные платформы, согласно исследованию учёных Федерального университета Параны. Google Classroom стал цифровой образовательной средой штата. Швейцарская компания EF Education First обеспечивала обучение английскому языку через платформу Inglês Paraná. Австралийская компания Matific создала платформу по математике. А американская компания Quizizz, ныне переименованная в Wayground, предоставила инструмент для обучения на основе викторин.

Секретариат образования не ограничился оцифровкой планов уроков и домашних заданий. Он также взялся за оцифровку чего-то более фундаментального: определения того, какие ученики находятся в классе, а какие нет. Заявленным обоснованием был не кризис отсева или низкая посещаемость, а административная эффективность. Ссылаясь на исследование ОЭСР, показывающее, что бразильские учителя тратят треть каждого урока на не связанные с преподаванием задачи, штат утверждал, что автоматизация переклички позволит вернуть потерянное учебное время.

На снимке: Куритиба, столица штата Парана, где система образования встала на путь цифровизации. Кредит: Shutterstock

В сентябре 2022 года государственная IT-компания Параны Celepar подписала контракт с бразильской фирмой Valid на то, что в документах описывается как «технологическое решение для идентификации лиц». Соглашение охватывало «биометрическое распознавание лиц посредством анализа изображений», а также облачную обработку и текущую техническую поддержку. С практической точки зрения, контракт ознаменовал сдвиг: определение того, кто присутствует в классе, теперь будет зависеть не только от суждения учителя, но и от оценки алгоритма.

Масштаб задачи был огромен. Ежемесячно система должна была обрабатывать биометрические данные до 1 миллиона детей в облачной инфраструктуре. Изображения хранятся на правительственных серверах в течение одного года. Для предоставления услуги Valid заключила партнёрство с Innovatrics, словацкой компанией по распознаванию лиц, чье программное обеспечение легло в основу системы идентификации. В тематическом исследовании, опубликованном на своём веб-сайте, Innovatrics утверждает, что её решение позволит сэкономить 80% времени на перекличку в классе. И у решения есть ещё одно преимущество, по словам компании: «Родители могут мгновенно проверить, присутствует ли их ребёнок».

Компания, стоящая за технологией

Из своей штаб-квартиры в Братиславе Innovatrics построила глобальный бизнес вокруг биометрической идентификации с годовым оборотом более 23 миллионов евро. С 2004 года компания разрабатывает программное обеспечение, которое позволяет правительствам и корпорациям идентифицировать людей с помощью изображений лиц, отпечатков пальцев или сканирования радужной оболочки глаза. Её продукты используются в национальных идентификационных программах, проектах регистрации избирателей и системах пограничного контроля по всему миру. По данным компании, её технологии обработали биометрические данные более чем миллиарда человек в более чем 80 странах.

Innovatrics также получала поддержку от Европейского Союза. В период с 2018 по 2019 год компании было присуждено почти 200 000 евро государственного финансирования в рамках исследовательского проекта ЕС, посвященного автоматическому анализу, классификации и сортировке фотографий с использованием биометрических данных лица.

Согласно информации компании, Innovatrics имеет офисы «на большинстве континентов», в том числе один в Бразилии. В ответ на «всплеск спроса в Южной Америке» Innovatrics открыла свой региональный офис в Сан-Паулу в сентябре 2021 года.

Кредит: Георгина Холева и Иоанна Пупаки / Spoovio

Кейтлин Бишоп, которая координирует работу по технологиям наблюдения в НПО Privacy International, внимательно изучила внедрение системы в Паране. Тот факт, что европейские компании экспортируют технологию распознавания лиц, использование которой оспаривается в Европе, в другие страны, где она затем применяется, она называет «вредоносным».

Закон в Бразилии даже не так уж сильно отличается от европейского, сказала Бишоп. «Но есть огромная проблема с правоприменением». По её мнению, не пробел в формальном законе, а отсутствие эффективного надзора позволяет использовать технологию в классах. Тем временем отсутствие какого-либо экспортного контроля в Законе об ИИ или других нормативных актах ЕС создало «не очень хорошую ситуацию», по словам Бишоп, которая позволяет продавать то, что она называет «глубоко инвазивными технологиями», европейскими компаниями на международном уровне.

Когда Закон об ИИ обсуждался в Брюсселе, Европейский парламент выступал за запрет такого бизнеса. В его официальной позиции говорилось: «целесообразно запретить экспорт» систем, использование которых классифицируется как «неприемлемое» в соответствии с Законом об ИИ. Однако это предложение получило мало поддержки среди других институтов ЕС и было исключено из окончательного текста закона.

«Отсутствие таких мер означает, что технологии, запрещенные здесь, все ещё могут продаваться и внедряться в других местах, подрывая наши ценности», — сказал Брандо Бенифеи, итальянский социал-демократ, депутат Европарламента, поддерживавший запрет. «Мы не должны допускать экспорт и использование за рубежом систем, которые мы не разрешили бы у себя дома».

Работает ли это вообще?

Когда система внедрялась в Паране, государственная IT-компания Celepar представляла её как эффективную, безопасную и однозначно полезную. В пресс-релизе компания утверждала, что учителя теряют «более 100 часов в год» на класс из-за рутинных административных задач, таких как учёт посещаемости. Новая система, заявила Celepar, сэкономит учителям десятки часов.

В интервью Investigate Europe учителя описали иную реальность. Алгоритм, по их словам, часто требует больше времени для регистрации посещаемости, чем ручной ввод информации. Ошибки в идентификации учеников остаются обычным делом.

Эти сообщения подтверждаются независимым исследованием, опубликованным в 2025 году учёными из Университета штата Сан-Паулу. Исследователи протестировали систему в государственной школе Параны и обнаружили, что она достигает средней точности 91,1%, что ниже порога в 95%, указанного в правительственном контракте на закупку. Проверка посещаемости, обещанная занять 30 секунд, на практике занимала в среднем две минуты. На производительность влияли подключение к Интернету, расположение учеников и качество камеры.

«Поначалу учителей обязывают использовать перекличку с распознаванием лиц. Но через некоторое время бюрократы перестают требовать от нас этого». — Вандре Александре, учитель и профсоюзный лидер в Паране.

Опрос, проведенный APP-Sindicato, одним из самых влиятельных профсоюзов учителей Параны, показал, что восемь из десяти педагогов считают систему распознавания лиц менее эффективной, чем личный учёт посещаемости. Профсоюз представляет более 65 000 учителей.

Внутри школ использование системы стало неравномерным. «Каждый год, в начале учебного года, Государственный секретариат образования инструктирует нас регистрировать учеников в базе данных», — сказал Вандре Александре, учитель и профсоюзный лидер. «Поначалу учителей обязывают использовать перекличку с распознаванием лиц. Но через некоторое время бюрократы перестают требовать от нас этого».

Риск для социальных пособий

Ошибки системы приобретают иной вес, если рассматривать их в контексте бразильской архитектуры социального обеспечения.

В рамках программы Bolsa Família семьи должны соблюдать определенные условия, чтобы оставаться имеющими право на получение денежных переводов, включая обеспечение регулярного посещения школы их детьми. Ученики старше шести лет должны присутствовать как минимум на трёх четвертях занятий. Эти записи о посещаемости теперь формируются в Паране той же системой распознавания лиц, которая отметила девочку в школе Ингрид Адам как отсутствующую.

Показатель точности системы в 91,1%, задокументированный в исследовании Университета штата Сан-Паулу, может звучать высоко. Но в штате, где ежедневно может сканироваться более миллиона детей, даже небольшая погрешность может затронуть десятки тысяч записей. Investigate Europe не нашла подтвержденного случая, когда ложное отсутствие напрямую привело к приостановке выплат пособий. Но учителя предупреждают, что такая возможность реальна.

Элиу да Силва, учитель португальского языка и философии в Паране, описал, как данные о посещаемости могут быть искажены. Он вспомнил, что видел внутренние инструкции, которые предписывали школам отмечать некоторых учеников как «не имеющих посещаемости», даже если они присутствовали в классе. В одном случае ученик седьмого класса, пропустивший всего три занятия, был исключен из официальных записей о посещаемости до того, как федеральные данные об образовании были уже собраны.

«Они написали, что у этого ученика нет посещаемости», — сказал да Силва, — «хотя он был в моем классе». Он не смог определить подтвержденный случай, когда такие ошибки привели бы к приостановке выплат Bolsa Família. Но он предупредил, что если базы данных о посещаемости когда-либо будут сопоставлены с системами социального обеспечения, ученик, ошибочно отмеченный как отсутствующий, может на бумаге выглядеть так, будто вообще не посещает школу. «Это могло бы случиться», — сказал он.

Кейтлин Бишоп из Privacy International заявила, что даже возможность такой связи вызывает серьёзные опасения. «Связь с Bolsa Família вызывала беспокойство», — сказала она, указывая на риски, возникающие, когда данные о посещаемости, особенно неточные или плохо управляемые, переплетаются с доступом к социальному обеспечению.

Секретариат образования Параны оспорил эту характеристику. В заявлении для Investigate Europe секретариат сообщил, что использование системы распознавания лиц является необязательным для учителей, которые могут вручную проверять список присутствующих учеников и вносить исправления в случаях, когда система не может их идентифицировать. Ученики также могут отказаться от использования системы «без какого-либо ущерба» по запросу. Технические сбои, заявили в секретариате, не приводят автоматически к отметке ученика как отсутствующего и напрямую не влияют на право участия в программах социального обеспечения.

Кредит: Георгина Холева и Иоанна Пупаки / Spoovio

Судебный иск

Однако обеспокоенность в конце концов дошла до судов. В апреле 2025 года Прокуратура штата Парана подала гражданский иск против правительства штата, Celepar и подрядчика Valid, alleging violations of Brazil’s General Personal Data Protection Law (Общего закона о защите персональных данных). Маркос Жозе Порту Соареш, прокурор, ведущий дело, сказал, что это первый случай, когда его офис подал в суд на правительство штата за предполагаемые нарушения закона о защите данных. Среди спорных вопросов было само согласие: Investigate Europe подтвердила с секретариатом образования Параны, что более ранняя версия формы зачисления учеников не позволяла родителям отказаться от использования изображений их детей в программе распознавания лиц. Они заявили, что этот недостаток с тех пор был исправлен. Investigate Europe не смогла независимо проверить это изменение.

В мае 2025 года судья отказал в ходатайстве прокурора о немедленной приостановке работы системы. Суд не нашел конкретных доказательств неминуемого вреда, которые оправдывали бы срочное вмешательство. В решении также отмечалось, что остановка системы может потребовать быстрого внедрения альтернативного метода учета посещаемости с потенциальными последствиями для государственных расходов.

В сентябре прокуратура официально оспорила это решение, arguing that the policy lacks a clear legal basis in statute or regulation (утверждая, что политика не имеет чёткой правовой основы в законе или нормативных актах). Дело все ещё продолжается, ожидается, что решение будет вынесено в первой половине этого года.

Innovatrics не ответила на запросы о комментариях к моменту публикации, как и бывший государственный секретарь образования Ренату Федер. Valid отказалась от комментариев.

Celepar заявила, что «остается приверженной модернизации государственного образования штата посредством цифровой трансформации», и «continuously monitor teacher feedback to refine the algorithm and user interface» (постоянно отслеживает отзывы учителей для улучшения алгоритма и пользовательского интерфейса) технологии. Компания заявила, что существуют «многочисленные средства защиты», чтобы гарантировать, что право на получение пособий не пострадает от системы, включая возможность внесения ручных изменений и ретроспективных исправлений.

В связи с иском прокурора Celepar заявила: «Компания утверждает, что вся деятельность по обработке данных осуществляется в строгом соответствии с Общим законом о защите данных. Celepar активно сотрудничает с прокуратурой штата Парана, чтобы продемонстрировать протоколы безопасности, шифрование данных и обоснования общественных интересов, лежащие в основе проекта».

Секретариат образования Параны заявил, что система соответствует бразильскому закону о защите данных. Он также сообщил, что «до внедрения решения была подготовлена оценка воздействия на защиту данных». Что касается текущего судебного разбирательства, секретарь заявил: «дело все ещё находится на судебном рассмотрении, и пока судебного решения не вынесено».

«Celepar остается приверженной модернизации государственного образования штата посредством цифровой трансформации». — Пресс-секретарь Celepar.

Распространение системы

Несмотря на растущие жалобы учителей и начало судебных разбирательств, Парана продолжает полагаться на технологию распознавания лиц в своих классах. В начале сентября прошлого года штат продлил свой контракт ещё на один год, до сентября 2026 года.

Даже в то время, как разворачивается судебное дело, Innovatrics продолжает продвигать свою технологию школьного наблюдения в других местах. Летом 2023 года представитель компании встретился с чиновниками Министерства образования Чили. Согласно внутренней заметке о встрече, представитель выступал за общенациональное использование распознавания лиц для идентификации детей в школах и детских садах, ссылаясь на внедрение в более чем 1000 бразильских школах. Представитель NutreChile, компании, участвовавшей в предложенном пилотном проекте, сообщил Investigate Europe, что проект так и не состоялся, не назвав дальнейших причин.

Внутри Бразилии эта модель распространилась. Согласно исследовательской организации InternetLab, семь из 27 штатов страны сейчас используют технологию распознавания лиц в школах, а другие рассматривают аналогичные системы.

Менее заметно, технология также начала двигаться в обратном направлении, обратно в Европу. В 2024 году правительство Параны объявило, что его система распознавания лиц была экспортирована в Португалию. Программное обеспечение тестировалось в течение трёх месяцев в United Lisbon International School, частном учреждении, обслуживающем учеников из около 50 стран. Согласно заявлению правительства, пилотный проект был «одобрен руководством школы». Когда с ними связались, владелец школы, британская компания Duke Education, не комментировала предыдущее испытание, заявив: «Школа не использует этот инструмент». После вопросов от Investigate Europe португальский орган по защите данных объявил, что начнёт официальное расследование.