В одной из американских школ на смартфоны школьников установили систему ИИ-шпиона

В средней школе, расположенной в Лоуренсе, штат Канзас, США, была внедрена новая система, обеспечивающая непрерывный мониторинг учащихся. ИИ-программа Gaggle отслеживает действия учащихся как в школе, так и за её пределами.

Средняя школа Lawrence High School, расположенная в Канзасе, США, заключила соглашение с компанией Gaggle и ввела их ИИ-программу для круглосуточного наблюдения за учениками.

Gaggle инсталлируется на мобильные устройства школьников и привязывается к их аккаунтам, после чего она анализирует домашние задания, письма, фотографии и переписки учеников, в поисках признаков антисоциального поведения, суицидальных наклонностей, потребления наркотиков и алкоголя. При первых подозрениях система уведомляет руководство школы, а в случае серьёзных нарушений — автоматически оповещает полицию.

Использование Gaggle вызывает серьёзную критику, но руководство школы пока не планирует прекращать сотрудничество, так как считает, что благодаря Gaggle безопасность в школе значительно повысилась.

Разработчики Gaggle утверждают, что с 2018 по 2023 годы их система помогла спасти жизни почти 5,8 тысяч учеников.

Критики Gaggle утверждают, что такая форма наблюдения представляет собой серьёзное вторжение в личную жизнь учащихся и потенциально нарушает их права на конфиденциальность. Они указывают, что постоянное слежение может создать атмосферу недоверия и стресса среди школьников, что, в свою очередь, отрицательно скажется на их психическом благополучии. Психологи также предупреждают о возможности ложных срабатываний, которые могут привести к необоснованным мерам, создавая ненужное беспокойство и напряжение как среди учащихся, так и их семей.

Администрация школы Lawrence High School и сторонники Gaggle же настаивают на том, что преимущества системы перекрывают потенциальные риски. Они обращают внимание на то, что постоянный мониторинг позволяет вскрыть проблемы на ранней стадии, когда их ещё можно эффективно решить. По их мнению, система способствует созданию более защищённой учебной среды, где школьники могут сосредоточиться на учёбе без страха за своё благополучие. Отдельные случаи, когда предотвращение насилия или суицида стало возможным благодаря вовремя поданным сигналам Gaggle, только усиливают эту позицию.

Вопросы безопасности и приватности в образовательной среде становятся всё более актуальными по мере развития технологий. Использование ИИ для контроля и мониторинга школьников открывает окно для важных этических и правовых дебатов о пределах вмешательства в личную жизнь несовершеннолетних в целях их защиты. Примеры системы Gaggle служат напоминанием о том, что внедрение новых технологий требует сбалансированного подхода, где пересечение интересов безопасности и прав человека должно быть тщательно продумано и соблюдено.

В будущем необходимо более детальное регулирование и чёткие стандарты использования подобных систем, чтобы гарантировать прозрачность и ответственность. Возможно, совместные усилия разработчиков, педагогов, психологов и правозащитников помогут найти оптимальные решения, которые позволят сохранить безопасность учащихся, не нарушая их основных прав. Важно, чтобы использование технологии в образовательных учреждениях оставалось средством поддержки, а не источником страха и недовольства среди школьников и их родителей.