ccc.de — В первом комменте - автоматический перевод с немецкого. Спойлер - пока что предлагается контролировать только контент, связанный с насилием над детьми.
Ожидается, что в среду 11 мая 2022 года Комиссия ЕС опубликует законопроект о так называемом чат-контроле. Планируется, что все сообщения и изображения будут проверяться на основе искусственного интеллекта непосредственно на наших устройствах. Так называемое сканирование на стороне клиента будет атакой на всю конфиденциальную связь.
Проект планирует изучать весь коммуникационный контент непосредственно на наших устройствах и извлекать его в случае подозрений. Такое сканирование на стороне клиента будет не первым чрезмерным и ошибочным методом наблюдения, оправдываемым борьбой с жестоким обращением с детьми.
Несомненно, пострадавшим от жестокого обращения с детьми необходимо оказывать более эффективную помощь, но контроль чата - это чрезмерный подход, который легко обойти и который начинается совершенно не с того места. Без ожидаемого успеха в достижении реальной цели, предполагается внедрение беспрецедентного инструмента наблюдения.
Предлагаемый законопроект требует, чтобы каждое устройство проверяло каждое сообщение на наличие изображений насилия над детьми и контактов между преступниками и детьми. Если в сообщении обнаружено такое содержание, оно должно быть направлено непосредственно в надзорный орган или полицию.
Массовое сканирование не только атакует конфиденциальные коммуникации в самой их основе, но и будет неэффективным: преступники уже используют каналы распространения, которые не будут затронуты этим сканированием, и легко избегут сканирования в будущем:
Преступники используют публичные хостеры вместо мессенджеров, на которые нацелилась Комиссия - не в последнюю очередь потому, что мессенджеры совершенно не подходят для обмена большими коллекциями файлов. Они также шифруют данные перед их обменом.
Только по этой причине планируемое наблюдение не предотвратит дальнейшее распространение оскорбительных изображений.
Не только журналисты и разоблачители зависят от надежной связи - это фундаментальное право и важный краеугольный камень нашей ИТ-безопасности. Для того чтобы общение было действительно доверительным, должны быть выполнены два условия:
Устройство должно обладать целостностью и не должно передавать содержимое третьим лицам.
Шифрование должно быть безопасным, чтобы нам не приходилось доверять сети.
С учетом тайны телекоммуникаций и фундаментального права гарантировать конфиденциальность и целостность систем информационных технологий, контроль чата приостанавливает два фундаментальных права. Пользователи теряют контроль над тем, какими данными они делятся и с кем. Они теряют базовое доверие к собственным устройствам.
Пока неясно, кто должен определять и контролировать алгоритмы распознавания и базы данных. Такая непрозрачная система может и будет легко расширяться после ее введения. Уже можно предвидеть, что индустрия эксплуатации прав будет заинтересована в этой системе не меньше, чем антидемократические правительства. Тем более пугающим является бесхитростность, с которой она теперь будет внедряться.
"Искусственный интеллект", проверяющий оскорбительный контент, также будет ложно помечать контент как незаконный. Даже самые незначительные ошибки могут привести к огромному количеству ложно "распознанных" и выброшенных сообщений: Только в Германии ежедневно отправляется более полумиллиарда сообщений. Даже очень "хорошие" показатели распознавания приведут к отклонению нескольких тысяч сообщений в день.
Вероятность утечки, конечно, возрастает в случае частного, абсолютно легального и консенсуального обмена изображениями между взрослыми и молодыми людьми. Молодые люди уже могут рассчитывать на то, что контрольные пункты оценят их возраст. Скучная озабоченность тем, происходит ли утечка наших сообщений, кто их просматривает и насколько они защищены от злоупотреблений, в свою очередь, затронет всех нас.
В то же время на блокпостах будут скапливаться горы не относящихся к делу материалов и мешать офицерам выполнять важную следственную работу. Следственные органы уже перегружены данными, которые они получают сегодня. Расследования не увенчиваются успехом, а найденные материалы даже не удаляются. Эффективное устранение этих недостатков было бы самой важной целью в борьбе против жестокого обращения с детьми. Вместо этого Комиссия хочет сделать ставку на массовое наблюдение и спасительные обещания "искусственного интеллекта".
Чат-контроль должен быть принципиально отвергнут как в корне ошибочная технология.
[зевает]
эх, как хорошо, что цензура возможна только при тоталитарных коммунистических режимах!
а в капиталистических демократиях ни пропаганды тебе, ни цензуры - швабода!
"Красота-то какая! Лепота!" (с)
> не надо вздрагивать, поменяй nigger на nigga и всего делов!!! :))
> Ответить
Нейросеть быстро обучится смотреть через камеру, какого ты цвета и можно ли тебе говорить n-word. Тоталитарная цензура стригла всех под одну гребенку, в демократической применяется индивидуальный подход!
Сейчас, сейчас
Проект планирует изучать весь коммуникационный контент непосредственно на наших устройствах и извлекать его в случае подозрений. Такое сканирование на стороне клиента будет не первым чрезмерным и ошибочным методом наблюдения, оправдываемым борьбой с жестоким обращением с детьми.
Несомненно, пострадавшим от жестокого обращения с детьми необходимо оказывать более эффективную помощь, но контроль чата - это чрезмерный подход, который легко обойти и который начинается совершенно не с того места. Без ожидаемого успеха в достижении реальной цели, предполагается внедрение беспрецедентного инструмента наблюдения.
Предлагаемый законопроект требует, чтобы каждое устройство проверяло каждое сообщение на наличие изображений насилия над детьми и контактов между преступниками и детьми. Если в сообщении обнаружено такое содержание, оно должно быть направлено непосредственно в надзорный орган или полицию.
Массовое сканирование не только атакует конфиденциальные коммуникации в самой их основе, но и будет неэффективным: преступники уже используют каналы распространения, которые не будут затронуты этим сканированием, и легко избегут сканирования в будущем:
Преступники используют публичные хостеры вместо мессенджеров, на которые нацелилась Комиссия - не в последнюю очередь потому, что мессенджеры совершенно не подходят для обмена большими коллекциями файлов. Они также шифруют данные перед их обменом.
Только по этой причине планируемое наблюдение не предотвратит дальнейшее распространение оскорбительных изображений.
Не только журналисты и разоблачители зависят от надежной связи - это фундаментальное право и важный краеугольный камень нашей ИТ-безопасности. Для того чтобы общение было действительно доверительным, должны быть выполнены два условия:
Устройство должно обладать целостностью и не должно передавать содержимое третьим лицам.
Шифрование должно быть безопасным, чтобы нам не приходилось доверять сети.
С учетом тайны телекоммуникаций и фундаментального права гарантировать конфиденциальность и целостность систем информационных технологий, контроль чата приостанавливает два фундаментальных права. Пользователи теряют контроль над тем, какими данными они делятся и с кем. Они теряют базовое доверие к собственным устройствам.
Пока неясно, кто должен определять и контролировать алгоритмы распознавания и базы данных. Такая непрозрачная система может и будет легко расширяться после ее введения. Уже можно предвидеть, что индустрия эксплуатации прав будет заинтересована в этой системе не меньше, чем антидемократические правительства. Тем более пугающим является бесхитростность, с которой она теперь будет внедряться.
"Искусственный интеллект", проверяющий оскорбительный контент, также будет ложно помечать контент как незаконный. Даже самые незначительные ошибки могут привести к огромному количеству ложно "распознанных" и выброшенных сообщений: Только в Германии ежедневно отправляется более полумиллиарда сообщений. Даже очень "хорошие" показатели распознавания приведут к отклонению нескольких тысяч сообщений в день.
Вероятность утечки, конечно, возрастает в случае частного, абсолютно легального и консенсуального обмена изображениями между взрослыми и молодыми людьми. Молодые люди уже могут рассчитывать на то, что контрольные пункты оценят их возраст. Скучная озабоченность тем, происходит ли утечка наших сообщений, кто их просматривает и насколько они защищены от злоупотреблений, в свою очередь, затронет всех нас.
В то же время на блокпостах будут скапливаться горы не относящихся к делу материалов и мешать офицерам выполнять важную следственную работу. Следственные органы уже перегружены данными, которые они получают сегодня. Расследования не увенчиваются успехом, а найденные материалы даже не удаляются. Эффективное устранение этих недостатков было бы самой важной целью в борьбе против жестокого обращения с детьми. Вместо этого Комиссия хочет сделать ставку на массовое наблюдение и спасительные обещания "искусственного интеллекта".
Чат-контроль должен быть принципиально отвергнут как в корне ошибочная технология.