IRRC No. 913

Предубеждения в моделях машинного обучения и аналитике больших данных: последствия для международного уголовного и гуманитарного права

Скачать PDF
Эту статью также можно прочитать на следующих языках

Abstract
Развитие технологий мобильной связи и социальных сетей привело к тому, что в современном мире люди больше не способны самостоятельно обрабатывать и использовать весь объем постоянно генерируемой и распространяемой информации. Модели машинного обучения (МО) и инструменты анализа больших данных снимают часть нагрузки, выполняя осмысление такой информации и позволяя получить аналитические выводы, сделать которые иначе было бы невозможно. В контексте международного уголовного права и права прав человека МО используется в различных целях, в том числе для выявления массовых захоронений в Мексике, поиска подтверждений уничтожения жилых домов и школ в Дарфуре, обнаружения сфабрикованных видеороликов и подложных данных, прогнозирования результатов судебных слушаний в Европейском суде по правам человека и сбора доказательств совершения военных преступлений в Сирии. Модели МО также все активнее внедряются в системы вооружений государств, что дает возможность совершенствовать системы прицеливания в аспекте проведения различия между гражданскими лицами, дружественными солдатами и неприятельскими комбатантами или даже обосновывать решения, принимаемые относительно вооруженных нападений. При этом внедрение такой технологии несет в себе значительный риск. Модели МО и анализ больших данных в существенной степени подвержены обычным человеческим предубеждениям. При наличии предубеждений в моделях МО использование последних потенциально может усугубить существующее расовое, политическое или гендерное неравенство, а также создать вводящую в заблуждение и искаженную картину положения дел на местах. В настоящей статье обсуждаются способы, которыми распространенные человеческие предубеждения могут влиять на работу моделей МО и анализ больших данных, а также изучаются потенциальные правовые последствия таких предубеждений с точки зрения международного уголовного права и международного гуманитарного права.

Скачайте текст статьи в PDF по ссылке выше.

 

Продолжить читать выпуск #IRRC No. 913

'Подробнее о' Digital technologies and war, Machine learning, International Criminal Law