Amnesty International призвала к немедленному прекращению работы алгоритмически управляемой системы социального обеспечения в Швеции, указывая на ее непропорциональное воздействие на маргинализированные группы в расследованиях по мошенничеству с пособиями.
Расследование Lighthouse Reports и Svenska Dagbladet показало, что система машинного обучения, используемая Försäkringskassan, Шведским агентством социального страхования, чаще всего отмечает женщин, людей с низким доходом и лиц с иностранным происхождением для расследования мошенничества.
С момента своего внедрения в 2013 году система присваивает баллы риска заявителям, что приводит к началу расследований для тех, кто считается высокорискованным. Тем не менее, она в значительной степени неэффективна в выявлении мошенничества среди богатых людей и мужчин.
В отчете Amnesty подчеркивается, что отмеченные лица сталкиваются с инвазивным контролем, включая мониторинг социальных сетей и опросы соседей, что может задержать их доступ к социальным пособиям.
Дэвид Нолан, старший исследователь Amnesty Tech, раскритиковал систему за то, что она усугубляет неравенство и дискриминацию, заявив: "Это явный пример нарушения прав человека на социальное обеспечение, равенство и конфиденциальность со стороны явно предвзятой системы."