Нью-Йорк будет заниматься несправедливыми предубеждениями в автоматизированных городских службах

Независимо от того, знаем ли мы о них или нет, алгоритмы влияют на огромную часть нашей жизни. Теперь в США, сначала Нью-Йорк предпринимает шаги для устранения потенциальных алгоритмических предубеждений в услугах, предоставляемых муниципальными учреждениями. Городской совет принял законопроект, который, если он будет подписан мэром де Блазио, создаст целевую группу для изучения того, являются ли алгоритмы обслуживания предвзятыми, как граждане могут обжаловать решения, принятые алгоритмами, если они считают их несправедливыми, и если агентский исходный код может быть общедоступным.

«Автоматизированные системы принятия решений» отвечают за определение результатов по широкому кругу вопросов города / гражданина. Возьмите, к примеру, право на залог. Учебные данные, используемые для создания алгоритмов для этой системы, могут включать в себя предубеждения, которые несправедливо относятся к одной группе лиц над другой. Целевая группа рассмотрит, как определенные группы, такие как пожилые люди, иммигранты, инвалиды и меньшинства, подвергаются воздействию этих автоматизированных процессов.

Законопроект, названный Intro 1696-A, не столь широко распространен, как первоначально надеялись сторонники. В более ранней версии было бы предусмотрено, что все агентства, принимающие решения с использованием алгоритмов, делают свои коды общедоступными. Прошедшая версия просто требует, чтобы целевая группа рассмотрела возможность этого.

Если он будет подписан, целевую группу необходимо будет сформировать в течение трех месяцев, но сам отчет не будет рассчитан на 18 месяцев, что справедливо, учитывая размер такой задачи, требующей больших данных, и, конечно же, ее важность. Отбрасывание алгоритмических предубеждений и вызов системам, которые позволяют им существовать в первую очередь, будут иметь массовое гражданское влияние и установить жизненные прецеденты для всей остальной страны.