گنجاندن جنسیت در حقوق بین الملل بشردوستانه: آیا هوش مصنوعی از عهده این کار بر می آید؟
نویسنده: Andrea Farrés Jiménez
مترجم: دکتر نسرین ترازی- پژوهشگر حقوق بین الملل
ویراستار علمی: دکتر کتایون حسین نژاد- پژوهشگر حقوق بین الملل
در طول مخاصمات مسلحانه، روابط نابرابر قدرت و معایب ساختاری ناشی از محرک های جنسیتی[۱] تشدید می شوند. در طول چند دهه گذشته، شناختی فزاینده از (نقش) این محرک ها به ویژه در زمینه ی خشونت های جنسی و مبتنی بر جنسیت در مخاصمات بعمل آمده است، که برای مثال، قطعنامه شورای امنیت سازمان ملل متحد ۱۳۲۵ در مورد زنان صلح و امنیت، نمونه ای از آن است.
اگرچه ابتکاراتی مانند این قطعنامه، پیشرفتی مثبت است در راستای به رسمیت شناختن تبعیض علیه زنان و معایب ساختاری که آنها در طول مخاصمات مسلحانه از آن رنج میبرند، ولی جنبه های دیگری از درگیری های مسلحانه، که به ویژه استفاده از هوش مصنوعی برای هدف گیری در برابر بینش های مربوط به جنسیت مقاوم باقی ماندهاند. این امر به ویژه در وجه عملیاتی حقوق بشردوستانه که دربردارنده قواعدی است در مورد تعیین هدف در مخاصمات مسلحانه، مشکل ساز است.
ابعاد جنسیتی تفکیک و تناسب
برخی از جنبه های جنسیتی اعمال حقوق بین الملل بشردوستانه، به ویژه در زمینه تجاوز جنسی و سایر مقوله های خشونت جنسی علیه زنان در جریان مخاصمات مسلحانه، از دیرباز مورد شناسایی قرار گرفته است . در نتیجه، توجه زیادی به مسأله تضمین پاسخگویی برای جرایم خشونت جنسی در جریان مخاصمات مسلحانه شده است، در حالیکه سایر جنبه های مخاصمه نظیر جنبه عملیاتی حقوق بینالملل بشر دوستانه مغفول باقی مانده است.
در اعمال اصل تفکیک، که مستلزم تمایز غیرنظامیان از رزمندگان است (تنها دومی ممکن است هدف یک حمله قانونی باشد)، فرضیات جنسیتی مبتنی بر اینکه چه کسی یک تهدید تلقی می شود، اغلب نقش مهمی ایفا نموده است. در جنگ مدرن، که اغلب به شکل درگیری های شهری و نامتقارنی هستند که رزمندگان میتوانند با جمعیت غیرنظامی ترکیب شوند، برخی نظامیان و گروه های مسلح برای تمایز درست از غیر نظامیان تلاش بسیاری می کنند. با توجه به کلیشه های جنسیتی رفتار مورد انتظار از زنان و مردان، جنسیت به عنوان یک «هویت دو فاکتو در تکمیل دسته بندی غیرنظامیان، عمل می کند». در عمل، این مسأله میتواند به این معنا باشد که برای هدف قرار دادن زنان، الزامات حقوق بین الملل بشردوستانه به صورت سخت گیرانه و دقیق اعمال می شود. اما، در مورد مردان غیرنظامی جوان، این بازداری، کمتر به نظر میرسد، ملاحظات جنسیتی همراه با سایر عوامل نظیر موقعیت جغرافیایی، آنها را با خطر بیشتری برای هدف قرار گرفتن مواجه میکند.
یک مثال بارز از کاربرد اصل تفکیک، به اصطلاح «حملات هدفمند»[۲] است، زیرمجموعه ای از حملات هواپیماهای بدون سرنشین توسط ایالات متحده است، (البته) خارج از مکانی که آن را بعنوان «مناطق مخاصمات فعال»[۳]، در نظر گرفته است. حملات هدفمند، افرادی را که در نبردگاه (میدان جنگ) سنتی نبوده، هدف قرار می دهند بدون آن که آنها را به طور شخصی شناسایی کند، بلکه هدف گیری این افراد، تنها مبتنی است بر الگوهای زندگی. براساس گزارشهای واصله از این حمله ها، کافی است که افراد مورد هدف، از گروهی «مردان نظامی بالغی» باشند که در منطقه عملیاتی تروریست ها، زندگی می کنند و «رفتار آنها به اندازه کافی مشابه تروریست ها باشد تا برای مرگ نشان شوند».
با این حال همانگونه که سازمان ماده ۳۶[۴] متذکر میشود، به دلیل فقدان شفافیت در مورد استفاده از پهبادهای مسلح در حملات هدفمند، تعیین دقیق استاندارهای مورد استفاده دولت آمریکا برای طبقه بندی افراد خاص به عنوان اهداف قانونی، دشوار است. براساس گزارش نیویورک تایمز، از ماه می ۲۰۱۲ در محاسبه تلفات حمله های پهبادهای مسلح، دولت امریکا «همه مردان واجد سن نظامی را در منطقه مورد حمله، به عنوان رزمنده حساب کرده…. مگر آنکه اطلاعاتی صریحاً بتواند بیگناهی آنها پس از مرگ را اثبات کند».
با این حال، هنگامی که یک هدف به عنوان «هدف نظامی» معتبر ارزیابی می شود، تاثیر جنسیت در ارزیابی تناسب معکوس می شود. اصل تناسب مستلزم اطمینان از آن است که آسیب پیش بینی شده به غیر نظامیان و اموال غیرنظامی در مقایسه با مزیت نظامی مورد انتظار از حمله « بیش از حد» نباشد. ولی در ارزیابی مزیت پیش بینی شده (نظامی) و آسیب های پیش بینی شده غیرنظامی ، «مزیت نظامی» می تواند شامل کاهش احتمالی شمار تلفات رزمندگان خود فرمانده به عنوان یک مزیت باشد، به عبارت دیگر تلفات واقعی جان غیرنظامیان میتواند با اجتناب از تلفات احتمالی نظامیان «جبران» شود. این مسأله این نتیجه عملی را ایجاد می کند که «زندگی رزمندگان، که اکثریت قریب به اتفاق آنها مرد هستند» مهمتر از «افراد غیرنظامی» است، که در بطن میدان جنگ هستند که اغلب و بطور نامتناسبی، زنان هستند.
با در نظرگرفتن این موارد از اعمال حقوق بین الملل بشردوستانه، می توانیم نتیجه بگیریم که یک جنبه جنسیتی در بعد عملیاتی این شاخه از حقوق وجود دارد.
کاربرد هوش مصنوعی در اصول حقوق بین الملل بشردوستانه
فناوری های جدید، به ویژه هوش مصنوعی به طور فزاینده ای برای کمک به فرماندهان در تصمیم گیری های مربوط به هدف گیری به کار گرفته شده اند. به ویژه، الگوریتم های یادگیری ماشینی، حجم عظیمی از داده ها را برای شناسایی قواعد یا الگوها پردازش می نمایند، سپس نتایجی را در مورد اجزای جداگانه اطلاعات بر اساس این الگو ها ترسیم می کنند.
در حال حاضر هوش مصنوعی در جنگ در تصمیم های مربوط به هدف گیری به اشکال مختلف، نقش دارد. برای مثال، الگوریتم های هوش مصنوعی میتوانند خسارات جانبی را تخمین بزنند و در نتیجه به فرماندهان کمک کنند تا تجزیه و تحلیلی از اصل تناسب داشته باشند. به همین ترتیب، برخی از پهبادهای مجهز به هوش مصنوعی برای شناسایی و در حال حاضر برای اسکن محیط شهری به منظور یافتن حمله کنندگان پنهان، آموزش دیده اند، به عبارت دیگر، برای تمایز بین غیرنظامیان و رزمندگان بر اساس اصل تفکیک.
در واقع در جنگهای مدرن، استفاده از هوش مصنوعی در حال گسترش است. به عنوان مثال در مارس ۲۰۲۱ کمیسیون امنیت ملی هوش مصنوعی، کمیسیونی با مجوز کنگره امریکا، گزارشی را منتشر کرد با تاکید بر این که چگونه در آینده، فن آوریهای مجهز به هوش مصنوعی، به هر یک از سطوح جنگ نفوذ می کنند. همچنین از وزارت دفاع خواست تا به منظور تبدیل هوش مصنوعی به نیروی آماده باش تا سال ۲۰۲۵، هوش مصنوعی را در کارکردهای اساسی و مهم و نظامهای موجود تلفیق نمایند. همانطور که نیل دیویسون[۵] و جاناتان هوروویتس[۶] یادآور شده اند، در حالی که استفاده از هوش مصنوعی رشد می کند، بسیار مهم است که اطمینان حاصل شود که توسعه و بکارگیری آن (به خصوص زمانی که همراه با استفاده از سلاحهای خودآیین باشد)، با حمایت از غیرنظامیان همراه باشد.
با این حال حتی اگر اصول حقوق بشردوستانه را بتوان به طور درست به برنامه ریزی فن آوری های نظامی مبتنی بر هوش مصنوعی (یک «اگر» بزرگ و قابل تردید) منتقل کرد، چنین انتقالی، تاثیرات ناهمگون جنسیتی ناشی از اعمال حقوق بشردوستانه را که در پیش به آن پرداخته شد، مجدداً ایجاد و یا حتی دوچندان خواهد کرد. مورد پهبادهایی که از حملات هدفمند استفاده می کنند، نشان می دهد که ادغام فن آوری های جدید در جنگ، خطر انتقال (و در مورد فن آوریهای هوش مصنوعی تشدید و تثبیت) بی عدالتیهای جنسیتی که در حال حاضر در اجرای قواعد حقوقی فعلی را دربر خواهد داشت.
جنگ با کمک هوش مصنوعی جنسیتی
دلایل متعددی وجود دارد که هوش مصنوعی ممکن است به تثبیت و تشدید نابرابری های جنسیتی منتهی شود. نخست، این الگوریتم ها تنها به اندازه داده های ورودی مطلوب هستند – و اطلاعات اصلی مشکل ساز هستند. برای کارکرد صحیح، هوش مصنوعی به حجم عظیمی از داده ها نیاز دارد. با این حال، جمع آوری و انتخاب این داده ها خنثی نیستند. در حوزه هایی با اعمال زیان کمتر، مانند تصمیمگیری وام مسکن و یا عملیات پلیسی پیش دستانه[۷]، مواردی از جهت گیری های جنسیتی (و غیره) در برنامه نویسان و افراد مسئول طبقه بندی اطلاعات نمونه ها و یا حتی مجموعه داده ها (اغلب شامل داده های بیشتر در مورد افراد سفید پوست، مرد) دیده شده است.
شاید بتوان گفت که دشوارتر از شناسایی و اصلاح جهت گیری های فردی، موارد یادگیری ماشینی هستند که الگوهای تاریخی بی عدالتی را تکرار و تقویت می کنند، صرفا به این دلیل چنین الگوهایی به نظر هوش مصنوعی اطلاعات مفیدی را به جای «پارازیت های نامطلوب» ارایه دهند.
همانطور که نوئل شارکی[۸] یادآور می شود، «فشار اجتماعی به سمت انصاف و عدالت بیشتر توسط ارزشهای تاریخی در مورد فقر، جنسیت وقومیت مستتر در داده های بزرگ، سرکوب می شوند. هیچ دلیلی بر این باور وجود ندارد که بتوان جهت گیری های موجود در داده های هدف، را به نحو متفاوت و یا آسانتری بیابیم».
این بدان معناست که تعصب های تاریخی انسانی می توانند منجر به داده های آموزشی ناقص و یا غیرموثق شوند. برای مثال، یک الگوریتم پیش بینی کننده برای اعمال اصل تفکیک براساس «شرح حال هدف»، همراه با سایر ابزارهای گردآوری اطلاعات، نظارت و بازیابی، دارای جهت گیری جنسیتی خواهد بود، چنانچه در داده های آن مردان در سن نظامی، صرف نظر از سایر عوامل، معادل رزمنده تلقی شوند. همانطور که حمله های امضایی پهبادها نشان می دهد، طبقه بندی خودکار مردان به عنوان رزمنده و زنان به عنوان افراد آسیب پذیر منجر به اشتباهاتی در هدف گیری شده است. با گسترش استفاده از یادگیری ماشینی در هدفگیری، این جهت گیری ها تقویت خواهد شد، چنانچه برای تصحیح آن اقدامی نشده باشد (چراکه) در هر حمله ای به طور فزاینده اطلاعات جهت گیری شده ارایه خواهد شد.
برای کاستن از این نتیجه، اطمینان از تنوع، دقت و منفک بودن داده های جمع آوری شده و تأمل طراحان الگوریتم، در مورد چگونگی اعمال با جهت گیری جنسیتی اصول تفکیک و تناسب حیاتی است.
جمع آوری داده با کیفیت بالا به این معنی است که علاوه بر مسائل دیگر، اطمینان حاصل شود که داده ها جدا از جنسیت هستند. در غیر اینصورت یافتن اینکه چه جهت گیری هایی در پس این فرضیات قرار دارد، چه اقدامی برای مقابله با این جهت گیری ها می توان انجام داد و چه اقدامی نمی توان انجام داد، غیر ممکن خواهد بود.
اطمینان از داده های با کیفیت بالا نیز مستلزم جمع آوری انواع بیشتر و مختلف داده ها، از جمله داده ها در مورد زنان است. به علاوه از آنجا که ابزارهای هوش مصنوعی، جهت گیری های سازندگانش را منعکس میکند، تضمین این که مستخدمان زن، نقش های فنی به عهده خواهند گرفت و مستخدمان مرد کاملاً برای درک جنسیت و سایر گرایشات آموزش دیده اند، برای کاستن از جهت گیری های جنسیتی بسیار مهم است. گنجاندن مشاوران جنسیتی نیز گام مثبتی خواهد بود تا اطمینان حاصل شود که طراحی الگوریتم و تفسیر آنچه الگوریتم توصیه یا پیشنهاد میکند، جهت گیری ها و پویایی های جنسیتی را در نظر میگیرد.
با این حال، مسایل مربوط به کیفیت داده ها، زیر مجموعه مسایل بزرگتر در مورد امکان کدنویسی حقوق بشردوستانه است و حتی اگر این امر ممکن باشد، مشکل بزرگتر در مورد گننجاندن ملاحظات جنسیتی در کدهای حقوق بشر دوستانه است.
کدنویسی ملاحظات جنسیتی در هوش مصنوعی در بهترین حالت، بسیار چالش برانگیز است، چراکه جنسیت برساخته ای اجتماعی و فردی است. به همین ترتیب، فرایند توسعه هوش مصنوعی خنثی و بدون جهت گیری نیست، چراکه هم سیاست و هم اخلاق در آن گنجانده شده است، این مسأله با حوادث مستندی از جهت گیری های کدنویسی هوش مصنوعی اثبات شده است. در نهایت، اصول و قواعد مدرن حقوق بشردوستانه، تدوین شدند که تبعیض ساختاری علیه زنان به رسمیت شناخته نشده بود. این تبعیض ها «طبیعی» یا حتی به نفع زنان تلقی می شد.
در نتیجه، در زمان بررسی چگونگی کدنویسی حقوق بشر دوستانه، ضروری است که دیدگاههای جنسیتی انتقادی در تفسیر هنجارها و قوانین مربوط به مخاصمات مسلحانه، گنجانده شود.
حقوق بشردوستانه جنسیتی: تلاش های اولیه و اقداماتی که باید انجام شود
یک نمونه از این نوع تعامل انتقادی با حقوق بشر دوستانه در تفسیر جدید کمیته بین المللی صلیب سرخ از کنوانسیون سوم ژنو ارایه شده است. این تفسیر جدید، با درنظر گرفتن ملاحظات ویژه از خطرات و نیازهای جنسیتی خاص (پاراگراف ۱۷۴۷) فرضیات مبنایی جنسیتی منسوخ شده مانند این پیش فرض که زنان، وضعیت غیررزمنده دارند یا اینکه زنان به دلیل «تاب آوری، نیرو و ظرفیت کمتر» (پاراگراف ۱۶۸۲) نیازمند ملاحظات خاصی هستند، را بازنگری کرده است.
این تغییر نشان می دهد که یک دیدگاه جنسیتی در تفسیر قواعد جنگ نه تنها مطلوب است بلکه ممکن است. این تغییر همچنین تأکیدی است بر نیاز فوری به بازبینی مجدد اصول حقوق بشر دوستانه در مورد هدف گیری شامل اصل تفکیک و تناسب و ارزیابی چگونگی تاثیر متفاوت اعمال این اصول بر جنسیتها، به طوری که هر الگوریتم توسعه یافته برای اجرای اصول حقوق بشردوستانه، این دیدگاهها را از ابتدا در خود جای داده باشد.
به عنوان اولین حرکت در این بازنگری، تاکید مجدد بر این که اصول عدم تبعیض بر حقوق بشردوستانه نیز اعمال می شود و باید در همه نسخه های الگوریتمی این قواعد گنجانده شود، ضروری است. به طور خاص اصل تفکیک به فرماندهان اجازه می دهد که به طور قانونی، تنها کسانی که به عنوان رزمنده شناسایی شده اند و یا کسانی که مستقیماً در جنگ شرکت نموده اند، هدف قرار دهد. ماده ۵۰ پروتکل نخست الحاقی کنوانسیون ژنو، غیرنظامیان را به شیوه ای منفی تعریف میکند به این معنی که غیر نظامیان کسانی هستند که متعلق به هیچ یک از طبقه بندی های ارایه شده از رزمندگان نیستند و حقوق بشردوستانه نیز هیچ اشاره ای به جنسیت دال بر هویت به منظور ارزیابی آنکه فرد مورد نظر، رزمنده است یا خیر نمی کند. در این خصوص، «مردان در سن نظامی»[۹] نمی تواند میانبری برای شناسایی رزمندگان باشد. مردان طبقه ای از غیرنظامیان را نیز تشکیل میدهند. همانگونه که مایا برم[۱۰] یادآور میشود « در چارچوب هدایت مخاصمات، محدوده ای برای «اهداف طبقه بندی شده»[۱۱] وجود دارد، اما اصل عدم تبعیض در درگیری های مسلحانه، نیز اعمال می شود. تفکیک ناروا مبتنی بر نژاد، جنس، مذهب، ریشه ملیتی یا معیارهای مشابه ممنوع شده است.»
به همین ترتیب، در هر تلاشی برای تبدیل اصل تناسب به کد، باید تأثیرات جنسیتی محاسبات فعلی از تناسب، شناسایی و اصلاح شوند. به عنوان مثال، در سراسر سوریه بین سالهای ۲۰۱۱ تا ۲۰۱۶، هفتاد و پنج درصد زنان غیرنظامی کشته شده در خشونتهای جنگی، از طریق گلوله باران یا بمباران هوایی کشته شدند. در مقابل چهل و نه درصد مردان غیرنظامی در خشونتهای جنگی از طریق گلوله باران و یا بمباران هوایی کشته شدند، مردان بیشتر در تیراندازی کشته شدند. این امر حاکی از آن است که روش ها و سلاح های خاص اثرات جداگانه ای بر جمعیتهای غیرنظامی که براساس مرزهای جنسیتی از یکدیگر جدا شده اند، دارد.
نویسندگان این مقاله یادآور میشوند که روشهای در حال تحول مورد استفاده نیروهای سوری، مخالفان و نیروهای بین المللی در درگیری ها، منجر به کاهش تلفات رزمندگان شده اند، چرا که استفاده از گلوله باران و بمباران، دو سلاحی که نشان داده شد درصد بالایی از تلفات غیرنظامی به ویژه زنان و کودکان غیرنظامی را به همراه دارد، در طول جنگ افزایش یافته بود. نویسندگان این مقاله همچنین یادآور شده اند که تغییر الگوهای رفتاری غیرنظامیان و رزمندگان ممکن است تا حدی افزایش میزان تلفات زنان در مقایسه با مردان غیرنظامی را توضیح دهد. « افزایش احتمالی تلفات زنان و کودکان قربانی در مقایسه با مردان غیرنظامی می تواند به این دلیل باشد که تعداد مردان غیرنظامی در کل جمعیت، به مرور زمان با اسلحه گرفتن برخی برای تبدیل شدن به رزمنده کاهش می یابد».
بر اساس درک حاضر، حقوق بشر دوستانه ضرورتی به تجزیه و تحلیل آثار جنسیتی نمی بیند، به عنوان مثال انتخاب بمباران هوایی در مقابل تیراندازی. با این حال، این تحقیق پیشنهاد می کند که انتخاب بمباران هوایی به عنوان یک تاکتیک منجر به کشته شدن بیشتر زنان غیر نظامی نسبت به مردان غیرنظامی خواهد شد. (تقریبا ۳۷ درصد زنان کشته شده در جنگ در مقابل ۲۳ درصد مردان کشته شده). انتخاب تیراندازی به عنوان یک تاکتیک نتایج معکوس دارد، به طوری که ۲۳ درصد مردان غیرنظامی در مقایسه با ۱۳ درصد زنان در تیراندازی کشته شدند. با این که هیچ صحبت از تناسب «درست» میان تلفات ناشی از تاکتیک مشخص در میان مردان و زنان غیرنظامی ممکن نیست، اما این نابرابری ها، پیامدهای عمیق و واقعی را برای مردم غیرنظامی در جریان و پس از جنگ، به دنبال دارد که صرفاً تحت قواعد معمول تناسب و تفکیک بررسی نمی شود.
در این خصوص اگر چه توسل به زور[۱۲] برای محدود کردن تلفات نیروهای خودی ممنوع نشده است، چنین راهبردی، باید با در نظر گرفتن تأثیر این سیاست بر جمعیت غیر نظامی طرفمقابل از جمله آثار جنسیتی باشد. گردآوری داده ها در مورد چگونگی تأثیر ابزار یا روش خاص جنگ بر جمعیت غیرنظامی، به فرماندهان این امکان را می دهد که تصمیم گیری آگاهانه تری داشته باشند. اذعان به اینکه آثار سلاح در جنگ، جنسیتی است، اولین قدم کلیدی است که باید برداشته شود.
در برخی موارد پیشرفتی در تلفیق دیدگاه جنسیتی در حقوق بشر دوستانه موضوعه حاصل شده است، مانند مورد مهمات خوشه ای که ماده ۵کنوانسیون ممنوعیت این سلاح ها، متذکر میشود که دولت ها باید در کمک رسانی به قربانیان حساسیت های جنسیتی را در نظر داشته باشند. اما بیشتر این تجزیه تحلیل ها ابتدایی است و ضرورت آن به وضوح مشخص نیست. در زمینه توسعه فناوری های مبتنی بر هوش مصنوعی، بازتاب تأثیر جنسیتی الگوریتم در زمان توسعه هوش مصنوعی، تملک و بکارگیری آن ضروری است.
فرایند کدگذاری اصول تفکیک و تناسب حقوق بشر دوستانه در سیستم هوش مصنوعی فرصت مفیدی را فراهم می کند برای بازنگری در اعمال این اصول با نگاهی بر تفاسیری که دیدگاه های جنسیتی مدرن را در نظر می گیرد (هم از نظر نحوه تفسیر این اصول حقوق بشردوستانه و هم تأثیر متفاوت آن بر زنان و مردان)
همانگونه که تفسیر جدید کمیته بین المللی صلیب سرخ از کنوانسیون سوم ژنو نشان می دهد، شناسایی و تلفیق نیازهای جنسیتی خاص در تفسیر و اعمال قواعد موجود جنگ، نه تنها ممکن بلکه مطلوب است.
سلب مسوولیت: این پست به عنوان بخشی از کارآموزی تحقیقاتی در دانشگاه اراسموس روتردام تهیه شده است. این تحقیق، توسط کنسرسیوم خلع سلاح و منع اشاعه اتحادیه اروپا، به عنوان بخشی از ابتکار آموزشی بزرگتر اتحادیه اروپا، با هدف ایجاد ظرفیت در نسل بعدی دانشمندان و متخصصان سیاست منع اشاعه و برنامه نویسی، تامین مالی شده است. نظرات بیان شده در این پست، صرفاً نظرات نویسنده است و لزوماً دیدگاه دانشگاه اراسموس روتردام و کنسرسیوم خلع سلاح و منع اشاعه اتحادیه اروپا را منعکس نمی کند.
درباره نویسنده: آندره فارس جیمنز[۱۳]
یک حقوقدان بین المللی است که بر حقوق بین الملل بشردوستانه، امنیت بین المللی و کنترل تسلیحات و حقوق بین المللی بشر متمرکز شده است.
[۱] gender dynamics
[2] “Signature strikes”
[3] “Areas of active hostilities”
[۴] Report published October 2014 by Article 36
and Reaching Critical Will, Written by Ray Acheson, Richard Moyes and Thomas Nash. www.article36.org Reaching Critical Will a programe of Women’s International League for Peace and Freedom 777 UN Plaza, 6th Floor New York, NY 10017 www.reachingcriticalwill.org
[5] Neil Davison
[6] Jonathan Horowitz
[7] predictive policing
[8] Noel Sharkey
[9] military-aged male
[10] Maya Brehm
[11] ‘categorical targeting
[12] force protection
[13] Andrea Farrés Jiménez