در دانش بمان. Tawana Petty ، مدیر دادگستری داده می گوید: “حتی تولید کنندگان این فن آوری در حال عقب نشینی و تجدید نظر در مورد چیزها هستند ، و ما در حال تجدید نظر هستیم. این کاملا بی معنی است.” برنامه پروژه فناوری جامعه دیترویت. “در سیاهترین شهر آمریکا ، در حالی که سایر نقاط جهان گریه می کنند بی عدالتی های نژادی و درخواست اصلاحات اساسی دارند ، ما در حال دو برابر گردیدن هستیم.”

یک گزارش عمومی هفتگی توسط اداره پلیس دیترویت نشان داد که این بخش از صورت خود استفاده کرده است. تشخیص عمدتاً در 68 مورد از 70 مورد امسال در 68 نفر از مردم سیاه پوست است.

رأی گیری در دیترویت ، که هنوز برنامه ریزی نگردیده است اما پیش بینی می شود قبل از 24 ژوئیه اتفاق بیفتد ، بخشی از بحث و گفتگوی ملی در مورد استفاده از تشخیص چهره ، و برخی از نقص های ذاتی در فن آوری است که در آن وجود دارد. به شناسایی افراد قومیت های مختلف یا حتی جنسیت می رسد.

اکنون در حال پخش:
تماشای این:

از جیم کرو تا 'جیم کد': چگونه فناوری نژادی را تگردیدید کرد …

16:42

خواستار اصلاحات پلیس پس از کشته گردیدن پلیس در 25 ژوئیه جورج فلوید ، خواسته هایی را برای پایان دادن به نظارت بر تشخیص چهره مورد استفاده نیروی انتظامی برانگیخت. بوستون این فناوری را غیرقانونی شمرد و اعضای کنگره قوانینی را پیشنهاد کردند که به طور نامحدود تشخیص چهره را از استفاده پلیس ممنوع می کند. شرکت هایی مانند آمازون ، آی بی ام و مایکروسافت ارائه خدمات تشخیص چهره به پلیس را متوقف کرده اند و خواستار مقررات ملی این فناوری هستند.

شهرهایی مانند سان فرانسیسکو و سامرویل ، ماساچوست ، این فناوری را نیز ممنوع کرده اند ، و پتی اهمیت پایان چهره را در شهرش می فهمد.

پتی گفت: “دیترویت 80٪ سیاه است ، و جنایات زندگی با کیفیت بالایی داریم.” “شورای شهر ما – استدلال اصلی آنها این است كه اعضای جامعه می خواهند احساس امنیت كنند. استدلال من این است كه من در دیترویت نیز زندگی می كنم و می خواهم احساس امنیت كنم.”

به رسمیت شناخته گردیده صورت شناخته گردیده است که دارای تبعیض نژادی و جنسیت است ، با مطالعات متعدد که در مورد این که چگونه این فن آوری احتمال دارد شخص دیگری را از رنگ سفید تشخیص دهد نسبت به یک مرد سفید پوست بررسی گردیده است.

برای رابرت ویلیامز ، ساکن بلک ، این تعصب فقط یک نقطه داده در یک مطالعه نبود. به لطف خطایی در سیستم تشخیص چهره دیترویت ، وی توسط پلیس شهر و نزدیک به 30 ساعت در بازداشت – به جرمی که مرتکب نگردیده بود ، دستگیر گردید.

هگردیدارهای دروغین

ویلیامز در ژانویه دستگیر گردید. از خانواده اش ، و متهم به سرقت حدود 3800 دلار ساعت مچی از فروشگاه شینولا در این شهر است. فیلم های مدار بسته عکسی از چهره این سارق گرفتند ، و فناوری تشخیص چهره DataWorks مطابق اسناد دادگاه ، تصویر را با عکس گواهینامه رانندگی ویلیامز مطابقت داد.

پرونده ویلیامز اولین واقعه شناخته گردیده آمریکا از عدم تطابق تشخیص چهره در آمریکا است که منجر به دستگیری غلط می شود. اتحادیه آزادی های مدنی آمریکا در میشیگان گفت ، اگر پلیس به استفاده از این فناوری ادامه دهد ، آخرین نخواهد بود.

“این شهردار ، ACLU وكیل ارگردید كارمندان میشیگان می گوید:” این فناوری به ویژه در مورد افراد رنگ ، افراد مسن ، افراد جوان و به ویژه زنان رنگ نادرست است. ” “فقط با استفاده از این فناوری نادرست و نژادپرستانه قابل توجیه نیست که دیگر دستگیری های دروغین ، محکومیت های دروغین و معامله های اعتراض کاذب صورت نگرفته است.”

تاد پاستورینی ، معاون رئیس جمهور اجرایی DataWorks ، گفت که این شرکت مقصر نیست. در بازداشت ویلیامز ، خاطرنشان كرد كه این شركت فقط نرم افزارهای تشخیص چهره را از ارائه دهندگان مانند NEC و Rank One پیاده سازی می كند.

وی خاطرنشان كرد كه این دستگیری غلط ناشی از خطاهای مربوط به كیفیت دانه بندی فیلم نظارت ، و همچنین یك محافظ امنیتی برای فروشگاه شینولا است كه عکس ویلیامز را از بین مجموعه تصاویر انتخاب كرده است.

“وقتی یک کاوشگر از یک فیلم نظارتی مانند نمونه مورد نظر به سیستم داده می شود ، محصول ما حدود 250 نامزد را به کاربران باز می گرداند.” “یک انسان همیشه در انتخاب مناسب ترین نتایج نقش دارد.”

با این حال ، مطابق اسناد دادگاه ، عکس ویلیامز در صف قرار نمی گرفت اگر نرم افزار DataWorks او را به عنوان مظنون بالقوه پرچم نمی زد.

و به گفته شهردار ، ویلیامز نمی دانسته بود كه تشخیص معیوب صورت او را در بازداشت پلیس به سر می برد ، اگر یك افسر اظهار داشت كه “رایانه باید اشتباه كرده باگردید” قبل از آزادی وی ، طبق گفته شهردار.

دیترویت محدودیت هایی برای تشخیص چهره دارد ، و می گوید فقط در مواردی که دارای جرایم خشونت آمیز باگردید ، قابل استفاده است. وکیل وی گفت ، جرم ویلیامز به دروغ متهم به عدم استفاده از این فناوری گردید و وی با ضرب و شتم پلیس متهم گردید.

رئیس پلیس دیترویت ، جیمز کریگ ، از دستگیری اشتباه عذرخواهی کرد و این اشتباه را در “کار تحقیقاتی لرزان” مقصر دانست. در جلسه دادرسی شورای شهر در تاریخ 29 ژوئن ، کریگ تأکید کرد که این بخش به تنهایی به تشخیص چهره اعتماد ندارد و پلیس برای تفسیر نتایج به تحلیلگران و کارآگاهان احتیاج دارد.

کریگ در جلسه رسیدگی گفت: “اگر ما فقط برای شناسایی شخصی از فناوری استفاده می کردیم ، 96٪ از زمان را می گفتم ، این امر باعث سوء استفاده می شود.” “وقتی تحلیلگران ما کارهای خود را انجام می دهند ، آنها به روش خود در حال گذر از هر یک از عکس ها هستند ، و بسیاری از اوقات انتخاب صحیح را در لیست مشاهده می کنید. ما می دانیم که این فناوری عالی نیست ، فقط یک کمک است.” [19659006] طرفداران حقوق مدنی می گویند که تشخیص چهره نقش مهمی در ایجاد اشتباهات تحقیقاتی دارد.

شهردار گفت: “من فکر می کنم [that shoddiness] ایجاد می کند.” “ما آموخته ایم به جدیدترین فناوری اعتماد کنیم ، و این یک غریزه طبیعی و شگفت آور است که وقتی کامپیوتر به افسر پلیس می گوید” این پسر است “، آنها تحقیقات را انجام می دهند و فرض می کنند که او اوست.”

تعصبات نژادی تشخیص چهره یک خطر واقعی در دیترویت ، اکثریت شهر سیاه ایجاد می کند که زمانی بالاترین میزان تیراندازی های کشنده توسط پلیس را داشته است ، گفت: تحقیقات فدرال در سال 2000 باعث گردید كه دیترویت اصلاحات اساسی پلیس را در مورد استفاده از زور انجام دهد ، اما شهروندان هنوز نگران پروفایل نژادی هستند و نقص در تشخیص چهره می تواند این وضعیت را بدتر كند.

“بسته به جنایات ، می تواند یک مثبت کاذب وجود داشته باگردید که در آن پلیس به کسی نزدیک شود که معتقد باگردید جنایتکار خشونت آمیز است ، و آنها در آستانه حضور هستند و ممکن است به عنوان جنایتکاران بالقوه خشونت آمیز به شهروندان بی گناه نزدیک شوند.” گفت داود ولید ، مدیر اجرایی فصل میشیگان شورای روابط اسلامی آمریکا. “این یک سناریو بسیار خطرناک است ، به خصوص در مکانی مانند دیترویت.”

خواستار اصلاحات

در طول سه سال گذشته ، مبارزه با نظارت یک نبرد سخت در دیترویت بوده است.

برنامه نظارت بر شهر ، Project Green Light ، از سال 2017 از 8 دوربین به 700 عدد افزایش یافته است. همه این دوربین ها می توانند از فناوری تشخیص چهره در زمان واقعی از DataWorks 'Face Watch Plus استفاده کنند ، در حالی که این مخالف سیاست های پلیس دیترویت برای انجام این کار در حال حاضر است. . Aric Tosqui ، کاپیتان پلیس دیترویت گفت: دوربین های پروژه Green Light سومین منبع محبوب تصاویر برای جستجوی تشخیص چهره است.

اعضای شورای شهر دیترویت در سال 2017 از تشخیص چهره حمایت کردند و معتقد بودند که این فناوری به کاهش جرم در جوامع خود کمک می کند. فعالان گفتند كه سه سال بعد ، هیچ مدرکی برای تأیید این ایده وجود ندارد.

گرایش های جرم تمایل به نوسان دارد و نشان داده نمی شود که فناوری تشخیص چهره تأثیر مستقیمی برای دیترویت دارد. اگرچه جرائم خشن در دیترویت از سال 2018 تا 2019 به طور کلی کاهش یافته است ، براساس آماری که در ژانویه منتشر گردید ، هم قتل ها و هم تیراندازی های غیر مهلک افزایش یافته است.

کریگ گفت که سرمایه گذاری های مربوط به تشخیص چهره دیترویت در گذشته پرداخت گردیده است ، و به حل تحقیقات مربوط به قتل و سرقت در گذشته کمک می کند. کریگ گفت ، اکثر جستجوهای تشخیص چهره منجر به مطابقت مثبت نگردیده اند ، با 75٪ از جستجوها که از 29 مه تا 18 ژوئن منجر به دستگیری نگردیده اند.

فعالان معتقدند که پول اختصاص یافته به تشخیص چهره ، مانند 1.2 دلار است. میلیون دلار در حال حاضر هزینه گردیده و نزدیک به 220،000 دلار برای تمدید قرارداد DataWorks ، بهتر است برای کاهش جرم با سرمایه گذاری در منابع برای جامعه ، از جمله برنامه های بعد از مدرسه و آموزش شغلی ، استفاده شود.

این بحثی است که بسیاری از هواداران جنبش “Defund the Police” از آن حمایت کرده اند.

“رده مونتس ، هماهنگ کننده تبلیغات کمپانی میشیگان گفت:” جوامعی که بهتر از آنها استفاده می شوند ، همان جوامعی هستند که میزان جرم آنها پایین تر است. ” “شما می خواهید جرم و جنایت کمتری داشته باشید و کمتر به پلیس احتیاج دارید.”

فعالان دیترویت از وقتی که این فناوری برای اولین بار به شهر آمد ، صدای فزاینده ای در برابر تشخیص چهره پیدا کرده اند. پتی در سال 2017 تعداد معدودی از افرادی بود که علیه این فناوری مخالفت می کردند ، اما به صدها نفر از منتقدین که در جلسات شورای شهر حضور دارند تبدیل گردیده است.

اما مهمترین تغییر هنوز هم باید از طرف قانونگذاران محلی صورت گیرد.

اعضای شورای شهر دیترویت پس از اینكه ویلیامز خبرهای ملی را صادر كرد ، ساكت بود. ، و فعالان نگران هستند که برای تمدید قرارداد تشخیص چهره شهر رای دهند. هنگامی که تمدید قرارداد برای رأی گیری در تاریخ 16 ژوئن به نتیجه رسید ، فقط دو عضو به مخالفت با آن رأی دادند و برای انقضا به پنج رای دیگر احتیاج ندارد.

با این حال ، پایان دادن به قرارداد تشخیص چهره ، پایان نظارت در دیترویت نخواهد بود.

فعالان همچنین امیدوارند که تصویب ورودی جامعه را بر نظارت دولت بگذارد ، که امکان ورود عمومی به هر فناوری نظارتی خریداری گردیده توسط شهر را فراهم می کند.

این آیین توسط مری شفیلد عضو شورای شهر دیترویت معرفی گردید ، وی همچنین قصد دارد در مورد تجدید قرارداد تشخیص چهره رأی دهد.

“اهمیت داشتن ورودی جامعه و نظارت گردیدید و شفافیت برای هر نوع فناوری نظارت ، به ویژه تشخیص صورت ، “شفیلد گفت.

اگر قرارداد منقضی شود ، دیترویت دیگر نمی تواند عضویت در تشخیص چهره را داشته باگردید ، اما هنوز هم می تواند به شرکای دیگری مانند پلیس ایالتی میشیگان دسترسی پیدا کند تا بتوانند جستجو را با این فناوری انجام دهند.

فعالان امیدوار هستند که هیئت رئیسه کمیسیون پلیس شهر را متقاعد کنند که سیاست هایی را برای جلوگیری از تشخیص چهره صادر کنند. این امر همچنین می تواند به یک ممنوعیت نهایی در سطح کشور از فناوری ، از دیترویت شروع شود.

ACLU شهردار میشیگان گفت: “این یک جمله عالی برای یکی از سیاهترین شهرهای آمریکا خواهد بود ،” رهبری در مخالفت با استفاده از این فناوری نژاد پرستی به جای یک رهبر برای استفاده از آن برای نظارت بر آن. ساکنان خود ”