ممنوعیت پلیس آمازون از استفاده از فناوری تشخیص چهره

آمازون اعلام كرد كه آنها "در حال اجراي يك سال توقف براي استفاده از پليس از بازشناسي" ، تكنولوژي تشخيص صورت شركت هستند. این شرکت نمی گوید که آیا این موضوع در مورد آژانس های اجرای قانون فدرال نیز صدق می کند یا خیر. این اطلاعیه در پی بیانیه IBM است که فقط سه روز پیش منتشر شد و می گوید آنها دیگر فناوری شناسایی چهره را ارائه نمی دهند ، توسعه نمی دهند و تحقیق نمی کنند.

No Clear Reason

IBM گفت که دلیل تصمیم آنها سوء استفاده احتمالی است. حریم خصوصی و حقوق بشر آمازون واقعاً دلیلی برای تصمیم خود ذکر نکرد. آنها این پیام را در پیامی اعلام كردند كه در آن فقط توضیحی بسیار كوتاه ارائه شده است.

در این اعلامیه آمده است كه این شركت "طرفداری كرده است كه دولت ها باید مقررات بیشتری را برای استفاده از اخلاقی از فناوری تشخیص چهره وضع كنند. روزهای اخیر ، کنگره آماده است تا این چالش را برعهده بگیرد. ما امیدواریم که این مهلت یک ساله بتواند زمان کافی را برای اجرای قوانین مناسب به کنگره اختصاص دهد ، و ما در صورت درخواست آماده یاری هستیم تا در صورت درخواست درخواست کمک کنیم. " به نرم افزار آنها آنچه در این بیانیه مشخص نیست این است که آیا این مهلت قانونی برای دولت فدرال نیز اعمال می شود یا خیر. و همچنین نمی گوید آنچه که شرکت قصد دارد در طول سال یا بعد از آن انجام دهد. آیا این فناوری سعی خواهد کرد فناوری خود را بهبود ببخشد یا شرکت IBM را دنبال کند و بازی را به کلی کنار بگذارد؟

Criticism

ابزار تشخیص چهره آمازون با عنوان "شناخت" در طول سال ها با انتقادهای زیادی روبرو شده است. در مرحله اول ، محققان دریافتند که این نرم افزار همیشه مؤثر نیست. مخصوصاً در مواردی که افراد با رنگ پوست تیره تری نیاز به شناسایی دارند. یک مطالعه توسط جوی بولاموینی و دبورا راجی نشان داد که این سیستم تقریباً به طور کامل کار می کند وقتی که مجبور بود شخصی را با پوستی سبک تشخیص دهد ، اما وقتی شخصی را با پوست تیره تر نگران می کرد ، این نرم افزار با شناسایی جنسیت شخص تلاش می کرد. زنان پوست تیره غالباً با مردان اشتباه می گرفتند.

آمازون گفت که یافته ها نادرست است. بوولاموینی در پاسخ به این مسئله گفت: "رویکرد آمازون تاکنون یکی از انکارها ، انحرافات و تأخیرها بوده است. ما نمی توانیم به آمازون به خود پلیس اعتماد کنیم یا فناوری غیرقانونی و کنترل نشده ای را به پلیس یا سازمان های دولتی ارائه دهیم. " سایر محققان هوش مصنوعی از بولاموینی حمایت كردند و اظهار داشتند كه بازشناسی نباید توسط نیروی انتظامی استفاده شود. این امر باعث نگرانی فعالان و سازمانهای مدنی شد زیرا هیچگونه نظارتی بر نحوه استفاده از این نرم افزار وجود ندارد. از آنجا که ثابت شده است که این فناوری غیرقابل اعتماد است ، بسیار محتمل است که استفاده از آن منجر به تبعیض شود. سهامداران حتی از آمازون خواسته اند كه فروش این فناوری را به اجرای قانون متوقف كنند ، اما آنها رای خود را از دست دادند.

Justice In Policing Act

احتمالاً تصمیم آمازون پاسخی به قانون عدالت در پولیس بود. این لایحه در هفته جاری در کنگره ارائه شد و در صورت تصویب این بدان معناست که محدودیت هایی در مورد نحوه استفاده پلیس از فناوری تشخیص چهره اعمال خواهد شد. این لایحه به بسیاری از موضوعات نابرابری نژادی پاسخ می دهد که هم اکنون در ایالات متحده مورد اعتراض قرار گرفته است. از آنجا که Rekognition با انتقادهای زیادی روبرو شده است ، ممکن است این اقدام درستی برای آمازون در مبارزه برای برابری باشد.

کریستن کلک ، رئیس جمهور و مدیر اجرایی کمیته وکلا برای حقوق شهروندی تحت قانون ، گفت که "