ده دلیلی که باید در مورد این فناوری نگران باشید


فناوری تشخیص چهره به سرعت در حال گسترش است. قبلا، پیش از این در چین گسترده شده است، نرم افزاری که افراد را با مقایسه تصاویر چهره آنها با پایگاه داده ای از سوابق شناسایی می کند، اکنون در بسیاری از نقاط جهان مورد استفاده قرار گرفته است. در میان رایج است نیروهای پلیس بلکه در آن نیز استفاده شده است فرودگاه ها، ایستگاه راه آهن و مراکز خرید.

رشد سریع این فناوری بحث بسیار مورد نیازی را به راه انداخته است. فعالین، سیاستمداران، دانشگاهیان و حتی نیروهای پلیس نگرانی های جدی خود را در مورد تأثیری که تشخیص چهره می تواند بر فرهنگ سیاسی مبتنی بر حقوق و دموکراسی داشته باشد، ابراز می کنند.

نگرانی های حقوق بشر

من به عنوان کسی که در مورد آینده حقوق بشر تحقیق می کند، این نگرانی ها را به اشتراک می گذارم. در اینجا ده دلیل وجود دارد که چرا باید نگران استفاده از فناوری تشخیص چهره در فضاهای عمومی باشیم.

1) ما را در مسیری به سمت نظارت پتویی خودکار قرار می دهد

دوربین‌های مداربسته در حال حاضر در سراسر جهان گسترده شده است، اما برای اینکه دولت‌ها از فیلم‌هایی علیه شما استفاده کنند، باید کلیپ‌های خاصی را از انجام کاری که می‌توانند به عنوان مدرک ادعا کنند، پیدا کنند. فناوری تشخیص چهره، نظارت را به سطوح جدیدی می رساند. این امکان نظارت مستقیم و بی رویه از افراد را در حین انجام کارهای روزانه خود فراهم می کند و به مقامات این فرصت را می دهد که هر حرکت شما را ردیابی کنند.

2) بدون چارچوب قانونی یا نظارتی مشخص عمل می کند

اگرچه اکثر کشورها قانون خاصی ندارند که استفاده از فناوری تشخیص چهره را تنظیم کند برخی از قانونگذاران هستند تلاش برای تغییر این. این برزخ قانونی راه را برای سوء استفاده باز می کند، مانند به دست آوردن تصاویر ما بدون ما علم یا رضایت و استفاده از آنها به روشی که ما آن را تایید نمی کنیم.

مقامات برای تضمین نظم و قانون نیازی به گرفتن تصویر همه ندارند.
Axel Buerckert/Shutterstock

3) ناقض اصول وجوب و تناسب است

یک اصل رایج حقوق بشر که توسط سازمان ها به رسمیت شناخته شده است از سازمان ملل به پانل اخلاق پلیس لندن، این است که نظارت باید ضروری و متناسب باشد. این بدان معناست که به جای ایجاد امکان مداخله ناموجه در آزادی و حقوق اساسی ما، نظارت باید به تعقیب جنایات جدی محدود شود. فناوری تشخیص چهره با این اصول در تضاد است. این فناوری کنترلی است که نشانه بی اعتمادی دولت به شهروندانش است.

4) حق حریم خصوصی ما را نقض می کند

حق حفظ حریم خصوصی حتی در فضاهای عمومی مهم است. از بیان هویت ما بدون دخالت ناخواسته دولت یا شرکت های خصوصی محافظت می کند. ضبط، ذخیره و تجزیه و تحلیل بی رویه و در مقیاس بزرگ تصاویر ما توسط فناوری تشخیص چهره این حق را تضعیف می کند زیرا این بدان معناست که ما دیگر نمی توانیم کاری را در ملاء عام بدون اطلاع دولت انجام دهیم.

5) بر فرهنگ سیاسی دموکراتیک ما تأثیر وحشتناکی دارد

نظارت کامل می تواند افراد را از حضور در رویدادهای عمومی باز دارد. می تواند مشارکت در اعتراضات سیاسی و کمپین های تغییر را خفه کند. و می تواند از رفتارهای ناسازگارانه جلوگیری کند. این اثر وحشتناک نقض جدی حق آزادی اجتماعات، تشکل و بیان است.



بیشتر بخوانید: دوربین های مداربسته به زودی غیرقابل تشخیص خواهند بود – زمان یک گفتگوی عمومی فوری است


6) فرصت رضایت را از شهروندان سلب می کند

اطلاعات دقیق و مشخصی در مورد نحوه استفاده از تشخیص چهره وجود ندارد. یعنی به ما فرصت داده نمی شود رضایت داشتن برای ضبط، تجزیه و تحلیل و ذخیره تصاویر ما در پایگاه های داده. با سلب فرصت از ما رضایت، ما از انتخاب و کنترل استفاده از تصاویر خود محروم هستیم.

7) اغلب نادرست است

فناوری تشخیص چهره نوید شناسایی دقیق را می دهد. ولی مطالعات متعدد نشان داده اند که چگونه الگوریتم های آموزش داده شده بر روی مجموعه داده های مغرضانه نژادی، افراد رنگین پوست، به ویژه زنان رنگین پوست را به اشتباه شناسایی می کنند. چنین سوگیری الگوریتمی اگر منجر به دستگیری های غیرقانونی شود، یا اگر سازمان های دولتی و شرکت های خصوصی را به تبعیض علیه زنان و افراد با پیشینه های قومی اقلیت سوق دهد، به ویژه نگران کننده است.

8) می تواند منجر به سوگیری اتوماسیون شود

اگر افرادی که از نرم افزار تشخیص چهره استفاده می کنند به اشتباه تصور کنند که این فناوری خطاناپذیر است، می تواند منجر به تصمیمات بد شود. این “تعصب اتوماسیون” باید اجتناب شود. نتایج ماشینی نباید تعیین کند که سازمان های دولتی یا شرکت های خصوصی چگونه با افراد رفتار می کنند. اپراتورهای انسانی آموزش دیده باید کنترل معناداری داشته باشند و بر اساس قانون تصمیم بگیرند.

اپراتورهای انسانی می توانند بیش از حد به ماشین ها اعتماد کنند.
گورودنکف

9) به این معنی است که فهرست‌های نظارت مخفی دولت وجود دارد

پایگاه‌های اطلاعاتی حاوی تصاویر صورت ما باید زنگ خطر را به صدا در آورند. آنها اشاره می کنند که شرکت های خصوصی و سازمان های مجری قانون تصاویر ما را برای تهیه لیست های نظارتی مظنونین بالقوه بدون اطلاع یا رضایت ما به اشتراک می گذارند. این یک تهدید جدی برای حقوق فردی و آزادی های مدنی ما است. امنیت این پایگاه‌های اطلاعاتی و آسیب‌پذیری آنها در برابر اقدامات هکرها نیز جای نگرانی دارد.

10) می توان از آن برای هدف قرار دادن گروه های آسیب پذیر استفاده کرد

از فناوری تشخیص چهره می توان برای نظارت کامل استفاده کرد. اما همچنین می تواند به طور انتخابی مستقر شود، به عنوان مثال برای شناسایی مهاجران و پناهندگان. را فروش نرم افزار تشخیص چهره به آژانس هایی مانند اداره مهاجرت و گمرک ایالات متحده (ICE) که به شدت مورد انتقاد قرار گرفت به دلیل تاکتیک های آن در برخورد با مهاجران، باید هر کسی را که به حقوق بشر اهمیت می دهد، نگران کند. و استفاده از دستگاه های موبایل دستی با الف اپلیکیشن تشخیص چهره توسط نیروهای پلیس شبح افزایش یافته است پروفایل نژادی در سطح خیابان

بحث به شدت لازم است

با توجه به نگرانی های بسیار در مورد فناوری تشخیص چهره، ما به شدت به گفتگوی برجسته تر در مورد تأثیر آن بر حقوق و آزادی های مدنی نیاز داریم. بدون تنظیم مناسب این سیستم ها، ما در خطر ایجاد دولت های پلیسی دیستوپیایی در کشورهایی هستیم که زمانی آزاد و دموکراتیک بودند.


منبع: https://theconversation.com/facial-recognition-ten-reasons-you-should-be-worried-about-the-technology-122137