چرا از فناوری تشخیص چهره می‌ترسند و آن را ممنوع می‌کنند؟

سیستم تشخیص چهره را به عنوان یک تکنولوژی توانا در شناسایی و تایید یک فرد از از یک عکس دیجیتالی یا ویدیو معرفی می‌کنند که براساس فناوری هوش مصنوعی و الگوریتم‌های یادگیری عمیق قادر به انجام این کار است. این فناوری که در ابتدا قرار بود مزیتی برای جلوگیری از تقلب و کلاهبرداری و شناسایی بزهکاران باشد اما این اواخر به دلیل انتقاداتی که از این تکنولوژی، به خاطر نقض و به خطر انداختن حقوق و آزادی‌های مدنی، شده بود، بیشتر دردسر ساز شده است و برخی شهرها ازجمله سانفرانسیسکو استفاده از این فناوری را ممنوع کرده و به دنبالش شرکت مایکروسافت هم داده‌های مربوط به تشخیص چهره خود را حذف کرد.

می ماه امسال اولین اخبار مربوط به ممنوعیت استفاده از فناوری تشخیص چهره در سانفرانسیکو منتشر شد و توجهات بسیاری را هم به خود جلب کرد. به این ترتیب سانفرانسیسکو نخستین شهر در آمریکا است که این ممنوعیت را برای پلیس و ادارات دولتی در نظر گرفت. در بیانیه‌ شورای شهر سانفرانسیکو آمده است که فناوری تشخیص چهره بیشتر از آنکه فایده داشته باشد، حقوق و آزادی‌های مدنی را به خطر می‌اندازد

در ادامه توضیحات این بیانیه آمده است که استفاده از این فناوری موجب تشدید بی‌عدالتی نژادی شده و زندگی خصوصی مردم را به خطر می‌اندازد. در حال حاضر نیز پلیس چین از این فناوری برای شناسایی متهمان استفاده می‌کند و مخالفان هم مقامات چین را متهم می‌کنند که از فناوری تشخیص چهره برای شناسایی مسلمانان و مخالفان سیاسی بهره می‌برند.

در مورد موضوع بی‌عدالتی نژادی، بیزنس اینسایدر اوایل سال جاری مصاحبه‌ای با وون سوک لی، پروفسور مهندسی برق و علوم کامپیوتر در دانشگاه اوتاوا انجام داد که 15 سال تجربه در حوزه تشخیص چهر، مدل‌سازی چهره و انیمیشن کامپیوتری دارد.

ببینید: معرفی شش مورد استفاده از فناوری تشخیص چهره در انجام پرداخت

وون سوک لی علاوه بر اینکه در این مصاحبه میزان دقت فناوری تشخیص چهره «تقریبا» کامل می‌دانست در پاسخ به سوالی که از او درباره اینکه چرا فناوری «Rekognition» آمازون در تشخیص چهره زنان سیاه‌پوست دچار اشکال است ولی هیچ مشکلی در تشخیص چهره مرددان سفید پوست ندارد، گفت: «این بدین خاطر است که آنها پایگاه داده‌های زیادی درباره مردمان آفریقایی ندارند. اگر ما می‌توانستیم جنسیت، سن و یا گروه‌های قومی را با تناژ پوستشان تشخیص دهیم، می‌توانستیم سیستم تشخیص چهره را بهبود بخشیم.»

گزارش اخیری از بازفید نیوز نشان می‌دهد که اداره گمرک و مرزهای ایالات متحده از این فناوری به دو منظور استفاده می‌کنند. اول به خاطر تشخیص و شناسایی شهروندان غیرآمریکایی که از مدارک سفر جعلی استفاده می‌کنند و دوم به دلیل ارائه فرایندهای سریع‌تر Check-in. اما گویا برخی نگرانی‌ها وجود دارد که دولت آمریکا از فناوری تشخیص چهره برای ایجاد کتابخانه‌ شناسایی‌های دیجیتالی از میلیون‌ها آمریکایی، آنهم بدون رضایت خودشان، استفاده می‌کند.

یکی دیگر از نگرانی‌های موجود در این حوزه مربوط به اعمال مهاجرت و گمرک ایالات متحده درخصوص استفاده از فناوری تشخیص چهره است. هرچند که این سازمان گفته است که از این فناوری در جهت محافظت آمریکا از جرایم برون مرزی و مهاجران غیرمجاز که تهدیدی برای امنیت ملی محسوب می‌شوند استفاده می‌کند اما با این حال نگرانی‌هایی وجود دارد که در صورت عدم وجود یک سری محافظت‌ها و محدودیت‌های روشن و مشخص از این تکنولوژی، می‌تواند منجر به نقض حقوق انسانی شود.

قدرتی که با مسئولیت همراه است

تشخیص چهره ابزار بسیار فدرتمندی است و قدرت هم به دنبالش مسئولیت همراه است اما آیا شرکت‌ها و دولت‌ها باید به تمام داده‌های موجود دسترسی داشته باشند؟ از چه دستورالعملی باید پیروی کنند؟ آیا باید از آن برای موارد محدود استفاده کرد؟ از کجا می‌توان مطمئن بود که داده‌های جمع‌آوری‌شده از این طریق بعدا پاک می‌شوند؟ اینها و خیلی سوالات دیگر از جمله مواردی است که هنوز مرد بحث قرار دارد و به نظر نمی‌رسد که به سادگی بتوان پاسخ مناسبی به آنها داد.

به هر حال فناوری تشیخص چهره، آمده است که بماند اما باید الزامات و قواعد و دستورالعمل‌های بیشتری در این زمینه وجود داشته باشد تا از امنیت، حق و حقوق و حریم خصوصی افرادی که تحت تاثیر این فناوری قرار دارند، حفاظت شود.

همین دغدغه‌ها و دلواپسی‌ها بود که باعث شد تا شرکت سامسونگ هم به تازگی خبری منتشر کند مبنی بر اینکه داده‌های مبتنی بر تشخیص چهره خود را بی سروصدا حذف کرد. مایکروسافت که تا همین چند وقت پیش به داشتن بزرگترین مجموعه چهره‌هایی افتخار می‌کرد که هرکسی می‌تواند از آنها جهت تعلیم و آموزش الگوریتم‌های تشخیص چهره استفاده کند؛ چندی است که این پایگاه داده‌اش بدون سروصدایی ناپدید شده است.

بر اساس گزارشی از فایننشیال تایمز، بعد از ارائه مقاله‌ای درباره مسائل اخلاقی و حریم خصوصی این فناوری، مایکروسافت پایگاه داده‌اش را حذف کرد. مسائل موجود بیشتر اشاره به امکان استفاده از این پایگاه داده‌های موجود توسط محققان نظامی و شرکت‌های چینی داشت. این پایگاه داده مایکروسافت شامل بیش از 10 میلیون چهره است که از سایت‌های مختلفی مانند فلیکر جمع‌آوری شده بود.

مارتا اسپوریر مدیر گروه کمپین لایبرتی هم معتقد است که تشخیص چهره اتوماتیک یکی از بزرگترین تهدیدها دربرابر آزادی افراد است و باید استفاده از آن در مکان‌های عمومی ممنوع شود. این مدیر معتقد است که فناوری تشخیص چهره مشکلات پایه‌ای و ساسی دارد و علی‌رغم علاقه‌ای که پلیس به استفاده از آن دارد نباید در خیابان‌های سطح شهر از این فناوری استفاده کرد.

باید گفت که پلیس‌های انگلستان و ولز از این فناوری برای اسکن جمعیت در سطح شهر و مکان‌های عمومی به منظور شناسایی مجرمین استفاده می‌کرد. مسئله‌ای که وجود دارد این است که این فناوری فراتر از آن چیزی که ما در حال حاضر داریم، مانند دوربین‌های مداربسته، برود و همه‌جا را به یک قلمرو نظارتی تبدیل کند که تمامی افراد در آن تحت نظارت و بررسی قرار دارند و این همان چیزی است که باعث نگرانی همه شده است.