تبعیض نژادی فناوری خودروهای خودران،نگرانی جدید جامعه جهانی

مشکلات فعلی خودروهای خودران لیست بلند بالایی دارد و به تازگی لیست فوق نیز طولانی تر شده و تا حد باعث تعجب بر انگیز است.تاکنون نگرانی هایی در خصوص چگونگی انجام تصمیم‌گیری اخلاقی پیچیده در جاده، چگونگی افزایش و بدتر شدن ترافیک توسط آن‌ها وجود داشت اما حالا باید نگران میزان تفاوت به آسیب رساندن در افراد مختلف باشیم.

مؤسسه فناوری جورجیا به تازگی تحقیقاتی را ارائه کرده است که نشان می دهد  احتمال برخورد خودروهای خودران با افراد سفید کمتر از افراد رنگین پوست است.این بدان معناست که فناوری خودروهای خودران افراد سفید پوست را بهتر تشخیص دارد و از شناسایی افراد سیاه پوست تا حدودی عاجز است.

محققان این بررسی برای شروع کار خود یک سئوال اساسی را مطرح کردند: دقت تشخیص مدل‌های پیشرفته تشخیص شیء مانند آنچه در خودروهای خودران استفاده می گردد، در گروه‌های جمعیتی چگونه عمل می کند؟آنها برای این منظور افراد را با استفاده از مقیاس فیتزپاتریک دسته‌بندی کردند، که سیستمی برای طبقه‌بندی رنگ بدن انسان‌ها از روشن تا تاریک به شمار می‌رود. و در نهایت برای تصمیم گیری میزان دقیق شناسایی افراد سفید پوست توسط این فناوری را در مقایسه با افراد سیاه پوست مورد بررسی قرار دادند.

بر اساس نتایج بدست آمده مشخص گردید این سیستم افراد تیره پوست را 5 درصد کمتر از افراد سفید پوست تشخیص خواهد داد. این اختلاف حتی زمانی ادامه یافت که محققان برای متغیرهایی نظیر زمانی از روز که تصاویر گرفته شده یا زمانی‌که به‌صورت گاه‌گاهی مانعی جلوی چهره افراد قرار گرفته، کنترل می‌کردند.

جیمی مورگنسترن، یکی از پژوهشگران این مطالعه گفت:

"مهمترین کار ما این بود ک سیستم بینایی فناوری خودروهای خودران که از یک سیستم مشترک بهره می برند را مورد بررسی قرار دهیم.همچنین در تحقیقات ما مدل های تشخیص اشیا که در خودروهای خودران مورد استفاده قرار می گیرد بطور کامل مورد آزمایش قرار گرفت.این موارد باید توسط محققان صورت پذیرد چرا که خودروسازان اطلاعات خود را بصورت دقیق مورد پردازش قرار نمی دهد و این مستقیما با منافع عمومی مرتبط است"

دهد و این مستقیما با منافع عمومی مرتبط است"

این مطالعات به طور کلی می تواند جهت گیری سازندگان این فناوری ها را مشخص نماید که در حقیقت به آن سوءگیری الگورتیمی می گویند.برای توصیف این مسئله باید گفت سیستم های تشخیص فناوری های نوین دارای الگوریتمی هستند که با توجه به اطلاعات دریافت شده از محیط پیرامون اقدام به شناسایی کلیه اجسام اطراف می نماید این الگوریتم ها پیچیده توسط مهندسان طراحی شده است لذا نتیجه کار می توان سوءگیری سازاندگان را هویدا نمایند. برای مثال در سال 2015 سیستم تشخیص تصویرگوگل به آمریکایی‌های سیاه‌پوست برچسب «گوریل» داد.!!!

۳ سال بعد سیستم Rekognition آمازون به‌دلیل تطبیق ۲۸ عضو کنگره آمریکا با مجرمین جنایی مورد انتقاد فراوان قرار گرفت. مطالعه دیگری نشان داد که سه سیستم تشخیص چهره (آی‌بی‌ام، مایکروسافت و Megvii چین) در تشخیص جنسیت افراد با پوست تیره (به‌خصوص زنان) نسبت به افراد سفیدپوست اشتباه می‌کنند.

البته باید توجه داشت سیستم های تشخیص اشیا برا اساس داده ارائه شده به سیستم آموزش خواهد دید و هر چه تعداد نمونه های موجود در سیستم بیشتر و واضح تر باشد سوگیری الگوریتم دقیق تر عمل می کند. این تحقیقات نشان داده که دو عامل مهم  منجر به  ایجاد اختلاف ما بین سفید پوستان وسیاه پوستان در این سیستم می گردد.مورد اول این است که مدل های تشخیص اشیا بیشتر با افراد سفید پوست آموزش دیده اند  و دوم اینکه تاکیدی برهمان میزان اندک آموزش با  افراد سیاه پوست هم صورت نگرفته است. محققان دریافتند که قرار دادن نمونه‌های بیشتر سیاه‌پوست در داده‌ها می‌تواند به اصلاح سوگیری الگوریتم کمک کند.

برای مشکل تبیض نژادی توسط این سیستم ها دو راه حل پیشنهاد شده است.مورد اول این است که تیم های توسعه دهنده این فناوری ها دارای تنوع نژادی باشند بدین معنا که اگر تمام اعضای گروه سفید پوست زن و یا مرد باشند  ممکن است نتوانند به خوبی بررسی کنند که چگونه الگوریتم تصویر یک زن سیاه‌پوست رامدیریت می‌کند. اما اگر یک زن سیاه پوست عوضی از تیم باشد مشخصا به این مسئله توجه ویژه ای خواهد نمود.راه حل دیگر این است که آزمایش الگوریتم‌های شرکت‌ها قبل از راه‌اندازی نهایی به‌صورت قانونی و اجباری انجام شود؛ در نتیجه اگر الگوریتم‌ها نتوانند استانداردهای لازم در زمینه تعصب نژادی را پاس کنند، مجوزی به آن‌ها داده نشود.