توییتر برای تشخیص عیب «سوگیری نژادی» در الگوریتمش جایزه تعیین کرد

۱۴۰۰-۰۵-۱۰ ۰۶:۵۲

شرکت توییتر اعلام کرد به هکرها و برنامه‌نویسانی که بتوانند عیب سوگیری در الگوریتم‌های موجود در این شبکه اجتماعی را کشف و برطرف کنند تا ۳۵۰۰ دلار جایزه خواهد داد.

Gunaz.tv Quote | Gunaz article

این تصمیم در پی آن اعلام می‌شود که شماری از محققان دریافتند الگوریتم‌ توییتر افراد سیاهپوست را در شماری از توییت‌ها نادیده می‌گیرد.

 

بیانیه جدید توییتر بخشی از تلاش گسترده‌تر در حوزه فناوری‌های جدید است که با هدف اطمینان از اخلاقی بودن کاربردهای هوش مصنوعی صورت می‌گیرد. توییتر در وبلاگ رسمی خود گفته است این مسابقه با هدف شناسایی «آسیب‌های احتمالی الگوریتم‌های به کار رفته، فراتر از آنچه پیش‌تر خودمان شناسایی کرده‌ایم» انجام می‌شود.

 

استفاده از الگوریتم‌های مبتنی بر هوش مصنوعی برای کارکرد بهتر شبکه‌های اجتماعی روشی رایج به شمار می‌رود، با این حال به علت اینکه یادگیری خودکار در ماشین‌ها همواره با درصدی از سوگیری ناخواسته همراه است، عیب‌هایی بروز می‌کند که الزاما خواسته مدیران این شرکت‌ها نیست.

 

مشکل کنونی در الگوریتم زمانی علنی شد که کاربری در توییتر پی برد اگر یک تصویر بزرگ شامل یک مرد سیاهپوست در بالا و یک مرد سفیدپوست در پایین را در حساب خود منتشر کند، توییتر در ‌پیش‌نمایش کوچک عکس، به صورت خودکار مرد سفیدپوست را اولویت می‌دهد. حتی زمانی که ترتیب این دو عکس نیز عوض شدند بار دیگر مرد سفید پوست ترجیح داده شد. این مسئله باعث تقویت این فرضیه شده بود که الگوریتم هوشمند افراد با پوست روشن را اولویت می‌دهد.

 

در ماه مه گذشته نتایج یک مطالعه بر عملکرد سامانه یادگیری خودکار ماشین‌ها نشان می‌داد توییتر ۴ درصد به نفع سفید‌پوستان و ۸ درصد نسبت به زنان سوگیری دارد.

 

توییتر با انتشار عمومی کد کامپیوتری الگوریتم خود از همه علاقه‌مندان خواسته‌ است دریابند چگونه می‌توان این کدها را بهینه کرد و مانع از بروز عیب‌هایی نظیر کلیشه‌‌انگاری و یا قضاوت بر اساس گروه قومی و نژادی شد.

 

رومان چوهدری، مدیر تیم اخلاق یادگیری ماشین توییتر، در توییتی نوشت که این شرکت مسابقه را برگزار می‌کند و به برندگان جایزه می‌دهد چرا که معتقد است «افراد باید به دلیل شناسایی این مسائل پاداش بگیرند و ما نمی‌توانیم این چالش‌ها را به تنهایی حل کنیم.»

 

برندگان جوایز نقدی بین ۵۰۰ تا ۳۵۰۰ دلار دریافت خواهند کرد و از آنان دعوت خواهد شد تا نتایج کارشان را ۸ اوت در کارگاهی که در حاشیه «دف کان» (DEF CON) بزرگترین کنفرانس سالانه هکرها در لاس‌وگاس آمریکا برگزار خواهد شد ارائه دهند.

یورو نیوز

 

گوناز تی وی

E

 

Post | Gunaz article thumb

به اشتراک بگذارید :

Post | Gunaz article social Post | Gunaz article social Post | Gunaz article social Post | Gunaz article social Post | Gunaz article social Post | Gunaz article social
دیدگاه‌ها
نوشتن دیدگاه
gun az article

درباره برنامه موشکی و هسته ای کره شمالی چه می‌دانیم؟

۱۴۰۰-۰۶-۲۸

gun az article

چرا فرانسه از متحدش آمریکا خشمگین شده است؟

۱۴۰۰-۰۶-۲۸

gun az article

هشدار یونسکو به طالبان در مورد منع تحصیل دختران

۱۴۰۰-۰۶-۲۸

gun az article

دولت بایدن قول داد روند اخراج پناهجویان با هواپیما را تسریع کند

۱۴۰۰-۰۶-۲۸

gun az article

انتخابات پارلمانی روسیه؛ تلگرام هم کانال‌های مخالفان پوتین را حذف کرد

۱۴۰۰-۰۶-۲۷

gun az article

بالا گرفتن تنش بین پاریس و واشینگتن؛ فرانسه سفیرانش را از آمریکا و استرالیا فراخواند

۱۴۰۰-۰۶-۲۷

gun az article

پارلمان اروپا به عدم شناسایی رسمی طالبان رای داد

۱۴۰۰-۰۶-۲۶

gun az article

سازمان بهداشت جهانی روند تائید واکسن اسپوتنیک‌ را متوقف کرد

۱۴۰۰-۰۶-۲۶

gun az article

خشم فرانسه از تحویل زیردریایی اتمی به استرالیا

۱۴۰۰-۰۶-۲۶

gun az article

نظام سیاسی کانادا چطور کار می‌کند؟

۱۴۰۰-۰۶-۲۶

gun az article

آغاز انتخابات پارلمانی روسیه و ماجرای اپلیکیشن ناوالنی

۱۴۰۰-۰۶-۲۶

gun az article

اروپا از مسئولیت خود درقبال افغان‌ها سرباز می‌زند

۱۴۰۰-۰۶-۲۶

gun az article

پرتاب نخستین ماهواره مخابراتی ترکیه توسط اسپیس‌اکس

۱۴۰۰-۰۶-۲۶

gun az article

پارلمان اروپا از اتحادیه اروپا خواست برای به‌رسمیت نشناختن انتخابات روسیه آماده باشد

۱۴۰۰-۰۶-۲۶

gun az article

دریافت واکسن کرونا برای حضور در نشست سازمان ملل الزامی شد

۱۴۰۰-۰۶-۲۵

gun az article

فرانسه کادر درمان خود را به‌دلیل امتناع از دریافت واکسن کرونا تعلیق کرد

۱۴۰۰-۰۶-۲۵

gun az article

نخستین سفر اسپیس ایکس با چهار فضانورد آماتور

۱۴۰۰-۰۶-۲۵

gun az article

رهبر داعش در صحرای بزرگ آفریقا کشته شد

۱۴۰۰-۰۶-۲۵

gun az article

خطر احیای القاعده در افغانستان در دو سال آینده

۱۴۰۰-۰۶-۲۵

gun az article

اعلام پیمان دفاعی آمریکا، بریتانیا و استرالیا برای مقابله با قدرت چین

۱۴۰۰-۰۶-۲۵