توییتر در ازای شناسایی سوگیری‌های الگوریتمی به افراد پاداش نقدی می‌دهد

توییتر در برنامه جدید شکار باگ خود از محققان خواسته تا در ازای دریافت پاداش نقدی این بار به جای مشکلات امنیتی به دنبال نمونه‌های تبعیض‌آمیز در عملکرد الگوریتم برش تصویر این شبکه اجتماعی باشند.

توییتر قبلا در ماه آوریل گفته بود که به سراغ بررسی آسیب‌های ناخواسته‌ ناشی از الگوریتم‌های خود می‌رود و این کار را با الگوریتم برش تصویر آغاز می‌کند. این شرکت به کسانی که بتوانند برای اولین بار مشکلات الگوریتم توییتر را پیدا کنند، پاداش نقدی اعطا می‌کند.

الگوریتم برش تصویر اولین بار در سال ۲۰۱۸ شروع به کار کرد تا روی جذاب‌ترین بخش‌های پیش‌نمایش تصاویر تمرکز کند. با این حال، برخی از کاربران به نحوه عملکرد این الگوریتم انتقاد داشتند و معتقد بودند که الگوریتم توییتر روی افرادی که پوست روشن دارند بیشتر از افراد رنگین پوست تمرکز می‌کند.

این شبکه اجتماعی در پستی درون وبلاگ خود نوشت: «ما در ماه مه رویکرد شرکت برای شناسایی سوگیری در الگوریتم برجسته‌سازی (که با نام الگوریتم برش تصاویر شناخته می‌شود) را به اشتراک گذاشتیم و کدش را در دسترس کاربران قرار دادیم تا بقیه هم به بهبود پروژه کمک کنند. حالا با دعوت و تشویق کاربران در شناسایی آسیب‌های احتمالی این الگوریتم در مقیاسی فراتر از آن‌چه خودمان قادر به شناسایی‌اش بودیم، می‌توانیم یک گام فراتر برویم.»

توییتر می‌گوید این پروژه اولین رقابت شکار سوگیری الگوریتمی در صنعت فناوری است و جایزه‌ای حداکثر ۳۵۰۰ دلاری را به شرکت‌کنندگان ارائه می‌کند. «رومن چاودری»، مدیر اخلاق، شفافیت و مسئولیت‌پذیری در یادگیری ماشینی توییتر می‌گوید آن‌ها دست به برگزاری چنین مسابقه‌ای زده‌اند چون باور دارند که کاربران باید در ازای کشف چنین ایراداتی پاداش بگیرند. توییتر معتقد است که بدون کمک کاربران نمی‌تواند این مشکل را حل کند.

برندگان مسابقه کشف سوگیری الگوریتمی در رویدادی به میزبانی توییتر به نام DEF CON AI Village در تاریخ ۸ اوت مصادف با ۱۷ مرداد معرفی خواهند شد.