هوش مصنوعی مشکل نیست، ما هستیم!

نکات کلیدی:

• الگوریتم‌های هوش مصنوعی بازتابی از ارزش‌ها، سوگیری‌ها و تناقض‌های‌مان هستند.
• سوگیری در هوش مصنوعی ریشه در داده‌های تاریخی دارد و نه در خود کدها.
• آن‌چه که بر روی آن کلیک می‌کنیم، به اشتراک می‌گذاریم و نادیده می‌گیریم، به ماشین‌ها می‌آموزد که واقعاً چه کسانی هستیم.

گفت‌وگوهای اخیر درباره‌ی هوش مصنوعی (AI) اغلب این نوآوری را نیرویی معرفی می‌کنند که قرار است جامعه را، چه به‌سوی پیشرفت و چه به‌سوی پسرفت، دگرگون کند. هوش مصنوعی معمولاً به‌عنوان پدیده‌ای خارجی به تصویر کشیده می‌شود؛ حضوری غیرانسانی که به زندگی‌مان وارد شده و شیوه‌ی زیستن و کارمان را تهدید می‌کند.

درک تأثیر هوش مصنوعی بر زندگی روزمره‌مان اهمیت دارد؛ بااین‌حال، بخش مهمی از این بحث‌ها مغفول مانده‌است. در تأمل درباره‌ی این فناوری، نباید تنها به این پرسش بسنده کنیم که هوش مصنوعی چگونه ما را تغییر می‌دهد؛ بلکه باید بکوشیم تا بفهمیم که چگونه آن را شکل می‌دهیم و این فرآیند چه چیزی را در مورد خودمان به ما می‌آموزد.

هر سیستم هوش مصنوعی که خلق می‌کنیم، مانند آیینه‌ای است که ارزش‌ها، اولویت‌ها و پیش‌فرض‌های‌مان را با وضوحی شگفت‌انگیز بازتاب می‌دهد. وقتی فن‌آوری تشخیص چهره در شناسایی پوست‌های تیره‌رنگ ناکام می‌ماند، این نقص فنی نبود، بلکه منعکس‌کننده‌ی پیش‌داوری‌ها و دیدگاه‌هایی که در داده‌های آموزشی آن نهفته‌بود، نمایش می‌داد. وقتی موتورهای پیشنهاددهنده‌ی محتوا، خشم و اختلاف را تشدید می‌کنند، این به معنای خرابی آن‌ها نیست؛ بلکه آن‌ها به نوبه‌ی خود برای افزایش تعامل، بر اساس رفتار واقعی انسان‌ها، طراحی شده‌اند.

در بسیاری از موارد، «تهدیدها» و «خطرهای» هوش مصنوعی هیچ ربطی به خود فن‌آوری ندارد. در واقع، این نگرانی‌ها بازتاب ویژگی‌هایی هستند که به‌طور اجتناب‌ناپذیر انسانی هستند.

بازتاب‌های نهفته در کدها

به الگوریتم‌های استخدامی فکر کنید. در سال ۲۰۱۸، شرکت آمازون ابزار استخدام مبتنی بر هوش مصنوعی‌اش را کنار گذاشت، زیرا دریافت که این ابزار علیه نامزدهای زن سوگیری دارد. این هوش مصنوعی برای تبعیض طراحی نشده بود؛ بااین‌حال بر پایه‌ی داده‌های تاریخی استخدام - به نفع مردان - آموزش دیده بود و همان الگوها را مجددا تولید می‌کرد. پس از آن، پژوهشی از دانشگاه برکلی نشان داد که الگوریتم‌های تأیید وام مسکن اغلب شرایط نامناسب‌تری به متقاضیان سیاه‌پوست و اسپانیایی‌تبار پیشنهاد می‌دهند و نابرابری‌های دیرینه در حوزه‌ی وام‌دهی را تداوم می‌بخشند.

کاربرد سیستم‌های برپایه‌ی هوش مصنوعی در اجرای قانون، مراقبت‌های بهداشتی و آموزش نیز الگوهای مشابهی را آشکار می‌کند. ابزارهای پیش‌بینی جرایم پلیس اغلب بر جوامع خاصی متمرکز می‌شوند، زیرا آن ابزار بر اساس داده‌های تاریخی جرم آموزش دیده‌است. الگوریتم‌های بهداشتی می‌تواند در تشخیص بیماری برای جمعیتی خاص بیشتر دچار خطا شوند. سیستم‌های نمره‌دهی خودکار در مدارس گاه نشان داده‌اند که به دانش‌آموزانی از خانواده‌های مرفه‌تر، حتی وقتی کیفیت کار یکسان است، امتیاز بالاتری می‌دهند. در همه‌ی این نمونه‌ها، هوش مصنوعی سوگیری‌های تازه‌ای خلق نمی‌کند - بلکه سوگیری‌های موجود را منعکس می‌کند.

این تأثیر آیینه‌گون، فرصتی ارزشمند برای نگاهی به خودمان یا خودکاوی فراهم می‌آورد. هوش مصنوعی با آشکار کردن و فوریت بخشیدن به برطرف کردن این معضل‌ها، ما را وادار می‌کند تا ریشه‌ی داده‌هایی که به سوگیری‌های الگوریتمی منجر می‌شوند، را بشناسیم و با آن‌ها مقاله کنیم. این چالش روزبه‌روز شخصی‌‌سازی‌‌شده‌تر می‌شود. با معرفی نسل جدیدی از ربات‌های مجهز به هوش مصنوعی که با شرایط محیطی سازگار می‌شوند، می‌توان پیش‌بینی داشت که سوگیری‌های شخصی صاحبان نیز بر رفتار این سیستم‌ها تأثیر بگذارد.

رویکرد کنونی نسبت به هوش مصنوعی سرشار از تناقض است و این فن‌آوری همین تناقض‌ها را به ما بازمی‌گرداند. از هوش مصنوعی به‌عنوان ابزاری برای بهبود کارایی کسب‌وکارهای‌مان استقبال می‌کنیم؛ اما نگران از دست رفتن مشاغل انسانی هستیم. از نظارت مبتنی بر هوش مصنوعی ابراز نگرانی می‌کنیم؛ اما به‌راحتی داده‌های شخصی‌مان را برای آسایشی اندک واگذار می‌کنیم (۶۱ درصد بزرگسالان اذعان دارند که حریم خصوصی‌شان را با خدمات دیجیتال معاوضه کرده‌اند). در حالی که گسترش اطلاعات نادرست نگرانی فزاینده‌ای است، مدل‌های هوش مصنوعی مبتنی بر تعامل همچنان محتوای پرطرفدار را بر دقت ترجیح می‌دهند.

هر کنشی اثری بر جای می‌گذارد

با پیشرفت هوش مصنوعی، باید از خود پرسید که چگونه می‌خواهیم نقش آن را در جامعه شکل دهیم. این تنها به بهبود الگوریتم‌ها محدود نمی‌شود، بلکه نیازمند حصول اطمینان از توسعه و استفاده با حس مسئولیت از هوش مصنوعی است.

برخی سازمان‌ها گام‌هایی در این مسیر برداشته‌اند. آن‌ها به‌جای تمرکز صرف بر بهینه‌سازی مدل‌های هوش مصنوعی برای افزایش سود اقتصادی، داده‌ها، سیاست‌ها و پیش‌فرض‌هایی که رفتار این مدل‌ها را شکل می‌دهند، را بازنگری می‌کنند. این رویکرد می‌تواند به کاهش پیامدهای ناخواسته کمک کند.

البته نمی‌توان تنها به سازمان‌ها و نهادها تکیه کرد. تا زمانی که هوش مصنوعی بر اساس داده‌های انسانی آموزش می‌بیند، رفتار انسانی را بازتاب خواهد داد. این یعنی باید با دقت به اثری که از خود در جهان به جا می‌گذاریم، بیندیشیم. می‌توانم ادعا کنم که برای حریم خصوصی ارزش قائل هستم؛ اما اگر برای ورود به یک وب‌سایت فوراً آن را فدا کنم، الگوریتم‌ها می‌توانند برداشت متفاوتی از خواسته‌ها و نیازهای واقعی‌ام داشته باشند. اگر بگویم به روابط انسانی معنادار اهمیت می‌دهم؛ بااین‌حال، وقت بیشتری را در شبکه‌های اجتماعی بگذرانم و کمتر با دوستانم در دنیای واقعی باشم، به‌طور ناخواسته به مدل‌های هوش مصنوعی درباره‌ی حقیقت انسانیت آموزش می‌دهم.

هوش مصنوعی افزون بر برملاسازی تناقض‌های ساختاری، تضادهای درونی ما را نیز به نمایش می‌گذارد. با قدرتمندتر شدن این فناوری، باید بیش از پیش مراقب باشیم که اصول خود را در کارنامه‌ی اعمال‌مان نیز ثبت کنیم و نگذاریم میان این دو شکافی بزرگ ایجاد شود.

پایان‌بندی

با گسترش نقش هوش مصنوعی در زندگی‌مان، باید درک کنیم که این سیستم‌ها رفتار ما را پیش‌بینی می‌کنند و شخصیت ما را نیز بازتاب می‌دهند. اندیشیدن به این بازتاب، به ما امکان انتخاب‌هایی بهتر و مبتنی بر اصول می‌دهد. هرچند این تنها به شرطی‌ است که جرأت نگاه دقیق به آن را داشته باشیم و مسئولیت آن‌چه می‌بینیم را بپذیریم.