شرکت‌ها چطور می‌توانند از نابرابری و آسیب ناشی از آن در عصر هوش مصنوعی جلوگیری کنند

به گزارش پیوست، مقاله‌ای از هاروارد بیزینس ریویو (HBR) می‌گوید به‌رغم پیشرفت‌های فنی قابل‌توجه، اعتماد عمومی به هوش مصنوعی کاهش یافته است که یکی از عوامل تاثیر‌گذار در نابرابری مصنوعی یا شکاف در بهره‌مندی اقشار و بخش‌های مختلف جهان از این فناوری است.

اصطلاح «نابرابری مصنوعی» (artificial inequality) اشاره به پدیده‌ای دارد که براساس آن پیشرفت‌های هوش مصنوعی، نابرابری‌های موجود در جامعه را تشدید می‌کنند. این پدیده شش شکاف کلیدی را در بر می‌گیرد: شکاف داده، درآمد، استفاده، جغرافیا، صنعت و انرژی. در بسیاری از موارد شاهد تلاقی این شکاف‌ها هستیم و در نتیجه تاثیرات منفی هردو یا چند مورد بیش از پیش تقویت می‌شود.

به عنوان مثال، افرادی که بیشتر تحت تاثیر معرض سوگیری داده‌ها قرار دارند، معمولا کمتر از دیگر افراد بهره‌ای از ابزارهای مبتنی بر هوش مصنوعی می‌برند و از سوی دیگر بیشتر از دیگر افراد نیز تحت تاثیر افزایش هزینه‌های انرژی قرار می‌گیرند.

با توجه به اولویت‌های سیاسی فعلی در ایالات متحده و برخی کشورهای دیگر، بعید است که به این زودی‌ها شاهد نظارت و مقررات رسمی برای کنترل اثرات منفی هوش مصنوعی باشیم. بنابراین شرکت‌ها باید ابتکار عمل را در دست بگیرند و برای کاهش این شکاف‌ها گام‌های موثری بردارند. شرکت‌ها در این مسیر سه اهرم کلیدی را در اختیار دارند: فناوری‌ها، نهادها و بازارها.

۱. شکاف داده (Data Divide)

داده‌ها پایه و اساس عملکرد هوش مصنوعی هستند. متاسفانه، بسیاری از داده‌ها با سوگیری‌هایی همراه شده‌اند و این سوگیری‌ها به مدل‌ها نیز منتقل می‌شوند. این امر می‌تواند باعث تبعیض در عصر هوش مصنوعی شود.

شرکت‌ها می‌توانند با استفاده از اهرم‌هایی که در اختیار دارند برای جلوگیری از تبعیض دست به کار شوند.

فناوری‌ها:

• استفاده از مجموعه داده‌هایی همه گروه‌های جمعیتی را نمایندگی کرده و در بر گیرد.
• ارزیابی و اندازه‌گیری سوگیری با استفاده از شاخص‌هایی مانند «تاثیر متفاوت» (Disparate Impact)‌ و «شانس‌های برابر» (Equalized Odds)
• بهره‌گیری از ابزارهای متن‌بازی همچون Fairlearnو IBM AI Fairness 360برای تحلیل و کاهش سوگیری‌ها.

نهادها:

• پیاده‌سازی رویه‌هایی مانند تحلیل سناریو، تیم‌های بررسی (red-teaming)، و بیانیه‌هایی پیرامون تاثیرات سوگیری، برای شناسایی و کاهش تبعیض‌ها.
• همکاری با نهادهایی مانند Partnership on AIو Algorithmic Justice Leagueبرای آموزش کارکنان و اجرای بهترین شیوه‌ها.

بازارها:

• تاکید بر اهمیت اعتماد مشتریان. شرکت‌هایی که محصولات خود را از نظر عدالت داده‌ای متمایز می‌کنند (مانند SAP) ، مزیت رقابتی خواهند داشت.

۲. شکاف درآمد (Income Divide)

با وجود اینکه هوش مصنوعی می‌تواند بهره‌وری برخی از کارگران را افزایش دهد، اما باعث از بین رفتن یا کاهش اهمیت برخی از مشاغل می‌شود. این مسئله می‌تواند شکاف‌های درآمدی را بزرگتر کند.

شرکت‌ها برای جلوگیری از افزایش شکاف درآمدی در عصر هوش مصنوعی می‌توانند از اهرم‌های خود به طرق کمک بگیرند.

فناوری‌ها:

• آموزش مجدد و ارتقا مهارت کارکنان با تمرکز بر گروه‌های کم‌درآمد یا دارای سابقه کاری کمتر.
• استفاده از ابزارهای هوش مصنوعی برای افزایش بهره‌وری شرکت‌های کوچک و کمک به رقابت آن‌ها با بازیگران بزرگ.

نهادها:

• مشارکت با سازمان‌هایی مانند AI4ALL، ITU AI Skills Coalition، و برنامه‌های گوگل ومایکروسافت برای توسعه مهارت‌های مرتبط با هوش مصنوعی.

بازارها:

• کاهش شکاف درآمدی باعث افزایش نیروی کار ماهر و تقویت رقابت‌پذیری شرکت‌ها می‌شود، که این امر می‌تواند به رشد بازار و سوددهی بلندمدت منجر شود.

۳. شکاف استفاده (Usage Divide)

تحقیقات نشان می‌دهد که سطح اعتماد به هوش مصنوعی در میان اقشار مختلف جامعه متفاوت است. معمولا افراد با تحصیلات و درآمد بیشتر، اعتماد بیشتری به این ابزارها دارند و همچنین بیشتر از دیگر اقشار از این فناوری استفاده می‌کنند.

تفاوت در میزان استفاده بدون شک می‌تواند باعث افزایش نابرابری در عصر هوش مصنوعی و به ویژه افزایش شکاف درآمدی شود.

از این رو بهتر است که شرکت‌ها با اهرم‌های در دسترس خود برای کاهش شکاف استفاده در میان اقشار مختلف تلاش کنند.

فناوری‌ها:

• توسعه ابزارهایی برای بهبود وضعیت اطمینان به هوش مصنوعی با استفاده از ابزارهایی مانند سیستم‌های بازخورد، داده‌افزایی و ادغام با فناوری‌های مکمل مانند IoT که کاربرانی از اقشار مختلف را ناخواسته به استفاده از هوش مصنوعی مجاب می‌کند.

نهادها:

• همکاری با نهادهایی مانند Institute for Ethics in AIو Stanford Centerبرای ارتقا شفافیت، تفسیرپذیری و اخلاق‌مداری.
• آموزش کارکنان در تشخیص مواردی که ممکن است هوش مصنوعی اطلاعات نادرست یا حتی به زیان آنها تولید کند.

بازارها:

• هرچه اعتماد کاربران به هوش مصنوعی افزایش یابد، پذیرش و استفاده از آن نیز بیشتر می‌شود. شرکت‌هایی مانند Salesforceومایکروسافت در همین راستا با تاکید بر امنیت و شفافیت، به دنبال متمایز کردن خود از رقبا هستند و دیگر شرکت‌ها نیز می‌توانند با شفافیت بیشتر و تامین امنیت این ابزارها، هم سطح اعتماد را افزایش داده و هم میزان استفاده را بیشتر کنند.

۴. شکاف جغرافیایی-جهانی (Global Divide)

طبق رویه فعلی و همانند آنچه در فناوری‌های پیشین از جمله اینترنت شاهدش بودیم، کشورهای پردرآمد بیشترین بهره را از هوش مصنوعی می‌برند. این در حالی است که کشورهای در حال توسعه و فقیر احتمالا از این جریان و در نتیجه فواید احتمالی آن عقب می‌مانند.

چنین شکافی به ویژه در رابطه با فناوری هوش مصنوعی که در حدود دو سال گذشته با پیشرفت شگرف بسیاری را شگفت‌زده کرده است، شکاف درآمدی و اطلاعاتی را بیش از پیش افزایش می‌دهد و ممکن است در نهایت به روندی منتهی شود که ثروت بیش از پیش در جغرافیای کشور‌های پردرآمد متمرکز گردد.

از این رو شرکت‌ها می‌توانند با ارائه فناوری و تکیه بر اهرم‌های نهادی و بازاری، به کاهش این شکاف در سطح جهانی کمک کنند. از جمله راهکارهای مهم این بخش ارائه بازارهای متن‌باز است که شرکت متا پیشتازی آن را در اختیار دارد و همچنین دیپ‌سیک چین و چندین شرکت چینی دیگر با رویکرد مشابه به دنبال افزایش نفوذ هوش مصنوعی در کشور‌های کمتر توسعه یافته و فقیر هستند.

فناوری‌ها:

• استفاده از مدل‌های منبع‌باز و «وزن‌های باز» (وزن هوش مصنوعی در واقع یک پارامتر قابل یادگیری است که پس از مراحل آموزش شکل می‌گیرد و به پایه عملکرد این ابزارها تبدیل می‌شود) برای افزایش دسترسی به ابزارهای پیشرفته هوش مصنوعی.
• فعالیت بیشتر در بخش «هوش مصنوعی‌های کوچک» برای حل مشکلات متمرکز و خاص، مانند برنامه Plantix که مشکلات کشاورزان را هدف می‌گیرد.

نهادها:

• همکاری با سازمان‌هایی مانند AI for Goodو International Computation and AI Networkبرای گسترش دسترسی جهانی.

بازارها:

• ابزارهای متن‌باز به شرکت‌ها کمک می‌کنند تا بدون تلاش مستقیم، به بازارهای جدیدی ورود کنند. برای مثال قاره آفریقا، هند، مکزیک و برزیل پتانسیل بالایی برای صادرات راه‌حل‌های بومی دارند.

۵. شکاف صنعتی (Industry Divide)

شاید یکی از مهمترین شکاف‌های موجود که با شکاف جهانی تلاقی پیدا کرده است، شکاف صنعتی باشد. شرکت‌های بزرگ فناوری که بیشتر در آمریکا و سپس چین متمرکزاند، بر زنجیره ارزش هوش مصنوعی تسلط دارند و همین امر باعث می‌شود تا شرکت‌های کوچک‌تر بیش از حد وابسته شرکت‌های بزرگ باشند و با محدودیت روبرو شوند.

از این رو فعالان صنعتی می‌توانند با راهکارهایی به کاهش سلطه شرکت‌های بزرگ بر زنجیره عرضه کمک کنند و گزینه‌های بیشتر و گاه بهینه‌تری را در اختیار فعالان کوچک بگذارند.

فناوری‌ها:

• استفاده از مدل‌های متن‌باز بازهم یکی از راهکارهای مهم کوچکترکردن این شکاف است و ابزارهای هوش مصنوعی «لبه‌ای» (edge AI) نیز راهکاری برای هزینه‌ها و استقلال از شرکت‌های بزرگ محسوب می‌شوند.
• مدل‌های زبانی کوچک که برای وظایف خاص بهینه‌سازی شده‌اند نیز جایگزینی مقرون‌به‌صرفه برای مدل‌های بزرگ هستند و همچنین شرکت‌ها با توان رایانشی محدود نیز می‌توانند بسیاری از این مدل‌ها را خودشان اجرا و اداره کنند.

نهادها:

• همکاری با ائتلاف‌هایی مانند Digital Public Goods Allianceبرای استفاده از نرم‌افزارها و مدل‌های متن‌باز که بر اساس استانداردهای حفظ حریم خصوصی طراحی شده‌اند.

بازارها:

• افزایش رقابت و ورود مدل‌های تخصصی در بخش‌هایی مانند کشاورزی، آموزش و سلامت، به ویژه در کشورهای کم‌درآمد.
• استفاده از ابزارهایی مانند Snykیا Dependabot برای ایمن‌سازی کدهای متن‌باز و کاهش خطرات امنیتی.

۶. شکاف انرژی (Energy Divide)

مصرف بالای انرژی یکی از مهمترین مشکلات بخش هوش مصنوعی است. این فناوری به زیرساخت گسترده‌ای نیاز دارد و به همین دلیل منابع عظیمی از انرژی و آب را مصرف می‌کند. مصرف بالای شرکت‌های هوش مصنوعی در صورت عدم مدیریت صحیحی، می‌تواند اهداف پایداری شرکت‌ها را به خطر اندازد.

از این رو شرکت‌ها می‌توانند با روش‌های زیر برای کاهش تاثیر این مشکلات دست به کار شوند.

فناوری‌ها:

• استفاده از هوش مصنوعی برای بهینه‌سازی مصرف انرژی در مراکز داده. برای مثال شرکت گوگل از سیستم دیپ‌مایند برای کاهش هزینه‌های سرمایش خود استفاده می‌کند.
• بهره‌گیری از تراشه‌ها و پردازنده‌های جدید که مصرف انرژی کمتری دارند.
• طراحی مدل‌های کارآمدتر با ترفرند‌هایی همچون Mixture of Expertsیا حذف دقت اضافی از محاسبات برای کاهش مصرف انرژی.

نهادها:

• همکاری با موسسات تحقیقاتی مانند Cornell AI for Sustainabilityبرای یادگیری روش‌های بهره‌برداری بهینه ازهوش مصنوعی و صرفه‌جویی در انرژی.

بازارها:

• بهره‌وری انرژی به معنی کاهش هزینه‌های عملیاتی و افزایش رقابت‌پذیری است. به عنوان مثال، شرکت دیپ‌سیک چین مدعی است که با استفاده از ترفند‌هایی از جمله Mixture of Experts، مصرف انرژی مدل‌های خود را ۱۰ تا ۴۰ برابر نسبت به مدل‌های مشابه آمریکایی کاهش داده است.
• ابزارهای تحلیل پیش‌بینی قیمت انرژی و پرداخت به ازای استفاده نیز می‌تواند دسترسی به انرژی را در میان اقشار و بخش‌های مختلف افزایش دهد.

در غیاب سیاست‌گذاری موثر دولتی، مسئولیت کاهش نابرابری‌های ناشی از هوش مصنوعی بر دوش رهبران تجاری خواهد بود. شرکت‌ها می‌توانند با اقدامات متعددی بر شکاف‌های موجود فائق آیند و راه را برای بهره‌برداری عادلانه‌تر از پتانسیل‌های هوش مصنوعی هموار کنند. اگر صنعت هوش مصنوعی تدابیر مناسب را اتخاذ کند، این فناوری می‌تواند به ابزاری برای رشد فراگیر، کاهش نابرابری و تحقق اهداف توسعه‌ای بدل شود؛ در غیر این صورت ممکن است به محرکی برای تشدید شکاف‌ها و تضعیف انسجام اجتماعی بدل گردد.