تبیین مشارکت ذینفعان بهویژه در استانداردهای بینالمللی هوش مصنوعی نقش مهمی در تدوین قوانین، سیاستگذاری لوایح و تنظیمگری (Regulation) این فناوری دارد. چرا که با ایجاد یک فهم مشترک و چارچوبهای مورد توافق بین کشورها، معیارهای مشخصی برای ایمنی، امنیت، شفافیت، توضیحپذیری، مدیریت ریسک، حریم خصوصی، کیفیت داده، مسئولیتپذیری و ارزیابی انطباق سامانههای هوش مصنوعی فراهم میشود. بهرهمندی از چنین قانونی با تعیین اصول و پایههایی روشن میتواند حدود الزامات را برای اپراتورها تبیین کند. روشن است که نمیتواند در تمامی لایهها من جمله لایههای فنی نیز ورود پیدا کند. با توجه به ماهیت متغیر بخشهای فنی و فناورانه، مناسبترین گزینه، بهرهمندی از استانداردهای بین المللی سازمان ISO/IEC در حوزه هوش مصنوعی است. بهگونهای که میتواند الزامات قابلاندازهگیری و قابلارزیابی اجرایی قانون را میسر سازد. نکته قابل توجه دیگر این است که این استانداردها میتواند پایهای برای صدور گواهی، ممیزی، ارزیابی ریسک، نظارت بر چرخه عمر سامانههای AI و هماهنگسازی مقررات ملی با رویههای بینالمللی نیز باشد. در نهایت، مشارکت ذینفعان که موکدا در استانداردهای ذیربط آمده است را شاید بتوان بهعنوان پلی میان قانونگذاری، سیاست عمومی، صنعت و فناوری دانست. حتی میتوان گفت که نتیجه حرکت به سمت این رویکرد باعث کاهش ابهام مقرراتی، افزایش اعتماد عمومی و تسهیل در روند توسعه، ایجاد نقش و مشارکت متناسب برای همه ذینفعان و استفاده مسئولانه از هوش مصنوعی میشود.
یکی از دغدغههای اصلی بخش خصوصی، مشارکت در تدوین قوانین و مقررات در حوزه آخرین فناوریهای روز دنیا بهویژه هوش مصنوعی است. در این خصوص چالشهایی اساسی وجود دارد که در ادامه مهمترین آنها شرح داده شده است:
زیستبوم خدمات هوش مصنوعی نیز مانند سایر زیستبومهای فناورانه، نیازمند تببین شفاف ذینفعان آن است تا نقشها و مرزها مشخص شده و هر بخشی بتواند ضمن پیشبرد تکالیف و وظایف خود، از تداخل و تضاد بین سایر ذینفعان جلوگیری کند. همچنین عدم مشارکت ذی نفعان که در استانداردها تاکید شده است (از جمله کاربران نهایی، متخصصان فنی، بخش خصوصی، جامعه مدنی و نهادهای نظارتی ) در فرآیند تدوین لوایح و قوانین، نتایج ناگواری به همراه دارد. چنین قوانینی که بدون مشارکت معنادار و دریافت بازخورد واقعی ذینفعان شکل میگیرد، معمولا از واقعیتهای عملیاتی و نیازهای میدانی فاصله گرفته و در نتیجه با مقاومت اجرایی بخش خصوصی، تفسیرهای متناقض و عدم پذیرش عمومی روبهرو میشود. این امر نه تنها اثربخشی مقررات را کاهش میدهد، بلکه اعتماد به نظام تنظیمگری را تضعیف کرده، انگیزه انطباق داوطلبانه را از بین میبرد و در نهایت به اجرای صوری، دور زدن الزامات یا حتی گسترش فعالیتهای خارج از چارچوب قانونی منجر میشود. وضعیتی که هم اهداف حمایتی و ایمنی استانداردها را ناکام میگذارد و هم هزینههای اجتماعی و اقتصادی بیشتری را بر جامعه تحمیل میکند.
۲- عدم قطعیت ایجاد شده توسط سرعت بالای فناوری هوش مصنوعی
شتاب تغییرات فناورانه، منجر به عوض شدن سریع قوانین میشود. به جهت ثبات بیشتر، میبایست اصول محکمتری به همراه پذیرش مخاطرات آن در تدوین قوانین در نظر گرفته شود که بازنگری در آنها را به حداقل میرساند. به عبارت دیگر، قوانین و لوایح جدید باید بر مبنای اصول محکم و پذیرش ریسک باشد. در عین حال از آنجایی که هوش مصنوعی با سرعتی بیسابقه در حال تحول است، باعث میشود تا دستورالعملها و مقررات فنی، کارآمدی خود را از دست دست بدهند. از این رو با مدیریت تنظیمگری و به کارگیری استانداردهای بهروز شده در خصوص تغییرات فناورانه، کارایی بالاتری حاصل خواهد شد. در صورت عدم هماهنگی بین این دو ( نگارش قوانین و بهکار گیری مقررات فنی و استانداردهای ذیربط) حرکت به سمت ساختار حکمرانیای خواهد بود که با خلاءهای نظارتی مواجه میشود و زمینه سوءاستفاده و آسیبهای اجتماعی را فراهم میکند، پیش خواهد رفت. یا اینکه با مقرراتی سختگیرانه و غیرمنعطف روبهرو میشود که نتیجه آن سرکوب نوآوری و تضعیف رقابتپذیری ملی است.
۳- نگاه صرف حکمرانی
در خصوص نگارش لوایح یا قوانینی، ممکن است صرفا نگاه حکمرانی وجود داشته باشد نه هدایتگرانه. به عنوان نمونه در تدوین این قوانین، بایستی علاوهبر مبنای اصول محکم، ریسک و مخاطرات نیز در آن دیده شده باشد. به عبارت دیگر ریسکمحور هم باشد. در نهایت قانونی پایدار میتواند در شکل گیری یک زیستبوم ملی نقشی کلیدی بازی کند. فاصله گرفتن از مشارکت ذینفعان در بخش خصوصی، دستاوردهای مطلوبی در پی نخواهد داشت. چنین قوانینی معمولا بهجای ایجاد چارچوبهای انعطافپذیر و مشوقهای نوآورانه و مسئولانه، بر محدودیتهای سختگیرانه و الزامات بوروکراتیک تمرکز میکند و در نتیجه سرعت توسعه فناوری را کاهش داده و انگیزه سرمایهگذاری و توسعه را تضعیف میکند. علاوهبر این، عدم توجه به نقش استانداردهای بینالمللی و فنی در حوزه مدیریت ریسک، شفافیت، قابلیت توضیحپذیری و مسئولیتپذیری، باعث ایجاد ابهام حقوقی و عملیاتی میشود. بهگونهای که سازمانها و توسعهدهندگان نمیدانند چگونه باید الزامات را پیادهسازی کنند و در عمل با بار نظارتی سنگین و تفسیرهای متناقض مواجه میشوند. این وضعیت نه تنها اثربخشی حکمرانی را کاهش میدهد، بلکه میتواند به عقبماندگی رقابتی در سطح ملی، افزایش ریسکهای واقعی (مانند سوگیری، سوءاستفاده و آسیبهای اجتماعی) و از دست رفتن فرصت هدایت آن به سمت کاربردهای ایمن و اخلاقی، منجر شود. در نهایت، قوانینی که صرفا کنترلگر باشد بهجای ایجاد اعتماد و ثبات، محیط حقوقی پرریسک و غیرقابل پیشبینیای ایجاد میکند که هم نوآوری را محدود میسازد و هم اهداف اصلی حمایت از منافع عمومی را محقق نمیکند. فلذا بهمنظور جلوگیری از چنین چالشهایی، شدت الزامات مربوط به ارزیابی ریسک، مستندسازی، ممیزی و انطباق، باید متناسب با سطح ریسک سامانه، نقش ذینفعان و مقیاس فعالیت باشد. به بیان دیگر، با توجه به سطوح مختلف فعالیت (به عنوان نمونه برای SMEها ) نسخه متفاوتی اعمال خواهد شود.
۴- ابهام درمسئولیت پذیری
سوال این است که در صورت خطا، تبعیض، آسیب یا تصمیم نادرست یک سامانه هوش مصنوعی مسئولیت آن با کیست؟ آن هم در شرایطی که عدم تصریح در قوانین میتواند مسئولیت خطا را برعهده توسعهدهنده، ارائهدهنده، بهرهبردار یا کاربر قرار دهد. در شرایط موجود و با توجه به موارد مطرحشده در لایحه اخیر حوزه اپراتور هوش مصنوعی، مواردی نظیر ابهام در مسئولیتپذیری و عدم مشارکت بخش خصوصی در تنظیمگری اپراتور هوش مصنوعی، میتواند به پیامدهای جدی و زنجیرهای منجر شود. این در حالی است که با در نظر گرفتن استانداردها، میتوان نقشها، فرآیندهای مدیریت ریسک، مستندسازی، قابلیت ممیزی و شواهد لازم را برای رعایت الزامات مشخص کرد. بیتوجهی به شناسایی و مشارکت ذینفعان این حوزه، برای تعیین نقشها، باعث سردرگمی بسیاری از آنان میشود و این امر پیگیری حقوقی و جبران خسارت را عملا مختل میکند. هرچند که داشتن قانون مناسب در این مساله میتواند مشخص کند چه کسی از نظر حقوقی مسئول است. همچنین مدیریت ریسکهایی مانند سوگیری الگوریتمی، تصمیمات غیرشفاف، نقض حریم خصوصی یا آسیبهای امنیتی بدون در نظر گرفتن استانداردهای مشخص، به شکل پراکنده و ناکارآمدی منتهی میشود که احتمال تشدید خسارات مالی، اعتباری و حتی جانی را افزایش میدهد. در چنین شرایطی تفکیک قائل شدن در مرز بین قانون و استاندارد میتواند راهگشای چالشهای مربوطه باشد.
۵- اهمیت نقش استانداردها
نکته کلیدی دیگر این است که نقش استانداردها در بخشهای فنی و قابل اندازه گیری، بسیار حائز اهمیت است. استانداردهای بینالمللی نقشی محوری در تعریف بخشهای فنی و ارزیابی ساختار اپراتورهای هوش مصنوعی ایفا میکند. در بخش فنی، کمیته مشترکISO/IEC/JTC1/SC42 با رویکردی زیستبومی، استانداردهای بنیادینی برای مفاهیم، چارچوبهای حاکمیتی، کیفیت داده و جنبههای فنی مانند قابلیت توضیحپذیری، کنترلپذیری و مدیریت سوگیری تدوین کرده است. ISO/IEC 42001 ISO/IEC استاندارد بینالمللی سیستم مدیریت هوش مصنوعی (AIMS) است که چارچوبی برای حاکمیت، مدیریت ریسک، مسئولیتپذیری و استفاده مسئولانه از سامانههای هوش مصنوعی در سازمان را فراهم میکند.
این استاندارد به سازمانها کمک میکند فرآیندهای مرتبط با هوش مصنوعی را بهصورت ساختاریافته، قابل ممیزی و بهبودپذیر مدیریت کرده و اعتماد و انطباقپذیری سامانههای هوش مصنوعی را افزایش دهد. این استاندارد در جایگاه پایههایی برای اجرای قوانین عمل میکند تا توسعهدهندگان اپراتورهای هوش مصنوعی بتوانند بر این اساس بهترین شیوههای صنعتی، سیستمهایی قابل اعتماد و امنی را بسازند. از این رو، سازمانها میتوانند با استقرار این چارچوب، ساختار عملیاتی اپراتور هوش مصنوعی خود را به گونهای سازماندهی کنند که نه تنها نوآورانه، بلکه ایمن، شفاف و پاسخگو باشد. برای مدیریت ریسک در حوزه هوش مصنوعی نیز استاندارد بینالمللیISO/IEC 23894) (AI Risk Management ) به کار گرفته میشود. راهنماییهایی برای شناسایی، تحلیل، ارزیابی و مدیریت ریسکهای مرتبط با سامانههای AI ارائه میکند. این استاندارد سازمانها را در ایجاد فرآیندهای ریسکمحور در چرخه عمر هوش مصنوعی، از طراحی و توسعه تا استقرار و بهرهبرداری، یاری میدهد. همچنین میتواند در کنار استاندارد ISO/IEC 42001 مورد استفاده قرار بگیرد. بهگونهای که ISO/IEC 42001 چارچوب سیستم مدیریت هوش مصنوعی را فراهم میکند و بر مدیریت ریسکهای AI تمرکز دارد. همچنین میتوان به عنوان یکی دیگر از استانداردهای هوش مصنوعی به ISO/IEC 22989 اشاره کرد که روی اصول و پایههای اولیه ، تعاریف و واژگان کلیدی تمرکز دارد و برای کلیه سازمانها قابل استفاده است.
انتظار میرود مسئولان ذیربط با توجه به نکات ذکر شده در این یادداشت در خصوص نقش استانداردها در تنظیم گری، مشارکت واقعی سایر ذینفعان در طراحی و ارزیابی سازوکارهای لازم برای عملیاتی شدن اپراتور هوش مصنوعی، این موارد را در مصوبات و لوایح مربوطه در نظر بگیرند. اگرچه چالشهای متعددی در این حوزه وجود دارد اما نگارنده سعی کرده است به صورت موجز و خلاصه به اهم آنها اشاره کند. شاید بتوان گفت در شرایط حاضر با عنایت به اینکه حرکت نسبتا خوبی آغاز شده است، این مساله را باید به فال نیک گرفت و از مشارکت حداکثری بخش خصوصی استقبال کرد.
منبع
