توافق آنتروپیک با دولت ترامپ؛ مدل «فیبل» دوباره در دسترس قرار می‌گیرد

به گزارش وال استریت ژورنال، بر اساس توافق میان آنتروپیک و دولت آمریکا، این شرکت متعهد شده است آسیب‌پذیری‌هایی را که پژوهشگران آمازون برای دور زدن سازوکارهای ایمنی مدل فیبل شناسایی کرده بودند، برطرف کند. هاوارد لوتنیک، وزیر بازرگانی آمریکا، با اعلام این خبر در شبکه اجتماعی ایکس (X) گفت طی دو هفته گذشته دولت و آنتروپیک به‌طور مشترک روی بررسی و تأیید نسخه جدید «فیبل ۵» (Fable 5) کار کرده‌اند تا این مدل با الزامات امنیتی دولت آمریکا همسو شود.

آنتروپیک هم‌زمان اعلام کرد به همراه آمازون، مایکروسافت و گوگل در حال تدوین چارچوبی مشترک برای ارزیابی شدت حملات «فرار از محدودیت‌های ایمنی» (Jailbreak) است؛ حملاتی که با استفاده از روش‌های مختلف، محدودیت‌های امنیتی مدل‌های هوش مصنوعی را دور می‌زنند. هدف از این همکاری، رسیدن به معیارهای مشترکی برای سنجش این آسیب‌پذیری‌ها و تعیین نحوه واکنش شرکت‌های توسعه‌دهنده در برابر آنهاست.

این شرکت با این حال تاکید کرده است که ساخت مدلی که در برابر تمام روش‌های دور زدن محدودیت‌ها کاملاً مقاوم باشد، «احتمالاً غیرممکن» است.

در جریان مذاکرات، تام براون، مدیر ارشد زیرساخت محاسباتی آنتروپیک، با وزارت بازرگانی و دیگر نهادهای دولتی همکاری کرد تا نگرانی‌های امنیتی درباره این مدل برطرف شود. در نهایت، آنتروپیک اعلام کرد از روز چهارشنبه دسترسی کاربران به فیبل دوباره برقرار خواهد شد.

فیبل حدود دو هفته و نیم از دسترس خارج بود؛ اتفاقی که برای نخستین بار در میان شرکت‌های بزرگ توسعه‌دهنده مدل‌های هوش مصنوعی رخ داد و نشان داد دولت آمریکا آمادگی دارد در صورت وجود نگرانی‌های امنیتی، حتی عرضه عمومی یک مدل هوش مصنوعی را نیز متوقف کند.

آنتروپیک می‌گوید برای رفع مشکل، یک لایه حفاظتی جدید به مدل اضافه کرده است. به گفته این شرکت، روشی که پژوهشگران آمازون برای دور زدن محدودیت‌های ایمنی معرفی کرده بودند، اکنون در حدود ۹۹ درصد موارد دیگر کارایی ندارد. در یک درصد باقی‌مانده نیز خروجی‌های مدل یا بر پایه اطلاعات عمومی هستند یا به اندازه‌ای نیستند که بتوانند در اختیار یک مهاجم سایبری قرار گیرند.

این شرکت پیش‌تر نیز اعلام کرده بود درخواست‌هایی که از نظر امنیتی پرخطر تشخیص داده شوند، به جای مدل فیبل به یک مدل ضعیف‌تر هدایت خواهند شد.

مقام‌های دولت آمریکا می‌گویند هدف از این مذاکرات فقط رفع یک آسیب‌پذیری نبوده، بلکه ایجاد سازوکاری مشخص برای مدیریت موارد مشابه در آینده و شفاف‌تر شدن ارتباط میان دولت و شرکت‌های هوش مصنوعی نیز بوده است. دولت آمریکا پیش‌تر بخشی از محدودیت‌های مدل «مایتوس ۵» (Mythos 5)، که نسخه پیشرفته‌تر فیبل محسوب می‌شود، را نیز کاهش داده بود.

نگرانی‌های امنیتی درباره این مدل‌ها باعث شد دولت آمریکا در اواسط ژوئن استفاده از آنها را برای کاربران خارجی متوقف کند؛ تصمیمی که حتی برخی پژوهشگران غیرآمریکایی شاغل در آنتروپیک را نیز در بر می‌گرفت و در نهایت شرکت را وادار کرد دسترسی همه کاربران را موقتاً متوقف کند. با این حال، منابع آگاه می‌گویند وزارت بازرگانی آمریکا به‌زودی این محدودیت‌ها را نیز لغو خواهد کرد.

تعطیلی فیبل به یکی از مهم‌ترین اتفاقات صنعت هوش مصنوعی در سال جاری تبدیل شد؛ زیرا برای نخستین بار دولت آمریکا یک شرکت پیشرو را وادار کرد عرضه عمومی مدل خود را متوقف کند. این اتفاق در حالی رخ داد که رقبایی مانند اوپن‌ای‌آی (OpenAI)، گوگل (Google) و شرکت هوش مصنوعی ایلان ماسک همچنان در حال توسعه و عرضه مدل‌های جدید خود هستند.

این پرونده همچنین نشان‌دهنده تغییر رویکرد کاخ سفید در قبال هوش مصنوعی است. دولت ترامپ که تا پیش از این رویکردی نسبتاً آزاد در قبال توسعه مدل‌های هوش مصنوعی داشت، اکنون نقش نهادهای امنیت سایبری و امنیت ملی را در ارزیابی این مدل‌ها پررنگ‌تر کرده است. دونالد ترامپ اخیراً با امضای یک فرمان اجرایی، شرکت‌های توسعه‌دهنده را موظف کرده است دست‌کم ۳۰ روز پیش از عرضه عمومی هر مدل جدید، آن را برای بررسی در اختیار دولت فدرال قرار دهند.

سوزی وایلز، رئیس دفتر کاخ سفید، در واکنش به این توافق نوشت همکاری دولت و بخش خصوصی در این پرونده بی‌سابقه بوده و هدف مشترک دو طرف، عرضه سریع فناوری‌های پیشرفته همراه با حفظ استانداردهای ایمنی است.

ترامپ نیز چندی پیش از عملکرد داریو آمودی، مدیرعامل آنتروپیک، در همکاری با دولت تمجید کرده و گفته بود او در جریان این مذاکرات مسئولانه، عمل کرده است. این در حالی است که اوایل سال جاری، ترامپ همین شرکت را به دلیل اختلاف‌نظر بر سر محدودیت‌های استفاده نظامی از هوش مصنوعی، ترامپ اوایل سال جاری، در پی اختلاف‌نظر بر سر محدودیت‌های استفاده نظامی از هوش مصنوعی، آنتروپیک را شرکتی با گرایش‌های «چپ‌گرایانه و حامی سیاست‌های مترقی اجتماعی»(a radical-left, woke company) توصیف کرده بود.

کارشناسان معتقدند توافق اخیر می‌تواند به کاهش تنش‌های چندماهه میان دولت آمریکا و آنتروپیک کمک کند. دو طرف در ماه‌های گذشته علاوه بر موضوع ایمنی مدل‌های هوش مصنوعی، بر سر صادرات تراشه‌های هوش مصنوعی، سیاست‌های امنیتی و برخی موضوعات سیاسی نیز اختلاف‌نظر داشتند.

آنتروپیک همچنین اعلام کرده است «مرکز استانداردها و نوآوری هوش مصنوعی» (Center for AI Standards and Innovation – CAISI) علاوه بر بررسی محدودیت‌های قبلی، سازوکار حفاظتی جدید این شرکت را نیز آزمایش و تأیید کرده است.

این توافق از زاویه دیگری نیز برای آمازون اهمیت دارد. آمازون که یکی از بزرگ‌ترین سرمایه‌گذاران آنتروپیک است و زیرساخت پردازشی مدل‌های این شرکت را تأمین می‌کند، همان شرکتی بود که آسیب‌پذیری‌های فیبل را به دولت گزارش داد. این شرکت تاکنون ۱۳ میلیارد دلار در آنتروپیک سرمایه‌گذاری کرده و بر اساس گزارش‌ها احتمال دارد ۲۰ میلیارد دلار دیگر نیز به این سرمایه‌گذاری اضافه کند.

آنتروپیک نیز که ارزش آن اخیراً حدود ۹۶۵ میلیارد دلار برآورد شده، هم‌زمان با اوپن‌ای‌آی خود را برای عرضه اولیه سهام (IPO) آماده می‌کند.