گزارشی تکان دهنده از 404 Media میگوید هوش مصنوعی گراک (Grok) ایلان ماسک که به ابزاری با محدودیتهای پایین شهرت دارد در شبکه اجتماعی ایکس برای دستکاری کردن تصاویری که زنان در این پلتفرم منتشر میکنند استفاده شده است. با اینکه گراک از برهنهسازی کامل با اشاره به سیاستهای استفاده خود خودداری میکند اما پذیرش درخواستها در همین سطح نیز به سو استفاده متعدد و نگرانی بسیاری منجر شده است.
به گزارش پیوست، کولینا کولتای، محقق شرکت Bellingcat که اولین بار به استفاده از گراک برای چنین هدفی اشاره کرده است میگوید کاربران تنها با ارائه درخواست «Remove her clothes» به گراک در شبکه اجتماعی ایکس میتوانند حتی پوشیدهترین تصاویر زنان را به تصاویری با لباس شنا و نیمهعریان تبدیل کنند.
استفاده از هوش مصنوعی برای تولید محتوای جنسی و به ویژه سو استفاده از تصاویری که کاربران به صورت عمومی در پلتفرمهای شبکه اجتماعی منتشر میکنند یکی از مهمترین نگرانیهای کاربران و فعالان اجتماعی است.
هوش مصنوعی گراک که توسط شرکت xAI ایلان ماسک عرضه و در پلتفرم ایکس ترکیب شده است برخلاف دیگر فعالان هوش مصنوعی محدودیتهای کمتری برای تولید محتوا دارد که به گفته ماسک در جهت حفظ آزادی بیان در عصر هوش مصنوعی است.
با این حال کاربردهای نگرانکننده همانند آنچه در این نمونه شاهدش هستیم از جمله موضوعاتی هستند که شرکتهای هوش مصنوعی به عنوان دلیل اصلی اعمال محدودیتها عنوان میکنند.
البته که پس از شهرت گرفتن ابزارهای هوش مصنوعی مولد و به ویژه ابزارهای تولید تصویر و ویدیوی به سرعت اپلیکیشنها و روباتهایی برای تولید محتوای جنسی در اینترنت پدیدار شدند اما تولید این سبک از محتوا توسط هوش مصنوعی گراک به ویژه با توجه به ادغام و دسترسی پذیری آن در شبکه اجتماعی ایکس، احتمال آسیب را تا حد زیادی افزایش میدهد.
علاوه بر این کاربران شبکه اجتماعی ایک میتوانند در پاسخ به پستی که دیگران در این پلتفرم منتشر کردهاند از گراک بخواهند که تصویر منتشر شده را عریان کند و این تصویر معمولا در زیر همان پست منتشر میشود که جنبه آزاردهنده چنین محتوایی را بیش از پیش تشدید میکند.
منبع
