به گزارش خبرگزاری مهر به نقل از رویترز، دادگاهی در هلند به شرکت xAI متعلق به ایلان ماسک و چت بات گراک دستور داد تصاویر مستهجن سازی شده از کودکان یا افراد بزرگسال را تولید و منتشر نکند یا آنها را در حالت های مستهجن بدون رضایتشان در این کشور نشان ندهد.
رای اولیه دادگاه مذکور در آمستردام یکی از نخستین مواردی است که یک قاضی روی مسئولیت xAI برای ساخت ابزارهایی که ممکن است برای تولید آسان تصاویر مستهجن سازی شده به کار رود،تاکید می کند.
این درحالی است که تحقیقات و شکایات زیادی درباره گراک در سراسر جهان ایجاد شده است.
دادگاه در یک دستور نوشتاری اعلام کرد xAI و گراک اجازه ندارند تصاویر مستجهن شده ای را بدون اجازه شفاف صاحبان عکس ها تولید یا منتشر کنند. علاوه بر آن دادگاه اعلام کرد اگر شرکت ها از این دستور پیروی نکنند با جریمه ای روزانه ۱۰۰ هزار یورو روبرو می شوند.
شکایت مذکور از سمت یک گروه ناسودآور هلندی به نام Offlimits که با سواستفاده جنسی آنلاین مقابله می کند و با همکاری صندوق پشتیبانی از قربانیان(یک موسسه ناسودآور دیگر) ثبت شده است.
شرکت ایلان ماسک در جلسه استماع این پرونده بحث کرد که نمی تواند تمام موارد سواستفاده از ابزارهایش را متوقف کند و نباید برای اعمال کاربران مخرب خود، جریمه شود. وکلای آن اعلام کردند شرکت اقدامات ایمنی در ژانویه ۲۰۲۶ اعمال کرد تا گروک را از مستهجن سازی عکس های افراد واقعی منع کند.
این موارد شامل محدودسازی تولید عکس توسط کاربرانی بود که حق عضویت می پردازند.