بنابر گزارش گاردین، مرد جوان بریتانیایی به جرم استفاده از هوش مصنوعی برای تولید تصاویر هرزه‌نگاری کودکان، به ۱۸ سال زندان محکوم شده است. هیو نلسون ۲۷ ساله با استفاده از تصاویر واقعی کودکان و دست‌کاری آن‌ها با هوش مصنوعی، این تصاویر را تولید کرده است. نلسون در ماه آگوست (مرداد و شهریور) پس از تحقیقات گسترده پلیس، به ۱۶ اتهام سوء‌استفاده جنسی از کودکان محکوم شد و این اولین محکومیت از این نوع در تاریخ بریتانیا محسوب می‌شود.

نلسون از نرم‌افزاری به نام Daz 3D برای تبدیل تصاویر معمولی کودکان به تصاویر مستهجن استفاده می‌کرد. این برنامه مجموعه‌ای از ابزارهای هوش مصنوعی دارد که امکان تولید تصاویر واقع‌گرایانه‌ای را برای کاربران مهیا می‌کند. پلیس منچستر اعلام کرد که او این تصاویر را به‌صورت آنلاین می‌فروخت و حتی در برخی مواقع از فروش تصاویر آنلاین، حدود ۶٬۵۰۰ دلار درآمد کسب کرده است.

قاضی پرونده‌ی نلسون تصاویر را «فجیع و تهوع‌آور» خواند و خطاب به نلسون گفت: «به‌نظر می‌رسد محدودیتی برای ایجاد عمق انحراف در تصاویری که مایل به ایجاد آن بودی، وجود ندارد.» پلیس با جست‌وجو در دستگاه‌های الکترونیکی نلسون مجموعه‌ای از پیام‌های متنی را پیدا کرد که در آن‌ها، او افراد را به سوءاستفاده جنسی از کودکان کوچک‌تر از ۱۳ سال تشویق می‌کرد. این مظنونان و قربانیان بالقوه ظاهراً در سراسر جهان از‌جمله ایالات متحده حضور دارند.

ایالات متحده نیز از روند تولید تصاویر مستهجن به‌واسطه‌ی هوش مصنوعی مصون نیست. به‌عنوان‌ مثال، چندی پیش یکی از سربازان به‌جرم استفاده از هوش مصنوعی برای تولید تصاویر مستهجن از کودکان دستگیر شد یا در نمونه‌ای دیگر، مرد اهل ایالت ویسکانسین آمریکا نیز به جرم ایجاد بیش از ۱۳ هزار تصویر تولید‌شده با هوش مصنوعی که کودکان را در حال سوءاستفاده جنسی نشان می‌دادند، به ۷۰ سال زندان محکوم شد.

این پرونده نشان‌دهنده‌ی لزوم ایجاد تنظیمات فوری در الگوریتم‌های هوش‌های مصنوعی‌ تولید تصویر و ویدئو و اعمال قوانین بیشتر در‌زمینه استفاده از این فناوری نوین است. با پیشرفت سریع این فناوری، مشکلات جدیدی نیز به‌وجود آمده که باید با دقت و جدیت به آن‌ها پرداخته شود. این پرونده نه‌تنها به‌عنوان نمونه‌ای هشداردهنده برای سایرین مطرح می‌شود؛ بلکه بر اهمیت تدوین قوانین و مقررات مناسب برای استفاده از هوش مصنوعی نیز تأکید می‌کند.