با ظهور تکنولوژی‌هایی مبتنی‌بر هوش مصنوعی، امکان تولید و تغییر تصاویر به‌صورت بسیار واقعی فراهم شده است. این تکنولوژی‌ها می‌توانند تصاویر را به‌گونه‌ای تغییر دهند که حتی چشم‌های تیزبین نیز نتوانند تغییرات را تشخیص دهند. بااین‌حال، آنچه امروزه این مسئله را به مشکلی جدی تبدیل کرده است؛ ابزارهای مبتنی‌بر هوش مصنوعی هستند که می‌توانند تصاویر بسیار طبیعی و واقعی را تولید و ویرایش کنند.
توسعه گسترده‌ی این ابزارها باعث شده است تا بیش‌از‌پیش، افراد زیادی بتوانند در کوتاه‌ترین مدت‌زمان ممکن تصاویر جعلی، اما بسیار واقع‌گرایانه تولید کنند. این موضوع تبعات گسترده‌ای ازجمله انتشار اخبار جعلی و تشدید جنگ روانی و تضعیف اعتماد عمومی دربرابر صحت تصاویر واقعی و ساختگی را در پی داشته است.
بنابر گزارش 9to5mac، شرکت‌های بزرگی مانند اپل نیز با ارائه ابزارهایی برای ویرایش تصاویر، تلاش می‌کنند به کاربران امکان دهند تا از تغییرات اعمال‌شده روی تصاویر خود آگاه شوند. اپل باتوجه‌به جامعه آماری گسترده‌ی کاربران خود، می‌تواند نقش بسیار مهمی برای حل این مشکل ایفا کند. این شرکت با قابلیت Image Playground، به دارندگان گوشی آیفون اجازه می‌دهد تا تصاویر کاملاً خیالی را از توصیفات متنی خود ایجاد کنند.
قابلیت Image Playground فقط از سه سبک تصویرسازی استفاده می‌کند که هیچ‌کدام از آن‌های توانایی تولید تصاویر واقعی را ندارند. عملاً عکس‌های ساخته‌شده سبک انیمیشنی و غیرواقعی دارند. بدیهی است که اپل توانایی ایجاد چنین ابزاری را دارد؛ اما نمی‌خواهد بستری برای ایجاد عکس‌های جعلی با ظاهر واقع‌گرایانه ارائه دهد.
همچنین، اپل متادیتای تمام عکس‌هایی را نشانه‌گذاری می‌کند که کاربران با هوش مصنوعی خود و دیگر ابزارهای مبتنی‌بر هوش مصنوعی تولید یا ویرایش می‌کنند. درواقع، متادیتا شناسنامه‌ی هر عکس محسوب می‌شود و انواع مشخصات و تغییرات ایجاد‌شده روی هر عکس را درون خود ذخیره می‌کند.
-
متادیتا چیست و چه طور اطلاعات متادیتای اسناد و تصاویر را حذف کنیم؟
-
ابزار طراحی هوش‌مصنوعی جدید سامسونگ؛ مفرح، حیرت‌انگیز، نگران‌کننده
به‌غیر از اپل، تلاش‌های مختلفی برای ارائه راهکار جامع صورت گرفته است. یکی از این تلاش‌ها، توسعه استانداردهایی برای تأیید اصالت تصاویر است. سازمان‌هایی مانند CAI با توسعه استانداردی متن‌باز، امکان ثبت تغییرات اعمال‌شده روی تصویر را فراهم می‌کنند. بدین‌ترتیب می‌توان با بررسی متادیتاهای تصویر، به اصالت آن پی برد. بسیاری از سازمان‌های بزرگ دنیا مانند شرکت ادوبی، مایکروسافت، نیکون، رویترز و انویدیا این استاندارد را پذیرفته‌اند.
در‌نهایت، باید توجه کرد که اگرچه هوش مصنوعی می‌تواند ابزاری قدرتمند برای تولید تصاویر جعلی باشد، می‌تواند به‌عنوان ابزاری برای تشخیص این تصاویر نیز استفاده شود. با توسعه الگوریتم‌های پیشرفته‌تر، می‌توانیم به سیستم‌هایی دست پیدا کنیم که تصاویر جعلی را با دقت بسیار بیشتری بتوانند تشخیص دهند.
