از ابتدا ، تقلب های عمیق یا رسانه های مصنوعی ایجاد شده توسط هوش مصنوعی ، در درجه اول برای ایجاد تصاویر پورنوگرافی از زنان استفاده می شده است ، که اغلب این امر از نظر روانی مخرب است. خالق اصلی Reddit که این فناوری را رواج داد چهره افراد مشهور زن را به فیلم های پورنو تبدیل کرد. تا به امروز ، شرکت تحقیقاتی Sensity AI برآورد می کند که بین 90 تا 95 درصد از همه ویدیوهای جعلی عمیق آنلاین پورنو غیرمحسوس هستند و حدود 90 درصد از آن زنان هستند.
با پیشرفت این فناوری ، ابزارهای بدون کد بی دردسر نیز ظاهر شده اند که به کاربران اجازه می دهد لباس ها را در بدن از بدن زنان جدا کنند. بسیاری از این خدمات از آن زمان به صورت آفلاین مجبور شده اند ، اما کد هنوز در مخازن منبع باز وجود دارد و به شکلهای جدید ظاهر می شود. به گفته محقق Genevieve Oh ، که این سایت را کشف کرده است ، جدیدترین چنین سایت در ماه اوت بیش از 6.7 میلیون بازدید داشته است. هنوز باید آفلاین شود.
سایر برنامه های مبادله صورت تک عکس ، مانند ZAO یا ReFace ، وجود داشته اند که کاربران را در صحنه های منتخب فیلم های اصلی یا فیلم های پاپ قرار می دهد. اما Y به عنوان اولین برنامه اختصاصی پورنو برای تغییر چهره ، این را به سطح جدیدی می برد. آدام دوج ، بنیانگذار EndTAB ، یک موسسه غیر انتفاعی که به مردم در مورد سوءاستفاده از فناوری آموزش می دهد ، می گوید: ایجاد تصاویر پورنو از افراد بدون رضایت آنها “سفارشی” است. این امر باعث می شود که سازندگان بتوانند فناوری مورد استفاده خاص را بهبود بخشند و افرادی را ترغیب می کند که در غیر این صورت به ایجاد پورنو تقلبی فکر نمی کردند. دوج می گوید: “هر زمان که چنین تخصصی داشته باشید ، گوشه جدیدی از اینترنت ایجاد می شود که کاربران جدیدی را جذب می کند.”
استفاده از Y فوق العاده آسان است. هنگامی که یک کاربر عکس یک چهره را بارگذاری می کند ، سایت کتابخانه ای از فیلم های پورنو باز می کند. اکثریت قریب به اتفاق زنان ، گرچه تعداد انگشت شماری نیز مردان را نشان می دهند ، بیشتر در فیلم های پورنو همجنسگرا. سپس کاربر می تواند هر ویدئویی را انتخاب کند تا پیش نمایش نتایج تغییر چهره را در عرض چند ثانیه ایجاد کند-و برای بارگیری نسخه کامل هزینه بپردازد.
نتایج دور از ایده آل است. بدیهی است بسیاری از تعویض های صورت جعلی بوده و با چرخاندن زوایای مختلف صورت ها درخشان و تحریف می شوند. اما برای یک ناظر معمولی ، برخی از آنها به اندازه کافی ظریف هستند و مسیر تقلب های عمیق قبلاً نشان داده است که چقدر سریع می توانند از واقعیت غیر قابل تشخیص شوند. برخی از کارشناسان استدلال می کنند که کیفیت جعبه عمیق نیز اهمیت چندانی ندارد زیرا آسیب روانی قربانیان در هر دو صورت می تواند یکسان باشد. و بسیاری از مردم از وجود چنین فناوری غافل هستند ، بنابراین حتی تعویض صورت با کیفیت پایین می تواند مردم را فریب دهد.
تا به امروز ، من هرگز در حذف هیچ یک از تصاویر به طور کامل موفق نبوده ام. برای همیشه ، آن وجود خواهد داشت مهم نیست چه کار می کنم.
نوئل مارتین ، فعال استرالیایی
Y خود را به عنوان ابزاری امن و مسئول برای کاوش در تخیلات جنسی نشان می دهد. زبان موجود در سایت کاربران را تشویق می کند تا چهره خود را بارگذاری کنند. اما هیچ چیز مانع از بارگذاری چهره افراد دیگر نمی شود و نظرات در انجمن های آنلاین نشان می دهد که کاربران قبلاً همین کار را کرده اند.
عواقبی که زنان و دختران می توانند با چنین فعالیتهایی هدف قرار دهند می تواند خرد کننده باشد. در سطح روانشناختی ، این ویدئوها می توانند مانند پورنو انتقام جویانه نقض کننده باشند – ویدئوهای صمیمی واقعی که بدون رضایت فیلمبرداری یا منتشر شده اند. نوئل مارتین ، فعال استرالیایی که هدف کمپین های پورنو تقلبی قرار گرفته است ، می گوید: “این نوع سوء استفاده – جایی که افراد هویت ، نام ، شهرت شما را نادرست نشان می دهند و آن را به شیوه های متخلفی تغییر می دهند – شما را به هم می ریزد.”
و عواقب آن می تواند با قربانیان مادام العمر باقی بماند. حذف تصاویر و ویدئوها از اینترنت دشوار است و می توان در هر زمان مواد جدیدی ایجاد کرد. “این بر روابط بین فردی شما تأثیر می گذارد. با ایجاد شغل بر شما تأثیر می گذارد هر مصاحبه شغلی که برای آن مراجعه می کنید ، ممکن است این مورد مطرح شود. روابط بالقوه عاشقانه ، “مارتین می گوید. “تا به امروز ، من هرگز در حذف هیچ یک از تصاویر به طور کامل موفق نبوده ام. برای همیشه ، آن وجود خواهد داشت مهم نیست من چه کار می کنم. ”
گاهی اوقات حتی از پورن انتقام پیچیده تر است. دوج می گوید چون محتوا واقعی نیست ، زنان می توانند شک کنند که آیا مستحق احساس آسیب هستند و آیا باید آن را گزارش کنند. او می گوید: “اگر کسی با این موضوع که آیا واقعاً قربانی شده است دست و پنجه نرم می کند ، این امر توانایی بهبود او را مختل می کند.”
پورنوهای تقلبی عمیق و غیرمعمول همچنین می تواند تأثیرات اقتصادی و شغلی داشته باشد. رعنا ایوب ، روزنامه نگار هندی که قربانی یک کمپین پورن جعلی عمیق شد ، پس از آن چنان آزار و اذیت آنلاین شد که مجبور شد حضور آنلاین خود را به حداقل برساند و بنابراین مشخصات عمومی مورد نیاز برای انجام کارش. هلن مورت ، شاعر و پخش کننده بریتانیایی که قبلاً داستان خود را با MIT Technology Review به اشتراک گذاشت ، گفت که پس از کشف اینکه عکس های او از حساب های خصوصی رسانه های اجتماعی برای ایجاد برهنگی های جعلی به سرقت رفته است ، برای انجام این کار تحت فشار قرار گرفت.
سوفی مورتیمر ، مدیر خدمات ، می گوید: خط راهنمای انتقام پورن که توسط دولت انگلیس تأمین شده است ، اخیراً موردی را از معلمی دریافت کرد که پس از انتشار تصاویر پورنوگرافی عمیق از وی در رسانه های اجتماعی شغل خود را از دست داده بود. دوج می گوید: “اوضاع بدتر می شود ، نه بهتر.” زنان بیشتری از این طریق مورد هدف قرار می گیرند. “
ایدر می گوید ، گزینه Y برای ایجاد پورنوهای همجنس گرا عمیق ، اگرچه محدود است ، اما تهدیدی اضافی برای مردان در کشورهایی است که همجنس گرایی در آنها جرم شناخته شده است. این امر در 71 حوزه قضایی در سطح جهان صدق می کند که 11 مورد از آنها این جرم را با اعدام مجازات می کنند.
ایدر ، که در چند سال گذشته تعداد زیادی برنامه پورنو جعلی کشف کرده است ، می گوید سعی کرده با سرویس میزبانی Y تماس بگیرد و آن را به صورت آفلاین مجبور کند. اما او نسبت به جلوگیری از ایجاد ابزارهای مشابه بدبین است. در حال حاضر ، سایت دیگری ظاهر شده است که به نظر می رسد همان کار را انجام می دهد. او فکر می کند ممنوعیت چنین محتواهایی در بسترهای رسانه های اجتماعی ، و شاید حتی غیرقانونی ساختن یا مصرف آنها ، راه حل پایدار تری باشد. او می گوید: “این بدان معناست که این وب سایت ها مانند مطالب وب تاریک رفتار می شوند.” “حتی اگر به زیر زمین رانده شود ، حداقل آن را از چشم مردم عادی دور می کند.”
Y در ایمیل مطبوعاتی ذکر شده در سایت خود به درخواست های متعدد برای اظهار نظر پاسخ نداد. اطلاعات ثبت نامی مرتبط با دامنه نیز توسط سرویس حفظ حریم خصوصی “محرمانه حفظ می شود” مسدود می شود. در 17 آگوست ، پس از اینکه MIT Technology Review سومین تلاش خود را برای رسیدن به سازنده انجام داد ، سایت اعلانی در صفحه اصلی خود قرار داد که می گفت دیگر برای کاربران جدید در دسترس نیست. تا 12 سپتامبر ، اعلامیه هنوز وجود داشت.