مایکروسافت به ائتلافی برای حذف محتوای غیراخلاقی انتقامی و دیپ‌فیک از بینگ پیوست

مایکروسافت اعلام کرد برای حذف محتوای غیراخلاقی انتقامی و دیپ‌فیک ساخته‌شده با هوش مصنوعی، با سازمان غیرانتفاعی StopNCII همکاری خواهد کرد.
زمانی‌ که قربانی‌ها پرونده‌ای در StopNCII باز می‌کنند، این سازمان «کد هش» تصویر یا ویدیو را که در واقع اثر انگشت دیجیتلی است، بدون‌ نیاز به آپلود فایل مذکور روی دستگاه کاربر ایجاد می‌کند. کد هش در مرحله‌ی بعد برای سایر شرکت‌هایی که در آن برنامه مشارکت کرده‌اند، ارسال می‌شود. شرکت‌ها می‌توانند با تطبیق کد هش با تصاویر و ویدیوهای موجود، موارد مشابه را شناسایی و در صورت نقض قوانین محتوایی پلتفرم خود، آن‌ها را حذف کنند. این فرایند برای تصاویر و ویدیوهای دیپ‌فیک ساخته‌شده با هوش مصنوعی از افراد واقعی نیز اجرا می‌شود.
تاکنون چندین شرکت فناوری برای حذف تصاویر غیراخلاقی انتقامی منتشرشده با StopNCII همکاری کرده‌اند. متا به ساخت این ابزار کمک کرده است و از آن در پلتفرم‌های فیسبوک، اینستاگرام و تردز استفاده می‌کند؛ تیک‌تاک، ردیت، اسنپ و چند شرکت دیگر نیز در برنامه‌ی مذکور مشارکت دارند.