الگوریتم برنده در چالش تشخیص دیپ‌فیک فیسبوک یک‌سوم از پاسخ‌ها را اشتباه حدس زد

2020-06-13
به گزارش سرویس فناوری موتور جستجوی خبری آک تک به نقل از زومیت فیسبوک نتایج اولین چالش تشخیص دیپ‌فیک (Deepfake Detection Challenge) خود را منتشر کرد. این چالش رقابتی برای تمامی افراد به‌منظور یافتن الگوریتم‌هایی است که می‌توانند ویدئوهای دست‌کاری‌گردیده با هوش مصنوعی را تشخیص دهند. اگرچه نتایج امیدوارکننده هستند، درعین‌حال نشان می‌دهند پیش از اینکه سیستم‌های خودکارگردیده بتواند محتوای ...

به گزارش سرویس فناوری موتور جستجوی خبری آک تک به نقل از زومیت

فیسبوک نتایج اولین چالش تشخیص دیپ‌فیک (Deepfake Detection Challenge) خود را منتشر کرد. این چالش رقابتی برای تمامی افراد به‌منظور یافتن الگوریتم‌هایی است که می‌توانند ویدئوهای دست‌کاری‌گردیده با هوش مصنوعی را تشخیص دهند. اگرچه نتایج امیدوارکننده هستند، درعین‌حال نشان می‌دهند پیش از اینکه سیستم‌های خودکارگردیده بتواند محتوای دیپ‌فیک را کاملا تشخیص دهد، هنوز مسیر ناپیموده‌ی طول‌ودرازی در پیش است. دلیل چنین ادعایی، اظهارات محققان درباره‌ی موضوع تشخیص کامل محتوای دیپ‌فیک به‌عنوان مشکلی حل‌نگردیده است.

فیسبوک می‌گوید الگوریتم برنده در این رقابت توانست «نمونه‌های چالش‌برانگیزِ دنیای واقعی» از دیپ‌فیک را با دقت متوسط ۶۵٫۱۸ درصد تشخیص دهد. با اینکه چنین رقمی چندان هم بد به‌نظر نمی‌رسد، آن‌قدر عملکردی نیست که کاربران از سیستم خودکارگردیده انتظار دارند.

دیپ‌فیک ثابت کرده است تهدیدی بیش‌ازحد برای رسانه‌های اجتماعی است. این فناوری به افزایش بیش‌ازحد نگرانی‌ها درباره‌ی ازبین‌رفتن مدارک ویدئویی موثق منجر گردیده؛ ولی تأثیرات سیاسی آن تاکنون بسیار کمتر بوده است. درواقع، خسارت تقریبا آنی دیپ‌فیک ایجاد محتوای پورنوگرافی غیرمجاز، یعنی دسته‌ای از محتوا برای پلتفرم‌های رسانه‌های اجتماعی است که راحت‌تر می‌توان آن‌ها را تشخیص داد و حذف کرد. مدیر ارگردید فناوری فیسبوک، مایک چروپفر، در تماسی مطبوعاتی به خبرنگاران گفت از نتایج این چالش بسیار خرسند است. به‌گفته‌ی او، این رقابت معیاری را برای محققان ایجاد و در آینده، آن‌ها را در انجام وظایفشان راهنمایی می‌کند. وی گفت: «اگر صادقانه بگویم، این رقابت بسیار موفق‌‌تر از آن ‌چیزی بود که همیشه انتظار داشتم».

در ادامه بخوانید:

درحدود ۲۱۱۴ شرکت‌کننده بیش‌ از ۳۵ هزار الگوریتم تشخیص را به این مسابقه ارسال کردند. این الگوریتم‌ها براساس توانایی‌شان برای تشخیص ویدئوهای دیپ‌فیک از بین مجموعه‌‌داده‌ای متشکل از ۱۰۰ هزار ویدئو کوتاه سنجیده گردیدند. فیسبوک بیش از سه‌هزار بازیگر را برای ساخت این ویدئوها استخدام کرده بود. این افراد مکالماتی را در محیط‌های واقع‌گرایانه‌ ضبط کرده بودند و با چسباندن چهره‌ی برخی دیگر از بازیگران با استفاده از هوش مصنوعی، تعدادی از ویدئوهای یادگردیده تغییر داده گردیدند. 

محققان برای آموزش الگوریتم‌های خودشان به این داده‌ها دسترسی پیدا کردند و هنگام انجام آزمایش روی این ویدئوها، میزان دقت الگوریتم‌‌‌‌‌‌ها برای تشخیص محتوای دیپ‌فیک در بیشترین حالت ۸۲/۵۶ درصد بود. بااین‌حال، هنگام آزمایش روی مجموعه‌داده‌ی «جعبه‌ی سیاه» متشکل از تصاویر دیده‌نگردیده، دقت همین الگوریتم‌ها در بهترین حالت تنها ۶۵٫۱۸ درصد بود. چنین موضوعی نشان می‌دهد تشخیص دیپ‌فیک در عالم  واقعی، مسئله‌ای بسیار دشوار است.

مایک چروپفر می‌گوید جدا از این رقابت، درحال‌حاضر فیسبوک مشغول توسعه‌ی فناوری تشخیص دیپ‌فیک خودش است. سال قبل، این غول فناوری اعلام کرد در حال مسدودکردن محتوای دیپ‌فیک است. بااین‌حال، منتقدان گفتند تهدید بسیار بزرگ‌تر ویدئوهای به‌اصطلاح شَلوفیک (Shallowfake) هستند که با استفاده از ابزارهای سنتی ویرایش گردیده‌اند.

الگوریتم‌های برنده در این رقابت به‌عنوان کدهای متن‌باز برای کمک به سایر محققان منتشر خواهند گردید؛ ولی فیسبوک گفت برای جلوگیری از انجام مهندسی ‌معکوس روی الگوریتم این شرکت، فناوری تشخیص دیپ‌فیک خودش را مخفی نگه خواهد داشت.

منبع : زومیت
به صفحه اخبار فناوری بروید و دیگر خبرها را مشاهده نمایید.

© تمامی حقوق برای آک تک محفوظ است. نقشه سایت