به نقل از خبرواژه، شرکت OpenAI با هدف مقابله با گسترش تصاویر جعلی و محتوای دیپفیک، از دو لایه حفاظتی نوین شامل استاندارد بینالمللی C2PA و فناوری واترمارک نامرئی گوگل (SynthID) رونمایی کرد تا فرآیند اصالتسنجی محتوای دیجیتال را برای کاربران تسهیل کند.
مقابله با چالش تشخیص واقعیت در عصر هوش مصنوعی
همزمان با افزایش بیسابقه دقت مدلهای مولد تصویر و دشوار شدن تشخیص اصالت محتوا برای چشم انسان، شرکت OpenAI راهکارهای جدیدی را برای شفافسازی منشأ تصاویر معرفی کرده است. این شرکت با اتکا به دو فناوری مکمل، در صدد است تا ردپایی غیرقابل حذف بر روی تمامی خروجیهای بصری محصولات خود به جا بگذارد.
تلفیق استاندارد C2PA و فناوری SynthID
در گام نخست، OpenAI به استاندارد متنباز «مجمع اصالت و امنیت محتوا» (C2PA) متعهد شده است؛ این پروتکل سیگنالهای واضحی را در متادیتای فایل ذخیره میکند که نشاندهنده تولید تصویر توسط هوش مصنوعی است. با این حال، از آنجا که دادههای متادیتا توسط کاربران پیشرفته قابل دستکاری یا حذف هستند، این شرکت در یک همکاری راهبردی با گوگل، سیستم اصالتسنجی خود را به فناوری «SynthID» مجهز کرده است.
طبق بیانیه رسمی این شرکت، SynthID یک واترمارک دیجیتال کاملاً نامرئی است که به عنوان لایهای مقاوم در برابر تغییرات فیزیکی عمل میکند. این مکانیزم به گونهای طراحی شده است که حتی در صورت اعمال تغییراتی نظیر تغییر ابعاد (Resize)، ثبت اسکرینشات یا ویرایشهای دیجیتال توسط بازیگران مخرب، همچنان در بافت تصویر باقی مانده و اصالت آن را فاش میکند.
ابزار راستآزمایی عمومی
علاوه بر لایههای امنیتی، OpenAI نسخهای آزمایشی از یک ابزار راستآزمایی عمومی (Verification Tool) را به نمایش گذاشته است که به کاربران اجازه میدهد هر تصویری را جهت بررسی وجود سیگنالهای C2PA یا واترمارک SynthID اسکن کنند. در فاز اولیه، این ابزار حفاظتی صرفاً تصاویر تولید شده توسط محصولات بومی OpenAI را پشتیبانی میکند، اما این کمپانی ابراز امیدواری کرده است که با پذیرش این استانداردها توسط سایر بازیگران بزرگ فناوری، این چتر حمایتی در آینده کل اکوسیستم هوش مصنوعی را در بر بگیرد.
برای دریافت جدیدترین آموزشها و اخبار حوزه فناوری، وبسایت خبرواژه را دنبال کنید.
