گوگل روز چهارشنبه اعلام کرد، اطلاعاتی به نام نشانه گذاری را در تصاویر ایجاد شده توسط مدل های هوش مصنوعی خود تعبیه می کند تا به مردم هشدار دهد که تصاویر در ابتدا توسط یک رایانه ایجاد شده اند.

داده‌های داخل تصاویر برای چشم انسان قابل مشاهده نخواهد بود، اما نرم‌افزارهایی مانند جستجوی گوگل می‌توانند آن‌ها را بخوانند و سپس برچسب هشداری را برای کاربران نمایش دهند. گوگل همچنین اطلاعات بیشتری را در مورد همه تصاویر در نتایج خود ارائه می دهد تا از فریب جلوگیری کند، از جمله زمانی که تصویر برای اولین بار در موتور جستجو بارگذاری شده است و آیا سایت های خبری به آن استناد کرده اند یا خیر.

یکی از نمونه‌های هشدار ارائه‌شده توسط گوگل می‌گوید: «تصویر به‌عنوان تولید هوش مصنوعی برچسب‌گذاری می‌شود».

این اقدام مهم‌ترین تلاش یک شرکت فناوری بزرگ تاکنون برای برچسب‌گذاری و طبقه‌بندی خروجی از به اصطلاح هوش مصنوعی مولد است. مقامات و کارکنان فناوری هشدار داده‌اند که توانایی‌های این فناوری برای ایجاد تصاویر واقعی یا متن‌های روان می‌تواند به ارسال‌کنندگان هرزنامه، کلاهبرداران و تبلیغ‌کنندگان کمک کند تا مردم را فریب دهند.

برای مثال، تصویری که اخیراً از پاپ فرانسیس در یک ژاکت زمستانی شیک ایجاد شده در اپلیکیشن Midjourney منتشر شد و برخی از مردم را فریب داد تا فکر کنند واقعی است.

یکی از مسائلی که صنعت هوش مصنوعی با آن مواجه است این است که هیچ روش قابل اعتمادی برای تعیین تصاویر تولید شده وجود ندارد. در حالی که اغلب سرنخ‌هایی وجود دارد، مانند دست‌هایی که به‌خوبی طراحی شده‌اند، اما راه قطعی برای گفتن اینکه کدام تصاویر توسط رایانه ساخته شده‌اند و کدام توسط یک انسان کشیده یا عکس‌برداری شده‌اند، وجود ندارد.

رویکرد گوگل این است که وقتی تصاویر از سیستم هوش مصنوعی بیرون می آیند، به جای اینکه بعداً واقعی بودن آنها را مشخص کند، برچسب گذاری می کند. گوگل گفت Shutterstock و Midjourney از این رویکرد نشانه گذاری جدید پشتیبانی خواهند کرد. اسناد توسعه‌دهنده گوگل می‌گوید این نشانه‌گذاری می‌تواند تصاویر را به عنوان رسانه‌های الگوریتمی آموزش دیده طبقه‌بندی کند که توسط یک مدل هوش مصنوعی ساخته شده است. یک تصویر ترکیبی که تا حدی با یک مدل هوش مصنوعی ساخته شده است. یا رسانه الگوریتمی، که توسط یک کامپیوتر ایجاد شده است، اما بر اساس داده های آموزشی نیست.

گوگل کنفرانس سالانه توسعه دهندگان خود را چهارشنبه برگزار کرد و در آنجا تلفن تاشو 1799 دلاری و ویژگی های هوش مصنوعی اضافی را برای سایر محصولات گوگل از جمله تولید کننده تصویر اعلام کرد.