مایکروسافت امروز چندین اعلامیه در مورد ویژگی های ایمنی هوش مصنوعی مولد منتشر کرد. اینها شامل یک ابزار جدید در Azure AI Content Safety است که برای تشخیص و اصلاح محتوای توهم زده ساخته شده توسط هوش مصنوعی طراحی شده است. مایکروسافت همچنین اعلام کرد که سرویس Azure OpenAI آن شروع به قرار دادن واترمارک های نامرئی در تصاویری میکند که از طریق DALL-E 3 در سرویس ایجاد میشوند.
مایکروسافت هنوز با اعلامیه های ایمنی هوش مصنوعی تمام نشده است. امروز، همچنین اعلام کرد که پیش نمایش عمومی API چند وجهی جدید خود را در سرویس Azure AI Content Safety آغاز کرده است. این API محتوای مضر یا نامناسب در برنامه ها و خدماتی که توسط انسان ها و ابزارهای هوش مصنوعی ایجاد میشوند را تشخیص میدهد.
در یک پست وبلاگی، مایکروسافت اظهار داشت:
API چند وجهی هم ورودی متن و هم تصویر را میپذیرد. این API برای انجام تشخیص چند کلاسه و چند شدت طراحی شده است، به این معنی که میتواند محتوای چندین دسته را طبقه بندی کند و به هر کدام یک نمره شدت اختصاص دهد. برای هر دسته، سیستم یک سطح شدت در مقیاس 0، 2، 4 یا 6 را برمیگرداند. هرچه عدد بالاتر باشد، محتوای شدید تر است.
API چند وجهی جدید برای تشخیص محتوای متن و تصویر، از جمله ایموجی ها، که ممکن است محتوای مضر، ناامن یا نامناسب داشته باشند، طراحی شده است. این شامل موضوعاتی مانند محتوای صریح، گفتار نفرت آمیز، خشونت و خود آزاری میشود. مایکروسافت همچنین میگوید که این API میتواند چنین محتوایی را حتی اگر در ترکیبی از متن و تصویر گنجانده شده باشد، پیدا کند. این API میتواند محتوای مضر را تشخیص دهد، که ممکن است اگر متن و تصویر به تنهایی مشاهده شوند، واضح نباشد.
مایکروسافت افزود:
با رسیدگی به این اهداف، ویژگی تشخیص چند وجهی یک محیط کاربری ایمن تر و محترم تر را تضمین میکند که در آن تولید محتوا خلاقانه و در عین حال مسئولانه باشد.
مایکروسافت همچنین میگوید API چند وجهی جدید میتواند محتوای مضر را به سرعت تشخیص دهد تا به کاربران برنامه ها یا خدمات منتشر نشود.