ابتکار جدید «اوپن ای آی» برای مبارزه با سوءاستفاده از کودکان

۹ بازدید  |  1405/08/26  | 

«اوپن ای آی» از ویژگی های جدیدی برای طبقه بندی تصویر و هشدارهای جدید «چت جی پی تی» برای مبارزه با سوءاستفاده از کودکان رونمایی کرده است.

مشاهده آلبوم تصاویر
ابتکار جدید «اوپن ای آی» برای مبارزه با سوءاستفاده از کودکان
ابتکار جدید «اوپن ای آی» برای مبارزه با سوءاستفاده از کودکان

به گزارش انجمن خرد آورده شده از ایسنادر میان نگرانی های ایمنی روبه رشد درباره استفاده از محصولات هوش مصنوعی، «اوپن ای آی»(OpenAI) از ویژگی های جدیدی برای مبارزه با سوءاستفاده از کودکان خبر داد.

به نقل از تک کرانچ،این ویژگی ها شامل یک طبقه بندی کننده تصویر برای تشخیص سوءاستفاده از کودکان، هشدارها و مسدودسازی موقت برای جلوگیری از ایجاد محتوای جنسی درباره کودکان یا دسترسی کاربران به آنها، یک دستورالعمل جدید برای توسعه دهندگان و مجموعه ای از ابزار برای اجرای قانون هستند.

این شرکت یک طبقه بندی کننده تصویر جدید را معرفی کرد که می تواند تصاویر سوءاستفاده از کودکان را تشخیص دهد؛ از جمله تصاویری که توسط هوش مصنوعی تولید شده اند. اوپن ای آی امکان دسترسی به طبقه بندی کننده جدید خود را از طریق API خود و بدون هزینه به شرکت های انتخاب شده می دهد. این ویژگی به دنبال نشانه های بصری سوءاستفاده در تصاویر است که قبلا دیده نشده اند و امتیازی را تعیین می کند که می تواند راهنمایی هایی را به بازبینی کنندگان درباره برخورد با سوءاستفاده از کودکان ارائه دهد.

اوپن ای آی گفت که این طبقه بندی کننده را با همکاری «مرکز ملی کودکان گمشده و مورد سوءاستفاده»(ncmec) توسعه داده است و با سازمان های «Tech Coalition» و «ROOST» برای به اشتراک گذاشتن دسترسی به آن کار می کند. شرکت هوش مصنوعی در آزمایش اولیه خود با شرکا دریافت که طبقه بندی کننده، تصاویر را تا ۴۸ درصد کمتر نشان می دهد، اما همان تعداد تصاویر مربوط به سوءاستفاده را پیدا می کند و کار بازبینی کنندگان را کاهش می دهد. علاوه بر این، تصاویری که توسط طبقه بندی کننده علامت گذاری شده اند، دو برابر بیشتر احتمال دارد که تصاویر توهین آمیز باشند.

علاوه بر این، اوپن ای آی صفحه های هشدار جدید را به چت بات «چت جی پی تی»(ChatGPT) اضافه کرده است تا از دسترسی کاربران به محتوای جنسی درباره کودکان جلوگیری کند. چت جی پی تی به کاربرانی که چنین درخواست هایی را دارند هشدار می دهد، کاربران را به سمت پشتیبانی تخصصی برای متوقف کردن رفتار مضر هدایت می کند و حساب آنها را به عنوان هشدار برای ۲۴ ساعت تعلیق می کند. این برنامه در حال حاضر محتوای سوءاستفاده از کودکان و درخواست های مربوط به آن را مسدود می کند. گفته شده است که تخلفات مکرر می تواند به حذف دائمی حساب کاربری منجر شود.

منبع: https://www.isna.ir/news/1405082617896
اوپن ای آی چت جی پی تی دنیای هوش مصنوعی حذف فیلتر
بازگشت به لیست

مطالب مشابه پیشنهادی