ChatGPT سن کاربران را تشخیص میدهد؛ OpenAI به دنبال فیلتر سنی کاربران

تشخیص سن در ChatGPT فعال میشود

شرکت اوپن ایآی (OpenAI)، سازنده هوش مصنوعی ChatGPT، قصد دارد قابلیت تشخیص سن کاربران را به صورت جهانی برای حساب های کاربری فعال کند؛ اقدامی که با هدف محدودسازی دسترسی کاربران خردسال و کنترل محتوای تولیدی انجام میشود.

پیوستن OpenAI به موج محدود سازی سنی کاربران

اوپن ایآی جدیدترین شرکتی است که به موج جهانی اعمال محدودیت دسترسی بر اساس سن کاربران پیوسته است. این شرکت اعلام کرده در حال آغاز عرضه جهانی ابزاری است که میتواند تشخیص دهد آیا کاربر زیر سن قانونی قرار دارد یا خیر.

ابزار تشخیص سن ChatGPT چگونه کار میکند؟

بر اساس اطلاعیه رسمی اوپن ایآی، مدل تشخیص سن ChatGPT از ترکیبی از سیگنالهای رفتاری و اطلاعات حساب کاربری استفاده میکند.
این سیگنالها شامل موارد زیر است:

مدت زمان فعال بودن حساب کاربری
ساعات معمول فعالیت کاربر در طول شبانه روز
الگوی استفاده در بازه های زمانی مختلف
سن اعلام شده توسط کاربر
این داده ها به صورت همزمان تحلیل میشوند تا وضعیت سنی کاربر مشخص شود.

تشخیص اشتباه؟ ارسال سلفی برای احراز سن

در صورتی که ChatGPT به اشتباه کاربری را «زیر سن قانونی» تشخیص دهد، آن کاربر باید برای رفع محدودیت، یک عکس سلفی ارسال کند.فرآیند احراز سن از طریق پلتفرم تایید هویت Persona انجام میشود تا خطای سیستم اصلاح شود.

انتقادها به سیاستهای دیرهنگام ایمنی اوپنایآی

منتقدان معتقدند اغلب شرکت های فعال در حوزه هوش مصنوعی ابتدا ویژگی های جدید را عرضه میکنند و پس از بروز آسیب ها به فکر اعمال محدودیت و سازوکارهای ایمنی میافتند.
در همین راستا، نام اوپن ایآی پیشتر در پروندهای جنجالی درباره مرگ یک نوجوان که allegedly از ChatGPT برای برنامه ریزی خودکشی استفاده کرده بود، مطرح شد؛ موضوعی که باعث شد این شرکت پس از آن، محدودیتهای محتوایی برای کاربران خردسال و شورای مشاوره سلامت روان را راه اندازی کند.

هدف نهایی؛ آمادهسازی «حالت بزرگسال» در ChatGPT؟

گزارشها نشان میدهد یکی از اهداف اصلی اوپن ایآی از تشخیص سن، آماده سازی زیرساخت برای راه اندازی «حالت بزرگسال» در ChatGPT است؛ حالتی که به کاربران اجازه میدهد محتوای مخصوص بزرگسالان را تولید و مصرف کنند.
با این حال، تجربه پلتفرم هایی مانند Roblox نشان داده که کاربران زیر سن قانونی معمولا راه هایی برای دور زدن ابزارهای تشخیص سن پیدا میکنند؛ موضوعی که میتواند چالش بزرگی برای اوپن ایآی باشد.