آغاز عصر کنترل هوش مصنوعی در چین

به گزارش وبگاه خبری رویترز، سازمان تنظیم مقررات فضای مجازی چین روز شنبه، مورخ ۲۷ دسامبر، پیش‌نویس قوانین تازه‌ای را منتشر کرد که هدف آن کنترل سرویس‌های هوش مصنوعی است که برای شبیه‌سازی شخصیت انسان و برقراری تعامل عاطفی طراحی شده‌اند. این اقدام تلاش پکن برای مدیریت تبعات اجتماعی توسعه سریع هوش مصنوعی و تقویت استانداردهای ایمنی و اخلاقی در محصولات مبتنی بر این فناوری را برجسته می‌سازد.

طبق این مقررات، ارائه‌دهندگان سرویس‌هایی که ویژگی‌های شخصیتی، الگوهای تفکر و سبک‌های ارتباطی انسان را از طریق متن، صدا یا تصویر تقلید می‌کنند، مسئولیت‌های جدیدی خواهند داشت. آن‌ها ملزم هستند ضمن ایجاد سیستم‌های دقیق برای بررسی الگوریتم‌ها و امنیت داده‌ها، در تمام چرخه عمر محصول مسئولیت ایمنی روانی آن را بر عهده بگیرند و مکانیزم‌هایی برای جلوگیری از وابستگی کاربران طراحی کنند.

نکته انقلابی در این پیش‌نویس، الزام شرکت‌ها به پایش وضعیت روانی کاربران است. در همین راستا، پلتفرم‌ها باید قادر باشند سطح وابستگی و وضعیت احساسی کاربر را ارزیابی کنند. اگر تشخیص داده شود که کاربری دچار «اعتیاد» شده یا هیجانات افراطی نسبت به هوش مصنوعی نشان می‌دهد، شرکت ارائه‌دهنده موظف است فوراً مداخله کرده و هشدارهای لازم را برای کاهش استفاده صادر کند.

علاوه بر جنبه‌های روان‌شناختی، خطوط قرمز سنتی چین نیز در این سند پررنگ شده‌اند. سرویس‌های هوش مصنوعی اجازه ندارند محتوایی تولید کنند که امنیت ملی را به خطر بیندازد، شایعه‌پراکنی کند یا مروج خشونت و محتوای غیراخلاقی باشد. به عقیده کارشناسان، این قوانین تلاشی برای ایجاد تعادل میان نوآوری تکنولوژیک و سلامت اجتماعی در عصر دیجیتال است.