متا ناچار به بازنگری مکالمات چتباتهایش با کودکان شد
پس از ماهها انتقاد و آغاز تحقیقات نهادهای نظارتی، شرکت متا اعلام کرد چارچوب رفتاری چتباتهای هوش مصنوعی خود را بازنگری میکند تا از شکلگیری مکالمات نامناسب با کاربران کمسن جلوگیری شود.
به گزارش انگجت، شرکت متا به تازگی مقررات بازنگریشدهای را منتشر کرده است تا کنترل بیشتری بر گفتگوهای رباتهای هوش مصنوعی با کودکان اعمال کند. این دستورالعملها در پی فشارهای نهادهای نظارتی نشان میدهد متا تلاش میکند از گفتوگوهای نامناسب با کاربران زیر سن قانونی جلوگیری کند (از جمله نقشبازیهای عاشقانه یا بحث درباره تماس فیزیکی احتمالی).
شرکت متا اعلام کرده که در اوت ۲۰۲۵ (مرداد–شهریور ۱۴۰۴) دستورالعملهای راهنمایی مرتبط با چت باتهای مبتنی بر هوش مصنوعی را بروزرسانی کرده است تا خطرات احتمالی گفتگوهای نامناسب با کودکان را کاهش دهد. این تصمیم پس از آن گرفته شد که گزارش رویترز نشان داد سیاستهای متا به رباتهایش اجازه داده وارد مکالمات رمانتیک یا حسی با کودکان شوند.متن افشا شده از این دستورالعملها، به تفصیل شرح میدهد که چه نوع محتوایی «قابل پذیرفتن» است و چه محتوایی «غیراختیاری» خواهد بود. به طور خاص، این دستورالعملها شامل موارد زیر هستند:ممنوعیت محتوایی که «فعال یا تشویقکننده یا تأییدکننده» سوءاستفاده جنسی از کودکان باشد.ممنوعیت نقشبازی عاشقانه اگر کاربر یا نقش ایفا شده، کودک باشد.ممنوعیت ارائه مشاوره درباره تماس جسمانی یا رابطه فیزیکی در صورتی که مخاطب زیر سن قانونی باشد.در عین حال، رباتها میتوانند درباره موضوعاتی مثل سوءاستفاده صحبت کنند، به شرط آنکه وارد مکالمهای شوند که امکان سوءاستفاده یا تشویق به آن را فراهم نکند.چند ماه گذشته، چت باتهای هوش مصنوعی متا در مرکز نگرانیهای جدی قرار گرفتهاند؛ منتقدان هشدار دادهاند که چنین سیستمهایی ممکن است به کودکان صدمه بزنند یا آنها را در مسیر گفتوگوهای نامناسب قرار دهند. در همین راستا، کمیسیون تجارت فدرال آمریکا (FTC) در اوت ۲۰۲۵ تحقیقی رسمی درباره چت باتهای همراه (companion AI) به راه انداخته است که نه فقط شامل خدمات متا، بلکه شرکتهایی مانند آلفابت (گوگل)، اسنپ، اپنایآی و X.AI را نیز در بر میگیرد.