سم آلتمن راز شبکه های اجتماعی را فاش کرد
سم آلتمن اخیراً هشدار داده شبکه‌های اجتماعی به‌قدری پر از محتوای مصنوعی شده‌اند که تشخیص واقعی بودن پست‌ها به سختی ممکن است.
به گزارش تک‌کرانچ، سم آلتمن، مدیرعامل اپن‌ای‌آی اعلام کرد شبکه‌های اجتماعی به‌قدری از ربات‌ها پر شده‌اند که تشخیص واقعی بودن پست‌ها تقریباً غیرممکن شده است. او تجربه خود از خواندن پست‌های مربوط بهOpenAI Codex در ردیت را مثال زد و از این وضعیت ابراز شگفتی کرد.
آلتمن هنگام مطالعه ساب‌ردیت r/Claudecode، که در آن کاربران Codex را ستایش می‌کردند، متوجه شد که نمی‌تواند تفاوت بین پست‌های واقعی و تولیدشده توسط ربات‌ها را تشخیص دهد. او در شبکه ایکس نوشت: «تجربه عجیبی بود؛ فرض می‌کنم همه پست‌ها جعلی یا ربات باشند، حتی وقتی می‌دانم رشد Codex واقعی و روند آن معتبر است.»ساب‌ردیت‌ها بخش‌های موضوعی اختصاصی در ردیت هستند که کاربران می‌توانند در آن‌ها پست منتشر کنند و درباره یک موضوع خاص بحث و تبادل نظر کنند.او تحلیل کرد که دلایل این وضعیت شامل موارد زیر است: تقلید کاربران واقعی از لحن و سبک گفتاری مدل‌های زبان بزرگ (LLM)، رفتار همبسته کاربران آنلاین، چرخه‌های تبلیغاتی شدید، فشار بهینه‌سازی شبکه‌های اجتماعی برای افزایش تعامل و حتی عملیات تبلیغاتی شرکت‌های دیگر که باعث حساسیت بیشتر او شده است.آلتمن همچنین به مشکل انگیزه‌ها در شبکه‌های اجتماعی اشاره کرد: وقتی سایت‌ها و سازندگان محتوا برای کسب درآمد وابسته به تعامل کاربران هستند، این امر می‌تواند باعث تشدید رفتارهای غیرواقعی شود. او افزود که یکی از دلایل تصورش درباره جعلی بودن پست‌های طرفدار اپن‌ای آی، احتمال تبلیغات مخفی توسط رقیبان است.
همزمان، داده‌ها نشان می‌دهند که مشکل جعلی بودن پست‌ها تنها به ردیت محدود نیست. شرکت امنیت داده Imperva گزارش داده که بیش از نیمی از ترافیک اینترنت در سال ۲۰۲۴ غیرانسانی بوده و عمدتاً ناشی از مدل‌های LLM است. همچنین ایکس خود اعلام کرده صدها میلیون ربات در این شبکه فعالیت دارند.آلتمن نتیجه گرفت: «نتیجه این است که هوش مصنوعی ایکس و ردیت به‌گونه‌ای جعلی به نظر می‌رسد که یک یا دو سال پیش چنین نبود.» او هشدار می‌دهد که مدل‌های GPT نه تنها شبکه‌های اجتماعی بلکه مدارس، رسانه‌ها و دادگاه‌ها را هم تحت تأثیر خود قرار داده‌اند.