هوش مصنوعی که خود را جای دیگری جا می زند

مدل‌هایی مانند چت‌جی‌پی‌تی و دیپ‌سیک وی۳، سیستم‌های آماری هستند که روی میلیاردها داده آموزش دیده‌اند تا الگوهایی را از آنها بیاموزند و پیش‌بینی‌هایی را ارائه دهند. دیپ‌سیک اطلاعات زیادی را درباره منبع داده‌های آموزشی دیپ‌سیک وی۳ فاش نکرده است، اما هیچ کمبودی در مجموعه داده‌های عمومی حاوی متن تولیدشده توسط GPT-4 وجود ندارد. اگر دیپ‌سیک وی۳ روی این داده‌ها آموزش دیده بود، امکان داشت برخی از خروجی‌های GPT-4 را به خاطر بسپارد و اکنون آنها را کلمه به کلمه بازیابی کند.

«مایک کوک»(Mike Cook)، پژوهشگر «کینگز کالج لندن»(KCL) که در زمینه هوش مصنوعی تخصص دارد، گفت: بدیهی است که این مدل در مقطعی شاهد پاسخ‌های خام از چت‌جی‌پی‌تی باشد، اما مشخص نیست که در کدام مقطع. ممکن است این موضوع تصادفی باشد، اما متأسفانه مواردی را دیده‌ایم که افراد مستقیما مدل‌های خود را روی خروجی مدل‌های دیگر آموزش می‌دهند تا از دانش آنها استفاده کنند.

کوک خاطرنشان کرد که آموزش دادن مدل‌ها روی خروجی سیستم‌های هوش مصنوعی رقیب می‌تواند پیامدهای بسیار بدی را برای کیفیت مدل داشته باشد، زیرا توهم و پاسخ‌های گمراه‌کننده را به همراه دارد. وی افزود: این کار مانند گرفتن فتوکپی از یک فتوکپی دیگر است و موجب می‌شود اطلاعات و ارتباط با واقعیت را بیشتر از دست بدهیم.

همچنین، این کار ممکن است برخلاف شرایط خدمات آن سیستم‌ها باشد. شرایط اوپن‌ای‌آی، کاربران محصولات آن از جمله چت‌جی‌پی‌تی را از به کار بردن خروجی‌ها برای توسعه مدل‌های رقیب مدل‌های اوپن‌ای‌آی منع می‌کند.

اوپن‌ای‌آی و دیپ‌سیک به درخواست‌ها برای اظهار نظر پاسخ ندادند، اما «سم آلتمن»(Sam Altman)، مدیرعامل اوپن‌ای‌آی، یک پست جدید را در حساب ایکس خود منتشر کرد.

آلتمن نوشت: کپی کردن چیزی که می‌دانید کارآیی دارد، (نسبتا) آسان است. انجام دادن یک کار جدید، پرمخاطره و دشوار زمانی که نمی‌دانید آیا کارساز خواهد بود یا خیر، بسیار سخت است.