آمریکا – پایگاه شخصی محمد لسانی https://mlesani.ir | مشاور رسانه و مروج سواد رسانه Mon, 25 Dec 2023 13:18:59 +0000 fa-IR hourly 1 https://wordpress.org/?v=6.6.1 https://mlesani.ir/wp-content/uploads/2021/05/lesani.ir_-100x100.png آمریکا – پایگاه شخصی محمد لسانی https://mlesani.ir 32 32 نگارش اولین استانداردهای هوش مصنوعی بانظرخواهی مردم آمریکا https://mlesani.ir/10365/%d9%86%da%af%d8%a7%d8%b1%d8%b4-%d8%a7%d9%88%d9%84%db%8c%d9%86-%d8%a7%d8%b3%d8%aa%d8%a7%d9%86%d8%af%d8%a7%d8%b1%d8%af%d9%87%d8%a7%db%8c-%d9%87%d9%88%d8%b4-%d9%85%d8%b5%d9%86%d9%88%d8%b9%db%8c-%d8%a8/ Mon, 25 Dec 2023 12:10:30 +0000 https://mlesani.ir/?p=10365

دولت آمریکا با نظرخواهی از مردم و شرکت‌ها به دنبال نوشتن اولین استانداردهای کلیدی در زمینه هوش مصنوعی است.

 

 به نقل از رویترز، دولت بایدن اعلام کرد که اولین گام را برای نوشتن استانداردها و راهنمایی‌های کلیدی جهت استقرار ایمن هوش مصنوعی مولد و نحوه آزمایش و حفاظت از سیستم‌ها برمی‌دارد.

موسسه ملی استاندارد و فناوری وزارت بازرگانی این کشور اعلام کرد که تا ماه فوریه(بهمن-اسفند) نظرات عموم را برای انجام تست های کلیدی جهت اطمینان از ایمنی سیستم های هوش مصنوعی جمع آوری خواهد کرد.

جینا رایموندو، وزیر بازرگانی آمریکا، گفت که این تلاش به دلیل دستور اجرایی ماه اکتبر جو بایدن رئیس جمهور آمریکا در زمینه هوش مصنوعی و با هدف توسعه استانداردهای صنعتی پیرامون ایمنی، امنیت و اعتماد به آن است که آمریکا را قادر می‌سازد به رهبری جهان در توسعه و استفاده مسئولانه از این هوش مصنوعی ادامه دهد.

این آژانس در حال توسعه دستورالعمل هایی برای ارزیابی هوش مصنوعی، تسهیل توسعه استانداردها و ارائه محیط های آزمایشی جهت ارزیابی سیستم های هوش مصنوعی است. این درخواست از شرکت‌های هوش مصنوعی و عموم مردم درباره مدیریت ریسک هوش مصنوعی و کاهش خطرات اطلاعات نادرست تولید شده توسط هوش مصنوعی نظرخواهی می کند.

هوش مصنوعی مولد (می‌تواند متن، عکس و ویدئو را در پاسخ به درخواست‌های کاربر ایجاد کند) در ماه‌های اخیر هیجان و همچنین ترس افراد را برانگیخته زیرا می‌تواند برخی از مشاغل را منسوخ کند، انتخابات را به هم بزند، بر انسان‌ها غلبه کند و اثرات فاجعه‌باری داشته باشد.

بایدن به آژانس‌های آمریکایی دستور داده تا استانداردهایی را برای این آزمایش‌ها تعیین کنند و خطرات شیمیایی، بیولوژیکی، رادیولوژیکی، هسته‌ای و امنیت سایبری مرتبط با آن را بررسی کنند

]]>
شفافیت هوش مصنوعی در قانون آمریکا https://mlesani.ir/10344/%d8%b4%d9%81%d8%a7%d9%81%db%8c%d8%aa-%d9%87%d9%88%d8%b4-%d9%85%d8%b5%d9%86%d9%88%d8%b9%db%8c-%d8%af%d8%b1-%d9%82%d8%a7%d9%86%d9%88%d8%aa-%d8%a2%d9%85%d8%b1%db%8c%da%a9%d8%a7/ Sun, 24 Dec 2023 10:19:32 +0000 https://mlesani.ir/?p=10344

طبق لایحه جدید آمریکا، شرکت‌های هوش مصنوعی ملزم به افشای داده‌های آموزشی دارای حق چاپ هستند.شدند.

روزنامه ورج طی نوشته ای درخصوص قانون شفافیت مدل های بنیادی هوش مصنوعی  که قصد دارند از شفافیت بیشتر مدل های هوش مصنوعی از داده های حق چاپ برای آموزش استفاده می کنند یا خیر خبر داد.

دو قانون گذار آمریکایی لایحه‌ای را ارائه کردند که در آن از سازندگان مدل‌های بنیاد می‌خواهد منابع داده‌های آموزشی را مشخص کنند تا دارندگان حق چاپ بدانند اطلاعات آنها مورد استفاده قرار گرفته شده یا خیر. قانون شفافیت مدل بنیادی هوش مصنوعی به کمیسیون تجارت فدرال (FTC) دستور می دهد تا با موسسه ملی استانداردها و فناوری (NIST) برای ایجاد قوانینی جهت گزارش شفافیت داده های آموزشی همکاری کند.

شرکت‌هایی که مدل‌های بنیادی را تولید می‌کنند، ملزم به گزارش منابع داده‌های آموزشی و نحوه نگهداری داده‌ها در طول فرآیند استنتاج، توصیف محدودیت‌ها یا خطرات مدل، نحوه هماهنگی مدل با چارچوب مدیریت ریسک هوش مصنوعی برنامه‌ریزی‌شده NIST و سایر استانداردهای فدرال هستند.

 این لایحه همچنین می‌گوید توسعه‌دهندگان هوش مصنوعی باید تلاش‌های خود را به یک تیم  گزارش دهند تا از ارائه اطلاعات نادرست یا مضر در مورد سؤالات پزشکی یا بهداشتی، ترکیب بیولوژیکی، امنیت سایبری، انتخابات، پلیس، تصمیم‌گیری مالی، آموزش، تصمیمات استخدامی، خدمات عمومی و جمعیت های آسیب پذیر مانند کودکان جلوگیری شود.

این لایحه بر اهمیت شفافیت داده های آموزش در مورد حق چاپ تاکید می کند، زیرا تاکنون چندین پرونده قضایی علیه شرکت های هوش مصنوعی به اتهام نقض حق چاپ مطرح شده است.

در این لایحه آمده است: با افزایش دسترسی عمومی به هوش مصنوعی، شکایت‌ها و نگرانی‌های عمومی در مورد نقض حق چاپ افزایش یافته است. استفاده عمومی از مدل‌های پایه منجر به ارائه موارد بی‌شماری اطلاعات نادرست یا مغرضانه به مردم شده است.

این لایحه تکمیل کننده فرمان اجرایی هوش مصنوعی دولت آمریکا است که به ایجاد استانداردهای گزارش دهی برای مدل های هوش مصنوعی کمک می کند.

]]>