هشدار دادستان های کل آمریکا به غول های هوش مصنوعی: خروجی های بی اساس را اصلاح کنید

ابزارهای هوش مصنوعی مانند ChatGPT در طول فعالیت خود با انتقادات زیادی روبه‌رو شده‌اند که آنها را به ارائه توضیحات بی‌اساس و آسیب بالقوه به سلامت روان کاربران متهم کرده‌اند. حالا گروهی از دادستان‌های کل آمریکا با ارسال یک نامه رسمی برای بزرگ‌ترین شرکت‌های هوش مصنوعی، درباره ادامه تولید «پاسخ‌های بی‌اساس» به آنها هشدار داده‌اند. نامه مذکور توسط ده‌ها دادستان کل ایالت‌ها و قلمروهای آمریکا امضا شده و از شرکت‌هایی مانند مایکروسافت، OpenAI و گوگل می‌خواهد تا مجموعه‌ای از رویکردهای حفاظتی داخلی را برای محافظت از کاربران اجرا کنند. نام‌های دیگری مانند آنتروپیک، اپل، متا، Perplexity AI و xAI نیز در این فهرست دیده می‌شود. خواسته‌های مطرح شده برای غول‌های هوش مصنوعی دادستان‌ها تأکید کرده‌اند که شرکت‌ها باید امکان انجام بازرسی‌های شفاف و مستقلی را فراهم کنند که نشانه‌های تولید محتوای بی‌اساس یا رفتار چاپلوسانه را شناسایی می‌کنند. همچنین شرکت‌ها باید رویکردهای جدیدی برای ارائه گزارش‌های مربوط به حوادث تعریف کنند تا کاربران درصورت مواجهه با خروجی‌های آسیب‌زا از نظر روانی، به‌سرعت مطلع شوند. در این نامه گفته شده که نهادهای مستقل (گروه‌های دانشگاهی یا سازمان‌های جامعه مدنی) باید بتوانند پیش از انتشار عمومی مدل‌ها، آنها را ارزیابی کرده و نتایج خود را آزادانه منتشر کنند. در بخش دیگری از نامه آمده است: «هوش مصنوعی می‌تواند جهان را به شکل مثبتی متحول کند، اما هم‌زمان موجب بروز آسیب‌های جدی شده و همچنان می‌تواند برای گروه‌های آسیب‌پذیر خطرآفرین باشد.» نویسندگان نامه به چندین حادثه رسانه‌ای‌شده در یک سال گذشته اشاره کرده‌اند که به‌گفته آنها به استفاده افراطی از هوش مصنوعی مربوط می‌شوند. از نظر آنها، در بسیاری از این موارد، چت‌بات‌ها خروجی‌هایی بی‌اساس تولید کرده‌‌اند. ازجمله این پرونده‌ها می‌توان به خودکشی «آدام رین»، نوجوان 16 ساله اشاره کرد که OpenAI اخیراً گفته بود دلیل آن «استفاده نادرست» از ChatGPT بوده است. برای حل این دسته از مشکلات، دادستان‌ها پیشنهاد کرده‌اند که شرکت‌های هوش مصنوعی با الهام از رویکرد فعلی صنعت فناوری در حوزه امنیت سایبری، یک سامانه شفاف برای گزارش حوادث سلامت روان طراحی کنند. آنها همچنین خواستار طراحی و اجرای آزمون‌های ایمنی «معقول و مناسبی» برای پیش از انتشار عمومی مدل‌ها شده‌اند. دولت ترامپ طی یک سال گذشته تلاش کرده تا مانع تصویب مقررات ایالتی شود، اما این تلاش‌های دولتی به‌واسطه فشار مقامات محلی تاکنون ناکام مانده است. ترامپ روز دوشنبه اعلام کرده بود که قصد دارد هفته آینده با صدور یک فرمان اجرایی، مانع قانون‌گذاری مستقل برای هوش مصنوعی توسط ایالت‌ها شود. OpenAI گوگل مایکروسافت اشتراک گذاری: کپی لینک جواد تاجی دوران حرفه‌ای من توی دنیای فناوری تقریبا به ۱۰ سال قبل برمی‌گرده؛ مسیری که با سخت‌افزار شروع شد، با نرم‌افزار ادامه پیدا کرد و حالا با خبرنگاری حوزه فناوری توی دیجیاتو داره ادامه پیدا می‌کنه. من جوادم و بیشتر از سه دهه از عمرم می‌گذره و علاوه بر دنیای فناوری عاشق فیلم‌و‌سینما، موسیقی کلاسیک‌راک و رئال مادریدم. مشاهده کلیه مقالات منتشر شده مقالات و اخبار مرتبط هکرها با سوءاستفاده از ChatGPT و Grok، درحال انتشار دستورهای مخرب در نتایج گوگل هستند گوگل فوتوز به ابزارهای جدید ویرایش ویدیو شبیه CapCut مجهز شد OpenAI و آنتروپیک برای استانداردسازی ایجنت‌های هوش مصنوعی بنیاد جدیدی تأسیس کردند «سم آلتمن» در برنامه «جیمی فالن»:‌ هوش مصنوعی باعث برابری انسان‌ها می‌شود مشکل نمایشگر گوشی‌های سری پیکسل ۹ تأیید شد؛ گوگل تعمیر رایگان ارائه می‌کند دیدگاه‌ها و نظرات خود را بنویسید لغو پاسخبرای گفتگو با کاربران ثبت نام کنید یا وارد حساب کاربری خود شوید. نام کاربری یا پست الکترونیکی رمز عبور ورود به حساب کاربری ساخت حساب کاربری جدید اطلاعات حساب خود را فراموش کرده‌ام ورود به حساب کاربری نام کاربری پست الکترونیکی رمز عبور کلیه شرایط و ضوابط دیجیاتو را مطالعه کرده‌ام و آن‌ها رو می‌پذیرم. ساخت حساب کاربری جدید ورود به حساب کاربری اطلاعات حساب خود را فراموش کرده‌ام ساخت حساب کاربری پست الکترونیکی بازیابی رمز عبور ساخت حساب کاربری جدید ورود به حساب کاربری فراموشی رمز عبور