.png "عصر ایران")
۲۰ آبان ۱۴۰۴
به روز شده در: ۲۰ آبان ۱۴۰۴ - ۱۰:۳۵
تبلیغ کودک‌همسری: وقتی صدا و سیما «عروس کودک» می‌سازد / بازی با سرنوشت کودکی که نمی‌داند زناشویی یعنی چه؟ (فیلم) خالق ChatGPT: لطفاً عاشق چت‌بات‌های ما نشوید
شرکت OpenAI درمورد ایجاد روابط عاطفی کاربران با چت‌بات‌های هوش مصنوعی خود نگران است.
شرکت‌های توسعه‌دهنده‌ی چت‌بات‌های هوش مصنوعی همواره سعی دارند عملکرد مدل‌های خود را تا حد امکان شبیه انسان کنند. ظاهراً OpenAI کمی نگران «بیش‌ازحد انسان بودن» مدل‌های هوش مصنوعی و تأثیر آن‌ها روی هنجارهای اجتماعی است.
به گزارش زومیت، OpenAI در گزارش جامع فعالیت‌های خود، به صراحت اعلام کرد که ترجیح می‌دهد کاربران نسبت به GPT-4o احساسات عاطفی پیدا نکنند.
با توجه به پست وبلاگی OpenAI، این شرکت تلاش زیادی انجام داده است تا کاربران هنگام مکالمه با GPT-4o، احساس کنند با یک انسان حرف می‌زنند. این تلاش‌ها شامل ویژگی صوتی جدید برای تقلید گفتار انسان به‌همراه سرعت بالاتر پاسخگویی می‌شود و می‌توانید با چت‌بات، گفت‌وگویی صوتی شبیه به مکالمه با یک انسان واقعی داشته باشید.
اکنون OpenAI متوجه شده است کاربران با ChatGPT-4o مانند انسان واقعی رفتار می‌کنند. این شرکت می‌گوید: «در مراحل اولیه‌ی تست، ازجمله آزمایش‌های داخلی و شبیه‌سازی حملات سایبری، متوجه شدیم کاربران از عباراتی استفاده می‌کنند که برقراری ارتباط با مدل را نشان می‌دهد. درحالی‌که موارد ذکرشده بی‌ضرر به‌نظر می‌رسند، اما بررسی اثرات بلندمدت آن‌ها نیاز به بررسی بیشتر دارد.»
OpenAI به دو دلیل موضوع انسان‌‌پنداری چت‌بات‌ها را خبر بدی می‌داند. اول اینکه، وقتی هوش مصنوعی شبیه انسان به‌نظر برسد، ما بیشتر مستعد باورکردن حرف‌های آن به‌عنوان واقعیت هستیم. این یعنی مردم درمقایسه‌با زمانی که هوش مصنوعی شبیه ربات رفتار می‌کند، بسیار بیشتر در معرض توهمات و اطلاعات اشتباه آن قرار می‌گیرند.
مورد دوم اینکه OpenAI نگران است هنجارهای اجتماعی با GPT-4o تحریف شوند. شرکت مورد بحث احتمال می‌دهد این مدل، نیاز به تعاملات اجتماعی را کاهش دهد و درحالی‌که امکان دارد به افراد تنها کمک کند، اما احتمالاً بر روابط سالم تأثیر خواهد داشت.
GPT-4o طوری طراحی شده است که اگر در حال صحبت باشد و کاربر نیز شروع به حرف‌زدن کند، صحبت‌های چت‌بات قطع می‌شود تا به حرف‌های کاربر گوش دهد و شاید این سبک حرف‌زدن در مکالمات دنیای واقعی نیز تأثیر داشته باشد.
درحال‌حاضر، OpenAI نحوه‌ی برقراری ارتباط احساسی افراد با چت‌بات‌های خود را زیر نظر خواهد گرفت و در صورت لزوم، سیستم‌هایش را اصلاح می‌کند. نگرانی‌های این شرکت، دید بسیار جالبی درمورد عوارض جانبی استفاده از مدل‌های هوش مصنوعی ارائه می‌دهد.
لینک کوتاه: کپی لینک
همایون ارشادی بازیگر سینمای ایران درگذشت فرزندان بهزیستی/ وقتی خروج از مراکز برابر است با آغاز بحران ۴۰ هزار نفر به دماوند مهاجرت می‌کنند؛ این جمعیت کجا ساکن می‌شوند؟ + جزئیات خطرات مصرف سوسیس و کالباس فاسد آب‌بندی اصولی خودرو / رفتار نادرست با خودروی صفر کیلومتر چه بلایی بر سر موتور می‌آورد؟ چاله چوله‌های جاده‌ای چقدر به خودروهای مردم خسارت می‌زند؟ سر پل تجریش در اواخر دوره قاجار و قبل از ساخت میدان (عکس) نطق تازه نتانیاهو درباره حمله به ایران هوش مصنوعی، درمان آلزایمر را متحول خواهد کرد ادعای مسکو: کی‌یف و لندن می خواستند جت روسی را بدزدند ۵۸ درصد تالاب شادگان خشک شده است درمانی بهتر از یوگا و مدیتیشن برای استرس و اضطراب جوان اهوازی که در اعتراض دست به خودسوزی زده بود، جان باخت پروانه کریستالی لاله مرزبان ترند شد/ بازیگر سریال «آبان» در فوتوشوت هوش مصنوعی (عکس) شبح باغ‌ویلاها دستگیر شد؛ پلیس او را از میان دیوار بیرون کشید
اخبار و تحلیل های ترکیه