۱۸ آبان ۱۴۰۴
به روز شده در: ۱۸ آبان ۱۴۰۴ - ۱۹:۲۰
فیلم بیشتر »»
کد خبر ۱۰۹۲۳۵۰
تاریخ انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴
کد ۱۰۹۲۳۵۰
انتشار: ۰۸:۲۹ - ۱۷-۰۶-۱۴۰۴

راز توهم‌های هوش مصنوعی فاش شد

راز توهم‌های هوش مصنوعی فاش شد
پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد، اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد./مایکروسافت‌نیوز

اوپن‌ای‌آی در گزارشی تازه اعلام کرد دلیل اصلی اشتباه‌های عجیب چت‌بات‌ها در ساختار آموزش و ارزیابی آن‌ها نهفته است.

این خطاها ناشی از آن است که مدل‌ها برای «حدس زدن» پاداش می‌گیرند، نه برای سکوت یا ابراز تردید.

پژوهشگران می‌گویند در سیستم امتیازدهی فعلی، مثل امتحان مدرسه، سکوت نمره‌ای ندارد اما یک پاسخ احتمالی حتی اگر غلط باشد امتیاز دارد.

به همین دلیل مدل‌ها با اعتمادبه‌نفس جواب می‌دهند، حتی وقتی اشتباه می‌کنند.

راهکار اوپن‌ای‌آی، نه بازطراحی کامل مدل‌ها، بلکه اصلاح معیارهای ارزیابی است؛ یعنی سکوت یا «نمی‌دانم» نباید به‌عنوان ضعف محسوب شود.

ارسال به دوستان
ورود کد امنیتی
captcha
تساوی بدون گل هوادار و سایپا؛ رقابت نفس‌گیر برای صعود به لیگ برتر ادامه دارد تیپ اروپایی شیدا یوسفی با کلاه و کت/ بازیگر «نون خ» در خارج از کشور چقدر تغییر کرده است؟ (عکس) مدافع گلزن خیبر خرم‌آباد آقای گل لیگ ۲۵ شد؛ احسان حسینی در سایه اعتماد رحمتی می‌درخشد المپیاکوس با پیروزی مقابل کیفیسیاس به صدر سوپرلیگ یونان رسید؛ طارمی نیمکت‌نشین ماند پزشکیان و عارف به مجلس می‌روند اسپکتر R42؛ خودرو انگلیسی محدود به 23 دستگاه در جهان (عکس) تیم ملی فوتسال ایران مقتدرانه فینالیست بازی‌های اسلامی شد؛ ازبکستان تسلیم شاگردان شمسایی ۲۹ مصدوم و ۴ فوتی در سه حادثه در سیستان و بلوچستان معاون وزیر بهداشت: سالانه بیش از ۵۸ هزار مرگ در کشور منتسب به آلودگی هوا است/ ۴۷ میلیون دلار خسارت در روز هوشنگ مرادی کرمانی: من ظرف شش هفت سال تمام سرپرست‌هام رو از دست دادم (فیلم) فروش سلاح‌های آمریکایی به اعضای ناتو متوقف شد سولماز حسینی در اکران «شاه نقش»/ ستاره جوان «شغال» با استایلی شیک و کلاسیک خبرساز شد (عکس)  پشت پرده پیام جدید آمریکا / می‌ خواهد ایران را بر سر دوراهی قرار دهد مدال برنز بانوان ایران در تنیس روی میز بازی‌های اسلامی قطعی شد مرگ هزار و ۶۲۴ نفر در خوزستان بر اثر آلودگی هوا طی یکسال گذشته