مدیرعامل آنتروپیک: شرکت‌های هوش مصنوعی نباید اشتباه تولیدکنندگان سیگار را تکرار کنند

هشدار مدیرعامل آنتروپیک درباره توانایی‌های هوش مصنوعی

داریو آمودی که قبلاً درباره تأثیر هوش مصنوعی بر مشاغلی مانند حسابداری، حقوق و بانکداری هشدار داده بود، دراین‌باره توضیح داد: «بدون مداخله سخت می‌توان تصور کرد که تأثیر بزرگی بر دنیای مشاغل اتفاق نیفتد. من نگرانم که این تأثیر گسترده و سریع‌تر از چیزی باشد که با فناوری‌های گذشته دیده‌ایم.»

مدیرعامل آنتروپیک درباره خطرات هوش مصنوعی در زمینه اخاذی از کاربران و اجرای حملات سایبری گفت: «یکی نقاط قوت مدل‌ها این است که می‌توانند مختارانه عمل کنند. اما هرچه اختیار این سیستم‌ها را بیشتر می‌کنیم، می‌توانیم بیشتر نگران باشیم که آیا آن‌ها دقیقاً همان کاری را که می‌خواهیم انجام می‌دهند یا خیر.»

آمودی می‌گوید اگر یک مدل بتواند به ساخت سلاح بیولوژیکی کمک کند، این یعنی سطح توانایی‌های آن به جایی رسیده که می‌تواند به ساخت واکسن یا توسعه سریع‌تر داروها نیز کمک کند. بنابراین به‌نظر می‌رسد نقش سازندگان مدل‌ها در هدایت این فناوری‌ها نقش اساسی دارد.

او توضیح داد: «شما مدلی می‌خواهید که برایتان کسب‌وکار بسازد و درآمد میلیاردی کسب کند. اما نمی‌خواهید یک روز بیدار شوید و ببینید از شرکت خودتان بیرون افتاده‌اید. بنابراین رویکرد مبنایی ما این است که این توانایی‌های خودمختارانه را ارزیابی کنیم و تا جای ممکن آزمایش‌های عجیب‌وغریب انجام دهیم و ببینیم چه می‌شود.»

اشتراک گذاری :

طرح آمریکا و اروپا در آژانس: ایران مراکز بمباران شده را برای بازرسی باز کند / گروسی: تنها کاری که می‌توانم انجام دهم، گفتگو با ایران است/ هشدار مقامات تهران