همکاری گوگل و OpenAI برای جلوگیری از شورش روباتها !

0
123
همکاری گوگل و OpenAI برای جلوگیری از شورش روباتها !

شاید شبیه یک فیلم سینمایی به نظر برسد اما ظاهرا آنچه تا به امروز در سریال‌های تخیلی در مورد شورش روباتها دیده‌ایم چندان دور از واقعیت نیز نبوده است. طبق خبری که جدیدا منتشر شده شرکت گوگل در حال همکاری با کمپانی OpenAI برای پیشگیری آنچه از خارج شدن روبات‌ها از کنترل به دلیل هوشمندی بیش از اندازه آنها است. با اینکه آینده قابل پیش‌بینی نیست اما این مسئله می‌تواند نگرانی‌ها در مورد احتمال ایجاد مشکل توسط هوش مصنوعی و به طور ساده‌تر شورش روباتها را برطرف سازد.

بخش DeepMind گوگل و مجموعه OpenAI جدیدا تحقیقی را منتشر کرده‌اند که در آن متد تازه‌ای برای یادگیری ماشینی توصیف شده که در آن دستگاه‌های هوشمند برخی راه‌حل‌ها را به جای اندیشیدن مستقل که ممکن است مشکل‌ساز شود از انسان‌ها دریافت کنند. به عنوان نمونه در این مقاله شرایطی توصیف شده که در آن ماشین یاد می‌گیرد که با تقلب کردن می‌تواند کارایی بالاتری را به نمایش بگذارد. این حالت در یک بازی که OpenAI طراحی کرده و در آن هوش مصنوعی یاد می‌گیرد که برای به دست آوردن امتیاز بیشتر به جای طی کردن کل مسیر بازی تنها در یک دایره حرکت کند. در این حالت برای پیشگیری از مشکل به جای اینکه هوش مصنوعی خود پروسه امتیازدهی را بر عهده بگیرد، امتیاز توسط انسان‌ها به کل پروسه تعلق گرفته و بنابراین احتمال تقلب توسط ماشین به صفر می‌رسد.

یک نکته منفی در این حالت این است که به مقدار زیادی به بازخورد انسانی برای انجام یک پروسه نیاز دارد، امری که چندان ایده‌آل و البته بهینه نخواهد بود.

منبع

کانال تلگرام عصرنوشتن

ارسال یک پاسخ