جایزه یک میلیون دلاری برای بهترین ایده‌های کنترل هوش مصنوعی

به گزارش ایسنا و به نقل از رویترز، شرکت توسعه هوش مصنوعی OpenAI، استارتاپی که خالق ربات چت هوش مصنوعی محبوب ChatGPT است، به تازگی اعلام کرده است که ۱۰ کمک هزینه ۱۰۰ هزار دلاری از یک صندوق یک میلیون دلاری برای آزمایش‌هایی در فرآیندهای دموکراتیک اعطا می‌کند تا تعیین کند نرم‌افزار هوش مصنوعی چگونه باید برای مقابله با تعصب و سایر عوامل کنترل شود.

طبق اعلام این شرکت، این جوایز ۱۰۰ هزار دلاری به کسانی تعلق می‌گیرد که چارچوب‌های قانع کننده‌ای را برای پاسخ دادن به سؤالاتی مانند اینکه آیا هوش مصنوعی باید از شخصیت‌های عمومی انتقاد کند و چه کسی را باید یک «فرد متوسط» در جهان در نظر بگیرد، ارائه می‌دهند.

این در پرتو بحث‌هایی در مورد اینکه آیا سیستم‌های هوش مصنوعی مانند ChatGPT ممکن است به دلیل داده‌هایی که روی آنها آموزش دیده‌اند، تعصب داخلی داشته باشند (بدون ذکر نظرات برنامه‌نویسان انسانی در پشت صحنه) پیش آمده است. گزارش‌ها مواردی از نتایج تبعیض آمیز یا مغرضانه تولید شده توسط فناوری هوش مصنوعی را نشان داده‌اند. نگرانی فزاینده‌ای وجود دارد که هوش مصنوعی زمانی که در کنار موتورهای جستجو مانند گوگل و بینگ کار کند، ممکن است اطلاعات گمراه کننده را با اطمینان کامل تولید کند.

منتقدان می‌گویند، سیستم‌های هوش مصنوعی مانند ChatGPT به دلیل ورودی‌هایی که برای شکل دادن به دیدگاه‌هایشان استفاده می‌شود، دارای سوگیری‌های ذاتی هستند. کاربران نمونه‌هایی از خروجی‌های نژادپرستانه یا جنسیتی را از نرم افزار هوش مصنوعی پیدا کرده‌اند.

به طور کلی نگرانی‌ها از اینکه هوش مصنوعی در کنار موتورهای جستجو مانند گوگل و بینگ ممکن است اطلاعات نادرستی را به شکلی قانع‌کننده تولید کند، در حال افزایش است.

شرکت OpenAI با حمایت ۱۰ میلیارد دلاری مایکروسافت اکنون رهبری فراخوانی برای تنظیم مقررات برای هوش مصنوعی را بر عهده گرفته است. با این حال اخیراً تهدید کرده است که به دلیل قوانین پیشنهادی از اتحادیه اروپا خارج خواهد شد.

سم آلتمن، مدیر اجرایی OpenAI به رویترز گفت: پیش‌نویس فعلی قانون هوش مصنوعی اتحادیه اروپا بیش از حد تنظیم‌کننده(محدود کننده) خواهد بود، اما شنیده‌ایم که این قانون پس گرفته می‌شود.

البته کمک‌های مالی این استارتاپ به این حوزه از تحقیقات درباره هوش مصنوعی کمک چندانی نمی‌کند، چرا که حقوق مهندسان هوش مصنوعی و سایر افراد در این حوزه به راحتی از ۱۰۰ هزار دلار می‌گذرد و می‌تواند بیش از ۳۰۰ هزار دلار باشد.

شرکت OpenAI می‌گوید: سیستم‌های هوش مصنوعی باید به نفع همه بشریت باشند و به گونه‌ای شکل بگیرند که تا حد امکان فراگیر شوند. ما در حال راه‌اندازی این برنامه کمک مالی هستیم تا اولین قدم را در این مسیر برداریم.

این استارتاپ مستقر در سانفرانسیسکو گفت که نتایج این اختصاص بودجه می‌تواند دیدگاه آن را در مورد حکمرانی هوش مصنوعی شکل دهد، اگرچه هیچ توصیه‌ای الزام آور نخواهد بود.

آلتمن یکی از چهره‌های پیشرو است که خواستار تنظیم هوش مصنوعی است، در حالی که همزمان به‌روزرسانی‌های جدید ChatGPT و هوش مصنوعی تولید کننده تصویر موسوم به DALL-E را ارائه می‌دهد. وی در این ماه در مقابل یک کمیته از مجلس سنای ایالات متحده حاضر شد و گفت: اگر این فناوری اشتباه پیش برود، ممکن است کاملاً از مسیر خارج شود. اگر مشکلی پیش بیاید، عواقب آن می‌تواند قابل توجه باشد.

مایکروسافت نیز اخیراً تنظیم مقررات جامع برای هوش مصنوعی را تأیید کرده است. ضمن اینکه قول داده است این فناوری را در محصولات خود وارد کند و با شرکت‌های OpenAI، گوگل و استارتاپ‌ها رقابت می‌کند تا هوش مصنوعی را به مصرف‌کنندگان و کسب ‌و کارها ارائه دهد.

تقریباً همه بخش‌ها به پتانسیل هوش مصنوعی برای بهبود کارایی و کاهش هزینه‌های نیروی کار علاقه دارند، البته همراه با نگرانی‌هایی در مورد این که هوش مصنوعی می‌تواند اطلاعات نادرست یا جعلی را در چیزی که آن را «توهم» می‌نامند، منتشر کند.

هوش مصنوعی در حال حاضر پشت چندین خبر و تصویر جعلی است که به طور گسترده توسط عموم مردم باور می‌شود. یکی از تصاویر جعلی اخیر از یک انفجار در نزدیکی پنتاگون، برای مدت کوتاهی بازار سهام آمریکا را تحت تاثیر قرار داد.

برخلاف درخواست‌ها برای تنظیم مقررات بیشتر، کنگره آمریکا تاکنون در تصویب قانون جدید برای محدود کردن معنی‌دار این فناوری بزرگ شکست خورده است.