زندگی ما قبلاً با هوش مصنوعی (AI) آمیخته شده بود اما وجود ChatGPT در اواخر سال گذشته در سراسر جهان آنلاین طنین انداز شده و از آن زمان، سیستم هوش مصنوعی مولد توسعه یافته توسط شرکت فناوری OpenAI سرعت خود را افزایش داده و کارشناسان هشدارهای خود را در مورد خطرات افزایش داده اند.
به گزارش سیناپرس، در همین حال، ربات های چت شروع به خارج شدن از نوشتن و صحبت کردن، فریب دادن ربات های دیگر و رفتار عجیب کرده و نگرانی های جدیدی را در مورد نزدیک شدن برخی ابزارهای هوش مصنوعی به هوش انسان برانگیخت.
برای این منظور، تست تورینگ مدت هاست که تبدیل به استاندارد تعیین اینکه آیا ماشین ها رفتار هوشمندانه ای از خود نشان می دهند که مانند انسان انجام می شود یا خیر، شده است. اما در این موج جدید از خلاقیت های هوش مصنوعی (Artificial Intelligence)، بنظر میرسد که برای سنجش قابلیت های آن ها به چیزی بیشتر نیاز داریم.
در اینجا، یک تیم بین المللی از دانشمندان کامپیوتر در حال آزمایش نقطه ای هستند که در آن مدل های زبان بزرگ (LLM) مانند ChatGPT ممکن است توانایی هایی ایجاد کنند که نشان می دهد می توانند از خود و شرایط خود آگاه شوند.
به ما گفته می شود که مدل های زبان بزرگ امروزی از جمله ChatGPT برای ایمنی آزمایش شده و از بازخورد انسانی برای بهبود رفتار تولیدی آن استفاده می کنند. با این حال، اخیراً محققان امنیتی برای دور زدن سیستم های ایمنی آنها، جیلبریک های جدید مدل های زبان بزرگ را سریع انجام دادند.
این خروجی های خطرناک در پاسخ به درخواست های عمدی مهندسی شده توسط یک محقق امنیتی بود که می خواست نقص های GPT- 4، آخرین و ظاهراً ایمن ترین نسخه ChatGPT را افشا کند. اگر مدل های زبان بزرگ نسبت به خود آگاهی پیدا کنند و بر اساس داده ها و توسط انسان ها آموزش ببینند، وضعیت میتواند بسیار بدتر شود.
به گفته لوکاس برگلوند (Lukas Berglund) دانشمند کامپیوتر و پژوهشگر این مطالعات: نگرانی این است که یک مدل که آگاهی موقعیتی نامیده می شود، تشخیص دهد که آیا در حال حاضر در حالت آزمایشی است یا برای عموم به کار گرفته شده است.
برگلوند و همکارانش می گویند: یک مدل زبان بزرگ میتواند از آگاهی موقعیتی برای دستیابی به امتیاز بالا در تست های ایمنی استفاده کند، در حالیکه اقدامات مضر پس از استقرار انجام می دهد.
به دلیل این خطرات، مهم است که از قبل پیش بینی کنیم که چه زمانی آگاهی موقعیتی پدیدار خواهد شد. قبل از اینکه بخواهیم آزمایش کنیم که چه زمانی مدل های زبان بزرگ ممکن است این بینش را به دست آورند، ابتدا یک جمع بندی سریع از نحوه عملکرد ابزارهای هوش مصنوعی مولد ارائه می دهیم.
برگلوند توضیح می دهد: هوش مصنوعی مولد و مدل های زبان بزرگ که بر اساس آن ها ساخته شده اند، به دلیل روشی که آنها ارتباط بین میلیاردها کلمه، جمله و پاراگراف را برای تولید جریان های روان متن در پاسخ به درخواست های سؤال تجزیه و تحلیل می کنند، نام گذاری شده اند. آنها با مصرف مقادیر زیادی متن، یاد می گیرند که چه کلمه ای احتمالاً بعد از چه می آید.
برگلوند و همکارانش توضیح می‌دهند: این توانایی یادآوری حقایق آموخته شده در آموزش و استفاده از آن ها در زمان آزمون است، علی رغم اینکه این حقایق مستقیماً با اعلان زمان آزمون مرتبط نیستند.
این تیم پژوهشی در پایان می نویسد:این یافته ها پایه ای برای مطالعات تجربی بیشتر، به سمت پیش بینی و کنترل بالقوه ظهور آگاهی موقعیتی در مدل های زبان بزرگ ارائه می دهند.
شرح کامل این مقاله در مجله arXiv موجود است.
- 18
- 4
