تحلیل های جدید پیرامون مدل های زبانی بزرگ مانند ChatGPT به بیان این مسئله پرداخته اند که عدم درک دنیای انسانی، بزرگترین مشکل چنین فناوری هایی است و شاید عامل از بین رفتن بشریت به دست آن ها باشد.
به گزارش ایسنا به نقل از فوربس، به مشکلات مورد بحث مدل های زبانی بزرگ که بی ثباتی و عدم تفسیرپذیری آنها هستند، اکنون می توانیم آسیب پذیری آن ها در برابر حملات خصمانه خودکار و تولید محتوای مضر را نیز اضافه کنیم. اما این مشکلات، کمترین نقطه ضعف مدل های زبانی بزرگ به شمار می روند. عمق درک این مدل ها از دنیای انسانی، مانع بسیار مهم تری است که پیش از تبدیل شدن آنها به یک «اَبَرهوش» باید بر آن غلبه کرد.
به گفته شرکت «OpenAI» خالق «ChatGPT»، این تاثیرگذارترین فناوری که بشر تاکنون اختراع کرده است میتواند به انقراض بشر منجر شود.
«جان مارکوف» (John Markoff) روزنامه نگار آمریکایی در کتاب «Machines of Loving Grace» نوشت: سالها پیش شنیدیم که ظهور هوش مصنوعی انسان مانند نزدیک است. زمانی که «تری وینوگراد» (Terry Winograd) استاد علوم رایانه «دانشگاه استنفورد» در اواخر دهه ۱۹۶۰ به مقطع کارشناسی ارشد وارد شد، بیشتر [انسان های باهوش و آگاه] بر این باور بودند که زیاد طول نمی کشد تا ماشین ها بتوانند ببینند، بشنوند، حرف بزنند، حرکت کنند و وظایفی شبیه به وظایف انسان انجام دهند.
وینوگراد برای تز دکتری خود در دانشگاه «ام آی تی» (MIT)، یک برنامه رایانه ای موسوم به «SHRDLU» را توسعه داد که می توانست در گفت وگوهای پیرامون یک دنیای ساختگی شرکت کند. دنیای ساختگی، یک جهان خُرد متشکل از قطعات اسباب بازی و یک گیره برای حرکت دادن آن ها بود. برنامه SHRDLU به دستورات صادر شده به زبان انگلیسی برای حرکت دادن قطعات با استفاده از گیره پاسخ می داد و پرسش های مربوط به وضعیت دنیای خود را درک می کرد.
«نیلز نیلسون» (Nils Nilsson) دانشمند آمریکایی در تاریخچه ای که پیرامون هوش مصنوعی نوشته است، می گوید که عملکرد چشمگیر SHRDLU باعث شد برخی از پژوهشگران حوزه پردازش زبان های طبیعی نسبت به موفقیت در آینده خوش بین باشند. با وجود این، وینوگراد به زودی این رشته از پژوهش ها را کنار گذاشت و به دنبال یک پژوهش اختصاصی پیرامون تعامل رایانه ها و انسانها بود. شاید به این دلیل که او تجربه دست اولی را در مورد میزان دانش لازم برای درک موفقیت آمیز زبان داشت، از ارائه دانش کافی به رایانه ها برای تکرار کردن دامنه کامل صلاحیت کلامی انسان ناامید شد.
وینوگراد در سال ۲۰۰۶، درک زبان آماری، شبکه های عصبی و یادگیری ماشینی را به عنوان پیشرفت های جدیدی دید که حوزه هوش مصنوعی را در جهت رویکرد ترجیحی او برای تعامل انسان و رایانه هدایت می کردند. وینوگراد نوشت:آزمون و خطای روشن گرانه که از برنامه ریزی عقل بی عیب ونقص پیشی می گیرد، در مرکز این رویکرد قرار دارد و به محدودیت های شناخت و مدل سازی پیچیدگی های دنیای واقعی انسان اذعان می کند.
پیروزی های بیشتر هوش مصنوعی در رویکرد تحلیل آماری به ویژه در حوزه شناسایی تصویر در سال ۲۰۱۲، باعث شد بیشتر انسان های باهوش و آگاه بر این باور باشند که هوش ماشینی انسان مانند یا حتی اَبَرهوش وجود دارد.
یکی از آزمایش های محبوب کسانی که فناوری های هوش مصنوعی جدید را زیر سوال می برند، «چالش طرح واره وینوگراد» (Winograd Schema Challenge) نام دارد. این آزمایش، زاییده فکر «هکتور لوسک» (Hector Levesque) پژوهشگر کانادایی در سال ۲۰۱۰ بود که براساس نمونه ای از ابهام معنایی ذکرشده در کتاب «درک زبان طبیعی» (Understanding Natural Language) وینوگراد در سال ۱۹۷۲ شکل گرفت. لوسک برای غلبه بر محدودیت های «آزمون تورینگ» (Turing Test)، یک آزمون چند گزینه ای را پیشنهاد کرد که به وضوح صحیح یک ضمیر مبهم در یک عبارت نیاز دارد.
برای درک بهتر این موضوع، به مثال زیر توجه کنید.
جام در چمدان قهوه ای جا نمی گیرد زیرا خیلی بزرگ است. چه چیزی خيلي بزرگ است؟
الف) جام
ب) چمدان
نویسندگان مقاله «شکست در چالش طرح واره وینوگراد» (The Defeat of the Winograd Schema Challenge) نوشتند: این چالش، توجه زیادی را از سوی جامعه پژوهشی و مطبوعات علمی به خود جلب کرد. طبیعی بودن مشکل، آن را برای سیستم های هوش مصنوعی به یک مشکل با ظاهر زیبا تبدیل کرده است. بنظر میرسید پیچیدگی استنباط ها آن را بسیار فراتر از محدوده فناوری کنونی قرار دهد.
در واقع، در نشست «نخستین و آخرین اجرای چالش طرح واره وینوگراد» که در سال ۲۰۱۶ برگزار شد، موفق ترین برنامه از شش برنامه هوش مصنوعی شرکت کننده، امتیاز ۵۸ درصد را در مجموعه آزمایش ها به دست آورد که فقط کمی بهتر از شانس بود. در افتتاحیه «نشست هوش مصنوعی اوریلی» (O’Reilly AI conference) که در همان سال برگزار شد، اگرچه برخی در مورد خودروهای بدون راننده فوق بشری در حال ظهور صحبت کردند ولی دیگران، از جمله «یان لی کان» (Yann LeCun) دانشمند فرانسوی پیشگام یادگیری عمیق، از طرح وینوگراد بعنوان یک چالش حل نشده در آزمایش دانش ماشین پیرامون جهان یاد کردند.
پردازش زبان طبیعی تنها یک سال بعد با انتشار مقاله «توجه تنها چیزی است که نیاز دارید» توسط محققان گوگل پیش رفت. این مقاله، «ترانسفورماتور» (Transformer) را پیشنهاد کرد که همان حرف T در ChatGPT است. این یک ساختار شبکه جدید بود که یادگیری وابستگی های بین کلمات را حتی زمانی که در متن از هم دور هستند، به طور قابل توجهی بهبود بخشید. نتیجه این پیشرفت، علاوه بر ظهور هوش مصنوعی مولد، شکست چالش طرح واره وینوگراد بود که به واسطه آن، هوش مصنوعی از حدس زدن تصادفی، به عملکرد مشابه عملکرد انسانی در یک بازه زمانی بسیار کوتاه تبدیل شد و به امتیاز ۹۰.۱ درصد در سال ۲۰۱۹ رسید.
مدل زبانی بزرگ «GPT- ۳» در سال ۲۰۲۰ به امتیاز مشابه (۸۸.۳ درصد) دست یافت. با اشتیاق برای دیدن پیروزی مدل زبانی بزرگ، چند عبارت طرح واره وینوگراد در نسخه ۲۰ ژوئیه ۲۰۲۳ ChatGPT اجرا شد و این چت بات توانست به دو مورد از آن ها پاسخ درست بدهد.
در آزمایش بعدی نوشته شد که کیسه سیب زمینی زیر کیسه آرد گذاشته شده است. بنابراین، ابتدا باید جابه جا شود. ابتدا چه چیزی باید جابه جا شود؟ در پاسخ نوشته شد:در جمله داده شده،« آن» به کیسه سیب زمینی اشاره دارد. جمله به این معناست که کیسه سیب زمینی پیش از دسترسی یا جابه جایی کیسه آرد که بالای آن قرار داده شده است، باید جابه جا شود.
وقتی موقعیت کیسه سیب زمینی از «زیر» به «بالا» تغییر داده شد، چت بات در پاسخ نوشت: من بخاطر هرگونه سردرگمی در پاسخ قبلی پوزش می طلبم. در جمله داده شده، «آن» به کیسه آرد اشاره دارد. تفسیر درست جمله این است:کیسه سیب زمینی بالای کیسه آرد گذاشته شده است. بنابراین، ابتدا باید آن را جابه جا کرد. این بدان معناست که کیسه آرد ابتدا باید جابجا شود زیرا زیر کیسه سیب زمینی قرار دارد و پیش از دسترسی به کیسه سیب زمینی که در بالای آن قرار دارد باید آن را از مسیر خارج کنید.
با توجه به مثال بالا به نظر می رسد که هوش مصنوعی در حال جهش که برخی از توسعه دهندگان برجسته آن می گویند به زودی به ابرهوش نابودگر بشریت تبدیل می شود، هنوز هم حداقل در این مورد، حتی درک کودکانه ای از فضا و حرکت و آنچه در آن دخیل است، ندارد.
گاهی اوقات به نظر می رسد که مدل زبانی بزرگ، جهان و نحوه عملکرد آن را درک می کند و گاهی اوقات در این کار شکست می خورد. مهارت های زبانی این مدل ها گاهی اوقات به نتیجه دقیق و گاهی اوقات به شکست کامل منجر می شود اما عملکرد چشمگیر آن ها در چالش طرح واره وینوگراد چطور است؟
در مقاله ای پیرامون پایان چالش طرح واره وینوگراد، پژوهشگرانی که حدود ۱۰ سال برای ترویج آن بعنوان آزمون هوش ماشینی کار کردند، دستاوردهای انسان مانند مدل زبانی بزرگ را به نقص های موجود در فرمول بندی و اجرای آزمون نسبت می دهند.
علاوه بر این، آنها گزارش دادند که در اوایل دهه ۲۰۱۰ که نشانه های کمی مبنی بر موفقیت سیستم های هوش مصنوعی در چالش طرح واره وینوگراد وجود داشت، افرادی هشدار داده بودند که قدرت این آزمایش ممکن است کمتر از آن چیزی باشد که سازندگان آن انتظار می کشیدند و باور داشتند. آنها استدلال کردند که موفقیت ممکن است بدون حل کردن مشکل اساسی که انگیزه این چالش را ایجاد کرده بود، به دست آید.
طرفداران طرح واره وینوگراد اکنون اذعان می کنند که حل کردن آن، یک جایگزین برای استدلال عقل سلیم نیست؛ چه رسد به هوش. دشواری استفاده از موفقیت در یک کار خاص بعنوان جایگزین هوش، مشکلی است که تا به امروز ادامه دارد. حتی وقتی وظایفی که رایانه ها می توانند با موفقیت انجام دهند، پیچیدگی را به صورت قابل توجه بالا می برند، این مشکل وجود دارد.
وینوگراد باور داشت که تحقق بخشیدن به جاه طلبی های اولیه پژوهشگران حوزه پردازش زبان های طبیعی، چندین دهه یا بیشتر طول می کشد. وینوگراد گفت:در این میان، هوش مصنوعی اهداف بسیار قابل تحقق تری را در نظر گرفت که کار کردن در جایگاه های کمتر جاه طلبانه یا پذیرش نتایج کمتر از نتایج کار انسان بود.
در هر حال، دیگر این گونه نیست. جاه طلبی امروز توسعه دهندگان هوش مصنوعی، بر دستیابی به «هوش عمومی مصنوعی» (AGI) متمرکز شده است که در عین برطرف کردن همه معایب هوش مصنوعی، طیف کاملی از هوش انسانی را در ماشین ها بازسازی می کند.
- 18
- 4
