جعل نقل قول از زبان افراد واقعی توسط هوش مصنوعی!

یک هوش مصنوعی در حال ابداع نقل قول های جعلی از افراد واقعی است و آنها را به صورت آنلاین منتشر می کند.

به گزارش ایسنا به نقل از فیوچریزم، در اینترنت مبتنی بر هوش مصنوعی، واقعا چه مقدار از وجهه عمومی خود را می توانیم کنترل کنیم؟ در اوایل هفته، ما بطور تصادفی به وب سایتی به نام «The Enlightened Mindset» برخوردیم که بنظر میرسد چشم اندازی تاریک از آینده وب مبتنی بر هوش مصنوعی باشد.

در میان موارد دیگری که باعث نگرانی می شود، هیچ اطلاعات تماسی وجود نداشت و هزاران مقاله در آرشیو بزرگ سایت تنها به ماه ژانویه سال ۲۰۲۳ باز می گشت. مهم تر از همه، اکثریت قریب به اتفاق هزاران داستان منتشر شده دارای نشانه هایی از تولید توسط هوش مصنوعی بودند. متن عمومی است و فاقد لینک پشتیبان برای منابع است، و تصاویر ارائه شده آشفته، ناخوانا، خنده دار یا عجیب و غریب هستند و اغلب به نظر میرسد که توسط هوش مصنوعی تولید شده اند.

بنابراین تعداد زيادي علامت خطر وجود دارد. پس از بررسی دقیق تر، متن مقاله های تولید شده توسط هوش مصنوعی این سایت اغلب مملو از اطلاعات نادرست، از جمله نقل قول های ساختگی توسط هوش مصنوعی بود که به طور نگران کننده ای، اغلب به افراد کاملاً واقعی نسبت داده می شدند.

برای مثال، یک وبلاگ خاص در ژانویه ۲۰۲۳ متنی با عنوان «آیا نقش هاگرید توسط یک ربات ایفا می شود؟ کاوش در مورد امکان آن» مواجه شدیم.

اگرچه رابی کولترین (Robbie Coltrane) فقید نقش شخصیت محبوب هاگرید در سری فیلم های هری پاتر را بازی کرده است، ولی یک سر متحرک هاگرید گاهی اوقات در مجموعه ی هری پاتر استفاده می شد. به نظر می رسد این مقاله موضوع درستی را پیش گرفته است و در آن نقل قولی از یک متخصص وجود دارد که می گوید: استفاده از ربات در نقش هاگرید اشکالاتی نیز دارد. به طورمثال، ربات ها فاقد احساسات و تفاوت های ظریفی هستند که یک بازیگر میتواند به نقش بیاورد.

دکتر روبن بینز (Reuben Binns) که استاد هوش مصنوعی در دانشگاه کمبریج است، اشاره می کند: ربات ها امکان دارد بتوانند احساسات را تقلید کنند، اما نمی توانند آنها را مانند انسان ها احساس کنند. این بدان معنی است که آنها ممکن است نتوانند همان سطح احساسات را به عنوان یک بازیگر منتقل کنند.

در نگاه اول، این یک ارزیابی منصفانه است. روبن بینز نیز یک شخص واقعی است و در واقع یک محقق هوش مصنوعی (Artificial Intelligence) است که در یادگیری ماشینی، حفاظت از داده ها و تنظیم فناوری تخصص دارد.

ولی همان طور که بینز واقعی به فیوچریزم گفته است، اگرچه او لزوما با این نقل قول تولید شده توسط هوش مصنوعی مخالف نیست، اما در واقع هرگز آنرا نگفته است و البته او در آکسفورد کار می کند و نه در کمبریج.

بینز در پاسخ به سوالی درباره ی تجربه ی نقل قول تقلبی از سوی او توسط هوش مصنوعی گفت: خواندن این نقل قول خنده دار بود، زیرا پیش از همه، در مورد من اشتباه نوشته بود. من استاد هوش مصنوعی در دانشگاه کمبریج نیستم، من استاد محاسبات انسان محور در دانشگاه آکسفورد هستم.

او افزود: و سپس در مورد خود نقل قول، من با آن مخالف نیستم. فکر می کنم به نوعی با آن موافقم.

بینز گفت که با این حال اگر او واقعا به موضوع بازیگران رباتی می پرداخت، حرف کمی متفاوت تری میزد و صرف نظر از اینکه این نقل قول قابل قبول باشد، این واقعیت را تغییر نمی دهد که او هرگز واقعا آن را نگفته است.

در واقع این نشان دهنده ی از دست دادن کنترل بر وجهه ی عمومی خود است و متاسفانه، بینز واقعی گمان می برد که این پدیده ممکن است تازه شروع شده باشد.

بینز گفت:غیرمنتظره نیست و اظهار داشت که در نهایت ، این اتفاق برای تعداد زیادی از مردم خواهد افتاد. در چند سال آینده، این یک تجربه ی غیرعادی برای کسی که نامش جایی در فضای اینترنت است، نخواهد بود.

او افزود: این فقط بخشی از زندگی خواهد بود. نام شما دیگر چیزی نیست که شما آنرا کنترل کنید.

فیوچریزم می نویسد: در حین کاوش موارد مشابه بیشتری پیدا کردیم. این اسناد ساختگی عمدتا مربوط به دانشگاهیان بود که اغلب با عناوین و اسناد به هم ریخته مشابه و در مواردی با کتاب های موجود یا جوایز ناموفق همراه بود.

البته، اینطور نیست که نقل قول جعلی از بینز توسط یک هوش مصنوعی در مقاله ی نیویورک تایمز نوشته شده باشد. وبسایت «Enlightened Mindset» به وضوح یک سایت به درد نخور است.

ولی تا آن جا که سئوی آن پیش رفته، این سایت چیزی نیست که از آن رد شوید. بر اساس داده های شرکت ابزار و منابع سئو Ahrefs، نشانی وب یا URL آن بیش از ۷۰ هزار بار بک لینک شده است و رتبه اعتبار دامنه ی آن برای یک وب سایت واقعی بد، اما برای یک هرزنامه خوب است.

زمانی که یک صفحه ی اینترنتی به صفحه ی دیگری لینک می دهد، آن را « بک لینک» می نامند.

فرمول موفقیت این وبسایت، فرمولی است که سایر هرزنامه نویسان بالقوه ی هوش مصنوعی ممکن است از آن پیروی کنند. بنظر میرسد که شخصی آدرس اینترنتی رها شده یک وب سایت معتبر سابق را خریده است و سپس آن URL را با هزاران صفحه ی مملو از اطلاعات نادرست پر کرده است.

بینز گفت که اینترنت در حال حاضر مملو از هرزنامه است، و [هوش مصنوعی مولد] تنها بر آن می افزاید.

این موضوع دوباره تاکید می کند که هوش مصنوعی مولد در ساختن موارد جعلی مختلف بسیار خوب است. و اگر در چند دهه ی گذشته هر نوع حضور دیجیتالی داشته اید، احتمالا سیستم های هوش مصنوعی مولد از روی شما آموزش دیده اند.