به گزارش مهر به نقل از نکست وب، محققان این دانشگاه یک سیستم متنی موسوم به تکست فولر اختراع نموده اند که میتواند مدل های هوش مصنوعی که از سیستم پردازش زبان های طبیعی استفاده می کنند را گول بزند.
خیلی از دستیارهای صوتی مثل الکسای آمازون و سیری اپل از سیستم پردازش زبان های طبیعی برای فهم دستورات کاربران استفاده می کنند و بنابراین گول زدن آن ها میتواند امنیت چنین سیستم هایی را به خطر بیاندازد. همینطور فریب سیستم ذکر شده باعث سوءاستفاده از آن ها برای ارسال هرزنامه یا متون غیرمؤدبانه می شود.
تکست فولر یک سیستم فریبنده است که با فهم نقص ها و ضعف های سیستم پردازش زبان های طبیعی آن ها را فریب می دهد.
این سیستم جملاتی را با دستکاری چند کلمه آن ها به خورد سیستم پردازش زبان های طبیعی می دهد، بدون اینکه دستکاری یادشده باعث تغییر مفهوم یا ایجاد خطا های دستور زبانی شود.
بعد از این کار و بررسی واکنش سیستم پردازش زبان های طبیعی به این تغییر و تحول، کم کم تغییرات جدی تر و عمیق تری در جملات به وجود می آید تا در آخر از حساسیت و دقت این سیستم کم شود و بتوان آنرا فریب داد.
پژوهشگران دانشگاه ام آی.تی می گویند با همین شیوه سه مدل رایج در سیستم پردازش زبان های طبیعی را دستکاری کرده و فریب داده اند.
یکی از این مدل ها که برت نام دارد، یک مدل زبانی متن باز اختراع شده به وسیله گوگل است که تنها تغییر ۱۰ درصد از بخش های هر جمله به وسیله تکست فولر به فریب آن منجر شد. بر همین مبنا انتظار می رود شرکتهای فناوری برای ارتقای سیستم پردازش زبان های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
- 10
- 5
