به گزارش مهر به نقل از نکست وب، محققان این دانشگاه یک سیستم متنی موسوم به تکست فولر اختراع کرده اند که میتواند مدل های هوش مصنوعی که از سیستم پردازش زبان های طبیعی استفاده می کنند را گول بزند.
بسياري از دستیارهای صوتی مثل الکسای آمازون و سیری اپل (Apple) از سیستم پردازش زبان های طبیعی برای درک دستورات کاربران استفاده می کنند و بنابراین فریب آن ها میتواند امنیت این چنین سیستم هایی را به خطر بیاندازد. همینطور فریب سیستم ذکر شده باعث سوءاستفاده از آن ها برای ارسال هرزنامه یا متون غیرمؤدبانه می شود.
تکست فولر یک سیستم فریبنده است که با درک نقص ها و ضعف های سیستم پردازش زبان های طبیعی آن ها را فریب می دهد.
این سیستم جملاتی را با دستکاری چند کلمه آن ها به خورد سیستم پردازش زبان های طبیعی می دهد، بدون این که دستکاری یاد شده باعث تغییر معنی یا ایجاد اشتباه های دستور زبانی شود.
بعد از این کار و بررسی واکنش سیستم پردازش زبان های طبیعی به این تغییر، به تدریج تغییرات جدّي تر و عمیق تری در جملات به وجود می آید تا در پایان از حساسیت و دقت این سیستم کاسته شود و بتوان آنرا فریب داد.
پژوهشگران دانشگاه ام آی تی می گویند با همین روش سه مدل متداول در سیستم پردازش زبان های طبیعی را دستکاری کرده و فریب داده اند.
یکی از این مدل ها که برت نام دارد، یک مدل زبانی متن باز ابداع شده توسط گوگل است که تنها تغییر ۱۰ درصد از قسمت های هر جمله توسط تکست فولر به فریب آن منجر شد. بر همین اساس انتظار میرود شرکتهای فن آوری برای ارتقای سیستم پردازش زبان های طبیعی اقدام کنند تا از دستکاری آن جلوگیری کنند.
- 17
- 5
