این هوش مصنوعی خودش را هک می‌کند!
گروهی از محققای دانشگاه UC سن دیگو و ویسکانسین یک روش جدید برای هک کردن جمینای پیدا کرده اند که در نوع خود جالب و بی نظیر است./ ، این روش که به آن "Fun-Tuning" گفته می شود، از تکنیکی خاص استفاده می کند که باعث می شود، جمینای (ابزار هوش مصنوعی گوگل) اطلاعات را لو داده و یا جواب های اشتباه بدهد. در واقع، با یک سری متن های بی معنی، مدل را دور می زند و به جواب هایی می رسد که نباید تولید شود!/ این قضیه زنگ خطری جدی برای امنیت هوش مصنوعی محسوب می شود، زیرا نشان می دهد که حتی پیشرفته ترین مدل ها هم می توانند فریب بخورند!
Click
To Read Full Article
