نرم افزار سایبری جدید می تواند بررسی کند که هوش هوش مصنوعی واقعاً چقدر می داند

حمله سایبری برای تشخیص اینکه آیا هوش مصنوعی به داده های حساس دسترسی دارد؟

Cyber attack to detect if AI has access to sensitive data?

با توجه به علاقه روزافزون به هوش مصنوعی در سراسر جهان تشخیص این که آیا   هوش مصنوعی توانایی شناسایی نقص های کد نرم افزار را دارد  و آیا می تواند از آن استفاده کند.

" به عنوان مثال، در زمینه بازی آنلاین، می‌تواند تشخیص دهد که آیا هوش مصنوعی یاد گرفته است که در پوکر آنلاین با سوء استفاده از یک خطای کدگذاری برنده شود یا خیر "

هوش مصنوعی  (AI) در سراسر جهان بسیار پر کابردی است و استفاده میشود، محققان نرم‌افزاری ایجاد کرده‌اند که می‌تواند میزان اطلاعاتی را که یک هوش مصنوعی از پایگاه‌داده دیجیتال یک سازمان جمع‌آوری کرده است، تایید کنند. این نرم افزار  می تواند به عنوان بخشی از پروتکل امنیتی آنلاین یک شرکت مورد استفاده قرار گیرد، و به  آن سازمان کمک می کند تا بفهمد آیا هوش مصنوعی بیش از حد یاد گرفته است یا حتی به داده های حساس دسترسی پیدا کرده است.این نرم افزار همچنین قادر است تشخیص دهد که آیا هوش مصنوعی  نقص های کد نرم افزار را شناسایی کرده و می تواند از آن استفاده کند یا خیر .در بسیاری از کاربردها، سیستم‌های هوش مصنوعی با یکدیگر یا با انسان‌ها تعامل دارند، مانند ماشین‌های خودران در بزرگراه یا ربات‌های بیمارستان و... هستند.

سیستم داده هوش مصنوعی در چه حد می داند؟

To what extent does the artificial intelligence data system know?

بررسی آنچه که یک سیستم داده هوشمند هوش مصنوعی می‌داند، مشکلی است که سال‌ها طول کشیده تا بتوانیم راه حلی برای این موضوع "نرم افزار تأیید ما می تواند استنباط کند که هوش مصنوعی چقدر می تواند از تعامل آنها بیاموزد، آیا آنها دانش کافی دارند که همکاری موفقیت آمیز را ممکن می کند یا خیر، و آیا آنها دانش زیادی دارند که حریم خصوصی را نقض می کند بیابیم.

از طریق توانایی تأیید آنچه که هوش مصنوعی آموخته است، می توانیم ارائه دهیم که سازمان ها این اطمینان را دارند که با خیال راحت قدرت هوش مصنوعی را در تنظیمات ایمن رها کنند."مطالعه در مورد نرم افزار Surrey برنده جایزه بهترین مقاله در بیست و پنجمین سمپوزیوم بین المللی روش های رسمی شد.

پروفسور آدریان هیلتون، مدیر موسسه هوش مصنوعی گفته است:طی چند ماه گذشته، علاقه شدید مردم و صنعت به مدل‌های هوش مصنوعی مولد ناشی از پیشرفت‌ها در مدل‌هایی مانند ChatGPT بوده است. ایجاد ابزارهایی که می‌توانند عملکرد هوش مصنوعی را تأیید کنند، برای حمایت از  ایمنی آنها ضروری است. این تحقیق گامی مهم در جهت حفظ حریم خصوصی و یکپارچگی مجموعه داده های مورد استفاده در آموزش است."