لمواجهة هجمات خفية.. تحديث أمني جديد لـ ChatGPT

الوكيل الإخباري-   أعلنت شركة OpenAI عن إصدار تحديث أمني جديد لأداة ChatGPT Atlas بعد اكتشاف فئة جديدة من الهجمات الإلكترونية، تُعرف باسم حقن الطلبات (prompt injection)، التي تحاول إدخال تعليمات خبيثة ضمن محتوى عادي لتجاوز طلبات المستخدم ودفع الذكاء الاصطناعي للقيام بأفعال غير مرغوبة.

ويتيح التحديث الجديد مقاومة هذه الهجمات عبر نموذج تم تدريبه خصيصًا للتعرف على التعليمات الضارة والتصدي لها، بالإضافة إلى نظام المهاجم التلقائي الذي يحاكي هجمات معقدة لاكتشاف نقاط الضعف قبل استغلالها فعليًا.

ويأتي هذا التحديث في ظل تزايد المخاطر على الوكلاء الذكيين القادرين على التفاعل مع الإنترنت وإجراء إجراءات فعلية مثل فتح الروابط أو إرسال رسائل البريد الإلكتروني، ما يجعلهم أهدافًا أكثر جذبًا للهجمات مقارنة بالذكاء الاصطناعي التقليدي.

وأكدت OpenAI أن الهجمات من هذا النوع لن تُزال بالكامل، لكن تحديثات الأمان المستمرة والمراقبة الدقيقة ستظل ضرورية لضمان حماية المستخدمين من الاستغلال الخبيث.

ارم نيوز