Lockdown Mode.. ميزة جديدة لحماية بيانات مستخدمي ChatGPT

طرحت شركة OpenAI ميزة أمنية جديدة داخل تطبيق ChatGPT تحمل اسم Lockdown Mode، لحماية المستخدمين الذين يتعاملون مع بيانات شديدة الحساسية، وسط مخاوف متزايدة من هجمات حقن الأوامر Prompt Injection ومحاولات تسريب البيانات عبر أدوات الذكاء الاصطناعي المتصلة بالإنترنت.

وقالت الشركة، في تدوينة، إن Lockdown Mode عبارة عن إعداد أمني اختياري صُمم خصيصًا لتقليل أخطار استخراج البيانات الناتجة عن هجمات Prompt Injection، من خلال الحد من قدرة ChatGPT على إجراء اتصالات شبكية خارجية أو الوصول المباشر إلى الإنترنت والخدمات المرتبطة به.

وأوضحت الشركة أن هذا الوضع الأمني لا يستهدف جميع المستخدمين، بل جرى تطويره بالأساس للأشخاص والمؤسسات التي تتعامل مع معلومات حساسة للغاية، وتحتاج إلى مستويات حماية أعلى من المعتاد، حتى لو جاء ذلك على حساب تعطيل بعض الوظائف المتقدمة داخل ChatGPT.

تعتمد هجمات حقن الأوامر على إدخال تعليمات خفية أو مضللة داخل محتوى يتعامل معه نموذج الذكاء الاصطناعي، مثل صفحات الويب أو الملفات أو الرسائل النصية أو الصور، بهدف خداع النموذج ودفعه إلى تنفيذ أوامر غير مقصودة أو تسريب بيانات حساسة.

أوضحت OpenAI أن هذا النوع من الهجمات لا يزال يمثل "تحديًا بحثيًا معقدًا"، وأن الشركة تواصل تطوير أنظمة حماية متعددة الطبقات تشمل العزل البرمجي Sandboxing، وآليات منع تسريب البيانات عبر الروابط، وأنظمة المراقبة والتحكم المؤسسي.

لكن الشركة أكدت في الوقت نفسه أن Lockdown Mode لا يمنع ظهور تعليمات Prompt Injection داخل المحتوى الذي يعالجه ChatGPT، إذ قد تظهر هذه التعليمات داخل صفحات ويب مخزنة مؤقتًا cached webpages أو حتى ضمن ملفات يرفعها المستخدم بنفسه، وهو ما قد يؤثر على دقة الردود أو سلوك النموذج، إلا أن الوضع الجديد يهدف إلى منع المرحلة الأخطر، وهي مرحلة نقل البيانات الحساسة إلى خارج النظام عبر الاتصالات الشبكية.

يعتمد الوضع الأمني الجديد على تقييد قدرات ChatGPT المرتبطة بالإنترنت والخدمات الخارجية، بحيث يصبح النموذج أكثر انغلاقًا وأقل قدرة على إرسال البيانات أو استقبالها من مصادر خارجية.

وعند تشغيل الميزة، يتم تعطيل التصفح المباشر للويب، إذ لن يتمكن ChatGPT من الوصول إلى صفحات الإنترنت الحية، وسيعتمد فقط على المحتوى المخزن مؤقتًا Cached Content عندما يكون متاحًا، ما يعني أن نتائج البحث قد تصبح محدودة أو قديمة أو غير متوفرة أحيانًا.

ويؤدي تشغيل ميزة Lockdown Mode إلى تعطيل ميزة Deep Research بالكامل، وهي الأداة التي تسمح للنموذج بإجراء عمليات بحث وتحليل متقدمة عبر الإنترنت، إلى جانب تعطيل Agent Mode أو "وضع الوكيل الذكي" الذي يتيح لـ ChatGPT تنفيذ مهام متعددة بشكل شبه مستقل عبر الإنترنت.

وتشمل القيود الجديدة أيضًا منع ChatGPT من تثبيت الملفات من الإنترنت بغرض تحليلها، رغم استمرار دعمه للملفات التي يرفعها المستخدم يدويًا، بالإضافة إلى تعطيل قدرة المستخدم على الموافقة على تشغيل أكواد Canvas المتصلة بالشبكة.

وفي ما يتعلق بالصور، أوضحت OpenAI أن ChatGPT قد لا يعرض الصور داخل الردود التقليدية، أو يجلب صورًا من الإنترنت أثناء تفعيل Lockdown Mode، لكن هذا لا يعني تعطيل إنشاء الصور بالكامل، إذ ستظل ميزة توليد الصور متاحة في الحسابات التي تدعمها أصلًا.

كذلك يتم تعطيل عدد من التجارب المرتبطة بالخدمات الخارجية، بما يشمل بعض أدوات التسوق الذكية والخدمات المالية داخل ChatGPT، إضافة إلى تعطيل Developer Mode تلقائيًا، حيث لا يمكن تشغيل Developer Mode وLockdown Mode في الوقت نفسه.

وأشارت الشركة إلى أن تشغيل أحد الوضعين يؤدي تلقائيًا إلى إيقاف الآخر.

ورغم القيود الكبيرة التي يفرضها الوضع الأمني الجديد، إلا أن OpenAI تؤكد أن هناك العديد من الخصائص التي لا تتأثر بتشغيله، فالذاكرة تظل تعمل بشكل طبيعي، كما يستمر المستخدم في رفع الملفات يدويًا ومشاركة المحادثات مع الآخرين، كذلك لا يغيّر Lockdown Mode إعدادات استخدام المحادثات لتحسين النماذج، إذ يمكن التحكم بهذه الخيارات بشكل منفصل من خلال إعدادات الخصوصية.

أوضحت الشركة أن Lockdown Mode لا يؤثر على الوصول الشبكي داخل Codex، كما لا يغيّر سجلات الاستخدام داخل منصة Compliance API Logs Platform الخاصة بالمؤسسات.

بحسب OpenAI، فإن الميزة بدأت الوصول تدريجيًا إلى الحسابات الشخصية المؤهلة، وبينها الحسابات الشخصية المجانية، والمدفوعة، إلى جانب حسابات الشركات ChatGPT Business ذات الإدارة الذاتية.

وأشارت الشركة إلى أن عدم ظهور الميزة داخل إعدادات التطبيق يعني ببساطة أنها لم تصل إلى الحساب بعد، مؤكدة أن Lockdown Mode متاح لجميع أنواع الحسابات ومساحات العمل، لكن يجب تسجيل الدخول لاستخدامه.

يمكن تشغيل الميزة الجديدة، في حال توافرها، عبر الدخول لإعدادات تطبيق ChatGPT على الهاتف، واختيار تبويب الأمان Security، ثم التمرير لاختيار Lockdown Mode، وتفعيل الميزة.

وعند تشغيل الميزة، يظهر شريط حالة أعلى نافذة الكتابة داخل المحادثة يؤكد أن Lockdown Mode يعمل حاليًا.

وتسمح OpenAI للمستخدمين بتعطيل الوضع الأمني لمحادثة واحدة فقط دون الحاجة إلى إيقافه بالكامل، عبر الضغط على “Manage” داخل شريط الحالة، ثم اختيار “Turn off for this chat”، أو من خلال قائمة الخيارات الثلاثية (•••) ثم اختيار “Lockdown” وتحويل الحالة إلى “Disabled”.

ويمكن إعادة تفعيل الوضع للمحادثة نفسها لاحقًا بالطريقة ذاتها.

تعكس هذه الخطوة توجهًا متزايدًا داخل صناعة الذكاء الاصطناعي نحو بناء أوضاع تشغيل أكثر أمانًا، خصوصًا مع توسع قدرات الوكلاء الذكيين وأدوات الوصول إلى الإنترنت والأنظمة الخارجية.

ويبدو أن OpenAI تحاول من خلال Lockdown Mode تقديم توازن جديد بين الإمكانات المتقدمة التي يوفرها ChatGPT وبين الحاجة المتزايدة إلى حماية البيانات الحساسة، خاصة لدى المستخدمين المحترفين والمؤسسات.