ماذا تخزّن ذاكرة مساعدات الذكاء الاصطناعي، ولماذا يهمّ أن تطّلع عليها وتعدّلها وتمحوها

منذ عام 2024 أضافت مساعدات الذكاء الاصطناعي الكبرى ما تسمّيه «الذاكرة»: معلومات عن المستخدم تبقى من محادثة إلى التي تليها. والذاكرة تجعل المساعد أنفع، لكنها تحوّله أيضًا إلى ملف تعريفي عن مستخدمه يحتفظ به من يشغّل المساعد. تصف هذه المذكرة، استنادًا إلى توثيق الشركات نفسها، ما تتذكّره ثلاثة مساعدات، وكيف يستطيع المستخدم الاطلاع عليه وتصحيحه وحذفه؛ وتلخّص نتيجتين محكّمتين عمّا تكشفه التمثيلات المتجهية التي يقوم عليها البحث في الذاكرة؛ وتستعيد هجومًا موثّقًا يزرع ذكريات زائفة عبر حقن التعليمات. ثم تبيّن ما يخزّنه AISir، وهو مخطِّط ومساعد صوتي لجهاز Mac من HisnLabs، وأين يخزّنه، وما الذي لا يحلّه.

الخلفية

للذاكرة في المساعدات عادةً طبقتان. الذاكرة القصيرة الأمد هي المحادثة الجارية، أو ملخّص لها، يُمرَّر إلى النموذج مع كل رسالة جديدة. والذاكرة الطويلة الأمد مخزن لمعلومات تبقى بين المحادثات، مثل «يفضّل الاتصالات الصباحية» أو «يعمل مهندسًا معماريًا». ولكي يستفيد المساعد من الذاكرة الطويلة عليه أن يجد المعلومات المخزّنة ذات الصلة برسالة جديدة، ويجري ذلك عادةً بالتضمينات (embeddings): يحوّل نموذجٌ كل معلومة إلى متجه من الأعداد بحيث تتقارب متجهات النصوص المتشابهة في المعنى، ثم يعيد البحث المتجهي أقرب المعلومات. وتُخزَّن المتجهات إلى جانب النص أو بدلًا منه. ومن هنا ينشأ سؤالان عن الخصوصية: من يحتفظ بالمخزن، وكم تكشف المتجهات نفسها؟

النتائج

ChatGPT: ذكريات محفوظة، وسجل محادثات، وحذف في موضعين

يذكر تحديث OpenAI الصادر في 10 أبريل 2025 أن الذاكرة «باتت تستند إلى كل محادثاتك السابقة» وأنها «تعمل الآن بطريقتين: ‹الذكريات المحفوظة› التي طلبتَ منه تذكّرها، و‹سجل المحادثات› وهو استنتاجات يجمعها ChatGPT من المحادثات السابقة لتحسين اللاحقة». والذكريات المحفوظة مخزن مستقل: «حذف محادثة لا يمحو ذكرياتها؛ عليك أن تحذف الذكرى نفسها». وتضيف الصفحة: «قد نستخدم المحتوى الذي تقدّمه إلى ChatGPT، بما في ذلك الذكريات، لتحسين نماذجنا للجميع. ويمكنك إيقاف ذلك عبر عناصر التحكم في البيانات» ^[1]. وتقول صفحة الأسئلة الشائعة عن الذاكرة إنه حتى بعد نسيان ذكرى محفوظة «قد نحتفظ بسجل للذكريات المحفوظة المحذوفة مدة تصل إلى 30 يومًا لأغراض السلامة وتصحيح الأخطاء»، وإن دفتر الذكريات المحفوظة «يُخزَّن بمعزل عن سجل محادثاتك»، بحيث «حتى لو حذفت محادثة، يمكن أن تُستخدم أي ذكريات محفوظة منها في محادثات لاحقة» ^[2].

Gemini: ذاكرة مشتقّة من المحادثات، ونسيان بحذفها

تشرح صفحة المساعدة لدى Google أن المستخدمين «يمكنهم أن يطلبوا من Gemini تذكّر تفاصيل بمجرد التحدث إليه»، كأن يقولوا: «تذكّر أنني نباتي». لكنها تنبّه إلى أن «تعليمات النسيان أو تجنّب مواضيع معيّنة في المحادثات لا تعمل دائمًا على نحو مثالي. ولكي تتأكد من أن Gemini كفّ عن ذكر موضوع ما، احذف أي محادثات عنه من نشاط تطبيقات Gemini» ^[3]. أي إن الطريقة الموثوقة لجعل Gemini ينسى هي حذف المحادثات التي صدرت منها المعلومة، لا توجيه أمر إلى النموذج.

Claude: ملخّص للذاكرة يطّلع عليه المستخدم ويعدّله

يذكر إعلان Anthropic الصادر في 11 سبتمبر 2025، والذي امتدّ إلى خطط Pro وMax في 23 أكتوبر 2025، أن «Claude يستخدم ملخّصًا للذاكرة يجمع كل ذكرياته في مكان واحد لتطّلع عليها وتعدّلها»، وأن الذاكرة محصورة في نطاق المشروع («لكل مشروع ذاكرته المنفصلة»)، وأن «المحادثة الخفية تمنحك صفحة بيضاء للمحادثات التي لا تريد حفظها في الذاكرة». ويمكن للمستخدمين أيضًا «تصدير ذاكرتهم من Claude للنسخ الاحتياطي أو النقل» ^[4].

الذاكرة بوصفها سطحًا للهجوم

الذاكرة التي يكتبها النموذج من تلقاء نفسه يمكن أن يكتبها أيّ محتوى يقرؤه النموذج. ففي 22 مايو 2024 وصف الباحث الأمني يوهان ريبرغر كيف يمكن لمهاجم أن «يتلاعب بمساعدك الذكي (روبوت محادثة أو وكيل) ليتذكّر معلومات زائفة أو انحيازًا أو حتى تعليمات، أو ليحذف كل ذكرياتك»، عبر حقن التعليمات غير المباشر، أي تعليمات مخبّأة في مستند أو صفحة ويب يعالجها المساعد ^[5]. والذكرى الزائفة تدوم: فهي تؤثّر في كل محادثة لاحقة إلى أن ينتبه المستخدم ويحذفها.

التضمينات ليست مجهولة الهوية

تخزين المتجهات بدل النص لا يُخفي النص. فقد بيّن موريس وزملاؤه في مؤتمر EMNLP 2023 أن «طريقة متعددة الخطوات تصحّح النص وتعيد تضمينه تكرارًا قادرة على استرجاع» 92 في المئة «من مدخلات نصية طولها 32 رمزًا استرجاعًا تامًا»، وأن نموذجهم «يستطيع استرجاع معلومات شخصية مهمة (أسماء كاملة) من مجموعة بيانات لملاحظات سريرية» ^[6]. وقبل ذلك وجد سونغ وراغوناثان أن الهجمات على تضمينات الجمل الشائعة تسترجع ما بين 50 و70 في المئة من كلمات المدخلات، وأن «سمات مثل مؤلف النص يمكن استخراجها بسهولة بتدريب نموذج استدلال على حفنة فقط من متجهات التضمين الموسومة» ^[7]. ولذلك ينبغي التعامل مع متجهات مخزن الذاكرة على أنها حسّاسة بقدر حساسية المعلومات التي تمثّلها.

ما يتوقّعه القانون من النسيان والتصدير

حيث تسري اللائحة العامة لحماية البيانات، تمنح المادة 17 الشخصَ «الحق في أن يحصل من المسؤول عن المعالجة على محو البيانات الشخصية المتعلقة به دون تأخير لا مبرّر له»، كأن تكون البيانات «لم تعد ضرورية»، وتمنحه المادة 20 حق تلقّي البيانات التي قدّمها «بصيغة منظَّمة وشائعة الاستخدام وقابلة للقراءة آليًا» ^[9]. وهذه الحقوق تُلزم مزوّد الخدمة الذي يحتفظ بالبيانات. أما المخزن المحفوظ على جهاز المستخدم نفسه فلا مزوّد فيه يُطلب منه شيء: يمارس المستخدم الضوابط المكافئة بنفسه مباشرةً.

ما يعنيه ذلك لمستخدمي Mac

ثلاث خصائص تميّز تصميمًا للذاكرة من آخر. الأولى: من يكتب فيها؛ فالذكريات التي لا تُكتب إلا بطلب صريح أو بتأكيد أصعب تسميمًا من تلك التي يستنتجها النموذج وحده. والثانية: هل الحذف حذف فعلًا؛ فحين تُشتقّ الذاكرة من المحادثات، أو يُحتفظ بسجل بعد الحذف، يصبح النسيان متعدد الطبقات ومتأخرًا. والثالثة: أين يقع المخزن؛ فالمخزن السحابي يخضع لسياسات المزوّد في الاحتفاظ والتدريب والمراجعة، والمخزن المحلي يخضع لأمن الجهاز ولأمن التطبيقات الأخرى العاملة عليه. والمخزن المحلي ليس آمنًا تلقائيًا؛ بل إنه ينقل المسؤولية إلى المستخدم وإلى نظام التشغيل.

توصيات

1. افتح إعدادات الذاكرة في كل مساعد تستخدمه واقرأ ما يحتفظ به عنك، واحذف ما كان خاطئًا أو غير ضروري.
2. حين تكون الذاكرة مشتقّة من المحادثات، احذف المحادثات التي تتضمن ما تريد نسيانه، لا مدخل الذاكرة وحده.
3. أوقف التدريب على محتواك حيث يتيح المزوّد ذلك، واستخدم المحادثات الخفية أو المؤقتة للشؤون السرّية.
4. احذر المساعدات التي تحفظ ذكريات من المستندات أو صفحات الويب دون أن تسألك، وراجع الذاكرة بعد معالجة محتوى غير موثوق.
5. تعامل مع ملفات الذاكرة المصدَّرة وقواعد بيانات الذاكرة المحلية على أنها حسّاسة: احفظها على قرص مشفّر وبعيدًا عن المجلدات المشتركة.

صلة الموضوع بـ AISir

لدى AISir 1.0.1 طبقتا الذاكرة كلتاهما، وكلتاهما تبقيان على جهاز Mac. فالذاكرة القصيرة الأمد هي المحادثة الجارية: تتشارك فيها الأسئلة المكتوبة والمنطوقة، وتُلخَّص المحادثات الطويلة، و«تُحفظ في الذاكرة فقط وتُنسى عند إغلاق AISir». أما الذاكرة الطويلة الأمد فتحفظ «العملاء والتفضيلات والعادات والروتينات». وتُحفظ المعلومة حين يقول المستخدم أو يكتب «تذكّر أنّ…»، أو حين يجيب بنعم عندما يسأله AISir «هل أتذكّر ذلك؟»: «لا يُحفظ شيء قبل أن تقول نعم أو تنقر تذكّر». ومع تفعيل خيار تذكّر العادات تلقائيًا (وهو مفعّل افتراضيًا ويمكن إيقافه) يحفظ AISir أيضًا ساعات العمل المعتادة للمستخدم مستنتَجة من مهامه، ولا تُحفظ الروتينات إلا إذا نقر المستخدم «اجعلها روتينًا». وتذكر صفحات المساعدة أن الذاكرة «تبقى على جهاز Mac هذا، في قاعدة بياناته داخل Application Support/AISir»، وأنه «لا يحتفظ أبدًا بأي شيء عن الصحة أو الدين أو السياسة أو الحياة الجنسية». ويعتمد البحث في الذاكرة على sqlite-vec، الذي يصفه مؤلفوه بأنه «امتداد SQLite صغير جدًا للبحث المتجهي، ‹سريع بما يكفي›» ^[8]، وعلى تضمين NaturalLanguage من Apple الذي يعمل على الجهاز ضمن macOS. وتتيح شاشة الإعدادات › الذاكرة البحث والتعديل والحذف والتصدير (ملف JSON) ونسيان كل شيء، وبالصوت: «انسَ أنّ…» أو «oublie tout». والبحث على الويب، المتوقف افتراضيًا، لا يرسل الذكريات أبدًا. التفاصيل في صفحة AISir.

لا يشفّر AISir قاعدة بياناته بأكثر مما يوفّره macOS، فحمايتها رهن بتشفير FileVault وبحساب المستخدم. والاسترجاع من الملاحظات العربية أضعف: إذ تشير خارطة طريق AISir إلى أن نموذج Apple للتضمين السياقي بالعربية غير مثبَّت افتراضيًا. والنموذج صغير ويخطئ، وتستغرق الأجوبة نحو أربع ثوانٍ، ولا يعمل AISir إلا على Apple silicon مع macOS 15. أما ملف JSON المصدَّر فيخرج عن سيطرة AISir بمجرد حفظه.

حدود هذه المذكرة

تعتمد هذه المذكرة على التوثيق لا على اختبار المساعدات. وصفحات الشركات تتغيّر كثيرًا، وقُرئت صفحتا OpenAI من نسخ مؤرشفة لأن الصفحات الحية ترفض القرّاء الآليين. ونتائج استرجاع النص من التضمينات حُصّلت على نماذج وأطوال نصوص محددة، ولا تقيس أي مساعد مذكور هنا. وتقرير حقن الذاكرة يصف ChatGPT عام 2024، وربما غيّرت OpenAI سلوكه منذ ذلك الحين. ووصف AISir مأخوذ من صفحات المساعدة فيه ومن خارطة طريقه، وHisnLabs هي من يصنع AISir، وهو ما ينبغي للقارئ أن يأخذه في الحسبان. للاستزادة: حقن التعليمات ووكلاء الذكاء الاصطناعي والتعليمات المسمومة والذكاء الاصطناعي المضمَّن.

دور FireAI وHisnLabs

الذاكرة المحفوظة على الجهاز لا تبقى خاصة إلا ما دامت التطبيقات على ذلك الجهاز تُبقيها فيه. يعرض FireAI، لكل تطبيق على حدة، كل اتصال يفتحه جهاز Mac، فيظهر تطبيق الذكاء الاصطناعي الذي يرفع أكثر مما ينبغي، ويمكن حجبه.

FireAI هو منتج HisnLabs نفسها: جدار حماية بذكاء اصطناعي يعمل على جهاز Mac مباشرة. يعرض بلغة واضحة كل اتصال تجريه تطبيقاتك، ويترك لك القرار فيما يخرج من جهازك — ذكاؤه الاصطناعي يعمل محليًا، فلا يُرسَل ترافيكك إلينا ولا إلى أي جهة أخرى أبدًا. فريق أبحاث الأمن في HisnLabs هو من يحافظ على دقة هذه القرارات: يصنّف النطاقات بين قياس عن بُعد عادي وخدمة حقيقية، ويتتبّع بلد وشبكة كل اتصال، ويدرّب النموذج المحلي (ميزة FireAI Pilot) على حركة اتصال حقيقية، دون أن يغادر أي شيء جهاز Mac.

يمكنك الاطلاع على القرارات التقنية وراء ذلك، أو تجربة FireAI لمدة 17 يومًا، على FireAI من HisnLabs.