مسؤول السلامة السابق في Google يدعو إلى «اختبارات تصادم» مستقلة للذكاء الاصطناعي الموجّه إلى الأطفال

قال Tom Siegel، نائب الرئيس السابق للثقة والسلامة في Google، في 24 سبتمبر 2026 إن الذكاء الاصطناعي قد يتبيّن أنه أشد ضررًا بالأطفال من وسائل التواصل الاجتماعي، وإن القطاع لن يعالج المشكلة من تلقاء نفسه ^[1]. وجاءت هذه الملاحظة في الأسبوع ذاته الذي تناولت فيه وسيلتان إعلاميتان أخريان كيف تزن الأسر المخاطرَ المرتبطة بالذكاء الاصطناعي على الأطفال، من روبوتات الدردشة المرافِقة إلى المخاوف الأوسع من التقنية نفسها ^{[3] [4]}.

الخلفية

قاد Siegel فريق الثقة والسلامة في Google قبل أن يؤسس الشركة الناشئة TrustLab. وهو اليوم أول مدير تنفيذي لـ «معهد سلامة الشباب في الذكاء الاصطناعي» (Youth AI Safety Institute)، الذي أطلقته منظمة الدفاع عن الأطفال Common Sense Media في مايو 2026 بدعم من Anthropic ومؤسسة OpenAI ‏^[2]. والغرض المعلن للمعهد تقييم منتجات الذكاء الاصطناعي التي يستخدمها القاصرون أو تُسوَّق لهم.

النتائج

نجد أنفسنا في وضع سيئ للغاية من حيث ما يفعله الذكاء الاصطناعي بالأطفال.

Tom Siegel، نائب الرئيس السابق للثقة والسلامة في Google، كما نقلت عنه Reuters

مقترح Siegel محدد: «توسيع نطاق معايير مستقلة شبيهة باختبارات تصادم السيارات تقيس مخاطر أدوات الذكاء الاصطناعي المتاحة للعموم»، كما نقلت عنه Reuters ‏^[1]. وقال إن «فكرة أن القطاع سيجد الحل بنفسه من دون مساعدة خارجية فكرة غير واقعية»، وذكر الانتحار والذهان وتراجع التفكير النقدي ضمن الأضرار التي يريد اختبارها قبل وصول المنتجات إلى الأطفال ^[1].

ووجد استطلاع أجرته Common Sense Media عام 2025 على 1,060 مراهقًا أمريكيًا تتراوح أعمارهم بين 13 و17 عامًا، استشهدت به تغطية NewsNation، أن 72 في المئة استخدموا رفيقًا بالذكاء الاصطناعي مرة واحدة على الأقل، وأن 52 في المئة يستخدمونه بانتظام، وقال نحو الثلث إنهم ناقشوا أمورًا جدية مع روبوت بدلًا من شخص ^[4]. ويتناول التقرير ذاته وفاة Sewell Setzer III البالغ 14 عامًا في 2024 بعد علاقة مكثفة مع روبوت دردشة مرافِق؛ وقد رفعت والدته دعوى على Character.AI وGoogle، وتوصلت الشركتان إلى تسوية في وقت سابق من 2026 ^[4]. وقال Robbie Torney من المعهد لـ NewsNation: «بصراحة، المختبرات حاليًا تصحّح واجباتها بنفسها» ^[4].

وأفادت CNN بشكل منفصل، في 28 سبتمبر، بأن استطلاعًا أجرته وجد أن 64 في المئة من الأمريكيين يرون أن من المحتمل إلى حدٍّ ما أو من المحتمل جدًا أن يبلغ الذكاء الاصطناعي من القوة ما يهدد بقاء البشرية، وهو قلق أوسع وأكثر تخمينًا من أضرار الصحة النفسية التي تصفها Reuters وNewsNation، ولا يقدّره جميع الباحثين الذين تنقل عنهم CNN بالطريقة نفسها ^[3].

عدد قليل من الشركات، وعدد قليل من الأشخاص، يحتجزوننا جميعًا رهائن.

Liz Black، أحد أولياء الأمور، كما نقلت عنها CNN

دلالات ذلك على الأسر

تتأثر الأسرة التي لديها مراهق يملك جهاز Mac بالنمط الذي تصفه هذه المصادر، رغم أن أيًّا من التغطيات لا يتعلق بنظام macOS تحديدًا. فأرقام Common Sense Media تشير إلى أن معظم المراهقين جرّبوا بالفعل رفيقًا بالذكاء الاصطناعي، وأن بعضهم يعامله بوصفه أكثر من أداة ^[4]. والقلق القابل للقياس، أي الضرر النفسي والاعتماد العاطفي اللذان أوردتهما Reuters وNewsNation، يختلف عن القلق الأكثر تخمينًا بشأن مسار الذكاء الاصطناعي الذي تنقله CNN؛ ولا ينبغي التعامل معهما بوصفهما نتيجة واحدة ^{[1] [3] [4]}.

ولهذا التمييز أهمية فيما يستطيع ولي الأمر فعله فعلًا. فالقلق الأوسع بشأن وجهة الذكاء الاصطناعي بوصفه تقنية ليس أمرًا يعالجه أي إعداد على جهاز Mac منزلي. أما روبوت الدردشة الذي يتحدث إليه المراهق اليوم، عبر تطبيق مثبّت أصلًا على جهاز Mac في المنزل، فهو أمر يستطيع ولي الأمر أن يطّلع عليه ويسأل عنه، ويقيّده عند الحاجة، ولذلك تركز التوصيات أدناه على هذا الجزء من القصة ^[1].

التوصيات

1. امنحوا الطفل حساب مستخدم عاديًا خاصًا به في macOS دون صلاحيات المسؤول، لكي تنطبق عليه القيود فعلًا بدلًا من حساب مشترك.
2. استخدموا «مدة استخدام الجهاز» (إعدادات النظام › مدة استخدام الجهاز) لتحديد حدود التطبيقات وحدود الاتصال، وتحققوا من التصنيف العمري للتطبيق قبل تثبيته.
3. اسألوا مباشرةً عن تطبيقات روبوتات الدردشة أو «الرفقة» التي يستخدمها الطفل؛ فقد قيّم معهد سلامة الشباب في الذكاء الاصطناعي تطبيقات الرفقة الاجتماعية بالذكاء الاصطناعي بأنها خطر غير مقبول على القاصرين.
4. تعاملوا مع تعلّق المراهق بروبوت دردشة بوصفه موضوعًا لحوار هادئ ومباشر لا للعقاب، على نحو ما نبّه إليه الباحثون في قضية Setzer.
5. تذكّروا أن أي مرشّح محتوى لا يقرأ ما يُقال داخل المحادثة، فالإشراف يجب أن يشمل الحديث مع الطفل، لا حظر التطبيقات فحسب.

صلة ذلك بـ FireAI

FireAI جدار حماية للشبكة على جهاز Mac، وليس أداة لمراقبة المحادثات. تحظر الرقابة الأبوية فئات كاملة من المواقع والتطبيقات بحسب وجهة الشبكة، لكل تطبيق ومتصفح على جهاز Mac. ويفعّل الإعداد المسبق «سلامة الطفل أولًا» بنقرة واحدة دروع المحتوى غير الملائم والقمار والمخدرات والألعاب، ويقصر الجهاز على Safari وحده، وتتيح القواعد لكل تطبيق لولي الأمر أن يقرر، تطبيقًا تطبيقًا، ما المسموح له بالاتصال بالإنترنت أصلًا.

وما لا يفعله مهم هنا: إذا لم يكن تطبيق روبوت الدردشة مدرجًا في أي قائمة حظر وظل مسموحًا له بالاتصال، فلا سبيل لـ FireAI إلى قراءة محتوى المحادثة الجارية داخله أو الحكم عليه. فهو لا يستطيع أن يحدد ما إذا كانت محادثة الذكاء الاصطناعي سليمة أو ملائمة للعمر، ولا يكتشف أنماط الاستدراج أو الاعتماد العاطفي فيما يُقال، وليس أداة لإدارة المحتوى ولا أداة للصحة النفسية. إنه يقرر ما المسموح له بالاتصال بالإنترنت، ولا يرى ما يُكتب بعد السماح بالاتصال.

القيود

تصف المصادر مخاوف مختلفة لا تدمجها التغطيات نفسها: ضرر قابل للقياس من استخدام رفقاء الذكاء الاصطناعي، أوردته Reuters وNewsNation، وقلق أوسع وأكثر تخمينًا بشأن المسار المجتمعي للذكاء الاصطناعي، أوردته CNN ‏^{[1] [3] [4]}. ولا تذكر أي من التغطيات تطبيقات الرفقة التي قيّمها المعهد، ولا تصف منهجية الاختبار بالتفصيل. كما لم يثبت أن أي شركة ذكاء اصطناعي أو جهة تنظيمية تبنّت اختبارات سلامة على نمط اختبارات التصادم كما يقترح Siegel، ولا الإطار الزمني الذي قد ينطبق فيه معيار كهذا على المنتجات الموجودة في السوق.

ولا تذكر التغطيات كذلك عدد المراهقين في استطلاع Common Sense Media الذين استخدموا جهاز Mac أو iPhone أو جهازًا آخر، فالصلة بالأسر المستخلصة هنا مستنتجة من مدى شيوع استخدام رفقاء الذكاء الاصطناعي بين المراهقين الأمريكيين عمومًا، لا من بيانات خاصة بالأجهزة في أي من المصادر الأربعة.

اقرأوا المزيد عن الرقابة الأبوية في FireAI، أو جرّبوا FireAI من HisnLabs مجانًا لمدة 17 يومًا.