OpenAI تكشف عملية منظمة لاستخراج «تفكير» نماذجها مرتبطة بفريق Moonshot الصينية

آخر تحديث: أكتوبر 2026

في 30 سبتمبر 2026 نشرت OpenAI تقريراً أمنياً غير معتاد بعنوان «Disrupting a coordinated model-distillation campaign»، تكشف فيه أنها فككت حملة منسقة لاستخراج «التفكير المحمي» من نماذجها — أي السجل الداخلي الذي يمر به النموذج قبل تقديم إجابته النهائية. التقرير الرسمي ينسب «جزءاً مركزياً» من النشاط إلى أفراد مرتبطين بشركة Moonshot AI المطوّرة لمساعد كيمي (Kimi)، ويوثق ذروة بلغت 16,000 طلب خلال يومين من أكثر من 4,000 مستخدم، ضمن عنقود أوسع تجاوز 15,000 حساب جرى تعطيله بالكامل بحلول 28 يوليو. القصة ليست اختراقاً تقنياً صريحاً، بل استغلالاً ذكياً لطريقة عمل النماذج نفسها — وهذا بالضبط ما يجعلها درساً مهماً لكل من يبني على واجهات الذكاء الاصطناعي.

ما هو «تقطير النماذج» ولماذا يُعد مشكلة؟

يعرّف تقرير OpenAI المصطلح بوضوح: التقطير العدائي (Adversarial Distillation) هو الاستخدام المنهجي وغير المصرح به لمخرجات نموذج ما — أو «تفكيره» — لتدريب نموذج آخر أو استنساخه أو تحسينه. والتفكير المحمي تحديداً هو «السجل الداخلي للنموذج في معالجة المهمة»؛ استخراجه قد يكشف معلومات حُجبت عن الإجابة النهائية، ويسمح للطرف الآخر باستنساخ قدرات النموذج دون تحمّل كلفة تطويرها.

لماذا هذا خطير؟ التقرير يجيب بنقطتين صريحتين:

• تفكيك ضمانات السلامة: التفكير المستخرج يمكن أن يُستخدم في تدريب نموذج منافس «دون الحفاظ على الضمانات المطبقة على مخرجات النموذج الأصلي» — أي نموذج يتعلم القدرة دون أن يتعلم القيود الأخلاقية والمهنية المدمجة فيها.
• بُعد أمن قومي: التقرير يصف تقطير النماذج الأمامية بأنه ينطوي على «مخاطر تتضخم مع اكتساب النماذج قدرات في المجالات ثنائية الاستخدام» — وهي لغة تتجاوز المنافسة التجارية إلى لغة الأمن السيبراني الوطني.

من المهم التدقيق في الصياغة: OpenAI لم تتهم Moonshot كشركة، بل قالت إن تحليلها عزا «عنقوداً مركزياً من النشاط» إلى «أفراد مرتبطين بـ Moonshot AI»، مع التأكيد أن تحديد ما إذا كانت كل العمليات صادرة عن جهة واحدة «غير واضح».

المصدر: ويكيميديا كومنز — شعار OpenAI 2025 (ملكية عامة)

التايملاين الكامل كما وثّقه التقرير الرسمي

المثير في الآلية — بحسب التقرير — أن المشغلين «لم يكسروا التشفير ولم يخترقوا قاعدة بيانات ولم يحصلوا على وصول مباشر لمحادثات المستخدمين المخزنة». الطريقة كانت أذكى: نسخ التفكير المشفّر من محادثة، ثم مطالبة النموذج في محادثة أخرى بفكه وتفريغه نصياً. أي استخدام النموذج نفسه أداةً لفضح ما يُفترض أن يظل مخفياً عن المستخدم.

الثغرة لم تكن حكراً على OpenAI

أخطر ما في التقرير — وأقل ما تناولته التغطيات المتسرعة — أن المشكلة بنيةً عامة لا عيب منتج:

1. التقرير ينص أن هذا النوع من التلاعب «ليس ثغرة فريدة بنماذج OpenAI»، وأن الشركة شاركت المعلومات مع منتدى النماذج الأمامية (Frontier Model Forum) لتقوية دفاعات الصناعة مجتمعة.
2. باحثو أمن مستقلون كانوا قد أبلغوا OpenAI — عبر الإفصاح المسؤول — عن ثغرات مماثلة عبر النماذج وفي «ضغط المحادثات» (Conversation Compaction)، ونشر مؤلفوها ورقة بحثية على arXiv. التقرير يقول إن OpenAI تحققت من النتائج و«أكدت أن مسارات الهجوم التي حددوها كانت حقيقية» وأن عملها «سرّع التخفيفات».
3. التقرير يحذر صراحة: «الأنظمة التي تدعم مخرجات تفكير قابلة للنقل أو إعادة التشغيل قد تواجه مخاطر مماثلة» — رسالة مباشرة لكل من يبني وكلاء ذكاء اصطناعي ينقلون «أدلة تفكير» بين الخدمات والأدوات.

كيف استجابت OpenAI عملياً؟

قائمة الاستجابة كما وردت حرفياً في قسم «How we responded» من التقرير:

• إنفاذ الحسابات: حظر وتقييد الحسابات الاحتيالية، وتشديد ضوابط التسجيل والبنية التحتية، وتوسيع المراقبة للشبكات المرتبطة.
• إغلاق مسار «إعادة التشغيل»: سدّ المسار الذي سمح لمن يملك تفكيراً مشفراً لمستخدم آخر بإعادة تشغيله واستعادة محتواه، وإضافة فحوصات لكشف تدفقات المخرجات التي قد تكشف التفكير وتعليقها.
• التنسيق مع مزودي الطرف الثالث: حين انتقل النشاط عبر خدمات وسيطة، تعاونت OpenAI مع تلك الخدمات لتحديد الحسابات المعنية وتعطيلها.
• مشاركة المعلومات: عبر منتدى النماذج الأمامية وقنوات مشاركة المعلومات الحكومية، ليتمكن المطورون الآخرون والقطاع العام من البحث عن نشاط مشابه.
• تقوية الحمايات عبر الحدود: تمديد الضمانات «بين المستخدمين ومساحات العمل والمؤسسات وعائلات النماذج» — أي أن التفكير المخفي لم يعد قابلاً للنقل حتى داخل بنية الحسابات المختلفة.

المصدر: OpenAI — Towards safety cases for frontier AI training

لماذا يعنيك هذا إن لم تكن OpenAI؟

ثلاث دوافع عملية تجعل القصة ذات صلة بقارئ عربي يتابع أو يستخدم أدوات الذكاء الاصطناعي:

أولاً — قيمة «التفكير المخفي» ستصبح ساحة المعركة القادمة. الميزة التي دفعت OpenAI للدفاع بهذه الشراسة هي نفسها التي تسوّق بها النماذج الأمامية اليوم: سلاسل الاستدلال الموسعة وخيار Deep Think وأشباهه. كل ما يحدث هنا سيسرّب لاحقاً إلى قراراتك كمتجر أو مطور: ماذا تكشف واجهات API عن تفكير النموذج، وماذا يُسجَّل، وماذا ينتقل بين الأدوات.

ثانياً — النماذج «المستنسخة» تؤول إلى أضعف ضمانات سلامة. حين يُدرَّب نموذج على مخرجات نموذج آخر دون ضماناته، النتيجة نموذج قادر لغوياً ومتساهل سلوكياً. لقارئ يقيّم أدوات للمؤسسات — خاصة في السياقات المالية والطبية والتعليمية — هذه معلومة تفيد في تقييم أي أداة تدّعي قدرات أمامية بسعر مريب.

ثالثاً — درس معماري لمطوري الوكلاء. إن كنت تبني وكلاء (Agents) ينقلون سياقاً وتفكيراً بين خطوات أو خدمات — مثل أنماط الوكلاء الدائمين التي أطلقتها OpenAI مؤخراً — فالدرس المباشر: لا تنقل «أدلة تفكير» خام بين الثقات المختلفة، وافترض أن أي مخرج قابل للنقل هو مخرج قابل للتسريب. هذا هو مضمون التحذير الصريح في خاتمة التقرير عن «الهجمات عبر مخرجات الأدوات» التي تتطلب حمايات تفحص أكثر من النص المرئي العادي.

التقطير المشروع مقابل التقطير العدائي: فرق يجب أن تفهمه

من السهل الخلط بين المصطلحين، والفرق بينهما هو الفرق بين هندسة برمجيات متاحة وسرقة خدمة:

• التقطير المشروع أسلوب معروف ومقبول في الصناعة: نموذج «معلم» يولّد بيانات تدريب لنموذج «طالب» بموافقة مالک المعلم ووفق ترخيصه — وهو ما تفعله الشركات داخلياً لتصغير نماذجها، أو عبر نماذج الأوزان المفتوحة التي تسمح تراخيصها صراحة بإعادة التدريب. الطالب يتعلم الأسلوب والقدرة من مخرجات مصرح بها.
• التقطير العدائي — موضوع تقرير OpenAI — هو عكس ذلك تماماً: استخراج غير مصرح به، بمقياس منسق، يستهدف تحديداً «التفكير المحمي» الذي تحجبه الشركة عن المستخدم العادي، مع تجاوز شروط الخدمة وضمانات السلامة معاً.

الخيط الفاصل هو الإذن والشفافية: الأول هندسة، والثاني استنزاف منظم لملكية فكرية ولضوابط سلامة في آن واحد.

قراءة الأرقام: اقتصاديات العملية كما توثقها البيانات

الأرقام الرسمية تروي قصة اقتصادية أكثر منها تقنية:

• 16,000 طلب خلال يومين من 4,000+ مستخدم تعني متوسط أربعة طلبات لكل حساب — أي أن الحجم جاء من اتساع الشبكة لا من كثافة حساب واحد، وهذا نمط «توزيع منخفض الارتياب» يصعب حجبه بحدود السرعة التقليدية.
• العنقود الأوسع بـ15,000+ مستخدم يوضح أن الضربة لم تكن فرداً عبقرياً بل منظومة حسابات جاهزة، وهي نفس البنية التي تعتمدها شبكات الاحتيال الرقمي التقليدية.
• المقابل المالي: أسعار الاستدلال للنماذج الأمامية تجعل الحساب مبهراً — فحتى وفق أسعار الجيل الأرخص المنشورة علناً مثل جيميني 4 أرغون بواقع 2$ و10$ لكل مليون رمز، فإن عشرات آلاف الطلبات المركزة على «التفكير الموسع» — وهو الأغلى لأنه يستهلك رموزاً خفية قبل الإجابة — تمثل صرفاً تشغيلياً ضخماً على طرف لم يدفع شيئاً، وعائداً تدريبياً مجانياً لطرف ثالث.

لهذا لم تكن الاستجابة «حجب عنوان IP» بل إعادة هندسة كاملة لطريقة تعامل المنصة مع التفكير المشفر عبر المستخدمين ومساحات العمل وعائلات النماذج.

خمس ممارسات تحمي مشروعك المبني على واجهات الذكاء الاصطناعي

الدرس المعماري من التقرير قابل للتطبيق اليوم على أي فريق يبني وكلاء أو خدمات فوق النماذج:

1. لا تنقل أدلة التفكير الخام بين الثقات: أي مخرج ينتقل بين أداة وخدمة خارجية هو مخرج قابل للتسريب — فلتره وقلّصه قبل المرور.
2. راقب الأنماط لا الطلبات: كشف OpenAI اعتمد على رصد «أنماط استخراج» متكررة عبر آلاف الحسابات، لا على حدود سرعة فردية؛ سجّل تحليلات تجميعية لنشاطك وابنِ إنذارات على الشذوذ المنسق.
3. افصل بيانات الاعتماد عن مخرجات النموذج: في عصر الوكلاء، «هجوم مخرجات الأدوات» الذي حذر منه التقرير يعني أن نصاً ولّده النموذج قد يحمل تعليمات ضارة — افحص المخرجات قبل تمريرها لأدوات تنفيذية.
4. وثّق شروط الاستخدام وطبّقها: التقرير كله يقوم على أن النشاط «خالف شروط الخدمة» — الترخيص الواضح هو أساس أي إنفاذ لاحق، تقنياً وقانونياً.
5. خطط للحماية عبر شركاء الاستضافة: إن كنت تخدم عبر سحابة خارجية، اطلب ضمانات مكافئة لما تطبقه الشركة الأم — فالتقرير نفسه يقر أن النشرات لدى الشركاء «تحتاج نفس الحمايات».

لماذا نُشر التقرير الآن وليس في يوليو؟

الفجوة الزمنية بين التعطيل الكامل للعنقود (28 يوليو) والنشر العلني (30 سبتمبر) — شهران كاملان — ليست تأخيراً عشوائياً بل ممارسة معيارية في الإفصاح الأمني: OpenAI انتظرت حتى اكتملت التخفيفات التقنية، وأُغلق مسار إعادة التشغيل، وتم التنسيق مع مزودي الطرف الثالث ومنتدى النماذج الأمامية، وحينها فقط كشفت التفاصيل دون أن تترك للمهاجمين خريطة ثغرات قابلة للاستغلال الفوري. هذا الترتيب يفسر أيضاً لماذا جاء التقرير مفصلاً بهذا المستوى: الكشف بعد الترميم يسمح بمشاركة الأنماط والآليات مع الصناعة والحكومات — وهو ما حدث فعلاً عبر قنوات مشاركة المعلومات — بينما الكشف المبكر كان سيكشف خطوط الدفاع قبل اكتمالها. القاعدة العملية لأي فريق أمني: أعلن بعد أن تصبح حمايتك قائمة، لا قبل.

ماذا بعد؟ ثلاثة مسارات أعلنتها OpenAI

خاتمة التقرير ترسم خريطة العمل المقبل في ثلاثة اتجاهات، وتكرر أن العمل «لم ينته»:

1. حمايات تقنية أقوى ضد الاستخراج — مع تحسين دفاعات الأدوات وتغطية المصنفات ورفض النموذج نفسه.
2. كشف وإنفاذ أفضل ضد الحملات المنسقة — لأن التقرير يتوقع أن تصبح محاولات التقطير «أكثر تطوراً مع تحسن النماذج الأمامية وسعي الفاعلين لطرق أرخص لمحاكاة قدراتها».
3. مشاركة أعمق لمعلومات التهديدات عبر الصناعة والحكومة، مع ملاحظة أن النشرات المستضافة لدى شركاء السحابة «تحتاج نفس الحمايات التي تتمتع بها خدمات الطرف الأول».

هذه النقطة الأخيرة مهمة تجارياً: كل من يستضيف نماذج OpenAI عبر شركاء سحابيين ينتظر طبقة حماية موحدة — أي أن أثر التقرير سيمتد إلى عقود الاستضافة وإتاحة النماذج في الأسواق خلال الأشهر المقبلة.

أسئلة شائعة عن عملية تقطير نماذج OpenAI

ما هو تقطير النماذج الذي ذكرته OpenAI؟

هو الاستخدام المنهجي غير المصرح به لمخرجات نموذج أو «تفكيره» الداخلي لتدريب أو استنساخ أو تحسين نموذج آخر. التقرير الرسمي الصادر في 30 سبتمبر 2026 يسميه «التقطير العدائي» ويصفه بانهيار لحدود الاستخدام المرخص، لأنه ينقل القدرة دون كلفة التطوير ودون ضمانات السلامة المدمجة في النموذج الأصلي.

من يقف وراء العملية بحسب OpenAI؟

التقرير ينسب «عنقوداً مركزياً» من النشاط إلى أفراد مرتبطين بشركة Moonshot AI المطورة لمساعد كيمي، مع التأكيد على عدم وضوح ما إذا كانت كل العمليات من فاعل واحد. لم تُوجَّه اتهامات رسمية ضد الشركة نفسها، والصياغة الرسمية متحفظة عمداً.

هل اختُرقت بيانات مستخدمي ChatGPT؟

لا. التقرير نص حرفياً على أن المشغلين لم يكسروا التشفير ولم يخترقوا قواعد بيانات ولم يحصلوا على وصول لمحادثات المستخدمين المخزنة. ما جرى هو تلاعب بتفاعلات النموذج لجعل «التفكير المحمي» يظهر بصور مرئية للطالب، بطريقة منسقة وموسعة مخالفة لشروط الخدمة.

كيف نجح المهاجمون في استخراج التفكير المخفي؟

بطريقتين رصدهما التقرير: نسخ التفكير المشفر من محادثة وطلب فكه وتفريغه في محادثة أخرى، إضافة إلى ثغرات عبر النماذج وفي ضغط المحادثات أبلغ عنها باحثون مستقلون عبر الإفصاح المسؤول ونشروها في ورقة على arXiv، وقد أكدت OpenAI صحتها وسرّعت التخفيفات بناء عليها.

ما علاقة القصة بمستخدم عربي عادي للأدوات؟

العلاقة غير مباشرة لكنها جوهرية: المنافسة على «التفكير المخفي» ستحدد ما تكشفه واجهات البرمجة مستقبلاً وما تسجله وتنقله بين الأدوات، والنماذج المستنسخة بلا ضمانات سلامة تضع مخاطر على أي مؤسسة تتبنى أدوات بأسعار مريبة، ومطوّرو الوكلاء العربية مطالبون بتصميم أنظمة لا تنقل أدلة تفكير خام بين ثقات مختلفة.

متى بدأت العملية ومتى أُوقفت؟

بدأت في الأسبوع الأول من يوليو 2026 بحجم منخفض، وسجلت ذروتها في 24–25 يوليو بـ16,000 طلب من أكثر من 4,000 مستخدم، وجرى تعطيل عنقود كامل يتجاوز 15,000 مستخدم بحلول 28 يوليو، قبل النشر العلني للتقرير في 30 سبتمبر 2026 بعد استكمال التخفيفات والتنسيق مع الشركاء.

هل المشكلة خاصة بنماذج OpenAI فقط؟

لا. التقرير يقر بأن هذا النوع من التلاعب ليس فريداً بنماذج OpenAI، وأن الشركة شاركت ما تعلمته عبر منتدى النماذج الأمامية وقنوات حكومية لأن أي نظام يدعم مخرجات تفكير قابلة للنقل أو إعادة التشغيل يواجه مخاطر مشابهة، بما فيها الأنظمة المبنية لدى شركات أخرى.

المصادر

• التقرير الرسمي الكامل من OpenAI: Disrupting a coordinated model-distillation campaign — المصدر الأول لكل الأرقام والاقتباسات في هذا المقال
• الورقة البحثية على arXiv التي أبلغ باحثوها عن الثغرات المرتبطة — بحث الإفصاح المسؤول عن ثغرات عبر النماذج وضغط المحادثات
• OpenAI: Towards safety cases for frontier AI training — منشور مرتبط عن منهج حالات السلامة للتدريب الأمامي

ابدأ رحلتك مع Truescho الآن

تغطية مثل هذه تحتاج قراءة فاحصة لا عناوين متسرعة — وهذا ما يقدمه فريق Truescho في دليلات وأخوات الذكاء الاصطناعي للطلاب والمهنيين العرب، بتحديث مستمر ومصادر موثقة.

ابدأ مجاناً الآن →