التعلّم الموزّع (الفيدرالي)

تخيّل عدّة مستشفيات تريد تدريب نموذج تشخيص واحد بشكل مشترك، دون أن تتبادل أبدًا أيّ ملفّ مريض. هذا تحديدًا وعد التعلّم الموزّع (التعلّم الفيدرالي): فبدلًا من نقل البيانات إلى النموذج، نَنقُل النموذج إلى البيانات. النموذج هو الذي يتنقّل، أمّا البيانات فتبقى في مكانها.

كيف يعمل

يقوم المبدأ على دورة متكرّرة يُنظّمها خادم مركزي وعدد من العملاء (هواتف، مستشفيات، بنوك) قد يبلغ عشرات أو آلاف أو ملايين:

1. يُرسل الخادم النموذج العام الحالي إلى كلّ عميل.
2. يُدرّبه كلّ عميل محليًّا على بياناته الخاصّة.
3. لا يُعيد العملاء سوى تحديثات الأوزان (التدرّجات)، دون البيانات الخام أبدًا.
4. يقوم الخادم بـتجميع هذه التحديثات لإنتاج نسخة عامّة جديدة.

تحسب الخوارزمية الأساسية FedAvg متوسّطًا مُرجّحًا بعدد الأمثلة $n_k$ لدى كلّ عميل:

$$ w_{t+1} = \sum_{k=1}^{K} \frac{n_k}{n} \, w_t^k $$

مركزي أم موزّع؟

أين نصادفه

• لوحة المفاتيح التنبّؤية في هاتفك، دون رفع رسائلك.
• الرعاية الصحّية، حيث لا يمكن لبيانات المرضى مغادرة المؤسّسة.
• البنوك والتأمين، الخاضعة لقيود تنظيمية صارمة.

التعلّم الموزّع يُحرّك التدريب لا البيانات — ركيزة للتوفيق بين الذكاء الجماعي وحماية الخصوصية.