استضافة LLM ذاتيًا على VPS.
بلا GPU. بلا مفتاح API. ولا طلب واحد يغادر الخادم.

النسخة الصادقة من هذا القسم أثمن من نسخة متحمسة، لأن أسرع طريقة للتخلي عن نموذج مستضاف ذاتيًا هي توجيهه إلى المهمة الوحيدة التي هو أسوأ ما يكون فيها، ثم الاستنتاج بأن الفكرة كلها كانت سخيفة.

يتّسع براحة. أي شيء يكون فيه المخرج قصيرًا وتكمن قيمته في الحكم لا في النثر. تصنيف رسالة ضمن واحدة من فئات قليلة. تحديد ما إذا كانت تذكرة دعم عاجلة. استخراج خمسة حقول من فاتورة على شكل JSON. تلخيص محادثة في ثلاث جمل. وسم مستند. إعادة صياغة وصف منتج. ترجمة نص قصير. كشف ما إذا كان سجلان يصفان الشخص نفسه. حجب الأسماء من فقرة قبل أن تذهب إلى أي مكان آخر. كل واحدة من هذه المهام تستهلك مُدخلاً طويلاً وتنتج مخرجًا قصيرًا، وهذا بالضبط عدم التناظر الذي يتعامل معه CPU جيدًا.

يتّسع، بصبر. عمل لا ينتظره أي إنسان. دفعات ليلية، عمّال قائمة انتظار، مرور ليلي على مستندات اليوم، تقرير مجدول. إن لم يكن أي شيء ينتظر الإجابة، فإن معدل رموز لا يُحتمل في نافذة محادثة يتوقف عن الأهمية كليًا — مهمة تعمل لست دقائق في الساعة الثالثة فجرًا هي ببساطة مهمة اكتملت.

لا يتّسع. مساعد تفاعلي يستمتع الناس فعلاً باستخدامه: بهذه المعدلات يزحف المؤشر والتجربة أسوأ من غياب المساعد أصلاً. التوليد الطويل — اكتب لي ألفي كلمة — حيث المخرج بأكمله هو الجزء البطيء. وكلاء البرمجة الذين يمرّون على مستودع كبير، حيث يتجاوز كل من السياق ومعيار الجودة ما يستطيع نموذج صغير حمله. أي شيء يحتاج سياقًا من مئة ألف رمز، حيث تتجاوز ذاكرة التخزين المؤقت وحدها سعة الجهاز. ونماذج الصور أو الفيديو، وهي تخصص مختلف تمامًا ويحتاج فعلاً إلى GPU.

إن كان عبء عملك يقع في تلك المجموعة الأخيرة، فالإجابة السليمة ليست شراء خادم CPU أكبر — بل نهج هجين. أبقِ نموذجًا محليًا لمعظم الطلبات، ووجّه القلة التي تحتاج استدلالاً طليعيًا إلى API مستضافة، وهذا بالضبط الشكل الذي يصفه دليل تشغيل وكيل ذكاء اصطناعي على مدار الساعة لجانب بيئة التشغيل. ذلك الدليل ترك النموذج نفسه خارج نطاقه عمدًا. وهذا الدليل هو النصف الناقص.

صلّب الجهاز أولاً — SSH بمفاتيح فقط، وجدار حماية لا يسمح بأي شيء لم تطلبه، وتحديثات أمنية تلقائية. تستغرق قائمة الساعة الأولى نحو ساعة، وهذا خادم سيحتفظ عمّا قريب بكل سؤال تطرحه عليه.

بعدها ثبّت المشغّل. Ollama هو llama.cpp مع سجل نماذج وREST API ووحدة systemd ملفوفة حوله، ويقوم مثبّت من سطر واحد بإعداد الثلاثة جميعًا:

apt update && apt install -y curl
curl -fsSL https://ollama.com/install.sh | sh

systemctl status ollama --no-pager
ss -ltnp | grep 11434
# → 127.0.0.1:11434 — loopback only. Leave it that way.

هذا السطر الأخير هو الذي يستحق قراءته مرتين. الخدمة تستمع افتراضيًا على واجهة loopback، وهذا صحيح تمامًا، والخطأ الأكثر شيوعًا في العشر دقائق التالية هو ضبط OLLAMA_HOST على 0.0.0.0 لأن جهة على جهاز آخر لم تستطع الوصول إليها. الخطوة 04 هي الطريقة الصحيحة للوصول إليها؛ ولا توجد نسخة من هذا السيناريو يواجه فيها المنفذ 11434 الإنترنت مباشرة.

إعدادان يستحقان الضبط الآن بدل اكتشافهما لاحقًا. تُخزَّن النماذج افتراضيًا تحت /usr/share/ollama وهي كبيرة الحجم، فوجّه ذلك إلى حيث توجد مساحة. والإعداد الافتراضي يُبقي النموذج مقيمًا في RAM لخمس دقائق بعد آخر طلب، وهذا كرم زائد على خادم يقوم أيضًا بأعمال أخرى:

systemctl edit ollama

[Service]
Environment="OLLAMA_MODELS=/var/lib/ollama/models"
Environment="OLLAMA_KEEP_ALIVE=30m"
Environment="OLLAMA_NUM_PARALLEL=1"
Environment="OLLAMA_MAX_LOADED_MODELS=1"

systemctl daemon-reload && systemctl restart ollama

الطلبات المتوازية والنماذج المتعددة المحمّلة تضاعف استهلاك الذاكرة كلاهما، وعلى جهاز مُقاس ليحمل نموذجًا واحدًا بالضبط لا يوجد جيجابايت إضافي لنسخة ثانية. تسلسل قائمة الانتظار ليس قيدًا على هذا العتاد؛ بل هو الإعداد الوحيد الذي لا ينهار.

هذا هو جزء الدليل الذي يمنع حدوث أمر سيئ، لذا يُقال دون مواربة: API الخاصة بـ Ollama لا تملك كلمة مرور، ولا رمزًا، ولا نظام مستخدمين، ولا نظام صلاحيات. أي جهة قادرة على فتح اتصال TCP بالمنفذ 11434 يمكنها توليد نص على CPU الخاص بك، وسرد النماذج التي سحبتها، وسحب نماذج جديدة، وحذف التي تستخدمها. لا يوجد إعداد لتفعيله، لأنه لا توجد آلية لتفعيلها أصلاً.

المنفذ 11434 يُفحص باستمرار، لسبب واضح: مشغّل نماذج مفتوح هو موارد حوسبة مجانية مملوكة لشخص آخر. العرَض ليس تنبيهًا. بل جهاز يبدو بطيئًا لأسبوعين، ورسم بياني لنطاق ترددي لا يطابق أي شيء فعلته. أبقِ الخدمة على loopback، وضع أمامها ما يسأل عن هوية المتصل.

إن لم تكن أي جهة خارج هذا الجهاز بحاجة إلى النموذج، توقف هنا — لقد انتهيت فعلاً. loopback مع جدار حماية إجابة كاملة، وأي وكيل أو منظومة أتمتة أو تطبيق ويب يعمل على نفس VPS يصل إلى النموذج عبر 127.0.0.1 دون أي مما يلي. تابع فقط إن كان هناك ما على جهاز آخر يحتاج إلى استدعائه.

الوكيل، والرمز. ولّد رمزًا عشوائيًا طويلاً، ووجّه سجل A نحو الخادم، ودع Caddy يتولى الشهادة والباب معًا:

openssl rand -hex 32      # → the bearer token, store it in a password manager
apt install -y caddy

/etc/caddy/Caddyfile

llm.example.com {
    @unauthorised not header Authorization "Bearer PASTE_THE_HEX_TOKEN_HERE"
    respond @unauthorised "unauthorised" 401

    reverse_proxy 127.0.0.1:11434 {
        # Generation is slow by nature — do not let the proxy give up first.
        transport http {
            read_timeout 10m
        }
    }
}

systemctl reload caddy
ufw allow 80,443/tcp
ufw status                # 11434 must appear nowhere

هناك أناقة صغيرة في اختيار رمز حامل (bearer token) بدل المصادقة الأساسية. Ollama يعرض API متوافقة مع OpenAI، وكل عميل OpenAI يرسل مفتاحه في تلك الترويسة بالضبط، وبذا يصبح الرمز الذي ولّدته للتو مفتاح API الذي تعرف تطبيقاتك بالفعل كيفية حمله. لا شيء يحتاج ترويسة مخصصة، وتدوير الوصول سطر واحد في الـ Caddyfile ومتغير بيئة واحد لدى المستدعي.

تحقق من ذلك من جهاز غير الخادم نفسه. يجب أن يُرفض الاستدعاء الأول وأن يجيب الثاني:

curl -s -o /dev/null -w '%{http_code}\n' https://llm.example.com/api/tags
# → 401

curl -s https://llm.example.com/api/tags -H "Authorization: Bearer THE_TOKEN" | jq '.models[].name'
# → the list of models you pulled

إن كان النموذج سيُستدعى من قِبل وكلاء بدلاً منك أنت، فإن مسألة التعريض تستحق معالجة أوفى في دليل استضافة خادم MCP عن بُعد — المنطق نفسه حول TLS والرموز وما يجب أن يكون قابلاً للوصول ومن أين، مطبّقًا على خدمة تُسلّم أدوات لا رموزًا نصية.

قيّد السياق. طول السياق هو المقياس الرئيسي لاستهلاك الذاكرة، والقيمة الافتراضية أكرم مما يحتاجه خادم صغير. اضبطه عالميًا على ما يحتاجه فعلاً أطول طلب واقعي لديك — معظم أعمال التصنيف والاستخراج مريحة ضمن أربعة آلاف رمز — وارفعه لكل طلب في الحالات النادرة التي تحتاج أكثر من ذلك:

Environment="OLLAMA_CONTEXT_LENGTH=4096"

curl -s http://127.0.0.1:11434/api/generate -d '{
  "model": "llama3.1:8b",
  "prompt": "…a long document…",
  "options": { "num_ctx": 16384 },
  "stream": false
}'

قرّر إلى متى يبقى النموذج في الذاكرة. النموذج المقيم في الذاكرة فوري الاستدعاء لكنه يحتجز عدة جيجابايتات رهينة. على جهاز مخصص للاستدلال، أبقِه محمّلاً إلى الأبد؛ وعلى جهاز مشترك، دعه يتلاشى بعد فترة. هذه القيمة تُضبط أيضًا لكل طلب، بحيث يمكن لدفعة ليلية تثبيت النموذج طوال تشغيلها ثم تحريره في النهاية:

OLLAMA_KEEP_ALIVE=-1     # resident until the service restarts
OLLAMA_KEEP_ALIVE=30m    # a sensible default on a shared box
OLLAMA_KEEP_ALIVE=0      # unload immediately after each request

ollama ps                # what is resident right now, and how much it holds

سلسِل قائمة الانتظار. طلبان متزامنان على نموذج واحد لا يسيران بضعف السرعة؛ بل يتنافسان على مسار الذاكرة المشبع نفسه ويصبح كل منهما أبطأ، وإن قرر Ollama تحميل نسخة ثانية لخدمتهما نفد RAM من الخادم. على هذه الفئة من العتاد، طلب واحد في كل مرة مع قائمة انتظار أمامه هو الإعداد الأسرع والآمن الوحيد في آن واحد — ولهذا ثُبّت OLLAMA_NUM_PARALLEL وOLLAMA_MAX_LOADED_MODELS على واحد في الخطوة 02 سابقًا.

راقب القرص. مقارنة أربعة نماذج تترك أربعة نماذج خلفها، وبخمسة جيجابايتات لكل منها فإن القرص يمتلئ بصمت دون أن يشتكي شيء. اجعل التنظيف جزءًا من عملية المقارنة نفسها لا مهمة لاحقة:

ollama list
du -sh /var/lib/ollama/models
ollama rm mistral:7b qwen2.5:14b

أخيرًا، انسخ احتياطيًا ما لا يمكن إعادة إنتاجه. أوزان النموذج ليست منها — فسحب واحد يُعيدها. ما يستحق مستودعًا هو الإعداد، وملف Caddyfile، والرمز، والطلبات التي هذّبتها على مدى ثلاثة أسابيع، وإن بنيت واحدًا، الفهرس المتجهي وراء استرجاعك. يغطي دليل النسخ الاحتياطي المشفر الجوانب التقنية؛ وقائمة ما يجب تضمينه لهذا الخادم قصيرة وتستحق أن تُكتب.

يفكر الناس في خصوصية النموذج وكأن الخطر يكمن في المخرج. لكنه ليس كذلك. المخرج نص عام؛ حصل ألف شخص آخر على ما يشبهه. العنصر الكاشف هو المُدخل — وسنة كاملة من المُدخلات صورة شبه كاملة لمؤسسة بأكملها.

فكّر فيما يحتويه سجل الطلبات فعليًا. العقد الذي لصقته لتلخيصه. بريد العميل الذي طلبت تصنيفه، وفيه بيانات العميل. الرسالة الطبية، والراتب، وخطاب الاستقالة الذي كنت تصيغه، والشيفرة المأخوذة من مستودع غير عام. ثم البيانات الوصفية المحيطة بكل ذلك: أي أسئلة، بأي ترتيب، في أي ساعة، من أي عنوان، وعبر كم شهرًا. لا أحد يوقّع مستندًا يقول «هذه استراتيجيتنا» — لكن تسلسل الأسئلة هو ذلك المستند بعينه، مُجمّعًا بصدق، منك، طلبًا واحدًا في كل مرة.

الطبقة الأولى — ما تحتفظ به نقطة النهاية. مزوّدو الخدمة الجادّون ينشرون سياسات جادة، والجيدون منهم لا يدرّبون فعلاً على حركة API التجارية. لكن هذا ليس نفس وعد عدم الاحتفاظ بها. تُخزَّن الطلبات عادة لفترة معينة لمراقبة إساءة الاستخدام، ويمكن للموظفين الوصول إليها ضمن شروط محددة، ويمكن تقديمها بموجب إجراء قانوني — وهذه بالضبط الطريقة الصحيحة لتشغيل منصة كبيرة، والمكان الخاطئ تمامًا لنص لن ترسله بالبريد الإلكتروني لغريب. النموذج على جهازك الخاص لا يملك سجلاً كهذا ما لم تكتبه أنت.

الطبقة الثانية — الهوية التي يُربط بها السجل. الاحتفاظ بالبيانات وحده نصف التعريض فقط. النصف الآخر هو المفتاح الذي يُربط به: حساب، اسم شركة، عنوان فوترة، بطاقة. هذا الربط هو ما يحوّل «شخص ما سأل عن الاستحواذ على منافس» إلى «هذه الشركة سألت، في ذلك الثلاثاء». حذف النموذج من المعادلة يزيل الاحتفاظ بالبيانات؛ وحذف الهوية من الجهاز يزيل الربط. VPS يُفتح بلا بريد إلكتروني وبلا وثيقة هوية، ضمن ولاية قضائية نوردية، ومسوّى بـ Monero، هو النصف الثاني من الخطوة نفسها.

الطبقة الثالثة — السجلات التي تكتبها بنفسك. الاستضافة الذاتية تنقل الخطر بدل أن تحذفه، ويستحق الأمر أن تكون واضح الرؤية بشأن أين يستقر. تطبيقك على الأرجح يسجّل طلباته الخاصة. والوكيل العكسي لديك يسجّل كل سطر طلب. وجلسة تصحيح أخطاء قبل شهرين تركت مخرجات مفصّلة في السجل. النموذج نفسه لا يحتفظ بشيء بين الاستدعاءات، لكن الآلية المحيطة به يمكن أن تحتفظ بكل شيء — لذا قرّر عمدًا ما يُكتب، وحدّد مدة الاحتفاظ به، وأخضِع ذلك السجل للمعيار الذي لم تكن مستعدًا لقبوله من طرف آخر.

لا شيء من هذا يجعل النموذج المحلي ضمانة خصوصية بحد ذاته. بل يجعله المعمارية الوحيدة التي تكون فيها الضمانة بيدك أنت لتمنحها: النص يبقى على عتاد تستأجره، تحت ولاية قضائية اخترتها، خلف رمز أصدرته أنت، ولا يخضع لأي جهة أخرى.