Cluster Multi-Node Kubernetes (k3s), GitOps și Infrastructură AI Privată
Infrastructură proprie de producție pe Proxmox VE și Kubernetes (k3s) pentru inferență AI locală (Ollama), baze PostgreSQL + pgvector, rețelistică zero-trust, backup-uri automate și observabilitate completă.
Motivația Inginerească & Obiectivele Platformei
Consultanța reală pentru companii europene privind implementări AI on-premise, securitate Kubernetes și optimizarea costurilor cloud cere operarea directă a întregii stive — de la hipervizoare bare-metal și stocare ZFS până la ingress, rotație TLS și rularea locală a modelelor LLM.
Clusterul găzduiește în regim 24/7 aplicații web de producție, API-uri .NET 10, baze PostgreSQL + pgvector și servicii private de inferență AI.
Arhitectura Sistemului & Decizii Inginerești
Virtualizare Proxmox VE, Stocare ZFS și Segmentare Rețea
Noduri Proxmox VE susținute de TrueNAS ZFS cu snapshot-uri automate și replicare, izolate pe VLAN-uri în spatele unui firewall OPNsense.
Orchestrare Kubernetes (k3s) și Rutare Edge Traefik
Configurații declarative Kustomize, Traefik IngressRoutes, middleware-uri stricte de securitate HTTP, health checks și deploy-uri rolling fără downtime.
Stivă de Referință pentru AI Privat & Hybrid RAG
Rulare locală de modele Ollama și PostgreSQL + pgvector pentru testarea latenței, cuantizării și arhitecturilor RAG izolate înaintea implementărilor la client.
Observabilitate Completă și Runneri CI/CD Proprii
Monitorizare Prometheus și Grafana pe noduri, pod-uri, PostgreSQL și trafic HTTP, plus pipeline-uri automate GitHub Actions.
Securizare, Backup și Disaster Recovery
- Segmentare strictă de rețea, terminare TLS, HSTS și validare automată a headerelor CSP.
- Containere rulate non-root, izolarea secretelor și permisiuni minime per serviciu.
- Backup-uri automate PostgreSQL și ZFS cu proceduri de restaurare testate periodic.
Valoare Tehnică Demonstrațională
- Susține în producție aplicații web, API-uri .NET 10 și servicii AI cu timpi de răspuns excelenți.
- Oferă o arhitectură de referință verificată practic pentru implementări AI on-premise conforme GDPR.
- Demonstrează disciplină operațională GitOps fără dependență de un singur furnizor cloud.