Sie möchten eine sichere und produktive KI-Plattform aufbauen, die in echten Softwareprodukten eingesetzt wird? Dann werden Sie Teil unseres Entwicklungsteams und gestalten Sie die technische Basis für die nächste Generation unserer Softwarelösungen.
Bei der Validas übernehmen Sie eine Schlüsselrolle beim Aufbau und der Weiterentwicklung unserer KI-Infrastruktur. Dabei schaffen Sie eine Grundlage für einen sicheren und effizienten Einsatz moderner KI-Technologien.
Es erwarten Sie unter anderem folgende Aufgaben:
- Softwareentwicklung und -integration: Sie entwickeln innovative Softwarelösungen für unsere Validas-Produkte, interne Tools und Geschäftsprozesse. Dabei integrieren Sie moderne KI-Funktionalitäten in bestehende Anwendungssysteme. Hierfür nutzen Sie sichere APIs, Services und Workflows.
- KI- und LLM-Plattform: Sie konzipieren, betreiben und entwicklen unsere interne KI- und LLM- Infrastruktur weiter. Darüber hinaus stellen Sie lokale Large Language Models als Inference Services bereit und evaluieren geeignete Modelle, Modellformate und Quantisierungsverfahren.
- Performance und Betrieb: Sie optimieren Kontextfenster, Speicherbedarf, Durchsatz, Antwortzeiten und die Nutzung von Hardware-Ressourcen. Zudem stellen Sie einen zuverlässigen Betrieb durch Monitoring, Backup- und Wiederherstellungsprozesse sowie eine vorausschauende Kapazitätsplanung sicher.
- Linux, GPU und Infrastruktur: Sie administrieren die zugrunde liegenden Linux-Systeme und betreuen GPU- sowie Accelerator-Hardware einschließlich Treibern, CUDA-Runtime-Stacks und VRAM-Management. Darüber hinaus unterstützen Sie bei Multi-GPU-Konfigurationen und Hardware-Upgrades.
- Security und Governance: Sie schützen unsere KI-Infrastruktur vor Prompt Injection, Datenabfluss und missbräuchlicher Nutzung. Hierfür implementieren Sie Guardrails, Inhaltsfilter, rollenbasierte Zugriffsmodelle, Audit-Logging, SSO sowie ein sicheres Credential-Management.
- Dokumentation, Architektur und Qualität: Sie erstellen technische Spezifikationen, Betriebsdokumentationen und Sicherheitskonzepte und unterstützen bei Architekturentscheidungen. Darüber hinaus stellen Sie durch Tests, Code Reviews, Monitoring und eine strukturierte Fehleranalyse die Qualität, Stabilität und Wartbarkeit unserer Systeme sicher.
