Branchen News · 10.09.2024 · Jakob Rinkewitz

GPT-in-a-Box 2.0: Nutanix stellt spannende Lösung vor

enthus blog nutanix

Unser langjähriger Technologiepartner Nutanix macht sich (und damit auch Sie) KI-Ready: mit GPT-in-a-Box 2.0. Diese sichere, vollintegrierte Enterprise-AI-Plattform basiert auf skalierbaren Datendiensten und ermöglicht es Unternehmen und Organisationen jeder Größenordnung, große Sprachmodelle (LLMs), ML-Operationen (MLOps) und generative KI-Anwendungen (GenAI) nahtlos zu implementieren – egal ob im Kernbereich, am Edge oder in der Cloud.

Vier Wege, um mit GPT-in-a-Box 2.0 durchzustarten

  1. Einfache GenAI-Anwendungsfälle und Lösungen
  2. Um GenAI für Ihre Organisation schnell und effektiv erfolgreich einzusetzen, sind klare und möglichst leicht umsetzbare Anwendungsfälle und Lösungen entscheidend. Mit GPT-in-a-Box 2.0 wären zum Beispiel folgende Ansätze denkbar:

    Finanzwesen

    • Betrugserkennung
    • Risikobewertung
    • Kundenservice
    • Algorithmischer Handel

    Gesundheitswesen

    • Verbesserung der Patientenversorgung
    • Optimierung der Diagnostik
    • Entwicklung personalisierter Behandlungspläne
    • Steigerung der betrieblichen Effizienz

    Öffentlicher Sektor

    • Optimierung administrativer Prozesse
    • Verbesserung der Entscheidungsfindung
    • Optimierung der Ressourcenverteilung

    Sobald ein Anwendungsfall festgelegt ist, bietet GPT-in-a-Box 2.0 vier zentrale, private und sichere Lösungen:

    • Private GPT: Ein privater GenAI-Chatbot, der die Datensicherheit und den Datenschutz gewährleistet.
    • GenAI für Code: GenAI-unterstützte Codegenerierung zur Steigerung der Entwicklerproduktivität.
    • GenAI für Inhalte: GenAI-Funktionen zur Inhaltserstellung, die beispielsweise die Produktivität von Marketing- und Vertriebsteams verbessern oder Dokumentationsaufgaben beschleunigen.
    • KI-unterstütztes Dokumentenverständnis: Extrahieren, interpretieren und verarbeiten Sie verschiedene Dokumenttypen, während Sie geistiges Eigentum und sensible Daten schützen.
  3. APIs und LLMs erstellen, bereitstellen und verwalten
  4. GPT-in-a-Box 2.0 erleichtert die Verwaltung von GenAI-Operationen (LLMOps) und die API-Verwaltung. Dies ermöglicht es Unternehmen, LLMs herunterzuladen, bereitzustellen und zu aktualisieren. Die Plattform bietet folgende Möglichkeiten:

    • APIs und LLMs erstellen und verwalten: Erstellen und verbinden Sie APIs zu LLMs für sofortigen Zugriff auf GenAI-Arbeitslasten.
    • NVIDIA NIM bereitstellen: Nutzen Sie NVIDIA NIM, um die Markteinführungszeit für GenAI-Modelle zu verkürzen.
    • Hugging Face-Modelle integrieren: Validierte LLMs direkt von Hugging Face integrieren und bereitstellen.
    • Eigene LLMs hochladen: Eigene, nicht validierte Modelle hochladen und bereitstellen.
  5. Nutzung von Standardservern, GPUs und Containern
  6. GPT-in-a-Box 2.0 nutzt die Nutanix Cloud Platform für eine breite Hardwarekompatibilität und -auswahl:

    • GPUs für KI: Nutzung der neuesten NVIDIA-Rechenzentrums-GPUs wie L40s und H100 für skalierbare GenAI-Anforderungen.
    • CPUs für KI: Entwicklung von Intel AMX für AHV zur Unterstützung von gemischten Arbeitslasten und zur Reduzierung der Gesamtkosten.
    • Aktuellste AI-Plattformen: Integration neuer Hardware-Infrastrukturen mit führenden Herstellern wie HPE, Lenovo und Nutanix NX.
  7. Standardisierte Datendienste von der Edge bis zur Cloud
  8. GPT-in-a-Box 2.0 ist Teil der Nutanix Cloud Platform (NCP), die auf sicheren, skalierbaren und flexiblen Datendiensten basiert:

    • Nutanix Unified Storage: Bereitstellung als dediziertes All-NVMe-Speichercluster oder HCI-Cluster an beliebigen Standorten.
    • Nutanix Data Services für Kubernetes: Kombination aus Nutanix Kubernetes Platform und Nutanix Data Services für Kubernetes für eine umfassende Plattformlösung.
    • Nutanix Multicloud Snapshot Technology: Intelligentes Offloading von Datensnapshots zu S3-kompatiblem Objektspeicher und Wiederherstellung an beliebigen Standorten.

    Ihr nächster Schritt:

    GPT-in-a-Box 2.0 erleichtert den Einstieg in die Unternehmens-GenAI, indem es reale Anwendungsfälle und Lösungen auf Standardhardware bereitstellt, ohne dass eine spezielle Architektur erforderlich ist. GenAI-Modelle ändern sich schnell, und mit Nutanix können Sie immer einen Schritt voraus sein – dank einer sicheren, vollintegrierten Plattform für den Betrieb von GenAI-Daten und -Anwendungen überall. Sprechen Sie mit unseren Nutanix Expert:innen und evaluieren Sie gemeinsam, ob auch Ihr Unternehmen davon profitieren kann.

← Alle Beiträge