IT im Betrieb
Lokale KI (eigene KI-Server)
Lokale KI heißt, dass ein KI-Modell auf eigenen Servern läuft und Anfragen samt Daten nicht an fremde Cloud-Dienste gehen.
Bei den bekannten KI-Chats im Internet wird jede Eingabe an die Rechenzentren eines großen Anbieters geschickt, dort verarbeitet und die Antwort zurückgesendet. Bei einer lokalen KI läuft das Sprachmodell auf einem Server im eigenen Betrieb oder bei einem Dienstleister, dem man ohnehin seine IT anvertraut. Die Daten bleiben unter eigener Kontrolle.
Für viele Betriebe ist genau das der springende Punkt. Eine Arztpraxis darf Befunde nicht einfach an einen fremden Dienst weitergeben, eine Kanzlei ist zur Verschwiegenheit verpflichtet, ein Handelsbetrieb will seine Kalkulation nicht außer Haus wissen. Bei einem öffentlichen Dienst ist schwer nachzuvollziehen, wo Eingaben gespeichert werden, wer darauf zugreifen kann und ob sie ins Training einfließen. Bei einer eigenen Lösung lassen sich diese Fragen klar beantworten, was auch die Nachweise nach DSGVO erleichtert.
Möglich ist das, weil es mittlerweile leistungsfähige, frei verfügbare Modelle gibt, die auf eigener Hardware laufen. Sie brauchen kräftige Grafikkarten oder spezielle Rechenbeschleuniger. Die größten Cloud-Modelle erreichen sie nicht in jeder Disziplin. Für Zusammenfassungen, Entwürfe, Übersetzungen oder Fragen an die eigenen Unterlagen reichen sie gut aus. Halluzinieren kann allerdings auch eine lokale KI, die Prüfung der Ergebnisse bleibt also nötig.
Für Ihren Betrieb
Überlegen Sie, bei welchen Aufgaben Ihre Mitarbeiter gerne KI einsetzen würden, es wegen vertraulicher Daten aber nicht dürfen. Genau dort lohnt die Frage nach einer lokalen Lösung.