Kategorie: Tipps & Tricks

Die Integration von KI-Modellen in die eigene Entwicklungsumgebung wird immer einfacher. Mit genAI4BUW steht Studierenden und Mitarbeitenden der Bergischen Universität Wuppertal eine leistungsstarke Plattform zur Verfügung, die verschiedene Open-Source-KI-Modelle anbietet. Besonders praktisch: Über die Continue-Extension für VS Code lassen sich diese Modelle direkt in den Code-Editor einbinden – ideal für Chat und Zusammenfassungen.

1. Vorbereitung: API-Key generieren

Bevor du genAI4BUW in VS Code nutzen kannst, benötigst du einen API-Key. Dieser wird über die Plattform bereitgestellt. So geht’s:

1. Anmeldung: Logge dich mit deiner Uni-Kennung auf der genAI4BUW-Seite ein.
2. API-Key generieren: Folge der Anleitung unter Neue freie Modelle für genAI4BUW – API-Zugang, um deinen persönlichen API-Schlüssel zu erstellen.
3. Key sichern: Kopiere den generierten API-Key und bewahre ihn sicher auf. Du wirst ihn später in der Continue-Konfiguration benötigen.

2. Continue-Extension installieren

Die Continue-Extension ist der Schlüssel zur Integration von genAI4BUW in VS Code. Installiere sie direkt über den Visual Studio Marketplace oder suche in VS Code nach „Continue“ und installiere die Extension.

3. Konfiguration der Continue-Extension

Nach der Installation musst du Continue so konfigurieren, dass es mit genAI4BUW kommuniziert. Erstelle oder bearbeite die Konfigurationsdatei config.json in deinem VS Code-Projekt. Füge folgende Einstellungen hinzu:

{
  "name": "genAI4BUW",
  "version": "1.0.3",
  "schema": "v1",
  "models": [
    {
      "name": "Mistral Small 4 119B – Coding",
      "provider": "openai",
      "model": "inferenz-mistral-small-4-119b",
      "apiBase": "https://chat.kiconnect.nrw/api/v1",
      "apiKey": "DEIN_API_KEY",
      "roles": [
        "chat",
        "summarize"
      ],
      "defaultCompletionOptions": {
        "temperature": 0.1,
        "topP": 0.8
      }
    },
    {
      "name": "GPT OSS 120B – General Reasoning",
      "provider": "openai",
      "model": "inferenz-gpt-oss-120b",
      "apiBase": "https://chat.kiconnect.nrw/api/v1",
      "apiKey": "DEIN_API_KEY",
      "roles": [
        "chat",
        "summarize"
      ],
      "defaultCompletionOptions": {
        "temperature": 0.2,
        "topP": 0.8
      }
    }
  ]
}

Wichtig: Ersetze DEIN_API_KEY mit deinem tatsächlichen genAI4BUW-API-Key.

4. Funktionen nutzen

Mit dieser minimal Konfiguration kannst du genAI4BUW in VS Code für folgende Funktionen nutzen:

• Chat: Stelle Fragen direkt im Editor und erhalte Antworten basierend auf den ausgewählten Modellen.
• Zusammenfassungen: Lass dir Code oder Texte zusammenfassen, um schneller den Überblick zu behalten.

Hinweis: Aktuell werden nur die Rollen chat und summarize unterstützt! Funktionen wie apply, autocomplete und edit sind zurzeit noch nicht verfügbar, sollen aber zu einem späteren Zeitpunkt folgen.

5. Verfügbare Modelle nutzen

genAI4BUW bietet aktuell folgende KI-Modelle an:

Modell-ID	Beschreibung
inferenz-gpt-oss-120b	Für allgemeines Reasoning
inferenz-qwen3-embedding-8b	Für Embeddings
inferenz-e5-mistral-7b-instruct	Für instruktionsbasierte Aufgaben
inferenz-mistral-small-4-119b	Für Coding und Chat

Aktuell sind in der Continue-Extension für VS Code nur die beiden Modelle „Mistral Small 4 119B – Coding“ und „GPT OSS 120B – General Reasoning“ sinnvoll. Diese können zur Zeit nur für Chat und Zusammenfassungen verwendet werden!

6. Fazit

Die Kombination aus genAI4BUW und Continue bietet eine flexible und datenschutzfreundliche Möglichkeit, KI direkt in den Entwicklungsprozess zu integrieren. Besonders für Entwickler:innen, die auf Open-Source-Lösungen setzen, ist dies eine spannende Alternative zu kommerziellen Angeboten.

Wichtig: Aktuell unterstützt genAI4BUW nur die Funktionen Chat und Zusammenfassungen! Funktionen wie apply, autocomplete und edit sind derzeit noch nicht verfügbar und werden voraussichtlich zu einem späteren Zeitpunkt nachgerüstet.

Tipp: Für weitere Informationen zur Continue-Extension besuche die offizielle Dokumentation.