Die Integration von KI-Modellen in die eigene Entwicklungsumgebung wird immer einfacher. Mit genAI4BUW steht Studierenden und Mitarbeitenden der Bergischen Universität Wuppertal eine leistungsstarke Plattform zur Verfügung, die verschiedene Open-Source-KI-Modelle anbietet. Besonders praktisch: Über die Continue-Extension für VS Code lassen sich diese Modelle direkt in den Code-Editor einbinden – ideal für Chat und Zusammenfassungen.
1. Vorbereitung: API-Key generieren
Bevor du genAI4BUW in VS Code nutzen kannst, benötigst du einen API-Key. Dieser wird über die Plattform bereitgestellt. So geht’s:
- Anmeldung: Logge dich mit deiner Uni-Kennung auf der genAI4BUW-Seite ein.
- API-Key generieren: Folge der Anleitung unter Neue freie Modelle für genAI4BUW – API-Zugang, um deinen persönlichen API-Schlüssel zu erstellen.
- Key sichern: Kopiere den generierten API-Key und bewahre ihn sicher auf. Du wirst ihn später in der Continue-Konfiguration benötigen.
2. Continue-Extension installieren
Die Continue-Extension ist der Schlüssel zur Integration von genAI4BUW in VS Code. Installiere sie direkt über den Visual Studio Marketplace oder suche in VS Code nach „Continue“ und installiere die Extension.
3. Konfiguration der Continue-Extension
Nach der Installation musst du Continue so konfigurieren, dass es mit genAI4BUW kommuniziert. Erstelle oder bearbeite die Konfigurationsdatei config.json in deinem VS Code-Projekt. Füge folgende Einstellungen hinzu:
{
"name": "genAI4BUW",
"version": "1.0.3",
"schema": "v1",
"models": [
{
"name": "Mistral Small 4 119B – Coding",
"provider": "openai",
"model": "inferenz-mistral-small-4-119b",
"apiBase": "https://chat.kiconnect.nrw/api/v1",
"apiKey": "DEIN_API_KEY",
"roles": [
"chat",
"summarize"
],
"defaultCompletionOptions": {
"temperature": 0.1,
"topP": 0.8
}
},
{
"name": "GPT OSS 120B – General Reasoning",
"provider": "openai",
"model": "inferenz-gpt-oss-120b",
"apiBase": "https://chat.kiconnect.nrw/api/v1",
"apiKey": "DEIN_API_KEY",
"roles": [
"chat",
"summarize"
],
"defaultCompletionOptions": {
"temperature": 0.2,
"topP": 0.8
}
}
]
}
Wichtig: Ersetze DEIN_API_KEY mit deinem tatsächlichen genAI4BUW-API-Key.
4. Funktionen nutzen
Mit dieser minimal Konfiguration kannst du genAI4BUW in VS Code für folgende Funktionen nutzen:
- Chat: Stelle Fragen direkt im Editor und erhalte Antworten basierend auf den ausgewählten Modellen.
- Zusammenfassungen: Lass dir Code oder Texte zusammenfassen, um schneller den Überblick zu behalten.
Hinweis: Aktuell werden nur die Rollen chat und summarize unterstützt! Funktionen wie apply, autocomplete und edit sind zurzeit noch nicht verfügbar, sollen aber zu einem späteren Zeitpunkt folgen.
5. Verfügbare Modelle nutzen
genAI4BUW bietet aktuell folgende KI-Modelle an:
| Modell-ID | Beschreibung |
|---|---|
| inferenz-gpt-oss-120b | Für allgemeines Reasoning |
| inferenz-qwen3-embedding-8b | Für Embeddings |
| inferenz-e5-mistral-7b-instruct | Für instruktionsbasierte Aufgaben |
| inferenz-mistral-small-4-119b | Für Coding und Chat |
Aktuell sind in der Continue-Extension für VS Code nur die beiden Modelle „Mistral Small 4 119B – Coding“ und „GPT OSS 120B – General Reasoning“ sinnvoll. Diese können zur Zeit nur für Chat und Zusammenfassungen verwendet werden!
6. Fazit
Die Kombination aus genAI4BUW und Continue bietet eine flexible und datenschutzfreundliche Möglichkeit, KI direkt in den Entwicklungsprozess zu integrieren. Besonders für Entwickler:innen, die auf Open-Source-Lösungen setzen, ist dies eine spannende Alternative zu kommerziellen Angeboten.
Wichtig: Aktuell unterstützt genAI4BUW nur die Funktionen Chat und Zusammenfassungen! Funktionen wie apply, autocomplete und edit sind derzeit noch nicht verfügbar und werden voraussichtlich zu einem späteren Zeitpunkt nachgerüstet.
Tipp: Für weitere Informationen zur Continue-Extension besuche die offizielle Dokumentation.
