1. LLM / Agent infrastructure
Tools und Frameworks zum Betreiben, Orchestrieren und Nutzen von LLM/Agenten — die Basis-Schicht für Anwendungen mit großen Modellen.
| Name | Link | Kurz |
|---|---|---|
| LocalAI | github.com/mudler/LocalAI | Self-hosted LLM-Infrastruktur, Drop-in-Ersatz für Cloud-APIs. |
| Litgpt | github.com/Lightning-AI/litgpt | Sammlung von Tools und Beispielen für die Arbeit mit LLMs. |
| Letta (MemGPT) | github.com/letta-ai/letta | Framework für LLM-Services mit Memory-Support. |
| OpenAI Realtime Agents | github.com/openai/openai-realtime-agents | Demo von Agenten über Realtime API. |
| Golf-mcp | github.com/golf-mcp/golf | MCP (Model Context Protocol) Server-Framework für Agenten. |
| Excel MCP Server | github.com/haris-musa/excel-mcp-server | MCP-Server für Excel-Integration (LLM ↔ Excel). |
| Plandex-AI | github.com/plandex-ai/plandex | Open Source AI Coding Agent. |
| Agent Zero AI framework | github.com/agent0ai/agent-zero | Framework für autonome AI-Agenten. |
| 12-factor-agents | github.com/humanlayer/12-factor-agents | Prinzipien für production-ready LLM-Anwendungen. |
| Memary | github.com/kingjulio8238/Memary | Offene Memory-Schicht für autonome Agenten. |
2. Speech & Audio LLMs
Bibliotheken und UIs für STT/TTS, Echtzeit-Transkription, Voice-LLMs und Diarisierung.
| Name | Link | Kurz |
|---|---|---|
| OpenAI Whisper | github.com/openai/whisper | Original Spracherkennungsmodell von OpenAI. |
| whisper.cpp | github.com/ggml-org/whisper.cpp | C/C++ Optimierung von Whisper — läuft auf CPU. |
| Faster Whisper | github.com/SYSTRAN/faster-whisper | Schneller als Original (CTranslate2). |
| WhisperX | github.com/m-bain/whisperX | Whisper + Alignment + Diarisierung für Video/Podcasts. |
| RealtimeSTT | github.com/KoljaB/RealtimeSTT | Low-Latency-Transkription mit VAD, Wakeword und Instant Transcription. |
| Ichigo | github.com/homebrewltd/ichigo | Lokaler Voice-AI (Voice-Assistenten). |
| VOSK | github.com/alphacep/vosk | Leichte Offline-STT-Bibliothek (viele Plattformen). |
| Voice-Pro: Gradio WebUI | github.com/abus-aikorea/voice-pro | Gradio UI für Whisper/Faster-Whisper und TTS/Translation. |
| Step-Audio2 | github.com/stepfun-ai/Step-Audio2 | End-to-End Audio-LLM für tiefes Audio-Verständnis. |
| CosyVoice | github.com/FunAudioLLM/CosyVoice | Mehrsprachiger neuraler Sprachgenerator. |
| LibreTranslate | github.com/LibreTranslate/LibreTranslate | Open-Source maschinelle Übersetzungs-API. |
| Spotube | github.com/KRTirtho/spotube | Plattformübergreifender Client für Spotify / YouTube / Piped.video. |
3. Vision / Video / NVR
Projekte für Erkennung, Streaming, Videoverarbeitung, NVR und CV-Forschung.
| Name | Link | Kurz |
|---|---|---|
| Frigate (NVR) | github.com/blakeblackshear/frigate | NVR mit Objekterkennung für Kameras. |
| Go2RTC | github.com/AlexxIT/go2rtc | Tool für Streaming und Weiterleitung von Kamera-Streams. |
| Superstreamer | github.com/matvp91/superstreamer | Echtzeit-Videoverarbeitung und -Streaming. |
| PaperVision | github.com/deltacv/PaperVision | OpenCV-Adaptionen und CV-Algorithmen. |
| Claude Vision Object Detection | github.com/Doriandarko/Claude-Vision-Object-Detection | Objekterkennung (Claude Vision Beispiele). |
| Deep-Live-Cam | github.com/hacksider/Deep-Live-Cam | Echtzeit-Face-Swap / Deepfake-Tools. |
| DeepFace | github.com/serengil/deepface | Leichte Gesichtserkennung und Attribut-Bibliothek. |
| Roboflow - notebooks | github.com/roboflow/notebooks | Tutorials State-of-the-Art CV-Modelle (YOLO, SAM usw.). |
| Wifi-3d-fusion | github.com/MaliosDark/wifi-3d-fusion | Forschungsprojekt: WiFi+CV für 3D-Pose. |
| LLAMA OCR (npm) | www.npmjs.com/package/llama-ocr | OCR-Paket (npm). |
| OHIF Medical Imaging Viewer | github.com/OHIF/Viewers | Medizinischer Bildbetracher (DICOM). |
| FaceFusion | github.com/facefusion/facefusion | Plattform für Gesichtsmanipulationen / Face Fusion. |
| MagicQuill | github.com/magic-quill/MagicQuill | KI-gestütztes Bildbearbeitungssystem. |
| PromptFix | github.com/yeates/PromptFix | Tool zur „Reparatur”/Verbesserung von Prompts (nützlich für Image→LLM). |
4. Web / Frontend / Full-Stack Frameworks
Tools für Web-Interfaces, Frontend-Frameworks und Full-Stack-Templates.
| Name | Link | Kurz |
|---|---|---|
| Svelte | github.com/sveltejs/svelte | Modernes Frontend-Framework. |
| Reflex | github.com/reflex-dev/reflex | Python-Framework für Web-Apps (React-ähnlich). |
| Full-stack-fastapi-template | github.com/fastapi/full-stack-fastapi-template | Template für vollständige FastAPI Front- und Backend. |
| Rio: WebApps | github.com/rio-labs/rio | WebApps in Python ohne JS/HTML. |
| Dioxus | github.com/DioxusLabs/dioxus | Fullstack-Framework (Rust). |
| Webstudio | github.com/webstudio-is/webstudio | Visuelles Build-Tool für Websites. |
| PyUIBuilder | github.com/PaulleDemon/PyUIBuilder | GUI Builder für Tkinter/CustomTkinter und andere. |
| 9ui | github.com/borabaloglu/9ui | Schöne UI-Komponenten (Tailwind + Base UI). |
| MidsceneJS | github.com/web-infra-dev/midscene | SDK für Seitenautomatisierung mit JSON-Ausgabe. |
| Homepage (gethomepage) | github.com/gethomepage/homepage | Anpassbare Startseite / Dashboard. |
5. Data, ETL, Databases and Analytics
Tools für Datenintegration, Visualisierung, semantische Suche und Analytik.
| Name | Link | Kurz |
|---|---|---|
| Airbyte | github.com/airbytehq/airbyte | Plattform für ETL/ELT-Integrationen. |
| Apache Superset | github.com/apache/superset | BI und Dashboards mit umfangreichen Visualisierungen. |
| SurrealDB | github.com/surrealdb/surrealdb | Dokument-Graph verteilte DB für Realtime. |
| TXTAI / txtai | github.com/neuml/txtai | Semantische Such-Datenbank und RAG-Schicht. |
| Pandas-AI | github.com/Sinaptik-AI/pandas-ai | Conversational Data Analysis (Pandas + LLM). |
| LLM Graph Builder | github.com/neo4j-labs/llm-graph-builder | Graphen aus unstrukturierten Daten erstellen. |
| Timelinize | github.com/timelinize/timelinize | Datenaggregator von verschiedenen Accounts zu einer Timeline. |
6. Infrastructure, orchestration, DevOps & PaaS
Service-Mesh, PaaS, Background-Jobs, Self-Hosted-Plattformen und Deploy-Tools.
| Name | Link | Kurz |
|---|---|---|
| Istio | github.com/istio/istio | Service Mesh (Connect, Secure, Observe Services). |
| Zane-Ops | github.com/zane-ops/zane-ops | Self-Hosted PaaS für App-Deployment. |
| Trigger.dev | github.com/triggerdotdev/trigger.dev | Plattform für Hintergrund-Tasks. |
| Steel-browser | github.com/steel-dev/steel-browser | Browser/Tool für Automatisierungen (Dev-Tool). |
| Browser Use | github.com/browser-use/browser-use | Browser-Automatisierungstools. |
| CasaOS | github.com/IceWhaleTech/CasaOS | Persönliches Cloud-Dashboard (self-host). |
| WatchYourLAN | github.com/aceberg/WatchYourLAN | Leichter Netzwerk-Scanner mit Benachrichtigungen. |
| Local File Organizer | github.com/QiuYannnn/Local-File-Organizer | Utility zum lokalen Organisieren von Dateien. |
| Docker Windows (dockur) | github.com/dockur/windows | Windows in Docker (Dev/Sandbox). |
| Lightpanda-io/browser | github.com/lightpanda-io/browser | Browser-Projekt (Automation). |
| Webpilot (Webpilot-AI) | github.com/webpilot-ai/Webpilot | Open „Copilot for Web” für Automatisierung/Parsing. |
| Nanobrowser | github.com/nanobrowser/nanobrowser | Erweiterung für KI-Web-Automatisierung. |
7. Developer tools and AI tools
CLI-Utilities, Editoren, UI-Builders, JSON-Tools und nützliche Dev-Workflow-Helfer.
| Name | Link | Kurz |
|---|---|---|
| JSON Crack (Editor) | github.com/AykutSarac/jsoncrack.com | Visueller JSON-Editor und Visualisierer. |
| Just | github.com/casey/just | „Make”-Alternative — Command Runner (justfile). |
| AutomaApp | github.com/AutomaApp/automa | Browser-Automatisierung (Extension). |
| Nanobrowser | github.com/nanobrowser/nanobrowser | Erweiterung für KI-Web-Automatisierung. |
| MarkitDown / MarkPDFDown | github.com/microsoft/markitdown | Tools für Markdown-Konvertierung / PDF→MD. |
| MarkPDFDown (alt) | github.com/MarkPDFdown/markpdfdown | PDF→Markdown + LLM-Visualisierung. |
| Awesome AI Web Search | github.com/felladrin/awesome-ai-web-search | Sammlung von KI-Tools für Websuche. |
8. Documentation, tutorials (Guides & Books)
Wissenssammlungen, Lern-Roadmaps und Tutorials zu CS, ML und System Design.
| Name | Link | Kurz |
|---|---|---|
| build-your-own-x | github.com/codecrafters-io/build-your-own-x | „Baue dein eigenes…” Leitfäden für Ingenieure. |
| System-design-101 | github.com/ByteByteGoHq/system-design-101 | Materialien zu System Design. |
| The Book Of Secret Knowledge | github.com/trimstray/the-book-of-secret-knowledge | Sammlung von Tricks, One-Linern und Utilities. |
| Roboflow notebooks | github.com/roboflow/notebooks | CV-Tutorials und Practices. |
| Math (ossu) | github.com/ossu/math | Pfad zum Selbststudium in Mathematik. |
| Roadmap.sh | github.com/kamranahmedse/developer-roadmap | Community-Roadmaps und Ressourcen für Entwickler. |
9. Documents, PDF and text
Tools für PDF, Dokumente, Notizen und Lebensläufe.
| Name | Link | Kurz |
|---|---|---|
| MarkitDown / MarkPDFDown | github.com/microsoft/markitdown github.com/MarkPDFdown/markpdfdown | Dokument-zu-Markdown-Konvertierung, LLM-Hilfe. |
| Stirling-PDF | github.com/Stirling-Tools/Stirling-PDF | PDF-Arbeitstools. |
| Reactive-Resume | github.com/AmruthPillai/Reactive-Resume | Lebenslauf-Template/App. |
| Wallabag | github.com/wallabag/wallabag | Self-Hosted „Später lesen” für Artikel. |
| Harper (Automattic / harper) | github.com/Automattic/harper | Offline Grammar Checker (Rust). |
10. Products, applications and no-code / low-code
Fertige Apps, Form-Builder, CMS-Alternativen und No-Code-Plattformen.
| Name | Link | Kurz |
|---|---|---|
| Typebot | github.com/baptisteArno/typebot.io | Chatbot-Builder (No-Code). |
| Appsmith | github.com/appsmithorg/appsmith | Low-Code Internal Apps Builder. |
| HeyForm | github.com/heyform/heyform | Form-Builder. |
| Formbricks | github.com/formbricks/formbricks | Open-Source Qualtrics-Alternative. |
| Spree | github.com/spree/spree | Open-Source eCommerce-Plattform. |
| PocketBase | github.com/pocketbase/pocketbase | Leichtes Backend (Auth, DB, Files). |
| Focalboard | github.com/mattermost-community/focalboard | Self-Hosted Trello/Notion-Alternative. |
| Plane | github.com/makeplane/plane | Project Management Tool. |
| Webstudio | github.com/webstudio-is/webstudio | Visueller Website-Builder. |
| Maxun | github.com/getmaxun/maxun | No-Code Web Data Extraction. |
| GDevelop | github.com/4ian/GDevelop | Game-Engine. |
11. ERP, applications and Fintech
Systeme und Plattformen für Business, ERP, MES, Handel und Integration.
| Name | Link | Kurz |
|---|---|---|
| ERPNext | github.com/frappe/erpnext | Open-Source ERP. |
| Carbon | github.com/crbnos/carbon | Plattform fürs Produktionsmanagement — inkl. ERP (Enterprise Resource Planning), MES (Manufacturing Execution System), QMS (Quality Management System). |
| Airbyte | github.com/airbytehq/airbyte | ETL für Business-Integrationen. |
| Spree (eCommerce) | github.com/spree/spree | eCommerce-Plattform. |
| Freqtrade | github.com/freqtrade/freqtrade | Open-Source Crypto-Trading-Bot (Algo Trading). |
12. Experimental / Research & ML-platforms
Forschung, numerische Berechnungsbeschleunigung, Modelle und Infrastruktur für Experten.
| Name | Link | Kurz |
|---|---|---|
| Cupy | github.com/cupy/cupy | NumPy auf GPU. |
| Qwen3-Coder | github.com/QwenLM/Qwen3-Coder | Code-Version von Qwen3 (LLM). |
| NovaSky / SkyThought | [github.com/NovaSky-AI/SkyThought](https://github.com/NovaSky-AI/Sky Thought) | Trainiere dein eigenes Preview-Modell (O1). |
| TransformerLab App | github.com/transformerlab/transformerlab-app | Interface zum Training/Evaluation von LLM+Diffusion lokal. |
| Julep | github.com/julep-ai/julep | Serverless AI Workflows. |
| Google genai-toolbox | github.com/googleapis/genai-toolbox | MCP Toolbox / AI-Infra von Google. |
| microsoft/BitNet | github.com/microsoft/BitNet | 1-Bit Inference Framework (Quant Inference). |
| OpenCoder-llm | github.com/OpenCoder-llm/OpenCoder-llm | Cookbook für Code-LLMs. |
Others
- OpenAI Gradio App — github.com/gradio-app/openai-gradio — UI für schnelle Demos und Interfaces zu Modellen.
- Open Canvas (langchain) — github.com/langchain-ai/open-canvas — Visuelle Canvas-Umgebung für RAG/LLM-Workflows.
- OpenAI Java API Library — github.com/openai/openai-java — Offizielle Java-Bibliothek von OpenAI.
- Google Gemini — Starter Applets — github.com/google-gemini/starter-applets — Starter-Applets / Beispiele für Google AI Studio.
- ArchiveBox — github.com/ArchiveBox/ArchiveBox — Autonomer Webseiten-Archivierer (self-hosted).
- Awesome LLM Apps — github.com/Shubhamsaboo/awesome-llm-apps — Sammlung von LLM-Anwendungen und RAG-Beispielen.
- Awesome-World-Models — Wichtige Arbeiten zum Thema World Modelling.
- Hugging Face Agents Course — Kurs von Hugging Face zur Erstellung von KI-Agenten.
- System Prompts — Große Sammlung von System-Prompts und Modellkonfigurationen.
- Frappe Builder — Visueller „Low-Code” Website-Builder.
- Cyberdesk — Open-Source virtuelle Desktops für KI-Agenten.
- Skyfall-GS — Extrahiert 3D-Stadtszenen aus Satellitenbildern.
- Agent-S — Framework für autonome Computer-Interaktion durch KI-Agenten.
- Android Code Studio — IDE für Android-Geräte.
- BrowserOS — Chromium-Fork mit KI-Agenten-Integration.
- ViMax — Agentic Video Generation (Director, Screenwriter, Producer all-in-one).
- Microsoft Agent Lightning — Training und Optimierung bestehender KI-Agenten.
- Context7 — MCP-Server für aktuelle Dokumentation.
- OpenHealth — KI-Gesundheitsassistent.
- ART: Agent Reinforcement Trainer — Lernen aus Erfahrung für LLM-Agenten.
- Bitwarden Clients — Client-Apps für Bitwarden Password Manager.
- simstudioai/sim — Visuelles Agentic-Workflow-Building.
- InfiniteTalk — Generierung von „sprechenden” Charakter-Videos.