Wir bekommen diese Frage mehrmals pro Woche: “Wo fangen wir mit KI sinnvoll an?” Die ehrliche Antwort lautet meistens nicht “lasst uns einen autonomen Agenten bauen” — sondern: kleiner anfangen, schneller liefern, Vertrauen aufbauen. Wer im Mittelstand mit einem Big-Bang-Projekt startet, scheitert oft an Politik, Budget oder schlicht an Komplexität.
Wir sehen bei unseren Kunden drei Pilotprojekte, die immer wieder funktionieren. Sie sind klein genug, um in 4–8 Wochen zu liefern, sichtbar genug, um Stakeholder zu überzeugen, und unabhängig genug, um nicht an internen Abhängigkeiten zu scheitern. Hier sind sie — mit Aufwand, ROI-Erwartung und unserem ehrlichen Blick darauf, wann sie passen und wann nicht.
Pilot 1: Interne Wissens-KI für die Mitarbeiter
Was es ist. Ein interner ChatGPT-Klon, der die Wissensbasis eures Unternehmens kennt — Handbücher, Prozessdokumente, Produktinfos, alte Angebote, Schulungsmaterial. Mitarbeiter können in natürlicher Sprache fragen, das System antwortet mit Quellenangabe.
Wie es technisch läuft. Retrieval Augmented Generation (RAG). Eure Dokumente werden in eine Vektordatenbank eingelesen, ein LLM (lokal oder Cloud) beantwortet Fragen auf Basis dieser Dokumente. Wir nutzen meist Open-WebUI oder LibreChat als Frontend, Postgres mit pgvector oder Qdrant als Vektordatenbank, und je nach Datenschutzanforderung Llama 3.1, Mistral oder Claude im Hintergrund. Mehr zur Architektur in unserem Themenbeitrag zu Embeddings und RAG.
Aufwand. Wir bauen das in 4–6 Wochen aus. Erste Woche: Inventur der Quellen, Auswahl der Architektur, Datenschutz-Setup. Wochen 2–3: Pipeline aufsetzen, Dokumente ingestieren, erste Tests. Wochen 4–5: Feedback-Schleifen, Fine-Tuning der Prompts, Eskalationsregeln. Woche 6: Roll-out an erste Pilotgruppe.
Was du in echtem Geld investierst. Bei einem typischen Setup für 50 Mitarbeiter: 12.000–25.000 Euro Implementierung plus 200–800 Euro pro Monat für Hosting und LLM-Calls. Wenn lokal gehostet auf Hostinger-VPS, Cloud-Kosten bei rund 60 Euro pro Monat statt 800.
ROI-Erwartung. Bei unseren Kunden sehen wir typische Zeitersparnisse von 15–25 Minuten pro Mitarbeiter und Tag — vorausgesetzt, das System wird wirklich genutzt. Bei 50 Mitarbeitern und 35 Euro Stundensatz sind das je nach Nutzungsgrad 3.000–6.000 Euro pro Monat. Amortisation der Setup-Kosten typisch nach 4–8 Monaten. Mehr dazu auf unserer Seite Zeit sparen mit KI.
Wann es passt. Unternehmen ab ~30 Mitarbeitern mit klar dokumentierten Prozessen. Branchen mit hohem Recherche- und Nachfrageanteil (Dienstleister, Beratung, Handel mit erklärungsbedürftigen Produkten).
Wann nicht. Wenn die Wissensbasis ein Chaos ist und Dokumente seit Jahren nicht gepflegt werden. Wir dürfen das ehrlich sagen: Garbage in, garbage out. Erst aufräumen, dann KI obendrauf.
Pilot 2: KI-gestützte Kundenkorrespondenz
Was es ist. Ein Tool für Mitarbeiter im Service oder Vertrieb, das ihnen bei der Beantwortung wiederkehrender Anfragen hilft. Eingehende Mail wird klassifiziert, ein Antwortentwurf vorgeschlagen, Mitarbeiter prüft und sendet. Keine vollautomatische Antwort — Human-in-the-Loop.
Wie es technisch läuft. Integration in das bestehende Mail-System (Outlook, Google Workspace) oder Helpdesk (Zendesk, Freshdesk). Klassifikation per LLM, Antwortvorschlag basierend auf Standardvorlagen plus Kundenkontext aus dem CRM. Logging für Qualitätssicherung.
Aufwand. 3–5 Wochen, wenn die Mailtypen klar abgrenzbar sind. Wichtige Vorarbeit: 50–100 echte Anfragen analysieren, Kategorien definieren, Standardantworten formulieren. Diese Vorarbeit kostet Zeit, ist aber Grundlage für Qualität.
Was du in echtem Geld investierst. 8.000–18.000 Euro Implementierung. Laufende Kosten 100–400 Euro pro Monat je nach Volumen.
ROI-Erwartung. Antwortzeit pro E-Mail im Mittel von 8 Minuten auf 2–3 Minuten reduziert (Lesen, Prüfen, Senden). Bei 30 E-Mails pro Mitarbeiter und Tag und 5 Service-Mitarbeitern sparen wir rund 7,5 Personenstunden täglich — knapp eine ganze Vollzeitkraft. Im günstigen Fall amortisiert sich das Setup in 3–6 Monaten.
Wann es passt. Service- oder Vertriebsteams mit hohem E-Mail-Volumen und wiederkehrenden Anfragen. Klassisch: E-Commerce-Support, Versicherungsvermittlung, technischer B2B-Support.
Wann nicht. Wenn jeder Kundenkontakt hochindividuell ist (Beratung mit echtem Wertzuwachs durch Persönlichkeit). Da hilft KI eher beim Recherchieren als beim Formulieren.
Pilot 3: KI-Audit für Effizienz-Quick-Wins
Was es ist. Kein Software-Projekt, sondern ein Beratungsformat. Wir setzen uns zwei Tage zu euch, schauen euch beim Arbeiten zu, befragen 8–12 Mitarbeiter aus verschiedenen Funktionen. Ergebnis: ein Report mit 10–15 konkreten KI-Use-Cases, nach Wert und Aufwand priorisiert.
Wie es läuft. Tag 1: Kickoff und Interviews. Tag 2: Beobachtung an Arbeitsplätzen, Prozessanalyse. Danach 1–2 Wochen Auswertung, dann Workshop mit eurer Geschäftsleitung. Ergebnis: priorisierte Roadmap, klare nächste Schritte. Mehr Details auf unserer Audit-Seite.
Aufwand für euch. Etwa 12–16 Mitarbeiter-Stunden für Interviews und Workshop. Plus Geschäftsleitung 4–6 Stunden für Sparring und Entscheidung.
Was du investierst. Ein KI-Audit kostet bei uns 6.500–11.000 Euro (je nach Größe und Komplexität).
ROI-Erwartung. Das Audit selbst spart kein Geld — es zeigt dir, wo Geld zu sparen oder zu verdienen ist. Bei unseren Kunden ergeben sich typischerweise 4–8 Use-Cases mit positivem ROI. Wer auch nur zwei davon umsetzt, hat den Audit-Preis mehrfach drin.
Wann es passt. Unternehmen, die noch keinen klaren KI-Plan haben und vor lauter Möglichkeiten den Überblick verloren haben. Auch wenn intern unterschiedliche Meinungen kursieren (“KI ist Marketing-Hype” vs. “wir müssen alles automatisieren”) — ein externer Blick ordnet die Diskussion.
Wann nicht. Wenn ihr schon klar wisst, was ihr braucht, und nur noch Umsetzung sucht. Dann lieber direkt zur Implementierung. Wir bieten dafür unsere KI-Beratung und Implementierung.
Womit wir nicht starten würden
Aus zehn Jahren Erfahrung mit Unternehmenssoftware und drei Jahren intensiver KI-Praxis im Mittelstand: Mit diesen Projekten haben wir mehrfach gesehen, dass sie scheitern, wenn sie als Erstes angepackt werden:
- Vollautomatisierter KI-Vertrieb. Lead-Scoring plus E-Mail-Sequenzen plus Terminbuchung — klingt verlockend, scheitert oft an mangelnder Datenqualität im CRM und an internem Widerstand.
- KI-Telefonzentrale ohne Pilot. Voice Agents sind reizvoll, brauchen aber sauberen Use-Case und klare Eskalation. Lieber später, mit Bedacht.
- Großes ERP- oder Buchhaltungs-Replatforming mit KI-Komponente. Zu viele Abhängigkeiten, zu hohes Risiko. KI-Funktionen besser als Add-on zu bestehenden Systemen einführen.
Unser pragmatischer Rat
Bei unseren Kunden funktioniert ein Drei-Schritte-Plan zuverlässig:
- Inventur und Audit (4–6 Wochen). Wer braucht was, wo ist Hebel, was ist tabu. Ein 2-tägiges Audit oder zumindest ein strukturierter interner Workshop.
- Erster Pilot (4–8 Wochen). Einer der drei oben — oder einer aus der Audit-Roadmap. Klein genug, um zu liefern, sichtbar genug, um Akzeptanz zu schaffen.
- Skalierung (3–12 Monate). Erst wenn Pilot 1 läuft und akzeptiert ist, kommt Pilot 2. Parallel werden Compliance, Schulungen und Governance aufgebaut.
Wir machen das nicht als Standardpaket. Jeder Mittelstand ist anders — Branche, Kultur, IT-Reife. Aber dieser dreistufige Rhythmus passt fast immer.
Wenn du am Anfang stehst und unsicher bist, wo du sinnvoll beginnst, sprich uns an. 30 Minuten Gespräch reichen meistens, um die richtige Reihenfolge zu finden.
