Die Frage „welche KI-Tools sollen wir nutzen?" ist die zweithäufigste Anfrage im Erstgespräch zum Thema KI, direkt nach „wie fangen wir an?". Tool-Listen scheinen darauf eine schnelle Antwort zu geben. Selten ist sie die hilfreiche. Eine Liste, die heute aktuell ist, ist in sechs Wochen veraltet, und eine Auswahl ohne festes Vorgehen führt zu Wildwuchs, der später teurer wird als eine sorgfältige erste Entscheidung.
Dieser Beitrag gibt Ihnen ein Auswahlverfahren an die Hand. Fünf Kriterien, an denen kleine und mittlere Unternehmen (KMU) ein KI-Tool prüfen, und vier Tool-Klassen, die die meisten Anwendungsfälle abdecken. Beides bleibt gültig, auch wenn die Produktnamen wechseln.
Das Wichtigste in Kürze
- Tool-Listen veralten im KI-Markt schnell. Was trägt, ist ein festes Auswahlverfahren.
- Fünf Auswahl-Kriterien: Anwendungs-Klarheit, Daten-Souveränität, Integration in bestehende Systeme, Verantwortlichkeits-Modell, Kosten-Verhältnis zur erwarteten Wirkung.
- Vier Tool-Klassen decken die meisten Bedarfe im Mittelstand ab: General-Purpose-Assistenten, fachspezifische Spezial-Tools, Plattform-Integrationen, Eigen-Entwicklung mit offenen Modellen.
- Tool-Auswahl gehört nach der Readiness-Klärung: erst Mensch, Daten und Verantwortung klären, dann Produkte vergleichen.
Warum Tool-Listen schaden
Tool-Listen versprechen schnelle Orientierung und schaffen drei Probleme. Sie veralten: Was heute als Top-Tool gilt, ist in sechs Wochen abgelöst, übernommen oder im Preismodell verändert. Wer nach einer Liste entscheidet, entscheidet nach einem Schnappschuss. Sie lenken den Blick auf Produktnamen, und die Diskussion verschiebt sich von „welches Problem lösen wir?" zu „welches Tool kaufen wir?". Und sie fördern Wildwuchs, weil drei Bereiche im Unternehmen drei verschiedene Tools wählen, jeder nach seiner eigenen Liste.
Die bessere Alternative ist ein festes Auswahlverfahren. Die erste Entscheidung dauert damit länger, weil Sie die fünf Kriterien am eigenen Anwendungsfall durchspielen; jede weitere geht schneller. Wer das Verfahren einmal eingerichtet hat, sortiert eine neue Tool-Frage in einer Stunde.
Die fünf Auswahl-Kriterien
Kriterium 1: Anwendungs-Klarheit. Welcher Anwendungsfall soll mit dem Tool bedient werden? „Wir wollen mit KI arbeiten" ist kein Anwendungsfall. „Wir wollen für unsere Anfragen-Vorqualifizierung eine Klassifikation von eingehenden E-Mails nach Thema und Dringlichkeit" ist einer. Ohne klare Anwendung lässt sich kein Tool sinnvoll bewerten, und ohne Bewertung wird die Auswahl zur Demo-getriebenen Entscheidung.
Kriterium 2: Daten-Souveränität. Wo verarbeitet das Tool die eingegebenen Daten? In der EU, in den USA, in einer Multi-Region-Cloud, lokal? Wer sind die Daten-Verarbeiter, mit welchen Verträgen? Diese Fragen entscheiden, ob das Tool für sensible Kundendaten, regulierte Branchen oder Geschäftsgeheimnisse einsetzbar ist; mit bloßer DSGVO-Formalität haben sie wenig zu tun.
Kriterium 3: Integration in die vorhandene Software. Wie arbeitet das Tool mit dem zusammen, was Sie schon nutzen, etwa CRM, ERP, Dokumentenmanagement oder E-Mail? Ein Tool, das eine eigene Insel bildet und manuellen Datentransfer verlangt, kostet im Betrieb mehr Zeit, als es spart. Schnittstellen, Webhooks und Standard-APIs sind die Voraussetzung für einen dauerhaften Einsatz.
Kriterium 4: Verantwortlichkeits-Modell. Wer verantwortet das Tool im Unternehmen, und wer übernimmt im Fehlerfall? Ohne diese Klärung läuft das Tool einfach mit, und niemand prüft es mehr. Rechtliche Pflichten hängen zusätzlich von Ihrer Rolle und der Anwendung ab: Artikel 26 des EU-AI-Acts betrifft Betreiber von Hochrisiko-KI. Die Verordnung (EU) 2026/1744 verschiebt die einschlägigen Pflichten für Anhang-III-Systeme auf den 2. Dezember 2027 und für Anhang-I-Systeme auf den 2. August 2028. Betriebliche Zuständigkeiten sollten Sie unabhängig davon vor dem Einsatz klären; diesen Schritt vertieft Agentic Readiness im Mittelstand.
Kriterium 5: Kosten-Verhältnis zur erwarteten Wirkung. Was kostet das Tool im Monat, pro Person und pro Anwendungsvolumen? Welche Wirkung ist realistisch, etwa Zeitersparnis, bessere Qualität oder mehr Volumen mit demselben Team? Eine Lizenz für 200 Euro pro Monat, die nichts ändert, ist teurer als eine Lizenz für 800 Euro pro Monat, die einen halben Vertriebs-Tag pro Woche freisetzt.
Vier Tool-Klassen
Die meisten KI-Tools für den Mittelstand fallen in eine von vier Klassen. Die Klasse sagt mehr über die Eignung als der Produktname.
Klasse 1: General-Purpose-Assistenten. Sprach- und Multi-Modal-Assistenten (ChatGPT, Claude, Gemini etc.), die für eine breite Palette von Aufgaben einsetzbar sind: Recherche, Textaufbereitung, Code-Hilfe, Brainstorming. Stärke: Vielseitigkeit, niedrige Einstiegsschwelle. Schwäche: keine fachliche Tiefe, oft keine direkte Anbindung an Ihre Software. Geeignet für individuelle Produktivitäts-Steigerung, weniger für strukturierte Geschäftsprozesse.
Klasse 2: Fachspezifische Spezial-Tools. Tools für eine bestimmte Aufgabe oder Branche, etwa Vertriebs-Assistenten mit CRM-Anbindung, Dokumenten-Klassifizierer für regulierte Branchen, branchenspezifische Diagnose-Tools. Stärke: tiefe Domäne, fertige Integrationen. Schwäche: weniger flexibel, oft höherer Preis pro Lizenz. Geeignet, wenn ein Anwendungsfall stabil und volumen-stark ist.
Klasse 3: Plattform-Integrationen. KI-Funktionen, die in bestehende Plattformen eingebettet sind, etwa Microsoft 365 Copilot, Salesforce Einstein, HubSpot-AI-Features. Stärke: Integration ist gegeben, Lizenz oft als Add-on günstig. Schwäche: Eigenständigkeit fehlt, Wechsel-Risiko bei Plattform-Bindung. Geeignet, wenn die zugrundeliegende Plattform ohnehin schon im Einsatz ist.
Klasse 4: Eigen-Entwicklung auf offenen Modellen. Eigenes oder mit Dienstleister entwickeltes Werkzeug auf Basis offener Modelle (Llama, Mistral, andere Open-Source-Modelle) oder per API-Anbindung an kommerzielle Modelle. Stärke: maximale Anpassung, höchste Daten-Souveränität (bei lokaler Modell-Variante). Schwäche: Aufwand für Entwicklung und Wartung, Bedarf an interner oder externer KI-Kompetenz. Geeignet, wenn ein Anwendungsfall mit Standard-Tools nicht trägt und die Investition sich rechnet.
Die richtige Reihenfolge
Die Tool-Auswahl ist der vierte Schritt im KI-Einsatz. Davor liegen drei Klärungen, und solange eine davon offen ist, entscheidet am Ende die überzeugendste Demo.
Am Anfang steht die Readiness-Klärung: Tragen Mensch, Daten und Verantwortungs-System im Haus einen Agenten überhaupt? Darauf folgt die Anwendungs-Entscheidung: Welche wiederkehrende Entscheidung wird übergeben, und welche bleibt bewusst beim Menschen? Aus ihr entsteht der Aufgabenbrief: was das Werkzeug tun soll, und an welcher Kante es an einen Menschen zurückgibt. Dieser Brief ist die Anforderungsliste, gegen die sich Kandidaten überhaupt erst vergleichen lassen. Die drei Schritte vertiefen Agentic Readiness im Mittelstand, KI in Unternehmen einsetzen und KI-Agenten erstellen.
Erst danach lohnt die Tool-Auswahl. Wer die Reihenfolge umdreht, und das tun viele Unternehmen, bekommt teure Demos, danach Stress bei der Einführung und nach sechs Monaten den nächsten Tool-Wechsel.
Strategiegespräch
Vor der Tool-Auswahl
Wenn Sie vor einer Tool-Auswahl stehen oder mehrere Demos parallel laufen, klären wir im Gespräch die fünf Kriterien für Ihren Anwendungsfall und ordnen die infrage kommenden Tools den vier Klassen zu. Oft passt dabei eine andere Klasse besser als die zuerst angedachte.
Strategiegespräch vereinbarenErst der Aufgabenbrief, dann das Tool
Das Auswahlverfahren dieses Beitrags folgt aus dem ersten Baustein agentischer Arbeit, dem Aufgabenbrief. Ein Tool lässt sich erst dann sauber begründen, wenn Aufgabe, Verantwortungsgrenze und Eskalationskante schriftlich vorliegen. Ohne sie ist jedes Tool „interessant" und keines die richtige Wahl. Deshalb steht bei Quandes die Aufgabe vor dem Tool. Welche vier Bausteine Sie vor der Tool-Frage klären, ordnet der Überblicksbeitrag Agentisches Arbeiten im KMU.
Häufige Fragen
Welches KI-Tool sollte Ihr Unternehmen als erstes einsetzen?
Diese Frage hat keine allgemeine Antwort. Sie hängt vom Anwendungsfall ab. Vor der Tool-Entscheidung gehört eine Readiness-Klärung und eine Anwendungs-Entscheidung. In den meisten KMU ist ein General-Purpose-Assistent (Klasse 1) der pragmatische Erst-Einstieg für individuelle Produktivität, ein fachspezifisches Spezial-Tool (Klasse 2) der erste strukturelle Einsatz.
Wie wähle ich ein KI-Tool für mein Unternehmen aus?
Über die fünf Auswahl-Kriterien: Anwendungs-Klarheit, Daten-Souveränität, Integration in bestehende Systeme, Verantwortlichkeits-Modell, Kosten-Verhältnis zur erwarteten Wirkung. Wer alle fünf für ein Tool beantworten kann, hat eine belegte Auswahl.
Welche KI-Tool-Klassen gibt es?
Vier Klassen: General-Purpose-Assistenten (ChatGPT, Claude, Gemini), fachspezifische Spezial-Tools (CRM-AI, Dokumenten-Klassifizierer), Plattform-Integrationen (Microsoft 365 Copilot, Salesforce Einstein), Eigen-Entwicklung auf offenen Modellen. Die Klasse entscheidet meistens mehr über Eignung als der Produktname.
Warum schadet eine reine Tool-Liste?
Drei Gründe: Tool-Listen veralten schnell (Markt ändert sich in Wochen), sie binden das Denken an Produktnamen statt an den Anwendungsfall, und sie fördern Tool-Wildwuchs (jeder Bereich entscheidet eigenständig). Ein festes Auswahlverfahren braucht für die erste Entscheidung länger und für jede weitere weniger Zeit.
Wann lohnt eine eigene KI-Entwicklung?
Wenn ein Anwendungsfall mit Standard-Tools nicht lösbar ist, etwa wegen Anforderungen an die Datenhoheit, sehr spezieller Fachabläufe oder fehlender Schnittstellen, und das erwartete Wirkungs-Volumen die Entwicklungs- und Wartungs-Investition rechtfertigt. Die Schwelle liegt in der Regel bei mehreren Beschäftigten, die das Tool täglich nutzen würden.
Wo gehört die Verantwortung für KI-Tools in Ihrem Unternehmen?
Nicht zwingend in der IT. Fachlich verantwortlich sollte jemand aus dem Bereich sein, in dem das Tool genutzt wird. Die IT übernimmt Integration und Datensicherheit, die fachlich verantwortliche Person Anwendung, Qualität und Eskalation. Diese Trennung ist eine zentrale Readiness-Bedingung.