Stand: März 2026

Dieser Artikel wird regelmäßig aktualisiert. Nächste relevante Frist: August 2026 (Vollständige Geltung EU AI Act für Hochrisiko-KI-Systeme).

„KI-Governance" — allein das Wort klingt nach Großkonzern-Bürokratie. Nach Compliance-Abteilungen, Risikoausschüssen und Jahresgutachten. Und genau deshalb tun die meisten KMU gar nichts — obwohl ihre Mitarbeitenden längst täglich mit ChatGPT, Copilot oder anderen KI-Tools arbeiten. Oft ohne dass die Führungsebene genau weiß, wofür und mit welchen Daten.

Das ist das eigentliche Risiko. Nicht die KI selbst — sondern die fehlende Klarheit darüber, wer was darf, wer verantwortlich ist und was passiert, wenn etwas schiefgeht.

Dieser Artikel zeigt, wie ein schlankes KI-Governance Framework für KMU konkret aussieht — und gibt eine Vorlage mit, die sofort eingesetzt werden kann.

Kurze Antwort: KI-Governance für KMU ist kein Konzernprojekt — es ist ein 3-seitiges Regelwerk: Wer darf welche KI-Tools nutzen? Welche Daten dürfen eingespeist werden? Wer ist verantwortlich, wenn etwas schiefgeht? Diese drei Fragen bilden die Basis eines praxistauglichen Frameworks.

Was KI-Governance ist — und was nicht

KI-Governance ist kein Rechtsgutachten. Keine ISO-Zertifizierung. Keine IT-Aufgabe. Es ist eine Führungsaufgabe — und sie beantwortet vier einfache Fragen:

  1. Welche KI-Tools setzen wir ein — und für welche Aufgaben?
  2. Wer ist intern verantwortlich — für jedes Tool?
  3. Welche Daten dürfen verarbeitet werden — und welche nicht?
  4. Wie stellen wir sicher, dass Outputs korrekt sind?

Wer diese vier Fragen schriftlich beantwortet hat, hat bereits ein funktionierendes KI-Governance Framework — unabhängig davon, wie viele Seiten das Dokument hat.

Häufiger Fehler

Viele Unternehmen warten auf eine „offizielle" Vorgabe von außen — die DSGVO, den EU AI Act, die Branchenverbände. Diese Vorgaben kommen. Aber sie ersetzen nicht die interne Klarheit darüber, wer was mit KI tun darf. Das ist eine Führungsentscheidung.

Die 5 Säulen eines KMU-tauglichen KI-Governance Frameworks

01

Rollen & Zuständigkeiten

Jedes KI-Tool braucht einen internen Owner — eine konkrete Person, nicht eine Abteilung. Diese Person ist Ansprechpartner bei Problemen, überwacht die Qualität der Outputs und entscheidet, ob das Tool für eine neue Aufgabe genutzt werden darf. In einem 30-Personen-Unternehmen kann das die Geschäftsführung selbst sein. In größeren Unternehmen braucht es eine benannte Rolle — auch wenn nur in einem Teil der Arbeitszeit.

02

Use Case Registry — erlaubte Anwendungsfälle

Nicht jedes Tool darf für alles genutzt werden. Die Use Case Registry ist eine einfache Liste: Was darf ChatGPT — oder ein anderes KI-Tool — in unserem Unternehmen tun, und was explizit nicht? Diese Tabelle hat vier Spalten: Tool · Erlaubte Nutzung · Verbotene Nutzung · Verantwortlicher. Sie wird regelmäßig aktualisiert, wenn neue Tools eingeführt oder neue Anwendungsfälle entdeckt werden.

03

Datenzugang & Datenschutz

Welche Daten dürfen in externe KI-Tools eingegeben werden? Kundendaten? Interne Berichte? Vertragstexte? Die Grundregel sollte klar und einfach sein: Was nicht öffentlich ist, wird nicht eingegeben — außer es gibt eine dokumentierte Ausnahme mit entsprechenden Maßnahmen (Anonymisierung, DPA mit dem Anbieter, Verschlüsselung). Kein Mitarbeitender sollte raten müssen, ob eine Dateneingabe zulässig ist.

04

Output-Qualität & Überprüfung

KI-Outputs sind nicht automatisch korrekt. Wer überprüft — und nach welchem Maßstab? Das Framework legt fest: In welchen Kontexten darf ein Output direkt genutzt werden (z.B. interner Entwurf als Ausgangspunkt), und wann muss er zwingend von einer kompetenten Person geprüft werden, bevor er verwendet wird (z.B. Kundenkommunikation, juristische Texte, Finanzdaten). Diese Regel schützt vor dem häufigsten KI-Fehler: unkritisch übernommenen Halluzinationen.

05

Eskalation & Überprüfungszyklus

Was passiert, wenn ein KI-Output fehlerhaft war und Schaden verursacht hat? Wer wird informiert? Wie wird das Framework angepasst? Und: Wann wird das gesamte Dokument das nächste Mal überprüft? KI-Governance ist kein statisches Dokument — es wird mindestens quartalsweise auf Aktualität geprüft, weil sich die eingesetzten Tools und ihre Fähigkeiten schnell verändern.

Das 1-Seiten-Framework: Vorlage für KMU

Das Folgende ist eine vereinfachte Vorlage-Struktur. Sie passt auf eine Seite und kann direkt als Ausgangspunkt genutzt werden. Das Ziel ist kein perfektes Dokument — sondern ein genutztes Dokument.

KI-Governance Dokument — [Unternehmensname]  |  Stand: [Datum]
ToolAnwendungsbereichOwner (Name)
ChatGPT / CopilotTextentwürfe, Recherche, Zusammenfassungen[Name]
[Tool 2][Anwendungsbereich][Name]
ToolErlaubt ✅Verboten ❌Reviewer
ChatGPTEntwürfe, Brainstorming, interne ZusammenfassungenKundendaten, Verträge, Finanzberichte[Owner]
Keine personenbezogenen Kunden- oder Mitarbeiterdaten ohne DPA mit dem Anbieter
Keine vertraulichen Verträge oder Finanzdaten ohne Anonymisierung
Keine Nutzung von Outputs in externen Dokumenten ohne Qualitätsprüfung durch eine Fachkraft
Bei Unsicherheit: Owner fragen — nicht selbst entscheiden
AnwendungsfallPrüfpflichtWer prüft?
Interner EntwurfEmpfohlen, nicht PflichtAutor selbst
KundenkommunikationPflichtTeamleiter / GF
Rechtliche / fin. TexteImmer PflichtFachexperte extern
Fehlerhafte Outputs mit Schaden → sofort an Owner melden → Owner dokumentiert & passt Use Case Registry an
Neues Tool im Unternehmen entdeckt → Owner informieren → innerhalb 2 Wochen in Dokument aufnehmen
Quartalsweise Überprüfung: [Datum]  |  Jährliche Vollrevision: [Datum]
Verantwortlich für dieses Dokument: [Name, Rolle]  |  Zuletzt geändert: [Datum]  |  Version: 1.0
Hinweis zur Vorlage

Diese Vorlage ist ein Startpunkt, kein Endpunkt. Sie ersetzt keine rechtliche Beratung — aber sie gibt jedem im Unternehmen sofort Orientierung. Ein genutztes, einfaches Dokument ist besser als ein perfektes, das niemand kennt.

Typische Fehler bei der Umsetzung

1. Zu komplex

Das häufigste Problem: Das Governance-Dokument wird so ausführlich, dass es niemand liest. Zehn Seiten, die im Intranet verstauben, sind wertlos. Drei Seiten, die jeder kennt und versteht, sind Gold wert. Wer mit dem oben gezeigten Template beginnt, hat bereits mehr als die meisten KMU.

2. Kein Owner — sondern eine Abteilung

„Die IT ist verantwortlich" ist keine Governance. IT-Abteilungen sind für Infrastruktur zuständig — nicht dafür, ob der Vertriebsmitarbeitende einen Kundenvertrag in ChatGPT eingibt. Der Owner eines Tools muss eine namentliche Person sein, die angerufen werden kann.

3. Einmalig erstellt, nie aktualisiert

Ein KI-Governance Dokument vom Januar 2025 ist im April 2026 in weiten Teilen veraltet. Neue Tools, neue Fähigkeiten, neue Risiken. Wer kein Datum für die nächste Überprüfung festlegt, schreibt ein Dokument, das von Anfang an veraltet.

4. Nicht kommuniziert

Ein Governance-Dokument, das nur in der Schublade der Geschäftsführung liegt, schützt vor nichts. Es muss aktiv kommuniziert werden — kurz, verständlich, mit konkreten Beispielen, was erlaubt ist und was nicht. Fünf Minuten im nächsten Teammeeting reichen für die Grundregeln.

Das Ziel

KI-Governance soll nicht verhindern, dass KI genutzt wird. Sie soll sicherstellen, dass KI sinnvoll und verantwortungsvoll genutzt wird — und dass jeder im Unternehmen weiß, wie das geht.

In vier Schritten starten

Wer heute beginnen will, braucht keinen Berater dafür. Diese vier Schritte reichen für den ersten Entwurf:

  1. Alle KI-Tools auflisten, die aktuell im Unternehmen genutzt werden — offiziell und inoffiziell. (Erfahrungsgemäß entdecken Unternehmen dabei 8–15 Tools, von denen die Führungsebene nichts wusste.)
  2. Einen Owner pro Tool benennen. Nicht delegieren — konkret entscheiden.
  3. Use Case Registry ausfüllen. Was ist erlaubt, was nicht. 30 Minuten reichen für einen ersten Entwurf.
  4. Intern kommunizieren. Eine kurze E-Mail oder fünf Minuten im nächsten Meeting. Nicht perfekt — aber bekannt.

Wenn Sie Schritt 1 machen und feststellen, dass Sie 15 verschiedene KI-Tools in Ihrem Unternehmen entdecken — Tools, von denen Sie vorher nichts wussten — dann ist das kein Fehler, den jemand gemacht hat. Es ist das normale Bild in fast jedem KMU im Jahr 2026. Und es ist der Moment, wo KI-Governance beginnt.

Falls Sie dabei Unterstützung möchten: Unser Quick Scan gibt Ihnen in 7 Arbeitstagen eine vollständige Bestandsaufnahme — welche Tools eingesetzt werden, wo die größten Risiken liegen, und einen konkreten Fahrplan für die nächsten 90 Tage.

„KI-Governance" — już samo to słowo brzmi jak korporacyjna biurokracja. Jak działy compliance, komitety ryzyka i roczne audyty. I właśnie dlatego większość MŚP nie robi nic — mimo że ich pracownicy od dawna codziennie używają ChatGPT, Copilota i innych narzędzi SI. Często bez wiedzy zarządu: do czego i z jakimi danymi.

To jest prawdziwe ryzyko. Nie sama SI — ale brak jasności co do tego, kto co może, kto ponosi odpowiedzialność i co się dzieje, gdy coś pójdzie nie tak.

Ten artykuł pokazuje, jak konkretnie wygląda prosty framework governance SI dla MŚP — i daje gotową do użycia szablon.

Krótka odpowiedź: KI-Governance dla MŚP to nie projekt korporacyjny — to 3-stronicowe wytyczne: kto może używać jakich narzędzi AI? Jakie dane można wprowadzać? Kto odpowiada, gdy coś pójdzie nie tak? Te trzy pytania stanowią podstawę praktycznego frameworku dla każdej firmy.

Czym jest governance SI — a czym nie jest

Governance SI to nie jest opinia prawna. Nie certyfikacja ISO. Nie zadanie dla IT. To zadanie przywódcze — i odpowiada na cztery proste pytania:

  1. Jakich narzędzi SI używamy — i do jakich zadań?
  2. Kto jest odpowiedzialny wewnętrznie — za każde narzędzie?
  3. Jakie dane mogą być przetwarzane — a jakie nie?
  4. Jak zapewniamy, że wyniki są prawidłowe?

Kto na te cztery pytania odpowiedział na piśmie, ma już działający framework governance SI — niezależnie od liczby stron dokumentu.

Częsty błąd

Wiele firm czeka na „oficjalne" wytyczne z zewnątrz — RODO, akt o SI UE, stowarzyszenia branżowe. Te wytyczne nadejdą. Ale nie zastąpią wewnętrznej jasności co do tego, kto co może robić z SI. To decyzja przywódcza.

5 filarów frameworku governance SI odpowiedniego dla MŚP

01

Role i odpowiedzialności

Każde narzędzie SI potrzebuje wewnętrznego opiekuna — konkretnej osoby, nie działu. Ta osoba jest punktem kontaktowym przy problemach, monitoruje jakość wyników i decyduje, czy narzędzie może być użyte do nowego zadania. W firmie 30-osobowej może to być sam zarząd. W większych firmach potrzebna jest wyznaczona rola — nawet jeśli tylko na część czasu pracy.

02

Rejestr przypadków użycia — dopuszczalne zastosowania

Nie każde narzędzie może być używane do wszystkiego. Rejestr przypadków użycia to prosta lista: co może ChatGPT — lub inne narzędzie SI — w naszej firmie, a czego wyraźnie nie może? Ta tabela ma cztery kolumny: Narzędzie · Dozwolone użycie · Zabronione użycie · Odpowiedzialny. Jest aktualizowana regularnie, gdy wprowadzane są nowe narzędzia lub odkrywane nowe zastosowania.

03

Dostęp do danych i ochrona danych

Jakie dane mogą być wprowadzane do zewnętrznych narzędzi SI? Dane klientów? Raporty wewnętrzne? Treści umów? Podstawowa zasada powinna być prosta i jasna: co nie jest publiczne, nie jest wprowadzane — chyba że istnieje udokumentowany wyjątek z odpowiednimi środkami (anonimizacja, umowa DPA z dostawcą, szyfrowanie). Żaden pracownik nie powinien zgadywać, czy wprowadzenie danych jest dopuszczalne.

04

Jakość wyników i weryfikacja

Wyniki SI nie są automatycznie prawidłowe. Kto weryfikuje — i według jakich kryteriów? Framework określa: w jakich kontekstach wynik może być bezpośrednio użyty (np. wewnętrzny szkic jako punkt wyjścia), a kiedy musi być obowiązkowo sprawdzony przez kompetentną osobę (np. komunikacja z klientami, teksty prawne, dane finansowe). Ta zasada chroni przed najczęstszym błędem SI: bezkrytycznie przejętymi halucynacjami.

05

Eskalacja i cykl przeglądów

Co się dzieje, gdy wynik SI był błędny i spowodował szkodę? Kto jest informowany? Jak framework jest dostosowywany? I: kiedy cały dokument będzie następnym razem przeglądany? Governance SI to nie jest statyczny dokument — jest sprawdzany pod kątem aktualności co najmniej kwartalnie, ponieważ używane narzędzia i ich możliwości szybko się zmieniają.

Szablon 1-stronicowego frameworku dla MŚP

Poniżej przedstawiamy uproszczoną strukturę szablonu. Mieści się na jednej stronie i może być od razu użyta jako punkt wyjścia. Celem nie jest doskonały dokument — ale używany dokument.

Dokument Governance SI — [Nazwa firmy]  |  Data: [Data]
NarzędzieZakres zastosowaniaOpiekun (Imię)
ChatGPT / CopilotSzkice tekstów, badania, podsumowania[Imię]
[Narzędzie 2][Zakres zastosowania][Imię]
NarzędzieDozwolone ✅Zabronione ❌Weryfikator
ChatGPTSzkice, burza mózgów, wewnętrzne podsumowaniaDane klientów, umowy, raporty finansowe[Opiekun]
Żadnych danych osobowych klientów lub pracowników bez umowy DPA z dostawcą
Żadnych poufnych umów ani danych finansowych bez anonimizacji
Żadnych wyników w dokumentach zewnętrznych bez kontroli jakości przez specjalistę
W razie wątpliwości: pytaj opiekuna — nie decyduj sam
Przypadek użyciaObowiązek weryfikacjiKto weryfikuje?
Wewnętrzny szkicZalecana, nieobowiązkowaSam autor
Komunikacja z klientemObowiązkowaKierownik / Zarząd
Teksty prawne / finansoweZawsze obowiązkowaZewnętrzny ekspert
Błędny wynik ze szkodą → natychmiast zgłoś opiekunowi → opiekun dokumentuje i aktualizuje rejestr
Nowe narzędzie odkryte w firmie → poinformuj opiekuna → dodaj do dokumentu w ciągu 2 tygodni
Kwartalny przegląd: [Data]  |  Roczna pełna rewizja: [Data]
Odpowiedzialny za ten dokument: [Imię, rola]  |  Ostatnia zmiana: [Data]  |  Wersja: 1.0
Uwaga do szablonu

Ten szablon to punkt wyjścia, nie punkt końcowy. Nie zastępuje doradztwa prawnego — ale od razu daje każdemu w firmie orientację. Używany, prosty dokument jest lepszy niż doskonały, którego nikt nie zna.

Typowe błędy przy wdrożeniu

1. Zbyt skomplikowany

Najczęstszy problem: dokument governance jest tak obszerny, że nikt go nie czyta. Dziesięć stron gromadzących kurz w intranecie jest bezwartościowych. Trzy strony, które każdy zna i rozumie, są na wagę złota. Kto zaczyna od powyższego szablonu, ma już więcej niż większość MŚP.

2. Brak opiekuna — jest „dział" zamiast osoby

„IT jest odpowiedzialne" to nie jest governance. Działy IT zajmują się infrastrukturą — nie tym, czy pracownik działu sprzedaży wprowadza umowę z klientem do ChatGPT. Opiekun narzędzia musi być konkretną, imienną osobą, do której można zadzwonić.

3. Stworzony raz, nigdy nieaktualizowany

Dokument governance SI ze stycznia 2025 jest w dużej mierze przestarzały w kwietniu 2026. Nowe narzędzia, nowe możliwości, nowe ryzyka. Kto nie wyznacza daty kolejnego przeglądu, pisze dokument, który od początku jest nieaktualny.

4. Niezakomunikowany

Dokument governance leżący tylko w szufladzie zarządu przed niczym nie chroni. Musi być aktywnie zakomunikowany — krótko, zrozumiale, z konkretnymi przykładami, co jest dozwolone, a co nie. Pięć minut na następnym zebraniu zespołu wystarczy na podstawowe zasady.

Cel

Governance SI nie ma zapobiegać korzystaniu z SI. Ma zapewnić, że SI jest używana sensownie i odpowiedzialnie — i że każdy w firmie wie, jak to robić.

Zacznij w czterech krokach

Kto chce zacząć dziś, nie potrzebuje do tego konsultanta. Te cztery kroki wystarczą na pierwszy szkic:

  1. Sporządź listę wszystkich narzędzi SI używanych aktualnie w firmie — oficjalnie i nieoficjalnie. (Z doświadczenia: firmy odkrywają przy tym 8–15 narzędzi, o których zarząd nie wiedział.)
  2. Wyznacz opiekuna dla każdego narzędzia. Nie deleguj — zdecyduj konkretnie.
  3. Wypełnij rejestr przypadków użycia. Co jest dozwolone, czego nie. 30 minut wystarczy na pierwszy szkic.
  4. Zakomunikuj wewnętrznie. Krótki e-mail lub pięć minut na następnym zebraniu. Nie perfekcyjnie — ale żeby wszyscy wiedzieli.

Jeśli w kroku 1 odkryją Państwo 15 różnych narzędzi SI w swojej firmie — narzędzi, o których wcześniej Państwo nie wiedzieli — to nie jest błąd, który ktoś popełnił. To normalny obraz w niemal każdym MŚP w 2026 roku. I to jest moment, w którym zaczyna się governance SI.

Jeśli chcą Państwo wsparcia w tym procesie: nasz Quick Scan daje w 7 dni roboczych pełny przegląd — jakie narzędzia są używane, gdzie leżą największe ryzyka i konkretny plan działania na następne 90 dni.

"AI Governance" — the very term sounds like corporate bureaucracy. Compliance departments, risk committees, and annual audits. And that is precisely why most SMEs do nothing — even though their employees have long been using ChatGPT, Copilot, and other AI tools daily. Often without leadership knowing exactly what for, or with which data.

That is the real risk. Not AI itself — but the absence of clarity about who may do what, who is responsible, and what happens when something goes wrong.

This article shows what a lean AI governance framework for SMEs concretely looks like — and provides a template ready for immediate use.

Quick answer: AI governance for SMEs is not a corporate project — it is a 3-page rulebook: who can use which AI tools? What data may be entered? Who is responsible when something goes wrong? These three questions form the basis of a practical, workable governance framework.

What AI governance is — and what it is not

AI governance is not a legal opinion. Not an ISO certification. Not an IT task. It is a leadership task — and it answers four simple questions:

  1. Which AI tools do we use — and for which tasks?
  2. Who is internally responsible — for each tool?
  3. Which data may be processed — and which may not?
  4. How do we ensure that outputs are correct?

Whoever has answered these four questions in writing already has a working AI governance framework — regardless of how many pages the document has.

Common mistake

Many companies wait for an "official" external requirement — GDPR, the EU AI Act, industry associations. Those requirements are coming. But they do not replace internal clarity about who may do what with AI. That is a leadership decision.

The 5 pillars of an SME-ready AI governance framework

01

Roles & Responsibilities

Every AI tool needs an internal owner — a specific person, not a department. This person is the point of contact for problems, monitors output quality, and decides whether the tool may be used for a new task. In a 30-person company, this can be the managing director. In larger organisations, a dedicated role is needed — even if only for part of the working time.

02

Use Case Registry — Permitted Applications

Not every tool may be used for everything. The use case registry is a simple list: what may ChatGPT — or another AI tool — do in our company, and what explicitly not? This table has four columns: Tool · Permitted use · Prohibited use · Owner. It is updated regularly when new tools are introduced or new use cases discovered.

03

Data Access & Data Protection

Which data may be entered into external AI tools? Customer data? Internal reports? Contract texts? The basic rule should be clear and simple: what is not public is not entered — unless there is a documented exception with appropriate measures (anonymisation, DPA with the provider, encryption). No employee should have to guess whether entering data is permissible.

04

Output Quality & Review

AI outputs are not automatically correct. Who reviews — and by what standard? The framework specifies: in which contexts may an output be used directly (e.g. internal draft as a starting point), and when must it be reviewed by a competent person before use (e.g. customer communication, legal texts, financial data). This rule protects against the most common AI mistake: uncritically adopted hallucinations.

05

Escalation & Review Cycle

What happens when an AI output was incorrect and caused harm? Who is informed? How is the framework adjusted? And: when will the entire document next be reviewed? AI governance is not a static document — it is reviewed for currency at least quarterly, because the tools in use and their capabilities change rapidly.

The 1-page framework: template for SMEs

The following is a simplified template structure. It fits on one page and can be used immediately as a starting point. The goal is not a perfect document — but a document that gets used.

AI Governance Document — [Company Name]  |  Date: [Date]
ToolApplication areaOwner (Name)
ChatGPT / CopilotText drafts, research, summaries[Name]
[Tool 2][Application area][Name]
ToolPermitted ✅Prohibited ❌Reviewer
ChatGPTDrafts, brainstorming, internal summariesCustomer data, contracts, financial reports[Owner]
No personal customer or employee data without a DPA with the provider
No confidential contracts or financial data without anonymisation
No AI outputs in external documents without quality review by a subject-matter expert
When in doubt: ask the owner — do not decide alone
Use caseReview requirementWho reviews?
Internal draftRecommended, not mandatoryAuthor themselves
Customer communicationMandatoryTeam lead / MD
Legal / financial textsAlways mandatoryExternal expert
Incorrect output causing harm → report to owner immediately → owner documents and updates use case registry
New tool discovered in company → notify owner → add to document within 2 weeks
Quarterly review: [Date]  |  Annual full revision: [Date]
Responsible for this document: [Name, role]  |  Last updated: [Date]  |  Version: 1.0
Note on the template

This template is a starting point, not an end point. It does not replace legal advice — but it immediately gives everyone in the company orientation. A simple, used document is better than a perfect one that nobody knows about.

Common mistakes in implementation

1. Too complex

The most common problem: the governance document is so extensive that nobody reads it. Ten pages gathering dust in the intranet are worthless. Three pages that everyone knows and understands are invaluable. Starting with the template above already puts you ahead of most SMEs.

2. No owner — a department instead of a person

"IT is responsible" is not governance. IT departments handle infrastructure — not whether the sales employee enters a customer contract into ChatGPT. The tool owner must be a specific, named person who can be called.

3. Created once, never updated

An AI governance document from January 2025 is largely outdated by April 2026. New tools, new capabilities, new risks. Whoever does not set a date for the next review writes a document that is outdated from the start.

4. Not communicated

A governance document sitting only in the managing director's drawer protects against nothing. It must be actively communicated — briefly, clearly, with concrete examples of what is permitted and what is not. Five minutes at the next team meeting suffice for the basics.

The goal

AI governance is not meant to prevent AI from being used. It is meant to ensure that AI is used sensibly and responsibly — and that everyone in the company knows how to do that.

Start in four steps

Anyone who wants to start today does not need a consultant for that. These four steps are enough for a first draft:

  1. List all AI tools currently in use in the company — officially and unofficially. (In our experience, companies discover 8–15 tools that leadership was unaware of.)
  2. Appoint one owner per tool. Do not delegate — decide concretely.
  3. Fill in the use case registry. What is permitted, what is not. 30 minutes are enough for a first draft.
  4. Communicate internally. A short email or five minutes at the next meeting. Not perfect — but known.

If you complete step 1 and discover 15 different AI tools in your company — tools that leadership was previously unaware of — that is not a mistake someone made. It is the normal picture in almost every SME in 2026. And it is the moment where AI governance begins.

If you would like support in this process: our Quick Scan gives you a complete inventory in 7 working days — which tools are in use, where the biggest risks lie, and a concrete roadmap for the next 90 days.

Mise à jour : mars 2026

Cet article est régulièrement actualisé. Prochaine échéance pertinente : août 2026 (entrée en vigueur complète du Règlement IA de l’UE pour les systèmes d’IA à haut risque).

« Gouvernance de l’IA » — le terme à lui seul évoque la bureaucratie des grands groupes. Départements de conformité, comités des risques et audits annuels. C’est précisément pourquoi la plupart des PME ne font rien — alors que leurs collaborateurs utilisent déjà quotidiennement ChatGPT, Copilot ou d’autres outils d’IA. Souvent sans que la direction sache exactement dans quel but et avec quelles données.

C’est là le véritable risque. Pas l’IA elle-même — mais l’absence de clarté sur qui peut faire quoi, qui est responsable et ce qui se passe en cas de problème.

Cet article montre à quoi ressemble concrètement un cadre de gouvernance IA adapté aux PME — et fournit un modèle prêt à l’emploi.

Réponse courte : La gouvernance IA pour les PME n’est pas un projet de grand groupe — c’est un règlement de 3 pages : qui peut utiliser quels outils d’IA ? Quelles données peuvent être saisies ? Qui est responsable en cas de problème ? Ces trois questions constituent la base d’un cadre de gouvernance pratique et opérationnel.

Ce qu’est la gouvernance IA — et ce qu’elle n’est pas

La gouvernance IA n’est ni un avis juridique, ni une certification ISO, ni une tâche informatique. C’est une responsabilité de direction — et elle répond à quatre questions simples :

  1. Quels outils d’IA utilisons-nous — et pour quelles tâches ?
  2. Qui est responsable en interne — pour chaque outil ?
  3. Quelles données peuvent être traitées — et lesquelles non ?
  4. Comment nous assurons-nous que les résultats sont corrects ?

Quiconque a répondu par écrit à ces quatre questions dispose déjà d’un cadre de gouvernance IA fonctionnel — indépendamment du nombre de pages du document.

Erreur fréquente

De nombreuses entreprises attendent une directive « officielle » extérieure — le RGPD, le Règlement IA de l’UE, les fédérations professionnelles. Ces directives arrivent. Mais elles ne remplacent pas la clarté interne sur qui peut faire quoi avec l’IA. C’est une décision de direction.

Les 5 piliers d’un cadre de gouvernance IA adapté aux PME

01

Rôles et responsabilités

Chaque outil d’IA a besoin d’un responsable interne — une personne concrète, pas un département. Cette personne est l’interlocuteur en cas de problème, surveille la qualité des résultats et décide si l’outil peut être utilisé pour une nouvelle tâche. Dans une entreprise de 30 personnes, il peut s’agir de la direction elle-même. Dans les entreprises plus grandes, un rôle dédié est nécessaire — même à temps partiel.

02

Registre des cas d’usage — utilisations autorisées

Chaque outil ne peut pas être utilisé pour tout. Le registre des cas d’usage est une liste simple : que peut faire ChatGPT — ou un autre outil d’IA — dans notre entreprise, et que lui est explicitement interdit ? Ce tableau comporte quatre colonnes : Outil · Utilisation autorisée · Utilisation interdite · Responsable. Il est régulièrement mis à jour lorsque de nouveaux outils sont introduits ou de nouveaux cas d’usage découverts.

03

Accès aux données et protection des données

Quelles données peuvent être saisies dans des outils d’IA externes ? Données clients ? Rapports internes ? Textes contractuels ? La règle de base doit être claire et simple : ce qui n’est pas public n’est pas saisi — sauf exception documentée avec mesures appropriées (anonymisation, DPA avec le fournisseur, chiffrement). Aucun collaborateur ne devrait avoir à deviner si une saisie de données est autorisée.

04

Qualité des résultats et vérification

Les résultats de l’IA ne sont pas automatiquement corrects. Qui vérifie — et selon quels critères ? Le cadre définit : dans quels contextes un résultat peut-il être utilisé directement (p. ex. brouillon interne comme point de départ), et quand doit-il obligatoirement être vérifié par une personne compétente avant utilisation (p. ex. communication client, textes juridiques, données financières). Cette règle protège contre l’erreur IA la plus fréquente : les hallucinations adoptées sans esprit critique.

05

Escalade et cycle de révision

Que se passe-t-il lorsqu’un résultat IA était erroné et a causé un préjudice ? Qui est informé ? Comment le cadre est-il adapté ? Et : quand le document sera-t-il prochainement révisé dans son ensemble ? La gouvernance IA n’est pas un document statique — elle est révisée au minimum chaque trimestre, car les outils utilisés et leurs capacités évoluent rapidement.

Le cadre en 1 page : modèle pour PME

Ce qui suit est une structure de modèle simplifiée. Elle tient sur une page et peut être utilisée immédiatement comme point de départ. L’objectif n’est pas un document parfait — mais un document utilisé.

Document de gouvernance IA — [Nom de l’entreprise]  |  Date : [Date]
OutilDomaine d’applicationResponsable (Nom)
ChatGPT / CopilotBrouillons, recherche, synthèses[Nom]
[Outil 2][Domaine d’application][Nom]
OutilAutorisé ✅Interdit ❌Vérificateur
ChatGPTBrouillons, brainstorming, synthèses internesDonnées clients, contrats, rapports financiers[Responsable]
Aucune donnée personnelle de clients ou de collaborateurs sans DPA avec le fournisseur
Aucun contrat confidentiel ni donnée financière sans anonymisation
Aucun résultat IA dans des documents externes sans contrôle qualité par un expert métier
En cas de doute : demander au responsable — ne pas décider seul
Cas d’usageObligation de vérificationQui vérifie ?
Brouillon interneRecommandé, non obligatoireL’auteur lui-même
Communication clientObligatoireChef d’équipe / DG
Textes juridiques / financiersToujours obligatoireExpert externe
Résultat erroné causant un préjudice → signaler immédiatement au responsable → le responsable documente et met à jour le registre des cas d’usage
Nouvel outil découvert dans l’entreprise → informer le responsable → intégrer au document sous 2 semaines
Révision trimestrielle : [Date]  |  Révision annuelle complète : [Date]
Responsable de ce document : [Nom, fonction]  |  Dernière mise à jour : [Date]  |  Version : 1.0
Remarque sur le modèle

Ce modèle est un point de départ, pas un point d’arrivée. Il ne remplace pas un conseil juridique — mais il donne immédiatement à chacun dans l’entreprise une orientation. Un document simple et utilisé vaut mieux qu’un document parfait que personne ne connaît.

Erreurs courantes lors de la mise en œuvre

1. Trop complexe

Le problème le plus fréquent : le document de gouvernance est si détaillé que personne ne le lit. Dix pages qui prennent la poussière sur l’intranet sont sans valeur. Trois pages que tout le monde connaît et comprend valent de l’or. Commencer avec le modèle ci-dessus vous place déjà en avance sur la plupart des PME.

2. Pas de responsable désigné — un département à la place

« L’informatique est responsable » n’est pas de la gouvernance. Les départements IT gèrent l’infrastructure — pas la question de savoir si un commercial saisit un contrat client dans ChatGPT. Le responsable d’un outil doit être une personne nommément désignée, joignable directement.

3. Créé une fois, jamais mis à jour

Un document de gouvernance IA de janvier 2025 est en grande partie obsolète en avril 2026. Nouveaux outils, nouvelles capacités, nouveaux risques. Quiconque ne fixe pas de date pour la prochaine révision rédige un document obsolète dès le départ.

4. Non communiqué

Un document de gouvernance qui reste dans le tiroir de la direction ne protège contre rien. Il doit être activement communiqué — brièvement, clairement, avec des exemples concrets de ce qui est autorisé et de ce qui ne l’est pas. Cinq minutes lors de la prochaine réunion d’équipe suffisent pour les règles de base.

L’objectif

La gouvernance IA n’a pas pour but d’empêcher l’utilisation de l’IA. Elle vise à garantir que l’IA est utilisée de manière pertinente et responsable — et que chacun dans l’entreprise sait comment procéder.

Démarrer en quatre étapes

Quiconque souhaite commencer aujourd’hui n’a pas besoin d’un consultant pour cela. Ces quatre étapes suffisent pour un premier brouillon :

  1. Lister tous les outils d’IA actuellement utilisés dans l’entreprise — officiellement et officieusement. (D’expérience, les entreprises découvrent à cette occasion 8 à 15 outils dont la direction ignorait l’existence.)
  2. Désigner un responsable par outil. Ne pas déléguer — décider concrètement.
  3. Remplir le registre des cas d’usage. Ce qui est autorisé, ce qui ne l’est pas. 30 minutes suffisent pour un premier brouillon.
  4. Communiquer en interne. Un court e-mail ou cinq minutes lors de la prochaine réunion. Pas parfait — mais connu.

Si vous réalisez l’étape 1 et découvrez 15 outils d’IA différents dans votre entreprise — des outils dont vous ignoriez l’existence — ce n’est pas une erreur commise par quelqu’un. C’est la réalité normale de presque toute PME en 2026. Et c’est le moment où la gouvernance IA commence.

Si vous souhaitez un accompagnement dans cette démarche : notre Quick Scan vous fournit en 7 jours ouvrables un inventaire complet — quels outils sont utilisés, où se situent les risques les plus importants, et une feuille de route concrète pour les 90 prochains jours.

ÜBER DEN AUTOR
Dariusz Piotr Żalik
Senior Partner — KI-Strategie & Umsetzung

Dariusz kennt den Moment, wenn KI bereits im Unternehmen läuft — aber niemand genau weiß, wie.