Eine Haltung · Entwurf
Mit Augenmass
Eine Haltung zu Apps, Webseiten, Filmen und Material, die mit KI entstehen
Mit Claude, Codex und ähnlichen Werkzeugen können heute auch Lehrpersonen ohne Programmierkenntnisse Apps, Webseiten, Lernvideos und Material herstellen. Das ist wie ein geschenkter digitaler Pinsel. Dieses Papier beschreibt, wie wir ihn benutzen wollen, unabhängig davon, was damit entsteht.
Die Haltung in sechs Sätzen
- Nicht alles neu machen, nur weil es jetzt geht. Vieles gibt es schon, oft vielfach und gepflegt. Mehr Lernvideos, Apps und Arbeitsblätter machen Unterricht und Lernen nicht besser.
- Herstellen kann trotzdem richtig sein: wo etwas fehlt, wo ein bestimmter Zweck ein Einzelstück verlangt, für die eigene Klasse und zum Ausprobieren.
- Wer etwas anderen anbietet, betreibt es auch. Hosting, Serverstandort, Datenschutz, Kosten und Pflege muss jemand klären. Die KI nimmt einem das nicht ab, eine Plattform nur einen Teil der Technik.
- Erfahrung macht Lösungen klein. Wer weiss, was ein Server, eine Datenbank oder ein Login nach sich zieht, kommt oft mit wenigen Dateien aus. Wer es nicht weiss, lässt sich leicht einen Stapel Technik bauen, den er danach betreiben muss, ohne ihn beurteilen zu können.
- Was man vom Chatbot kennt, bekommt man in der eigenen App nicht umsonst. KI im Betrieb braucht ein Abo, eine bezahlte Schnittstelle oder einen Vertrag. Oft lässt sich die Aufgabe so anlegen, dass die KI beim Herstellen arbeitet und das Ergebnis ohne KI läuft.
- Was KI herstellt, prüfen Menschen. Jemand hört den Film an, testet die App mit echten Fällen und klärt die Rechte an Bildern, Stimmen und Texten. Das gilt für die eigenen Sachen genauso.
Was wir damit nicht meinen
Wir sind nicht gegen das Herstellen und wollen keine Türsteher. Wer selbst baut, versteht besser, was die Werkzeuge können und wo sie versagen. Andrej Karpathy, der den Begriff Vibe-Coding prägte, hielt es für «not too bad for throwaway weekend projects». Robin Sloan beschreibt eine App für die eigene Familie als selbstgekochte Mahlzeit. Simon Willison sieht im Vibe-Coding einen guten Einstieg und rät, vor dem Weitergeben jemanden mit Erfahrung draufschauen zu lassen. Dass kleine, sichere Lösungen Erfahrung brauchen, spricht für Zusammenarbeit zwischen Lehrpersonen, Fachleuten und Schule.
Chancen
- Einzelstücke lohnen sich. Ein Crashkurs für einen Lernenden vor seinem Test, ein Film zu einem Thema, zu dem es keinen gibt, ein Werkzeug für genau eine Klasse. Früher war der Aufwand dafür meist zu gross.
- Lücken werden sichtbar. KI kann sammeln und ordnen, was verstreut im Netz liegt, und zeigen, wo wenig existiert und was immer wieder verlinkt wird. Damit lässt sich gezielt herstellen statt auf Vorrat.
- Sichten statt Inhalt. Das Netz füllt sich mit generierten Inhalten; mehr als 200 Organisationen und Fachleute fordern, generierte Videos aus YouTube Kids zu verbannen. Eine Sicht darauf, was Fachleute verlinken, mit Herkunft und Datum, hilft Lehrpersonen bei der Auswahl. Geprüft ist ein Inhalt damit noch nicht.
- Offene Modelle auf dem eigenen Rechner. Sie rechnen ohne Abo, und keine Daten verlassen den Rechner.
- Denken mit Prototypen. Ein schneller Entwurf zeigt, ob eine Idee trägt. Danach darf er weg.
Risiken
- Menge. Wenn jede Person ihr eigenes Quiz, ihren Timer und ihr Erklärvideo herstellt, wächst der Berg, den andere durchsehen müssen. Vor dem Herstellen lohnt eine kurze Suche, ob es ein gepflegtes Angebot gibt, und zu welchen Bedingungen.
- Sicherheit. Zwei Ingenieure der Firma Replit prüften im Frühjahr 2025 1'645 Apps aus dem Schaufenster des Baukastens Lovable. Bei 170 konnte jede Person Daten der Nutzenden abrufen, weil die Datenbanken falsch eingerichtet waren. Im Februar 2026 lagen in einer Lehr-App aus demselben Baukasten nach Angaben des Entdeckers 18'697 Datensätze offen, darunter 4'538 Konten von Lernenden, weil die Anmeldeprüfung verkehrt herum programmiert war.
- Ungeklärter Betrieb. Wo der Server steht, wer die Protokolle sieht, wie lange sie bleiben, welche fremden Dienste die Seite beim Laden anfragt, wen man bei Fragen erreicht: Diese Punkte bleiben beim schnellen Herstellen fast immer offen, auch bei Erfahrenen.
- Plattformen, die hosten. Ein Artefakt bei Claude, ein Projekt bei Codex oder eine App bei Lovable ist in Minuten online. Dafür hat man weniger Zugriff: Die Daten liegen beim Anbieter, seine Regeln, Preise und Altersgrenzen gelten, und Nutzende brauchen oft ein Konto. Claude-Artefakte können inzwischen Daten speichern; was eine Klasse dort eintippt, liegt dann bei Anthropic.
- Daten beim Herstellen. Was man beim Herstellen eingibt, geht an den KI-Anbieter: Texte, Fotos, Beispieldaten. Personendaten und Werke von Schüler:innen gehören nicht hinein.
- Kosten. Das Abo der herstellenden Person, Rechenzeit, Stimmen. Wer eine KI-Schnittstelle ohne Kostenlimit einbaut, bekommt die Rechnung nach der Nutzung.
- Rechte. Bilder, Stimmen, Musik, Texte von Autor:innen. Nichts davon meldet sich, solange das Programm läuft.
- Pflege. Links sterben, Sicherheitslücken werden bekannt, wer gebaut hat, wechselt die Stelle.
- Gleichförmigkeit. Ohne eigene Gestaltung sieht vieles gleich aus, und Fehler, die niemand anhört oder liest, gehen mit hinaus.
KI im Betrieb oder beim Herstellen
Wer an «eine App mit KI» denkt, denkt meist an einen Chatbot: Man schreibt, und die App antwortet. Für KI im Betrieb gibt es vier Wege, und jeder hat seinen Preis:
- Die Schule oder Lehrperson zahlt eine Schnittstelle. Es braucht einen eigenen Server, und die Eingaben der Schüler:innen gehen an den Anbieter.
- Alle Nutzenden haben ein eigenes Konto. Claude setzt 18 Jahre voraus, und private Konten sind laut Karin Winkel (PHBern) «aus Gründen der Chancengerechtigkeit im Unterricht problematisch».
- Die Schule nutzt einen geprüften Rahmen mit Vertrag, etwa Lumo oder Schulwrapper wie Schabi, Fobizz oder Schul-KI.
- Ein kleines offenes Modell läuft im Browser, ohne Konto und ohne Datenabfluss, mit Abstrichen bei Qualität und Geräten.
Oft gibt es einen fünften Weg: die Aufgabe so anlegen, dass die KI beim Herstellen arbeitet.
| KI im Betrieb | KI beim Herstellen | |
|---|---|---|
| Wann rechnet die KI? | bei jeder Nutzung | einmal, vor der Veröffentlichung |
| Kosten | pro Anfrage oder pro Konto | Abo oder Rechenzeit der herstellenden Person |
| Daten der Nutzenden | gehen an den Anbieter | bleiben bei ihnen |
| Konten | meist nötig | keine |
| Prüfung | jede Antwort entsteht neu | das Ergebnis lässt sich vorher prüfen |
Im Unterricht heisst das zum Beispiel:
- Statt eines Chatbots zu einem Text: 30 Fragen mit geprüften Antworten vorab erzeugen.
- Statt Rückmeldungen live: Bausteine zu typischen Fehlern vorab erzeugen; die Lehrperson wählt aus.
- Statt eines sprechenden Avatars: vertonte Filme vorab herstellen.
- Statt einer KI-Suche: Suchdaten vorab berechnen, die im Browser laufen.
Wo KI im Betrieb wirklich nötig ist, etwa für Rückmeldungen auf einzelne Texte, gehört sie in einen Rahmen, den die Schule mit Vertrag und Datenschutz geklärt hat.
Für wen: drei Stufen
| Stufe | Was meist reicht | Wann mehr nötig ist |
|---|---|---|
| Für mich | ausprobieren, wegwerfen, weiterbauen | sobald Daten anderer Personen hineinkommen |
| Für meine Klasse | eine Seite, ein Film oder ein PDF ohne Konten, ohne gespeicherte Eingaben und ohne nachgeladene Inhalte Dritter, mit Wissen der Schulleitung | sobald Schüler:innen etwas eintippen, das gespeichert oder verschickt wird: Rechtsgrundlage, Vertrag, Datenschutzstelle |
| Für andere | Datenschutzhinweis, Kontakt, eine Person, die es pflegt | bei Konten, Personendaten oder KI im Betrieb: dieselben Klärungen, dazu ein Plan für Pflege und Ende |
Die mittlere Stufe sollte jede Schule mit ihrer Datenschutzstelle abgleichen, denn die Kantone regeln das unterschiedlich. Ein selbst hergestelltes, statisches Angebot kann datensparsamer sein als ein Gratiswerkzeug mit Werbung, Tracking und Konten.
Prüffragen, bevor man herstellt
- Gibt es das schon, und zu welchen Bedingungen: Werbung, Tracking, Konten, Serverstandort?
- Welche Lücke füllt es, und für wen: für mich, für meine Klasse, für andere?
- Geht es ohne Server, Login und Datenbank, etwa als statische Seite, PDF oder Film?
- Braucht es KI im Betrieb, oder reicht KI beim Herstellen?
- Was gebe ich beim Herstellen an welchen KI-Dienst?
- Wo läuft es, wer zahlt, wer kommt an die Daten, in welchem Land?
- Wer prüft es? Anhören, mit echten Fällen testen, im Browser nachsehen, welche Daten die Seite verlassen, jemanden mit Erfahrung draufschauen lassen.
- Wem gehören Bilder, Stimmen und Texte darin?
- Wer pflegt es, und was passiert, wenn das niemand mehr tut?
Versuche: möglich, aber im Moment braucht es noch …
Unsere eigenen Versuche zeigen beides: was heute geht und was es dafür noch braucht. Die Liste wächst mit weiteren Versuchen.
Filme aus Code. Erklär- und Kurzfilme, deren Bild Programmcode erzeugt und deren Stimmen von ElevenLabs stammen; die Werkschau zeigt 95 Filme als Machweisen (destrudo.de/phsz/videobeispiele).
Möglich: Drehbuch, Bild, Schnitt und Stimme in kurzer Zeit und in sehr verschiedenen Machweisen; ansehen braucht weder Konto noch KI.
Im Moment braucht es noch: einen Menschen, der jeden Film anhört, denn die KI hört nichts; eine Gestaltung, die aus dem Thema kommt; geklärte Rechte an Archivbildern; ein Kontingent für die Stimmen, das zweimal aufgebraucht war. Die Texte gingen beim Herstellen an ElevenLabs.
Sichten aufs Netz. MI-Tube zeigt, welche Videos Hochschulen, Fachstellen und Lehrpersonen für Medien und Informatik verlinken, und every-TUBE beschreibt das Vorgehen (destrudo.de/phsz/every-tube).
Möglich: rund 7'600 verlinkte Videos sortieren, 2'320 nach Lehrplan einordnen und Lücken zeigen, etwa 12 verlinkte Klassenvideos für Zyklus 1 gegenüber 706 für Zyklus 3; eine Themensuche, die ein offenes Modell auf einem Laptop vorberechnet hat; alles als wenige statische Dateien ohne Datenbank, Konten und KI im Betrieb.
Im Moment braucht es noch: eine Prüfung, die Lücken findet, die wir selbst übersehen hatten (Vorschaubilder und Schrift von fremden Servern, Namen und Profilbilder aus sozialen Medien; inzwischen behoben); einen Betreiber mit Kontakt; ein Urteil von Lehrpersonen über die Suche, die bisher nur ein zweites KI-Modell beurteilt hat; jemanden, der den eigenen Server wartet.
Rechtlicher Rahmen, kurz
Öffentliche Schulen unterstehen dem kantonalen Datenschutzrecht; Auskunft gibt die kantonale Datenschutzstelle. Verantwortlich ist, wer ein Angebot betreibt, an der öffentlichen Schule also die Schule. Lässt sie Personendaten durch einen KI-Anbieter bearbeiten, muss sie ihn vertraglich binden; ein privates Konto einer Lehrperson ist kein solcher Vertrag. Für den Kanton Zürich nennt der Leitfaden der Innovation-Sandbox für KI eine Datenschutz-Folgenabschätzung und eine Vorabkontrolle bei KI-Projekten. Karin Winkel rät zu Diensten aus der Schweiz oder der EU, die Daten nicht weitergeben und nicht zum Training nutzen.
Quellen
- Wikipedia: Vibe coding (Andrej Karpathy, Februar 2025)
- Simon Willison: Not all AI-assisted programming is vibe coding (but vibe coding rocks), 19.3.2025
- Robin Sloan: An app can be a home-cooked meal, Februar 2020
- Semafor: The hottest new vibe coding startup Lovable is a sitting duck for hackers, 29.5.2025
- The Register: Lovable-hosted app littered with basic flaws exposed 18K users, 27.2.2026
- Anthropic: What are artifacts and how do I use them? und Consumer Terms of Service (Mindestalter 18)
- Kanton Zürich, Innovation-Sandbox für KI: Künstliche Intelligenz in der Bildung – Rechtliche Best Practices
- Céline Massa: Möglichkeiten und Grenzen von KI im Schulalltag, «Berner Schule» 3/2026, S. 12 f., mit Karin Winkel (PHBern)
- Fortune, 1.4.2026: Bericht über den Brief von Fairplay und über 200 Organisationen an YouTube