Die meisten Probleme einer Umfrage entstehen nicht im Auswertungs-Modul. Sie entstehen, wenn die Fragen formuliert werden. Hier die sieben häufigsten Fehler beim Formulieren von Items — und eine kleine Checkliste, mit der Sie sie vor der Feldphase erkennen.
Eine schlecht formulierte Frage produziert schlechte Daten. Das klingt banal, ist aber die unterschätzte Realität in der Umfrageforschung: Befragte beantworten exakt das, was geschrieben steht — nicht das, was die Forschenden eigentlich wissen wollten. Wenn diese beiden Dinge auseinanderfallen, ist die Auswertung gerettet, die Antwort aber wertlos.
Es lohnt sich, vor jeder Feldphase die Items methodisch durchzulesen. Was wir hier zusammenstellen, ist die Reihenfolge, in der wir das in unseren eigenen Studien tun: erst der Gedankenrahmen, dann die typischen Fehler, am Ende eine kurze Checkliste.
Vor dem Schreiben: die sechs W-Fragen
Bevor Sie überhaupt eine Frage formulieren, klären Sie für sich selbst die sechs grundlegenden W-Fragen zur Erhebung. Das wirkt formal, spart aber später viel Zeit:
- Wer wird befragt? — Bestimmt Sprache, Lesbarkeit, Fachvokabular.
- Was wollen Sie konkret messen? — Konstrukt, nicht das Item. Mitarbeiterzufriedenheit ist das Konstrukt, „Ich fühle mich anerkannt" eines von mehreren Items dazu.
- Wann findet die Befragung statt? — Vor oder nach einem Ereignis, in welcher Lebensphase, in welcher Stimmungslage?
- Wo wird geantwortet? — Smartphone unterwegs, Desktop im Büro, Telefoninterview? Beeinflusst Länge und Komplexität jeder Frage.
- Warum stellen Sie die Frage? — Welche Entscheidung soll mit den Antworten getroffen werden? Wenn Sie das nicht beantworten können, ist die Frage überflüssig.
- Wie wird die Antwort später verwendet? — Mittelwertvergleich, Häufigkeitsanalyse, Korrelation? Dies bestimmt das Skalenniveau.
Wer diese sechs Fragen nicht im Vorfeld beantwortet, formuliert Items, die für die Auswertung später unbrauchbar sind. Die häufigste Schwachstelle ist die fünfte — „warum" wird in der Praxis oft mit „weil es interessant wäre" beantwortet. Das ist zu wenig.
Sieben typische Fehler beim Formulieren
In der gemeinsamen Auswertung mit Hochschulen und Mittelständlern sehen wir immer wieder dieselben sieben Fehlerarten. Sie sind nicht zufällig — sie sind die Stolperdrähte, die jedem im ersten Entwurf passieren. Wer sie kennt, vermeidet sie.
1. Doppelläufige Fragen
Eine doppelläufige Frage fragt zwei Dinge auf einmal und erlaubt nur eine Antwort. „Sind Sie mit Preis und Service zufrieden?" — wer mit dem Preis zufrieden, mit dem Service aber unzufrieden ist, hat keine ehrliche Antwortmöglichkeit.
2. Führende Fragen
Eine führende Frage suggeriert die erwünschte Antwort durch Wortwahl, Reihenfolge oder Tonalität. Wer „Würden Sie auch zustimmen, dass unser neues Produkt eine bedeutende Innovation darstellt?" liest, hat den Hinweis auf die korrekte Antwort schon im Satzbau.
3. Implizite Annahmen
Eine Frage mit impliziten Annahmen setzt Wissen oder eine Handlung voraus, die Sie nicht geprüft haben. „Wie häufig kaufen Sie unser Produkt?" — die Frage unterstellt, dass die Befragten Ihr Produkt überhaupt kennen und schon einmal gekauft haben. Wer das verneint, weiß nicht, was er antworten soll, und wählt oft „selten" — was die Auswertung verzerrt.
4. Hypothetische Aussagen
Fragen vom Typ „Wenn X passieren würde, was würden Sie tun?" liefern unzuverlässige Daten. Was Menschen <em>angeben</em>, dass sie tun würden, weicht systematisch von ihrem tatsächlichen Verhalten ab. Hypothetische Aussagen sind in der Erkundungsphase eines neuen Konzepts manchmal die einzige Option — als Verhaltensvorhersage sind sie aber methodisch schwach.
5. Verallgemeinerungen und vage Häufigkeitsangaben
„Wie oft", „üblicherweise", „meistens" — solche Häufigkeitsadverbien werden von verschiedenen Befragten sehr unterschiedlich interpretiert. Was für die eine Person „häufig" ist (einmal pro Woche), ist für die andere selten. Diese Variabilität geht direkt in die Daten ein und macht Vergleiche unzuverlässig.
6. Fachsprache und Abkürzungen
Sätze, die Sie und Ihre Kollegen täglich verwenden, sind für Externe oft unverständlich. „Bewerten Sie Ihre Erfahrung mit dem CX-Touchpoint nach NPS-Logik" macht Marketing-Profis glücklich und schreckt 80 % der Befragten ab. Faustregel: schreiben Sie für jemanden, der das Thema zum ersten Mal liest.
7. Antwortmöglichkeiten unbalanciert
Wenn die Antwortskala mehr positive als negative Optionen enthält, ziehen die Antworten systematisch in die positive Richtung — selbst wenn das nicht der tatsächlichen Meinung entspricht. Das gilt nicht nur für Likert-Skalen, sondern für jede Antwortliste mit Wertungs-Charakter. Mehr dazu in unserem ausführlichen Artikel Likert-Skalen — fünf Aspekte.
Checkliste vor der Feldphase
Bevor Sie eine Umfrage online stellen, gehen Sie jede Frage einzeln durch — am besten gemeinsam mit jemandem aus der Zielgruppe, der nicht an der Entwicklung beteiligt war. Diese acht Punkte als Filter:
- Eine Frage = eine Sache. Keine doppelläufigen Konstruktionen.
- Sprachlich neutral. Kein „auch", „selbstverständlich", „bedeutend" in der Frage.
- Keine impliziten Annahmen über Wissen oder Verhalten der Befragten.
- Nach tatsächlichem Verhalten fragen, wo immer möglich, statt nach hypothetischem.
- Konkrete Zeit- und Mengenangaben statt vage Häufigkeiten.
- Alltagssprache, kein Fachjargon, keine Abkürzungen ohne Erklärung.
- Symmetrische Antwortskalen mit klaren Stufen.
- Pre-Test mit mindestens drei Personen aus der Zielgruppe, bevor das Feld startet.
Der Pre-Test ist die unterbewertete Stelle in diesem Prozess. Selbst zwei Stunden mit drei Testpersonen decken in der Regel Probleme auf, die in der Auswertung sonst Stunden oder Tage gekostet hätten.
Fazit
Gute Fragen entstehen nicht durch Talent, sondern durch Disziplin. Wer die sechs W-Fragen vorab beantwortet, die sieben Stolperdrähte kennt und vor dem Feld einen kurzen Pre-Test macht, hat den Großteil der späteren Datenprobleme schon vermieden. Was bleibt — Auswertung, Aggregation, Interpretation — ist dann eine andere Disziplin.
Wenn Sie für eine konkrete Erhebung unsicher sind, ob eine Frage methodisch trägt, schreiben Sie uns. Methodenfragen beantworten wir auch ohne Vertrag.
Quellen
- Porst, Rolf: Fragebogen — ein Arbeitsbuch. 4. Auflage. Springer VS, 2014.
- Mummendey, Hans Dieter, und Ina Grau: Die Fragebogen-Methode. 6. Auflage. Hogrefe, 2014.
- Schnell, Rainer, Paul B. Hill und Elke Esser: Methoden der empirischen Sozialforschung. 11. Auflage. De Gruyter Oldenbourg, 2018.
