Standardabweichung einer Messreihe

[boxleitnerb]

Tag zusammen!

Ich hab zwar ne Formel dafür, aber an der Stelle, an der ich die Differenz zwischen Messwert und arithmetischem Mittelwert berechnen und den dann quadrieren muss, gibts ein Problem: Die Genauigkeit.

Angenommen, meine Messwerte sind alle ganzzahlig, ihr Mittelwert hat aber z.B. 5 Nachkommastellen oder schlimmer, ist unendlich periodisch.
Wie sollte man dann runden, um ein gescheites Ergebnis zu kriegen?

[pest]

die Formel über den Mittelwert ist auch nur eine Schätzung ;)

[NiCoSt]

kommt darauf an, wie die messung erfolgt ist. sind 5 stellen nach dem komma sinnvoll, oder wirds schon ab der 2. zufällig? wie ist die messung zu stande gekommen?

[boxleitnerb]

Wir haben den Schichtwiderstand an verschiedenen Stellen eines Wafers gemessen. Das Messgerät hat ziemlich geschwankt, bis es sich auf etwa einem ganzzahligen Wert eingependelt hat, aber so genau war auch das nicht. z.B. zwischen 90 und 92 Ohm/Square. Dann hat man eben 91 abgelesen.

[pest]

wenn deine Messreihe nur Ganzzahlig ist, macht ein Mittelwert mit höherer Genauigkeit wenig Sinn

[boxleitnerb]

Ja das hab ich mir auch gedacht. Aber nimm mal ein Extrembeispiel:

2 Messwerte, 3 und 4. Mittelwert? 3, 4? Macht genausowenig Sinn. Wo zieht man die Grenze? Gibts da keine Regel für?

[pest]

also 2 Messwerte sind unsinnig > 30 mindestens

Und die Grenze ist ganz einfach,
wenn man nicht grob durch Rundungsfehler des Computers beeinträchtigt ist
genauso viele Stellen (eher 1 weniger) wie das was "reinkommt"
und bei 3 und 4 als Messwerte wäre der Mittelwert 4

[darealsly]

Ich habe gelernt, dass man Mittelwerte nur aus mindestens 3 vorhandenen Messwerten bildet und dann auch durchaus eine Kommastelle zur Differenzierung dazunimmt.

Auch bei euch hätte sich eine dritte Vergleichsmessung sicher angeboten. Sie erhöht den Aufwand meist im vertretbaren Maße.

[boxleitnerb]

Wir haben je Wafer zwischen 6 und 9 Messwerte aufgenommen, das passt schon :)

[gasmeister]

http://www.tu-chemnitz.de/physik/PHFK/LEHRE/praktikum/hinweise2.pdf

Guck dir mal Kapitel E zum runden an.

"Soll eine Ergebniszahl mit einer Unsicherheit u gerundet werden, so wird die
Rundestelle nach folgender Regel gefunden: Von links beginnend ist die erste von
Null verschiedene Ziffer der Unsicherheit zu suchen. Ist diese eine der Ziffern 3
bis 9, so ist sie die Rundestelle (linkes Beispiel unten). Wenn die erste von Null
verschiedene Ziffer eine 1 oder 2 ist, ist die Rundestelle rechts daneben (rechtes
Beispiel unten). Die Ergebniszahl und die Unsicherheit werden an der gleichen
Stelle gerundet."

mfG

[NiCoSt]

Wir haben je Wafer zwischen 6 und 9 Messwerte aufgenommen, das passt schon :)

ok, na dann überlegst du einfach, wie groß der fehler des messgerätes war. wenn du keinen weißt nimmst du am besten die letzte stelle bzw die hälfte der kleinsten einheit, dann weißt du auch, inwiefern eine rundung sinn macht.

misst du z.b. 1,2345, wobei das messgerät nen fehler von 0,5 hat, machts kein sinn auf 1,235 zu runden oder sowas... das gilt dann natürlich für alle werte (auch standardabweichung, wobei du hier eben noch eine stelle, wie erwähnt, mehr reinnehmen kannst zur differenzierung)