Birkaç bilimsel veri noktasını çizdiğinizde, yazılımı kullanarak puanlarınıza en uygun eğriyi yerleştirmek isteyebilirsiniz. Bununla birlikte, eğri veri noktalarınızla tam olarak eşleşmeyecektir ve doğru olmadığında, veri noktalarınızın eğrinizden ne kadar farklı olduğunu ölçmek için kök ortalama kare hatasını (RMSE) hesaplamak isteyebilirsiniz. Her veri noktası için, RMSE formülü, veri noktasının gerçek değeri ile en uygun eğrideki veri noktasının değeri arasındaki farkı hesaplar.
Orijinal veri noktalarınıza karşılık gelen her bir x değeri için karşılık gelen y değerini en uygun eğrinizde bulun.
Sahip olduğunuz her veri noktası için, gerçek y değerini, en uygun eğrinizdeki y değerinden çıkarın. En uygun eğrinizde y'nin gerçek değeri ile y'nin değeri arasındaki farka kalıntı artık denir. Her kalanı kareleyin, ardından artıklarınızı toplayın.
Kalıntılarınızın toplamını, sahip olduğunuz toplam veri puanı sayısına bölün ve bölümün karekökünü alın. Bu kök ortalama kare hatası verir.