[Robson Kerman]

Podziel się tym algorytmem na intach jeśli możesz...

Jest mały problemik. Cały sterownik jest urządzeniem komercyjnym i raczej nie jestem w stanie udostępnić źródeł.

Ale mam taki pomysł. Pokaż swoją funkcję PID oraz sposób sterowania, a postaram się pomóc.
Drugi pomysł jest taki, że dziś napiszę do mojego zleceniodawcy, aby zapłacił resztę kasy za program i jak się nie odezwie, co ma w swoim zwyczaju, to udostępnię cały kod (lub jego większość). 

co kilka sekund pojawiaja sie nany i wszystko sie wali...

Można sprawdzać co jest zwracane.
Jest taka funkcja isnan().
Jeśli chcesz sprawdzić czy zmienna jest liczbą, piszesz na przykład:

Kod:

if(!isnan(zmienna)) cośtamcośtam;

I wszystkie NAN'y będą ignorowanie.
W Arduino chyba trzeba dołączyć bibliotekę math.h, nie wiem , nie sprawdzałem.

ale zebym
wiedzial dlaczego tak sie dzialo to co to to nie

Pewnie pierwiastek z liczby ujemnej. No ale PID na pierwiastkach?
Zapodaj trochę kodu, chyba że Twój projekt też jest komercyjny.