И так и так! В зависимости от того, как происходит заимствование с английского: если звучание оставлять английское, то получается пиксел - соответственно "пикселов", а если более мягкое русскому уху - пикселЬ - то соответственно пикселей! Выходит верно и так и так!
Умник, мля! В школе по русскому всегда твёрдые 3 с минусм были!