Das klingt nach einer direkten Meldung Deines Monitors. Der wird die Auflösung physikalisch nicht darstellen können und deshalb die Fehlermeldung auf dem Monitor. Schau mal nach, welche Auflösung Dein Monitor darstellen kann; und bis zu maximal dieser kannst Du dann eben Deine Grafikeinstellung hochdrehen. Eventuell wäre auch noch möglich, dass die Bildwiederholfrequenz zu hoch (bei dieser Auflösung) eingestellt ist und deshalb der Monitor schlapp macht.
Abhilfe: Entsprechend kleinere Bildschirmeinstellung oder neuen/anderen Monitor.
L.G. Randalf