Vom manuellen rumspielen, wenn irgendetwas nicht läuft, halte ich nicht viel.
Normales Vorgehen meinerseits: Alles auf Standardeinstellungen und dann muss die Kiste laufen. Sie wird nicht die besten Benchmarkergebnisse bringen, das ist klar, aber sie muss stabil laufen. Läuft sie es auf Standardeinstellungen nicht, dann ist was nicht in Ordnung.
Sprich: Ist der Speicher nicht übertaktet und Du hast Grafikfehler, dann ist was nicht in Ordnung. Ich gehe mal davon aus, dass Du Windows frisch installiert hast, nach dem Rechnerneukauf. Solltest Du versucht haben, ein System von vorher zu übernhemen, dann ist noch eine Windowsneuinstallation angesagt.
Meiner Meinung nach sollte auch das XMP-Profil einfach laufen, so wird es verkauft. Tut es das nicht - RMA. Saphire hat ja schon gesagt, dass die Karte reklamiert werden sollte - würde ich also tun. Manuelle Einstellungen würde ich erst dann testen, wenn im Standard das System stabil ist.